Kemajuan baru-baru ini dalam AI bukan sahaja membawa chatbots yang lebih canggih dan lebih pintar tetapi juga membawa cabaran yang ketara, terutamanya dengan kemunculan deepfakes. Walaupun kebanyakan pemaparan AI tersebut dijana selepas, yang baharu menjadikannya lebih baik dengan pertukaran muka AI masa nyata yang boleh digunakan semasa panggilan video.
Projek AI baharu yang dipanggil Deep-Live-Cam baru-baru ini mendapat tarikan dalam talian untuk sebahagian daripada cirinya untuk menggunakan deepfakes pada kamera web. Pada masa yang sama, ini telah mencetuskan perbincangan tentang kemungkinan bahaya keselamatan dan implikasi etika yang ditimbulkannya.
Betapa Deep-Live-Cam berbeza daripada program deepfake yang lain
Pada asasnya, Deep-Live-Cam menggunakan algoritma AI lanjutan yang boleh mengambil satu foto sumber dan menggunakan wajah pada sasaran semasa panggilan video langsung, seperti pada kamera web. Walaupun projek itu masih dalam pembangunan, ujian awal sudah menunjukkan hasil yang membimbangkan dan mengagumkan.
Seperti yang diterangkan lebih lanjut pada Ars Technica, aplikasi membaca dan mengesan muka terlebih dahulu daripada sumber dan subjek sasaran. Ia kemudian menggunakan model inswapper untuk menukar wajah dalam masa nyata manakala model lain meningkatkan kualiti wajah dan menambah kesan yang menyesuaikan diri dengan perubahan keadaan pencahayaan dan ekspresi muka. Proses yang canggih ini memastikan bahawa produk akhir adalah sangat realistik dan tidak mudah dikenali sebagai palsu.
Contoh gabungan muka menggunakan Elon Musk sebagai sumber / © GitHub / Ars Technica
Sebagai contoh, salah satu klip yang dikongsi oleh pembangun menunjukkan gabungan realistik wajah CEO Tesla, Elon Musk pada subjek. Deepfake juga termasuk lapisan cermin mata preskripsi dan rambut subjek, menjadikannya sangat meyakinkan. Contoh lain yang ditunjukkan ialah wajah calon naib presiden AS JD Vance dan Mark Zuckerberg dari Meta.
Gabungan wajah calon Naib presiden AS JD Vance menggunakan Deep-Live-Cam / © X/u/Orange AI
Sekiranya anda bimbang tentang peningkatan aplikasi simulasi AI?
Jadi, mengapa ini khusus mengenainya? Penggunaan Deel-Live-Cam dan aplikasi deepfake masa nyata yang lain menimbulkan kebimbangan serius tentang privasi dan keselamatan. Bayangkan gambar anda boleh diambil dari internet dan digunakan untuk penipuan, penipuan dan aktiviti berniat jahat lain tanpa kebenaran anda.
Pada masa ini, dilihat bahawa kelemahan itu boleh diatasi dengan beberapa cara seperti memasukkan tera air apabila menggunakan aplikasi dan kaedah pengesanan yang mantap. Penyelesaian itu juga boleh digunakan pada program dan aplikasi deepfake yang lain.
Minat terhadap alat itu dengan pantas membawanya ke senarai projek sohor kini di GitHub.
Apakah pendapat anda tentang apl simulasi AI masa nyata? Adakah anda mempunyai amalan untuk dikongsi tentang cara melindungi diri anda daripada potensi risiko ini? Kami ingin mendengar jawapan anda dalam ulasan.
Melalui: Arstechnica