Deepfakes — video yang tampak realistis dan dirawat oleh AI yang menggambarkan peristiwa yang tidak pernah benar-benar terjadi — telah menjadi sumber keprihatinan selama beberapa tahun, dan seiring kemajuan teknologi, deteksi menjadi semakin sulit.
Untuk saat ini, gambar dan video yang diedit meninggalkan sidik jari digital yang dapat dideteksi dengan alat yang tepat. Para peneliti di University of California, Riverside, misalnya, mengembangkan algoritma AI yang dapat mengenali gambar dan video yang dimanipulasi dengan menemukan artefak mencolok yang ditinggalkan oleh alat pengeditan.
Algoritma pembelajaran yang dalam ini — dari Amit Roy-Chowdhury, profesor teknik elektro dan komputer, dan peneliti UCR — menemukan anomali yang disebabkan oleh menyisipkan, menghapus, atau memanipulasi objek dalam gambar. Idenya, Roy-Chowdhury menjelaskan, adalah untuk melokalkan manipulasi gambar. "Kami melatih jaringan saraf untuk mengidentifikasi daerah yang dimanipulasi dalam gambar masa depan," katanya.
Mengembangkan 'Jaringan Saraf Tirus yang Terlatih dengan Baik'
Neural networks adalah komponen dasar dari algoritma deep-learning. Tidak seperti perangkat lunak klasik, di mana pengembang secara manual memberikan instruksi komputer, jaringan saraf mengembangkan perilaku mereka dengan menganalisis dan membandingkan contoh.
Jaringan saraf sangat baik dalam menemukan pola dan mengklasifikasikan data yang berantakan dan tidak terstruktur seperti gambar dan video. Ketika Anda memberikan jaringan saraf dengan contoh-contoh yang cukup dari jenis gambar tertentu — suatu proses yang disebut "pelatihan" —itu akan dapat menemukan fitur serupa dalam gambar yang belum pernah dilihat sebelumnya.
"Ketika seseorang memanipulasi gambar, mereka mencoba melakukannya dengan cara yang tidak terdeteksi oleh mata manusia," kata Roy-Chowdhury. "Tapi biasanya sebagian dari ruang pixel dipengaruhi oleh manipulasi ini."
Peneliti UCR melatih jaringan saraf mereka pada gambar beranotasi yang dimanipulasi dengan alat yang berbeda dan membiarkannya menemukan pola piksel umum yang terlihat pada batas objek yang terkena. Setelah pelatihan, model AI dapat menyorot area dalam gambar yang berisi objek yang dimanipulasi.
Menangkap Deepfake
Pada tahap saat ini, model pembelajaran dalam bekerja pada gambar diam, tetapi teknik yang sama dapat diubah untuk menemukan deepfake dan teknik manipulasi video lainnya. Deepfake pada dasarnya adalah video di mana setiap frame diubah untuk mengganti satu wajah dengan yang lain.
"Idenya dapat digunakan untuk video juga. Di setiap frame ada daerah yang telah dimanipulasi, dan jaringan saraf yang terlatih dapat menyoroti area yang dirusak," kata Roy-Chowdhury.
Jaringan saraf UCR adalah salah satu dari beberapa upaya yang bertujuan untuk menangkap deepfake dan teknik merusak gambar dan video lainnya. Awal tahun ini, para peneliti di University of Surrey mengembangkan kombinasi blockchain dan jaringan saraf untuk mendaftarkan video otentik dan mengidentifikasi versi yang dirusak. Proyek lain oleh University of Albany menggunakan dua jaringan saraf untuk mendeteksi video yang disintesis dengan menemukan fenomena yang tidak alami seperti mata yang tidak berkedip.
Tetapi ketika metode pengenalan meningkat, begitu pula teknologi untuk membuat gambar dan video palsu yang realistis. "Ini permainan kucing-dan-tikus," kata Roy-Chowdhury. "Ini masalah yang tidak sepele. Apa pun yang kita lakukan, orang yang membuat manipulasi itu menghasilkan sesuatu yang lain. Aku tidak tahu apakah akan ada waktu di mana kita akan dapat mendeteksi setiap jenis manipulasi."
