Channel9.id-Jakarta. Saat ini, Facebook bekerja sama dengan akademisi dari Michigan State University (MSU) untuk menciptakan metode yang bisa merekayasa balik deep fake. Mereka akan menganalisis citra yang dihasilkan oleh AI untuk mengidentifikasi model mesin yang membuat deep fake.
Alat itu bisa membantu Facebook melacak penjahat yang menyebarkan deep fake di platformnya, baik berupa misinformasi maupun pornografi nonkensensual—yang umum dipakai melalui teknologi deep fake. Saat ini, alat tersebut masih dalam tahap penelitian dan belum siap untuk digunakan.
Sebelumnya, sudah ada penelitian lain yang bisa mendeteksi model AI mana yang menghasilkan deep fake. Namun, penelitian baru yang dipimpin oleh Vishal Asnani dari MSU ini, melangkah lebih jauh karena bisa mengidentifikasi ciri-ciri model yang tak dikenali sebelumnya. Ciri-ciri ini, yang dikenal sebagai hyperparameter, harus disetel di setiap model machine learning sebagai bagian dalam mesin. Secara kolektif, ciri-ciri ini meninggalkan sidik jari unik pada gambar, yang kemudian bisa digunakan untuk mengidentifikasi sumbernya.
Pemimpin penelitian Facebook Tal Hassner mengatakan bahwa mengidentifikasi ciri-ciri model yang tak diketahui itu penting. Pasalnya, software deepfake sangat mudah untuk disesuaikan. Hal ini memungkinkan penjahat menutupi jejak mereka jika penyelidik mencoba melacak aktivitas mereka.
“Mari kita asumsikan penjahat menghasilkan banyak deep fake yang berbeda dan mengunggahnya di platform yang berbeda sebagai pengguna yang berbeda,” kata Hassner, dikutip dari The Verge pada Kamis (17/6).
“Jika ini adalah model AI baru yang belum pernah dilihat sebelumnya, maka sangat sedikit yang bisa kami ungkapkan tentang masa lalunya (produk deep fake). Sekarang, kita bisa mengatakan, ‘Lihat, gambar yang diunggah di sini, gambar yang diunggah di sana, semuanya berasal dari model yang sama.’ Dan jika kita bisa merebut laptop atau komputer (yang menghasilkan konten), kami akan bisa mengatakan bahwa ‘ini adalah pelakunya’,” jelas dia.
Hassner kemudian membandingkan pekerjaan tersebut dengan teknik forensik—yang mengidentifikasi model kamera mana yang dipakai untuk mengambil gambar, dengan mencari pola tertentu pada gambar yang dihasilkan. “Namun, tak semua orang bisa membuat kamera mereka sendiri. Sementara, siapa pun dengan banyak pengalaman dan komputer standar bisa membuat model mereka sendiri untuk menghasilkan deep fake,” katanya.
Algoritme yang dihasilkan tak hanya bisa mendeteksi ciri-ciri model pembuatnya, tetapi juga bisa mengidentifikasi model mana yang membuat gambar dan apakah gambar tersebut merupakan deep fake. “Pada tolok ukur standar, kami punya hasil yang canggih,” kata Hassner.
Namun, penting dicatat bahwa kecanggihan ini jauh dari bisa diandalkan. Saat Facebook mengadakan kompetisi deteksi deep fake pada tahun lalu, pemenang algoritme hanya mampu mendeteksi video yang dimanipulasi AI sebanyak 65,18%. Para peneliti yang terlibat mengatakan bahwa menemukan deep fake menggunakan algoritme masih menjadi “masalah yang belum terpecahkan.”
Sebagian alasannya adalah karena perkembangan AI sangat aktif. Teknik baru muncul setiap hari, dan hampir tak mungkin bagi filter apa pun untuk menyandinginya. Mereka yang terlibat di lapangan sangat menyadari dinamika ini.
Lebih lanjut, Hassner berharap teknologi yang baru diciptakan pihaknya dengan MSU bisa mendeteksi deep fake yang tak bisa dideteksi sebelumnya. “Saya berharap begitu. Ini adalah permainan kucing dan tikus, dan akan terus seperti itu,” ujar dia.
(LH)
