Pencuri menggunakan teknologi suara Deepfake untuk lolos dari perampokan bank senilai $35 juta

Pencuri menggunakan teknologi audio deepfake untuk menyalin suara seorang pengusaha dan menuntut transfer $35 juta ke rekening luar negeri, menurut dokumen pengadilan yang diperoleh oleh Forbes. Ini adalah pencurian “woofer” paling sukses hingga saat ini, meskipun mungkin hanya sebagian kecil dari tren yang berkembang.

Teknologi deepfake cukup terkenal saat ini. Pada dasarnya, orang melatih AI untuk membuat ulang wajah seseorang, biasanya wajah aktor atau individu terkenal lainnya. AI kemudian dapat menganimasikan dan menempelkan wajah ini ke dalam video referensi, sehingga memasukkan subjek kloning ke dalam sebuah adegan.

Tetapi Anda tidak bisa begitu saja memasukkan seseorang ke dalam video tanpa membuat ulang suaranya. Dan di situlah keterampilan terdengar berperan — Anda melatih AI untuk mereproduksi suara seseorang, lalu memberi tahu AI apa yang harus dikatakan dengan suara orang itu.

Begitu teknologi deepfake mencapai tingkat realisme tertentu, para ahli percaya itu akan memacu era baru misinformasi, pelecehan, dan reboot film gila. Tapi sepertinya teknologi “suara dalam” telah mencapai waktu yang besar.

Kembali pada tahun 2020, seorang bankir di UEA menerima panggilan telepon dari direktur sebuah perusahaan besar. Menurut direktur, akuisisi besar sedang dilakukan, jadi dia membutuhkan bank untuk mengizinkan transfer $35 juta ke beberapa rekening di AS. Direktur menunjuk ke email dari seorang pengacara yang mengkonfirmasi transfer, dan karena semuanya tampak sah, bankir menyetujui.

Tapi “direktur” perusahaan ini sebenarnya adalah algoritma “suara dalam” yang dilatih untuk terdengar seperti korbannya. UEA saat ini sedang mencari bantuan AS dalam memulihkan dana yang hilang, yang diselundupkan ke rekening secara global oleh sekelompok 17 pencuri.

Ini bukan pencurian suara pertama yang mendalam, tapi sekali lagi, ini yang paling sukses hingga saat ini. Operasi serupa akan terjadi di masa depan, mungkin dalam skala yang jauh lebih besar. Jadi apa yang dapat dilakukan bisnis dan pemerintah untuk mengurangi ancaman tersebut? Yah, sulit untuk mengatakannya.

Karena deepfake terus meningkat, pada akhirnya mereka akan menjadi terlalu meyakinkan bagi manusia untuk mengidentifikasi dengan benar. Tetapi AI yang terlatih dapat menemukan kesalahan yang dalam, karena wajah dan suara yang dikloning sering kali mengandung kesalahan dan kesalahan kecil, seperti suara digital atau suara kecil yang tidak dapat diciptakan oleh manusia.

Sumber: Forbes