Mantan insinyur Google mengungkapkan kebenaran mengerikan tentang robot

Departemen Pertahanan Amerika Serikat telah bekerja sama dengan Google, berdampingan, dalam pengembangan drone dengan penggunaan militer dalam sebuah rencana yang disebut ‘Proyek Maven‘ Proyek ini memfokuskan upayanya pada pengembangan dan penguatan Inteligensi Buatan drone, sehingga mereka dapat mengidentifikasi antara objek dan orang-orang di kamp musuh. Masalah etika segera memercikkan karyawan Google yang dengan marah menandatangani petisi yang menyerukan keluarnya G besar dari proyek Maven yang terkenal itu. Perusahaan mengakhiri kontrak dengan Departemen Pertahanan Maret lalu setelah pengunduran diri selusin karyawannya.

Senjata otonom dengan kekuatan pengambilan keputusan, pemberontakan mesin?

Laura Nolan adalah nama salah satu karyawan yang meninggalkan proyek sesudahnya mempertanyakan nilai etika itu. Peran utamanya dalam proyek Maven adalah 'trust engineer'. Menurut pernyataan Maven sendiri:

"Meskipun saya tidak terlibat langsung dalam percepatan pengenalan gambar video, saya menyadari bahwa itu masih bagian dari rantai pembunuhan; bahwa ini pada akhirnya akan menyebabkan lebih banyak orang diserang dan dibunuh oleh tentara AS di tempat-tempat seperti Afghanistan".

Menurut pengalaman Laura Nolan di Poven Maven, langkah alami selanjutnya dari Departemen Pertahanan adalah menciptakan senjata sepenuhnya otonom dibimbing oleh Kecerdasan Buatan. Nolan sendiri takut bahwa "apa yang dilihat adalah kemungkinan kekejaman dan pembunuhan ilegal bahkan di bawah hukum perang, terutama jika ratusan atau ribuan mesin ini dikerahkan".

Bahaya membangun senjata otonom yang bergantung pada teknologi Kecerdasan Buatan terbukti. Banyak faktor yang dapat mempengaruhi sistem dan menyebabkan senjata ini terwujud perilaku yang tidak terdugaseperti gangguan sinyal radar yang tidak terduga, cuaca buruk atau senjata yang dibawa oleh orang-orang dengan maksud selain dari serangan perang untuk mencapai stabilitas. Insinyur memperingatkan bahwa "mesin tidak memiliki pemahaman atau akal sehat yang dimiliki oleh sentuhan manusia".

Sudah ada negara dengan senjata pintar

Alasan lain mengapa kita harus takut pada Proyek Maven adalah karena senjata-senjata ini mereka akan diuji di medan perang sendiri. Selain itu, Nolan tidak dapat menjamin bahwa senjata otonom dengan Kecerdasan Buatan tidak lagi diuji dalam perang apa pun:

"Faktor menyeramkan lainnya dalam sistem perang otonom ini adalah bahwa mereka hanya dapat diuji dengan mengerahkannya di zona tempur nyata. Mungkin itu terjadi dengan Rusia di Suriah, sekarang … siapa yang tahu? Apa yang kita ketahui adalah bahwa di PBB Rusia telah menentang perjanjian apa pun dan apalagi larangan senjata-senjata ini"

Tidak ada negara yang menyatakan, saat ini, bahwa mereka sedang mengerjakan senjata dengan Inteligensi Buatan saat ini. Yang jelas adalah bahwa banyak negara maju yang berteknologi sedang membangun pasukan untuk diintegrasikan ke dalam senjata mereka yang memiliki teknologi terbaru. Sebagai contoh, Angkatan Laut AS memiliki kapal perang dengan autopilot yang dapat memakan waktu berbulan-bulan di bawah laut tanpa awak dan Israel membanggakan memiliki drone yang mampu mengidentifikasi tujuan secara mandiri meskipun mereka masih membutuhkan mata manusia untuk menyetujui serangan itu.

Berita lain tentang … Google