Mereka menipu autopilot Tesla dan hanya membutuhkan selotip
Baru-baru ini kami menunjukkan kepada Anda di video apa yang dilihat oleh autopilot dari Tesla, karena dalam sistem cerdas yang diatur dengan algoritma untuk menghitung ruang, jarak objek dan batas kecepatan, dan oleh karena itu pada layar selalu ada operasi dan data .
Ia tidak memiliki kapasitas abstraksi otak manusia, yang berdasarkan logika mengisi kekosongan informasi yang tidak jelas.
Jadi, kecerdasan buatan tidak menganggap logika manusia dan cukup untuk membuat "retasan" tertentu untuk mengelak, misalnya, autopilot.
Atau setidaknya itulah yang ditemukan oleh beberapa peneliti McAfee, yang mengambil tugas mendapatkan autopilot dari dua kendaraan Tesla untuk melebihi batas kecepatan yang ditetapkan oleh rambu-rambu lalu lintas, kata Unocero.
Menurut sebuah posting blog, tujuan dari tes ini adalah untuk menunjukkan bahwa sistem kamera MobilEye, yang diimplementasikan oleh model Tesla dalam Hardware Pack 1 mereka, rentan (sebagai konteks, MobilEye digunakan oleh beberapa kendaraan untuk menentukan berbagai aspek, seperti batas kecepatan, ketika mengemudi mandiri aktif).
Setelah beberapa tes dengan reklamasi rambu lalu lintas, tim menemukan bahwa hanya selotip yang diperlukan untuk mengelabui Tesla yang telah mengaktifkan kontrol pelayaran yang sadar lalu lintas.
Pada pensinyalan yang menandai batas kecepatan 35, pita itu ditambahkan tepat di bagian tengah angka 3. Mata manusia tidak akan kesulitan mengidentifikasi bahwa itu adalah 3, tetapi kecerdasan buatan berasumsi bahwa itu adalah dari 8.
Pada akhir tes, Tesla pada autopilot melewati pensinyalan yang diubah, mendeteksi batas kecepatan 85 dan melanjutkan jalannya secara bertahap meningkatkan kecepatannya. Tonton videonya:
