ImageNet Roulette Menunjukkan Bagaimana AI Stereotip Manusia

Walaupun saya telah menemukan banyak aplikasi AI dan yang berhubungan dengan AI yang membuat dampak positif di dunia nyata, saya khawatir ImageNet Roulette tentu saja tidak ada di antara mereka. Sebaliknya, itu memperlihatkan bagian gelap AI. Model tersebut saat ini sedang dipamerkan sebagai bagian dari pameran Training Humans oleh Trevor Paglen dan Kate Crawford di Fondazione Prada Museum di Milan.

“ImageNet Roulette adalah provokasi yang dirancang untuk membantu kita melihat cara manusia diklasifikasikan dalam sistem pembelajaran mesin. Ini menggunakan jaringan saraf yang dilatih pada kategori "Orang" dari dataset ImageNet yang memiliki lebih dari 2.500 label yang digunakan untuk mengklasifikasikan gambar orang. ", menggambarkan pencipta.

Sistem ini menggunakan kerangka kerja pembelajaran dalam Caffe open-source yang dilatih pada gambar dan label yang termasuk dalam kategori "orang". ImageNet Roulette pertama kali mendeteksi wajah dalam input gambar. Jika ditemukan, gambar akan dikirim ke model Caffe untuk klasifikasi. Jika tidak, gambar asli akan dikembalikan bersama dengan label di sudut kiri atas.

Kategori diambil dari WordNet dan mengandung banyak kategori ofensif yang mungkin rasis dan bahkan kadang-kadang misoginis. “Kami ingin menjelaskan apa yang terjadi ketika sistem teknis dilatih tentang data pelatihan yang bermasalah. Klasifikasi AI orang jarang dibuat terlihat oleh orang yang diklasifikasikan. ImageNet Roulette memberikan gambaran sekilas ke dalam proses itu – dan untuk menunjukkan cara-cara kesalahan bisa terjadi. ", kata pencipta.

Seperti yang Anda lihat di bawah, jaringan saraf menggambarkan contoh gambar Leonardo DiCaprio sebagai "munafik", "dissembler", "dissimulator", dan beberapa kata yang lebih ofensif. Namun, bagian terburuknya adalah deskripsi yang diberikannya:seseorang yang menganut keyakinan dan pendapat yang tidak ia pegang untuk menyembunyikan perasaan atau motifnya yang sebenarnya ”.

ImageNet Roulette Menunjukkan Bagaimana AI Stereotip Manusia 1

Faktanya, ImageNet Roulette memberikan contoh ideal tentang apa yang seharusnya tidak menjadi model AI dan seberapa buruknya jika data yang salah digunakan untuk pelatihan model berbasis AI. Jadi, apa pendapat Anda tentang ImageNet Roulette? Beri tahu kami di komentar.

Pos terkait

Back to top button