AI harus belajar tentang nilai-nilai sosial sehingga kita tidak memiliki masalah

Menurut sepasang peneliti, para profesional yang bekerja dalam penciptaan dan pengembangan AI perlu "mengajar" nilai-nilai sosial dan manusia mesin mereka jika kita tidak ingin memiliki masalah di masa depan. Menurut para ilmuwan – Mona Sloane dan Emanuel Moss dari New York University dan New York City University, masing-masing – sudah ada bukti bahwa AI dapat melanggengkan diskriminasi, mengintensifkan ketidaksetaraan dan bahkan menyebabkan kerugian dalam hal ini. Oleh karena itu, pengembang harus berhati-hati agar ciptaan mereka, alih-alih merugikan, melayani masyarakat sebaik mungkin.

Teknologi sosial

Para peneliti berpendapat bahwa kita sedang menghadapi kemunculan sistem “teknososial” yang kompleks, dan agar menjadi lebih adil, lebih demokratis dan seimbang, para insinyur dan pemrogram perlu memasukkan berbagai konsep sosial terluas dalam AI mereka untuk mengurangi risiko bahwa mereka akan merugikan masyarakat kita.

Pasangan tersebut menyebutkan penelitian yang menunjukkan bahwa mesin pencari dapat mendiskriminasi perempuan kulit hitam dan, seperti yang Anda ketahui, ada banyak kekhawatiran tentang bagaimana mobil otonom akan mengambil keputusan dalam menghadapi situasi tabrakan – di mana mereka harus memilih antara menabrak manusia atau menabrak mobil. di tiang, misalnya. Untuk menghindari dilema semacam itu dan untuk mencapai pengembangan teknologi yang bermanfaat bagi umat manusia secara keseluruhan, mesin harus diajarkan bagaimana menjadi lebih cerdas secara sosial.

Para peneliti tahu bahwa sudah ada profesional yang peduli dengan mengintegrasikan ide-ide sosial ke dalam mesin mereka sehingga mereka bertindak lebih sesuai dengan nilai-nilai manusia, meskipun sangat sulit untuk mendefinisikan dan menyandikan informasi ini pada mesin – belum lagi bahwa insinyur dan programmer biasanya tidak. dilatih untuk memahami bagaimana berbagai kategori ras dan sosial dalam pembelajaran mesin dapat memengaruhi organisasi dan masyarakat itu sendiri.

Dengan demikian, pasangan ini menyarankan bahwa metode penelitian sosial kualitatif harus diadopsi dalam penciptaan dan pengembangan AI, karena teknik ini biasanya mengharuskan praktisi untuk merefleksikan bagaimana intervensi mereka berdampak pada alam semesta di mana pengamatan dilakukan. Selain itu, penelitian kualitatif dapat membantu programmer dan insinyur mendapatkan pemahaman yang lebih baik tentang latar belakang sosiokultural dan historis di balik berbagai kategori yang membentuk masyarakat kita dan bagaimana AI harus sesuai dengan konteks ini.