Twitterđã bắt đầu một cuộc thi để phát hiện các sai lệch thuật toán trong hệ thống cắt ảnh. Công ty đã công bố kết quả của cuộc thi.
Twitter Vào tháng 3, nó đã vô hiệu hóa tính năng cắt ảnh tự động sau khi người dùng gợi ý rằng ứng dụng này thích khuôn mặt trắng hơn khuôn mặt đen do nghiên cứu được thực hiện bởi người dùng vào năm ngoái. Sau đó, anh ấy đã đưa ra một chương trình thưởng lỗi thuật toán để kiểm tra vấn đề chặt chẽ hơn.
ƯA những người có làn da sáng
Theo tin tức trên Shift Delete, những phát hiện thu được trong cuộc thi đã xác nhận những tuyên bố này. Đối thủ chiến thắng nhận thấy rằng thuật toán ưu tiên khuôn mặt của những người gầy, trẻ, da trắng hoặc da ấm. Các thí sinh ở vị trí thứ hai và thứ ba cho biết hệ thống này có thành kiến với những người có mái tóc trắng hoặc xám, sự phân biệt tuổi tác đã được phát hiện và tiếng Anh được ưu tiên thay vì văn bản tiếng Ả Rập trong ảnh.
Trong buổi trình bày kết quả được công bố tại hội nghị DEF CON 29 TwitterRumman Chowdhury, giám đốc nhóm META, khen ngợi những người tham gia đã xác định và khám phá những tác động thực tế của sai lệch thuật toán.
Chowdhury nói: “Khi chúng tôi nghĩ về sự thiên vị trong các mô hình của mình, tôi chỉ sử dụng cụm từ học thuật hoặc thực nghiệm. “Chúng tôi tạo ra bộ lọc này vì chúng tôi cho rằng đó là điều đẹp đẽ và điều đó dẫn đến việc đào tạo người mẫu của chúng tôi cũng như thúc đẩy những ý tưởng phi thực tế về ý nghĩa của sự hấp dẫn.”
“TẤT CẢ CÁC HỆ THỐNG CÓ ĐỊNH VỊ NÀY”
TwitterKết quả cạnh tranh cho thấy các thành kiến xã hội hoạt động như thế nào trong các hệ thống thuật toán. Nó cũng cho thấy các công ty công nghệ có thể giải quyết những vấn đề này như thế nào.
Patrick Hall, người từng là giám khảo trong cuộc thi của công ty, nhấn mạnh rằng những thành kiến như vậy tồn tại trong tất cả các hệ thống và các công ty nên chủ động tìm ra chúng.
