Nghiên cứu được thực hiện Amazontiết lộ rằng thuật toán nhận diện khuôn mặt của Google chống lại sự thiên vị về giới tính và chủng tộc.
Phòng thí nghiệm Truyền thông MIT (Viện Công nghệ Massachusetts), AmazonỨng dụng nhận dạng khuôn mặt của Rekognition tiết lộ rằng Rekognition không gặp khó khăn gì trong việc xác định giới tính của người da màu sáng, nhưng lại xác định sai giới tính của 1/5 nam giới da màu và 1/3 phụ nữ da sẫm màu. Phần mềm của IBM và Microsoft là tỷ lệ người da đen. 1,5với một mức độ sai sót AmazonAnh gần như tát vào phần mềm của.
Amazontranh cãi về kết quả các bài kiểm tra của MIT trong suốt năm 2018. Ông cho biết nhóm thực hiện các bài kiểm tra đã không sử dụng phiên bản Rekognition mới nhất hiện tại và thử nghiệm bằng tính năng phân tích khuôn mặt thay vì nhận diện khuôn mặt. Nói rằng phân tích khuôn mặt đi kèm với các tính năng đơn giản và cơ bản hơn nhiều, nhận diện khuôn mặt đi kèm với các tính năng khá toàn diện. AmazonÔng nhấn mạnh đây là hai gói thầu riêng biệt.
Đây không phải là lần đầu tiên phần mềm như thế này bị dính lửa. Vào tháng 2 năm 2018, các nhà nghiên cứu của MIT và Stanford cho biết ba chương trình phân tích khuôn mặt khác nhau đã đưa ra kết quả phân biệt giới tính và phân biệt chủng tộc và họ đã sai. Kể từ đó, IBM đã có những phát triển mới nhằm tăng độ chính xác trong các công cụ phân tích khuôn mặt và Microsoft đã đưa ra một số quy định bắt buộc để duy trì các tiêu chuẩn cao.
Mặt khác, một số ủy viên hội đồng gặp khó khăn trong việc nhận biết những người có màu da khác nhau sau quyết định sử dụng Rekognition trong thực tiễn pháp lý vào tháng 11 năm ngoái. AmazonHọ đang chờ đợi một số câu trả lời. AmazonTrong khi, muốn sử dụng ứng dụng tại hải quan, một số cổ đông lại muốn đóng cửa hệ thống vì lo ngại có thể vi phạm quyền công dân của người dân.
Nguồn: https://www.engadget.com/2019/01/25/amazon-recognition-facial-analysis-gender-race-bias-mit/
