Một nhóm các nhà nghiên cứu quốc tế đến từ Canada, Hoa Kỳ, Úc và Đài Loan đã công bố một nghiên cứu mới học trong đó chứng minh rằng AI có thể phân biệt chủng tộc của con người thông qua chụp X-quang và chụp CT với độ chính xác 90%. Đây là một thành công to lớn vì ngay cả các chuyên gia cũng không thể biết được chủng tộc của một người bằng cách nhìn vào ảnh chụp X-quang và CT. Các nhà khoa học không biết làm thế nào chương trình có thể cung cấp kết quả chính xác như vậy.
Các nhà nghiên cứu bị sốc với kết quả
“Khi các sinh viên tốt nghiệp của tôi cho tôi xem một số kết quả trong bài báo này, tôi thực sự nghĩ rằng đó hẳn là một sai sót. Thành thật mà nói, tôi nghĩ sinh viên của mình bị điên”, đồng tác giả của nghiên cứu, Marzyeh Ghassemi, trợ lý giáo sư về kỹ thuật điện và khoa học máy tính của MIT, cho biết. Quả cầu Boston báo cáo.
Sau khi nhận thấy phần mềm AI chụp X-quang ngực có xu hướng bỏ sót những điểm bất thường ở người Da đen, các nhà nghiên cứu bắt đầu điều tra. Công nghệ trí tuệ nhân tạo cũng đã bắt đầu được sử dụng trong y học. Ví dụ, các nha sĩ cũng đang sử dụng các hệ thống như vậy trong quá trình chẩn đoán. Hãy xem bài viết của chúng tôi, “Trám răng hoặc điều trị tủy răng: Hỏi Overjet AI” để khám phá thêm.
“Chúng tôi tự hỏi, làm sao điều đó có thể xảy ra nếu máy tính không thể biết được chủng tộc của một người?” đồng tác giả của nghiên cứu và phó giáo sư tại Trường Y Harvard, Leo Anthony Celi cho biết.
Làm thế nào AI có thể phân biệt chủng tộc của con người qua tia X?
Các nhà nghiên cứu đã huấn luyện hệ thống AI với nhiều hình ảnh được gắn nhãn chủng tộc của các bộ phận khác nhau trên cơ thể, bao gồm ngực, bàn tay và cột sống – không có dấu hiệu nhận dạng chủng tộc rõ ràng như màu da hoặc loại tóc – trước khi cung cấp cho nó những bộ ảnh chưa được phân loại. Với độ chính xác hơn 90%, AI có thể phân biệt chủng tộc của con người thông qua tia X bằng những bức ảnh không xác định.
Bước đột phá này có thể hỗ trợ nhân viên y tế theo những cách nhất định. Tuy nhiên, nó cũng làm tăng nguy cơ các hệ thống chẩn đoán dựa trên AI có thể vô tình tạo ra những phát hiện thiên vị về chủng tộc, chẳng hạn như tự động đề xuất một liệu pháp cụ thể cho bệnh nhân Da đen, bất kể liệu nó có phù hợp với họ hay không. Hơn nữa, bác sĩ của cá nhân đó sẽ không biết rằng AI dựa trên chẩn đoán dựa trên dữ liệu chủng tộc.
Theo Ghassemi, câu trả lời cho câu đố này nằm ở melanin, nơi máy chụp X-quang và CT xác định lượng melanin cao hơn ở vùng da sẫm màu hơn và lưu trữ thông tin này trong hình ảnh kỹ thuật số theo một cách nào đó mà không được chú ý. Nhiều nghiên cứu sẽ được thực hiện về vấn đề này; giả thuyết thuyết phục được không phải tất cả mọi người. Có lẽ tia X và chụp CT sẽ phát hiện lượng melanin cao hơn ở vùng da sẫm màu hơn và lưu dữ liệu này dưới một số dạng mà người dùng chưa từng thấy trước đây. Cuối cùng, họ cho rằng melanin là chìa khóa để khám phá cách AI có thể phân biệt chủng tộc của con người từ tia X. Chắc chắn sẽ phải nghiên cứu nhiều hơn nữa để tìm ra điều đó.
Thay vì thể hiện sự khác biệt tự nhiên giữa các sắc tộc, Alan Goodman, giáo sư nhân chủng học sinh học tại Đại học Hampshire và đồng tác giả của cuốn sách Phân biệt chủng tộc không phải chủng tộcgợi ý AI phát hiện sự khác biệt do địa lý gây ra.
“Thay vì sử dụng chủng tộc, nếu họ nhìn vào tọa độ địa lý của ai đó, liệu máy có làm được điều đó không? Cảm giác của tôi là chiếc máy cũng có thể làm được điều tương tự,” Goodman giải thích.
Không có sự khác biệt đáng kể về chủng tộc trong bộ gen của con người được phát hiện, nhưng có những khác biệt đáng kể giữa con người dựa trên nguồn gốc tổ tiên của họ.
Trong mọi trường hợp, Celi khuyên không nên sử dụng các công nghệ chẩn đoán AI có thể tự động tạo ra kết quả định kiến.
“Chúng ta cần phải tạm dừng. Chúng tôi không thể vội vàng đưa các thuật toán đến bệnh viện và phòng khám cho đến khi chúng tôi chắc chắn rằng họ không đưa ra quyết định phân biệt chủng tộc hoặc phân biệt giới tính”, Celi nói thêm. Các nhà nghiên cứu bắt đầu ngày càng tập trung vào trí tuệ nhân tạo, ví dụ như HyperTaste, lưỡi điện tử dựa trên AI phân tích thành phần hóa học của chất lỏng.
