Trí tuệ nhân tạo đã đạt được nhiều bước đột phá trong thập kỷ qua, bao gồm đánh bại những người chơi vô địch tại Jeopardy!, học cách nhận biết mèo, nhìn tốt hơn con ngườiVà lái xe ô tô tự động.
MỘT nghiên cứu mới (PDF) bởi các nhà nghiên cứu từ Data61 của Tổ chức Nghiên cứu Khoa học và Công nghiệp Khối thịnh vượng chung (CSIRO), cùng với Đại học Quốc gia Úc và các nhà nghiên cứu từ Đức, đã xác định rằng AI có thể ảnh hưởng đến việc ra quyết định của con người.
Nghiên cứu liên quan đến việc con người chơi ba trò chơi với máy tính.
Trong hai thử nghiệm đầu tiên, mọi người được yêu cầu nhấp vào các ô màu đỏ hoặc xanh có chứa tiền giả làm giải thưởng. Trong phần thứ ba, những người tham gia được giao vai trò nhà đầu tư và được yêu cầu đưa ra quyết định đầu tư, với AI đóng vai trò là người được ủy thác.
Khi các thí nghiệm tiếp tục, AI đã học được mô hình của từng người tham gia và sau đó được lập trình để tác động đến quyết định của họ và hướng dẫn các lựa chọn của họ nhằm giúp họ kiếm được nhiều tiền hơn.
Trí tuệ nhân tạo, ra quyết định và thiện và ác
Tất nhiên, điều này đặt ra những câu hỏi thông thường về đạo đức AI và cách chúng ta tiếp tục tận dụng công nghệ mãi mãi. Nghiên cứu này cho thấy AI có thể ảnh hưởng đến việc ra quyết định của con người như thế nào và khai thác những điểm yếu trong thói quen và kiểu mẫu của một cá nhân.
“Thế giới đã tạo ra một lượng dữ liệu khổng lồ trong những tháng qua,” Elena Poughia, Giám đốc điều hành và người sáng lập tại Dataconomy, cho biết tại Data Natives Unlimited vào năm 2020. “Trách nhiệm của chúng tôi là xử lý dữ liệu này một cách cẩn thận – vừa riêng tư vừa minh bạch, chia sẻ dữ liệu của chúng tôi trong khi bảo vệ dữ liệu đó và luôn ghi nhớ rằng tác động là nguồn tiền mới.”
Và cuối cùng, đây là yếu tố quyết định liệu sự thay đổi hành vi và AI ra quyết định sẽ được coi là tốt hay xấu. Sẽ không phải AI vốn mang tính tích cực hay tiêu cực, mà là những người chịu trách nhiệm tạo ra các thuật toán và thành kiến của dữ liệu.
Đạo đức AI là chìa khóa
Với suy nghĩ này, Data61 đã thành lập một viện đạo đức AI vào năm 2018. Viện gradient là một tổ chức phi lợi nhuận độc lập chịu trách nhiệm nghiên cứu đạo đức của AI, cũng như phát triển các hệ thống dựa trên AI có đạo đức, chủ yếu tập trung vào việc tạo ra một “thế giới nơi tất cả các hệ thống hành xử có đạo đức.”
Nó khám phá đạo đức của AI thông qua thực hành, vận động chính sách, nhận thức cộng đồng và đào tạo, đặc biệt là liên quan đến việc phát triển và sử dụng AI có đạo đức và sử dụng các kết quả nghiên cứu (chẳng hạn như nghiên cứu mới nhất này) để tạo ra các công cụ AI có đạo đức nguồn mở có thể được áp dụng. được doanh nghiệp và chính phủ áp dụng và điều chỉnh.
Chứng minh rằng AI có thể ảnh hưởng đến việc ra quyết định của con người là một cột mốc quan trọng khác của trí tuệ nhân tạo. Việc chúng ta áp dụng điều đó ở đâu là tùy thuộc vào chúng ta, vì những tác động của việc ảnh hưởng đến hành vi vì những lý do sai trái là rõ ràng và hiển nhiên.
