Chuyên gia công nghệ nổi tiếng viết thư khẩn phản đối phát triển AI

Sự phát triển của AI phải được dừng lại. Đó là ý kiến ​​​​của nhiều giáo sư, chuyên gia và người nổi tiếng. Nhà văn Yuval Noah Harari, Giám đốc điều hành CNTT Steve Wozniak và tỷ phú Elon Musk, cùng những người khác, đã ký một thỏa thuận lá thư lửa đã được 1377 người ký.

Thư lửa cho trí tuệ nhân tạo

Ít nhất, không chắc chắn 100% rằng tất cả những người tham gia ký kết đều thực sự như vậy. Tương tự như vậy, John Wick hẳn đã ký vào bức thư (từ loạt phim nổi tiếng). Liệu Elon Musk có thực sự ký hợp đồng hay không thì chỉ có bản thân ông mới có thể nói được. Dù sao thì điều đó cũng không làm lá thư lửa bớt gây tranh cãi hơn chút nào. Ví dụ, người ta cho rằng bức thư chỉ tạo ra nhiều sự cường điệu hơn về AI, điều mà nhiều công ty nơi các chuyên gia này làm việc được hưởng lợi. Đồng thời, cũng có người cho rằng bức thư chưa đi đủ xa.

Bức thư thực sự nói rằng cách tổ chức xã hội của chúng ta không hoàn toàn phù hợp với tốc độ phát triển trí tuệ nhân tạo. Xét cho cùng, AI có thể gây ra những hậu quả lớn đối với cách chúng ta tổ chức xã hội và các chính phủ, cùng nhiều chính phủ khác, do đó trước tiên nên đưa ra chính sách về AI trước khi nó được phát triển hơn nữa. Các tác giả ở đây đề cập đến một bài luận trước đó, cùng với những điều khác, 2017trong đó có các quy tắc mà trí tuệ nhân tạo phải tuân thủ.

Thoát khỏi AI

Ví dụ, cần tạm dừng phát triển trí tuệ nhân tạo. Một cái nhìn thú vị, bởi vì điều đó có ý nghĩa gì đối với tất cả những người tập trung vào AI hàng ngày? Có phải tất cả họ đã mất việc trong sáu tháng? Mặt khác, đó chỉ là giọt nước trong đại dương nếu chúng ta làm theo bức thư này. Điều này thực sự đặt ra câu hỏi liệu chúng ta có gặp nguy cơ mất xã hội do AI hay không. Hơn nữa, bức thư này có mục đích chính xác là chống lại quá trình tự động hóa công việc. Mọi người cần thời gian để học hỏi và có thể đưa ra những lựa chọn nghề nghiệp khác nhau.

Theo bức thư, bây giờ không phải là trường hợp cần phải dừng hoàn toàn việc phát triển AI. Chủ yếu là nên có sáu tháng nghỉ để đào tạo các hệ thống AI, đặc biệt nếu chúng mạnh hơn GPT-4, ngôn ngữ mà ChatGPT sử dụng. Họ chủ yếu muốn các nhà phát triển (và do đó là những người hiểu AI) cùng nhau đưa ra các quy tắc, thay vì chính phủ can thiệp. Nếu tất cả những điều này không thành công thì chính phủ phải đưa ra chính sách đó.

Viện Tương lai của Cuộc sống

Trong trường hợp bạn đang thắc mắc người gửi đó là ai thì Viện Tương lai Cuộc sống: đây là một tổ chức phi lợi nhuận nghiên cứu và cố gắng hạn chế rủi ro của công nghệ ‘lớn’ đối với sự an toàn của con người. Nhóm này tin rằng AI nên được lên kế hoạch và phân tích dựa trên tác động của nó đối với xã hội. Trong số những điều khác, bức thư có đoạn: “Thật không may, mức độ lập kế hoạch và kiểm soát này không xảy ra, ngay cả khi các phòng thí nghiệm AI đã bị cuốn vào một cuộc chạy đua điên cuồng trong những tháng gần đây để phát triển và triển khai những bộ óc kỹ thuật số ngày càng mạnh mẽ mà không ai – kể cả người tạo ra chúng – có thể hiểu, dự đoán hoặc kiểm soát một cách đáng tin cậy.”

Về cơ bản, bức thư có nội dung: ‘Chúng ta có thể đã tạo ra một con quái vật’ và việc đó phải dừng lại ngay bây giờ để đảm bảo rằng chúng ta kiểm soát được nó. Tuy nhiên, cuối cùng thì những sáng kiến ​​như vậy sẽ phải đến từ các chính phủ. Dựa trên bức thư này, các công ty AI có thể sẽ không nghĩ rằng: “chúng tôi sẽ tạm nghỉ nửa năm”, bởi vì cuộc đua tranh giành điều đó vốn đã quá căng thẳng và thời gian là tiền bạc.