Vào thứ ba, Viện Tương lai của Cuộc sống đã công bố một bức thư ngỏ xung quanh có chữ ký 1,000 chuyên gia AI và giám đốc điều hành công nghệ, bao gồm Elon Musk và Steve Wozniak, kêu gọi các phòng thí nghiệm AI tạm dừng phát triển các hệ thống AI tiên tiến vượt qua GPT-4. Bức thư trích dẫn “những rủi ro sâu sắc” đối với xã hội loài người là lý do đưa ra lời kêu gọi hành động và kêu gọi tạm dừng việc đào tạo các hệ thống như vậy trong ít nhất sáu tháng, hệ thống này phải công khai, có thể kiểm chứng và bao gồm tất cả các tác nhân công.
Nhóm lập luận rằng các hệ thống AI có trí thông minh cạnh tranh với con người gây ra rủi ro đáng kể cho xã hội và nhân loại, như đã được chứng minh bằng nghiên cứu sâu rộng và được các phòng thí nghiệm AI hàng đầu thừa nhận. Họ tin rằng các hệ thống AI tiên tiến có thể thể hiện sự thay đổi sâu sắc trong lịch sử sự sống trên Trái đất và cần được lên kế hoạch và quản lý với sự quan tâm và nguồn lực tương xứng. Tuy nhiên, họ lập luận rằng mức độ lập kế hoạch và quản lý này sẽ không xảy ra vì các phòng thí nghiệm AI đang tham gia vào một cuộc đua phát triển và triển khai những bộ óc kỹ thuật số mạnh mẽ hơn bao giờ hết mà không ai, kể cả người tạo ra chúng, có thể hiểu, dự đoán hoặc kiểm soát một cách đáng tin cậy.
Sự phát triển AI nâng cao có nằm ngoài tầm kiểm soát?
Bức thư được đưa ra sau khi phát hành công khai GPT- của OpenAI4, mô hình ngôn ngữ hỗ trợ phiên bản cao cấp của chatbot phổ biến ChatGPT. GPT mới-4 có thể xử lý các tác vụ phức tạp hơn và tạo ra nhiều kết quả sắc thái hơn các phiên bản trước và ít mắc phải sai sót của các phiên bản trước. Các công ty từ Google và Microsoft đến Adobe, Snapchat và Grammarly đều đã công bố các dịch vụ tận dụng các kỹ năng AI tổng quát này.
Tuy nhiên, nhóm đứng sau bức thư ngỏ lập luận rằng các công ty đang tung ra thị trường các sản phẩm mà không có biện pháp bảo vệ đầy đủ hoặc thậm chí không hiểu rõ những tác động của nó. Họ tin rằng các chuyên gia AI lo ngại về việc tất cả những điều này sẽ đi đến đâu và xã hội cần lùi lại một bước và tạm dừng phát triển trong khi họ đánh giá rủi ro và đưa ra các biện pháp bảo vệ. Họ đang kêu gọi sự minh bạch, thảo luận công khai và sự tham gia của công chúng xung quanh việc phát triển AI để mọi người có thể có tiếng nói về tương lai của AI.
Bức thư ngỏ đã làm dấy lên cuộc tranh luận giữa các chuyên gia AI, trong đó một số người cho rằng việc tạm dừng là cần thiết để đảm bảo rằng AI được phát triển một cách an toàn và có đạo đức. Tuy nhiên, những người khác lo ngại rằng việc tạm dừng sẽ làm chậm tiến độ và mang lại lợi thế cho các quốc gia khác trong việc phát triển AI. Bất chấp những tranh cãi, rõ ràng AI đang phát triển với tốc độ chóng mặt và có tiềm năng thay đổi cuộc sống của chúng ta một cách sâu sắc. Toàn xã hội có trách nhiệm đảm bảo rằng sự thay đổi này được quản lý một cách có trách nhiệm và có đạo đức.
Nhóm đằng sau bức thư ngỏ lập luận rằng các hệ thống AI có trí thông minh cạnh tranh với con người gây ra những rủi ro đáng kể cho xã hội và nhân loại, như đã được chứng minh bằng nghiên cứu sâu rộng và được các phòng thí nghiệm AI hàng đầu thừa nhận. Họ tin rằng các hệ thống AI tiên tiến có thể thể hiện sự thay đổi sâu sắc trong lịch sử sự sống trên Trái đất và cần được lên kế hoạch và quản lý với sự quan tâm và nguồn lực tương xứng. Tuy nhiên, họ lập luận rằng mức độ lập kế hoạch và quản lý này sẽ không xảy ra vì các phòng thí nghiệm AI đang tham gia vào một cuộc đua phát triển và triển khai những bộ óc kỹ thuật số mạnh mẽ hơn bao giờ hết mà không ai, kể cả người tạo ra chúng, có thể hiểu, dự đoán hoặc kiểm soát một cách đáng tin cậy.
Trong những năm gần đây, AI đã có những bước tiến đáng kể trong nhiều lĩnh vực khác nhau, bao gồm y học, tài chính và giao thông vận tải. Tiềm năng của AI trong việc cải thiện cuộc sống của chúng ta là rất lớn, nhưng điều quan trọng là phải xem xét những rủi ro tiềm ẩn liên quan đến công nghệ. Nhóm đứng sau bức thư ngỏ tin rằng xã hội cần có cách tiếp cận thận trọng hơn đối với sự phát triển của AI để đảm bảo rằng nó an toàn và có đạo đức.
Bức thư đã nhận được nhiều phản ứng trái chiều từ cộng đồng AI, trong đó một số chuyên gia kêu gọi tạm dừng phát triển các hệ thống AI tiên tiến và những người khác cho rằng nó sẽ làm chậm tiến độ. Tuy nhiên, hầu hết các chuyên gia đều đồng ý rằng cần phải xem xét các rủi ro tiềm ẩn của AI và đảm bảo rằng công nghệ này được phát triển một cách có trách nhiệm và có đạo đức nhằm mang lại lợi ích cho toàn xã hội.
