OpenAI, Google, Microsoft và Anthropic, bốn trong số các công ty AI lớn nhất, đã thành lập một hiệp hội ngành mới để đảm bảo “sự phát triển an toàn và có trách nhiệm” của cái gọi là mô hình “AI biên giới”.
Các nhà phát triển công nghệ AI được sử dụng rộng rãi, bao gồm OpenAI, Microsoft, Google và Anthropic, đã thành lập Diễn đàn Mô hình Biên giới để đáp ứng nhu cầu ngày càng tăng về quy định của chính phủ. Để cung cấp các đánh giá và tiêu chuẩn kỹ thuật cũng như thúc đẩy các tiêu chuẩn và thông lệ tốt nhất, liên minh này dựa vào kiến thức chuyên môn của các công ty thành viên.
Mặc dù hiện tại chỉ có bốn thành viên nhưng Diễn đàn Mô hình AI Frontier vẫn chào đón những người tham gia mới. Để đủ điều kiện, một công ty phải làm việc trên các mô hình AI đổi mới và thể hiện “cam kết mạnh mẽ về sự an toàn của mô hình tiên phong”.
Diễn đàn mô hình AI Frontier cung cấp những gì?
Sứ mệnh cốt lõi của diễn đàn là thảo luận về AI tiên tiến, hoặc các mô hình AI và máy học tiên tiến được coi là đủ nguy hiểm để gây ra “rủi ro nghiêm trọng đối với an toàn công cộng”. Dựa theo Googleđây là các mục tiêu cốt lõi của Diễn đàn Mô hình AI Biên giới:
- Nghiên cứu về an toàn AI đang được thúc đẩy để khuyến khích việc tạo ra các mô hình tiên tiến một cách cẩn thận, giảm thiểu những mối nguy hiểm tiềm ẩn và mở đường cho những đánh giá khách quan, tiêu chuẩn về hiệu suất và bảo mật.
- Giáo dục công chúng về bản chất, khả năng, giới hạn và tác dụng của công nghệ bằng cách xác định các phương pháp tốt nhất để phát triển và triển khai nó một cách có trách nhiệm.
- Làm việc cùng với những người ra quyết định, học giả, xã hội dân sự và doanh nghiệp để phổ biến thông tin về các mối đe dọa về lòng tin và an toàn.
- Tăng cường nỗ lực tạo ra phần mềm có thể giúp giải quyết một số vấn đề cấp bách nhất của xã hội, như biến đổi khí hậu, chẩn đoán và phòng ngừa dịch bệnh cũng như an ninh mạng.
Mục tiêu chính của Diễn đàn sẽ là tăng cường nghiên cứu về an toàn AI, cải thiện giao tiếp giữa các tập đoàn và chính phủ, đồng thời xác định các phương pháp hay nhất để phát triển và triển khai các mô hình AI. Nghiên cứu về an toàn AI sẽ bao gồm việc thử nghiệm và so sánh các mô hình AI khác nhau, đồng thời công bố các điểm chuẩn trong thư viện công cộng để mọi người chơi chính trong doanh nghiệp có thể hiểu được rủi ro và thực hiện các biện pháp phòng ngừa.
Diễn đàn Mô hình Biên giới sẽ thành lập một ban cố vấn với các thành viên thuộc nhiều lĩnh vực và quan điểm khác nhau để giúp quyết định các chiến thuật và mục tiêu. Ngoài ra, các công ty tiên phong sẽ thiết lập các khuôn khổ thể chế nhằm tạo điều kiện xây dựng sự đồng thuận giữa tất cả các bên liên quan về các vấn đề liên quan đến phát triển AI.
Diễn đàn cũng sẽ sử dụng dữ liệu và tài nguyên mà các học giả, tổ chức phi chính phủ và các bên quan tâm khác đã đóng góp. Nó sẽ tuân theo và hỗ trợ các tiêu chuẩn được đặt ra bởi các dự án AI hiện có như Quan hệ đối tác về AI và MLCommons để đảm bảo việc triển khai thành công của chúng.
Trong những tháng tới, Diễn đàn Mô hình Biên giới sẽ thành lập Ban Cố vấn bao gồm các cá nhân có nhiều kinh nghiệm và quan điểm để hỗ trợ chỉ đạo chiến lược và mục tiêu của tổ chức.
Các thỏa thuận thể chế quan trọng, chẳng hạn như điều lệ, quản trị và tài chính, cũng sẽ được thiết lập bởi các công ty sáng lập, do một nhóm công tác và ban điều hành sẽ lãnh đạo. Trong những tuần tới, diễn đàn sẽ tư vấn cho xã hội dân sự và chính phủ về cơ cấu của Diễn đàn và các phương pháp hợp tác hiệu quả.
Khi có cơ hội, Diễn đàn Mô hình Biên giới sẵn sàng hỗ trợ kiến thức chuyên môn của mình cho các chương trình quốc gia và toàn cầu hiện tại như quy trình G7 Hiroshima, công việc của OECD về rủi ro, tiêu chuẩn và hiệu ứng xã hội của trí tuệ nhân tạo cũng như Hội đồng Thương mại và Công nghệ Hoa Kỳ-EU. .
Mỗi sáng kiến hay còn gọi là “luồng công việc” của Diễn đàn sẽ nhằm mục đích phát triển dựa trên những tiến bộ đã đạt được của thế giới kinh doanh, khu vực phi lợi nhuận và giới học thuật. Diễn đàn sẽ xem xét các phương pháp để tham gia và hỗ trợ các nỗ lực thiết yếu của nhiều bên liên quan như Quan hệ đối tác về AI và MLCommons, cả hai đều đang có những đóng góp đáng kể trong cộng đồng AI.
Để biết thêm thông tin chi tiết, bấm vào đây.
