Trò chuyệnGPTNhà phát triển OpenAI của OpenAI đã phát hành một công cụ mới, OpenAI Text Classifier, để phân biệt giữa nội dung do trí tuệ nhân tạo tạo ra và văn bản do con người tạo ra.
Trình phân loại văn bản OpenAI là gì?
Mặc dù không thể phát hiện nội dung do AI tạo với độ chính xác 100% nhưng OpenAI tin rằng công cụ mới của họ có thể giúp giảm bớt những tuyên bố sai lầm rằng mọi người đang viết nội dung do AI tạo ra.
Trong một thông báo, công ty cho biết trí tuệ nhân tạo mới của họ, Trình phân loại văn bản, có thể hạn chế các tình huống như chạy các chiến dịch thông tin sai lệch tự động, sử dụng các công cụ AI để gian lận trong học thuật và mạo danh mọi người bằng chatbot.
Công cụ này đã được thử nghiệm trên nhiều loại văn bản tiếng Anh và có thể cho biết chính xác 26% liệu văn bản đó có được viết bằng trí tuệ nhân tạo hay không. Nhưng đồng thời, tỷ lệ văn bản do con người viết bằng trí tuệ nhân tạo 9 được cho là đã được viết.
OpenAI cho biết công cụ của họ hoạt động tốt hơn khi văn bản càng dài, đó là lý do tại sao nó yêu cầu ít nhất 1000 ký tự để chạy thử nghiệm.
Các hạn chế khác của Trình phân loại văn bản OpenAI bao gồm::
- Có thể phân loại sai cả nội dung do AI tạo và do con người viết
- Bài viết do trí tuệ nhân tạo tạo ra có thể thoát khỏi tính năng này chỉ với những chỉnh sửa nhỏ.
- Được đào tạo chủ yếu về nội dung tiếng Anh do người lớn viết, trẻ có thể hiểu sai nội dung trong văn bản dành cho trẻ em và văn bản không phải tiếng Anh.
Với ý nghĩ đó, chúng ta hãy xem nó hoạt động như thế nào.
Làm cách nào để sử dụng Trình phân loại văn bản OpenAI?
- Chuẩn bị về Trình phân loại văn bản OpenAI đến trang blog đi.
- Cuộn xuống màn hình và chạm vào “Hãy thử Trình phân loạiNhấp chuột “.
- Đăng nhập vào tài khoản của bạn và dán văn bản bạn muốn kiểm tra vào trường và nhấp vào “NộpNhấp chuột “.
Kết quả sẽ khác nhau giữa:
- rất khó xảy ra
- không thể
- Không rõ có phải vậy không
- Có khả năng
- rất có thể
Câu hỏi thường gặp về Trình phân loại văn bản OpenAI
OpenAI, trong phần Câu hỏi thường gặp (FAQ) ở cuối trang;
“Mục đích của chúng tôi khi sử dụng Trình phân loại văn bản là khuyến khích cuộc trò chuyện về sự khác biệt giữa nội dung do con người viết và nội dung do AI tạo ra. Kết quả có thể hữu ích nhưng chúng không phải là bằng chứng duy nhất khi quyết định liệu một phần nội dung có phải do AI tạo ra hay không. Công cụ này đã được đào tạo về các văn bản do con người viết lấy từ nhiều nguồn khác nhau và những văn bản này có thể được sử dụng bởi mọi đối tượng (người già, trẻ em, người lớn), v.v. có thể không đại diện cho văn bản viết”.
OpenAI cho biết thêm rằng công cụ này chưa được thử nghiệm rộng rãi để phát hiện nội dung có sự kết hợp giữa trí tuệ nhân tạo và nội dung do con người viết.
Do đó, Trình phân loại văn bản có thể là một công cụ có giá trị để hiểu nội dung có khả năng do AI tạo ra.
