OpenAI tiết lộ một công cụ miễn phí để phát hiện văn bản được tạo bởi AI như ChatGPT.
Chia sẻ bài viết
/
Chỉnh sửa ngày 26 tháng 7: OpenAI đã quyết định tắt công cụ phát hiện văn bản do AI tạo “vì tỷ lệ chính xác thấp”. OpenAI cho biết họ sẽ tiếp tục nghiên cứu chủ đề này để tìm ra những cách hiệu quả nhằm phát hiện văn bản, âm thanh hoặc hình ảnh do AI tạo ra.
OpenAI ra mắt công cụ phát hiện văn bản do AI tạo
Nó là chính thức ! OpenAI triển khai một công cụ miễn phí có tên Trình phân loại văn bản AI cho phép bạn kiểm tra xem văn bản có được tạo ra bởi trí tuệ nhân tạo hay không. Chỉ cần sao chép và dán văn bản của nó vào công cụ và nó sẽ xác định mức độ xác suất mà văn bản này được tạo bởi AI: rất khó xảy ra (rất khó xảy ra), không thể xảy ra (không chắc chắn), không chắc chắn (không rõ liệu có), có thể (có thể) hoặc có thể xảy ra (có thể do AI tạo ra). Giao diện hiện chỉ có sẵn bằng tiếng Anh.
Kể từ khi ra mắt vào tháng 12, trình tạo văn bản ChatGPT đã gây ngạc nhiên với hiệu suất của nó nhưng cũng gây lo ngại, đặc biệt là trong lĩnh vực học thuật: “Làm cách nào để biết bài luận của học sinh chưa được ChatGPT thực hiện?” ». Bằng cách triển khai công cụ mới này, OpenAI đang đưa ra phản hồi đầu tiên cho các chuyên gia có liên quan, ngay cả khi công ty Mỹ sẽ phải tiếp tục làm việc trong lĩnh vực này để đưa ra khả năng phát hiện chính xác hơn nữa.
Kết quả có thể giúp xác định xem tài liệu có phải do AI tạo ra hay không nhưng không phải là bằng chứng duy nhất. OpenAI cho biết mô hình này được đào tạo trên văn bản do con người viết từ nhiều nguồn khác nhau, không nhất thiết phải đại diện cho tất cả các loại văn bản do con người viết.
Xin nhắc lại, OpenAI là công ty Mỹ đã thiết kế ChatGPT nhưng cũng là DALL-E, công cụ tạo hình ảnh trí tuệ nhân tạo.
Nhưng công cụ này vẫn còn một số hạn chế…
OpenAI vẫn minh bạch về những hạn chế hiện tại của công cụ:
Để công cụ hoạt động, bạn cần sao chép-dán tối thiểu 1 000 ký tự, hoặc khoảng 150 đến 250 từ. Công cụ này chưa thực sự chính xác, đôi khi có thể nhầm lẫn giữa văn bản do AI tạo ra hoặc do con người viết. Công cụ này có thể mắc lỗi trên các văn bản do trẻ em viết và các văn bản không phải bằng tiếng Anh, vì hiện tại nó được đào tạo chủ yếu về nội dung tiếng Anh do người lớn viết. Điều quan trọng cần nhớ là văn bản do AI tạo ra có thể dễ dàng sửa đổi để thoát khỏi sự phát hiện của công cụ.
