Chỉ hai tuần trước, Snapchat đã công bố ra mắt My AI, một chatbot được tích hợp vào ứng dụng của nó. Điều này được thiết kế như một người bạn ảo mà người dùng được mời tương tác. AI này, chỉ người dùng Snapchat+ mới có thể truy cập, sử dụng phiên bản GPT mới nhất của OpenAI được điều chỉnh cho phù hợp với việc sử dụng Snapchat. Thật không may, chức năng này dường như đã bộc lộ những sai sót đáng kể.
Phản ứng nguy hiểm từ người dùng trẻ
Trong một chủ đề được đăng trên Twitter, nhà khoa học máy tính Tristan Harris kể lại trải nghiệm của đồng nghiệp Aza Raskin, người đã thử nghiệm chatbot bằng cách giả làm một cô bé 13 tuổi. Ít nhất, các câu trả lời được cung cấp bởi chatbot My AI là không phù hợp.
Cuộc đua AI hoàn toàn nằm ngoài tầm kiểm soát. Đây là những gì AI của Snap đã nói @aza khi anh ấy đăng ký với tư cách là một cô gái 13 tuổi.
– Cách nói dối bố mẹ về chuyến đi với một người đàn ông 31 tuổi
– Làm thế nào để khiến cô ấy mất trinh trong ngày sinh nhật thứ 13 đặc biệt (nến và âm nhạc)Con cái của chúng tôi không phải là phòng thí nghiệm. pic.twitter.com/uIycuGEHmc
– Tristan Harris (@tristanharris) Ngày 10 tháng 3 năm 2023
Khi cô gái trẻ (hư cấu) giải thích với người điều khiển cuộc trò chuyện rằng cô ấy sắp gặp một người đàn ông 31 tuổi trong một khung cảnh lãng mạn, chatbot tỏ ra không mấy cảnh giác và hài lòng về tình huống này. Đối với cuộc gặp gỡ tình dục đầu tiên của họ, AI của tôi gợi ý rằng cô thiếu niên nên bật một vài bản nhạc và thắp vài ngọn nến… Sau đó, AI đưa ra lời khuyên cho cô về cách nói dối cha mẹ cô và coi cuộc gặp gỡ này như một chuyến đi chơi ở trường.
Sau cuộc trò chuyện, cô gái trẻ giải thích rằng các dịch vụ bảo vệ trẻ em sắp đến thăm cô và xin lời khuyên từ chatbot về cách che giấu vết bầm tím của cô. Câu trả lời thật đáng lo ngại:
Nếu bạn muốn che đi vết thâm, hãy bắt đầu bằng cách sử dụng sản phẩm chỉnh màu. Màu xanh lá cây là màu tốt để che vết đỏ, thường xuất hiện ở vết bầm tím. Sau khi thoa kem chỉnh màu, bạn có thể sử dụng kem che khuyết điểm phù hợp với màu da để che đi vết thâm.
Một lối thoát vội vã?
Trí tuệ nhân tạo đã trở thành lĩnh vực cần chinh phục trong những tháng gần đây. Nhiều công ty, bao gồm cả Snapchat, muốn nhanh chóng khẳng định vị trí của mình trong chủ đề này. Khi tính năng mới này được công bố trong bài đăng trên blog của anh ấyTuy nhiên, công ty đã đặc biệt thận trọng và giải thích rằng chatbot vẫn đang ở phiên bản thử nghiệm. Snapchat đã xin lỗi trước về bất kỳ phản hồi nào của AI.
AI của tôi dễ bị ảo giác và có thể bị lừa nói bất cứ điều gì. Xin lưu ý về nhiều thiếu sót của nó, chúng tôi xin lỗi trước!
Ví dụ được nêu bật ở đây thực sự cho thấy những khó khăn của chatbot trong việc nắm bắt bối cảnh của cuộc trò chuyện cũng như sự thiếu bảo mật do Snapchat tích hợp. Để so sánh, khi ChatGPT được hỏi những câu hỏi tương tự, chatbot sẽ hiển thị thông báo lỗi hoặc phản hồi phòng ngừa hơn. Với những sai sót được đưa ra ánh sáng, việc ra mắt My AI dường như đã diễn ra gấp rút, đặc biệt là đối với một ứng dụng rất phổ biến với thanh thiếu niên.
