Từ giờ trở đi, chatbot AI của đường dây trợ giúp rối loạn ăn uống Tessa sẽ không trả lời cuộc gọi của bất kỳ ai sau sai lầm có hại của nó. Hiệp hội Rối loạn Ăn uống Quốc gia đã đóng cửa chatbot AI sau khi gây ra nhiều chỉ trích trong xã hội. Hiệp hội cũng bị chỉ trích vì đã sa thải 4 nhân viên sau khi họ thành lập công đoàn.
Sau quyết định của NEDA về việc gỡ bỏ chatbot AI của mình, hiệp hội đã công bố điều đó vào ngày Instagram và cung cấp thêm thông tin về những gì đã xảy ra đằng sau nó và tại sao nó lại thực hiện hành động như vậy. NEDA cho biết chatbot AI “có thể đã đưa ra” lời khuyên có hại cho một số cá nhân nhất định và nhóm hiện đang điều tra xem liệu họ có thể khắc phục sự cố và sao lưu chatbot trên trang web hay không.
Một nhà hoạt động tên là Sharon Maxwell đã công khai vấn đề với Tessa bằng cách tuyên bố: “Mọi điều Tessa gợi ý đều là những điều dẫn đến sự phát triển chứng rối loạn ăn uống của tôi”. Theo cô, sau khi Maxwell gửi ảnh chụp màn hình của cuộc trao đổi, các quan chức của NEDA đã xóa một bài đăng trên mạng xã hội mà trước đó họ đã tuyên bố những lời cáo buộc là sai.
Nhà hoạt động Sharon Maxwell đã viết trên Instagram vào thứ Hai, Tessa đã cung cấp cho cô ấy “mẹo ăn uống lành mạnh” và gợi ý cách giảm cân. Chatbot đưa ra lời khuyên theo hướng 500–1,000 calo thâm hụt mỗi ngày và tự cân, đo mỗi tuần một lần để theo dõi cân nặng của mình.
Đường dây trợ giúp rối loạn ăn uống Tessa tiết lộ sau khi hợp nhất
Một chatbot trí tuệ nhân tạo có tên “Tessa” đã bị Hiệp hội Rối loạn Ăn uống Quốc gia (NEDA) xóa sau những cáo buộc rằng nó đưa ra những lời khuyên có hại. Tuy nhiên, đó không phải là lý do duy nhất đằng sau lập trường và sự tức giận của mọi người đối với hiệp hội. Sau khi số lượng lớn cuộc gọi trong thời kỳ đại dịch khiến nhân viên đường dây nóng phải đoàn kết và khiến hàng loạt nhân viên kiệt sức, NEDA đã cho ra mắt Tessa. 200 tình nguyện viên trả lời các cuộc gọi (thường là nhiều cuộc gọi) từ khoảng 70.000 người dưới sự giám sát của sáu nhân viên được trả lương.
NPR đã được các quan chức NEDA thông báo rằng quyết định này không liên quan đến việc thành lập công đoàn. Thay vào đó, Phó chủ tịch Lauren Smolar tuyên bố rằng nhóm ngày càng phải chịu trách nhiệm về mặt pháp lý do số lượng cuộc gọi ngày càng tăng và sự chiếm ưu thế của nhân viên là tình nguyện viên, cũng như thời gian chờ đợi kéo dài đối với những người cần hỗ trợ. Tuy nhiên, các nhân viên cũ coi hành động này rõ ràng là chống công đoàn.
Nhà phát triển của Tessa tuyên bố rằng ChatGPT phức tạp hơn chatbot mà họ đã tạo, vốn được tạo riêng cho NEDA. Thay vào đó, nó có một tập hợp các phản ứng được lập trình sẵn nhằm hướng dẫn người dùng cách ngăn ngừa các vấn đề về ăn uống.
Tuy nhiên, vào thời điểm nhiều doanh nghiệp đang gấp rút sử dụng công nghệ, những lời chỉ trích nhấn mạnh những hạn chế và nguy hiểm hiện có của việc sử dụng chatbot do AI cung cấp, đặc biệt đối với các tương tác nhạy cảm như liên quan đến sức khỏe tâm thần.
Dưới đây là các tin tức và hướng dẫn khác để bạn kiểm tra, đặc biệt nếu bạn quan tâm đến thế giới trí tuệ nhân tạo và chatbot AI:
