Thật không may, không phải ai cũng biết rằng AI gây ảo giác và AI sẽ tỏ ra tự tin ngay cả khi nó mắc sai lầm nghiêm trọng. Tất cả những điều này góp phần khiến người dùng tin tưởng hơn vào AI và các tác nhân đe dọa dựa vào hành vi của người dùng này để lừa họ tải xuống hoặc thực hiện các cuộc tấn công. Điều đó nói lên rằng, ảo giác về trí tuệ nhân tạo là mối nguy hiểm lớn đang rình rập!
Ảo giác về Trí tuệ nhân tạo đang là mối nguy hiểm lớn đang rình rập!
Ví dụ: mô hình AI có thể tạo ảo giác về một thư viện mã giả và khuyến nghị người dùng tải xuống thư viện đó. Rất có thể mô hình sẽ tiếp tục giới thiệu chính thư viện điên rồ này cho nhiều người dùng đặt câu hỏi tương tự. Nếu tin tặc phát hiện ra ảo giác này, chúng có thể tạo ra phiên bản thực của thư viện tưởng tượng. Tuy nhiên chứa đầy mã nguy hiểm và phần mềm độc hại. Bây giờ, khi AI tiếp tục đề xuất thư viện mã, người dùng không nhận ra sẽ tải mã của người dùng độc hại.
Vấn đề ảo giác này có thể là một vấn đề lớn. Điều đó nói lên rằng, tin tặc không nhất thiết phải tạo ra nhiều mối đe dọa mới. Vì vậy, họ chỉ đang tìm kiếm những cách mới để cung cấp chúng mà không bị nghi ngờ. Ảo giác AI tận dụng sự khéo léo của con người mà bạn dựa vào để nhấp vào liên kết email (đó là lý do tại sao bạn nên sử dụng các công cụ kiểm tra liên kết để xác minh URL).
Tin tặc cũng có thể đưa điều này lên một tầm cao mới. Nếu bạn đang tìm kiếm trợ giúp về mã hóa và tải xuống mã giả và độc hại, tác nhân đe dọa cũng có thể khiến mã đó thực sự hoạt động được bằng một chương trình lừa đảo đang chạy ẩn. Chỉ vì nó hoạt động theo cách bạn mong đợi không có nghĩa là nó không nguy hiểm.
Tệ hơn nữa, tất cả các ngành đều chịu áp lực văn hóa trong việc áp dụng AI vào hoạt động kinh doanh của họ. Vô số tổ chức và ngành công nghệ xa xôi đang sử dụng các công cụ AI thiếu kinh nghiệm chỉ để duy trì tính cạnh tranh.
Cách phát hiện cái gọi là ảo giác AI:
Tìm lỗi chính tả và ngữ pháp. Xem khi ngữ cảnh truy vấn không được căn chỉnh với ngữ cảnh phản hồi. Nhận biết khi nào hình ảnh dựa trên thị giác máy tính không khớp với cách mắt người nhìn thấy khái niệm này. Luôn cẩn thận khi tải xuống nội dung từ Internet, ngay cả khi được AI khuyến nghị. Nếu AI khuyến nghị tải mã xuống, đừng làm điều đó một cách mù quáng; kiểm tra mọi đánh giá để đảm bảo mã hợp pháp và xem liệu bạn có thể tìm thấy thông tin về người sáng tạo hay không.
Đừng bỏ lỡ bất kỳ thông tin quan trọng nào. Theo dõi chúng tôi tại Google Tin tức. Nhấp vào nút bên dưới và sau đó nhấp vào biểu tượng ngôi sao ở góc trên bên phải.
