Ủy ban Châu Âu muốn các dịch vụ trò chuyện lớn quét tin nhắn của chúng tôi từ năm 2024 để kiểm tra nội dung khiêu dâm trẻ em.
Đề xuất đó đã có từ tháng 10 năm ngoái, nhưng có vẻ như rất có thể đề xuất này cũng sẽ được chấp thuận. Trong trường hợp đó, các nền tảng trò chuyện lớn như WhatsApp và Messenger của Meta, Signal và Telegram yêu cầu văn bản và ảnh chúng tôi gửi cho nhau để kiểm tra nội dung khiêu dâm trẻ em. Các chuyên gia cảnh báo về độ dốc trơn trượt, đặc biệt công nghệ này sau này còn có thể được sử dụng cho các mục đích khác và để ‘giám sát’ người dân. Hãy xem xét ví dụ về camera ANPR. Chúng ban đầu được giới thiệu để phát hiện các nghi phạm khủng bố, nhưng giờ đây còn kiểm tra việc sử dụng điện thoại di động sau tay lái.
Trung lập về mặt công nghệ
Tờ báo Buổi sáng đã nói chuyện với giáo sư Bart Preneel của KULeuven, người chuyên về bảo mật máy tính và mật mã công nghiệp. “Vấn đề là luật này mang tính trung lập về mặt công nghệ. Vì vậy, Châu Âu không nói chính xác các dịch vụ nhắn tin nên làm điều đó như thế nào. Điều này là không thể với công nghệ hiện nay. Điều đó chỉ có thể thực hiện được bằng cách duy trì mã hóa và xem xét chính các thiết bị,” ông nói trong cuộc phỏng vấn.
Nguy hiểm đến quyền riêng tư
Preneel chỉ ra rủi ro đối với quyền riêng tư của chúng tôi. Ví dụ, ông lập luận rằng các công ty lớn đứng sau dịch vụ nhắn tin chỉ có quyền truy cập vào tất cả tin nhắn và hình ảnh mà bạn gửi cho bạn bè và gia đình. Một rủi ro nữa là thông tin cá nhân này có thể rơi vào tay tin tặc hoặc các tổ chức lừa đảo.
Cuối cùng, như với ví dụ về camera ANPR, sẽ có nguy cơ cao là đề xuất này sẽ được mở rộng sang các tội phạm khác. “Do đó, chúng tôi đã gửi một bức thư ngỏ từ giới khoa học tới Ủy ban chỉ ra những nguy hiểm và khó khăn khác nhau. Hiện nay nó đã được hơn 400 nhà khoa học từ 38 quốc gia khác nhau ký kết. Tôi hy vọng rằng Châu Âu nhận ra rằng đề xuất này đã đi quá xa,” Preneel kết luận trên De Morgen.
Điều khiển bằng AI
Các chuyên gia đang thận trọng phản ứng tích cực trước thông báo rằng trí tuệ nhân tạo cũng sẽ được sử dụng để phát hiện hành vi lạm dụng trẻ em. Tuy nhiên, điều đó cũng sẽ (chắc chắn trong giai đoạn đầu) gây ra nhiều kết quả dương tính giả. Ví dụ: bất kỳ ai muốn chia sẻ ảnh bể bơi của con mình với ông bà có thể gặp rắc rối với dịch vụ nhắn tin hoặc nhà cung cấp đám mây của họ. Vẫn còn phải xem thuật toán như vậy có thể được đào tạo chính xác đến mức nào.
