Theo sự phát triển nhanh chóng của các công nghệ dựa trên AI, việc đánh lừa quần chúng bằng hình ảnh và video có độ phân giải sâu đã trở nên dễ dàng hơn bao giờ hết. Trích dẫn những rủi ro tiềm ẩn của nó đối với xã hội, các công ty như Facebook, Reddit và Microsoft đã đưa ra các cách và công cụ để phát hiện nội dung deepfake trên các nền tảng xã hội. Giờ đây, một nhóm các nhà khoa học máy tính đã phát triển một công cụ phát hiện deepfake mới dựa trên AI. Nó phát hiện một hình ảnh có độ sâu bằng cách kiểm tra phản xạ ánh sáng trên mắt của đối tượng.
AI Deepfake Detector Tool Đo sự phản chiếu trong mắt
Công cụ mới, được phát triển bởi các nhà khoa học máy tính từ Đại học Buffalo, là một hệ thống tương đối đơn giản. Tuy nhiên, nó đã được chứng minh là có hiệu quả 94% trong việc phát hiện nội dung deepfake.
Đối với những người mới bắt đầu, hình ảnh và video deepfake được tạo bởi các ứng dụng dựa trên AI để phân tích hàng nghìn bức ảnh và video của các cá nhân ngoài đời thực khác nhau. Sau phân tích của họ, các công cụ sau đó có thể tạo ra các hình ảnh và video trông giống như thực tế về một người thậm chí không tồn tại. Hơn nữa, chúng có thể được sử dụng để tạo khuôn mặt giả của những người nổi tiếng nổi tiếng nhằm phát tán thông tin sai lệch và đánh lừa công chúng trên mạng.
Vì vậy, để tạo ra kết quả deepfake, các công cụ AI sẽ phân tích các nguồn lực khác nhau để hiểu cách một người di chuyển, mỉm cười hoặc cau mày. Sau đó, họ có thể sử dụng thông tin để tạo ra các bản sao kỹ thuật số của các cá nhân khác một cách thông minh trông giống như thật.
Làm thế nào nó hoạt động?
Giờ đây, các công cụ phát hiện deepfake chung sẽ phân tích nội dung để tìm bất kỳ yếu tố không tự nhiên nào như chuyển động khuôn mặt không đều hoặc làm mịn da quá mức. Tuy nhiên, công cụ mới dựa vào sự phản xạ ánh sáng trong mắt của đối tượng để phát hiện hình ảnh và video có độ nét sâu.
Theo các nhà khoa học, điều này là do sự phản chiếu của nguồn sáng trên mắt của đối tượng là điều mà một công cụ dựa trên AI không tính đến trong khi tạo nội dung deepfake. Kết quả là, đôi mắt trong hình ảnh có độ sâu mô tả các phản xạ khác nhau trên mỗi giác mạc trong khi nó phải giống nhau trên cả hai mắt nếu đối tượng là thật. Bạn có thể xem qua hình ảnh so sánh ngay bên dưới để hiểu rõ hơn.
Các nhà khoa học nói thêm rằng các công cụ tạo deepfake cũng không biết hoàn toàn hiểu về giải phẫu con người và các yếu tố nhất định thay đổi như thế nào khi tương tác với thế giới vật chất. Sự phản chiếu trong mắt là một trong những yếu tố thay đổi tùy thuộc vào nguồn sáng phía trước đối tượng tại thời điểm chụp ảnh hoặc quay video.
Vì vậy, công cụ deepfake này tận dụng sự không nhất quán này trong nội dung deepfake để phát hiện chúng thành công. Nó phân tích một hình ảnh và tạo ra một điểm số tương tự. Điểm số tương đồng cao có nghĩa là hình ảnh không có khả năng bị ảnh sâu, trong khi điểm thấp có nghĩa là hình ảnh đó có khả năng là ảnh giả cao hơn.
Các vấn đề đã biết
Bây giờ, điều đáng nói là công cụ này có một số vấn đề của riêng nó. Ví dụ, nó không hoạt động nếu đối tượng không nhìn vào máy ảnh hoặc một mắt của đối tượng không nhìn thấy trong ảnh. Tuy nhiên, các nhà khoa học hy vọng sẽ loại bỏ được những vấn đề này bằng cách phát triển thêm công cụ này trong những ngày tới.
Hiện tại, công cụ này có thể dễ dàng phát hiện các phương tiện deepfake ít phức tạp hơn. Tuy nhiên, đối với nội dung deepfake chất lượng cao hơn, công cụ có thể gặp khó khăn một chút và có thể không chính xác.
