Chống nội dung độc hại trên Internet Facebookđã chia sẻ thuật toán nguồn mở của mình trên GitHub để chặn nội dung đó. Hy vọng rằng việc chia sẻ sẽ bảo vệ trẻ em tốt hơn và ngăn chặn những nội dung có hại.
Cam kết chấm dứt nội dung độc hại trên Internet FacebookRõ ràng anh ấy nhận ra rằng anh ấy không thể làm điều này một mình. Gã khổng lồ truyền thông xã hội bắt đầu thực hiện một số bước, nghĩ rằng họ phải hợp tác hoặc hỗ trợ những người khác để chấm dứt hoạt động kinh doanh này.
Công ty đã chia sẻ hai công nghệ giám sát hình ảnh và video của mình dưới dạng nguồn mở trên GitHub ngày hôm nay. Facebookhy vọng các thuật toán sẽ giúp người khác phát hiện và loại bỏ những nội dung có hại như lạm dụng trẻ em và tuyên truyền khủng bố.
Hôm nay FacebookNếu tìm thấy ảnh hoặc video có hại, nó sẽ xóa nội dung đó. Thuật toán họ sử dụng đánh dấu kỹ thuật số các video và ảnh mà công ty xóa. Do đó, ngay cả khi không có video hoặc ảnh gốc ở giữa thì nó vẫn có thể so sánh với hình ảnh được chia sẻ khác. Ví dụ: nếu bất kỳ video khủng bố nào lan truyền trên internet, FacebookCó thể tìm và loại bỏ các bản sao.
Các thuật toán này, được gọi là PDQ và TMK + PDQF, hiện nay FacebookNó sẽ có sẵn cho các đối tác trong ngành, các nhà phát triển nhỏ hơn và các tổ chức phi lợi nhuận. PDQ là một công cụ khớp ảnh lấy cảm hứng từ pHash nhưng được thiết kế hoàn toàn mới. Nếu TMK + PDQF FacebookMột công cụ so khớp video được phát triển bởi nhóm nghiên cứu trí tuệ nhân tạo và Reggio Emilia của Đại học Modena ở Ý. Dành cho những người đã sử dụng công nghệ khớp nội dung Facebookcho biết PDQ và TMK + PDQF có thể cung cấp một lớp phòng thủ khác và cho phép các hệ thống khác nhau liên lạc với nhau.
Facebookđã công bố các công cụ nguồn mở như một phần của Cuộc thi Hackathon An toàn Trẻ em và hy vọng công nghệ này có thể giúp bảo vệ trẻ em. Những công cụ này có thể được sử dụng cùng với công cụ PhotoDNA dựa trên đám mây của Microsoft và API bảo mật nội dung của Google, cả hai đều được phát hành để bảo vệ trẻ em. đầu năm nay YouTubeViệc phát hiện ra có nhiều video ấu dâm ở ., cũng cho thấy những công cụ đó có thể quan trọng như thế nào.
Nguồn: https://www.engadget.com/2019/08/02/facebook-open-source-harmful-content-algorithm/
