Chúng tôi đã phỏng vấn Hervé Rigault, Giám đốc điều hành của Netino By Webhelp, một cơ quan chuyên về “trải nghiệm người dùng xã hội” và chuyên gia kiểm duyệt nội dung trên mạng xã hội và trên web. Ông giải thích tại sao việc kiểm duyệt trực tuyến là điều cần thiết đối với các thương hiệu và những giải pháp nào có thể được đưa ra để kiểm duyệt nội dung hiệu quả hơn.
Những kênh nào bị ảnh hưởng bởi việc kiểm duyệt nội dung?
Việc thiết lập chiến lược kiểm duyệt trên bất kỳ không gian nào có chứa UGC (Nội dung do người dùng tạo) là hợp pháp.
Trước hết, chúng tôi luôn nghĩ đến tất cả các nền tảng truyền thông xã hội mà chúng tôi tự nhiên vận hành và “độc quyền” phần lớn khối lượng đóng góp: FacebookYoutube, Instagramtiktok, TwitchLinkedIn… nhưng các không gian khác được quan tâm trên web:
Thiết lập hệ thống kiểm duyệt cũng cần thiết trên các không gian như trang web tin tức, trang web hẹn hò, thị trường, các cuộc trò chuyện, phần đánh giá, v.v.
Đối với Twitternếu việc kiểm duyệt theo nghĩa “loại bỏ nội dung độc hại” là chưa thể thực hiện được (ngoại trừ những người kiểm duyệt của Twitter ), các thương hiệu thường xuyên yêu cầu thiết lập một hệ thống giám sát / cảnh báo để phát hiện những khởi đầu của buzz xấu cũng như các mối đe dọa đáng lo ngại đối với cơ sở hạ tầng hoặc nhân viên của họ.
Cụ thể, việc kiểm duyệt nội dung cho các thương hiệu “lộ diện” đang diễn ra như thế nào? Việc kiểm duyệt được thực hiện trước hay một khi nội dung đã được đăng và phát hiện?
Nói chung, trên các mạng xã hội, việc kiểm duyệt được thực hiện theo mặc định là “a posteriori”, nghĩa là sau khi xuất bản nội dung. Điều này được liên kết với chính kiến trúc của các mạng này và không thể được cấu hình bởi các thương hiệu. Do đó, họ không có lựa chọn nào khác, ngay cả khi hoạt động của họ nhạy cảm, họ phải chấp nhận việc không có mạng lưới an toàn “tức thời”.
Kể từ cuối nửa đầu năm 2021, Facebook cung cấp khả năng cho các trang người hâm mộ tạm ngừng chức năng “bình luận” dưới các ấn phẩm của họ. Các trường hợp sử dụng của chức năng này vẫn còn rất hiếm: DNA của mạng xã hội là sự tham gia, vì vậy, việc rút sàn khỏi cộng đồng của nó nói chung là rất đáng tiếc. Mặt khác, trên không gian độc quyền của thương hiệu, họ có nhiều vĩ độ hơn để xác định xem nội dung sẽ được đăng “hậu kỳ” hay “tiên nghiệm”. Do đó, có thể cấp bảo mật bổ sung này bằng cách đảm bảo rằng tất cả nội dung trực tuyến đã được người điều hành và / hoặc AI xem xét và xác thực trước đó.
Trong cả hai trường hợp, khả năng đáp ứng của hành động kiểm duyệt là một chỉ số trọng tâm của SLA (Thỏa thuận mức dịch vụ):
Ở chế độ “hậu kỳ”: hành động cần được thực hiện càng nhanh càng tốt để đảm bảo rằng nội dung trực tuyến không độc hại
Trong “tiên nghiệm”: cũng cần phải siêng năng trong việc xử lý các mục: khả năng phản hồi thấp sẽ cản trở sự trôi chảy của các cuộc trò chuyện hoặc thậm chí gây khó chịu cho khách hàng trả tiền đăng ký để có thể đăng nội dung của họ (thường là trên trang web tin tức hoặc hẹn hò Địa điểm).
Nhìn chung, thời gian quay vòng được hầu hết các thương hiệu coi là hài lòng là 20 phút sau khi đăng. Con số này có thể thấp hơn đối với một số thương hiệu có cổ phần lớn trong lĩnh vực “premiumization” và những người muốn phản ứng trong vài phút.
Tại sao việc kiểm duyệt nội dung trực tuyến lại quan trọng đối với các thương hiệu?
Cổ phần cho một thương hiệu là rất nhiều.
Đầu tiên, tất nhiên là vấn đề an toàn thương hiệu. Người dùng Internet sẽ nghĩ gì về một phương tiện có các ấn phẩm Facebook Có rải rác những lời lăng mạ, phân biệt đối xử hoặc kêu gọi giết người và rõ ràng là vẫn còn trực tuyến trong một thời gian dài không? Nhất thiết sẽ có mối liên hệ giữa nhãn hiệu và những nhận xét này.
Thứ hai, các bình luận độc hại có ảnh hưởng nghiêm trọng đến sự tham gia của cộng đồng. Chúng ta có muốn tham gia vào một cuộc tranh luận hiện tại mà ở đó bất kỳ ý kiến trái chiều nào cũng đáng để nhận những lời xúc phạm từ những kẻ troll không? Do đó, sự điều độ không chỉ có tác dụng không công bố hàm lượng chất độc hại; nó góp phần vào một vòng kết nối đạo đức nơi các nhận xét mang tính xây dựng tạo ra sự tham gia có chất lượng hơn.
Chúng tôi cũng có thể đề cập đến các vấn đề về trách nhiệm pháp lý: trên các trang web thương hiệu, trách nhiệm pháp lý của họ có thể phải chịu trong trường hợp xuất bản nội dung bất hợp pháp (văn bản phỉ báng hoặc văn bản kêu gọi bạo lực, video có tính chất khiêu dâm trẻ em, v.v.)
Cuối cùng, trên các trang web hẹn hò, khi đối mặt với sự trỗi dậy của các vụ lừa đảo lãng mạn, việc kiểm soát hình ảnh và quảng cáo không phải là một viên gạch phụ đơn giản mà là một lời hứa cho khách hàng rằng không gian của nó không có bất kỳ trò lừa đảo nào.
Netino By Webhelp cung cấp kiểm duyệt tự động ngày càng nhiều hơn. Làm thế nào nó hoạt động ?
Từ những năm 2010, các thương hiệu nói chung và giới truyền thông nói riêng đã phải đối mặt với sự bùng nổ về số lượng đóng góp trên các nền tảng truyền thông xã hội của họ.
Do đó, các câu hỏi đặt ra cho các thương hiệu:
Làm thế nào để quản lý một số lượng nội dung đôi khi tăng gấp đôi sau mỗi hai năm, với ngân sách không đổi hoặc ít hơn? Làm thế nào để đối phó với những đỉnh điểm đột ngột đòi hỏi quy mô của đội điều tiết tăng gấp ba lần trong vòng chưa đầy nửa ngày?
Đặc biệt là trong khi một số sự kiện hiện tại tạo ra các đỉnh không thường xuyên (các cuộc tấn công, các sự kiện linh tinh, v.v.), những sự kiện khác dẫn đến sự gia tăng cấu trúc lâu dài về khối lượng. Nói chung, trong thập kỷ qua: hôn nhân cho tất cả, chủ đề #metoo và tất nhiên là cuộc khủng hoảng Covid …
Do đó, tự động kiểm duyệt thông qua AI (Trí tuệ nhân tạo) đã là một lĩnh vực phát triển quan trọng của Netino by Webhelp kể từ năm 2015. Cụ thể, giải pháp AI của chúng tôi là hỗn hợp, nó dựa trên đồ thị ngữ nghĩa, học máy và các phương pháp NLP (Xử lý ngôn ngữ tự nhiên) . Một nhóm con người hoàn thiện hệ thống này bằng cách thực hiện kiểm soát chất lượng hàng ngày đối với một mẫu nội dung đã xử lý để đảm bảo mức độ liên quan của các phán quyết của AI và bằng cách làm phong phú nó theo thời gian.
Do đó, các thuật toán của chúng tôi học cách bắt chước phán quyết kiểm duyệt do con người đưa ra dựa trên hàng triệu nhận xét do nhóm của chúng tôi xử lý và chú thích.
Không có gì lạ khi chúng tôi cung cấp các giải pháp kết hợp với 70% kiểm duyệt tự động được bổ sung bởi 30% kiểm duyệt của con người. Chúng tôi cũng cung cấp giải pháp “100% tự động” với tỷ lệ phát hiện hàm lượng chất độc là 93%.
Một con số đáng kể: vào năm 2021, Netino by Webhelp đã xác định và từ chối thông qua AI hơn 11 triệu nội dung độc hại (xúc phạm, phân biệt đối xử, thư rác, v.v.) trên nền tảng của khách hàng. Do đó, khả năng phản ứng là tối ưu và hàm lượng được phát hiện là độc hại có thể biến mất trong vài giây.
Khám phá các dịch vụ kiểm duyệt của Netino By Webhelp
Điều độ cũng giúp thu thập dữ liệu và phân tích tâm lý người tiêu dùng. Những chỉ số nào đang tiết lộ?
Chúng ta đang ở nơi giao nhau giữa một số ngành nghề, bao gồm cả Lắng nghe xã hội, những nghề này rất khác biệt mặc dù có liên quan với nhau. Thực sự có thể tận dụng hành động kiểm duyệt để phân loại (tức là kiểu chữ và chủ đề được người dùng Internet giải quyết) và giọng điệu (tức là xác định xem cảm giác là tích cực, tiêu cực hay trung tính) các nội dung để hiển thị trên màu trong số những người tham gia.
Về phần Truyền thông, chúng tôi cũng cung cấp cho khách hàng một số ấn phẩm tạo ra nhiều bình luận nhất, nhưng cũng có những ấn phẩm tạo ra nhiều nội dung bị từ chối nhất … Điều này vừa thú vị cho họ vừa cho chúng tôi để có thể để tăng cường cảnh giác của đội điều độ xung quanh các chủ đề nhất định.
Đối với hồ sơ, người ta sẽ ngạc nhiên khi thấy nội dung “bất thường” (ví dụ như tin tức vô lý) thường xuyên được đưa lên đầu các ấn phẩm thành công nhất của các phương tiện truyền thông chính thống lớn.
Bạn phải làm gì về cách các nền tảng (FacebookGoogle, Twitter…) Quản lý kiểm duyệt nội dung?
Rất khó để đánh giá mức độ hiệu quả của nó khi xét đến mức độ lớn của thách thức mà nó thể hiện: trên Facebooklàm thế nào để điều chỉnh hoạt động của 2,8 hàng tỷ người dùng hàng tháng với rất nhiều ngôn ngữ, với những khác biệt đáng kể về văn hóa và luật pháp giữa các quốc gia?
Gần đây ở Pháp, Twitter đã bị kiện để tiết lộ các phương tiện được thực hiện để kiểm duyệt nội dung. Điều này minh chứng cho một xu hướng cơ bản mà chúng tôi quan sát hàng ngày: mong muốn ngày càng tăng của người dùng Internet được phát triển trong không gian lành mạnh, thanh bình và an toàn.
Cách kiểm duyệt nội dung của bạn với Netino By Webhelp
