Kiểm duyệt nội dung là một chủ đề quan trọng đối với tất cả các thương hiệu có sự hiện diện trên Internet và mạng xã hội. Từ lâu chỉ được quản lý bởi “người điều hành” con người, nó ngày càng được hỗ trợ bởi AI. Netino của Webhelp, chuyên gia được công nhận về kiểm duyệt trong nhiều năm, cung cấp cho chúng tôi trong sách trắng mới nhất của mình một bức tranh hoàn chỉnh về chủ đề vào năm 2023: nghĩa vụ pháp lý, vị trí của AI, phúc lợi của người điều hành, các phương pháp hay… Nội dung rất nhiều thông tin , đặc biệt nếu bạn quản lý một thương hiệu được hiển thị nhiều trên web, có khía cạnh cộng đồng quan trọng.
Nội dung nào cần được kiểm duyệt?
Trong sách trắng của mình, Netino của Webhelp nhắc lại rằng trong lĩnh vực kiểm duyệt, không có chỗ cho sự tùy tiện. Quyết định có xóa nội dung hay không đều dựa trên 3 tiêu chuẩn:
Tính hợp pháp : nội dung “vi phạm nghiêm trọng, rõ ràng và khách quan pháp luật hiện hành” sẽ gây nguy hiểm cho cộng đồng nhưng cũng gây nguy hiểm cho thương hiệu hoặc nhà xuất bản nền tảng hoặc dịch vụ. Do đó, bất kỳ điều gì liên quan đến phỉ báng, phân biệt đối xử, lăng mạ nơi công cộng, kêu gọi bạo lực, v.v., phải được kiểm duyệt càng sớm càng tốt.
Độc tính : ngay cả khi những nội dung này không dẫn đến hậu quả pháp lý thì chúng vẫn là sự tấn công vào thương hiệu và cộng đồng. Do đó, chúng phải được kiểm duyệt nhanh chóng. Nội dung này có thể liên quan đến: bôi nhọ, nhạo báng thể chất, hài hước đáng ngờ, nỗ lực spam hoặc lừa đảo, v.v.
Tuân thủ nguyên tắc cộng đồng : nội dung phải tôn trọng các quy tắc dành riêng cho không gian cộng đồng và các quy tắc này có thể rất khác nhau tùy theo cộng đồng, chủ đề, kỳ vọng của họ và khán giả. Ví dụ: nội dung “khiêu dâm” sẽ bị cấm xuất hiện ở không gian công cộng nhưng được cấp phép trên một ứng dụng phục vụ mục đích đó.
Khả năng đáp ứng: một vấn đề quan trọng
Netino của Webhelp nhắc nhở chúng ta rằng điểm quan trọng của việc kiểm duyệt là khả năng phản hồi. Nội dung độc hại phải được xử lý nhanh chóng, nhằm hạn chế thiệt hại cho cộng đồng. Nếu không được kiểm duyệt nhanh chóng, nó có thể leo thang và có thể tạo ra căng thẳng, lo lắng, v.v. cho người dùng. Điều này thậm chí có thể khiến người dùng Internet rời bỏ dịch vụ hoặc nền tảng.
Sách trắng nêu rõ 70% người dùng Internet tin rằng nhiệm vụ của thương hiệu là bảo vệ cộng đồng của mình trước những nội dung độc hại. Bằng cách can thiệp nhanh chóng, người điều hành sẽ duy trì được uy tín của thương hiệu và cộng đồng, đồng thời tạo dựng được niềm tin của người dùng.
Để đảm bảo kiểm duyệt hiệu quả và nhanh chóng 24/7, không có phép lạ nào cả, bạn cần có đủ nguồn lực và công cụ phù hợp. Nếu khối lượng nội dung cần xử lý thấp, rõ ràng là có thể quản lý việc này một cách thủ công, nhưng với khối lượng lớn, bắt buộc phải dựa vào một nhóm hoàn chỉnh được hỗ trợ bởi AI.
Netino của Webhelp cũng chỉ rõ thế nào là hệ thống kiểm duyệt mạnh mẽ vào năm 2023 và cách AI có thể kiểm duyệt nội dung vi phạm trong vài giây:
Vị trí của AI ở mức vừa phải
Chủ đề hàng đầu của năm 2023 này, AI cũng là về sự điều độ. Nhưng nó không đủ để đảm bảo kiểm duyệt hiệu quả và đáng tin cậy 100%. Netino của Webhelp nhắc nhở rằng người dùng biết cách thích ứng với các quy tắc và thể hiện nhiều trí tưởng tượng để vượt qua các thiết bị kiểm duyệt tại chỗ.
Do đó, vị trí của con người vẫn là trung tâm, dù là phát hiện sự mỉa mai trong một tuyên bố hay ước tính mức độ thực tế của mối đe dọa nếu một người đang gặp nguy hiểm (và chẳng hạn như cảnh báo chính quyền).
Sách trắng trình bày chi tiết hơn về ý nghĩa thực sự của AI ở mức độ vừa phải và 3 thiết bị phổ biến nhất:
Tập hợp các thuật ngữ kích hoạt : đây là danh sách các điều khoản bị cấm và các điều khoản cần có sự xác minh của con người. Rất dễ thực hiện, nhưng khá kém hiệu quả, có nhiều kết quả dương tính giả.
Đồ thị ngữ nghĩa : nó là sự thể hiện mối quan hệ giữa các khái niệm khác nhau được tổ chức theo cấu trúc cây. Điều này cho phép phát hiện tốt hơn.
Học máy – học sâu : một mô hình AI được thiết lập nhờ chú thích dữ liệu của người điều hành. Đó là một mô hình kiểm duyệt mạnh mẽ nhưng việc triển khai phức tạp hơn một chút.
Trong phần còn lại của sách trắng, Netino của Webhelp cũng xem xét mối quan tâm (hoặc không) của việc kiểm duyệt gia công phần mềm, cũng như tầm quan trọng của phúc lợi của người kiểm duyệt, những người phải đối mặt với một công việc vốn phức tạp và khó khăn.
