Facebook chiến đấu với những nội dung bạo lực trên nền tảng của mình

Những năm qua, mạng xã hội nói chung và Facebook nói riêng bị lên án là nơi dung dưỡng và phát tán những nội dung bạo lực và thù hằn, đặc biệt là sau vụ xả súng tại nhà thờ Hồi giáo ở New Zealand hồi tháng 3 năm ngoái. Facebook đã phải nỗ lực rất nhiều để xóa bỏ những nội dung ấy trên nền tảng của mình.

Những năm qua, mạng xã hội nói chung và Facebook nói riêng bị lên án là nơi dung dưỡng và phát tán những nội dung bạo lực và thù hằn, đặc biệt là sau vụ xả súng tại nhà thờ Hồi giáo ở New Zealand hồi tháng 3 năm ngoái. Facebook đã phải nỗ lực rất nhiều để xóa bỏ những nội dung ấy trên nền tảng của mình.

Có một thực tế đáng buồn là trong những năm qua mạng xã hội là mảnh đất lý tưởng cho việc nuôi dưỡng và phát triển những ý tưởng và hành vi khủng bố, kích động thù hằn và bạo lực. Từ việc khơi gợi ý tưởng khủng bố đến tổ chức hiệu triệu những người tham gia sang đến việc tuyên truyền những “thành quả” đạt được do khủng bố, tất cả đều được thực hiện dễ dàng trên mạng xã hội và nhờ đặc điểm phổ biến rộng, nhanh của nó, những nội dung xấu này lan truyền nhanh chưa từng thấy. Đỉnh điểm của sự việc là vào tháng 3-2019, khi kẻ thủ ác xả súng tại nhà thờ Hồi giáo ở New Zealand.

Ngày 15-3-2019, hung thủ Brenton Tarrant đã live stream trên Facebook trước khi xả súng bắn chết 42 người tại một nhà thờ Hồi giáo ở Christchurch, New Zealand. Đoạn video thảm khốc này dài 17 phút, ngay sau đó đã lan truyền khắp thế giới với một tốc độ khủng khiếp. Trước đó một chút, Brenton Tarrant đã đăng một bản tuyên ngôn lên diễn đàn hình ảnh 8chan để phác thảo cuộc tấn công của mình.

Cho dù Facebook, YouTube, Twitter - những mạng xã hội nơi video lan truyền - đã nỗ lực gỡ những bản video ấy khỏi nền tảng của mình nhưng họ vẫn bị buộc tội là đã góp phần vào việc phát tán nội dung bạo lực, bởi vì đã không có chế độ kiểm duyệt hiệu quả để ngăn chặn những nội dung này trước khi chúng xảy ra.

Kể từ đó đến nay, Facebook và các mạng xã hội khác đã phải luôn nỗ lực để có thể phát hiện kịp thời các nội dung bạo lực, thù hằn trên nền tảng của mình. Ngày 12-3-2020, Facebook có một báo cáo về công việc này trên trang thông báo của mình. Dưới đây là lược dịch bản thông báo”:

* “Cập nhật về cuộc chiến chống nội dung thù hằn, khủng bố

Năm ngoái, Facebook đã cam kết minh bạch hơn về cách chúng tôi chống lại các tổ chức thù hằn và nguy hiểm trên các ứng dụng của mình. Hôm nay, Facebook cập nhật về những nỗ lực này, bao gồm các số liệu thực hiện mới cùng chi tiết về các chiến thuật mà chúng tôi đã phát triển để phá vỡ hành vi nói trên. Tháng này cũng đánh dấu kỷ niệm một năm Lời kêu gọi Hành động Christchurch, nơi các nhà lãnh đạo chính phủ và công nghiệp gặp nhau, dẫn đầu là Thủ tướng New Zealand Jacinda Ardern và Tổng thống Pháp Emmanuel Macron, để ngăn chặn sự lây lan của chủ nghĩa khủng bố và cực đoan trên mạng. Chúng tôi tiếp tục thực hiện các cam kết của mình đối với kế hoạch hành động cho các nền tảng kỹ thuật số, bao gồm xuất bản các báo cáo thường xuyên về phát hiện và xóa nội dung khủng bố hoặc cực đoan bạo lực trên các ứng dụng của chúng tôi.

* Loại bỏ những nội dung thù hằn có tổ chức và các tổ chức nguy hiểm

Facebook không cho phép các tuyên bố có nội dung thù hằn hay bạo lực hiện diện tại đây. Facebook cũng xóa luôn các nội dung đại diện, ca ngợi hoặc hỗ trợ những tuyên bố ấy. Đến nay, Facebook đã xác định rất nhiều nhóm trên toàn cầu là các tổ chức thù hằn vì họ tham gia phối hợp bạo lực với những người khác dựa trên các đặc điểm như: tôn giáo, chủng tộc, dân tộc hoặc nguồn gốc quốc gia và chúng tôi thường xuyên đánh giá các nhóm và cá nhân để xác định xem họ có vi phạm chính sách của mình hay không.

3 năm trước, Facebook đã bắt đầu phát triển một quy trình và một loạt các kỹ thuật tự động phát hiện nội dung liên quan đến các tổ chức khủng bố như: ISIS, al Qaeda và các chi nhánh của chúng. Hiện nay các kỹ thuật này đã được mở rộng để phát hiện và xóa nội dung liên quan đến các nhóm khủng bố và sự thù hằn có tổ chức khác. Giờ đây Facebook có thể phát hiện văn bản được nhúng trong hình ảnh và video để hiểu toàn bộ bối cảnh của nó và chúng tôi đã xây dựng công nghệ khớp phương tiện để tìm nội dung giống hệt hoặc gần giống với ảnh, video, văn bản và thậm chí cả âm thanh mà chúng tôi đã gỡ bỏ. Ban đầu, khi phát hiện các tổ chức thù hằn, Facebook tập trung vào các nhóm gây ra mối đe dọa bạo lực lớn nhất vào thời điểm đó, còn hiện nay Facebook đã mở rộng để phát hiện thêm các nhóm có hệ tư tưởng cực đoan dựa trên sự căm ghét và bạo lực khác nhau và sử dụng các ngôn ngữ khác nhau. Ngoài việc xây dựng các công cụ mới, chúng tôi còn điều chỉnh các chiến lược từ công việc chống khủng bố của mình, như tận dụng các tín hiệu ngoài nền tảng để xác định nội dung nguy hiểm trên Facebook và thực hiện các quy trình để kiểm tra tính chính xác của các quyết định AI (trí tuệ nhân tạo) của chúng tôi theo thời gian.

* Những số liệu mới

Trong 3 tháng đầu năm 2020, có khoảng 4,7 triệu nội dung trên Facebook có liên quan đến sự thù hằn có tổ chức, tăng hơn 3 triệu nội dung từ quý trước. Ngoài ra, Facebook đã tăng tỷ lệ phát hiện chủ động đối với sự thù hằn có tổ chức, tỷ lệ % nội dung chúng tôi xóa do chúng tôi phát hiện trước khi ai đó báo cáo cho chúng tôi, từ 89,6% trong quý IV-2019 lên 96,7% trong quý I-2020. Tương tự như vậy trên Instagram, tỷ lệ chủ động phát hiện tăng từ 57,6% lên 68,9%. Facebook đã xóa 175 ngàn mẩu nội dung trong quý I-2020, so với 139.800 của quý trước.

* Nhận định

Nội dung thông báo và những số liệu được công bố cho thấy nỗ lực của Facebook, nhưng mặt khác nó cũng cho thấy tình trạng gia tăng các nội dung thù hằn, khủng bố trên Facebook. Những khó khăn trong việc ngăn chặn và loại bỏ các nội dung này vẫn còn đó. AI vẫn chưa đủ để phát hiện tất cả trường hợp kích động thù hằn, khủng bố, nhất là trường hợp lồng ghép khéo léo giữa hình ảnh và ngôn từ. Nếu dùng con người thì khả năng phát hiện cao hơn, nhưng khối lượng công việc quá lớn, sức người không kham nổi. Facebook đang có kế hoạch phát động những cuộc thi để tìm các thuật toán AI tốt nhất phát hiện nội dung vi phạm.

Thái Thư