Chặn 'vòi bạch tuộc' cực đoan trên mạng xã hội

Nhận diện rủi ro

Theo Báo cáo Tình hình và Xu hướng Chủ nghĩa khủng bố tại Liên minh châu Âu năm 2024 (TE-SAT 2024), tài liệu tổng hợp về tình hình, số liệu và các diễn biến chính quanh chủ nghĩa khủng bố tại châu Âu năm 2023, Cơ quan Cảnh sát châu Âu (Europol) đã phát hiện và gỡ bỏ hơn 100.000 tài khoản mạng xã hội liên quan đến hoạt động khủng bố.

Các chiến binh al-Shabaab trên đường phố Mogadishu, Somalia.

Số liệu cho thấy những mạng xã hội như Telegram, Facebook, Twitter (sau này là X) và TikTok là nền tảng ưa thích của các mạng lưới khủng bố. Telegram được ưu tiên bởi tính bảo mật cao, khả năng mã hóa đầu cuối và các kênh công khai. Các nhóm khủng bố thường sử dụng Telegram để chia sẻ tài liệu tuyên truyền, video tuyển dụng, thậm chí cả hướng dẫn… chế tạo vũ khí. Europol ghi nhận có tới 42% các hoạt động tuyên truyền cực đoan trên mạng xã hội đã diễn ra trên nền tảng này.

Trong khi đó, là nền tảng mạng xã hội lớn nhất thế giới, Facebook bị lợi dụng để chiêu mộ thành viên mới thông qua các nhóm công khai và riêng tư. Các tài khoản giả mạo thường được sử dụng để tạo lòng tin và tiếp cận đối tượng mục tiêu. Với đặc thù lan truyền thông tin và công khai, X thường là nơi các tổ chức khủng bố dễ dàng lan truyền thông điệp, còn TikTok chủ yếu nhắm đến đối tượng trẻ, lan truyền nội dung dưới dạng video ngắn, dễ tiếp cận, kết hợp với âm nhạc hoặc hình ảnh hấp dẫn để tạo tác động mạnh mẽ.

Đối tượng dễ bị nhắm đến thường là thanh thiếu niên, đặc biệt là những người đang tìm kiếm ý nghĩa cuộc sống hoặc cảm thấy bị cô lập. Chiêu trò các đối tượng thánh chiến sử dụng là khai thác các nội dung được cá nhân hóa để kích động sự đồng cảm hoặc lòng trung thành, lợi dụng văn hóa đại chúng và lồng ghép những nội dung tiêu cực.

Thanh thiếu niên thường trải qua giai đoạn tìm kiếm bản sắc cá nhân và ý nghĩa cuộc sống, và đặc biệt những thanh thiếu niên cảm thấy bị xã hội hoặc gia đình bỏ rơi dễ bị lôi kéo thông qua các thông điệp về cộng đồng và sự chấp nhận vô điều kiện, do đó các tổ chức khủng bố dễ lợi dụng điều này để định hình tư duy, trình bày một “mục tiêu lớn lao” hoặc “sứ mệnh”. Đây cũng là những chiêu thức mà IS từng khai thác triệt để trong giai đoạn đỉnh cao của hoạt động, với các chiến dịch truyền thông xã hội bằng nhiều ngôn ngữ để chiêu mộ thanh thiếu niên phương Tây. Một số video thể hiện hình ảnh các chiến binh trẻ tuổi như “anh hùng” trong một cộng đồng đoàn kết. Tại Đông Phi, các nhóm như al-Shabaab thường xuyên nhắm đến thanh thiếu niên thông qua các lời mời tham gia “cuộc thánh chiến” để bảo vệ cộng đồng Hồi giáo khỏi “kẻ thù”.

Các nhóm người yếu thế trong xã hội như người tị nạn, dân di cư cũng dễ bị lợi dụng về tâm lý mong muốn ổn định với cuộc sống tốt đẹp hơn, do thiếu thông tin và điều kiện sống thiếu thốn. Những kẻ cực đoan còn thường lợi dụng yếu tố văn hóa và tôn để thuyết phục rằng tham gia các tổ chức này là hành động “chính nghĩa”.

Ném đá dò đường

Mỹ là một trong những quốc gia đi đầu trong nỗ lực kiểm soát các hoạt động cực đoan bén rễ và lan truyền trên mạng xã hội. Chính phủ Mỹ chia sẻ cơ sở dữ liệu về các tổ chức và cá nhân bị cho là có liên quan đến hoạt động cực đoan; đổi lại, các công ty công nghệ phản hồi cho cơ quan chức năng khi phát hiện nội dung đáng ngờ, các tổ chức dân sự và chính quyền đã thành lập các nhóm công tác chung để chia sẻ thông tin và phối hợp hành động.

Trong quá trình này, công nghệ AI được ứng dụng nhằm nhận diện hình ảnh, biểu tượng, logo của các tổ chức cực đoan, xây dựng công cụ xử lý ngôn ngữ tự nhiên để phân tích văn bản, phát hiện từ ngữ và cách diễn đạt liên quan đến cực đoan, và thuật toán học máy được khai thác để nhận diện mô hình lan truyền nội dung cực đoan. Tuy nhiên, cách làm này đang cùng lúc đặt ra nhiều bài toán về việc cân bằng giữa an ninh và quyền tự do ngôn luận, khó khăn trong việc phân biệt nội dung hợp pháp và bất hợp pháp và đi kèm rủi ro AI có thể gỡ bỏ nhầm nội dung bị hiểu sai là vi phạm.

Mạng xã hội và chủ nghĩa cực đoan có thể trở thành một hỗn hợp độc hại.

Liên minh châu Âu (EU) cũng xây dựng khung pháp lý để đối phó với làn sóng rủi ro và tiềm ẩn nhiều nguy cơ này như Quy định về ngăn chặn nội dung khủng bố trực tuyến (TCO) - Quy định (EU) 2021/784 - ban hành từ tháng 6/2022, theo đó các doanh nghiệp Internet tại EU phải thực hiện các biện pháp nhanh chóng để ngăn chặn việc sử dụng sai mục đích các dịch vụ của họ cho việc phát tán nội dung khủng bố. Giới chức nhấn mạnh việc ban hành cơ chế này nhằm ngăn chặn những kẻ khủng bố dễ dàng lợi dụng Internet để tuyển dụng, khuyến khích tấn công, đào tạo và tôn vinh hành vi cực đoan.

Theo giới chức, nhiều vụ việc như cuộc tấn công khủng bố phát trực tiếp tại Christchurch, New Zealand năm 2019 và tại Buffalo, Mỹ vào tháng 5/2022 là những lý do khiến TCO càng có giá trị. EU thành lập cơ quan có thẩm quyền tại mỗi nước thành viên để giám sát việc thực hiện và quy định mức phạt cao (khoảng 4% doanh thu toàn cầu) nếu vi phạm; đồng thời buộc các doanh nghiệp liên quan phải có báo cáo định kỳ về các biện pháp đã thực hiện. Liên minh cũng tăng cường phối hợp với Cơ quan Cảnh sát Quốc tế (Interpol) và Cơ quan Cảnh sát châu Âu (Europol), chia sẻ thông tin với các nước đối tác cũng như tham gia các diễn đàn toàn cầu về chống khủng bố trực tuyến.

Năm 2016, Meta, Microsoft, YouTube, và Twitter (nay là X) thành lập Diễn đàn Internet Toàn cầu chống khủng bố (GIFCT) để đối phó với các nội dung cực đoan trực tuyến với nhiệm vụ chính là chia sẻ các biện pháp kỹ thuật nhằm loại bỏ nội dung bạo lực và cực đoan. Cuối năm 2019, nỗ lực xin gia nhập GIFCT của TikTok thất bại do lo ngại về mối liên hệ với chính phủ Trung Quốc và các lỗi trong quản lý nội dung. X sau đó cũng rời khỏi hội đồng quản trị GIFCT trong bối cảnh tranh cãi về cách quản lý nội dung và tài chính. GIFCT hoạt động với ngân sách khoảng 4 triệu USD/ năm, chủ yếu dựa vào đóng góp tự nguyện từ các thành viên. Xung đột nội bộ phát sinh khi các công ty lớn cảm thấy các thành viên nhỏ đang “lợi dụng” các thành viên lớn hơn với các khoản đóng góp hàng triệu USD như Microsoft, Meta, và Google.

Về cơ bản, GIFCT sử dụng cơ sở dữ liệu hash để chia sẻ mã hóa các nội dung cực đoan, giúp các thành viên nhanh chóng phát hiện và loại bỏ nội dung vi phạm, tuy nhiên, thiếu minh bạch trong việc kiểm tra và đảm bảo chất lượng, dẫn đến những sai sót như video âm nhạc vô hại bị gắn nhãn sai. Bên cạnh đó, Hội đồng quản trị bị chỉ trích là quá tập trung vào Bắc Mỹ và châu Âu, thiếu sự chú ý đến các khu vực như châu Phi và châu Á, làm dấy lên những lời kêu gọi về cải thiện sự đa dạng và minh bạch trong quản trị.

Dù các quốc gia riêng lẻ và một số tổ chức quốc tế đã có những bước tiến trong việc điều chỉnh và giám sát việc sử dụng các nền tảng này, quy mô và tính phức tạp của vấn đề đòi hỏi phương pháp tiếp cận toàn diện và hợp tác hơn. Vấn đề càng đặc biệt khó khăn đối với các quốc gia đang phát triển khi họ thường xuyên phải đối mặt với các vấn đề như nguồn lực hạn chế, khó khăn lớn trong việc kiểm soát các nội dung cực đoan trực tuyến, và những nỗ lực này nhiều khi bị suy yếu do thiếu mức độ hợp tác toàn cầu và chuyên môn công nghệ.

Giải pháp cho những “Gót chân Achilles”

Công nghệ đang giúp mầm mống cực đoan trở thành những vấn đề xuyên biên giới, trở thành thách thức mà các quốc gia không thể tự mình chống đỡ. Hợp tác quốc tế do đó là một yếu tố cốt lõi trong cuộc chiến chống nội dung cực đoan trực tuyến. Các nước đang phát triển, vốn đối mặt với hạn chế về nguồn lực và chuyên môn công nghệ, cần nhận được sự hỗ trợ nhiều hơn từ các quốc gia phát triển thông qua các chương trình đào tạo, chuyển giao công nghệ và chia sẻ thông tin tình báo. Việc tham gia vào các sáng kiến như GIFCT hoặc hợp tác với Interpol, Europol cũng là những hướng đi hiệu quả để tạo ra một mạng lưới toàn cầu đối phó với mối đe dọa chung.

Về phần mình, các công ty công nghệ lớn cần nhận thức rõ trách nhiệm xã hội trong việc cân bằng giữa lợi nhuận và an toàn cộng đồng. Điều này đòi hỏi họ không chỉ tuân thủ các quy định pháp lý của từng quốc gia mà còn phải chủ động xây dựng các quy tắc nội bộ, đầu tư vào nghiên cứu công nghệ nhận diện nội dung chính xác hơn và thúc đẩy hợp tác đa phương, thông qua các sáng kiến như thành lập hội đồng giám sát nội dung độc lập hay cơ chế báo cáo minh bạch để xây dựng niềm tin từ cộng đồng.

Cuối cùng, việc kiểm soát nội dung cực đoan không thể chỉ dừng lại ở khía cạnh kỹ thuật hay pháp lý, và cũng không thể chỉ là con đường một chiều mà cần một cách tiếp cận toàn diện hơn, trong đó giáo dục và nâng cao nhận thức cộng đồng mới là yếu tố quyết định sự thành bại. Việc trang bị cho người dùng kỹ năng nhận diện thông tin sai lệch, phân biệt nội dung mang tính chất nguy hiểm với phản biện xã hội sẽ giúp xây dựng một môi trường trực tuyến lành mạnh và bền vững hơn. Đây cũng là hướng đi dài hạn và căn cơ cho cuộc chiến ngăn những tư tưởng cực đoan vươn vòi bạch tuộc trên không gian mạng.

Thái Hân