Mạng xã hội lợi dụng thuật toán lập lờ để 'bơm đẩy' nội dung xấu

Người dùng có quyền biết cách các nền tảng tạo xu hướng và tẩy chay nếu có nội dung tiêu cực. Ảnh: Digital Trends.

Ngày 28/11 tại Hà Nội, Bộ Thông tin và Truyền thông (Bộ TT&TT) đã tổ chức hội nghị phổ biến Nghị định 147/2024, đưa ra nhiều quy định mới nhằm kiểm soát nội dung trên mạng xã hội và tăng cường trách nhiệm của các nền tảng.

Sự "lập lờ" trong thuật toán phân phối nội dung

Ông Lê Quang Tự Do, Cục trưởng Phát thanh truyền hình và Thông tin điện tử - Bộ Thông tin và Truyền thông, nhận định một số mạng xã hội đã lợi dụng thuật toán phân phối “lập lờ” để lan truyền các nội dung tiêu cực. Theo ông, có những nền tảng cố tình "bơm đẩy" nội dung xấu để tạo xu hướng, trong khi các nội dung tích cực lại không được ưu tiên.

Để đối phó với vấn đề này, Nghị định 147 yêu cầu các mạng xã hội phải mô tả rõ quy trình phân phối nội dung và công khai trong Thỏa thuận Cung cấp Dịch vụ hoặc Tiêu chuẩn Cộng đồng. Các nền tảng này cũng cần cung cấp công cụ tìm kiếm và rà soát nội dung theo yêu cầu của Bộ TT&TT hoặc Bộ Công an.

Theo ông Lê Quang Tự Do, người dùng có quyền biết cách các nền tảng tạo xu hướng. Những mạng xã hội cố tình lan truyền nội dung độc hại sẽ bị xử lý nghiêm khắc, bị tẩy chay.

Ông Lê Quang Tự Do, Cục trưởng Phát thanh truyền hình và Thông tin điện tử, tại sự kiện sáng 28/11 ở Hà Nội. Ảnh: Minh Sơn.

Có hiệu lực từ ngày 25/12, Nghị định 147 cũng yêu cầu tất cả người dùng mạng xã hội tại Việt Nam phải xác thực tài khoản bằng số điện thoại. Với tính năng livestream, người dùng còn phải xác thực bằng số định danh cá nhân, nhằm ngăn chặn tình trạng livestream bán hàng vi phạm pháp luật.

Nền tảng sẽ phải gắn biểu tượng xác thực như tích xanh cho các tài khoản, trang, hoặc kênh của cơ quan nhà nước, tổ chức, doanh nghiệp có pháp nhân tại Việt Nam và cả những cá nhân có ảnh hưởng lớn khi có yêu cầu. "Đây là trách nhiệm, chứ không phải là xin cấp tích xanh", ông Do nhấn mạnh.

Ngoài ra, các nền tảng được yêu cầu xóa bỏ nội dung, dịch vụ, ứng dụng vi phạm pháp luật trong vòng 24 giờ kể từ khi nhận được yêu cầu từ cơ quan chức năng. Tương tự, việc khóa tài khoản, nhóm, hoặc kênh vi phạm cũng phải được thực hiện trong cùng khung thời gian này. Nếu không thực hiện, các tài khoản hoặc trang vi phạm có thể bị khóa vĩnh viễn.

Người nổi tiếng vi phạm sẽ bị hạn chế xuất hiện

Trong năm 2024, Bộ TT&TT đã thực hiện nhiều biện pháp kiểm soát các nội dung vi phạm pháp luật trên mạng xã hội. Tính đến tháng 9, Bộ đã tiếp nhận và xử lý hơn 1.130 phản ánh liên quan đến nội dung xấu độc và sai sự thật. Lực lượng thanh tra đã kiểm tra và xử phạt 55 trường hợp, với tổng số tiền phạt lên đến 555 triệu đồng.

Các nền tảng xuyên biên giới như Facebook, Google và TikTok, cũng đã hợp tác với Bộ để gỡ bỏ hàng nghìn nội dung vi phạm pháp luật Việt Nam. Cụ thể, Facebook đã gỡ 8.981 nội dung vi phạm, Google chặn 6.043 nội dung trên YouTube và TikTok xóa 971 nội dung vi phạm trong năm nay. Tỷ lệ xử lý vi phạm của các nền tảng này đạt trên 90%.

Về quảng cáo, cơ quan quản lý triển khai hệ thống rà quét, xử lý vi phạm với các đại lý, nhãn hàng có sản phẩm quảng cáo xuất hiện trong video có nội dung xấu độc. Các nền tảng xuyên biên giới được yêu cầu sử dụng AI và có đội ngũ nhân sự chuyên trách để kiểm duyệt nội dung, quản lý vị trí hiển thị quảng cáo.

Bà Nguyễn Thị Thanh Huyền, Phó Cục trưởng Cục Phát thanh, truyền hình và Thông tin điện tử. Ảnh: Minh Sơn.

Trong năm 2024, tình trạng quảng cáo xuất hiện trong các nội dung phản cảm hoặc sai sự thật đã giảm 50% so với năm trước. Thứ trưởng Phạm Đức Long đánh giá nền tảng xuyên biên giới đã hợp tác với cơ quan quản lý. Tuy nhiên, các nội dung 'rác' vẫn được đưa lên liên tục. Cục Phát thanh truyền hình và Thông tin điện tử cũng đánh giá các nền tảng hiện vẫn chưa kiểm soát nội dung quảng cáo theo quy định pháp luật Việt Nam.

Do đó, Thứ trưởng cho rằng các nền tảng không thể chỉ xử lý khi có yêu cầu mà cần chủ động rà quét và ngăn chặn vi phạm.

Đối với người nổi tiếng và những cá nhân có ảnh hưởng, năm 2025, Bộ TT&TT sẽ phối hợp với Bộ Văn hóa, Thể thao và Du lịch để triển khai quy chế xử lý khi có vi phạm. Những cá nhân này sẽ bị hạn chế xuất hiện trên các phương tiện thông tin đại chúng, bao gồm phát thanh, truyền hình và báo chí.

"Quy chế chưa được ban hành, mới dự thảo nhưng các địa phương đã bước đầu triển khai và xử lý đối với các trường hợp như vậy theo đúng nguyên tắc", bà Nguyễn Thị Thanh Huyền, Phó Cục trưởng Cục Phát thanh, truyền hình và Thông tin điện tử, cho biết.

Theo bà Huyền, Cục PTTH&TTĐT sẽ phối hợp với các Sở TT&TT tại các địa phương, các cơ quan chức năng tiếp tục thanh tra, kiểm tra, hậu kiểm để xử lý các đối tượng cố tình vi phạm trên các nền tảng, hoạt động cung cấp thông tin trên mạng, trang thông tin điện tử, mạng xã hội...

Thúy Liên - Tuấn Anh