Công cụ Grok gây tranh cãi khi tạo ảnh nhạy cảm của phụ nữ và trẻ em

Biểu tượng Grok. Ảnh: China Daily

Theo tờ The Guardian, nhiều hình ảnh cho thấy phụ nữ và trẻ vị thành niên bị chỉnh sửa để trông như đã bị cởi bỏ quần áo hoặc mặc đồ lót gợi dục tiếp tục lan truyền trên X, làm dấy lên lo ngại nghiêm trọng về xâm phạm quyền riêng tư và an toàn người dùng. Đây là làn sóng nội dung gây tranh cãi bùng phát mạnh từ cuối năm 2025, sau khi Grok được cập nhật tính năng chỉnh sửa ảnh.

Trước tình trạng này, Cơ quan quản lý truyền thông Anh (Ofcom) cho biết đã liên hệ khẩn cấp với X và xAI để yêu cầu làm rõ các biện pháp mà doanh nghiệp này đang áp dụng nhằm tuân thủ nghĩa vụ pháp lý trong việc bảo vệ người dùng tại Anh. Ofcom nhấn mạnh sẽ cân nhắc mở cuộc điều tra chính thức nếu phản hồi từ phía công ty không thỏa đáng.

Không chỉ tại Anh, Ủy ban châu Âu cũng xác nhận đang xem xét nghiêm túc các khiếu nại liên quan đến việc Grok bị sử dụng để tạo và phát tán hình ảnh khiêu dâm có chứa hình trẻ em, trong bối cảnh Liên minh châu Âu siết chặt quản lý các nền tảng công nghệ theo Đạo luật Dịch vụ Kỹ thuật số (DSA).

Theo các nhà nghiên cứu của tổ chức phi lợi nhuận AI Forensics (Pháp), trong hơn 20.000 hình ảnh do Grok tạo ra được phân tích trong giai đoạn từ 25/12 đến 1/1, hơn một nửa là hình ảnh con người trong trạng thái “ăn mặc thiếu vải” như đồ lót hoặc bikini, phần lớn là phụ nữ trẻ. Đáng chú ý, khoảng 2% hình ảnh được đánh giá là có dấu hiệu liên quan đến người dưới 18 tuổi, trong đó có cả trẻ nhỏ.

Nhiều trường hợp cụ thể đã gây phẫn nộ dư luận. Một số phụ nữ cho biết hình ảnh cá nhân của họ bị chỉnh sửa mà không hề có sự đồng ý. Một nữ diễn viên 14 tuổi cũng bị tạo ảnh mặc bikini từ hình ảnh gốc, làm dấy lên làn sóng chỉ trích dữ dội từ các tổ chức bảo vệ quyền phụ nữ và trẻ em.

Trước phản ứng toàn cầu, tỷ phú Elon Musk tuyên bố rằng bất kỳ ai sử dụng Grok để tạo nội dung bất hợp pháp sẽ phải chịu hậu quả tương tự như việc đăng tải nội dung trái phép lên nền tảng. Người phát ngôn của X cũng khẳng định công ty có chính sách xóa nội dung vi phạm, đình chỉ vĩnh viễn tài khoản và phối hợp với cơ quan chức năng khi cần thiết, đặc biệt với các nội dung xâm hại tình dục trẻ em.

Tuy nhiên, giới chuyên gia và các nghị sĩ Anh cho rằng những tuyên bố này chưa đủ sức răn đe nếu không đi kèm hành động cụ thể. Dù Quốc hội Anh đã thông qua luật từ giữa năm 2025, coi việc tạo hoặc yêu cầu tạo hình ảnh nhạy cảm không có sự đồng ý là hành vi phạm pháp, nhưng các điều khoản quan trọng vẫn chưa được thực thi, khiến việc xử lý vi phạm gặp nhiều khó khăn.

Các nhà lập pháp cảnh báo rằng công nghệ “lột đồ bằng AI” đang phát triển nhanh hơn khung pháp lý hiện hành. Nếu chính phủ và các nền tảng công nghệ không hành động quyết liệt, nguy cơ xâm hại nhân phẩm, đặc biệt đối với phụ nữ và trẻ em, sẽ ngày càng nghiêm trọng trong kỷ nguyên trí tuệ nhân tạo.

Bảo Hân/Báo Tin tức và Dân tộc