Hàn Quốc: AI và Deepfake làm gia tăng nỗi lo tội phạm tình dục kỹ thuật số

AI và Deepfake làm gia tăng nỗi lo tội phạm tình dục kỹ thuật số.

Các báo cáo về tội phạm tình dục kỹ thuật số liên quan đến deepfake ở Hàn Quốc đã tăng gấp ba lần vào năm 2024, do sự phát triển nhanh chóng và khả năng tiếp cận ngày càng tăng của công nghệ trí tuệ nhân tạo (AI).

Năm 2024, Trung tâm hỗ trợ nạn nhân tội phạm tình dục kỹ thuật số của nước này đã nhận được 1.384 báo cáo về hình ảnh bị chỉnh sửa được sử dụng trong các hoạt động tội phạm liên quan đến tình dục. Theo dữ liệu do Bộ Bình đẳng giới và Gia đình cùng Viện Nhân quyền Phụ nữ Hàn Quốc công bố hôm thứ Năm, con số này tăng mạnh so với 423 báo cáo năm 2023.

Những người trẻ tuổi, đặc biệt là những người ở độ tuổi thanh thiếu niên, chiếm phần lớn trong số các nạn nhân deepfake, chiếm tới 92,6% các trường hợp.

Bà Park Sung-hye, thuộc trung tâm trên đã nêu bật xu hướng đáng lo ngại khi giới trẻ sử dụng hình ảnh deepfake do AI tạo ra để giải trí. Trả lời tờ Korea JoongAng Daily, bà Park cho biết: "Chúng tôi thấy ngày càng nhiều báo cáo liên quan đến học sinh tiểu học vì các công cụ AI ngày càng dễ tiếp cận, ngay cả đối với trẻ em dưới 10 tuổi".

Bà nói thêm những thủ phạm trẻ tuổi đôi khi sử dụng ảnh của những người chúng quen biết, chẳng hạn như bạn bè hoặc thậm chí là giáo viên.

Trong một ví dụ, một sinh viên tốt nghiệp 24 tuổi và 14 đồng phạm đã nhắm mục tiêu vào các sinh viên nữ từ chính trường đại học của họ bằng cách sử dụng công nghệ deepfake để chồng khuôn mặt của những người phụ nữ lên cơ thể khỏa thân. Họ đã phát tán nội dung khiêu dâm giả mạo trên nền tảng nhắn tin Telegram. Và sự tinh vi ngày càng tăng của AI đã tạo ra những hình ảnh được chỉnh sửa tiên tiến hơn.

Theo tờ The Korea Times, Park cho biết: "Khi trung tâm ra đời năm 2018, hầu hết các hình ảnh bị chỉnh sửa đều là những chỉnh sửa thô thiển, chẳng hạn như thêm chú thích khiêu dâm vào ảnh. Nhưng hiện nay, với sự gia tăng của giới trẻ am hiểu công nghệ, những vấn đề này có khả năng leo thang hơn nữa".

Tổng số người tìm kiếm sự giúp đỡ từ trung tâm hỗ trợ pháp lý năm ngoái đã tăng lên 10.305, đánh dấu mức tăng 14,7 phần trăm so với năm 2023.

Theo tờ Korea JoongAng Daily, phụ nữ chiếm 72,1% những người tìm kiếm sự giúp đỡ, bao gồm xóa phương tiện truyền thông, tư vấn và chuyển trường hợp cho cơ quan thực thi pháp luật.

Năm ngoái, trung tâm vận động đã giúp xóa bỏ 300.237 nội dung bất hợp pháp.

Các trang web có nội dung dành cho người lớn chiếm tỷ lệ bị xóa nội dung cao nhất ở mức 43%, nhưng các nền tảng như Telegram cũng trở thành ổ chứa tội phạm tình dục kỹ thuật số.

Năm ngoái, Telegram đã thiết lập đường dây nóng trực tiếp với cơ quan quản lý truyền thông và cảnh sát Hàn Quốc sau khi chính quyền mở cuộc điều tra xem liệu nền tảng nhắn tin này có tiếp tay cho việc phát tán nội dung khiêu dâm deepfake hay không.

Tháng 1/2025, cảnh sát Seoul đã bắt giữ 14 thành viên của một đường dây tội phạm Telegram trong vụ việc được cho là một trong những vụ án tội phạm tình dục kỹ thuật số lớn nhất cả nước. Đường dây này đã phát tán các vụ lạm dụng được quay phim cũng như nội dung khiêu dâm deepfake của 234 nạn nhân trong 4 năm qua.

(Theo SCMP)

Hải Anh