California ban hành luật bảo vệ trẻ em khỏi tội phạm tình dục sử dụng công nghệ AI

Lấp các lỗ hổng pháp lý về AI

Các biện pháp này là một phần trong nỗ lực chung của California nhằm siết chặt các quy định đối với ngành công nghệ tiên tiến sử dụng AI, đang ảnh hưởng lớn đến đến cuộc sống thường ngày của người dân Mỹ nhưng lại chưa được giám sát đầy đủ.

Thống đốc bang California, Mỹ Gavin Newsom. Ảnh: NYT

Deepfake sử dụng các công cụ AI để tạo ra hình ảnh, video hoặc clip âm thanh giống người thật. Mặc dù công nghệ này đã được sử dụng để tạo ra các tác phẩm nghệ thuật, nhưng nó cũng được sử dụng rộng rãi để lừa đảo, tạo nội dung khiêu dâm không có sự đồng thuận và phát tán thông tin sai lệch về chính trị.

Hai luật mới, nhận được sự ủng hộ áp đảo của nghị sĩ lưỡng đảng tại cơ quan lập pháp bang, được kỳ vọng sẽ “lấp các lỗ hổng pháp lý” liên quan đến tội phạm lạm dụng tình dục trẻ em, bằng cách tạo ra các hình ảnh khiêu dâm trẻ em bằng công cụ deepfake; nêu rõ rằng khiêu dâm trẻ em là bất hợp pháp ngay cả khi do AI tạo ra.

Luật hiện hành không cho phép các công tố viên truy tố những đối tượng sở hữu hoặc phân phối hình ảnh lạm dụng tình dục trẻ em do AI tạo ra nếu họ không thể chứng minh được các tài liệu đó mô tả một người cụ thể nào đó. Tuy nhiên, theo luật mới, chỉ riêng hành vi tàng trữ hoặc phân phối hình ảnh lạm dụng trẻ em, bất kể là hình người thật hay do AI tạo ra, đều đủ điều kiện cấu thành trọng tội.

“Mọi hình ảnh lạm dụng trẻ em cho mục đích tình dục đều bất hợp pháp bất kể hình ảnh đó là người thật hay do AI tạo ra", Dân biểu Marc Berman, tác giả của một trong những dự luật, cho biết trong một tuyên bố. “AI được sử dụng để tạo ra những hình ảnh kinh khủng này, và chúng mô phỏng và làm giả từ hàng nghìn hình ảnh trẻ em thực sự ở ngoài đời, khiến những đứa trẻ đó trở thành nạn nhân của một loại tội phạm bỉ ổi”.

Báo động tội phạm tình dục sử dụng deepfake

Vấn nạn sử dụng công nghệ deepfake để tạo ra các nội dung khiêu dâm không mới, nhưng các chuyên gia cho biết tình hình đang trở nên ngày càng tồi tệ hơn khi công nghệ sản xuất các tài liệu deepfake hiện nay vô cùng dễ tiếp cận và dễ sử dụng. Các nhà nghiên cứu đã gióng lên hồi chuông cảnh báo trong hai năm qua về sự bùng nổ của tình trạng lạm dụng tình dục trẻ em do AI tạo ra bằng cách sử dụng hình ảnh nạn nhân thực hoặc nhân vật ảo.

Trước đó, Thống đốc Gavin Newsom cũng đã ký hai dự luật khác để tăng cường các công cụ pháp lý bảo vệ phụ nữ, trẻ em gái vị thành niên khỏi nạn bóc lột và quấy rối tình dục do các công cụ AI tạo ra. Theo luật này, các nền tảng truyền thông xã hội phải tạo điều kiện cho người dùng báo cáo các tài liệu vi phạm.

Công nghệ deepfake có thể tạo ra hình ảnh AI của bất kỳ ai. Ảnh: Techno

Tuy nhiên, các văn bản pháp lý này được đánh giá là chưa đủ mạnh mẽ, theo lời Biện lý Quận Los Angeles George Gascón. Ông Gascón cho biết đối tượng điều chỉnh của luật không nên chỉ bao gồm người lớn có hành vi chia sẻ nội dung khiêu dâm do AI tạo ra mà nên bao gồm cả những người dưới 18 tuổi. Vì hiện nay, tình trạng trẻ vị thành niên sử dụng công nghệ để tạo ra các hình ảnh hay lan truyền hình ảnh khiêu dâm trẻ em vô cùng phổ biến.

Vào tháng 3, một khu học chánh ở Beverly Hills đã đuổi học 5 học sinh trung học sau khi những học sinh này tạo và chia sẻ loạt ảnh khỏa thân của một bạn gái cùng lớp bằng công nghệ deepfake.

Vấn đề này đã thúc đẩy các nghị sĩ lưỡng đảng ở gần 30 bang trên khắp nước Mỹ phải nhanh chóng hành động để bảo vệ các nạn nhân trước tội phạm tình dục sử dụng công nghệ. Một số bang đã đưa ra công cụ pháp lý bảo vệ cho tất cả các đối tượng bất kể giới tính và độ tuổi, trong khi một số nơi chỉ cấm các tài liệu khiêu dâm nhằm vào trẻ em.

Quỳnh Vũ (Theo ABC News)