ChatGPT bị khiếu nại về quyền riêng tư

Hình ảnh: Noyb

ChatGPT tạo ra câu chuyện ảo giác: "Vụ án đã gây chấn động cộng đồng địa phương…"

Nhóm bảo vệ quyền riêng tư Noyb đang hỗ trợ một người dùng ở Na Uy bị ChatGPT vu cáo tội giết hai con và cố gắng giết người con thứ ba. Khác với những khiếu nại trước đây về việc ChatGPT tạo dữ liệu cá nhân sai lệch (ví dụ: ngày sinh, tiểu sử), trường hợp này nghiêm trọng hơn nhiều.

Noyb nhấn mạnh rằng OpenAI không cung cấp cách chỉnh sửa thông tin sai lệch này, vi phạm quyền chỉnh sửa dữ liệu cá nhân theo GDPR của EU. Luật bảo vệ dữ liệu cũng yêu cầu bên kiểm soát dữ liệu đảm bảo tính chính xác của dữ liệu cá nhân do họ tạo ra, điều mà Noyb cho rằng OpenAI đã không tuân thủ.

ChatGPT trả lời câu hỏi "Arve Hjalmar Holmen là ai?" (tên người khiếu nại) bằng một câu chuyện bịa đặt bi thảm rằng anh ta bị kết tội giết trẻ em và lĩnh án 21 năm tù vì giết hai con trai của mình. Ảnh chụp màn hình

Cụ thể, khiếu nại mới của Noyb nhắm vào việc cảnh báo các cơ quan quản lý quyền riêng tư về nguy cơ AI phát ra thông tin sai lệch ảnh hưởng nghiêm trọng đến quyền cá nhân. Trường hợp ChatGPT đưa ra thông tin Hjalmar Holmen giết trẻ em là sai sự thật, dù chatbot cung cấp đúng một số thông tin cá nhân (số con, giới tính con, quê quán), càng làm nổi bật tính chất đáng lo ngại của việc AI tạo ra những thông tin sai lệch nghiêm trọng.

Noyb cho biết họ không thể xác định nguyên nhân ChatGPT tạo ra thông tin sai lệch này, sau khi đã loại trừ khả năng nhầm lẫn với người khác và tìm kiếm trong kho lưu trữ báo chí.

Sau câu trả lời ảo giác và hoàn toàn bịa đặt, ChatGPT đã cập nhật mô hình AI cơ bản và ngừng tạo thông tin sai lệch về Hjalmar Holmen.

Khi được hỏi "Arve Hjalmar Holmen là ai?", ChatGPT ban đầu hiển thị ảnh của nhiều người khác nhau từ các trang web như Instagram, SoundCloud và Discord, kèm theo thông báo "không thể tìm thấy bất kỳ thông tin nào". Lần thử thứ hai lại xác định Arve Hjalmar Holmen là "một nhạc sĩ người Na Uy" với các album như "Honky Tonk Inferno".

Thay đổi này có thể do công cụ hiện tìm kiếm thông tin trực tuyến về mọi người khi được hỏi về danh tính của họ, thay vì dựa vào dữ liệu huấn luyện hạn chế trước đây.

Mặc dù thông tin sai lệch nguy hiểm về Hjalmar Holmen đã giảm, cả Noyb và Holmen vẫn lo ngại về việc lưu trữ thông tin không chính xác về anh ta trong mô hình AI.

Việc điều tra khiếu nại quyền riêng tư đối với ChatGPT đã diễn ra như thế nào?

Vi phạm GDPR có thể dẫn đến phạt nặng, lên đến 4% doanh thu toàn cầu hàng năm, và yêu cầu thay đổi sản phẩm AI. Ví dụ, cơ quan giám sát Ý đã tạm thời cấm ChatGPT vào năm 2023, buộc OpenAI phải sửa đổi thông tin tiết lộ cho người dùng và sau đó phạt công ty 15 triệu euro vì xử lý dữ liệu bất hợp pháp.

Tuy nhiên, các cơ quan giám sát quyền riêng tư châu Âu đang tiếp cận GenAI một cách thận trọng hơn, tìm cách áp dụng GDPR một cách phù hợp. DPC Ireland, cơ quan thực thi GDPR hàng đầu trong vụ kiện Noyb ChatGPT, kêu gọi không vội vàng cấm các công cụ GenAI.

Cuộc điều tra của cơ quan giám sát Ba Lan từ tháng 9/2023 về khiếu nại quyền riêng tư đối với ChatGPT cho đến nay vẫn chưa có kết quả.

Các mô hình ngôn ngữ lớn dự đoán từ tiếp theo dựa trên dữ liệu khổng lồ. Do đó, việc ChatGPT đưa ra những phản hồi gây sốc, ví dụ như liên quan đến giết con, có thể xuất phát từ nội dung nhạy cảm có trong dữ liệu huấn luyện của nó.

Dù lý do là gì, những kết quả như vậy là không thể chấp nhận được và là bất hợp pháp theo luật bảo vệ dữ liệu EU. Mặc dù OpenAI có tuyên bố từ chối trách nhiệm nhỏ ("ChatGPT có thể mắc lỗi. Hãy kiểm tra thông tin quan trọng"), điều này không miễn trừ trách nhiệm của nhà phát triển AI trong việc tránh tạo ra thông tin sai lệch nghiêm trọng về mọi người.

Noyb nhấn mạnh ChatGPT thường xuyên tạo ra thông tin sai lệch và gây tổn hại về mặt pháp lý, chẳng hạn như cáo buộc tham nhũng đối với một thiếu tá người Úc hoặc vu khống một nhà báo người Đức về tội xâm hại trẻ em, cho thấy đây là một vấn đề hệ thống. Các cuộc điều tra về hiện tượng "ảo giác" của ChatGPT vẫn đang diễn ra ở nhiều quốc gia châu Âu.

Nguồn: The Verge

Minh Phú