ĐBQH: Làm rõ trách nhiệm bồi thường, quản lý rủi ro, bảo vệ người dùng AI

Nguy cơ AI bị lợi dụng để tạo hình ảnh, thông tin giả mạo

Thảo luận ở Tổ về dự án Luật Trí tuệ nhân tạo, đại biểu Nguyễn Phương Thủy (đoàn Hà Nội) cho rằng, việc áp dụng mô hình quản lý rủi ro theo bốn cấp độ, dựa trên kinh nghiệm quốc tế và các khung pháp lý đã hình thành, sẽ giúp tập trung nguồn lực vào những hệ thống AI. Đồng thời bảo đảm các nguyên tắc minh bạch, công bằng và trách nhiệm giải trình, với con người là trung tâm. Dự thảo luật cũng đưa ra định hướng thúc đẩy đổi mới sáng tạo, phát triển hạ tầng và nhân lực chất lượng cao, nhằm hình thành khung pháp lý hỗ trợ thay vì cản trở sự phát triển công nghệ.

Tuy vậy, đại biểu cũng cảnh báo AI tiềm ẩn rủi ro vượt ngoài khả năng kiểm soát của người dân lẫn cơ quan quản lý nên việc ban hành luật là cần thiết. Bà đặc biệt lưu ý quy định tại Điều 30 về trách nhiệm bồi thường, đánh giá việc yêu cầu bên triển khai hệ thống AI bồi thường trước là phù hợp, nhưng dự thảo chưa làm rõ trường hợp hệ thống bị chiếm đoạt hoặc tấn công trái phép. Với các sự cố như tin tặc can thiệp vào AI y tế gây sai lệch chẩn đoán, đại biểu cho rằng không thể mặc nhiên giao toàn bộ trách nhiệm cho đơn vị vận hành, trách nhiệm chính phải thuộc về bên chiếm đoạt theo quy định về nguồn nguy hiểm cao độ.

Đại biểu Nguyễn Phương Thủy (đoàn Hà Nội)

Đại biểu cũng nhấn mạnh việc buộc người bị hại chứng minh lỗi của AI là bất khả thi, bởi hệ thống vận hành theo cơ chế “hộp đen”. Đại biểu Thủy đề xuất: “Đảo ngược nghĩa vụ chứng minh với AI. Cụ thể, bên bị kiện phải chứng minh mình không có lỗi. Đồng thời theo đại biểu cần phân biệt rõ AI số và AI vật lý để áp dụng cơ chế bồi thường tương ứng”.

Ở góc độ quyền con người, đại biểu đề nghị hoàn thiện danh mục hành vi bị cấm và mở rộng nhóm dễ bị tổn thương, gồm người dân tộc thiểu số, người nghèo và nhóm không có khả năng tiếp cận công nghệ như người già, trẻ em nhằm bảo vệ tốt hơn trước các nguy cơ lạm dụng AI.

Phát biểu tại phiên thảo luận, đại biểu Nguyễn Anh Trí (đoàn Hà Nội) cũng bày tỏ sự hoan nghênh đối với Bộ Khoa học và Công nghệ khi xây dựng dự luật về trí tuệ nhân tạo (AI), một lĩnh vực còn rất mới trên thế giới nhưng Việt Nam đã chủ động nghiên cứu từ sớm. Ông cho rằng việc ban hành luật sẽ tạo “cú huých” quan trọng thúc đẩy sự phát triển của AI.

Về an toàn AI, đại biểu Trí cho rằng, đây phải là nguyên tắc xuyên suốt. Nếu không bảo đảm an toàn, AI có thể tạo ra những hệ lụy nguy hiểm. Ông góp ý làm rõ một số thuật ngữ tại Điều 3, đặc biệt khái niệm “rủi ro hệ thống”, hiện còn mơ hồ và dễ hiểu sai.

Ông Trí đặc biệt cảnh báo về nguy cơ AI bị lợi dụng để tạo hình ảnh, thông tin giả mạo, bôi nhọ danh dự cá nhân. Ông nêu thực tế, các hình ảnh giả lan truyền rất nhanh, phạm vi toàn cầu, gây hậu quả nặng nề và lâu dài. Vì vậy, luật cần có cơ chế xử lý mạnh, không chỉ phạt tiền mà phải có biện pháp công nghệ và chế tài đủ sức răn đe, bởi một khi thông tin giả đã lan truyền thì “không thể gỡ bỏ hoàn toàn”.

Con người và văn hóa là trung tâm

Còn đại biểu Bùi Hoài Sơn (đoàn Hà Nội) cho rằng, đây là đạo luật đầu tiên điều chỉnh một lĩnh vực công nghệ mới, đang và sẽ tác động sâu rộng đến mọi mặt đời sống kinh tế, văn hóa - xã hội, giáo dục cũng như cách con người lao động và sáng tạo.

Đại biểu Sơn nói: “Tôi đồng tình với các chính sách phát triển AI gắn với bền vững và bảo tồn bản sắc. Dự thảo cần quy định rõ hơn khuyến khích ứng dụng AI trong bảo tồn di sản, sáng tạo nghệ thuật, phát triển công nghiệp văn hóa; đồng thời xác định dữ liệu văn hóa - lịch sử, ngôn ngữ Việt Nam là tài nguyên chiến lược cho mô hình AI tiếng Việt”.

Đại biểu cho hay, AI là cơ hội rút ngắn khoảng cách phát triển nhưng cũng là phép thử về bản lĩnh văn hóa và năng lực quản trị. Ông ủng hộ ban hành Luật Trí tuệ nhân tạo theo hướng luật khung, lấy con người và văn hóa làm trung tâm, và đề nghị cơ quan soạn thảo tiếp tục nghiên cứu, tiếp thu sâu hơn các nội dung đã nêu.

Góp ý vào dự án Luật Trí tuệ nhân tạo, đại biểu Tô Ái Vang (đoàn Cần Thơ) cho rằng, AI là một lĩnh vực mới, phát triển nhanh chóng và có nhiều rủi ro tiềm tàng. Nên cần thiết phải quy định cụ thể về các hành vi bị nghiêm cấm, để cung cấp ranh giới pháp lý minh bạch cho các tổ chức, doanh nghiệp và cá nhân, giúp họ biết được những hoạt động nào là không được phép và được phép, từ đó định hướng phát triển và ứng dụng AI một cách có trách nhiệm. Đó cũng là căn cứ quan trọng để các quy định của pháp luật có liên quan làm cơ sở xử lý khi có vi phạm, bảo vệ người dân và xã hội. Giúp các cơ quan quản lý nhà nước có căn cứ pháp lý vững chắc để thanh tra, kiểm tra và xử phạt các hành vi vi phạm, đảm bảo việc triển khai AI trong tầm kiểm soát an toàn.

Đại biểu Tô Ái Vang (đoàn Cần Thơ)

Đại biểu Vang nhận định: “Thậm chí, AI có thể bị 1 số đối tượng xấu, lợi dụng để tấn công mạng, xâm phạm bí mật nhà nước, gây mất an toàn hệ thống thông tin quan trọng. Dự thảo Luật này, bổ sung điều khoản cụ thể về các hành vi bị nghiêm cấm, sẽ góp phần cụ thể hóa nguyên tắc này bằng việc ngăn chặn các hệ thống AI thao túng nhận thức, hành vi sai lệch”.

Ánh Phương/VOV.VN