Cần cơ chế để bảo vệ trẻ em trước các mặt trái của AI

Chủ nhiệm Ủy ban Khoa học, Công nghệ và Môi trường của Quốc hội Nguyễn Thanh Hải

Cần có các quy định về đạo đức trong hoạt động AI

Sáng 21/11, thay mặt Ủy ban Khoa học, Công nghệ và Môi trường (KH,CN&MT) trình bày Báo cáo thẩm tra dự án Luật Trí tuệ nhân tạo (AI), Chủ nhiệm Ủy ban Nguyễn Thanh Hải nêu rõ: Điều 27 dự thảo Luật đã bước đầu xác định các nguyên tắc cơ bản, phù hợp với thông lệ quốc tế như tôn trọng con người, minh bạch, công bằng, không gây hại và bảo vệ quyền riêng tư.

Tuy nhiên, Ủy ban KH,CN&MT nhận thấy, tại nhiều quốc gia, quá trình xây dựng chính sách về trí tuệ nhân tạo thường bắt đầu bằng việc ban hành các khung đạo đức và nguyên tắc hướng dẫn, sau đó mới đánh giá thực tiễn để hoàn thiện và tiến tới xây dựng luật.

Trên cơ sở đó, Ủy ban KH,CN&MT đề nghị Cơ quan chủ trì soạn thảo nghiên cứu bổ sung nguyên tắc chung về đạo đức để giao Chính phủ quy định chi tiết. Trong đó, có tham chiếu các giá trị của UNESCO và OECD, bao gồm các nguyên tắc tôn trọng con người, công bằng, an toàn, minh bạch, giải trình và phát triển bền vững; khuyến khích doanh nghiệp tự xây dựng Bộ quy tắc đạo đức AI nội bộ phù hợp với khung này, công khai với cơ quan quản lý nhà nước theo quy định.

Khách tham quan thích thú với mô hình Robot hình người trình diễn tại Triển lãm A80. Ảnh minh họa

Đồng thời, nghiên cứu việc bổ sung nguyên tắc "chịu trách nhiệm giải trình của các bên liên quan về tác động đạo đức và xã hội của hệ thống AI trong suốt quá trình từ nghiên cứu đến sử dụng hệ thống"; làm rõ mối quan hệ giữa quy tắc đạo đức (tính khuyến nghị) và nghĩa vụ pháp lý (tính bắt buộc).

Bên cạnh đó, theo Ủy ban KH,CN&MT, Điều 28 dự thảo Luật mới chỉ quy định trách nhiệm đạo đức đối với khu vực nhà nước, trong khi các ứng dụng AI của khu vực tư nhân (như y tế, tài chính, giáo dục…) cũng có thể gây ra tác động xã hội và đạo đức tương tự. Do đó, đề nghị Cơ quan chủ trì soạn thảo nghiên cứu, cân nhắc bổ sung nội dung quy định về trách nhiệm đạo đức trong khu vực tư nhân, bảo đảm tính toàn diện trong quy định của Luật.

Bổ sung những quy định riêng nhằm bảo vệ trẻ em

Chủ nhiệm Ủy ban KH,CN&MT Nguyễn Thanh Hải nêu rõ tại Báo cáo thẩm tra dự án Luật: Đối với đối tượng dễ bị tổn thương như trẻ em, AI cũng tiềm ẩn những mặt trái đáng lo ngại như: Khi quá phụ thuộc vào AI để tìm câu trả lời hoặc giải quyết bài tập, trẻ em có nguy cơ mất đi cơ hội rèn luyện khả năng suy nghĩ độc lập, phân tích, và sáng tạo; dễ có hành vi lệch chuẩn; có thể lầm tưởng AI là một người bạn thật sự và hành động theo những lời khuyên từ AI mà những lời khuyên này có thể không phù hợp hoặc nguy hiểm; bị thao túng hoặc lừa đảo...

Luật Trí tuệ nhân tạo cần có những quy định riêng nhằm bảo vệ trẻ em trước các mặt trái của AI, hướng trẻ em sử dụng AI một cách an toàn và lành mạnh. Ảnh minh họa

Chủ nhiệm Ủy ban KH,CN&MT Nguyễn Thanh Hải dẫn chứng: Đạo luật về AI của Italia quy định người dưới 14 tuổi chỉ được dùng AI khi có sự đồng ý của cha, mẹ hoặc người giám hộ; theo đề xuất mới đây, người dùng tại EU phải trên 16 tuổi mới có thể sử dụng AI mà không cần sự đồng ý của cha mẹ; Luật kiểm soát Chatbot AI của Bang California (Hoa Kỳ) quy định, các nền tảng AI bắt buộc phải thông báo rõ cho người dùng dưới 18 tuổi định kỳ 3 giờ/lần về việc họ đang trò chuyện với Chatbot chứ không phải con người".

Trên cơ sở đó, Ủy ban đề nghị Cơ quan chủ trì soạn thảo nghiên cứu bổ sung những quy định riêng nhằm bảo vệ trẻ em trước các mặt trái của AI, hướng trẻ em sử dụng AI một cách an toàn và lành mạnh, trong đó phát huy vai trò, trách nhiệm của phụ huynh, nhà trường trong việc giám sát, nâng cao nhận thức cho trẻ em về AI.

HKD