Xem xét bổ sung để đảm bảo đầy đủ hơn về quản lý rủi ro đối với trí tuệ nhân tạo

Toàn cảnh Hội thảo

Phó Chủ nhiệm Ủy ban Khoa học, Công nghệ và Môi trường Nguyễn Phương Tuấn chủ trì Hội thảo. Tham dự Hội thảo có Thứ trưởng Bộ Khoa học và Công nghệ; đại diện các Bộ: Công an, Tài chính, Tư pháp, Giáo dục và Đào tạo; các doanh nghiệp trong lĩnh vực công nghiệp công nghệ số, các chuyên gia, nhà khoa học.

Dự thảo Luật Công nghiệp công nghệ số gồm 7 chương, 57 điều. Dự thảo Luật được xây dựng trên cơ sở kế thừa có chọn lọc các quy định còn phù hợp của Luật Công nghệ thông tin và các văn bản hướng dẫn thi hành về công nghiệp công nghệ thông tin; thống nhất với hệ thống pháp luật hiện hành về đầu tư, tài chính, khoa học công nghệ và đồng bộ với các dự án Luật có liên quan để bảo đảm sự thống nhất, đồng bộ trong hệ thống pháp luật, tạo thuận lợi cho thực thi, áp dụng.

Các đại biểu tham dự Hội thảo

Dự án Luật Công nghiệp công nghệ số được xây dựng bám sát vào các nhóm chính sách đã Chính phủ thống nhất thông qua: Hoạt động công nghiệp công nghệ số, sản phẩm, dịch vụ công nghệ số; Bảo đảm phát triển công nghiệp công nghệ số. Dự án Luật cho thấy những góc nhìn mới và quyết liệt hơn trong cách tiếp cận phát triển Công nghiệp Công nghệ số ở Việt Nam, đặc biệt với các chính sách ưu đãi vượt trội hơn cho nhà đầu tư nước ngoài, cũng như chính sách cho doanh nghiệp trong nước tham gia vào lĩnh vực với rất nhiều cơ hội này. Với những sửa đổi quan trọng, nhiều chuyên gia, đại diện các hiệp hội, doanh nghiệp kỳ vọng rằng, Việt Nam có thể trở thành điểm đến hàng đầu trong khu vực Đông Nam Á cho các nhà đầu tư công nghệ số. Muốn biến kỳ vọng này trở thành hiện thực thì Việt Nam phải tăng cường, tạo điều kiện để thu hút đầu tư vào phát triển công nghiệp công nghệ số.

Đảm bảo đầy đủ hơn vấn đề quản lý rủi ro đối với AI

Tại Hội thảo, các đại biểu đã tập trung đóng góp vào các quy định về cơ chế thử nghiệm có kiểm soát sản phẩm, dịch vụ ứng dụng công nghệ số và trí tuệ nhân tạo (AI) được đưa ra trong dự thảo Luật.

Hiện nay, AI đang được thúc đẩy phát triển rất mạnh mẽ tại nhiều quốc gia với tiềm năng ứng dụng vào nhiều lĩnh vực, ngành nghề khác nhau, liên tục sáng tạo ra các sản phẩm mới. Tuy nhiên, hệ thống AI rủi ro cao là hệ thống AI có khả năng gây ra những rủi ro, tổn hại nghiêm trọng tới sức khỏe con người, quyền và lợi ích của con người, lợi ích công cộng và trật tự, an toàn xã hội. Vì vậy, các Bộ, ngành căn cứ vào tình hình thực tế để xây dựng ban hành hướng dẫn quy tắc đạo đức cho việc phát triển, triển khai, sử dụng hệ thống trí tuệ nhân tạo trong lĩnh vực phụ trách.

Bà Chu Thị Hoa, Phó Viện trưởng Viện Khoa học Pháp lý, Bộ Tư pháp

Bà Chu Thị Hoa - Phó Viện trưởng Viện Chiến lược và Khoa học Pháp lý, Bộ Tư pháp cho rằng, khi phát triển, cung cấp và sử dụng AI cần phải bảo đảm tính linh hoạt, thích ứng; thường xuyên được đánh giá, sửa đổi, bổ sung để đáp ứng kịp thời nhu cầu từ thực tiễn. Đồng thời, phải có tính đa dạng, bao trùm phù hợp với độ bao phủ ngày càng rộng trong các lĩnh vực, bởi trong tương lai sự phát triển và triển khai, sử dụng AI sẽ ngày càng đa dạng hơn nữa.

Dự thảo Luật Công nghiệp công nghệ số quy định về hành vi bị cấm tại Điều 11 (trong đó có hành vi liên quan đến AI). Tuy nhiên, theo bà Chu Thị Hoa, Ban soạn thảo dự thảo Luật cần lưu ý ngoài việc quy định hành vi cấm còn cần bổ sung các quy định hạn chế quyền cần xem xét đến các dạng hành vi chỉ được thực hiện theo điều kiện nhất định (ví dụ như việc đưa vào sử dụng các AI có tính rủi ro cao). Những quy định về giới hạn quyền để tuân thủ đúng khoản 2 Điều 14 Hiến pháp năm 2013 cần được quy định tại các văn bản Luật. Do đó, Ban soạn thảo cần xem xét bổ sung để đảm bảo đầy đủ hơn vấn đề quản lý rủi ro đối với AI.

Chính quyền địa phương có thể được tham vấn trong quá trình phê duyệt thử nghiệm

Đóng góp ý kiến vào cơ chế thử nghiệm có kiểm soát được đưa ra trong dự thảo Luật Công nghiệp công nghệ số, ông Nguyễn Đức Lam, Viện Nghiên cứu chính sách và phát triển truyền thông - IPS cho rằng, thay vì được trao thẩm quyền phê duyệt cơ chế thử nghiệm, chính quyền địa phương có thể có thể hỗ trợ các doanh nghiệp tham gia cơ chế thử nghiệm như tài trợ, tạo điều kiện xây dựng, phát triển quan hệ đối tác, ưu đãi thuế hoặc tạo ra các trung tâm đổi mới địa phương hoạt động song song với sáng kiến sandbox quốc gia. Chính quyền địa phương có thể được tham vấn trong quá trình phê duyệt thử nghiệm, đặc biệt nếu đổi mới của doanh nghiệp có ý nghĩa quan trọng đối với địa phương, chẳng hạn như trong các thành phố thông minh hoặc sáng kiến công nghệ tài chính địa phương.

Ông Nguyễn Đức Lam - chuyên gia Viện Nghiên cứu Chính sách và phát triển truyền thông - IPS

Cơ quan soạn thảo dự án Luật có thể bổ sung các quy định sau về trách nhiệm của các Bộ, cơ quan ngang bộ, Ủy ban nhân dân cấp tỉnh (nếu có). Ngoài ra, cần công khai thông tin về quy trình, cơ chế thử nghiệm; tài liệu hướng dẫn; đầu mối liên lạc của Bộ, cơ quan ngang Bộ, UBND cấp tỉnh trên Cổng thông tin điện tử để doanh nghiệp dễ dàng tra cứu, tìm hiểu, liên hệ. Trách nhiệm của cơ quan Nhà nước là phải giải trình trước công chúng khi doanh nghiệp tham gia cơ chế thử nghiệm gây ra thiệt hại đáng kể cho người tiêu dùng hoặc thất bại; phát hành báo cáo minh bạch nêu chi tiết về hiệu suất và kết quả của các thử nghiệm.

Còn về phía doanh nghiệp có thể khiếu nại, khiếu kiện cơ quan quản lý nếu doanh nghiệp tin rằng, cơ quan đó đã không thực hiện tốt các nhiệm vụ của mình. Chẳng hạn, nếu cơ quan hành động tùy tiện, bỏ qua các quy tắc; không hướng dẫn đầy đủ, đúng đắn làm doanh nghiệp bị tổn hại; trì hoãn xem xét, phê duyệt làm doanh nghiệp bị thiệt hại; phân biệt đối xử trong quá trình phê duyệt, giám sát.

Phó Chủ nhiệm Ủy ban Khoa học, Công nghệ và Môi trường Nguyễn Phương Tuấn phát biểu kết luận Hội thảo

Phát biểu kết luận Hội thảo, Phó Chủ nhiệm Ủy ban Khoa học, Công nghệ và Môi trường Nguyễn Phương Tuấn khẳng định tầm quan trọng của việc đóng góp vào các quy định về cơ chế thử nghiệm có kiểm soát sản phẩm, dịch vụ ứng dụng công nghệ số và AI được đưa ra trong dự thảo Luật Công nghiệp công nghệ số. Các ý kiến góp ý tại Hội thảo là cơ sở quan trọng để cơ quan soạn thảo, cơ quan thẩm tra hoàn thiện dự thảo Luật trước trước khi trình Quốc hội xem xét, thảo luận tại kỳ họp thứ 9 tới.

Một số hình ảnh tại Hội thảo:

Toàn cảnh Hội thảo

Các đại biểu tham dự Hội thảo

Ông Nguyễn Long, Phó Chủ tịch Hội Tin học Việt Nam

Đại diện các doanh nghiệp, khách mời tham dự và phát biểu tại Hội thảo

Ông Nguyễn Khắc Lịch, Cục trưởng Công nghiệp công nghệ thông tin, Bộ Khoa học và Công nghệ

Phó Chủ nhiệm Ủy ban Khoa học, Công nghệ và Môi trường Nguyễn Phương Tuấn phát biểu kết luận Hội thảo.

Bích Lan - Trọng Quỳnh