Trách nhiệm tổ chức, cá nhân trong quản lý hệ thống trí tuệ nhân tạo

Theo dự thảo, cán bộ, công chức, viên chức và người lao động trong cơ quan nhà nước khi sử dụng hệ thống trí tuệ nhân tạo, bao gồm mô hình ngôn ngữ lớn, phải tuân thủ pháp luật Việt Nam, bảo đảm an toàn, bảo mật thông tin và tôn trọng quyền con người. Việc ứng dụng AI trong hoạt động công vụ cần phù hợp thuần phong mỹ tục, đạo đức xã hội, không gây ảnh hưởng tiêu cực đến uy tín, hoạt động của cơ quan, tổ chức.

Dự thảo quy định, thông tin cung cấp cho hệ thống AI phải được kiểm soát chặt chẽ, không vi phạm quyền sở hữu trí tuệ, bản quyền, chủ quyền lãnh thổ hoặc các giá trị lịch sử, văn hóa của Việt Nam. Việc sử dụng tài khoản AI phải độc lập với tài khoản công vụ, đồng thời không dùng mật khẩu trùng lặp để bảo đảm an toàn thông tin.

Ảnh minh họa

Các cơ quan, đơn vị sử dụng AI có trách nhiệm đào tạo, hướng dẫn cán bộ sử dụng đúng chức năng, mục đích; bảo đảm quản lý truy cập, phân quyền và bảo mật tài khoản. Nếu phát hiện mất kiểm soát hoặc giả mạo tài khoản AI, cần báo ngay cho đơn vị triển khai để xử lý và thông tin cho cơ quan chức năng. Đồng thời, cơ quan, đơn vị phải giám sát, xử lý vi phạm trong quá trình triển khai, sử dụng AI trong phạm vi quản lý và xây dựng cơ sở dữ liệu tri thức chuyên ngành phục vụ ứng dụng AI phù hợp nghiệp vụ.

Cá nhân sử dụng AI trong công vụ phải tự chịu trách nhiệm về hành vi và nội dung cung cấp lên hệ thống.

Dự thảo cũng nhấn mạnh, Nhà nước ưu tiên nguồn lực để xây dựng các bộ dữ liệu lớn, chất lượng cao của Việt Nam, đặc biệt dữ liệu phục vụ huấn luyện các mô hình ngôn ngữ lớn tiếng Việt và mô hình AI chuyên ngành cho quản trị quốc gia. Đồng thời, quy định rõ các yêu cầu kỹ thuật, bảo mật đối với hệ thống AI được sử dụng trong cơ quan thuộc hệ thống chính trị, bảo đảm an toàn, hiệu quả và tuân thủ pháp luật.

Hiện Bộ Khoa học và Công nghệ đang tiếp tục lấy ý kiến góp ý từ các cơ quan, tổ chức, chuyên gia và người dân thông qua Cổng Thông tin điện tử của Bộ, làm cơ sở hoàn thiện dự thảo, trình cấp có thẩm quyền xem xét ban hành.

Thiên Bình