Lỗ hổng từ trí tuệ nhân tạo

Việc sử dụng AI không đúng quy định có thể gây mất an toàn thông tin, làm lộ lọt bí mật quân sự. Đồ họa: Diệp Chi

Có bao giờ chúng ta tự hỏi, một dòng lệnh được gõ vào ô tìm kiếm của ChatGPT, Gemini hay một hình ảnh văn bản tải lên để nhờ AI dịch thuật sẽ đi về đâu? Liệu chúng có hoàn toàn biến mất sau khi chúng ta đóng trình duyệt? Trong bối cảnh dữ liệu được ví như tài nguyên chiến lược, mọi thông tin người dùng cung cấp có thể trở thành nguồn dữ liệu để huấn luyện, cải thiện và làm cho các mô hình AI mở thông minh hơn. Nếu đối với dân sự, đó là sự đánh đổi dữ liệu lấy tiện ích hằng ngày, thì trong lĩnh vực quân sự, quốc phòng, một cú nhấp chuột thiếu thận trọng có thể vô tình làm lộ lọt thông tin, bí mật quân sự.

Cơ chế “hút” dữ liệu của các nền tảng AI mở

Các AI tạo sinh hoạt động dựa trên các mô hình ngôn ngữ lớn, trong đó, dữ liệu là nguồn “nguyên liệu” quan trọng, được thu thập từ khối lượng thông tin khổng lồ trên toàn cầu. Khi một nền tảng AI mở được đưa vào sử dụng, bản thân nó có thể đóng vai trò như một trạm thu thập thông tin liên tục được bổ sung, cập nhật. Bản chất của các hệ thống này là ghi nhận và học hỏi từ chính câu lệnh của người dùng.

Khi một quân nhân tải lên bản báo cáo, đoạn mã lập trình hay một tấm ảnh để nhờ tóm tắt, hệ thống có thể không coi đó là một giao dịch khép kín. Toàn bộ dữ liệu đầu vào có nguy cơ được bóc tách, số hóa và lưu chuyển về máy chủ. Sau khi phân tích, thuật toán có thể kết nạp các thông tin này vào cơ sở dữ liệu huấn luyện. Từ đó, dữ liệu nhạy cảm hoàn toàn có nguy cơ bị tái sử dụng hoặc xuất hiện trong những ngữ cảnh ngoài tầm kiểm soát của người cung cấp.

Phân tích sâu hơn về cơ chế này, Đại tá Huỳnh Ngọc Kỳ, Trưởng phòng An toàn thông tin, Bộ Tư lệnh 86 cho biết: “Khi người dùng tải các văn bản lên, hệ thống sẽ tự động số hóa và phân tích toàn bộ nội dung được cung cấp”. Hệ lụy nguy hiểm nhất là những thông tin nội bộ của chúng ta sẽ bị chuyển hóa thành dữ liệu dùng chung. Khi một người khác đặt câu hỏi liên quan, hệ thống có thể sẽ dùng chính những dữ liệu nhạy cảm đó để giải thích và trả lời”.

Những bài học đắt giá từ thực tế

Từ phân tích trên, có thể thấy nguy cơ lộ lọt bí mật quân sự không nhất thiết phải đến từ một cuộc tấn công bẻ khóa phức tạp. Nó có thể đến từ chính cách thức vận hành và sử dụng các mô hình AI mở. Một đoạn văn bản mang dấu “Mật”, khi được đưa cho AI, có thể đã tự động cởi bỏ lớp áo bảo vệ để hòa vào dòng thông tin toàn cầu.

Điều này được chứng minh qua những sự cố nghiêm trọng. Điển hình là vụ việc của một tập đoàn công nghệ Hàn Quốc. Khi bộ phận bán dẫn cho phép kỹ sư sử dụng ChatGPT để hỗ trợ công việc, một số người đã trực tiếp sao chép mã nguồn lỗi, dữ liệu tối ưu hóa thiết bị và cả nội dung họp chiến lược vào khung chat. Hậu quả là những tài sản trí tuệ bí mật của tập đoàn bị lưu trữ ngay trên các máy chủ đám mây của đơn vị cung cấp AI. Tập đoàn này đã phải thiết lập lệnh cấm sử dụng các công cụ AI tạo sinh bên ngoài.

Trong lĩnh vực quân sự, một số quân đội trên thế giới cũng đã ghi nhận nguy cơ rò rỉ thông tin, dữ liệu mật do quân nhân vô tình đưa văn bản, số liệu lên AI để nhờ phân tích, tổng hợp. Do vậy, nhiều nước đã siết chặt quy định, thậm chí nghiêm cấm quân nhân sử dụng AI tạo sinh không được cấp phép, đồng thời kiểm soát chặt việc kết nối máy tính làm việc với mạng Internet.

Nguy cơ bị tấn công chủ động

Việc rò rỉ thông tin đôi khi xuất phát từ những thói quen làm việc hằng ngày. Nhờ AI dịch tài liệu, lập dàn ý văn bản hay lưu trữ đám mây có thể giúp hoàn thành công việc nhanh hơn. Nhưng máy chủ của các nền tảng này lại có thể được đặt tại nước ngoài, chịu sự chi phối của các tập đoàn tư nhân. Kể cả khi không trực tiếp cung cấp tài liệu quân sự, việc vô tư chia sẻ thông tin cá nhân cũng có thể trở thành manh mối tình báo. Các thuật toán học máy có khả năng xâu chuỗi thông tin từ nhiều nguồn độc lập. Một bức ảnh lưu niệm lộ bối cảnh đơn vị, tọa độ định vị từ điện thoại, cùng thông tin tên tuổi và thói quen sinh hoạt đều có thể được tập hợp lại. Từ đó, kẻ xấu dễ dàng phác họa bản đồ hành vi tác chiến, bẻ khóa mật khẩu và nhắm mục tiêu vào các hệ thống dùng chung.

Không chỉ bị thu thập dữ liệu thụ động, các mô hình AI còn đối mặt với nguy cơ bị các thế lực thù địch can thiệp chủ động. Trung tá Nguyễn Thế Hùng, Trưởng phòng Phát triển phần mềm, Viện Nghiên cứu 486, Bộ Tư lệnh 86 nhận định, công nghệ AI vừa là cơ hội, vừa là thách thức lớn đối với quân sự, quốc phòng. Trong tác chiến không gian mạng, nếu các hệ thống AI không được phát triển và kiểm soát an toàn, tin tặc có thể tấn công ngược vào mô hình thông qua việc làm giả dữ liệu, chèn mã độc, khiến AI đưa ra những quyết định sai lệch. “Ngoài ra, việc người dùng cung cấp thông tin cá nhân cho các máy chủ đặt tại nước ngoài có thể tạo điều kiện để đối tượng xấu lợi dụng, bẻ khóa chính hệ thống mà người dùng đăng ký. Do đó, quân nhân cần hết sức cẩn trọng, tránh đưa thông tin cá nhân và hoạt động của đơn vị lên các nền tảng này”-Trung tá Nguyễn Thế Hùng cảnh báo.

Cần thiết lập “kỷ luật số”

Đứng trước những rủi ro trên, Thượng tá, Tiến sĩ Phan Việt Anh, Chủ nhiệm Bộ môn Khoa học máy tính, Viện Công nghệ thông tin và Truyền thông, Học viện Kỹ thuật quân sự khẳng định nguyên tắc bất di bất dịch: Không thể đưa mô hình AI dân sự vào sử dụng tùy tiện trong môi trường quân sự. Sự pha trộn này không chỉ làm lộ lọt thông tin, mà còn có thể dẫn đến những phân tích, phán đoán sai lệch. “AI dân sự có thể triển khai trên đám mây hoặc thuê dịch vụ bên thứ ba. Nhưng trong quân sự, do dữ liệu quốc phòng đặc biệt nhạy cảm nên thường phải triển khai nội bộ. Việc vận hành hệ thống AI quân sự không chỉ đòi hỏi một mô hình thông minh, mà còn phải làm chủ cả về hạ tầng tính toán, dữ liệu, bảo mật và khả năng vận hành độc lập”-Thượng tá, Tiến sĩ Phan Việt Anh phân tích.

Để giải quyết bài toán an toàn thông tin khi sự phát triển của công nghệ là không thể đảo ngược, quân đội đang nỗ lực thiết lập các giới hạn và quy chuẩn. Vì vậy, mọi cán bộ, chiến sĩ phải thực hiện nghiêm quy định của Bộ Quốc phòng về an toàn thông tin mạng. Các AI mở chỉ nên được sử dụng như công cụ tra cứu tri thức phổ thông, tuyệt đối không đưa vào những nội dung liên quan đến yếu tố quân sự. Máy tính, điện thoại di động phải được quản lý chặt chẽ; dữ liệu về đơn vị, huấn luyện, sẵn sàng chiến đấu tuyệt đối không được đưa lên đám mây công cộng hay trợ lý ảo nước ngoài.

Bước vào kỷ nguyên số là bước vào một chiến trường trong suốt, xuyên biên giới và không phân chia chiến tuyến. Trí tuệ nhân tạo vốn là công cụ trung lập, sự ưu việt hay nguy hại phụ thuộc hoàn toàn vào cách con người kiểm soát và cung cấp dữ liệu. Việc bảo vệ thông tin bắt đầu từ chính ý thức của mỗi quân nhân trong mỗi bức ảnh đăng tải, trong từng câu lệnh gõ vào máy tính. Làm chủ công nghệ, trước hết, chính là làm chủ hành vi của mình trên không gian mạng.

Diệp Chi