Giới khoa học: AI có thể bị lợi dụng tạo vũ khí sinh học đe dọa sự sống

Điều này diễn ra sau khi nhóm nhà nghiên cứu phát hiện ra một lỗ hổng nghiêm trọng trong phần mềm bảo vệ quyền truy cập vào vật liệu di truyền được sử dụng để tạo ra các protein gây chết người.

Một nhóm nghiên cứu quốc tế triển khai các bản cập nhật để vá lỗ hổng này, nhưng cho biết đây là "zero day" đầu tiên của AI và an ninh sinh học - thuật ngữ được dùng trong tấn công mạng để mô tả điểm mù mà nhà phát triển phần mềm không biết.

Tin tức này nhấn mạnh tính cấp bách ngày càng tăng trong việc xử lý các mối đe dọa tiềm ẩn do việc sử dụng AI gây ra, vì giúp đào sâu và đẩy nhanh quá trình hiểu biết về các hệ thống sống và cách thay đổi chúng. Các chuyên gia đang tìm cách ngăn chặn việc lợi dụng AI để tạo ra vũ khí sinh học và sinh vật tổng hợp có thể đe dọa sự sống trên Trái đất.

“Thiết kế protein bằng AI là một trong những lĩnh vực khoa học thú vị nhất. Chúng ta đã chứng kiến những tiến bộ trong y học và sức khỏe cộng đồng. Song giống nhiều công nghệ mạnh mẽ khác, những công cụ này cũng có thể bị lạm dụng”, theo Eric Horvitz, Giám đốc khoa học Microsoft và là tác giả chính của nghiên cứu mới nhất, được công bố trên tạp chí Science.

Dù những kẻ khủng bố sinh học sẽ cần trình độ chuyên môn cao, thời gian và tiền bạc đáng kể để thực sự tạo ra protein có hại, những rào cản đó nhiều khả năng sẽ biến mất theo thời gian - Ảnh: FT

Trong bài báo trên tạp chí Science, các nhà nghiên cứu đã thực hiện một thử nghiệm trên phần mềm an ninh sinh học được các công ty bán axit nucleic tổng hợp sử dụng để sàng lọc đơn đặt hàng của khách.

Các khách hàng triển khai phần mềm này để xây dựng DNA hướng dẫn sản xuất các protein mong muốn, vốn là những thành phần cấu trúc của sự sống. Việc sàng lọc an ninh sinh học được thiết kế để ngăn chặn việc bán các vật liệu có thể được sử dụng để tạo ra protein có hại.

Các nhà nghiên cứu đã sử dụng phần mềm thiết kế protein mã nguồn mở dựa trên AI để tạo ra mô phỏng tính toán của hơn 75.000 biến thể protein nguy hiểm với sự điều chỉnh cấu trúc - một dạng ngụy trang sinh hóa.

Dù những công cụ sàng lọc hoạt động tốt trong việc đánh dấu các protein đáng lo ngại có nguồn gốc tự nhiên, chúng không phát hiện ra một số protein đã bị biến đổi, theo các nhà khoa học.

Ngay cả sau khi hầu hết công ty áp dụng bản vá phần mềm, khoảng 3% trong số những biến thể protein có khả năng giữ lại chức năng nguy hiểm nhất vẫn lọt qua hệ thống giám sát mà không bị phát hiện.

Những nhà khoa học đã làm việc với các tổ chức như Liên đoàn Tổng hợp Gien Quốc tế và một số cơ quan chức năng Mỹ để giải quyết vấn đề này.

Nghiên cứu trên được đưa ra sau khi một số nhà khoa học hàng đầu kêu gọi đánh giá một cách có hệ thống phần mềm sàng lọc an toàn sinh học và cải thiện quản trị toàn cầu với quá trình tổng hợp protein được AI thúc đẩy.

Thúc đẩy thỏa thuận quốc tế ngăn tạo vi khuẩn có khả năng gây chết người

Các nhà sinh học nổi tiếng cũng đang thúc đẩy một thỏa thuận quốc tế nhằm ngăn chặn việc tạo ra các vi khuẩn "gương" nhân tạo có khả năng gây chết người, nếu việc sản xuất chúng trở nên khả thi về mặt công nghệ.

Eric Horvitz cho biết đã có “mức độ suy ngẫm, nghiên cứu và phương pháp luận sâu” về triển vọng các mô hình ngôn ngữ lớn có thể bị lợi dụng để phục vụ “hành động ác ý liên quan tới sinh học”.

Microsoft đã đưa những khả năng như vậy vào các đánh giá an toàn sản phẩm của mình và có “bộ thực hành ngày càng mở rộng” về red-teaming (đội đỏ).

Nghiên cứu trên tạp chí Science đã nêu bật một "vấn đề cấp bách trong kỹ thuật protein và an toàn sinh học", Francesco Aprile, phó giáo sư ngành hóa sinh học tại Đại học Hoàng gia London (Anh), cho biết.

“Bằng cách giới thiệu những cải tiến có mục tiêu cho phần mềm hiện có, các tác giả đã nâng cao đáng kể khả năng phát hiện và cảnh báo. Công trình này cung cấp một biện pháp bảo vệ thiết thực và kịp thời, củng cố việc sàng lọc tổng hợp DNA hiện hành và thiết lập nền tảng vững chắc cho việc tối ưu hóa tiếp theo”, Francesco Aprile nhấn mạnh.

Các biện pháp phòng thủ đó phải được tăng cường sớm do tốc độ cải tiến kỹ thuật nhanh chóng trong lĩnh vực này, Natalio Krasnogor, theo giáo sư khoa học máy tính và sinh học tổng hợp tại Đại học Newcastle (Anh) Dù những kẻ khủng bố sinh học đầy tham vọng ngày nay sẽ cần chuyên môn, thời gian và tiền bạc đáng kể để thực sự tạo ra các protein có hại, những trở ngại đó sẽ sớm biến mất.

Natalio Krasnogor nói: "Chúng ta cần xem xét vấn đề này một cách nghiêm túc ngay bây giờ, trước khi những tiến bộ hơn nữa trong AI giúp việc xác nhận và sản xuất thử nghiệm các độc tố tổng hợp khả thi trở nên dễ dàng và rẻ hơn nhiều so với hiện nay".

Sơn Vân