Trí tuệ nhân tạo bị biến thành công cụ cho hacker

Dark AI là gì?

Dark AI dùng để chỉ việc triển khai ở cấp độ cục bộ hoặc từ xa các mô hình ngôn ngữ lớn (LLMs) không bị giới hạn trong một hệ thống hoàn chỉnh, hoặc nền tảng chatbot, nhằm phục vụ cho các mục đích xấu, phi đạo đức hoặc trái phép.

Những hệ thống này hoạt động bên ngoài các quy chuẩn về an toàn, tuân thủ và kiểm soát quản trị, thường cho phép thực hiện các hành vi như lừa đảo, thao túng, tấn công mạng hoặc khai thác dữ liệu mà không có sự giám sát chặt chẽ.

Đây được xem là mối đe dọa an ninh mạng mới, đặc biệt là tại khu vực châu Á - Thái Bình Dương (APAC), nơi các nhóm tấn công được cho là có sự hậu thuẫn từ chính phủ đang ngày càng tích cực tận dụng công nghệ này.

Trí tuệ nhân tạo đang bị lạm dụng để phát động các cuộc tấn công mạng tinh vi hơn.

Phát biểu tại sự kiện an ninh mạng do Kaspersky tổ chức, ông Sergey Lozhkin, Trưởng nhóm Nghiên cứu và Phân tích toàn cầu (GReAT) phụ trách khu vực APAC, cho biết từ sau khi ChatGPT phổ biến năm 2023, AI vừa trở thành công cụ hỗ trợ hiệu quả, vừa bị biến thành “vũ khí” nguy hiểm.

Các mô hình “Black Hat GPT” như WormGPT, DarkBard, FraudGPT hay Xanthorox được ghi nhận là công cụ để viết mã độc, soạn email lừa đảo thuyết phục, tạo deepfake hay thậm chí hỗ trợ tấn công mạng có chủ đích.

“AI không tự phân biệt được đúng sai. Vấn đề nằm ở cách kẻ xấu tận dụng nó. Khi Dark AI ngày càng dễ tiếp cận, các tổ chức và cá nhân cần chuẩn bị để đối mặt với một kỷ nguyên tấn công mới”, ông Lozhkin nhấn mạnh.

Theo báo cáo, một số chiến dịch tấn công mạng được quốc gia hậu thuẫn đã bắt đầu tích hợp Dark AI để vượt qua các lớp bảo mật, tạo thông điệp giả mạo đa ngôn ngữ và tăng khả năng lừa đảo ở quy mô lớn. OpenAI cũng xác nhận đã ngăn chặn hơn 20 chiến dịch lợi dụng AI cho các hoạt động gây ảnh hưởng và tấn công mạng.

Công ty an ninh mạng Kaspersky khuyến nghị doanh nghiệp cần triển khai giải pháp bảo mật thế hệ mới có khả năng phát hiện mã độc sinh ra từ AI, kết hợp thông tin mối đe dọa theo thời gian thực, siết chặt kiểm soát truy cập và đào tạo nhân viên. Việc thiết lập Trung tâm điều hành an ninh mạng (SOC) cũng được xem là chìa khóa để phát hiện và xử lý sớm các nguy cơ.

Trong bối cảnh Dark AI đang biến đổi cục diện an ninh mạng, giới chuyên gia nhấn mạnh việc chủ động và kỷ luật sẽ là yếu tố giúp giảm thiểu rủi ro.

Tiểu Minh