AI ảo giác, nhưng con người bị còn nhiều hơn

Claude 4 mới ra mắt của Anthropic thông minh hơn, nhưng vẫn bị ảo giác. Ảnh: Anthropic.

Tại sự kiện đầu tiên dành cho nhà phát triển do Anthropic tổ chức ở San Francisco, CEO Dario Amodei cho rằng các mô hình AI hiện tại có thể tạo ra "ảo giác" với tần suất thấp hơn cả con người. "Ảo giác" ở đây được hiểu là hiện tượng AI tạo ra nội dung hư cấu nhưng trình bày như thật.

Amodei nhấn mạnh rằng việc AI xuất hiện ảo giác không cản trở mục tiêu hướng tới AGI (Trí tuệ nhân tạo tổng quát) của Anthropic. "Điều này phụ thuộc vào tiêu chuẩn đo lường của bạn, nhưng tôi nghĩ tần suất ảo giác của các mô hình AI có thể thấp hơn con người, chỉ là cách chúng mắc lỗi gây bất ngờ hơn", ông nói.

Amodei luôn là một trong những tiếng nói tích cực nhất trong ngành về AGI. Ông chia sẻ: "Mọi người luôn muốn tìm ra 'giới hạn trên' AI. Hiện tại, ta hoàn toàn không thấy được những điểm dừng như vậy".

CEO Anthropic là một trong những nhân vật ủng hộ chủ nghĩa "lạc quan AI". Ảnh: Anthropic.

Tuy nhiên, không phải ai cũng đồng tình với quan điểm này. CEO Google DeepMind Demis Hassabis trong tuần này đã chỉ ra rằng các mô hình AI hiện tại "đầy lỗ hổng", thậm chí trả lời sai một số câu hỏi cơ bản.

Cũng có những dấu hiệu cho thấy khi xử lý các tác vụ suy luận phức tạp, một số mô hình mới lại có tỷ lệ vấn đề nghiêm trọng hơn. Các phiên bản o3 và o4-mini của OpenAI có tỷ lệ ảo giác tăng thêm so với các mô hình suy luận trước đó. Thậm chí chính OpenAI cũng không hiểu rõ nguyên nhân.

Amodei cũng đề cập việc con người cũng thường xuyên mắc lỗi. Do đó, ông cho rằng việc AI mắc lỗi không có nghĩa là nó "không đủ thông minh". Tuy nhiên, lãnh đạo Anthropic cũng thừa nhận việc chúng đưa ra thông tin sai lầm với độ tin cậy cực cao dễ gây ra vấn đề.

Phát biểu của Amodei đã mở ra cuộc tranh luận trong cộng đồng AI về khả năng thực sự của các mô hình hiện tại. Một số chuyên gia đồng tình rằng AI đang có tiến bộ đáng kể trong việc giảm thiểu ảo giác. Những người khác lại cảnh báo về rủi ro tiềm ẩn khi AI thể hiện sự tự tin quá mức trong những thông tin không chính xác.

Cuộc thảo luận này phản ánh thách thức lớn mà ngành AI đang đối mặt. Các công ty tìm cách phát triển những hệ thống vừa thông minh và còn đáng tin cậy, có thể kiểm soát được mức độ không chắc chắn trong các phản hồi.

Hùng Phi