'Cha đỡ đầu AI': o1 của OpenAI lừa dối giỏi hơn, cần kiểm tra tính an toàn nghiêm ngặt

Yoshua Bengio, nhà khoa học máy tính người Canada đạt giải thưởng Turing và giáo sư tại Đại học Montreal, cho rằng mô hình ngôn ngữ lớn o1 của OpenAI có "khả năng lý luận vượt trội so với các phiên bản trước đó".

"Nói chung, khả năng lừa dối là rất nguy hiểm. Chúng ta cần có các bài kiểm tra an toàn nghiêm ngặt hơn để đánh giá rủi ro đó và hậu quả từ nó trong trường hợp của o1", Yoshua Bengio tuyên bố.

Yoshua Bengio được mệnh danh là "cha đỡ đầu của AI" nhờ nghiên cứu giành giải thưởng Turing năm 2018 về học máy cùng Geoffrey Hinton và Yann LeCun.

Cách đây 10 ngày, OpenAI (có trụ sở tại thành phố San Francisco, Mỹ) đã trình làng mô hình ngôn ngữ lớn o1, được thiết kế để suy luật giống con người hơn. Đến nay, công ty được Microsoft hậu thuẫn vẫn giữ kín các chi tiết về quá trình "học hỏi" của o1.

Các nhà nghiên cứu từ công ty AI độc lập Apollo Research phát hiện ra o1 có khả năng nói dối tốt hơn so với những mô hình AI trước đây của OpenAI.

Yoshua Bengio đã bày tỏ lo ngại về sự phát triển nhanh chóng của AI và ủng hộ các biện pháp an toàn pháp luật như luật SB 1047 của bang California (Mỹ). Đã được cơ quan làm luật California thông qua và đang chờ chữ ký của Thống đốc Gavin Newsom, luật SB 1047 sẽ áp đặt hàng loạt biện pháp an toàn với các mô hình AI mạnh mẽ, chẳng hạn yêu cầu các công ty AI ở bang này phải cho phép bên thứ ba kiểm tra.

Tuy nhiên, Thống đốc Gavin Newsom bày tỏ lo ngại về SB 1047, cho rằng luật có thể có "ảnh hưởng tiêu cực" đến ngành công nghiệp AI.

Yoshua Bengio nói với trang Insider rằng có "lý do chính đáng để tin" rằng các mô hình AI có thể phát triển khả năng lập kế hoạch mạnh mẽ hơn, như gian lận một cách cố ý và kín đáo. Theo Yoshua Bengio, chúng ta cần thực hiện các biện pháp ngay bây giờ để "ngăn chặn việc mất kiểm soát AI của con người" trong tương lai.

Trong một tuyên bố với Insider, OpenAI cho biết bản xem trước của o1 là an toàn theo Preparedness Framework và được đánh giá là rủi ro trung bình trên "thang đo thận trọng" của công ty. Preparedness Framework là phương pháp của OpenAI để theo dõi và ngăn chặn AI tạo ra các sự kiện "thảm khốc".

Theo Yoshua Bengio, nhân loại cần tự tin hơn AI sẽ "hành xử như mong muốn" trước khi các nhà nghiên cứu cố gắng thực hiện những bước nhảy vọt đáng kể về khả năng lý luận.

"Đó là điều mà các nhà khoa học chưa biết cách thực hiện ngày nay. Đây là lý do tại sao giám sát theo quy định là cần thiết ngay bây giờ", Yoshua Bengio nói.

Yoshua Bengio cho rằng o1 có khả năng lý luận vượt trội so với các phiên bản trước đó - Ảnh: Getty Images

Hôm 12.9, OpenAI ra mắt loạt mô hình ngôn ngữ lớn được thiết kế để dành nhiều thời gian hơn xử lý câu trả lời cho truy vấn, nhằm giải quyết những vấn đề khó.

Các mô hình ngôn ngữ lớn này có khả năng lý luận thông qua những nhiệm vụ phức tạp và có thể giải quyết vấn đề khó hơn so với phiên bản trước đây trong lĩnh vực khoa học, lập trình và toán học, OpenAI viết trong một bài đăng trên blog.

OpenAI sử dụng tên mã Strawberry để chỉ dự án nội bộ, trong khi đặt tên cho mô hình là o1 và o1-mini. Công ty được Microsoft hậu thuẫn cho biết o1 trong ChatGPT và API (giao diện lập trình ứng dụng) của nó khả dụng từ hôm 12.9.

Noam Brown, nhà nghiên cứu tập trung vào việc cải thiện khả năng lý luận trong các mô hình AI của OpenAI, xác nhận trong một bài đăng trên nền tảng truyền thông xã hội X rằng o1 và o1-mini giống với dự án Strawberry.

"Tôi rất vui khi được chia sẻ với tất cả các bạn thành quả về nỗ lực của chúng tôi tại OpenAI nhằm tạo ra các mô hình AI có khả năng lý luận thực sự tổng quát", Noam Brown viết.

Trong một bài đăng trên blog, OpenAI cho biết thuật toán học tăng cường quy mô lớn của họ "dạy cho mô hình AI cách suy nghĩ một cách hiệu quả bằng cách sử dụng chuỗi suy nghĩ". Theo OpenAI, o1 vượt trội so với các mô hình ngôn ngữ lớn khác trong các nhiệm vụ nặng về lý luận ở lĩnh vực khoa học, lập trình và toán học.

“o1 dành nhiều thời gian hơn để suy nghĩ kỹ trước khi phản hồi, giống như cách một người sẽ làm”, OpenAI tiết lộ.

Công ty cho biết o1 đạt điểm 83% trong kỳ thi vòng loại Olympic Toán học Quốc tế, so với 13% của mô hình AI trước đó là GPT-4o.

OpenAI cho biết o1 cải thiện hiệu suất với các câu hỏi lập trình cạnh tranh và vượt qua độ chính xác ở cấp độ tiến sĩ của con người trên thước đo những vấn đề khoa học.

"Trong các bài kiểm tra của chúng tôi, o1 đạt kết quả tương đương với những nghiên cứu sinh tiến sĩ khi giải quyết các bài toán thách thức trong vật lý, hóa học và sinh học. Chúng tôi cũng nhận thấy rằng nó vượt trội trong toán học và lập trình. Ở kỳ thi vòng loại Olympic Toán học Quốc tế, GPT-4o chỉ giải đúng 13% các bài toán, còn mô hình lý luận đạt 83%. Khả năng lập trình của o1 cũng được đánh giá trong các cuộc thi và đạt đến mức 89% ở những cuộc thi Codeforces", OpenAI viết trên blog.

Noam Brown tiết lộ o1 đạt được kết quả đó bằng cách sử dụng kỹ thuật “lý luận theo chuỗi tư duy”, gồm việc chia vấn đề phức tạp thành những bước logic nhỏ hơn.

Các nhà nghiên cứu lưu ý rằng hiệu suất của mô hình ngôn ngữ lớn trên những vấn đề phức tạp có xu hướng cải thiện khi phương pháp này được sử dụng như kỹ thuật nhắc nhở. OpenAI hiện đã tự động hóa khả năng này để các mô hình ngôn ngữ lớn có thể tự chia nhỏ các vấn đề mà không cần người dùng nhắc nhở.

"Chúng tôi đã đào tạo các mô hình này để dành nhiều thời gian hơn suy nghĩ về các vấn đề trước khi trả lời, giống một con người. Thông qua quá trình đào tạo, chúng học cách tinh chỉnh quá trình suy nghĩ của mình, thử các chiến lược khác nhau và nhận ra lỗi lầm", OpenAI cho hay.

Nhà sáng lập startup AI hàng đầu Trung Quốc ca ngợi cải tiến quan trọng trong o1

Sự phát triển của AI đã chứng kiến sự thay đổi mang tính bước ngoặt với việc OpenAI ra mắt mô hình o1, theo Yang Zhilin - nhà sáng lập và lãnh đạo Moonshot AI, một trong những công ty AI tạo sinh lớn nhất Trung Quốc.

Một “cải tiến quan trọng” được thực hiện bởi o1 là có thể hoàn thành các nhiệm vụ mà con người sẽ mất nhiều thời gian để suy nghĩ và thực hiện, Yang Zhilin nhận xét.

Sự phát triển này đại diện cho sự thay đổi quan trọng vì các nhà phát triển mô hình ngôn ngữ lớn, khi đã hết dữ liệu tự nhiên để đào tạo mô hình, đang chuyển sang kỹ thuật học tăng cường để tái tạo quá trình suy nghĩ và từ đó tạo ra nhiều dữ liệu hơn, Yang Zhilin nói.

Yang Zhilin nói về o1: "Thay vì trả lời một câu hỏi đơn giản, nó có thể dành 20 giây để suy nghĩ".

"Trong tương lai, bạn có thể thấy AI có khả năng thực hiện các nhiệm vụ kéo dài vài phút hoặc thậm chí vài giờ, chuyển đổi giữa các chế độ khác nhau với khả năng lý luận ngày càng mạnh mẽ. Tôi tin rằng đây là những xu hướng rất quan trọng trong sự phát triển của AI vào tương lai", Giám đốc điều Moonshot AI cho biết thêm.

Yang Zhilin, người sáng lập Moonshot AI - Ảnh: Weibo

Được thành lập năm ngoái, Moonshot AI gần đây trở thành kỳ lân có giá trị cao nhất trong số các công ty khởi nghiệp AI đang phát triển mạnh mẽ ở Trung Quốc đại lục. Đó là nhóm 4 công ty khởi nghiệp được gọi là “những con hổ AI mới của Trung Quốc”, có cả Minimax, Baichuan và Zhipu AI.

Ban đầu được hỗ trợ bởi gã khổng lồ thương mại điện tử Alibaba (Trung Quốc), Moonshot AI gần đây nhận khoản đầu tư từ Tencent, nâng định giá từ 3 tỉ USD lên 3,3 tỉ USD.

Sơn Vân