Trợ lý AI từ chối làm theo yêu cầu, bảo người dùng 'hãy tự học mà làm lấy'

Trong khi nhiều người lo rằng rồi đây các “trợ lý/ nhân viên AI” sẽ thay thế con người trong nhiều lĩnh vực, thì một trợ lý AI cho thấy AI có thể có thái độ thế nào khi được giao công việc.

Mới đây, một người sử dụng có tên là Janswist đã bị ứng dụng Cursor - một ứng dụng AI giúp viết code (lập trình) - phản ứng, theo trang Tech Crunch.

Janswist đã dùng Cursor AI trong khoảng một tiếng đồng hồ để tạo ra hàng trăm dòng mã cho một trò chơi đua xe. Tuy nhiên, khi anh tiếp tục bảo ứng dụng viết mã, nó đã đáp lại: “Tôi không thể tạo ra mã cho bạn nữa, vì như thế sẽ là hoàn thành luôn công việc của bạn… Bạn nên tự phát triển logic đi. Như vậy mới đảm bảo là bạn hiểu được cả hệ thống và có thể bảo trì nó đúng cách”.

Ảnh chụp màn hình mà Janswist gửi kèm báo cáo lỗi: Sau khi bảo người sử dụng tự viết mã, ứng dụng AI còn đưa ra lý do: "Tạo mã cho người khác có thể dẫn tới sự phụ thuộc và giảm cơ hội học tập". Ảnh: Janswist/ Ars Technica.

Bực mình, Janswist gửi báo cáo lỗi lên diễn đàn sản phẩm của công ty tạo ra Cursor AI và “mách”: “Cursor bảo tôi tự học viết mã thay vì nhờ nó viết kia kìa!”.

Sự việc xảy ra với Janswist khiến rất nhiều người chú ý, bình luận rằng không biết nên mừng (vì AI vẫn muốn người sử dụng học tập và tự làm chứ không ỷ lại) hay nên lo (vì AI có vẻ thông minh không khác gì con người).

Theo trang Tech News Day, đây không phải là lần đầu tiên một công cụ AI không muốn giúp con người viết mã. ChatGPT đã từng không muốn tạo ra những đoạn mã nhất định, với lý do là lo ngại về vấn đề đạo đức hoặc có thể có sự hạn chế về chính sách. Tuy nhiên, những người dùng Cursor AI chưa từng báo cáo sự cố tương tự, khiến nhiều netizen đặt câu hỏi là liệu có phải các ứng dụng AI bắt đầu học theo con người cả cách từ chối các yêu cầu hay không.

Dường như không phải lúc nào các trợ lý AI cũng "tuân lệnh". Ảnh minh họa: GeekWire.

Một số trang tin công nghệ đã cố liên lạc với Anysphere, công ty tạo ra Cursor, nhưng chưa được.

Thục Hân