Khi con người giả làm AI

Công ty Amazon đã nhận được nhiều sự quan tâm đặc biệt trong năm nay, sau khi về công nghệ “Just Walk Out” (Chỉ cần đi ra) tại nhiều cửa hàng tạp hóa của họ bị đặt nghi vấn. Hệ thống được hỗ trợ bởi AI cho phép khách hàng tại nhiều cửa hàng Amazon Fresh và Amazon Go chỉ cần chọn món đồ họ muốn rồi rời đi mà không cần thanh toán. AI được cho là sử dụng nhiều cảm biến để tìm ra khách hàng đã lấy những gì, rồi sau đó tự động trừ tiền vào tài khoản ngân hàng của họ.

Tuy nhiên, vào tháng Tư, đã có thông tin tiết lộ rằng thay vì chỉ sử dụng AI, Just Walk Out cần khoảng 1.000 công nhân ở Ấn Độ để kiểm tra thủ công gần 3/4 số giao dịch.

Amazon phải bảo vệ việc sử dụng công nghệ AI trong các cửa hàng tạp hóa của họ

Amazon nhanh chóng khẳng định rằng các báo cáo này là “không chính xác”, và nhân viên ở Ấn Độ không theo dõi đoạn phim quay từ tất cả các chi nhánh. Thay vào đó, họ cho biết đội ngũ Ấn Độ chỉ chịu trách nhiệm giám sát hệ thống. Amazon cũng nói thêm rằng “việc này không khác gì mọi hệ thống AI khác đặt giá trị cao về độ chính xác, khi người đánh giá tổng quan chính là con người”.

Dù thực hư câu chuyện vẫn chưa được xác định rõ, đây vẫn là một ví dụ tiêu biểu cho một câu hỏi nan giải mới – liệu các công ty có đang thổi phồng công nghệ AI của họ hay không. Đó là một hiện tượng được giới chuyên ngành mệnh danh là “tẩy AI”, dựa trên từ “tẩy xanh” khi các doanh nghiệp quảng bá sai lệch về cam kết bảo vệ môi trường của mình.

Quá trình tẩy AI có nhiều loại hình khác nhau. Một số công ty tuyên bố sử dụng AI khi họ thực sự đang sử dụng điện toán đơn giản hơn, trong khi những công ty khác lại phóng đại tính hiệu quả của AI hoặc cho rằng AI của họ hoạt động hoàn toàn trơn tru, trong khi thực tế không phải như vậy. Trong khi đó, các công ty khác chỉ đơn giản là đưa một chatbot AI có sẵn vào phần mềm điều hành của họ.

Theo OpenOcean, một quỹ đầu tư có trụ sở tại Anh và Phần Lan dành cho các công ty công nghệ mới, mặc dù chỉ có 10% công ty công nghệ khởi nghiệp đề cập đến việc sử dụng AI trong quảng cáo của họ vào năm 2022, nhưng con số này đã tăng lên thành 1/4 vào năm 2023. Họ dự đoán con số đó sẽ nhiều hơn 1/3 trong năm nay.

Anh Sri Ayangar, thành viên nhóm OpenOcean, cho biết sự cạnh tranh về nguồn tài trợ và vị trí tiên phong là nguyên nhân một số công ty phóng đại khả năng AI của họ. “Một số nhà sáng lập dường như tin rằng việc đề cập AI trong quảng cáo chiêu hàng sẽ giúp họ có lợi thế, không quan trọng vai trò của nó trong mục tiêu của họ là gì. Và từ phân tích của chúng tôi, có sự chênh lệch đáng kể giữa các công ty tuyên bố có AI hoạt động và những công ty cho thấy kết quả AI rõ ràng”, anh nói.

“Nếu kỳ vọng của người tiêu dùng không được đáp ứng từ các sản phẩm dựa trên AI, điều này có thể làm xói mòn uy tín của các công ty khởi nghiệp đang thực hiện những công việc mang tính đột phá thực sự. Tẩy AI có thể gây ra những tác động đáng lo ngại cho các doanh nghiệp, từ việc trả quá nhiều tiền cho công nghệ và dịch vụ cho đến việc không đáp ứng được các mục tiêu mà AI dự kiến sẽ giúp họ đạt được”, anh Ayangar nhận xét.

Theo dữ liệu từ một công ty đầu tư công nghệ khác, MMC Ventures, đây là một vấn đề đã âm thầm tồn tại trong nhiều năm. Trong một nghiên cứu năm 2019, họ phát hiện ra rằng 40% công ty công nghệ mới tự mô tả mình là “công ty khởi nghiệp AI”, trong khi thực chất họ hầu như không sử dụng AI.

Ông Simon Menashy, đối tác chung của MMC Ventures, giải thích rằng “các AI tân tiến” hiện đều có sẵn cho các công ty mua với giá một phần mềm tiêu chuẩn. Nhưng thay vì xây dựng một hệ thống AI hoàn chỉnh, ông cho biết nhiều công ty chỉ gán giao diện chatbot lên trên một sản phẩm không phải AI.

Ông Douglas Dick, người đứng đầu bộ phận rủi ro công nghệ mới của công ty kế toán KPMG ở Anh, cho biết vấn đề tẩy AI vẫn đầy rẫy bởi thực tế là không có một định nghĩa thống nhất nào về AI. “Nếu tôi hỏi một nhóm người định nghĩa về AI, mỗi người sẽ đưa ra một câu trả lời khác nhau. Thuật ngữ này được sử dụng rất rộng rãi và lỏng lẻo, không có bất kỳ điểm tham chiếu rõ ràng nào. Chính sự mơ hồ này đã cho phép hiện tượng tẩy AI xuất hiện”, ông nói.

Các cơ quan quản lý, ít nhất ở Mỹ, đang bắt đầu chú ý đến vấn đề này. Đầu năm nay, Ủy ban Chứng khoán và Giao dịch Mỹ (SEC) đã cáo buộc hai công ty tư vấn đầu tư sau khi họ đưa ra những tuyên bố sai lệch và gây hiểu lầm về mức độ sử dụng AI của họ.

“Lập trường vững chắc của SEC thể hiện sự nghiêm khắc khi nói đến việc tẩy AI, cho thấy rằng, ít nhất là ở Mỹ, chúng ta có thể mong đợi biện pháp trừng phạt hơn đối với những công ty vi phạm quy định”, ông Nick White, đối tác tại công ty luật quốc tế Charles Russell Speechlys, cho biết.

Ở Anh, các luật về tẩy AI đã được áp dụng, bao gồm quy tắc ứng xử của Cơ quan Tiêu chuẩn Quảng cáo (ASA), trong đó nêu rõ rằng truyền thông tiếp thị không được gây hiểu lầm nghiêm trọng hoặc có khả năng làm như vậy.

“Theo tôi, chúng ta đang ở đỉnh cao của chu kỳ quảng bá AI”, bà Sandra Wachter, giáo sư công nghệ tại Đại học Oxford (Anh), đồng thời là chuyên gia hàng đầu thế giới về AI, cho biết.

“Tuy nhiên, tôi cảm thấy rằng chúng ta nên cân nhắc liệu việc sử dụng AI cho mọi thứ có luôn hợp lý hay không. Tôi đã nhìn thấy quảng cáo trên tàu điện ngầm London về bàn chải đánh răng điện được hỗ trợ bởi AI. Cái này dành cho ai? Ai được giúp đỡ nhờ phát minh này?”.

Ngoài ra, tác động môi trường của AI thường bị bỏ qua, bà nói. “AI không rơi từ trên trời xuống. Công nghệ này đã góp phần gây ra biến đổi khí hậu nhiều hơn cả hàng không. Chúng ta phải tránh xa các cuộc thảo luận một chiều và thực sự nghĩ về các nhiệm vụ và lĩnh vực cụ thể mà AI có thể mang lại lợi ích, chứ không chỉ áp dụng nó vào mọi thứ một cách mù quáng”.

Nhưng về lâu dài, cô Advika Jalan, người đứng đầu nghiên cứu tại MMC Ventures, tin rằng vấn đề tẩy AI có thể tự biến mất. “AI đang ngày càng phổ biến - ngay cả khi chúng chỉ nhại lại ChatGPT - đến mức AI sẽ không còn là một công cụ xây dựng thương hiệu nổi bật sau một thời gian. Nó sẽ chỉ giống như quảng cáo rằng “Chúng tôi hiện có một trang web”, cô nói.

[ Hà My ] (theo em360tech.com, ngày 27/06/2024)