Gói bảo hiểm cho các tổn thất do chatbot AI gây ra: Điều kiện và giới hạn chi trả

Các công ty bảo hiểm tại Lloyd’s of London đã ra mắt sản phẩm bảo hiểm để bảo vệ doanh nghiệp trước những thiệt hại do những công cụ AI gặp sự cố kỹ thuật. Động thái này diễn ra trong bối cảnh ngành bảo hiểm tìm cách khai thác lợi nhuận từ những lo ngại liên quan đến rủi ro tốn kém do lỗi và “ảo giác” của chatbot AI gây ra.

"Ảo giác" có nghĩa là chatbot AI đưa ra thông tin sai, không chính xác hoặc tự bịa ra, nhưng trông có vẻ đúng và thuyết phục. Chatbot AI đôi khi không thực sự hiểu câu hỏi mà chỉ dự đoán từ tiếp theo dựa trên dữ liệu học được. Nếu không có đủ thông tin rõ ràng từ ngữ cảnh, AI có thể "đoán đại" theo cách có vẻ hợp lý.

Chính sách trả chi phí nếu công cụ AI hoạt động kém hiệu quả

Chính sách bảo hiểm của công ty khởi nghiệp Armilla (Canada) sẽ chi trả chi phí các vụ kiện chống lại doanh nghiệp, nếu doanh nghiệp này bị khách hàng hoặc bên thứ ba kiện vì bị thiệt hại do công cụ AI hoạt động kém hiệu quả.

Gói bảo hiểm này sẽ được bảo lãnh bởi nhiều công ty thuộc Lloyd's of London, trả các chi phí như tiền bồi thường thiệt hại và phí pháp lý.

Một số công ty gặp họa vì chatbot AI

Nhiều doanh nghiệp đã nhanh chóng áp dụng AI nhằm nâng cao hiệu quả, nhưng một số công cụ, đặc biệt là chatbot dịch vụ khách hàng, đã gặp những lỗi gây xấu hổ và thiệt hại tài chính. Chẳng hạn những lỗi này có thể xảy ra do mô hình AI bị “ảo giác” (bịa ra thông tin).

Virgin Money đã phải xin lỗi vào tháng 1 sau khi chatbot AI của họ quở trách một khách hàng vì dùng từ virgin (trinh nữ).

Virgin Money là ngân hàng bán lẻ và tổ chức tài chính có trụ sở tại Anh. Đây là một phần của Virgin Group, tập đoàn nổi tiếng toàn cầu do tỷ phú Richard Branson sáng lập.

Trước đó, vào năm ngoái, hãng chuyển phát nhanh DPD (Pháp) đã phải vô hiệu hóa một phần chatbot dịch vụ khách hàng của mình sau khi nó mắng khách hàng và gọi công ty chủ quản là “dịch vụ giao hàng tệ nhất thế giới”.

Một tòa án năm ngoái đã buộc hãng hàng không Air Canada phải áp dụng một mức giảm giá do chatbot dịch vụ khách hàng của họ tự bịa ra.

Armilla cho biết khoản lỗ từ việc bán vé với giá thấp hơn lẽ ra đã có thể được bảo hiểm bởi chính sách của họ nếu chatbot từ Air Canada bị phát hiện hoạt động kém hơn mong đợi.

Đã xảy ra nhiều trường hợp chatbot dịch vụ khách hàng gặp lỗi, gây thiệt hại tài chính cho một số công ty - Ảnh: Internet

Điều kiện và giới hạn chi trả

Karthik Ramakrishnan, Giám đốc điều hành Armilla, nói sản phẩm bảo hiểm mới này có thể khuyến khích nhiều công ty hơn nữa ứng dụng AI, vì hiện không ít doanh nghiệp vẫn còn dè dặt do lo ngại các công cụ như chatbot có thể gặp trục trặc.

Một số công ty hiện đã thêm cả tổn thất liên quan đến AI trong các chính sách bảo hiểm lỗi và thiếu sót công nghệ tổng quát. Tuy nhiên, các chính sách này thường chỉ có giới hạn chi trả thấp.

Preet Gill, người môi giới tại Lockton - công ty cung cấp sản phẩm của Armilla cho khách hàng, nói một gói bảo hiểm tổng quát có thể chi trả tối đa 5 triệu USD nhưng lại chỉ giới hạn 25.000 USD cho trách nhiệm pháp lý liên quan đến AI.

Các mô hình AI có khả năng cải thiện và thích nghi với dữ liệu mới theo thời gian. Thế nhưng, các tổn thất do sai sót phát sinh trong quá trình thích ứng này thường không được bảo hiểm bởi các chính sách lỗi và sơ suất công nghệ điển hình, theo Logan Payne - người môi giới khác tại Lockton.

Một sai sót đơn lẻ do công cụ AI gây ra sẽ không đủ để kích hoạt việc chi trả bồi thường theo chính sách của Armilla. Thay vào đó, bảo hiểm sẽ có hiệu lực nếu Armilla đánh giá rằng AI đã hoạt động kém hơn so với kỳ vọng ban đầu.

Chẳng hạn, bảo hiểm của Armilla có thể chi trả nếu một chatbot từng cung cấp thông tin chính xác trong 95% trường hợp cho khách hàng hoặc nhân viên nhưng sau đó chỉ còn đạt 85%, theo công ty này.

“Chúng tôi đánh giá mô hình AI, xác định mức độ suy giảm hiệu suất có thể xảy ra và sẽ bồi thường nếu chúng suy giảm”, Karthik Ramakrishnan (CEO Armilla) lý giải.

Tom Graham, người đứng đầu mảng đối tác tại Chaucer - công ty bảo hiểm thuộc Lloyd’s of London đang bảo lãnh cho các chính sách thuộc Armilla, nói đội ngũ của ông sẽ không ký hợp đồng bảo hiểm với các hệ thống AI mà họ đánh giá là quá dễ gặp trục trặc.

“Chúng tôi sẽ chọn lọc, giống bất kỳ công ty bảo hiểm nào khác”, ông nói.

Sơn Vân