Quản lý AI có trách nhiệm và theo chuẩn mực đạo đức

Ông Phil Wright - Giám đốc cấp cao, Khối Nghiệp vụ ngân hàng, HSBC Việt Nam

Những rủi ro lớn nhất liên quan đến bảo mật và sai lệch dữ liệu

Đối với ngành ngân hàng, bảo mật, an ninh và tính toàn vẹn của dữ liệu là yếu tố cốt lõi để xây dựng và duy trì niềm tin. Sự phát triển của công nghệ AI càng nhấn mạnh tầm quan trọng của những trách nhiệm này, bởi công nghệ làm gia tăng cả khối lượng dữ liệu cần xử lý lẫn cách dữ liệu được chuyển đổi, kết hợp và khai thác. AI giúp nâng cao giá trị mang lại cho khách hàng nhưng cũng khiến hệ quả của việc quản lý yếu kém trở nên trầm trọng hơn.

Về bảo mật, rủi ro lớn nhất là lộ thông tin ngoài ý muốn. Các mô hình AI đôi khi có thể làm lộ các xu hướng hoặc trường thông tin vốn không nên được công khai. Nghiên cứu của IBM cho thấy, 13% tổ chức đã ghi nhận vi phạm liên quan đến mô hình hoặc ứng dụng AI, thường bắt nguồn từ hạn chế trong kiểm soát truy cập và việc nhân viên sử dụng công cụ của bên thứ ba. Điều này nhấn mạnh yêu cầu ngành ngân hàng phải đảm bảo mọi dữ liệu dùng để huấn luyện hoặc vận hành AI đều được chọn lọc, kiểm soát truy cập và giám sát chặt chẽ. Rủi ro không phải lúc nào cũng xuất phát từ ý đồ xấu, mà đôi khi đến từ sự nóng vội, muốn có câu trả lời nhanh bằng cách dùng dữ liệu nhạy cảm trên nền tảng công khai. Vì vậy, quản trị, văn hóa và đào tạo quan trọng không kém kiểm soát công nghệ.

Rủi ro an ninh cũng đã thay đổi. AI đang bị lạm dụng bởi các mạng lưới tội phạm với mức độ tinh vi cao. Trong hai năm qua, các trường hợp giả mạo danh tính (deepfake) và làm giả tài liệu trở nên phổ biến hơn nhờ mô hình tạo sinh. Đây là những mối đe dọa thực sự nhằm xâm phạm tài khoản khách hàng, lạm dụng kênh mở tài khoản trực tuyến hoặc tấn công vào các giao dịch doanh nghiệp giá trị lớn. Trong bối cảnh này, phạm vi an ninh không còn giới hạn trong hạ tầng truyền thống mà đã mở rộng sang mô hình hành vi, quy trình huấn luyện, hệ thống suy luận và các tín hiệu chúng tiếp nhận.

Khi khách hàng hiểu rằng AI vận hành trên nền tảng minh bạch và có sự giám sát của con người, công nghệ sẽ trở thành yếu tố củng cố niềm tin

Chẳng hạn, tại HSBC, chúng tôi phân tích khoảng 1,35 tỷ giao dịch mỗi tháng trên 40 triệu tài khoản để tìm dấu hiệu tội phạm tài chính. Để củng cố năng lực, chúng tôi hợp tác với Google phát triển hệ thống AI nội bộ gọi là “Dynamic Risk Assessment” (đánh giá rủi ro động). Từ khi thử nghiệm năm 2021 và triển khai đại trà năm 2022, hệ thống đã giúp phát hiện số ca tội phạm tài chính gấp bốn lần với độ chính xác cao hơn. Nhờ đó, HSBC được Celent trao giải Đơn vị quản lý rủi ro của năm 2023.

Sai lệch dữ liệu là rủi ro khó nhận biết hơn nhưng không kém phần quan trọng. Các mô hình AI có thể khiến thiên kiến/sai lệch trong dữ liệu quá khứ trở nên nặng nề hơn. Nếu dữ liệu không đại diện, không hoàn thiện hoặc không đồng nhất, mô hình sẽ hấp thụ những hạn chế đó. Qua thời gian, kể cả mô hình mạnh cũng có thể chệch hướng do hành vi khách hàng thay đổi hoặc thị trường xuất hiện sản phẩm tài chính mới. Nếu không giám sát kỹ, mô hình từng giúp giảm báo động nhầm có thể bắt đầu tạo ra trở ngại cho khách hàng. Các mô hình AI tạo sinh đôi khi đưa ra câu trả lời rất tự tin nhưng sai lệch hoàn toàn. Vì vậy, chất lượng dữ liệu, quản trị và sự giám sát của con người phải được xem như hoạt động chăm sóc hệ thống liên tục, tương tự việc tinh chỉnh một cỗ máy hiệu suất cao.

Xây dựng cơ chế giám sát

AI trong ngành dịch vụ tài chính đang mở ra nhiều cơ hội nhưng đồng thời định hình lại bản chất rủi ro hệ thống. Câu hỏi không còn là “có nên dùng AI hay không”, bởi ứng dụng AI đã diễn ra nhanh chóng, mà là “làm thế nào để tích hợp AI an toàn mà không ảnh hưởng ổn định”. Với những ngân hàng như HSBC, câu trả lời nằm ở việc xây dựng môi trường trong đó ứng dụng AI phải gắn liền với quản trị rủi ro mạnh mẽ, nhất quán và được hiểu sâu sắc.

Một trong những yếu tố quan trọng là độ tin cậy của dữ liệu đưa vào hệ thống. Nếu nhiều tổ chức dựa vào cùng nguồn dữ liệu hoặc mô hình của bên thứ ba được sử dụng rộng rãi, rủi ro lỗi liên đới sẽ tăng. Khi bộ dữ liệu dùng chung bị gián đoạn hoặc mô hình phổ biến gặp lỗi, hệ quả lan truyền nhanh hơn nhiều so với công nghệ truyền thống. Trường hợp các dịch vụ điện toán đám mây từng cho thấy điểm phụ thuộc hệ thống có thể gây rủi ro lớn. AI cũng có nguy cơ tương tự nếu không được quản lý chặt chẽ.

Minh bạch trong vận hành cũng quan trọng. Các mô hình AI thường rất phức tạp; nếu không hiểu chúng vận hành ra sao sẽ khó dự đoán cách chúng phản ứng khi thị trường căng thẳng. Ngành ngân hàng đã rút ra bài học này trong quá trình phát triển mô hình rủi ro thị trường và hệ thống giao dịch tự động hai thập kỷ qua. Khi hệ thống không còn thông suốt, hành vi ngoài ý muốn sẽ khó phát hiện. Điều tương tự áp dụng cho AI: các tổ chức cần duy trì khả năng lý giải hành vi của những mô hình có tác động lớn, không chỉ để báo cáo cơ quan quản lý mà còn đảm bảo ổn định vận hành.

AI đóng vai trò thiết yếu trong định danh, chống gian lận và chăm sóc khách hàng

Thử nghiệm tình huống cũng cần thiết. Khi thị trường rung lắc do cú sốc tín dụng, sự kiện liên quan tới thanh khoản hay biến động địa chính trị, mô hình hành xử có thể khác với kỳ vọng. Một số mô hình máy học được nghiên cứu cho thấy hiệu suất giảm mạnh khi rơi vào điều kiện không giống môi trường huấn luyện ban đầu. Tại HSBC, chúng tôi thường xuyên thử nghiệm mô hình dưới các kịch bản thay đổi biến số để hiểu giới hạn tin cậy. Mục tiêu không chỉ dự báo tương lai mà còn xác định khả năng chịu đựng của mô hình.

Ở những thị trường như Việt Nam, yêu cầu này càng quan trọng bởi tốc độ chuyển đổi số nhanh. Khối lượng thanh toán tăng mạnh, kỳ vọng khách hàng thay đổi và hình thức gian lận biến hóa nhanh chóng. Đổi mới là cần thiết, nhưng duy trì vận hành ổn định, bảo vệ khách hàng và đảm bảo công nghệ mới không tạo biến động cho hệ sinh thái tài chính cũng quan trọng không kém.

Đổi mới sáng tạo và an toàn không phải hai thái cực đối lập. Năng lực AI tiên tiến nhất đến từ những tổ chức hiểu rõ sức mạnh công nghệ đi cùng trách nhiệm.

“AI có trách nhiệm”: Lợi thế cạnh tranh

Niềm tin luôn là nền tảng của ngành ngân hàng - lý do khách hàng chọn tổ chức này thay vì tổ chức khác. Thách thức lớn nhất hiện nay không phải AI bị hiểu sai, mà là nỗi lo khách hàng mất khả năng giám sát và kiểm soát. Họ lo ngại những vấn đề quan trọng như đánh dấu giao dịch đáng ngờ hay phê duyệt khoản vay sẽ được quyết định theo cách họ không nhìn thấy hay chất vấn được. Khách hàng muốn biết quy trình đằng sau các quyết định có công bằng, chính xác và dựa trên phán đoán hợp lý hay không.

Niềm tin trong ngành bắt nguồn từ tính tin cậy. Khách hàng tương tác với ngân hàng hàng triệu lần mỗi ngày. Nếu hệ thống AI gặp sự cố như cảnh báo gian lận sai, diễn giải thông tin sai hoặc phản hồi thiếu nhất quán, niềm tin có thể bị ảnh hưởng ngay lập tức. Trong các mô hình lớn, chỉ một điểm phần trăm thay đổi độ chính xác có thể khiến hàng nghìn khách hàng bị tác động, cho thấy tầm quan trọng của giám sát và quản lý liên tục.

Khách hàng cũng mong muốn sự minh bạch. Khi AI ảnh hưởng đến quyết định, họ cần nhận được lời giải thích hợp lý, với thông tin đủ để hiểu vấn đề mà không bị quá tải bởi những chi tiết về kỹ thuật. Điều quan trọng là cung cấp lý do và bối cảnh, chứ không phải thuật ngữ kỹ thuật. Cách tiếp cận này giúp AI trở thành quy trình minh bạch thay vì “hộp đen”.

Con người vẫn giữ vai trò then chốt. AI hỗ trợ ra quyết định nhưng không nên thay thế con người. Khách hàng muốn biết có thể nói chuyện với ai khi có vấn đề. Sự tham gia của con người cần được tích hợp như lựa chọn thiết kế có chủ ý cho mọi quy trình tác động lớn. Điều này tăng tính trách nhiệm và giúp AI bớt đáng sợ.

Khi khách hàng trải nghiệm mở tài khoản suôn sẻ hơn, ít cảnh báo sai, phản hồi nhanh và thông tin được cá nhân hóa theo cách nhất quán và minh bạch, niềm tin sẽ tăng dần. Và khi có niềm tin, hành vi khách hàng thay đổi. Chúng tôi ghi nhận tỷ lệ sử dụng dịch vụ trực tuyến tăng mạnh tại các thị trường nơi hệ thống vận hành ổn định và công bằng. AI có trách nhiệm không còn là yêu cầu tối thiểu mà trở thành yếu tố cạnh tranh của ngân hàng. Khả năng quản trị chặt chẽ với tài liệu rõ ràng, xác minh độc lập và việc kiểm soát vận hành sát sao giờ đây trở thành yếu tố khác biệt trong việc thu hút và giữ chân khách hàng.

Có quan niệm rằng, trách nhiệm làm chậm đổi mới. Tôi có quan điểm ngược lại. Khi hệ thống AI được xây dựng trên nền tảng vững chắc với cấu trúc quản trị rõ ràng cùng sự giám sát của con người, rào cản từ sự không chắc chắn sẽ được loại bỏ. Các đội ngũ đổi mới có thể đi nhanh hơn vì biết ranh giới an toàn. Khách hàng dễ chấp nhận hơn vì cảm thấy được bảo vệ. Cơ quan quản lý cởi mở hơn vì nhận thấy sự thận trọng thay vì rủi ro. Khi AI có trách nhiệm được triển khai đúng cách, niềm tin được củng cố và chính điều đó tạo ra giá trị cốt lõi của đổi mới.

Nguyên tắc cốt lõi trong thu thập và phân tích dữ liệu khách hàng

Sử dụng dữ liệu có trách nhiệm là nền tảng trong vận hành của HSBC. Trong bối cảnh AI được ứng dụng rộng rãi, quản lý thông tin khách hàng phải có nguyên tắc, đồng bộ và minh bạch. Niềm tin khách hàng được xây dựng từ chính cách chúng tôi hành động chứ không chỉ từ lời nói.

Điểm khởi đầu là xác lập mục đích rõ ràng. Mỗi bộ dữ liệu chúng tôi sử dụng đều phải có lý do hợp lý và cụ thể. Khách hàng phải hiểu vì sao dữ liệu của họ được thu thập và điều đó đem lại lợi ích gì. Chúng tôi tránh giải thích mơ hồ hoặc thuật ngữ khó hiểu, mà thể hiện sự minh bạch và chân thành. Ví dụ, nếu mô hình ảnh hưởng đến kết quả phát hiện gian lận hoặc đề xuất dịch vụ, chúng tôi phải giải thích điều đó bằng ngôn ngữ phổ thông.

An ninh là trụ cột kế tiếp. HSBC đầu tư hệ thống an ninh từ lâu, nhưng AI đòi hỏi mở rộng mức độ phòng vệ/bảo mật. Dữ liệu dùng để huấn luyện và hiệu chỉnh mô hình cần được bảo vệ như dữ liệu đầu ra. Hệ thống nội bộ được thiết kế sao cho chỉ nhóm có quyền mới được truy cập dữ liệu nhạy cảm. Câu hỏi chúng tôi đặt ra là: “Nếu khách hàng hỏi dữ liệu được dùng thế nào, chúng ta có trả lời được rõ ràng và tự tin không?”. Các quy trình được xây dựng để đảm bảo câu trả lời luôn là “Có”.

Minh bạch có vai trò quan trọng. Khi quyết định dựa trên AI ảnh hưởng tới khách hàng, chúng tôi cần đưa ra lý giải hợp lý. Chẳng hạn, nếu kiểm tra gian lận dẫn đến gián đoạn giao dịch, khách hàng muốn biết dấu hiệu nào cho thấy bất thường. Chúng tôi cung cấp thông tin giúp khách diễn giải quyết định và phản ứng phù hợp. Điều này đặc biệt quan trọng ở thị trường ứng dụng công nghệ cao như Việt Nam, nơi khách hàng chủ yếu giao dịch qua màn hình.

Việt Nam có bối cảnh riêng: nền kinh tế số phát triển mạnh, thanh toán di động tăng hơn gấp đôi trong những năm gần đây. Điều này mở ra cơ hội nhưng cũng kéo theo rủi ro gian lận trực tuyến, giả mạo danh tính. Khi triển khai AI ở Việt Nam, chúng tôi giám sát kỹ quy trình xác thực, hiệu chỉnh mô hình và tỷ lệ báo động nhầm. Một điểm nghẽn ở thị trường tăng trưởng nhanh có thể ảnh hưởng lớn đến khách hàng, nên chúng tôi luôn cân bằng giữa bảo vệ và trải nghiệm.

Xử lý dữ liệu có trách nhiệm là vấn đề vận hành, pháp lý và văn hóa. Các nguyên tắc phải phản ánh trong kỹ thuật, vận hành, thiết kế sản phẩm và giao tiếp khách hàng. Cách tiếp cận tích hợp giúp bảo vệ khách hàng và tối ưu hóa lợi ích AI một cách có trách nhiệm.

Thống nhất các tiêu chuẩn đạo đức và quy định về quản trị AI

Hoạt động tại 57 thị trường mang lại cho HSBC lợi thế đặc biệt khi quan sát đầy đủ các sắc thái phát triển công nghệ, quản lý nhà nước và hành vi khách hàng. Tuy nhiên, sự đa dạng này cũng tạo ra thách thức: làm sao đảm bảo năng lực AI phản ánh một tiêu chuẩn đạo đức thống nhất nhưng vẫn phù hợp bối cảnh địa phương?

Định hướng của chúng tôi là xây dựng nền tảng toàn cầu nhất quán nhưng linh hoạt khi triển khai. Chúng tôi neo chiến lược AI vào các giá trị cốt lõi: công bằng, minh bạch, trách nhiệm, an ninh và áp dụng ở mức cao nhất tại mọi thị trường. Các giá trị này là kim chỉ nam cho thiết kế, xác thực, giám sát mô hình và cách chúng tôi lý giải kết quả. Những giá trị này bất biến, không thay đổi theo không gian địa lý.

Khác biệt chủ yếu nằm ở cách áp dụng. Nguồn dữ liệu giữa các thị trường khác nhau đáng kể. Ở nơi dữ liệu rõ ràng và có lịch sử, mô hình có thể huấn luyện đầy đủ. Ở nơi dữ liệu phân mảnh, cần điều chỉnh kết cấu, chiến lược lấy mẫu và khung thử nghiệm. Mô hình xây dựng từ hành vi khách hàng dồi dào của thị trường này không thể sao chép sang thị trường khác có dữ liệu rải rác.

Giao dịch xuyên biên giới cũng đòi hỏi thay đổi. Một số quốc gia khuyến khích trao đổi dữ liệu toàn cầu, trong khi có những quốc gia yêu cầu dữ liệu nhạy cảm chỉ được lưu trong nước. Vì vậy, HSBC phải xây dựng mô hình triển khai linh hoạt: mô hình tập trung với kết quả phân tán, hoặc huấn luyện lại mô hình tại địa phương. Điều quan trọng là tiêu chuẩn quản trị phải đồng nhất dù kỹ thuật khác nhau.

Là tổ chức toàn cầu, HSBC hưởng lợi từ giám sát việc chia sẻ. Chúng tôi duy trì quản lý rủi ro hoạt động và cơ cấu quản trị độc lập để kiểm tra các mô hình có tác động lớn. Điều này giúp kiểm chứng giả định, thử nghiệm độ vững vàng và đảm bảo mô hình đạt tiêu chuẩn kỳ vọng. Các bài học từ một thị trường có thể được áp dụng nhanh chóng ở thị trường khác.

Việt Nam là minh chứng rõ nét cho cách tiếp cận này. Ứng dụng công nghệ tại Việt Nam phát triển nhanh, kéo theo kỳ vọng cao của khách hàng. AI đóng vai trò thiết yếu trong định danh, chống gian lận và chăm sóc khách hàng. Tuy nhiên, môi trường dữ liệu tại đây đòi hỏi điều chỉnh - từ bảo vệ dữ liệu cá nhân đến đặc điểm dữ liệu phân tán và hành vi trực tuyến mới. Tiêu chuẩn toàn cầu giúp định hướng, còn bối cảnh địa phương quyết định cách triển khai.

Văn hóa cũng quan trọng không kém. AI không chỉ là công nghệ, mà còn là tư duy. Nhân viên cần được đào tạo không chỉ về kỹ thuật mô hình mà còn về trách nhiệm đi kèm. Ngôn ngữ về công bằng, tin cậy và bổn phận với khách hàng phải thống nhất, dù ở London, Hồng Kông hay TP.HCM.

Phil Wright / Giám đốc cấp cao, Khối Nghiệp vụ ngân hàng, HSBC Việt Nam