Hiểm họa tiềm tàng từ sự phát triển không kiểm soát của AI

Người Việt Nam chúng ta, có lẽ không xa lạ gì với cái tên Henry Kissinger. Ông là trưởng đoàn đàm phán của Mỹ trong Hội nghị Paris về Việt Nam năm 1973. Cùng cố vấn Lê Đức Thọ, Kissinger đã được đề cử và trao giải Nobel Hòa bình nhờ đã đóng vai trò chủ chốt trong quá trình đàm phán ngừng bắn ở Việt Nam. Trong suốt quá trình hoạt động chính trị của mình, Henry Kissinger là một cái tên đầy tranh cãi. Ông được coi là hình mẫu điển hình cho chủ nghĩa thực dụng kiểu Mỹ, khi cần có thể chà đạp mọi quy tắc, luật lệ để đạt được mục đích. Trong suốt sự nghiệp, ông đã viết hàng chục cuốn sách có tầm ảnh hưởng sâu rộng. Và tình cờ thay, cuốn sách cuối cùng của Henry Kissinger lại được đặt tên là Khởi nguyên - một cuốn sách về khởi đầu mới nhân loại khi nhân tố AI xuất hiện.

Cuốn sách Genesis bản dịch tiếng Việt. Ảnh: Omega+.

Cuốn sách được Kissinger viết cùng hai nhà công nghệ có tầm ảnh hưởng lớn, một người là Eric Schmidt, cựu CEO của Google từ năm 2001 đến năm 2011, và Craig Mundie, cựu giám đốc nghiên cứu và chiến lược của Microsoft. Trong cuốn sách, khi đánh giá về tương lai của nhân loại cùng AI, các tác giả nhận định:

“Trong các công trình toán học đột phá nghiên cứu về sự thay đổi của Isaac Newton và Gottfried Wilhelm Leibniz (hai nhà khoa học sống cùng thời nhưng bất đồng quan điểm về nhiều vấn đề), cả hai cùng đồng ý rằng khi được phóng to lên, bất cứ đường cong nào cũng sẽ trông giống như đường thẳng, đến mức khó mà nhận diện được sự thay đổi đột ngột sắp xảy ra. Sự xuất hiện của AI trong lĩnh vực quản trị quốc gia, vốn là hoạt động mang tính người cao nhất, có thể sẽ là một bước ngoặt đột ngột như vậy. Nó có thể mang tới năng lực quản trị cao gấp nhiều lần, nhưng đồng thời cũng sẽ đánh dấu sự đoạn tuyệt hoàn toàn với cách thức sử dụng quyền lực và dự đoán tương lai của thế giới cũ.

Vậy liệu AI có phải là lối thoát khỏi những vòng tuần hoàn quen thuộc, hay chỉ đơn thuần là khởi đầu cho một vòng tuần hoàn dài hơn? Đây là sự bắt đầu của hồi kết, hay chỉ là kết thúc của sự khởi đầu?”

Thuyết "triết gia trị quốc" của Plato

Socrates, nhà triết học lỗi lạc của Hy Lạp cổ đại, được coi là ông tổ của triết học Phương Tây. Ông nổi tiếng với phương pháp đặt câu hỏi sắc bén, khiến người đối thoại phải suy tư sâu sắc về bản chất của đạo đức, chân lý và cuộc sống. Ông đi khắp Athens, chất vấn mọi người từ quý tộc đến thường dân, làm lung lay niềm tin cũ kỹ, đánh thức tinh thần tự vấn trong lòng mỗi người.

Chính cách chất vấn ấy khiến ông được giới trẻ yêu mến, nhưng cũng làm ông trở thành "cái gai" trong mắt giới tinh hoa. Họ căm ghét Socrates tới mức đưa ông ra tòa với cáo buộc "đầu độc tâm hồn giới trẻ" và "báng bổ thần linh". Tại tòa, Socrates đã tự bào chữa, nhưng không thành công. Ông bị đa số bồi thẩm đoàn gồm hàng trăm nam công dân Athens kết tội và ra lệnh tử hình.

Bức tượng triết gia Socrates. Ảnh: Britanica.

Đêm trước ngày xử án, bạn bè khuyên ông vượt ngục bỏ trốn, nhưng Socrates từ chối, vì ông tin vào công lý và luật pháp của Athens. Socrates mỉm cười nhẹ nhàng, không ngần ngại uống cạn ly thuốc độc, trước ánh mắt đau đớn của những người chứng kiến.

Socrates nhẹ nhàng nhắm mắt và trút hơi thở cuối, cùng mang theo thông điệp về sự bất tử của chân lý và tri thức.

Socrates là thầy của Plato, một cây đại thụ khác của triết học phương Tây. Hai thầy trò đều tin rằng quyết định chính trị đòi hỏi tri thức và đạo đức, không thể giao phó cho số đông thiếu hiểu biết. Socrates ví von thể chế dân chủ tựa như một con tàu: vị trí thuyền trưởng thay vì được giao phó cho người tài giỏi, am tường nhất về hàng hải, thì lại được bầu chọn bởi những hành khách trên tàu. Plato, mượn lời của thầy mình, cho rằng người cai trị lý tưởng nhất của một quốc gia phải là triết gia - tức là người hiểu rõ chân lý, sống đạo đức, yêu công lý và không bị chi phối bởi tham vọng cá nhân. Đó là thuyết “nhà-vua-triết-gia” hay "triết gia trị quốc" (philosopher-king).

Tuy nhiên, nhiều người, trong đó nổi bật nhất là Aristotle - học trò xuất sắc của Plato, hoài nghi về khả năng xác định và đào tạo những "triết gia" lý tưởng như vậy. Mô hình triết gia trị quốc đề xuất tạo ra một xã hội phân cấp, nơi chỉ một số ít người được coi là có đủ năng lực để cai trị, trong khi đa số bị đẩy xuống các vai trò phụ thuộc dựa trên năng lực trí tuệ của họ. Điều này đi ngược lại các giá trị dân chủ hiện đại về bình đẳng và sự tham gia rộng rãi của công chúng vào quản trị quốc gia. Từ đó, cũng làm phát sinh lo ngại về nguy cơ độc tài và thiếu trách nhiệm giải trình khi trao quyền lực tuyệt đối cho một nhóm nhỏ.

Thêm nữa, sự tồn tại của chân lý khách quan và việc liệu tri thức triết học có đủ để quản trị hiệu quả cũng bị đặt dấu hỏi. Những tranh cãi xung quanh lý thuyết này, và rộng hơn, là sự so sánh giữa trí tuệ tập thể của đám đông và trí tuệ cá thể của một bộ phận nhỏ các cá nhân tinh hoa, vẫn tiếp tục là chủ để mang đầy tính thời sự, nhất là trong bối cảnh chủ nghĩa Dân túy với đại diện là Donald Trump đang trỗi dậy trên chính trường thế giới.

Vòng quay lịch sử

Nhìn rộng hơn, lịch sử loài người đã chứng kiến những vòng tuần hoàn trong thể chế chính trị. Chúng ta đã đi từ thể chế dân chủ phân quyền của xã hội công xã nguyên thủy, biến chuyển thành thể chế quân chủ tập quyền toàn trị từ khoảng 5.000 năm trước, để rồi 200 năm trước lại đồng loạt chuyển đổi sang thể chế cộng hòa - dân chủ, phân quyền...

Trong cuốn sách, các tác giả viết: “Dù ở thể chế dân chủ hay toàn trị, dù là thế giới thứ ba hay thứ nhất, dù quá khứ hay hiện tại, bản chất con người vẫn vậy. Thời gian trôi qua dường như chẳng thể thay đổi đáng kể cách chúng ta cai trị chính mình. Chúng ta vẫn đang vận hành những thể chế cổ xưa, như tổ tiên hàng nghìn năm trước.”

Các tác giả đã chỉ ra: “Ít ai nhận ra rằng quản trị chính trị thực ra là năng lực xử lý thông tin. Chúng ta thường thích tô vẽ và coi các hệ thống chính trị của mình là hiện thân của các giá trị và ý thức hệ. Nhưng trong cả thời bình lẫn thời chiến, phần lớn công việc quản lý một quốc gia đều xoay quanh vấn đề xử lý dữ liệu sao cho hiệu quả”.

Trước khi AI ra đời, việc một cơ quan trung ương đưa ra quyết định dựa trên hiểu biết cặn kẽ về tình hình địa phương gần như là bất khả thi, hoặc ít nhất là không hiệu quả. Adam Smith, cha đẻ của Kinh tế học hiện đại, trong tác phẩm Của cải của các Quốc gia (The Wealth of Nations) đã nhấn mạnh rằng nền kinh tế thị trường hoạt động hiệu quả nhờ vào sự tương tác của vô số cá nhân, mỗi người đưa ra quyết định dựa trên thông tin và hiểu biết cục bộ của riêng họ. Một cơ quan trung ương, dù có tài giỏi đến đâu, cũng không thể thu thập và xử lý hết tất cả thông tin chi tiết và thay đổi liên tục về nhu cầu, nguồn lực, và điều kiện địa phương.

Smith lập luận rằng khi từng cá thể theo đuổi lợi ích riêng trong một thị trường tự do, họ vô tình đóng góp vào lợi ích chung của xã hội. Khi ấy, cơ chế giá cả hoạt động như một hệ thống truyền tải thông tin về nhu cầu và sự khan hiếm. Các quyết định sản xuất và tiêu dùng được điều phối một cách tự nhiên thông qua các tương tác thị trường này. Theo Smith, "bàn tay vô hình" hiệu quả hơn nhiều so với bất kỳ cơ quan nào như vậy.

Ảnh minh họa AI. Nguồn: Leonardo.

Nhưng thực tế đó có thể sẽ không còn đúng nữa, với sự xuất hiện của AI. Bản chất của những mô hình ngôn ngữ lớn (LLM) như ChatGPT là những cỗ máy xử lý dữ liệu khổng lồ. Hiện tại chúng mới chỉ đang xử lý dữ liệu “tĩnh”, nhưng các tác giả dự đoán, trong một tương lai gần, AI sẽ được trao “tri giác”, được quyền tiếp nhận thông tin trực tiếp từ đời sống theo thời gian thực, từ đó có thể đưa ra những quyết định độc lập, chính xác và hợp lí hơn.

Các tác giả đã đặt ra viễn cảnh: “Trong tương lai, sẽ có hàng triệu hệ thống AI, nhiều khả năng được chuyên biệt hóa cao, gắn liền với đời sống thường nhật. Cùng với đó sẽ có một số lượng nhỏ hơn các cỗ máy cực kỳ mạnh mẽ, sở hữu 'trí thông minh tổng quát', nhưng một lần nữa, không theo kiểu giống con người. Cho dù mở và phân tán hay đóng và tập trung, tại một thời điểm nào đó, các máy tính AGI sẽ được kết nối với nhau”.

Khi ấy, có thể vòng tuần hoàn sẽ lặp lại, tầm nhìn “triết gia trị quốc” của Plato sẽ được hiện thực hóa. Có thể, một thể chế chính trị mới đứng đầu là một hội đồng “triết gia” có trí tuệ xuất chúng và đạo đức mẫu mực, kết hợp với một hệ thống Siêu máy tính sẽ có hiệu suất điều hành vượt trội. Trong tác phẩm kinh điển Tôi, Robot của mình, cây đại thụ của làng khoa học viễn tưởng thế giới, Isaac Asimov cũng từng đề xuất một mô hình tương tự.

Sau cuộc thế chiến thứ ba, nhân loại đã đồng thuận cùng từ bỏ chủ nghĩa dân tộc. “Trái Đất quá nhỏ bé cho ngần ấy quốc gia”. Tất cả các quốc gia giải thể, toàn bộ nhân loại thống nhất dưới sự điều hành của một Tổng Hiệp điều viên (World-Coordinator) duy nhất với sự hỗ trợ của robot và đã giúp ổn định nền kinh tế, ngăn ngừa chiến tranh và mở ra một “Thời đại Hoàng kim” thịnh vượng chưa từng có.

Các đồng tác giả của Khởi nguyên gọi viễn cảnh đó là “Sự trở về của nhà vua.”

Những câu hỏi còn bỏ ngỏ

Khởi nguyên là một cuốn sách đặt ra nhiều câu hỏi hơn là câu trả lời. Đây không chỉ là một cuốn sách phân tích sâu sắc về chính trị và ngoại giao trong bối cảnh AI ngày càng phát triển, mà còn khơi gợi hàng loạt câu hỏi và kịch bản về những khía cạnh cốt lõi của đời sống xã hội loài người: khoa học, quân sự, an ninh, y tế và giáo dục....

Đây là một tác phẩm không thể bỏ qua cho bất kỳ ai muốn nghiêm túc suy ngẫm về những thách thức do AI mang lại. Không chỉ tổng hợp những gì chúng ta đã biết, mà quan trọng hơn, Khởi nguyên đã chỉ ra những điều chúng ta chưa biết về những hiểm họa tiềm tàng từ sự phát triển không kiểm soát của AI.

Cựu Bộ trưởng Thương mại Mỹ Larry Summers nhận xét: "Kissinger, Mundie và Schmidt đã mang đến cho chúng ta những suy ngẫm sâu sắc nhất từ trước đến nay về cả cơ hội lẫn thách thức mà một hệ thống toàn cầu được định hình bởi AI sẽ tạo ra.

Đọc cuốn sách này, các bạn sẽ lĩnh hội được những bài học giá trị. Trước khi có thể nghĩ đến việc xây dựng các chính sách mới về AI, điều cấp thiết là chúng ta phải tái định nghĩa lý trí và bản chất con người. Đây là tác phẩm cuối cùng của Henry Kissinger, và rất có thể, nó sẽ trở thành tác phẩm mang tính dự báo nhất và quan trọng nhất của ông. Đây thực sự là một cuốn sách có ý nghĩa to lớn".

Dịch giả Nguyễn Quý Tiến (Oddly Normal)