CEO Nvidia chỉ ra nút thắt AI

CEO Nvidia cho rằng chip nhớ là yếu tố quyết định trong cuộc đua AI. Ảnh: Bloomberg.

Jensen Huang, CEO Nvidia cho rằng chip nhớ đã trở thành nút thắt cổ chai lớn nhất trong quá trình phát triển AI. Nhận định này cho thấy cuộc đua AI đang chuyển từ sức mạnh tính toán đơn thuần sang năng lực xử lý, lưu trữ và truy xuất dữ liệu tốc độ cao.

Theo Caiwen Overseas News, ông Huang cho biết các tác vụ AI đang thay đổi rất nhanh. Chúng không chỉ dừng ở việc tạo văn bản hoặc hình ảnh. Các hệ thống mới đang tiến tới tác nhân thông minh và phức tạp hơn, có khả năng xử lý nhiều hoạt động trong ngữ cảnh dài hơn.

Điều này khiến nhu cầu bộ nhớ băng thông cao ngày càng lớn. Với các mô hình AI hiện đại, dữ liệu phải được đưa vào, lưu lại và truy xuất liên tục. Nếu bộ nhớ không theo kịp, sức mạnh của GPU cũng khó được khai thác trọn vẹn.

“Chip nhớ đã trở thành nút thắt cổ chai lớn nhất trong sự phát triển của AI”, Jensen Huang nói.

Trong nhiều năm, Nvidia xây dựng lợi thế nhờ GPU. Đây là phần cứng cốt lõi giúp công ty thống trị thị trường AI. Tuy nhiên, khi quy mô tăng lên và các hệ thống AI trở nên phức tạp hơn, GPU không còn là yếu tố duy nhất quyết định hiệu suất.

Vì vậy, Nvidia đang chuyển hướng sang xây dựng các hệ thống AI tích hợp chặt chẽ hơn giữa GPU và chip nhớ. Cách tiếp cận này giúp tăng tốc độ trao đổi dữ liệu, giảm độ trễ và cải thiện khả năng xử lý của toàn bộ hệ thống.

Tuy nhiên, chiến lược này cũng tạo ra thách thức mới. Nvidia cần nguồn cung chip nhớ ổn định với số lượng lớn từ các nhà sản xuất như Micron, SK Hynix và Samsung. Đây là những doanh nghiệp giữ vai trò quan trọng trong chuỗi cung ứng bộ nhớ cho AI.

Song, năng lực sản xuất chip nhớ chuyên dụng không thể mở rộng ngay lập tức. Nếu nguồn cung bị hạn chế, tiến độ giao hàng các hệ thống AI của Nvidia có thể bị ảnh hưởng. Điều này đặc biệt nhạy cảm trong bối cảnh nhu cầu từ các trung tâm dữ liệu vẫn tăng mạnh.

Các nhà phân tích thị trường cho rằng tình trạng thiếu bộ nhớ là giai đoạn tự nhiên trong quá trình phát triển của AI. Khi ngành chuyển sang các mô hình lớn và phức tạp hơn, điểm nghẽn sẽ xuất hiện ở những phần khác của hệ thống, không chỉ riêng GPU.

Minh Hoàng