Biến hàng tỷ thiết bị điện tử nhàn rỗi thành hạ tầng huấn luyện AI, startup Việt được Qualcomm chú ý

Hyratek là startup Việt sở hữu giải pháp Salala - tận dụng sức mạnh của CPU, NPU và GPU trên các thiết bị người dùng như smartphone, TV, laptop, ô tô điện,… và áp dụng mô hình sharing economy (kinh tế chia sẻ) để biến hàng tỷ thiết bị đó thành hạ tầng phần cứng có thể sử dụng cho việc huấn luyện và thực thi các mô hình AI.

Công ty khởi nghiệp được thành lập bởi ông Nguyễn Văn Tuấn - cựu Phó Tổng giám đốc VCCorp, một tập đoàn truyền thông lớn ở Việt Nam. Ông Tuấn là một trong những người phát triển hệ thống thương mại điện tử đời đầu như Rongbay, Enbac, Muare, Muachung.

Thị trường hạ tầng phần cứng cho AI đang rất nóng, giúp gia trị vốn hóa của những tên tuổi đứng đầu như NVIDIA, Intel, Qualcomm,... tăng trưởng hàng chục lần trong vài năm qua.

Ông Nguyễn Văn Tuấn, CEO Hyratek trình bày tại sự kiện sáng 30/8. (Ảnh: Đức Huy).

Theo báo cáo của Precedence Research, năm 2024 quy mô thị trường AI đạt 133,12 tỷ USD. Với tốc độ tăng trưởng chóng mặt, các chuyên gia dự đoán dung lượng thị trường sẽ đạt gần 2.000 tỷ USD năm 2032. Các công ty công nghệ đình đám như OpenAI, Google, Facebook mỗi mô hình AI họ tiêu tốn hàng trăm triệu USD cho việc huấn luyện.

Do đó, sáng 30/8, Qualcomm đã ký kết hợp tác chiến lược nhằm triển khai hạ tầng AI với Hyratek. Việc hợp tác giữa hai bên sẽ cung cấp dịch vụ hạ tầng điện toán biên và phần cứng phục vụ cho thị trường AI trong nước và quốc tế, cùng đồng hành mang lại giải pháp hạ tầng huấn luyện và thực thi mô hình AI giá rẻ cho các doanh nghiệp toàn cầu.

Ông Thiều Phương Nam, Tổng giám đốc Qualcomm thị trường Việt Nam, Lào, Campuchia, Thái Lan cho biết trong thời gian qua, tập đoàn đã đầu tư 90 tỷ USD cho hoạt động R&D để đưa ra những công nghệ mới.

Ông Nam nói Qualcomm và Hyratek chia sẻ chung tầm nhìn về AI. Trong đó, lãnh đạo hai công ty nhận định AI sẽ là xu hướng lớn nhất trong thời gian tới. Trí tuệ nhân tạo sẽ phát triển mạnh trên các thiết bị ngoại biên và thiết bị người dùng cuối, thúc đẩy khả năng phổ cập hóa công nghệ này.

Ông Thiều Phương Nam, Tổng giám đốc Qualcomm thị trường Việt Nam, Lào, Campuchia, Thái Lan, tại sự kiện hợp tác với Hyratek. (Ảnh: Đức Huy).

“Tôi rất hào hứng với giải pháp Salala. Trao đổi với anh Tuấn có thể nói đây là mô hình đầu tiên tận dụng năng lực của các thiết bị ngoại biên để đào tạo AI. Điều này giúp giảm chi phí rất nhiều bởi việc đào tạo AI rất tốn kém. Trên thế giới hiện có 10 tỷ thiết bị ngoại biên như smartphone, PC, xe điện,… Những thiết bị này dùng chip của Qualcomm nên cơ hội hợp tác giữa Qualcomm và Hyratek rất lớn”, ông Thiều Phương Nam nói.

Tập đoàn công nghệ Mỹ cho biết sẽ cùng làm việc với Hyratek để tối ưu các giải pháp trên nền tảng công nghệ Qualcomm. Cam kết đội ngũ kỹ thuật của Qualcomm Việt Nam cũng như khu vực sẽ làm việc với Hyratek để tối ưu các mô hình AI. Đồng thời, với hệ sinh thái toàn cầu, Quacomm cũng hỗ trợ Hyratek đưa giải pháp ra thị trường thế giới.

Thực tế, việc đào tạo AI rất tốn kém. Số liệu của Sequoia cho thấy chỉ trong năm ngoái ngành công nghệ đã chi đến 50 tỷ USD để mua chip Nvidia nhằm đào tạo AI nhưng hiện mới chỉ đem về 3 tỷ USD doanh thu. Để ra được một kết quả tìm kiếm thông thường thì AI tốn lượng tài nguyên lớn hơn rất nhiều.

Chẳng hạn Google, hãng có doanh thu khá lớn từ quảng cáo trực tuyến và đang dùng AI thì tờ Wall Street Journal (WSJ) tin rằng chi phí này cuối cùng cũng sẽ xói mòn vào lợi nhuận. Hay như một sản phẩm phổ biến như ChatGPT (có 100 triệu người dùng trong một tháng), ước tính OpenAI phải bỏ ra 40 triệu USD để xử lý hàng triệu truy vấn mà mọi người nạp vào trong tháng đó.

Chi phí sẽ đội lên nhiều lần khi các công cụ này được dùng hàng tỷ lần mỗi ngày. Theo các chuyên gia tài chính, chatbot Bing AI của Microsoft – sử dụng mô hình ChatGPT – cần ít nhất 4 tỷ USD hạ tầng để phản hồi người dùng.

Do đó, ông Nguyễn Văn Tuấn, CEO Hyratek nói việc hợp tác với Qualcomm sẽ giúp đơn vị nghiên cứu, phát triển và cung cấp hạ tầng AI nói chung, hạ tầng điện toán biên nói riêng cho các doanh nghiệp tại Việt Nam và toàn cầu, mở ra cơ hội được ứng dụng AI cho các bên có nhu cầu với chi phí hợp lý.

Đức Huy