Giải pháp cải thiện hiệu năng huấn luyện AI của các thuật toán, linh kiện

Tính năng giả lập ứng dụng của KAI Data Centre Builder tích hợp mô hình ngôn ngữ lớn (LLM) và các ứng dụng huấn luyện mô hình trí tuệ nhân tạo (AI) khác vào quá trình thiết kế và xác nhận các cấu phần của hạ tầng AI - mạng, máy chủ host và các bộ tăng tốc. Giải pháp này tạo ra sự cộng lực chặt chẽ hơn giữa thiết kế phần cứng, các giao thức, kiến trúc và các thuật toán huấn luyện AI, giúp cải thiện hiệu năng hệ thống.

Các nhà khai thác AI sử dụng nhiều chiến lược xử lý song song, còn được gọi là phân vùng mô hình, để tăng tốc huấn luyện mô hình AI. Phân vùng mô hình phù hợp với topo và cấu hình cụm AI giúp nâng cao hiệu năng huấn luyện AI. Trong giai đoạn thiết kế cụm AI, các câu hỏi trọng yếu nhất nên được giải quyết thông qua thực nghiệm.

Các nhà khai thác AI có thể sử dụng ứng dụng giả lập tải công việc trong KAI Data Center Builder để thử nghiệm.

Giải pháp giả lập ứng dụng KAI Data Centre Builder tái tạo các mẫu hình kết nối mạng của các nhiệm vụ huấn luyện AI thực tế để đẩy nhanh thử nghiệm, rút ngắn thời gian cần học để thuần thục và giúp hiểu sâu hơn về các nguyên nhân suy giảm hiệu năng, là những kết quả khó đạt được khi chỉ đơn thuần thực hiện các nhiệm vụ huấn luyện AI.

Các nhà khai thác AI có thể sử dụng ứng dụng giả lập tải công việc trong KAI Data Center Builder để thử nghiệm các tham số xử lý song song, bao gồm kích thước phân vùng và phân bổ của các phân vùng trên hạ tầng AI khả dụng (lập lịch); tìm hiểu tác động của kết nối trong và giữa các phân vùng đối với thời gian hoàn thành nhiệm vụ (JCT) tổng thể; xác định các hoạt động tập thể hiệu năng thấp, phân tích sâu để phát hiện các điểm tắc nghẽn...

Năng lực giả lập ứng dụng mới của KAI Data Centre Builder giúp các nhà khai thác AI, các nhà cung cấp đám mây GPU và các nhà cung cấp thiết bị cơ sở hạ tầng đưa các ứng dụng AI thực tế vào môi trường phòng thí nghiệm, để xác nhận các thiết kế thường xuyên thay đổi của các cụm AI và các cấu phần mới. Họ cũng có thể thử nghiệm để tinh chỉnh các phương thức, tham số và thuật toán, giúp tối ưu hóa hạ tầng và cải thiện hiệu năng ứng dụng AI.

KAI Data Centre Builder là nền tảng của kiến trúc Keysight Artificial Intelligence (KAI), một danh mục các giải pháp toàn diện được thiết kế trợ giúp khách hàng nâng cao năng lực xử lý trí tuệ nhân tạo trong các trung tâm dữ liệu bằng cách giả lập ứng dụng AI thực tế để xác nhận các cấu phần của cụm AI.

Thanh Vân