Tại sự kiện GTC 2024, NVIDIA công bố loạt switch mạng mới Quantum-X800 InfiniBand và Spectrum-X800 Ethernet. Cả hai đều được thiết kế để đáp ứng nhu cầu ngày càng tăng của điện toán GPU nghìn tỷ tham số và cơ sở hạ tầng AI.
Hiệu suất mạng 800Gb/s hàng đầu thế giới
Bộ đôi switch mạng Quantum-X800 InfiniBand và Spectrum-X800 Ethernet là những nền tảng mạng đầu tiên trên thế giới đạt khả năng truyền tải end-to-end 800Gb/s, vượt qua mọi rào cản về hiệu suất mạng cho các khối lượng công việc điện toán và AI. Chúng đi kèm phần mềm giúp tăng tốc các ứng dụng AI, các dịch vụ đám mây, xử lý dữ liệu và HPC trong mọi loại trung tâm dữ liệu, bao gồm cả những trung tâm sử dụng dòng sản phẩm dựa trên kiến trúc NVIDIA Blackwell mới được phát hành.
Những đơn vị đầu tiên áp dụng Quantum InfiniBand và Spectrum-X Ethernet bao gồm Microsoft Azure và Oracle Cloud Infrastructure. Coreweave cũng nằm trong số những đơn vị áp dụng sớm.
Tiêu chuẩn mới cho hiệu suất cực cao
Quantum-X800 đặt ra một tiêu chuẩn mới trong việc cung cấp hiệu suất cao nhất cho các cơ sở hạ tầng chuyên dụng cho AI. Nó bao gồm switch NVIDIA Quantum Q3400 và NVIDIA ConnectX-8 SuperNIC, cùng nhau đạt được tốc độ truyền tải end-to-end hàng đầu là 800Gb/s. Đây là dung lượng băng thông cao gấp 5 lần và khả năng tính toán In-Network tăng 9 lần lên 14,4 TFLOP với giao thức tổng hợp Scalable Hierarchical Aggregation và Reduction Protocol (SHARPv4) của NVIDIA so với thế hệ trước.
Spectrum-X800 mang lại hiệu suất mạng được tối ưu hóa cho AI đám mây và cơ sở hạ tầng doanh nghiệp. Sử dụng switch Spectrum SN5600 800Gb/s và NVIDIA BlueField-3 SuperNIC, thiết bị cung cấp các bộ tính năng tiên tiến, rất quan trọng cho các đám mây AI sinh ra đa thuê và các doanh nghiệp lớn. Ngoài ra thiết bị còn tối ưu hóa hiệu suất mạng, giúp xử lý, phân tích và thực thi các khối lượng công việc AI nhanh hơn, do đó đẩy nhanh quá trình phát triển, triển khai và đưa giải pháp AI ra thị trường.
Hỗ trợ phần mềm NVIDIA
NVIDIA cung cấp một bộ đầy đủ các thư viện tăng tốc mạng, bộ công cụ phát triển phần mềm và phần mềm quản lý để tối ưu hóa hiệu suất cho các mô hình AI nghìn tỷ tham số. Bộ công cụ còn bao gồm Thư viện Giao tiếp Tổng hợp NVIDIA (NVIDIA Collective Communications Library – NCCL), mở rộng các tác vụ tính toán song song trên GPU sang cấu trúc mạng Quantum-X800, tận dụng các khả năng In-Network Computing mạnh mẽ của nó với SHARPv4 hỗ trợ FP8, giúp tăng tốc hiệu suất cho việc đào tạo mô hình lớn và AI sinh ra.
