NVIDIA cùng với các nhà sản xuất máy tính hàng đầu thế giới đã ra mắt một loạt các hệ thống sử dụng kiến trúc Blackwell của NVIDIA với CPU Grace, cơ sở mạng và hạ tầng của NVIDIA để các doanh nghiệp xây dựng các nhà máy AI và trung tâm dữ liệu nhằm thúc đẩy cho làn sóng đột phá mới trong AI tạo sinh.
Trong bài phát biểu khai mạc tại COMPUTEX, nhà sáng lập kiêm CEO của NVIDIA, Jensen Huang, đã thông báo rằng ASRock Rack, ASUS, GIGABYTE, Ingrasys, Inventec, Pegatron, QCT, Supermicro, Wistron và Wiwynn sẽ cung cấp các hệ thống AI nhúng, tại biên và trên đám mây sử dụng GPU và mạng của NVIDIA.
“Cuộc cách mạng công nghiệp tiếp theo đã bắt đầu. Các công ty và những quốc gia đang hợp tác với NVIDIA để chuyển đổi các trung tâm dữ liệu truyền thống trị giá hàng nghìn tỷ USD sang các trung tâm dữ liệu mới được tăng tốc, đây được gọi là các nhà máy AI để sản xuất một loại hàng hóa mới đó chính là AI. Từ các nhà sản xuất máy chủ, các cơ sở hạ tầng mạng và các nhà phát triển phần mềm, toàn ngành công nghiệp đang chuẩn bị cho Blackwell để tăng tốc sự đổi mới dựa trên AI trong mọi lĩnh vực.” – ông Huang phát biểu trong sự kiện.
Để đáp ứng các ứng dụng đa dạng, các sản phẩm sẽ có dải từ một đến nhiều GPU, bộ xử lý từ x86 đến Grace, và công nghệ làm mát từ không khí đến chất lỏng.
Ngoài ra, để đẩy nhanh sự phát triển của các hệ thống có kích thước và cấu hình khác nhau, nền tảng thiết kế tham chiếu mô-đun NVIDIA MGX™ hiện hỗ trợ các sản phẩm Blackwell của NVIDIA. Điều này bao gồm nền tảng mới như NVIDIA GB200 NVL2, được xây dựng để mang lại hiệu suất vượt trội cho các suy luận mô hình ngôn ngữ lớn chính thống, tăng cường truy xuất tạo sinh và xử lý dữ liệu. Nền tảng này phù hợp cho các cơ hội thị trường mới nổi như phân tích dữ liệu, đồng thời tận dụng hiệu suất bộ nhớ băng thông cao được cung cấp bởi các kết nối NVLink®-C2C và các engine giải nén chuyên dụng trong kiến trúc Blackwell sẽ tăng tốc xử lý dữ liệu lên đến 18 lần, với hiệu suất năng lượng tốt hơn 8 lần so với sử dụng CPU x86.
Kiến trúc tham chiếu mô-đun cho tăng tốc tính toán
Để đáp ứng nhu cầu tăng tốc tính toán đa dạng của các trung tâm dữ liệu trên thế giới, NVIDIA MGX sẽ cung cấp cho các nhà sản xuất máy tính một kiến trúc tham chiếu để triển khai nhanh chóng và hiệu quả về chi phí xây dựng với hơn 100 cấu hình thiết kế hệ thống có thể tuỳ chỉnh.
Các nhà sản xuất sẽ bắt đầu với một kiến trúc hệ thống cơ bản cho khung máy chủ của họ, sau đó chọn GPU, DPU và CPU để giải quyết các khối lượng công việc khác nhau. Cho đến nay, hơn 90 hệ thống từ hơn 25 đối tác đã được phát hành hoặc đang trong quá trình phát triển dựa trên kiến trúc tham chiếu MGX, tăng từ 14 hệ thống từ sáu đối tác vào năm 2023 vừa rồi. Sử dụng MGX có thể giúp giảm chi phí phát triển lên đến ba phần tư và giảm thời gian phát triển xuống còn hai phần ba, chỉ còn sáu tháng.
AMD và Intel đang hỗ trợ kiến trúc MGX với kế hoạch cung cấp các thiết kế mô-đun bộ xử lý máy chủ của riêng họ. Bao gồm nền tảng AMD Turin thế hệ tiếp theo và bộ xử lý Intel Xeon 6 với P-cores (trước đây có tên mã là Granite Rapids). Bất kỳ nhà xây dựng hệ thống máy chủ nào cũng có thể sử dụng các thiết kế tham chiếu này để tiết kiệm thời gian phát triển trong khi vẫn đảm bảo tính nhất quán trong thiết kế và hiệu suất.
Nền tảng mới nhất của NVIDIA, GB200 NVL2, cũng tận dụng MGX và Blackwell. Thiết kế của nó cho phép nhiều cấu hình hệ thống và tùy chọn mạng để tích hợp khả năng tăng tốc tính toán vào cơ sở hạ tầng trung tâm dữ liệu hiện có một cách liền mạch. GB200 NVL2 tham gia vào dòng sản phẩm Blackwell, bao gồm cả GPU Tensor Core Blackwell của NVIDIA, GB200 Grace Blackwell Superchips và GB200 NVL72.
Hệ sinh thái hợp nhất
NVIDIA sẽ tạo ra một hệ sinh thái hợp nhất với các đối tác toàn diện của công ty bao gồm TSMC, nhà sản xuất chất bán dẫn hàng đầu thế giới và là đối tác sản xuất của NVIDIA; cùng với đó là các nhà sản xuất điện tử toàn cầu, cung cấp các thành phần quan trọng để tạo ra các nhà máy AI. Điều này sẽ giúp mang đến các cải tiến trong sản xuất như giá máy chủ, khả năng cung cấp điện, giải pháp làm mát và nhiều lợi ích hơn nữa từ các công ty như Amphenol, Asia Vital Components (AVC), Cooler Master, Colder Products Company (CPC), Danfoss, Delta Electronics và LITEON.
Với hệ sinh thái này, các cơ sở hạ tầng trung tâm dữ liệu mới có thể được phát triển và triển khai nhanh chóng để đáp ứng nhu cầu của các doanh nghiệp trên thế giới — và chúng sẽ được tăng tốc thêm bởi công nghệ Blackwell, mạng NVIDIA Quantum-2 hoặc Quantum-X800 InfiniBand, mạng Ethernet NVIDIA Spectrum-X và các DPU NVIDIA BlueField-3.
Các doanh nghiệp cũng có thể truy cập nền tảng phần mềm NVIDIA AI Enterprise, bao gồm các dịch vụ như NVIDIA NIM. NVIDIA NIM là một tập hợp các dịch vụ nhỏ gọn, giúp xử lý nhanh chóng và hiệu quả các tác vụ suy luận AI, như phân tích dữ liệu, nhận diện hình ảnh, và xử lý ngôn ngữ tự nhiên. Nhờ có NVIDIA NIM, các doanh nghiệp có thể dễ dàng tạo và vận hành các ứng dụng AI tạo sinh đạt chuẩn sản xuất, đảm bảo hiệu suất cao và độ chính xác trong mọi lĩnh vực.
Các công ty hàng đầu Đài Loan đón nhận Blackwell
Trong bài phát biểu của mình, Huang cũng thông báo rằng các công ty hàng đầu của Đài Loan đang nhanh chóng áp dụng Blackwell để mang sức mạnh của AI vào hoạt động kinh doanh của họ.
Đầu tiên là các trung tâm y tế hàng đầu tại đây như bệnh viện Memorial Chang Gung, dự định sử dụng nền tảng tính toán Blackwell của NVIDIA để tiến hành nghiên cứu y sinh và tăng tốc các ứng dụng hình ảnh và ngôn ngữ nhằm cải thiện quy trình làm việc lâm sàng, cuối cùng nâng cao chất lượng chăm sóc bệnh nhân.
Foxconn, một trong những nhà sản xuất điện tử lớn nhất thế giới, cũng đang có kế hoạch sử dụng NVIDIA Grace Blackwell để phát triển các nền tảng giải pháp thông minh cho xe điện và robot được hỗ trợ bởi AI, cũng như một số lượng ngày càng tăng các dịch vụ AI tạo sinh dựa trên ngôn ngữ để cung cấp những trải nghiệm cá nhân hóa hơn cho khách hàng của mình.
Một số trích dẫn từ đối tác
- R. Adam Norwitt, chủ tịch và CEO tại Amphenol: “Các hệ thống AI đột phá của NVIDIA yêu cầu các giải pháp kết nối tiên tiến, và Amphenol tự hào cung cấp các thành phần quan trọng. Là một đối tác quan trọng trong hệ sinh thái phong phú của NVIDIA, chúng tôi có thể cung cấp các sản phẩm kết nối phức tạp và hiệu quả cao cho các bộ tăng tốc Blackwell nhằm mang lại hiệu suất hàng đầu.”
- Spencer Shen, chủ tịch và CEO tại AVC: “AVC đóng vai trò quan trọng trong các sản phẩm của NVIDIA, cung cấp giải pháp làm mát hiệu quả cho phần cứng AI của họ, bao gồm cả Superchip Grace Blackwell mới nhất. Khi các mô hình và khối lượng công việc AI tiếp tục phát triển, việc quản lý nhiệt độ đáng tin cậy là quan trọng để xử lý tính toán AI cường độ cao — và chúng tôi sẽ đồng hành cùng NVIDIA trong suốt quá trình này.”
- Jonney Shih, chủ tịch tại ASUS: “ASUS đang hợp tác với NVIDIA để nâng tầm AI doanh nghiệp với dòng máy chủ mạnh mẽ của chúng tôi, sẽ được giới thiệu tại COMPUTEX. Sử dụng các nền tảng MGX và Blackwell của NVIDIA, chúng tôi có thể tạo ra các giải pháp trung tâm dữ liệu tùy chỉnh để xử lý khối lượng công việc của khách hàng trong đào tạo, suy luận, phân tích dữ liệu và HPC.”
- Andy Lin, CEO tại Cooler Master: “Khi nhu cầu về tính toán tăng tốc tiếp tục tăng cao, nhu cầu về các giải pháp đáp ứng hiệu quả tiêu chuẩn năng lượng cho các doanh nghiệp sử dụng bộ tăng tốc tiên tiến cũng tăng theo. Là một nhà tiên phong trong các giải pháp quản lý nhiệt, Cooler Master đang giúp mở khóa toàn bộ tiềm năng của nền tảng Blackwell của NVIDIA, mang lại hiệu suất tuyệt vời cho khách hàng.”
- Etay Lee, phó chủ tịch và tổng giám đốc tại GIGABYTE: “Với sự hợp tác kéo dài gần ba thập kỷ của chúng tôi, GIGABYTE cam kết trong việc hỗ trợ các công nghệ của NVIDIA trên các GPU, CPU, DPU và mạng tốc độ cao. Để các doanh nghiệp đạt được hiệu suất và hiệu suất năng lượng lớn hơn cho các khối lượng công việc tính toán cường độ cao, chúng tôi đang đưa ra thị trường nhiều hệ thống dựa trên Blackwell.”
- Charles Liang, chủ tịch và CEO tại Supermicro: “Kiến trúc khối xây dựng của chúng tôi và các giải pháp làm mát bằng chất lỏng theo quy mô rack, kết hợp với khả năng kỹ thuật và năng lực sản xuất toàn cầu của chúng tôi với 5,000 racks mỗi tháng, cho phép chúng tôi nhanh chóng cung cấp một loạt các sản phẩm dựa trên nền tảng AI của NVIDIA đến các nhà máy AI trên toàn thế giới. Các hệ thống hiệu suất cao làm mát bằng chất lỏng hoặc không khí của chúng tôi với thiết kế theo quy mô rack, tối ưu hóa cho tất cả các sản phẩm dựa trên kiến trúc Blackwell của NVIDIA, sẽ mang lại cho khách hàng sự lựa chọn nền tảng tuyệt vời để đáp ứng nhu cầu tính toán ở cấp độ mới, cũng như một bước nhảy vọt lớn vào tương lai của AI.”
- C.C. Wei, CEO tại TSMC: “TSMC sẽ cùng với NVIDIA để đẩy giới hạn của sự đổi mới bán dẫn giúp họ hiện thực hóa tầm nhìn AI của mình. Các công nghệ sản xuất bán dẫn hàng đầu trong ngành của chúng tôi đã giúp định hình các GPU đột phá của NVIDIA, bao gồm cả những GPU dựa trên kiến trúc Blackwell.”
