Tại CES 2025, NVIDIA đã ra mắt Project Digits, một siêu máy tính AI cá nhân với giá khởi điểm 3,000 USD, dự kiến phát hành vào tháng 5. Trọng tâm của Project Digits là chip GB10 Grace Blackwell Superchip, mang lại hiệu năng mạnh mẽ đủ để xử lý các mô hình AI lên đến 200 tỷ tham số. Với thiết kế nhỏ gọn như một chiếc PC mini, hệ thống này phù hợp để đặt trên bàn làm việc và sử dụng từ nguồn điện tiêu chuẩn – một bước tiến lớn so với các hệ thống yêu cầu nguồn điện và kích thước lớn trước đây.
Jensen Huang, CEO NVIDIA, chia sẻ: “AI sẽ hiện diện trong mọi ứng dụng và mọi ngành công nghiệp. Với Project Digits, Grace Blackwell Superchip mang đến sức mạnh AI cho hàng triệu nhà phát triển. Việc đặt siêu máy tính AI trên bàn làm việc của các nhà khoa học dữ liệu, nhà nghiên cứu AI và sinh viên sẽ giúp họ tham gia và định hình kỷ nguyên AI.”
Hiệu năng vượt trội từ GB10 Superchip và khả năng mở rộng
Project Digits được trang bị 128GB bộ nhớ thống nhất, so với mức 16GB hoặc 32GB trên các laptop cao cấp hiện nay, và lưu trữ lên đến 4TB NVMe. Đối với các ứng dụng phức tạp hơn, hai hệ thống Project Digits có thể liên kết để xử lý mô hình với 405 tỷ tham số, tương đương với Meta’s Llama 3.1 – một trong những mô hình AI tiên tiến nhất hiện nay.
Chip GB10 Grace Blackwell Superchip mang lại hiệu suất AI ấn tượng, đạt 1 petaflop (1 triệu tỷ phép tính mỗi giây) với độ chính xác FP4, giúp tăng tốc độ xử lý bằng cách sử dụng các phép tính gần đúng. Ngoài ra, chip này được kết nối với CPU Grace chứa 20 nhân Arm tiết kiệm năng lượng, được NVIDIA hợp tác cùng MediaTek để tối ưu hiệu suất và khả năng tiêu thụ điện.
Các nhà phát triển sử dụng Project Digits sẽ được truy cập thư viện phần mềm AI của NVIDIA, bao gồm các bộ công cụ phát triển, công cụ điều phối và các mô hình AI được huấn luyện sẵn qua Nvidia NGC catalog. Hệ thống chạy trên DGX OS, một nền tảng dựa trên Linux, hỗ trợ các framework phổ biến như PyTorch, Python, và Jupyter notebooks. NVIDIA cũng tích hợp NeMo Framework để tinh chỉnh các mô hình AI và RAPIDS libraries nhằm tối ưu hóa quy trình làm việc dữ liệu.
Không chỉ hỗ trợ phát triển và thử nghiệm tại chỗ, Project Digits còn cho phép triển khai mô hình AI lên các nền tảng đám mây hoặc trung tâm dữ liệu, nhờ sử dụng kiến trúc Grace Blackwell và nền tảng phần mềm NVIDIA AI Enterprise.
Tiếp cận AI dễ dàng với Project Digits
NVIDIA kỳ vọng Project Digits sẽ thúc đẩy sự phát triển của AI bằng cách đặt công cụ mạnh mẽ này vào tay các nhà phát triển, nhà nghiên cứu và sinh viên trên toàn cầu. Với giá khởi điểm 3,000 USD, hệ thống này phù hợp cho những ai cần xử lý mô hình phức tạp ngay trên bàn làm việc. Để so sánh, NVIDIA trước đó đã ra mắt Jetson Orin Nano Super giá 249 USD, nhắm đến người dùng khởi nghiệp hoặc trải nghiệm thử, nhưng chỉ hỗ trợ mô hình với tối đa 8 tỷ tham số – nhỏ hơn đáng kể so với khả năng của Project Digits.
Với Project Digits, NVIDIA khẳng định thêm vị thế của mình trong ngành AI, tiếp tục mở rộng khả năng ứng dụng công nghệ này vào mọi khía cạnh của cuộc sống và công việc.
