Tại sự kiện COMPUTEX 2024, CEO của Arm – ông Rene Haas đã chia sẻ về cách công ty đang chuẩn bị cho hơn 100 tỷ thiết bị Arm sẵn sàng cho AI từ đám mây đến các thiết bị biên vào năm 2025.
Có đủ năng lượng cho AI?
Một trong những câu hỏi chính mà Haas đề cập là liệu thế giới có đủ năng lượng để đáp ứng nhu cầu tính toán ngày càng tăng của AI hay không. Dù đã chứng kiến nhiều đổi mới ấn tượng về AI, ngành công nghiệp vẫn đang đối mặt với một tình thế tiến thoái lưỡng nan: càng cải tiến bộ xử lý để đáp ứng yêu cầu hiệu năng của AI, nhu cầu năng lượng càng lớn.
Với DNA của Arm là được thiết kế từ các thiết bị chạy bằng pin, Haas tin rằng đây là lý do tại sao công ty đang nhận được sự chấp nhận ngày càng lớn bởi các nhà cung cấp dịch vụ đám mây hàng đầu như AWS, Google và Microsoft. Arm là CPU tiết kiệm năng lượng nhất thế giới, và sự tiết kiệm năng lượng mà nó mang lại đang thúc đẩy sự đổi mới AI ấn tượng.
Phần mềm đóng vai trò quan trọng
Dẫn đầu trong hiệu quả năng lượng, đây là điều mà Arm nổi tiếng nhất trong hơn 30 năm lịch sử và là nền tảng giúp công ty trở thành nền tảng tính toán phổ biến nhất thế giới. Tuy nhiên, theo Haas, điều thực sự làm cho Arm trở nên độc đáo là hệ sinh thái phần mềm không giống bất kỳ hệ sinh thái nào khác.
Như Haas chỉ ra, Arm đã trở thành lựa chọn mặc định cho mọi hệ điều hành lớn trên thế giới. Các máy tính AI mà Microsoft mới công bố là một ví dụ tuyệt vời, nơi các ứng dụng được sử dụng nhiều nhất hiện đang chạy nguyên bản trên Windows on Arm. Trên thực tế, với hệ sinh thái gồm 18 triệu nhà phát triển phần mềm, nhiều nhà phát triển thiết kế trên CPU Arm hơn bất kỳ bộ xử lý nào khác hiện nay.
Sự hỗ trợ của nhà phát triển này vô cùng quan trọng nếu muốn trải nghiệm những thay đổi xã hội mà AI có thể mang lại từ các thiết bị nhỏ nhất ở biên cho đến việc huấn luyện và suy luận trên đám mây. Các nhà phát triển cần có khả năng lấy những đổi mới mà họ đang làm với AI và chạy nó trên phần cứng ở trạng thái tối ưu về hiệu suất, năng lượng và tính khả thi cao.
Để đảm bảo điều này trên nền tảng tính toán Arm, Haas đã giới thiệu Arm Kleidi AI, một bộ thư viện tính toán AI mới giúp các nhà phát triển dễ dàng chạy các ứng dụng AI của họ trên Arm. Haas nói, “Nếu có điều gì đã học được qua hơn 30 năm của Arm, dù phần cứng có tuyệt vời đến đâu, nếu không có gì đó để các nhà phát triển tiếp cận, phần cứng đó sẽ không có ích gì.“
Ví dụ, khi các nhà phát triển làm việc trên các mô hình của họ trong các framework như TensorFlow, PyTorch, Llama 3 và MediaPipe, Kleidi AI cho phép họ đi vào lớp trừu tượng và tận dụng các tính năng phần cứng cơ bản cho các công việc AI để đạt được tiềm năng hiệu suất đầy đủ.
Để nói về những lợi ích của KleidiAI từ góc độ hệ sinh thái, Haas đã chia sẻ video của các giám đốc điều hành từ Samsung Mobile, Meta và Google về cách Arm và KleidiAI sẽ giúp họ tăng tốc đổi mới AI trên Arm trong nhiều thị trường khác nhau.
Arm Compute Subsystems cho thiết bị khách hàng
Ngoài tất cả các công việc tuyệt vời mà Arm đang làm để hỗ trợ hệ sinh thái nhà phát triển AI, cần tiếp tục cung cấp các sản phẩm có hiệu suất cao hơn và tiết kiệm năng lượng hơn. Để chia sẻ thêm về điều này, Chris Bergey, SVP và GM cho Dòng sản phẩm Khách hàng của Arm, đã lên sân khấu để nói về Arm Compute Subsystems (CSS) mới được công bố cho các thiết bị khách hàng.
Đây là lần đầu tiên Arm giới thiệu các triển khai vật lý của CPU và GPU của họ trên các nút 3nm tiên tiến. Theo Bergey, điều này quan trọng vì hệ sinh thái Arm hiện có thể sử dụng các nhân đã được chứng minh, triển khai vật lý trên các nút 3nm tiên tiến này và đưa ra thị trường nhanh hơn với sự tự tin lớn hơn.
CSS cho phép các nhà sản xuất chip tập trung vào sự khác biệt của họ xung quanh nền tảng và những gì kiến trúc Armv9 có thể mang lại cho các sản phẩm thế hệ tiếp theo. Khi kết hợp điều này với KleidiAI, các nhà phát triển có các công cụ cần thiết để tận dụng đầy đủ các công nghệ phần cứng thế hệ tiếp theo này.
Haas kết thúc bằng cách nhấn mạnh cam kết của Arm đối với AI bằng cách cung cấp các nền tảng tính toán hoàn chỉnh nhất trên hành tinh. Với các đổi mới như Arm CSS và KleidiAI, dự kiến hơn 100 tỷ thiết bị Arm sẽ sẵn sàng cho AI vào cuối năm 2025. Đây là một số lượng thiết bị đáng kinh ngạc sẽ không chỉ tái định hình ngành công nghiệp mà còn cả toàn bộ hành tinh.
