Sự phát triển nhanh chóng của công nghệ AI đang đặt ra những thách thức mới về hiệu quả năng lượng và hiệu suất tính toán. Để giải quyết vấn đề này, Arm Neoverse mang đến giải pháp xây dựng các trung tâm dữ liệu đám mây bền vững và sẵn sàng cho AI, nhằm tối ưu hóa năng lượng và hiệu suất tính toán cho khối lượng công việc AI ngày càng tăng trong buổi hội thảo tại Computex 2024 vừa qua.
Sự tăng trưởng bùng nổ của khối lượng công việc AI và tác động đến tiêu thụ năng lượng
AI đang trở nên phổ biến hơn và được sử dụng trong nhiều ngành công nghiệp khác nhau, từ chăm sóc sức khỏe và bán lẻ đến dịch vụ chuyên nghiệp và sản xuất. Sự tăng trưởng này dẫn đến sự gia tăng đáng kể trong tiêu thụ năng lượng.
Cần có phần cứng AI hiệu quả hơn
Phần cứng AI truyền thống thường đắt đỏ và tiêu tốn nhiều năng lượng. Arm đang phát triển các cải tiến silicon mới để cải thiện hiệu suất và hiệu quả năng lượng của phần cứng AI. Arm hợp tác với các công ty công nghệ lớn như NVIDIA, AWS, Microsoft và Google để thiết kế silicon tối ưu hóa cho khối lượng công việc.
Tầm quan trọng của CPU và GPU trong khối lượng công việc AI
Trung tâm dữ liệu AI cần cả CPU và GPU để hiệu quả mở rộng hiệu suất tính toán AI. GPU phù hợp cho khối lượng công việc lớn nhưng có thể đắt đỏ và tiêu tốn nhiều năng lượng. CPU linh hoạt hơn và có thể sử dụng cho nhiều loại công việc khác nhau. Arm đang cải thiện hiệu suất của CPU cho các khối lượng công việc suy luận AI, thể hiện qua sự nâng cao hiệu suất và hiệu suất năng lượng của Arm Neoverse so với các đối thủ trên thị trường.
Lượng tử hóa làm tăng hiệu quả của các mô hình AI
Lượng tử hóa là kỹ thuật giúp giảm số bit cần thiết để biểu diễn dữ liệu trong mô hình AI, làm cho mô hình nhỏ gọn hơn và hiệu quả hơn. Arm phát triển các kỹ thuật lượng tử hóa mới để cải thiện hiệu suất của mô hình AI mà không làm giảm độ chính xác. Các mô hình có kích thước nhỏ hơn có thể chạy trên CPU và áp dụng các chiến lược lượng tử hóa mô hình để giảm yêu cầu phần cứng, mở ra nhiều khả năng mới cho việc triển khai máy chủ AI Chatbot trên biên và đám mây, từ các thiết bị nhỏ như RaspberryPi4 đến các dịch vụ đám mây mạnh mẽ như AWS Graviton3.
Chuyển đổi trung tâm dữ liệu AI nhanh chóng với silicon hiệu suất cao đã được kiểm chứng
Arm Neoverse CSS là giải pháp cho điều này. Với Neoverse CSS, Arm chịu trách nhiệm cấu hình, tối ưu hóa và kiểm chứng một hệ thống tính toán hoàn chỉnh – cấu hình cho các trường hợp sử dụng quan trọng trên thị trường hạ tầng. Điều này giúp các đối tác tập trung vào sự khác biệt cụ thể của hệ thống và khối lượng công việc mà họ quan tâm – có thể là điều chỉnh phần mềm, gia tốc tùy chỉnh – hoặc bất cứ điều gì khác.
Vai trò của chiplet trong xây dựng chuỗi cung ứng bền vững
Chiplet là các mảnh silicon nhỏ, modular có thể kết hợp để tạo thành chip phức tạp hơn. Chiplet giúp cải thiện năng suất, giảm chi phí NRE và cho phép tái sử dụng tài sản trí tuệ. Arm đang tiến hành phát triển công nghệ chiplet và cam kết xây dựng một hệ sinh thái chiplet đa dạng. Chương trình Arm Total Design của Arm kết hợp các nhà lãnh đạo ngành trong toàn bộ chuỗi cung ứng bán dẫn để giảm chi phí silicon tùy chỉnh.
Cập nhật từ các đối tác Arm Total Design
Chỉ trong 6 tháng kể từ khi ra mắt chương trình, Arm Total Design đã có 25 thành viên. Bao gồm các nhà cung cấp EDA mới và IP bổ sung, cùng với các đối tác thiết kế silicon tại các khu vực chiến lược như Hàn Quốc, Đài Loan, Trung Quốc và Ấn Độ, nơi có cơ hội tăng trưởng lớn. Chúng tôi hợp tác với ba nhà sản xuất lớn để đảm bảo sản phẩm CSS của chúng tôi được tối ưu hóa cho các nút quy trình tiên tiến của họ. Hôm nay, chúng tôi chào đón Mediatek tham gia chương trình. Cùng với đó, các đối tác Novatek và RealTek đã công bố AI Chiplet và Networking Edge SoCs hợp tác với TSMC trên nền Neoverse CSS N3.
Arm hỗ trợ thiết kế đồng bộ phần cứng – phần mềm
Với mô hình hợp tác của Arm, các đối tác có thể chạy khối lượng công việc của họ trên các hệ thống đại diện của IP khi chúng tôi phát triển nó. Sự hợp tác này ảnh hưởng trực tiếp đến cách Arm phát triển kiến trúc của mình – và cách chúng tôi thực hiện kiến trúc đó trong các sản phẩm IP của chúng tôi. Sau khi cung cấp IP này, chúng tôi tiếp tục hỗ trợ các đối tác trong suốt vòng đời phát triển SOC, giúp họ đánh giá các lựa chọn thiết kế mà Arm cung cấp thông qua mô phỏng và mô phỏng và trong suốt chu kỳ sản xuất và triển khai để giảm thời gian ra thị trường. Chúng tôi hợp tác để mở ra con đường duy nhất đến tính toán TÙY CHỈNH mà hạ tầng máy tính ngày nay cần. Nhưng thiết kế đồng bộ này không chỉ dừng lại ở CPU. Để đạt được tối ưu hóa TCO sâu sắc cần xem xét toàn bộ nền tảng. Chỉ Arm cung cấp khả năng điều chỉnh bộ nhớ và I/O, và bổ sung các bộ gia tốc khối lượng công việc tùy chỉnh, ở cấp độ nền tảng.
