NVIDIA vừa công bố bốn dịch vụ vi mô mới (microservices) nhằm hỗ trợ các nhà phát triển dễ dàng xây dựng và triển khai các ứng dụng AI tạo sinh có hiệu suất cao, đặc biệt phù hợp với ngôn ngữ và văn hóa khu vực. Các dịch vụ này giúp cải thiện khả năng hiểu ngôn ngữ và văn hóa địa phương, đồng thời nâng cao trải nghiệm người dùng thông qua phản hồi chính xác hơn.
Doanh thu phần mềm AI tạo sinh tại khu vực Châu Á – Thái Bình Dương dự kiến sẽ đạt 48 tỷ USD vào năm 2030, tăng từ 5 tỷ USD hiện nay. Các mô hình ngôn ngữ lớn (LLM) như Llama-3-Swallow-70B và Llama-3-Taiwan-70B, được huấn luyện trên dữ liệu tiếng Nhật và tiếng Quan Thoại, hỗ trợ hiệu quả cho các nhiệm vụ pháp lý khu vực, dịch thuật, và hiểu ngôn ngữ bản địa.
Công ty AI Nhật Bản, Preferred Networks, đã phát triển một mô hình AI y tế sử dụng mô hình Llama-3, được huấn luyện trên dữ liệu y tế Nhật Bản và đạt được thành tích cao trong các bài kiểm tra y tế quốc gia. Trong khi đó, bệnh viện Chang Gung Memorial tại Đài Loan sử dụng mô hình Llama-3-Taiwan-70B để cải thiện hiệu quả làm việc của đội ngũ y tế thông qua ngôn ngữ y tế dễ hiểu hơn.
Các dịch vụ vi mô NIM này giúp các doanh nghiệp, cơ quan chính phủ và trường đại học có thể lưu trữ các mô hình AI trong môi trường của riêng mình, giúp triển khai các ứng dụng AI như chatbot, trợ lý ảo và các công cụ hỗ trợ khác.
Phát triển ứng dụng với các dịch vụ vi mô NIM AI có chủ quyền
Các dịch vụ vi mô NIM được tối ưu hóa với thư viện mã nguồn mở NVIDIA TensorRT-LLM, cho phép các mô hình AI hoạt động hiệu quả hơn với chi phí thấp hơn và thời gian phản hồi nhanh hơn. Những dịch vụ này hiện có sẵn dưới dạng API, giúp tăng tốc triển khai và nâng cao hiệu suất tổng thể của các ứng dụng AI.
Sử dụng NVIDIA NIM để tăng tốc kết quả AI tạo sinh
NVIDIA NIM giúp triển khai các ứng dụng AI trong nhiều ngành công nghiệp, từ chăm sóc sức khỏe, tài chính đến sản xuất và giáo dục. Những dịch vụ vi mô này giúp các tổ chức toàn cầu tối ưu hóa hiệu suất AI, đảm bảo an toàn và tăng cường hiệu quả làm việc.
Tạo mô hình doanh nghiệp tùy chỉnh với NVIDIA AI Foundry
NVIDIA AI Foundry cung cấp một nền tảng toàn diện giúp các nhà phát triển tinh chỉnh các mô hình AI khu vực để phù hợp với nhu cầu kinh doanh cụ thể. Nền tảng này sử dụng các mô hình nền tảng như NVIDIA NeMo và cung cấp dung lượng chuyên dụng trên NVIDIA DGX Cloud, giúp dễ dàng triển khai các dịch vụ vi mô NIM tùy chỉnh, đảm bảo kết quả phù hợp với văn hóa và ngôn ngữ của người dùng.
