Advantech và NVIDIA hợp tác để tăng tốc phát triển và triển khai các ứng dụng generative AI

Advantech, công ty hàng đầu thế giới về IoT công nghiệp, hân hạnh thông báo rằng chúng tôi hiện là nhà phân phối chính thức của NVIDIA AI Enterprise. Điều này cho phép khách hàng tận dụng dữ liệu kinh doanh của họ bằng các giải pháp tại chỗ bằng cách sử dụng LLM tùy chỉnh. Các giải pháp này được triển khai cùng với NVIDIA AI Enterprise và sử dụng các vi dịch vụ AI của NVIDIA, cung cấp cơ sở hạ tầng AI mạnh mẽ và có thể mở rộng.

Nền tảng NVIDIA AI Enterprise 5.0 mới nhất bao gồm nhiều dịch vụ AI tổng hợp siêu nhỏ, được phân loại thành hai nhóm chính: NIM và CUDA-X. NIM tập trung vào các vi dịch vụ suy luận được tối ưu hóa để triển khai mô hình AI quy mô lớn, trong khi CUDA-X nhắm đến các ứng dụng xử lý dữ liệu, AI và điện toán hiệu năng cao.

Advantech, với gần 200 chuyên gia về edge AI tiên tiến và rất nhiều chuyên gia trên toàn cầu, không chỉ cung cấp phần mềm và dịch vụ NVIDIA AI Enterprise mà còn cung cấp các Hệ thống được NVIDIA chứng nhận như máy chủ AI dòng SKY-600 và máy trạm dòng AIR-500. Điều này giúp tăng tốc quá trình cài đặt và triển khai các công cụ và nền tảng phần mềm NVIDIA AI Enterprise trên phần cứng của Advantech, cho phép khách hàng tập trung vào phát triển ứng dụng AI có giá trị.

Vi dịch vụ suy luận NIM cung cấp các bộ chứa dựng sẵn được hỗ trợ bởi phần mềm suy luận NVIDIA, bao gồm Triton Inference Server™ và TensorRT™-LLM. Những công cụ này cho phép các nhà phát triển giảm thời gian triển khai từ vài tuần xuống còn vài phút. Các vi dịch vụ cung cấp API tiêu chuẩn ngành cho các lĩnh vực như ngôn ngữ, giọng nói và khám phá ma túy, cho phép các nhà phát triển nhanh chóng tạo các ứng dụng AI bằng cách sử dụng dữ liệu độc quyền được lưu trữ an toàn trên cơ sở hạ tầng của riêng họ. NIM cũng quản lý và mở rộng quy mô triển khai ứng dụng này, mang lại tính linh hoạt và hiệu suất tuyệt vời để chạy AI tổng hợp trên nền tảng NVIDIA.

Để đẩy nhanh sự phát triển các ứng dụng AI trong các ngành khác nhau, Doanh nghiệp có thể tận dụng nhiều dịch vụ vi mô NVIDIA CUDA-X. Chúng bao gồm NVIDIA Riva cho AI dịch thuật và giọng nói tùy chỉnh, NVIDIA cuOpt™ để lập kế hoạch đường đi tối ưu và NVIDIA Earth-2 cho mô phỏng khí hậu và thời tiết có độ phân giải cao, tất cả đều nhằm mục đích tăng tốc việc áp dụng AI. Các nhà phát triển có thể tích hợp các dịch vụ vi mô NeMo Retriever™ để kết nối các ứng dụng AI với dữ liệu kinh doanh như văn bản, hình ảnh và dữ liệu trực quan như biểu đồ thanh. Những khả năng này nâng cao khả năng của doanh nghiệp trong việc cung cấp nhiều dữ liệu hơn cho các đồng nghiệp AI, chatbot và các công cụ AI tổng hợp, từ đó cải thiện độ chính xác và hiểu biết sâu sắc.

Bằng cách kết hợp dịch vụ hỗ trợ Cấp 1 của Advantech với sức mạnh của NVIDIA AI Enterprise, khách hàng có thể triển khai và duy trì các giải pháp AI biên của mình với tốc độ, độ tin cậy và hiệu quả cao hơn. Các dịch vụ hỗ trợ Cấp 1 của Advantech bao gồm:

• Dịch vụ chứng nhận hệ thống: Đảm bảo độ tin cậy và tính ổn định của nền tảng AI biên của bạn thông qua các quy trình kiểm tra và chứng nhận nghiêm ngặt.
• Tư vấn về khả năng tương thích của hệ điều hành: Nhận lời khuyên của chuyên gia về việc chọn hệ điều hành tối ưu cho các yêu cầu phần cứng và phần mềm cụ thể của bạn.
• Hướng dẫn về điện toán suy luận đa nền tảng: Hiểu rõ hơn về việc chuyển đổi sang môi trường đa nền tảng để nâng cao khả năng mở rộng và tính linh hoạt.
• Tư vấn tích hợp Edge-to-Cloud: Phát triển kiến ​​trúc Edge-to-Cloud liền mạch để quản lý và phân tích dữ liệu hiệu quả.
• Giải pháp an ninh mạng công nghiệp: Triển khai các biện pháp bảo mật mạnh mẽ để bảo vệ hệ thống AI biên của bạn khỏi các mối đe dọa trên mạng.

Dựa trên 40 năm chuyên môn về điện toán công nghiệp, sự hợp tác của Advantech với NVIDIA đã mang lại một nền tảng và bộ công cụ phát triển ứng dụng AI toàn diện, hiệu quả và an toàn cho khách hàng của mình. Các dịch vụ hỗ trợ cấp 1 của Advantech giải quyết các vấn đề về khả năng tương thích và khả năng sử dụng trong quá trình thiết lập nền tảng, trong khi các chuyên gia AI của NVIDIA cung cấp hỗ trợ trực tiếp để giải quyết mọi thách thức phát triển liên quan đến SDK AI của NVIDIA. Điều này đảm bảo kết quả được tăng tốc và tối ưu hóa trong quá trình phát triển ứng dụng AI. Để biết thêm chi tiết về NVIDIA AI Enterprise, hãy đăng ký dùng thử hoặc truy cập trang sản phẩm của Advantech.