Advantech ra mắt MIC-733-AO - Hệ thống máy tính Edge AI để tăng tốc phát triển ứng dụng AI tạo sinh (Generative AI)
25/03/2024
Advantech, nhà cung cấp giải pháp edge AI công nghiệp hàng đầu thế giới, hân hạnh thông báo ra mắt bản demo ứng dụng AI tạo sinh (Generative AI) thành công với MIC-733-AO của Advantech, dựa trên nền tảng NVIDIA® Jetson AGX Orin™. Điều này mang tới cho các nhà phát triển AI cách để tận dụng lợi ích từ tính tức thời cao hơn, bảo mật nâng cao và giảm chi phí Internet so với AI tạo sinh dựa trên đám mây. Các mô hình AI tạo sinh từ phòng thí nghiệm AI Jetson cung cấp mô hình AI nền tảng miễn phí, cho phép tùy chỉnh và giảm đáng kể thời gian phát triển với Hệ thống máy tính Edge AI MIC-733-AO.
AI tạo sinh trên MIC-733-AO
Hệ thống Edge Generative AI MIC-733-AO của Advantech, tương thích với các mô hình NVIDIA Generative AI từ phòng thí nghiệm AI Jetson, hiện chạy hiệu quả các mô hình ngôn ngữ lớn (LLM), mô hình ngôn ngữ tầm nhìn (VLM), bộ chuyển đổi tầm nhìn (ViT) và tạo hình ảnh và Llamaspeak ở biên với NVIDIA® Jetson AGX Orin™. Các dịch vụ độc đáo của nền tảng trải rộng trên nhiều lớp, bao gồm điện toán tăng tốc, phần mềm AI quan trọng và các mô hình được đào tạo trước, tạo điều kiện thuận lợi cho việc tạo, tùy chỉnh và triển khai các mô hình AI tổng hợp phù hợp với nhiều ứng dụng và địa điểm khác nhau.
Với các mô hình Generative AI từ phòng thí nghiệm AI Jetson, các nhà phát triển có thể tận dụng kỹ thuật Retrieval-Augmented Generation (RAG), kết nối LLM và VLM với cơ sở tri thức của công ty. Cách tiếp cận này giúp loại bỏ nhu cầu đào tạo mô hình AI truyền thống, cho phép tương tác đàm thoại đơn giản với hệ thống để đưa ra suy luận về AI, rút ngắn đáng kể thời gian phát triển.
Advantech MIC-733-AO tự hào có hiệu suất xử lý AI cao và nhiều giao diện video, chẳng hạn như camera IP, camera công nghiệp USB/gigE, camera GMSL, LiDAR, v.v., cho phép vận hành mô hình Generative AI tại biên. Thiết kế tản nhiệt đặc biệt của nó giúp ngăn ngừa sự cố về nhiệt, ngay cả khi NVIDIA® Jetson AGX Orin™ hoạt động hết công suất.
Generative AI tại biên cho các ứng dụng có độ phản hồi cao
Generative AI đang cách mạng hóa sự tương tác giữa con người và máy tính bằng cách tạo ra nội dung mới từ nhiều đầu vào và đầu ra khác nhau, chẳng hạn như văn bản và hình ảnh. Sự thay đổi nhu cầu từ đám mây sang biên khiến GenAI trở thành nơi lý tưởng cho các ứng dụng cần có độ phản hồi cao và độ trễ thấp.
Generative AI tại biên cung cấp một số lợi thế so với các giải pháp dựa trên đám mây:
AI tạo sinh - Generative AI ở biên đại diện cho tương lai của kỷ nguyên AI. Hệ thống Edge Generative AI MIC-733-AO, được tích hợp với các mô hình NVIDIA Generative AI từ phòng thí nghiệm AI Jetson, cung cấp một giải pháp đơn giản cho các nhà phát triển AI và hiện đã có mặt trên thị trường. Bản demo ứng dụng Generative AI với MIC-733-AO hiện đang được Advantech giới thiệu trực tiếp tại sự kiện GTC 2024. Để biết thêm thông tin chi tiết về giải pháp này, vui lòng liên hệ với Advantech Việt Nam để được hỗ trợ.
-25/MIC-711-ON_0320230517094751.jpg)
-25/MIC-733_03-----(1)20221028164426.jpg)
-25/MIC-713(無底板)_02--20230705163931.jpg)
-25/MIC-710AILX_Front-left--_Banner20210625120909.jpg)
-25/MIC-710AI_Front-left_P-(1)20240126143138.png)
