Advantech lance le système d’IA générative Edge MIC-733-AO pour accélérer significativement le développement de la GenAI
4/8/2024
Advantech, fournisseur leader de solutions d’Edge AI (IA en périphérie), annonce une démo d’IA générative avec son système MIC-733-AO, basé sur le module NVIDIA® Jetson AGX Orin™. Ce projet montre aux développeurs d’IA les possibilités offertes par la GenAI (IA générative) en périphérie : instantanéité, sécurité renforcée et réduction des coûts Internet par rapport au cloud. Les modèles de GenAI du Jetson AI lab offrent un modèle d’IA de base gratuit, personnalisable et permettant d’accélérer considérablement le développement avec le système de GenAI Edge MIC-733-AO.
GenAI avec le MIC-733-AO
Le système de GenAI Edge MIC-733-AO d’Advantech, compatible avec les modèles d’IA générative NVIDIA du Jetson AI lab, peut désormais exécuter efficacement des grands modèles de langage (LLM), des modèles langage-vision (VLM), des transformateurs de vision (ViT), mais aussi la génération d’images et Llamaspeak en périphérie, grâce au module NVIDIA® Jetson AGX Orin™. Les prestations uniques de la plateforme couvrent plusieurs couches (accélération du calcul, logiciel d’IA essentiel, modèles préentraînés, entre autres) pour faciliter la création, la personnalisation et le déploiement de modèles de GenAI adaptés à divers sites et applications.
Grâce aux modèles de GenAI du Jetson AI lab, les développeurs peuvent exploiter la technique RAG (Retrieval-Augmented Generation), en reliant les LLM et les VLM à la base de connaissances de leur entreprise. Cette approche élimine l’entraînement traditionnel des modèles d’IA, et permet de générer des inférences IA via des interactions conversationnelles simples, réduisant considérablement le temps de développement.
Le système MIC-733-AO d’Advantech offre des performances IA élevées, mais aussi de multiples interfaces vidéo (caméra IP, caméras industrielles USB/GigE, caméras GMSL, LiDAR, etc.), ce qui permet aux utilisateurs d’exploiter des modèles d’IA générative en périphérie. Par ailleurs, sa conception thermique exceptionnelle permet d’éviter les pannes de surchauffe, même lorsque le module NVIDIA® Jetson AGX Orin™ fonctionne à pleine capacité.
GenAI en périphérie : réactivité assurée
L’IA générative révolutionne l’interaction personne-machine en créant de nouveaux contenus à partir de diverses données entrantes/sortantes comme le texte et les images. La transition de la demande du cloud vers la périphérie fait de la GenAI la solution idéale pour assurer une réactivité maximale et une latence minimale.
La GenAI en périphérie offre des avantages supplémentaires par rapport aux solutions cloud :
Réponse immédiate
Grâce aux systèmes en périphérie intégrant des sources de données comme les caméras et les capteurs, la GenAI peut répondre rapidement sans avoir à attendre la fin des uploads dans le cloud.
Connexion réseau stable
Le système périphérique reste opérationnel en cas de panne du réseau sans fil et stocke les données en local jusqu’au rétablissement, contrairement à l’IA cloud qui cesse de fonctionner quand la connexion est perdue.
L’IA générative en périphérie est l’IA de demain. Le système de GenAI Edge MIC-733-AO, intégré aux modèles d’IA générative NVIDIA du Jetson AI lab, offre aux développeurs d’IA une solution simple et disponible dès maintenant. Inscrivez-vous à la démo MIC-733-AO Live LLaVA ici et commencez à créer vos applications GenAI en périphérie
Live Demo Video
-25/MIC-710AI_Front-left_P-(1)20240126143338.png)
-25/MIC-713(無底板)_02--20230705163931.jpg)
-25/MIC-710AI_Front-left_P-(1)20240126143138.png)
-25/MIC-733_03-----(1)20221028164426.jpg)
-25/MIC-710AILT_Front-left--_Banner20211101114429.jpg)
