研華整合 NVIDIA 生成式 AI 模型， 於 GTC 2024 展示 邊緣生成式 AI 系統
2024/3/20
台北，3月20日，2024–全球工業物聯網領導廠商研華公司（TWSE：2395）成功整合輝達(NVIDIA)生成式AI模型於MIC-733-AO邊緣AI推論系統，這一新的邊緣生成式AI系統將於輝達GTC2024GPU科技大展中於研華攤位上展示(攤位號碼:232)，預告未來生成式AI將大幅減少開發者訓練模型的時間，且在工業上應用上也能以更簡單的人機對話方式，得到AI推論的結果。
研華MIC-733-AO+輝達生成式AI模型=邊緣生成式AI系統
研華MIC-733-AO邊緣AI系統基於輝達Jetson AGX Orin™平台，搭載輝達Jetson AI實驗室的生成式人工智慧模型，現在成功高效率運行大型語言模型（LLMs）、視覺語言模型（VLM）、視覺變換器（ViT）以及圖像生成和對話生成Llamaspeak，這要歸功於輝達Jetson AGX Orin™平台的獨特優勢，包括加速計算、重要的AI軟體和預先訓練的模型，有助於創建、自定義和部署適用於各種應用和地點的生成式人工智慧模型。
利用輝達Jetson AI實驗室的生成式人工智慧模型，AI開發者可以運用檢索增強生成（RAG）技術，將LLMs和VLMs連接到公司的知識庫。這種方法消除了傳統AI模型訓練的需求，允許透過與系統的簡單對話交互來產生AI推論，明顯縮短了開發時間。研華科技的MIC-733-AO擁有高AI運算效能和多個影像輸入介面，例如IP攝影機、USB/gigE工業相機、GMSL攝影機、激光雷達等，讓開發者可以輕鬆串接影像訊息結合AI運算，而工業級小體積設計更適合放在邊緣端應用，即使在輝達Jetson AGX Orin運行滿載時，出色的散熱設計也能防止系統過熱。
邊緣生成式AI系統反應更即時，應用更多元
生成式AI通過從不同的輸入和輸出（例如文本和圖像）創建新內容，正在改變人與電腦的互動方式。從雲端到邊緣端，邊緣端生成式AI更適合需要快速反應和低延遲環境的最佳解決方案。在邊緣端生成式AI相對於雲端生成式AI的解決方案具有以下幾點優勢：
- 即時反應：集結攝影機和感測器等數據來源的邊緣計算系統能夠立即回應，無需等待與雲端上傳資料造成的延遲。
- 資料安全：數據儲存在邊緣系統中，大幅降低雲端數據傳輸相關的資安風險。
- 穩定的網路連接：即使沒有無線網路，邊緣系統也能夠操作並將數據存儲在本地端，直到網路恢復，而雲端生成式AI在沒有網路時將無法運作。
- 低傳輸成本：邊緣端AI因不需要隨時傳輸訊息給雲端，僅需低量傳輸，比雲端AI隨時上傳資料更具成本效益。
邊緣生成式AI代表了人工智慧時代的未來。研華科技的MIC-733-AO邊緣生成式人AI系統，整合輝達Jetson AI實驗室的生成式AI模型，為AI開發者提供了一個簡單的解決方案。
我們誠摯邀請您參加GTC 2024在研華科技的展位（展位號：232）上觀看真實的生成式AI展示，或者您可以透過影片或在下載MIC-733-AO Live LLaVA Demo教學，立即開始邊緣生成式AI。
更多研華AI相關應用: https://iotmart.advantech.com.tw/Widget.aspx?WidgetID=3160#two
關於研華
研華為物聯網智能系統與嵌入式平台產業之全球領導廠商，並以「智能地球的推手」作為企業品牌願景。為迎接物聯網、大數據與 人工智慧之大趨勢，研華提出以工業物聯網雲平台 WISE PaaS 為核心之物聯網軟、硬體解決方案，以協助夥伴客戶串接產業鏈； 此外，亦積極偕同各產業夥伴「共創」產業生態圈，以加速實踐產業智能化之目標。（ ww w.advantech.com ）
媒體聯絡人：
研華公司 / 產業雲暨影像科技事業群 行銷部
陳郁蓉 Elsa Chen
Tel: +886 - 2 - 7732 - 3399, Ext. 1782
Mobile: 0983 - 035 - 833
Elsa.Chen@advantech.com.tw
-25/MIC-733_03-----(1)20221028164426.jpg)
