NVIDIA®エッジAIプラットフォームを活用したオープンソースLLMの強化
04.04.2025
アドバンテック株式会社（東京都台東区、代表取締役社長 吉永和良）の本社 Advantech Co., Ltd (台湾、TWSE: 2395、以下 アドバンテック)は、NVIDIA®エッジAIプラットフォームを用いたオープンソースLLMの強化を発表します。
▶ Advantech Co., Ltd – 発表資料 ＞＞
※以下、本プレスリリースの翻訳となります。
2025年3月19日 - Advantech Co., Ltd (台湾、TWSE: 2395、以下 アドバンテック)は、最新のNVIDIA®エッジAIコンピュータプラットフォームを活用し、オープンソースの大規模言語モデル（LLM）の導入に新たな進化をもたらします。DeepSeekやLlamaなどのオープンLLMに対応し、NVIDIA®のフルスタックコンピューティングプラットフォームやTensorRT-LLMの最適化、Jetson™プラットフォームを用いて、エッジで高速かつ迅速なAI推論を実現しています。
オープンソースLLM導入のための包括的なエッジAIシステム
アドバンテックは、軽量な推論から大規模なAIモデルのトレーニングまで、さまざまなLLM導入ニーズに対応するスケーラブルなNVIDIA®エッジAIプラットフォームを提供しています。デバイス上のチャットボット、特定の領域に特化したAI、大規模なLLMのライフサイクル管理等、規模を問わず、アドバンテックのエッジAIソリューションは、異なるAIワークロードにおいて最適なパフォーマンス、効率性、スケーラビリティを実現します。
LlamaとDeepSeek向けに高性能なLLM推論を提供
アドバンテックのNVIDIA®エッジAIコンピューティングプラットフォームは、LlamaやDeepSeekを含むオープンソースLLM向けにスケーラブルで高速な推論を提供し、コンパクトなエッジデバイスから強力なAIサーバまで、効率的なAI処理を実現します。
アドバンテックのエッジAIシステムにおけるLLMパフォーマンス概要
MIC-711-OX（NVIDIA® Jetson Orin™ NX 16GB）– 軽量AI推論システム（100 TOPS）
特長：リアルタイムエッジ処理向けの低消費電力・コンパクトなAI推論
対象アプリケーション：
- AI搭載スマートデバイス（IoTアシスタント、AIロボット）
- 顧客対応向けエッジAI（小売キオスク、音声応答自動化システム）
- 産業向けAI監視（予知保全、品質管理）
- モバイルおよびオフライン使用向け軽量AIアシスタント
MIC-770V3 + MIC-75M20（Intel® Core™ i7-12700E +NVIDIA RTX™ 4000 SFF Ada Generation）– 最適化されたLLM推論プラットフォーム（300 TOPS）
特長：高速で効率的なLLM推論を実現する強化された計算能力
対象アプリケーション：
- 企業向けAIアシスタント（AIを用いたメールおよびドキュメント要約）
- AIによる顧客サポート（チャットボット、音声AI）
- コーディングおよび生産性向上ツールに対応したオンデバイスAI
- サイバーセキュリティおよび不正検出AI
SKY-602E3（AMD EPYC™ 8534P+ 2x NVIDIA RTX™ 4500 Ada Generation）– 特定分野向けAIトレーニング（1000+ TOPS）
特長：
- Llamaモデルの調整やドメイン適応に対応
- 特定業界向けのカスタムLLMを提供
対象アプリケーション：
- 財務・法務向けAIモデル（カスタム法的文書分析、リスク評価）
- ヘルスケアAIアシスタント（診断サポート、患者データ分析）
- AIを活用した情報管理（企業向けAI検索、エンタープライズチャットボット）
- AIベースのソフトウェア開発アシスタント（コード生成、バグ検出）
アドバンテックのエッジAIプラットフォームは、NVIDIA推論加速技術、最適なメモリ割り当て、電力効率の良いコンピューティングにより、さまざまな業界で高速かつスケーラブルなLLM推論を提供します。
エッジAIの未来を切り開く
アドバンテックのフルスタックエッジAIコンピューティングプラットフォームは、NVIDIA® Jetson™とデータセンターGPUを活用し、リアルタイムかつ迅速な処理でAIネイティブアプリケーションを提供します。さらに、NVIDIA®の技術により、エッジAIの加速とオープンソースLLM導入の限界を広げ、業界におけるAIを活用した変革を支援します。詳細については、Advantechのウェブサイトまたは営業担当者にお問い合わせください。
※ 本リリースに記載されている会社名、サービス名、商品名は、各社の登録商標または商標です。
※ 本商品の仕様は予告なく変更になる場合がございます。予めご了承ください。
-25/MIC-71320240411132816.png)
-25/MIC-711_03--20230105102027.jpg)
-25/MIC-770-V2_03---(1)20221207100333.jpg)
-25/MIC-71320240411132751.png)
-25/MIC-71120240411132840.png)
