MyAdvantechに登録

「MyAdvantech」はアドバンテックのお客様のための専用ポータルサイトです。メンバーに登録されたお客様には新製品、オンラインセミナー、eStoreでのディスカウントなどの情報を配信いたします。

メンバーに今すぐ登録!

NVIDIA®エッジAIプラットフォームを活用したオープンソースLLMの強化

2025/04/04

 アドバンテック株式会社(東京都台東区、代表取締役社長 吉永和良)の本社 Advantech Co., Ltd (台湾、TWSE: 2395、以下 アドバンテック)は、NVIDIA®エッジAIプラットフォームを用いたオープンソースLLMの強化を発表します。 

▶   Advantech Co., Ltd – 発表資料    >>   

※以下、本プレスリリースの翻訳となります。


 2025年3月19日 - Advantech Co., Ltd (台湾、TWSE: 2395、以下 アドバンテック)は、最新のNVIDIA®エッジAIコンピュータプラットフォームを活用し、オープンソースの大規模言語モデル(LLM)の導入に新たな進化をもたらします。DeepSeekやLlamaなどのオープンLLMに対応し、NVIDIA®のフルスタックコンピューティングプラットフォームやTensorRT-LLMの最適化、Jetson™プラットフォームを用いて、エッジで高速かつ迅速なAI推論を実現しています。

オープンソースLLM導入のための包括的なエッジAIシステム

 アドバンテックは、軽量な推論から大規模なAIモデルのトレーニングまで、さまざまなLLM導入ニーズに対応するスケーラブルなNVIDIA®エッジAIプラットフォームを提供しています。デバイス上のチャットボット、特定の領域に特化したAI、大規模なLLMのライフサイクル管理等、規模を問わず、アドバンテックのエッジAIソリューションは、異なるAIワークロードにおいて最適なパフォーマンス、効率性、スケーラビリティを実現します。

LlamaとDeepSeek向けに高性能なLLM推論を提供

 アドバンテックのNVIDIA®エッジAIコンピューティングプラットフォームは、LlamaやDeepSeekを含むオープンソースLLM向けにスケーラブルで高速な推論を提供し、コンパクトなエッジデバイスから強力なAIサーバまで、効率的なAI処理を実現します。

アドバンテックのエッジAIシステムにおけるLLMパフォーマンス概要

MIC-711-OX (NVIDIA® Jetson Orin™ NX 16GB)– 軽量AI推論システム(100 TOPS)

    特長:リアルタイムエッジ処理向けの低消費電力・コンパクトなAI推論
    対象アプリケーション:
  • AI搭載スマートデバイス(IoTアシスタント、AIロボット)
  • 顧客対応向けエッジAI(小売キオスク、音声応答自動化システム)
  • 産業向けAI監視(予知保全、品質管理)
  • モバイルおよびオフライン使用向け軽量AIアシスタント

MIC-770V3 + MIC-75M20(Intel® Core™ i7-12700E + NVIDIA RTX™ 4000 SFF Ada Generation)– 最適化されたLLM推論プラットフォーム(300 TOPS)

    特長:高速で効率的なLLM推論を実現する強化された計算能力
    対象アプリケーション:
  • 企業向けAIアシスタント(AIを用いたメールおよびドキュメント要約)
  • AIによる顧客サポート(チャットボット、音声AI)
  • コーディングおよび生産性向上ツールに対応したオンデバイスAI
  • サイバーセキュリティおよび不正検出AI

SKY-602E3(AMD EPYC™ 8534P+ 2x NVIDIA RTX™ 4500 Ada Generation)– 特定分野向けAIトレーニング(1000+ TOPS)

    特長:
  • Llamaモデルの調整やドメイン適応に対応
  • 特定業界向けのカスタムLLMを提供
    対象アプリケーション:
  • 財務・法務向けAIモデル(カスタム法的文書分析、リスク評価)
  • ヘルスケアAIアシスタント(診断サポート、患者データ分析)
  • AIを活用した情報管理(企業向けAI検索、エンタープライズチャットボット)
  •  AIベースのソフトウェア開発アシスタント(コード生成、バグ検出)

 アドバンテックのエッジAIプラットフォームは、NVIDIA推論加速技術、最適なメモリ割り当て、電力効率の良いコンピューティングにより、さまざまな業界で高速かつスケーラブルなLLM推論を提供します。 

エッジAIの未来を切り開く

 アドバンテックのフルスタックエッジAIコンピューティングプラットフォームは、NVIDIA® Jetson™とデータセンターGPUを活用し、リアルタイムかつ迅速な処理でAIネイティブアプリケーションを提供します。さらに、NVIDIA®の技術により、エッジAIの加速とオープンソースLLM導入の限界を広げ、業界におけるAIを活用した変革を支援します。詳細については、Advantechのウェブサイトまたは営業担当者にお問い合わせください。


※ 本リリースに記載されている会社名、サービス名、商品名は、各社の登録商標または商標です。

※ 本商品の仕様は予告なく変更になる場合がございます。予めご了承ください。