アドバンテック、生成AI開発向け エッジAI サーバー「AIR-520」をリリース
08.10.2024
| 《この記事を要約すると・・・》
アドバンテックは、生成AIの開発向けに エッジAIサーバー「AIR-520」を発表。 このエッジAIサーバーは、AIトレーニングと推論を効率的に実行できるよう設計された高性能なシステムです。 最新のGPU技術で、リアルタイムデータ処理・低遅延処理を実現することはもちろん、さまざまな産業アプリケーションに導入できるよう、充実したラインナップと、開発支援ツールを提供します。 |
アドバンテック株式会社（TWSE:2395 東京都台東区、以下、アドバンテック)は、Phison社 (本社：台湾)の特許技術である大量のデータを効率的に処理するためのAIシステム「aiDAPTIV+」 に対応したエッジAIサーバー「AIR-520」の発売を開始します。
「AIR-520」は、AMD EPYC 7003シリーズプロセッサ、SQ ai100 AI SSD、NVIDIA GPUカードなど高性能のハードウェアに加え、開発を支援するツール「NVIDIA AI Enterprise」と「Edge AI SDK」を提供することで迅速な運用を実現します。
LLM(大規模言語モデル)などの生成AIツールは、データの整理、検索、分析の自動化やカスタム化をすることで、より精度を高めることができますがそれにはコストがかかる場合があります。「AIR-520」は、最大4枚のNVIDIA GPUカードと「aiDAPTIV+」 と「SQ ai100 AI SSD」により、LLMの微調整を可能にしました。またこの微調整はインターネットを介さずオンプレミスで実行できるので、お客様は安全な環境下で効率のよいLLMトレーニングが可能となります。
多様なアプリケーションに合わせて設計された4つのモデル
「AIR-520」はシステム規模やアプリケーションに合わせて、“L13B”、“L33B”、“L70B”、“L70B Plus”の 4モデルをラインナップしました。
● L13B ・・・ チャットボットや言語翻訳などのリアルタイムアプリケーションに最適です。
● L33B ・・・ コンテンツ作成における生産性と革新を向上させる複雑なタスクに適しています。
● L70B ・・・ 専門分野の高度なデータ分析と意思決定に優れています。
● L70B Plus ・・・生成AI用ソフトウェアプラットフォーム「NVIDIA AI Enterprise」に対応することで、開発ツール、フレームワーク、学習済みモデルが利用できるだけでなく、パフォーマンスやセキュリティを確保するための信頼性の高い管理とサポートサービスも提供します。
コスト効率の最適化と設置の容易性
すべてモデルには、Phison社の「aiDAPTIV+ 」技術を活用した「SQ ai100 AI SSD」が搭載されています。これらのSSDはGPU VRAMの拡張として機能し、最小限のGPUカードでLLMを微調整することが可能なためコストをおさえることが可能です。
また「AIR-520」の本体サイズは、380(幅) x 176(高さ) x 454.1(奥行き) mmとデスクトップPCと同等で、従来の大型ラックマウントサーバーと比べスリム仕様であり、4Uのラックマウントに設置することが可能です。
「Edge AI SDK」でAI開発を加速
アドバンテックはLLMの微調整に加え、生成AIトレーニングのためのAI開発キット「Edge AI SDK」を提供しています。「Edge AI SDK」は、Llama-2 7B/13B/70Bモデルなどが利用可能で、チャットボットやデータ分析などのアプリケーションに特化したLLMモデルのトレーニングと推論評価が迅速に行うことができます。さらに、アドバンテックのエッジデバイス管理ソフトウェア「DeviceOn」を用いれば、OTAソフトウェア/コンテナの更新など、リモートでの監視・制御ができるので、効率的かつ組織的に長期メンテナンスが可能になります。
■「AIR-520」の主な仕様
| CPU | AMD EPYC 7003 series: 7713P/ P7543P/ P7313P
プロセッサ搭載 |
| メモリ |
6 (RDIMM 299pin DDR4) |
| 拡張スロット |
4 (PCI Express x 16) |
| ストレージ |
6 (2.5インチ SSD)
1 (M.2 with PCIe Gen4 x4) |
| 内蔵電源 |
1,200 W |
| 動作温度範囲 |
0 〜 40℃ |
| サイズ | 380 x 176 x 454.1 mm (W x H x D) |
| 質量 |
15.5kg |
※ 本リリースに記載されている会社名、サービス名、商品名は、各社の登録商標または商標です。
※ 本商品の仕様は予告なく変更になる場合がございます。予めご了承ください。
-25/EPC-B5000_Front-left--_Square20231115180815.jpg)
-25/AIR-520_04--20240503141558.jpg)
-25/AIR-510_04--20240806132906.jpg)
-25/PR-AIR-520_w820h46020240830105212.jpg)
