アドバンテックが新たなエッジAIサーバー「AIR-520」をリリース
アドバンテック株式会社は、生成AIの開発向けに設計されたエッジAIサーバー「AIR-520」の発売を発表しました。この新しいAIサーバーは、AIトレーニングと推論を効率的に実行できる高性能なシステムとして、多くの産業アプリケーションに適用可能です。これにより、データのリアルタイム処理や低遅延処理を実現し、様々な分野で活用が期待されています。
高性能ハードウェアとサポートツールの組み合わせ
新モデル「AIR-520」には、AMD EPYC 7003シリーズプロセッサ、SQ ai100 AI SSD、NVIDIA GPUカードなど、最先端のハードウェアが備わっています。さらに、開発者が迅速に作業を進められるように、「AIR-520 for Gen AI Applications」と「NVIDIA AI Enterprise」といった開発支援ツールも提供されています。
このサーバーは、特にLLM(大規模言語モデル)などの生成AIツールの微調整を効率的に行うことができ、コストを抑えつつも高い性能を引き出せます。最大4枚のNVIDIA GPUカードがサポートされているため、多様な業務要求に応じた柔軟な運用が可能です。さらに、微調整はインターネットを介さずオンプレミスで実施できるため、安全な環境でのトレーニングが実現します。
アプリケーションに応じた4モデルのラインナップ
「AIR-520」は、システム規模やアプリケーションに合わせた4種類のモデルを取り揃えています。
- - L13B:チャットボットや言語翻訳などのリアルタイムアプリケーションに最適。
- - L33B:コンテンツ制作における生産性向上や複雑なタスクに対応。
- - L70B:専門的なデータ分析や意思決定を求めるユーザー向け。
- - L70B Plus:NVIDIA AI Enterpriseに対応し、フレームワークやモデル、サポート付きの高信頼性を実現。
コスト効率と設置の容易性
すべてのモデルには、Phison社の「aiDAPTIV+」技術を活用した「SQ ai100 AI SSD」が搭載されています。このSSDは、GPU VRAMの拡張として機能し、最小限のGPUカードでLLMの微調整を可能にします。これにより、コストが効果的に抑えられます。また、本体サイズは380mm x 176mm x 454.1mmとコンパクトで、従来の大型サーバーに比べて設置が容易です。
エッジAI開発を加速するソフトウェア
「AIR-520」は、生成AIトレーニングのためのソフトウェアも提供しています。このソフトウェアは、Llama-2の各種モデルを利用でき、チャットボットやデータ分析に特化したLLMのトレーニングや推論評価が迅速に行えます。さらに、アドバンテックの「DeviceOn」を活用することで、リモートでの監視・制御が可能になり、長期的なメンテナンスが容易になります。
総括
「AIR-520」は、生成AI開発のための高性能なエッジAIサーバーとして、データ処理の速度と効率を大幅に向上させる可能性を秘めています。多様なモデルや開発支援ツールが整っているため、あらゆる業界での導入が期待されており、今後の展開に注目です。