アドバンテックがNVIDIAエッジAIプラットフォームを活用した新たなLLM強化を発表

アドバンテックの革新的なLLM強化

アドバンテック株式会社が、台湾の本社から最新のNVIDIA®エッジAIプラットフォームを活用したオープンソースの大規模言語モデル(LLM)の強化を発表しました。この新たな取り組みは、AI技術の進化において重要な一歩となるでしょう。

NVIDIAエッジAIプラットフォームの力

アドバンテックは、このエッジAIプラットフォームを通じて、リアルタイムでのAI処理を可能にします。DeepSeekやLlamaなど、様々なオープンソースLLMに対応することで、NVIDIAのフルスタックコンピューティングプラットフォームやTensorRT-LLMの最適化を活用し、エッジにおける高速なAI推論を実現しています。

包括的なエッジAIシステムの提供

アドバンテックは、軽量な推論から大規模なAIモデルのトレーニングに対応するスケーラブルなNVIDIA®エッジAIプラットフォームを提供しています。このプラットフォームは、規模を問わず最適なパフォーマンスを発揮し、様々なAIワークロードにおいて効率性とスケーラビリティを実現します。チャットボットや特定領域の専門AIなど、幅広いアプリケーションにおいて活用が期待されています。

高性能なLLM推論を実現する技術

特に、アドバンテックのプラットフォームはLlamaやDeepSeek向けに、高速でスケーラブルなLLM推論を可能にしています。省電力かつコンパクトなエッジデバイスからパワフルなAIサーバまで、さまざまなシーンで効率的なAI処理が実現されています。

具体的なエッジAIシステムの性能

- MIC-711-OX (NVIDIA®Jetson Orin™ NX 16GB): 100 TOPSの軽量AI推論システムは、リアルタイムでのエッジ処理に最適です。IoTアシスタントや音声応答自動化システム、産業向け予知保全など、多岐にわたって活用されます。
- MIC-770V3 + MIC-75M20 (Intel®Core™ i7-12700E + NVIDIA RTX™ 4000 SFF AdaGeneration): 300 TOPSの最適化されたLLM推論プラットフォームは、企業向けAIアシスタントや顧客サポートに利用され、効率的なAI処理を実現します。
- SKY-602E3 (AMD EPYC™ 8534P+ 2xNVIDIA RTX™ 4500 AdaGeneration): 特定分野向けAIトレーニングを行うこのシステムは、Llamaモデルの調整やドメイン適応を行えます。金融や医療領域でのAIモデルのカスタマイズに適しています。

未来のエッジAIの可能性

アドバンテックのエッジAIプラットフォームは、NVIDIAの推論加速技術を活用し、多様な業界での高速かつスケーラブルなLLM推論を提供します。この先進的な技術により、エッジAIの未来を切り開く力を持っています。業界全体においてAIを活用した変革が期待される中、アドバンテックは「AI × IoTプラットフォームサービス」を通じて、社会課題の解決に寄与することを目指しています。

今後、さまざまな場面でのAIの活用が進むとともに、アドバンテックの技術がどのように社会を変革していくのか、目が離せない状況です。興味のある方は、ぜひアドバンテックの公式ウェブサイトで最新情報をチェックしてみてください。