アクセルとインテルが手掛ける高速AI推論技術の新展開

2024年12月23日、東京で株式会社アクセルとインテルコーポレーションは、独自開発のAIフレームワークailia SDKに基づいた高速AI推論に関する協力を発表しました。このコラボレーションにより、両社はより高いパフォーマンスと安定性を実現したAIアプリケーションの提供を目指しています。

ailia SDKの特長

ailia SDKは、アクセルのグループ会社であるaxが開発したクロスプラットフォームフレームワークで、エッジデバイス上でのAI処理を最適化することが目的です。このSDKを活用することで、通信環境やサーバーの影響を受けずに高速かつ安定したAI推論が可能となり、低遅延を実現しています。また、APIコストの削減にも貢献しています。

インテルとの協力

インテルの最新技術を取り込むことで、ailia SDKはIntel® Arc™ディスクリートGPUおよびIntel® Core™ UltraプロセッサのIntel® Xe Matrix Extensions (XMX)による高速推論をサポートすることができます。特にXMXを備えたGPUは、ailia SDKのVulkanバックエンドと連携し、推論処理を加速する専用エンジンとして機能します。これにより、従来の計算時間を大幅に短縮できます。

あるテストでは、Intel® Arc™ A770 GPUを使用した際、XMXが無効の場合の処理時間が304.5ミリ秒だったのに対し、XMXを有効にすると184.25ミリ秒に短縮され、パフォーマンスが40％向上したことが報告されています。

アクセルのDXへの取り組み

アクセルは、特にデジタルトランスフォーメーション(DX)に重視したアプリケーションであるailia DX Insightを展開しており、このアプリケーションもailia SDKをバックエンドに利用しています。将来的には、XMXをサポートすることで、さらなる性能向上を計画しています。

関係者のコメント

アクセルの常務取締役兼CTOの客野一樹氏は、「XMXは行列乗算を迅速に計算でき、現代のトランスフォーマーモデルを加速します。これにより、高速処理が求められるAIモデルをインテルプラットフォーム上で実行することが現実的になりました。」と述べています。

また、インテルコーポレーションのVPであるカーラ・ロドリゲス氏は、「アクセルとのコラボレーションにより、インテル製のAI PC上でのワークロード実行時のパフォーマンス向上を実現できることに興奮しています。」とコメントしています。