今回の連携について
株式会社マクニカと株式会社フィックスターズは、AI技術の導入を目指す企業に対して、一貫したサポートを提供する新たな取り組みを発表しました。両社はそれぞれが持つ強みを生かし、特にTenstorrent製のAI製品に関連した実機評価や性能最適化の支援を行います。
企業ニーズの背景
近年では、様々な業界で生成AIが活用され始めています。その中で企業は、機密保持や運用の柔軟性のために、自社環境でAIモデルを扱いたいという声が高まっています。しかし、AIハードウェアの導入は、製品選択だけでなく、実行環境の整備や性能確認にもつながるため進むのが難しいのが現実です。マクニカとフィックスターズは、このようなニーズに応えるため、連携を強化しています。
支援内容の詳細
具体的には、マクニカのAIインフラの構築や評価支援と、フィックスターズのパフォーマンスエンジニアリング技術を組み合わせ、AIモデルの実機評価を行います。顧客は自身の用途や性能要件に基づき、AI基盤の比較と検証を行うことが可能です。
主な支援内容
- - 顧客のAIモデルやアプリケーションの実機評価
- - 評価環境およびモデル実行環境の構築
- - AIモデルの移植、性能分析および処理上のボトルネック特定
- - ソフトウェア実装の見直し
- - AIモデルの推論性能改善
- - AIインフラの構築、導入、運用支援
このように、両社の協力により、AI技術を確実に実用化するための土壌が整えられつつあります。
共同PoCの実施
今回は特に、TenstorrentのAIワークステーション「TT-QuietBox」を用いた共同のProof of Concept(PoC)が注目されています。ここでは、OpenAIの大規模言語モデル「gpt-oss-120b」を解析し、その推論性能を向上させるための実証が行われました。
技術的成果
実際には、デコード処理のボトルネックであったMoEのexpert行列積を約3.68倍の速度で処理できるよう改善。その結果、TPOT値の短縮やデコード速度の向上を実現しました。これにより顧客は、従来のAIモデルよりも高速で効率的な処理が可能になっています。
今後の展望
このような新しい取り組みを通じて、両社はさらなるAI活用の幅を広げていく所存です。顧客がどのようなAIモデルを利用したいかに応じて、性能最適化や導入、運用における多面的な支援を展開し、企業のAI投資効果を最大化します。
両社の代表者も、この連携の重要性を語っており、顧客に新しいAI技術を安心して利用してもらえる環境作りに貢献していくことを約束しています。これからも、マクニカとフィックスターズは共に、新たなAIの時代を切り拓いていきます。