インテルのGaudi 3を活用したneoAI Chatの技術検証が完了

neoAIとインテル、生成AIの新時代を切り開く

株式会社neoAI（東京都千代田区、CEO:千葉駿介）は、生成AIオールインワンパッケージ「neoAI Chat」を、インテル® Gaudi 3 AI アクセラレーターを用いて提供するための技術検証を実施したと発表しました。この検証は、インテル株式会社の協力を得て行われ、生成AI基盤の構築に向けた新たな可能性を示すものとなりました。

技術検証の概要

今回行われた技術検証では、インテル® Gaudi 3 AI アクセラレーターの性能が中心的なテーマです。この新しいアクセラレーターを使用することで、特に以下の2つの点が明らかとなりました。

1. LLMの推論性能: 同価格帯の他のアクセラレーターと比較して、より多くの同時アクセスを処理し、LLM（大規模言語モデル）の推論速度が向上することが実証されました。

2. LLMの学習: 最新の30B級モデルの学習が進む可能性が確認されました。これにより、より広範なデータ処理が可能となり、多様なニーズに応える力が強化されます。

期待される成果

この技術検証によって、以下のようなメリットが見込まれています。

- 高性能な推論処理: インテル® Gaudi 3 AI アクセラレーターの優れた計算能力により、大規模な言語モデルの高速処理が実現されます。これにより、複雑なRetrieval-Augmented Generation (RAG) 処理でも安定したレスポンスが提供されることが期待されています。

- コスト効率の向上: 高いパフォーマンス/コスト比を実現することで、投資対効果が最大化され、スケーラブルなインフラ構成によりビジネスの拡張性が高まります。

- エンタープライズ向け機能の強化: 「neoAI Chat」の高度なRAG機能や管理機能の将来的な活用が可能となり、企業固有のデータを活用した生成AI環境の構築が進められます。

今後の展開

両社は今後も継続的な技術連携を推進し、日本企業の生成AI導入を加速させるためのソリューション開発に取り組んでいくことを宣言しています。株式会社neoAIはこの技術検証を契機に、より多くの企業が安心して生成AIを利用できるような環境作りに貢献していく所存です。

各社からのコメント

インテル株式会社の代表取締役社長である大野誠氏は、「今回の技術検証において、インテル® Gaudi 3 AI アクセラレーターがneoAI様の『neoAI Chat』の生成AI基盤の中で非常に効果的に機能したことを非常に嬉しく思っています。弊社はAIソリューションの革新を通じて、企業のDX推進を支援していきます。」と述べています。

一方、株式会社neoAIのCEO、千葉駿介氏は、「インテル® Gaudi 3 AI アクセラレーターを活用した技術検証を行えたことを喜ばしく思います。私たちは、多くの企業が生成AIを活用できるための環境作りに引き続き努めます。」と語りました。

この技術検証の詳細については、こちらのリンクからご覧いただけます。なお、情報は発表日時点のものですので、予告なく変更がある可能性がある旨ご注意ください。