数学的超知能の開発に向けて、ハルシネーション排除の共同研究開始

数学的超知能の開発に向けた新たな挑戦

AI技術が日々進化する中で、特に注目を集めているのが、「ハルシネーション」を排除したAIの実現です。Konoe Intelligence株式会社（旧名Aladdin Security株式会社）は、一般社団法人Nyx Foundationと手を組み、ハルシネーションしないAIの開発に向けた共同研究を開始しました。このプロジェクトは、AIが持つ推論能力に数学的な厳密さを加えることで、より安全で正確な知識を提供することを目的としています。

ハルシネーションとは

ハルシネーションとは、AIが生成した情報が、事実とは異なる内容を指す場合のことを言います。AIが非常に高い推論力を持っているにも関わらず、出力が間違っている場合があるため、安全性が重要視される分野、例えば金融や航空業界などでは、このハルシネーションが大きな障害となっています。この共同研究において、ハルシネーションを「構造的に排除」する仕組みを作ることが、最重要課題となります。

数学的アプローチ

AIの正しさを保証するためには、出力される答え自体を検証するのではなく、その答えに至る論理的な過程を証明することが不可欠です。数学は、この論理的な正しさを証明する唯一の言語とされています。Konoe Intelligenceではこの数学的な推論プロセスに基づいて、AIの出力を機械的に確認できる仕組みの構築に取り組んでいます。

日本のAI主権の重要性

近年、日本とアメリカ、中国の間で展開されるAI技術の競争は激化しています。日本が独自のAIモデルを持つことは、産業データの主権や安全保障、また文化的な知識の保持において極めて重要です。これに対応するため、経済産業省の元で進められているGENIACプロジェクトは、国産AIモデルの開発を支援しており、具体的な実績も上げています。

今後の展望

Konoe IntelligenceとNyx Foundationの共同研究は、形式的でありながらも高品質なAIモデルを制作し、様々な分野に応用できる実践的な解決策を提供することを目指しています。また、共同研究によって開発された数学的知識とAI安全性の知見が融合することで、より高度なAI技術の実現が期待されます。特に、自動車や航空、金融業界においては、高い信頼性が求められるため、より早期の実用化が望まれています。

具体的なユースケース

このプロジェクトでは、次のような具体的なユースケースが存在します。
1. 高信頼産業における仕様・コードの形式検証：現在、半導体設計や自動車、航空業界では、自然言語ではなく形式化された仕様での正確性が求められています。この形式化作業をAIが担うことで、信頼性を高めつつ、コストや時間を大幅に削減することができます。
2. 形式検証の民主化：従来は、宇宙や防衛産業などに限られていた形式検証を、より幅広い業界に普及させることが期待されています。AIによる形式化により、様々な業務システムにおいても、計算結果の正しさが証明される未来が見えてきます。
3. AIが作成したものをAIが証明する：AIが生成したコードや仕様が誤っていないかを、別のAIが数学的証明をもって確認する仕組みが実現すれば、AIの時代における品質保証の新たな基盤が築かれます。
4. 数学・科学研究の加速：AIが提供する検証済みの推論は、研究者にとって非常に有用です。特に、定理の検証や関連性の確認において、研究サイクルを加速することができるでしょう。

共同研究を通した成果

共同研究の進捗を6ヶ月後に評価するための指標も設けられています。標準テストにおいて世界最高水準を目指しながら、さまざまなタスクにおいてAIの能力を向上させていくことを目標としています。また、成果は論文として発表し、AI技術のコミュニティ全体への貢献も視野に入れています。今後の動向から目が離せません。