京都大学の三内准教授がNyx Foundationに参加、AIエージェント経済が進化する未来

京都大学特定准教授三内顕義氏がNyx Foundationに参画

このたび、京都大学理学部の三内顕義准教授が一般社団法人Nyx FoundationにてPrincipal AI Scientistとしての役割を担うことが発表されました。彼の研究分野は、学習物理学や数理の形式検証に特化しており、特に暗号とブロックチェーンに関する知見を活かして、AIエージェントの透明性と信頼性を高める新たな技術の開発を推進します。

AIエージェント経済の未来

Nyx Foundationが描く未来は、AIエージェントが人間に代わって取引や決済を行う「AIエージェント経済」です。実際、この動きはGoogleのAgent Paymentsプロトコルに見られるように、技術の進展や社会実装の流れから避けられない流れとなっています。これにより、AIエージェントは日常の買い物から金融取引までさまざまな分野での活動が期待されます。

しかし、AIエージェントには大きな課題が存在します。まず一つ目は、システムのセキュリティの確保です。AIエージェントが自動的に取引を行う環境では、セキュリティの強化が必要となります。人間が気づかない脆弱性をAIが利用するリスクもあるため、これは非常に重要な問題です。

二つ目の課題は、AIエージェントの信頼性と透明性の確保です。自動制御されたAIエージェントの行動は、すべてを人間が監視することは現実的ではありません。そのため、AIエージェントがどのようなルールに従い、何をどの範囲で実行できるのかを明確に示す必要があります。そうしないと、契約不履行や詐欺などの問題が生じる可能性があります。

これらの課題に対する解決策として、形式検証の技術が注目されています。形式検証は、数学的な証明を基にシステムの正当性を確認する方法で、すでにAWSがCedarというポリシー言語で実証済みです。この方法を採用することで、AIエージェントの活動の透明性と信頼性の向上が期待されます。

自動化とスケーラビリティ

さらに、検証プロセス自体をAIにより自動化し、大規模化させる必要があります。多くのAIエージェントが誕生する未来に対して、手動での検証では対応が難しいからです。三内氏が発表したprover agentによって、数学の定理証明とその形式化を自動化する試みが成功しています。この技術の特異性は、数学オリンピック金メダリストに匹敵する精度での証明が可能で、数十分で証明を完成させることができます。

Nyx Foundationは、今後もAIエージェントが実現する決済時代に向け、これらの技術を更に進化させ、暗号分野における数理の形式検証に関する研究を続けていく方針です。さらに、チームは、AIエージェントの信頼性と効率を実現するためのスケーラブルな検証エージェントの開発に注力しています。