Kongが提供する接続管理基盤「Kong AI Gateway」でみずほフィナンシャルグループのAIエージェント活用が加速

Kongが支えるAIエージェント活用の基盤

はじめに

近年、金融業界においてAIの活用が加速しています。特に、株式会社みずほフィナンシャルグループは AIエージェントの利用を推進する中で、Kong株式会社からの支援を受けることとなりました。Kongが提供する「Kong AI Gateway」は、数千規模のAIエージェント活用を支える接続管理基盤として、今後の金融機関に求められるガバナンスと開発速度の両立を実現します。

Kong AI Gatewayの導入背景

みずほフィナンシャルグループは「エージェントファクトリー」を設け、AIエージェントを量産する体制を整えています。この取り組みと並行して、ノーコード開発基盤「Dify Enterprise」を活用した市民開発の促進が進められていますが、これに伴い接続管理の重要性が高まっています。Kongはこのニーズに応えるため、接続管理の共通基盤を整えることで、AIエージェントの開発がスムーズに進められる環境を提供します。

Kongの3つの支援領域

接続統制の一元化

Kongは、AIエージェントと業務システムの接続を共通のゲートウェイ層を通じて管理します。これにより業務要件に合わせたポリシーを適用し、接続ルールの一元管理が可能となります。これにより、増加するAIエージェントを効果的に運用できます。

LLM利用量・コストの可視化

Kong AI Gatewayを通じて、アプリケーションやユーザーごとのトークン利用量を把握することで、コスト管理が容易になります。これによって、LLMの利用状況をリアルタイムで監視し、将来的なコスト最適化にもつながります。

柔軟な接続と将来拡張への対応

Kongは、クラウドとオンプレミス環境を問わず、柔軟にデータプレーンを配置することができるため、様々なIT基盤との連携が容易です。将来的にはKong MCP GatewayやMCP Registryを活用したさらなる拡張も視野に入れており、AIエージェントの連携を一層強化する計画です。

Kongが評価するポイント

Kongが評価された理由として、以下の3点が挙げられます。
1. プラグインを駆使した柔軟性：業務要件に応じたポリシー適用と共通基盤での接続統制の一元化。
2. 土台への依存しない柔軟性：オンプレミスやクラウド環境への対応。
3. AI活用の進展を考慮した拡張性：LLM利用状況の可視化とAIエージェントとの接続管理。