Kong、AIアプリ開発をAPIで実現！オープンソース版AI Gatewayリリース

Kong、オープンソースAI GatewayでAIアプリ開発を加速

APIマネジメントプラットフォームで知られるKong Inc.が、画期的なオープンソース版AI Gatewayをリリースしました。このリリースは、AI技術の民主化を促進し、開発者にとってAIアプリケーション開発の敷居を大幅に下げることを目的としています。

AI開発の課題解決

近年、AI技術は目覚ましい発展を遂げていますが、その活用には多くの課題がありました。様々なAIツールやLLM（大規模言語モデル）の統合、複雑なプロンプトエンジニアリング、AI利用に関するセキュリティやガバナンスの確保など、開発者は多くの困難に直面していました。

Kongの新しいAI Gatewayは、これらの課題を解決するために設計されました。多様なAIツールとのシームレスな統合、直感的なインターフェース、そして高度なセキュリティ機能により、開発者はAIアプリケーション開発に集中できる環境を提供します。

主要機能

このAI Gatewayは、以下の主要機能を提供することで、AI開発を効率化します。

あらゆるAIツールとの統合: OpenAI、Azure AI、Cohere、Anthropic、Mistral、LLAMAなど、主要なLLMをネイティブサポート。標準化されたインターフェースにより、LLMの切り替えも容易です。
統合型AI認証管理: Kong Gateway内でAI認証情報を安全に一元管理。アプリケーションごとの認証情報の管理が不要になり、セキュリティ強化と管理の簡素化を実現します。
詳細なAI分析: レイヤー7のAIメトリクスを収集し、リクエスト数、レスポンスタイム、トークン数などの詳細な情報を提供。DatadogやNew Relicなどのサードパーティツールとの連携も可能です。
ノーコードAIインテグレーション: 「ai-request-transformer」と「ai-response-transformer」プラグインにより、コードを書かずにAPIリクエストとレスポンスにAI機能を追加できます。リアルタイム翻訳などの機能を容易に追加可能です。
AIプロンプト管理: 「ai-prompt-decorator」と「ai-prompt-guard」プラグインは、AIプロンプトの一貫性とセキュリティを確保します。組織のコンプライアンス遵守や機密情報の保護に役立ちます。
高度なセキュリティとガバナンス: Kong Gatewayの既存のプラグインと連携することで、堅牢なアクセス制御、レート制限、高度なトラフィック制御を実現。1000以上の既存プラグインを活用できます。