AIと人間の協力を深化させるセキュリティシステム「Agent Risk Manager」登場

AIと人間の新たな協働を守る「Agent Risk Manager」

デジタルワークフォースセキュリティのリーディングカンパニーであるKnowBe4は、AIエージェントの行動を保護するための防御システム「Agent Risk Manager」を発表しました。この新しいツールは、人間とAIエージェントの安全な協力を実現することを目的としており、特にデジタル業務が進化する中でのリスク管理を支援します。

Agent Risk Managerの概要

現代の企業は、AIエージェントの活用が進む中で、彼らが機密データへアクセスしたり、自律的に業務を遂行する事例が増加しています。しかし、これらの活動に伴うリスクについての把握が難しいという問題を抱えています。そこで、KnowBe4の「Agent Risk Manager」は、AIエージェントの行動を可視化し、リアルタイムで監視・管理できるよう設計されています。

このツールは、個々の従業員が行う操作のリスクを分析し、問題の解決策をその場で提供することができるのが大きな特長です。これにより、単なるリスクの遮断にとどまらず、従業員に対するコーチングを通じて、自発的な行動変容を促進し、安全なAIの利用が実現されるのです。

主な機能と特長

可視化と検出

Agent Risk Managerは、ブラウザ拡張機能及び各種AIプラットフォームとのAPI連携を通じて、社内のシャドーAIやAIエージェントの利用状況を包括的に把握します。ユーザーが直接操作できない形式でリスクを正確に検知し、効果的な資産管理を実現します。

統制と制御

特定されたリスクに基づき、企業のセキュリティポリシーを強化することで、データ漏洩やプロンプトインジェクションなどのリスクに対する具体的な解決策を提供します。ブラウザ拡張を通じた「許可」「警告」「ブロック」の機能により、組織全体での一貫したリスク管理が実現可能です。

コーチング

リスクのある行動が認識されると、関連従業員に対して即座に説明と指導を行うことで、安全な利用の確保を図ります。このプロセスにより、従業員は自身の行動を見直し、より安全な対策を講じることができるようになります。

統合されたリスクスコア

KnowBe4は、長年のデータをもとに人工知能リスクを既存の人的リスクスコアに統合し、70,000以上の顧客によって利用されています。このアプローチにより、AIリスクと人的リスクを一緒に評価し可視化が可能となります。

リアルタイムの脅威防御

Agent Risk Managerは、プロンプトインジェクションや機密情報の漏洩を防ぐためにリアルタイムデータマスキングが搭載されています。そして、主要な企業AIプラットフォーム（Microsoft CopilotやOpenAI ChatGPT Enterpriseなど）と連携しているため、より深いレベルでの不正行為を検出できます。