#ダークトレース #AI安全 #Darktrace Signal Labs

ダークトレースがAI安全導入を支援する新システムを発表

2023年10月29日、ダークトレースは東京で開催された「Darktrace LIVE」において、企業向けにAIを安全に導入するための新システム「Darktrace / SECURE AI™」を正式に発表しました。このシステムは、AIの活用が進む中で増加しているセキュリティリスクに対応するために設計されており、企業が安心してAIを導入できる環境を提供します。

AIを取り巻く新たなリスク

最近の調査によると、AIエージェントや生成AIの利用は急速に広まっており、約80%のダークトレースの顧客が生成AIサービスを使用しています。しかし、これに伴い、AIを悪用した攻撃も増加しており、これまでにない安全上の課題が現れています。そのため、企業はAIの使用状況を把握するだけでなく、AIエージェントの行動が組織のポリシーや意図に合致しているかを検証する必要があります。

ダークトレースは、このような状況に対応するため、振る舞いベースの安全対策を強化する重要性を強調し、「Darktrace / SECURE AI™」の展開に至りました。このシステムは、AIの導入をサポートする機能を持ち、企業はユーザーやAIエージェントの行動をリアルタイムで監視できます。これにより、安全なAIの運用が可能になるのです。

Darktrace / SECURE AI™の特長

この新しいシステムは、AIによる脅威への迅速な対応を可能にするために、簡単に導入できます。具体的な機能には、シャドーAIの検知、ポリシー管理、プロンプト分析などが含まれます。また、ダークトレースは、Amazon Web Services（AWS）やMicrosoft、OpenAIとの連携により、企業にとって便利なツールを提供しています。

さらに、ダークトレースは新たに設立した「Darktrace Signal Labs」を通じて、AIエージェントがもたらすリスクを研究し、各種の脅威に対してどのように対処できるかを検討しています。Signal Labsは、AIの行動やその影響を詳しく分析し、企業が直面する可能性のあるハイジャックや不正行為の実態を明らかにしています。

研究成果と今後の展望

Darktrace Signal Labsからの初期研究成果として、AIエージェントのハイジャックに関する事例が挙げられています。この研究により、AIエージェントが不正に利用される可能性が高いことが示され、企業がリスクを特定し対策を講じる必要性が浮き彫りになりました。また、企業内での不正なエージェントの行動を検知するためには、強力な可視性が求められることも確認されました。

ダークトレースは、今後も企業のAI導入を支援し続け、安全なイノベーションが可能となるよう努めていく方針です。AIの進化に伴うリスクを適切に管理し、企業がその潜在能力を最大限に引き出せるよう、ダークトレースの技術と専門知識が役立つことでしょう。

詳細な情報は、ダークトレースの公式ページを訪れてご確認ください。

関連リンク

サードペディア百科事典: ダークトレース AI安全 Darktrace Signal Labs

Wiki3: ダークトレース AI安全 Darktrace Signal Labs