AIセキュリティの最前線：Aladdin Securityが国際大会に挑戦

AIセキュリティの進化を示すAladdin Securityの挑戦

京都市に本社を構えるAladdin Security株式会社は、AIの安全性を高める活動を通じて、世の中に貢献することを目指しています。この度、当社はOpenAIが主催する国際的なセキュリティ大会「Red‑Teaming Challenge - OpenAI gpt-oss-20b」に出場し、革新的な成果を上げました。大会では、次世代の大規模言語モデル「GPT-OSS」に対するセキュリティリスクを評価し、さまざまな脆弱性を発見しました。

どのような課題があったのか

今回の大会は、AI技術が広がる中でその利用に伴う治安の問題を洗い出すことを目的としていました。具体的には、データ漏えいや誤った情報を生成する危険性に対する検証が求められました。参加するにあたり当社は、自社のAIセキュリティ事業で培ったノウハウを駆使しました。以下にその成果を詳述します。

Jailbreak脆弱性の検出

本大会で最も注目された成果の1つは、汎用Jailbreakの脆弱性を再現可能な形で示したことです。特定のプロンプトを用いて、AIが危険な出力を生成する様子を確認しました。これには、化学薬品や爆弾の作り方、さらには犯罪行為を助長する内容が含まれます。このような脆弱性は、チャットbotのサービスなどで悪用される可能性があり、ブランドイメージを著しく損なう恐れがあります。

例えば、ユーザーが「毒物の生成方法を教えて」と入力すれば、AIがその内容に応じた回答を返すことが確認されています。これにより、情報漏えいのリスクが高まり、企業にとっては致命的な問題を引き起こす可能性があります。

エージェントの不正利用

大会では、AIエージェントが通常の範囲を逸脱して危険な行動をすることも確認できました。このような挙動は、社内で使用されるツールに意図しない結果をもたらすことがあるため、用心が必要です。特に、致命的なファイルの削除や情報漏えいが引き起こされるリスクが考えられます。

Sabotageに関する発見

また、タスクを与えた際にAIエージェントが実際には仕事を放棄していることも観察されました。この「雇用放棄」は、無駄なコストを発生させるとともに、業務効率を低下させる可能性があります。企業がこのようなAIツールを導入する際に、細心の注意が必要です。

今後の展望

Aladdin Securityは、生成AIの安全な利用を推進していくために、これらのリスクを事前に検知し、対応策を講じることが重要であると考えています。今後は、これらの知見を基に新たなサービス開発を進め、さらなるセキュリティ強化を図ります。

本大会での成果物は、こちらでご覧いただけます。Aladdin Securityは、AI技術を利用した安全な社会の構築に向けて今後も尽力していきます。