京都発のAIセキュリティ企業がOpenAI主催大会で入賞

AIセキュリティの未来を切り開く

京大と東大の共同研究から生まれたAladdin Security株式会社が、OpenAI主催の国際セキュリティコンペ「GPT-OSS 20B Red Teaming」において入賞を果たしました。この成果は、世界中から集まる研究者や開発者が集う中で、AIリスク評価と防御技術の優位性を再確認するものとなりました。

大会の背景と目的

近年、生成AI（Generative AI）の活用が進む一方で、新たなセキュリティリスクも顕在化しています。有害な出力や機密情報の漏洩といった危険がそれにあたります。これらのリスクに対応するため、OpenAI主催の「GPT-OSS 20B Red Teaming」が開催され、参加者は独自の攻撃手法を持ち寄り、AIの安全性を向上させるための成果を競い合いました。

Aladdin Securityのアプローチ

Aladdin Securityは、以下のような成果を上げ、大会において高く評価されました：

- Jailbreak脆弱性の再現性ある検出：Jailbreak手法の組み合わせが増えることで、成功確率が上がることが確認されました。
- エージェントの不正なツール利用の呼び出し：特定の攻撃手法を用いて、エージェントが不正な操作をする様子を検証しました。
- エージェントのsabotage（仕事放棄）に関する弱点の抽出：AIモデルに対する従来の検知方式では難しい脅威の実証に成功しました。

これらの成果は、再現性、実効性、汎用性において高い評価を受け、AIファイアウォールやRed Teamingサービスのさらなる技術強化に寄与しました。

今後の展望

Aladdin Securityは、今後も「セキュアなAI活用の社会実装」を目指し、AIファイアウォールやAIレッドチーム演習サービス、AIマネジメントツール「AI-Fortress」などの提供を通じて、企業のAIリスク対応を支援していく方針です。この入賞を機に、金融機関や大企業における生成AIの安全な導入を進めるリーディングカンパニーとなることを目指しています。

Aladdin Securityの理念と事業内容

Aladdin Securityは「A Whole New World~新しい世界を創出する~」をミッションに掲げるAIセキュリティ専門企業です。企業がセキュアなAI活用を実現するために、生成AIに対するシャドーAI検出やAIガバナンスの可視化、AIファイアウォールといったソリューションを展開し、国内外の企業において安全なAI利用を支援しています。