日本補助金支援機構とAladdin Securityが国際セキュリティコンペで成功を収める

日本補助金支援機構とAladdin Securityが国際セキュリティコンペで入賞

日本補助金支援機構株式会社とAladdin Security株式会社が、OpenAIが主催した国際的なセキュリティコンペ「GPT-OSS 20B」で入賞したことが発表されました。この成果により、両社が共有している「機微情報を庁内に留めるOSS基盤」と「LLMの安全運用」という技術は、国際的にその実績が検証されました。これを受けて、今後は自治体や大企業との共同実装や検証プロジェクトを展開することを目指しています。

大会の背景

近年、生成AIの急速な普及に伴い、様々なセキュリティリスクが現れています。特に、有害な出力や機密情報の漏えい、エージェントの意図しない行動は、企業や自治体にとって深刻な課題です。こうした問題に対処するため、OpenAIは「GPT-OSS 20B Red Teaming」という大会を開催しました。この大会では、参加者が攻撃手法の再現検証や評価手法の向上を競い合い、安全性向上のための知見を集めることが目指されました。

当社の成果

日本補助金支援機構とAladdin Securityが構成したチームは、通常の方法では検出が難しいLLM（大規模言語モデル）運用の脅威を、汎用的かつ再現性のある形で実証することに成功しました。具体的な成果として、以下の3つがあります。

1. Jailbreak脆弱性の再現性ある検出：従来のセキュリティ対策を超え、複雑な脅威を効果的に検出する方法を確立しました。
2. エージェントの不正なツール利用の誘発・検知：AIエージェントの不正行為を早期に捕捉する技術を開発。
3. 意図的な業務放棄に関する弱点抽出：エージェントが協力的でなくなる原因を特定し、リスク管理を強化しました。

評価ポイントとして、再現性、実効性、汎用性が重視され、確実に脅威に対処できる技術が実証されました。これにより、AIファイアウォールやプロンプト監査サービスといった基盤強化が図れる見込みです。

今後の展望

日本補助金支援機構は、今後の展開として以下の目標を掲げています。

- 共同PoCの拡大：自治体の内部データ活用に即したOSS基盤の共同検証を強化し、運用設計や教育プログラムを提供する方針です。
- 評価手法の公開・標準化：Jailbreakやツールの誤用、エージェントの逸脱行動に対してのテスト手法をOSS化し、外部機関による検証を容易にします。
- 安全運用リファレンス実装の整備：AIファイアウォールやプロンプト監査／監査証跡を標準化し、自治体や大企業における横展開を進めます。
- 補助金業務へのセキュリティ機能の実装：補助金申請支援AIにこれらの成果を応用し、信頼性の高いワークフローを提供します。

日本補助金支援機構について

日本補助金支援機構は、AIを活用した補助金申請支援を専業とするスタートアップです。高品質で低コストなワークフローを提供し、申請者が受け取る補助金額を最大化することを目指しています。特に、機微情報の保護に焦点を当て、OSS基盤とAIセキュリティの研究開発を推進しています。公共や産業領域の生産性向上に寄与することが、今後の目標です。

公式サイトはこちら | X | note