EpicAIが目指す日本語対応セキュリティの未来
株式会社EpicAIは、2026年度全国大会において「日本語対応LLMに対するプロンプトインジェクション防御モデルの構築と課題」と題した研究論文で、見事優秀賞を受賞しました。本研究では、日本語特有の攻撃パターンに対応した防御システムが構築され、その実効性が示されました。
研究の背景
企業のAI活用が進む中、特に生成AIやAIエージェントの導入が増えてきました。しかし、こうした技術の普及に伴い、セキュリティ上のリスクも増加しています。その中でも「プロンプトインジェクション攻撃」は、AIが悪意のある指示によって不正に操作される可能性があり、新たなリスクとして認識されています。これまでの防御策は主に英語圏を前提としていたため、日本語特有の表現や驚異に対する対応が十分とは言えませんでした。特に敬語や表記の揺れ、不可視文字での攻撃は、日本語の特性を考慮しなければなりません。
研究の概要と成果
EpicAIは、日本語環境で起こりうるプロンプトインジェクション攻撃への検知精度を向上させることを目指して、日本語特有の攻撃パターンを盛り込んだ独自のデータセットを構築しました。さらに、大規模言語モデル「Qwen3-4B」を基にしたLoRAによるファインチューニングにより、攻撃検知モデルの開発を進めました。
その結果、日本語の評価データセットにおいて、驚異的なF1スコア約0.99を達成しました。このスコアは、既存のLLMセキュリティモデルと比較しても優れた性能を示しています。また、誤分類事例の分析を通じて、日本語特有の攻撃手法への対応方法や、多層防御技術の重要性についても深い考察が行われました。
今後の展望
EpicAIは、生成AIの実用化に向けたセキュリティと信頼性の向上を重視し、今後も研究開発を進めます。具体的には、プロンプトインジェクションを含む生成AI特有のリスクに対する対策技術や、セキュアなAIシステムの構築に向けた研究に取り組む予定です。企業が安心して生成AIやAIエージェントを利用できる環境を提供することを目指しています。
株式会社EpicAIについて
EpicAIは東京大学松尾研究室から発足したスタートアップで、企業ビジョンは「産業のAI原体験を生み出す」です。製造業や建設業を対象に、生成AIやAIエージェントの研究開発及び社会実装を推進しています。
企業公式サイトはこちら