名古屋のスタートアップAquaAgeがNEDO Challengeで受賞、生成AIの安全性向上に期待

名大発スタートアップAquaAgeの偉業

名古屋市に本社を置くAquaAge株式会社は、このたび国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO）が企画した懸賞金型プログラム「GENIAC-PRIZE」にて、数多くの応募者の中から名誉ある受賞を果たし、500万円の賞金を獲得しました。この成功は、同社が進める生成AIに関する革新技術の実力を証明しています。

受賞の背景と内容

AquaAgeが受賞したプロジェクトは、「マルチターン型ジェイルブレイク」に対抗するハニーポット型防御LLMの構築です。昨今、大規模言語モデル（LLM）は進化を遂げ、コンテキストウィンドウが拡大したことによって、AIは過去の対話履歴を長期的に参照できるようになりました。しかし、この機能を悪用する攻撃手法も増えてきており、特に「マルチターン型ジェイルブレイク」と呼ばれる攻撃は、従来の単発的な防御策では防ぎきれない巧妙さを持っています。

従来の防御策では、70%以上の攻撃に対する耐性がないという研究結果も存在し、AIの安全性を守るためには新たな防御策が不可欠とされています。AquaAgeはこの課題に対し、ハニーポット技術を基にした新しいLLM構造を提案しました。このシステムは、攻撃者による悪意のある操作を内部で疑似的に捕捉し、リスクプロファイルを自動生成します。これにより、AIは攻撃を自律的に学び続けることが可能になります。

NEDO Challenge「GENIAC-PRIZE」とは

NEDOが主催する「GENIAC-PRIZE」は、技術や社会課題を解決するためのシーズの発掘を目的としたプログラムです。2025年に募集が始まったこのコンペティションでは、生成AIの社会実装を加速させることが求められ、リスクを特定し、それに対処する技術開発を支援しています。今回、AquaAgeは67件の応募の中から選ばれ、受賞に至りました。

AquaAge株式会社について

AquaAgeは、名古屋大学から発足したスタートアップで、AI技術の先端領域に挑戦しています。特にマルチモーダルAIや大規模言語モデルに関する研究が進められており、信頼性のあるAIの実用化を目指しています。また、フィジカルAIの研究開発にも積極的で、倉庫業務の自動化システム「AIRPHA®」を中心とした事業も展開しています。