株式会社Elith、生成AIプロジェクト「GENIAC」における新たな挑戦を発表

株式会社Elith、生成AIプロジェクト「GENIAC」に採択

株式会社Elithが、このたび経済産業省及びNEDOが実施する重要プロジェクト「GENIAC」において、提案テーマ「金融業務特化型AIガードレールモデル『FinGuard』の開発」が採択されました。このプロジェクトは、日本国内での生成AIの競争力を強化することを目指しており、特に金融分野において、安全性を高めることに重点を置いています。

「GENIAC」プロジェクトとは

「GENIAC」（Generative AI Accelerator Challenge）は、生成AI技術の基盤を強化し、国内における産業活用を促進する国家プロジェクトです。この取り組みを通じて、日本発の生成AI技術の向上を図り、企業の競争力を高めるための支援が行われています。

金融業界における生成AIのリスク

最近、金融業界では生成AIの利用が急拡大していますが、それに伴うリスクも増加しています。特に個人情報の漏洩やコンプライアンス違反、誤情報生成、そしてプロンプトインジェクションと呼ばれる攻撃手法に対する対策は急務です。このようなリスクへの対応が、本プロジェクトの核となる「FinGuard」の開発を依頼された理由でもあります。

「FinGuard」の特徴

開発する「FinGuard」は、金融業界に特化した日本語AIガードレールモデルです。その主な機能は次の通りです。

- リアルタイムでの監視機能：生成AIの入力や出力をリアルタイムで監視し、不適切な応答や機密情報漏洩を検知し、これを遮断します。
- 個人情報漏洩検知：特に金融業務において重要視される個人情報の漏洩を迅速に検知します。
- コンプライアンス違反検知：企業や金融機関が遵守すべきルールを守るための支援を行います。
- 金融ハルシネーション検知：誤情報生成への対策を講じ、信頼性の高い情報提供を可能にします。
- 横断的な接続機能：特定のサービスに限定されず、多種多様なLLMやAIエージェントに接続可能な汎用安全レイヤーとしての機能を持つことを目指します。

今後の展開と期待

Elithは、このプロジェクトを通じて、金融教育機関やデジタル変革（DX）企業、ロボアドバイザーの運営会社との実証実験を進め、安全な生成AIの活用を目指します。また、金融ドメインに特化した安全性ベンチマーク「FinGuard-Bench」の構築および公開にも取り組む予定です。

Elithは、今後の生成AIの研究・開発において、AIセーフティ領域の重要性を認識し、安心して使えるAI基盤技術の構築に注力していく方針です。

スペシャルページも設けられており、採択結果の詳細はこちらからご確認いただけます。また、プロジェクトGENIACの詳細については、こちらをご覧ください。