ナウキャストが進めるAIによるローカルLLMテキスト処理の商用化検討

株式会社ナウキャストは、個人情報や機密データを外部に送信せずにAI処理を行う「ローカルLLMテキスト処理基盤」の商用化の検討を開始しました。この技術は、Finatextグループが掲げる「AI時代の金融インフラの提供」の一環として位置づけられています。

背景と課題

生成AIの発展により、テキストの分類や情報抽出が進んでいますが、金融業界にはデータを外部に送信できない業務が多く存在します。たとえば、クレジットカードの取引データや顧客の個人情報などが該当します。これらの業務は、ChatGPTのようなクラウドサービスを活用できないため、手動作業が多く残り、業務効率が低下しています。また、クラウドサービスを利用すると、費用が高額になるため、導入が進まない現状があります。

開発プロトタイプの実証結果

ナウキャストは、このような問題意識を背景に社内でAIコンテストを開催し、「ローカルLLMテキスト処理基盤」のプロトタイプを開発しました。実際にクレジットカード利用明細の加盟店名マッピング業務に適用し、OpenAI APIと比較して95.7%のコスト削減に成功し、人手による確認作業を約98%削減しました。この実証結果は、ナウキャストが金融業界において直面する共通課題に対する解決策であることを示しています。

ローカルLLMテキスト処理基盤とは

この基盤は大規模言語モデルを企業の自社環境内で稼働させるもので、データを外部に送信することなくAI処理ができます。以下の特長があります:

1. データの完全保護
- 自社環境内での処理により個人情報の外部送信を防ぎ、セキュリティ基準に適合。

2. コスト削減
- OpenAI APIの最安モデルに比べて大幅なコスト削減が確認されており、実際に大量データの処理が現実的な費用で行えることが実証されています。

3. 業務効率の向上
- 確信度に基づく判断を行い、高確信度案件は自動で確定、低確信度のものは人手で確認するフローを採用しています。

4. 柔軟性のあるアーキテクチャ
- 特定のAIベンダーに依存せず、モデルの進化に応じたフレキシブルな運用が可能です。

5. 業務別の適応
- 一つの基盤上で多様な業務への展開ができる設計となっています。