国立がん研究センターと共同開発！安全性を高めたがん情報専用AIチャットボット

国立がん研究センターとpiponが共同開発した新しいAIチャットボット

近年、AI技術はさまざまな分野で活用されるようになってきましたが、医療情報に関しては特に慎重な対応が求められています。この度、国立研究開発法人国立がん研究センターと株式会社piponが共同で、がん情報に特化したRAG（Retrieval-Augmented Generation）型AIチャットボット基盤を開発しました。これにより、医療情報を提供する際の誤りを大幅に減少させることが期待されています。

RAG型AIチャットボットの特徴

この新しいチャットボットは、がん患者やその家族、一般の方々に対してインターネット上の誤情報を減少させることを目指しています。piponは、チャットボットの設計や実装、運用基盤の構築を担当し、国立がん研究センターは医学的な評価と解析を行っています。

技術的ポイント

piponが開発したRAGチャットボットは、医療現場向けのAIカルテ生成サービス「ボイスチャート」を基に、高い安全性と再現性を持つAI基盤技術を応用したものです。医療の現場での経験と技術が、がん情報提供の場でも活かされているのです。

研究結果

この取り組みの成果は、国際オンライン医学誌JMIR Cancerに「Reducing Hallucinations and Trade-Offs in Responses in Generative AI Chatbots for Cancer Information: Development and Evaluation Study」として発表されました。研究では、62件のがん関連質問に対して6種類のチャットボットが回答し、その内容が医師に評価されました。従来型チャットボットは約40%の回答に誤った内容が含まれましたが、CISを参照するRAGチャットボットでは、GPT-4は0%、GPT-3.5では6%のハルシネーションに抑えられることが明らかになりました。さらに、Google検索を参照したRAGボットでも、GPT-4は13%、GPT-3.5は23%という結果でした。

多変量解析からは、情報源の選択が安全性に与える影響が明確になり、CIS参照RAGはGoogle検索参照RAGに対してハルシネーション発生のオッズ比が9.4倍も低いことが確認されました。さらに、CISに情報が存在しない質問には回答を避ける機能を備え、誤情報の提示を防ぐことに成功しました。

医療分野でのAI活用の意義

本研究が示すように、公的な信頼性のある情報に基づいたAIサービスの開発は、がん患者やその家族に対する誤情報リスクを大幅に低減させる可能性を秘めています。「わからない場合は回答を避ける」という設計思想により、医療分野にふさわしい安全なAIの実現が近づいています。

未来の展望

piponは、この技術を活用し、医療・公的領域での安全で説明可能なAI基盤の提供を進めていく意向です。公的資料や学術論文を情報源とすることで、より高い信頼性を持ったRAGチャットボットの実現も見込まれています。これにより、医療分野でのAI活用が一層進化することでしょう。

代表からのコメント

株式会社piponの代表取締役、北爪聖也氏は「生成AIは一見便利ですが、医療の場においては誤った回答（ハルシネーション）が大きなリスクとなります。この度、国立がん研究センターと共にRAG型チャットボット基盤を構築し、その有効性が国際誌で認められたことは、安全に医療情報を届けるAIが現実の選択肢となっていくことを示しています」とのコメントを発表しています。