生成AIの安全な活用に向けた新たな取り組み:SOMPOリスクとCitadel AIが業務提携
生成AIは、近年その進化が目覚ましく、ビジネスの効率化やイノベーションを加速させる強力なツールとして注目を集めています。しかし、その一方で、ハルシネーションと呼ばれる誤情報生成やバイアス、知的財産権侵害、プライバシー侵害といったリスクも懸念されています。企業が生成AIを安全かつ効果的に活用するためには、適切なガバナンス体制の構築が不可欠です。
この課題に対し、SOMPOリスクマネジメント株式会社(以下、SOMPOリスク)と株式会社Citadel AI(以下、Citadel AI)は、2024年4月に業務提携を発表しました。両社は、生成AI利活用のライフサイクルマネジメントを通して、企業が安心して生成AIを利用できる環境構築を目指します。
SOMPOリスクは、長年培ってきたリスクコンサルティングの知見とノウハウを活かし、生成AI導入におけるリスクアセスメントやガバナンス体制の整備・運用を支援します。一方、
Citadel AIは、AIの信頼性検証技術に強みを持ち、生成AIの品質改善、セキュリティチェック、技術的な分析などを提供することで、技術面からのリスク解析とソリューション開発を行います。
本提携の目的は、生成AI活用に伴うリスクを、ガバナンス面と技術面から包括的に検証し、安全で信頼性の高い運用基盤を構築することです。これにより、企業は生成AIを安心して導入・活用し、業務効率化や事業高度化を進めることが可能となります。
具体的なサービス内容としては、以下の点が挙げられます。
- - 生成AI導入におけるリスクアセスメント:生成AI導入に伴う様々なリスクを特定し、その影響度を評価します。
- - ガバナンス体制構築支援:生成AIの適切な利用規範や運用手順、責任体制などを策定し、ガバナンス体制の構築を支援します。
- - AI品質検証:Citadel AIが開発した技術を用いて、生成AIの出力内容の正確性、公平性、安全性などを検証し、品質改善を支援します。
- - 技術コンサルティング:生成AIの利用状況や課題を分析し、最適な技術ソリューションを提案します。
SOMPOリスクとCitadel AIの連携は、生成AI技術が急速に発展する中で、企業が抱える課題解決に大きく貢献すると期待されています。本提携によって、生成AIが社会全体にとってより安全で有用な技術として活用されることを目指し、AI社会の実現を加速させていくことが期待されます。