生成AI活用の課題を探る。ハルシネーションへの不安とセキュリティ対策の必要性

生成AI活用の実態と課題

最近の調査によると、生成AI活用における不安要素が浮き彫りになりました。AIプラットフォームを提供しているAI inside株式会社は、業務に生成AIを導入した経験がある218名を対象に実態調査を行い、その結果を発表しました。

調査の概要

調査対象者の約8割が自社で生成AIを活用しており、その活用状況は「全社的に本格活用中」と「一部の部門で活用中」が各30％以上を占めています。重要なのは、多くの人が生成AIの導入において「不安」を感じている点です。

ハルシネーションとセキュリティリスク

調査の結果、最も鈍く響いた声は「ハルシネーション」です。この用語は、生成AIが誤った情報を生成する現象を指します。約59.2%の回答者が、このハルシネーションに対して不安を感じていると回答しました。さらに、同様に54.9%がセキュリティに関するリスクにも懸念を示しました。データ漏洩や誤情報の生成は、どちらも企業にとって大きな障害となる可能性があるのです。

企業のニーズとカスタマイズSLM

興味深いのは、約80%の回答者が企業特有のデータを使用したカスタマイズSLM（特化型小規模言語モデル）の導入を検討していることです。これは、生成AIのより特化した運用を目指すニーズが高まっていることを示しています。しかし、企業内のアナログデータがデジタル化されていない現状もあり、スムーズな導入にはデータ整備が不可欠です。