NABLAS、AI技術で生成されたなりすまし電話を検知する新技術を開発

最近の技術の進展に伴い、生成AIの利用が急速に拡大しています。この技術は、ユーザーが高精度な音声、画像、映像を簡単に作成できることを可能にしていますが、一方で悪用のリスクも孕んでいます。特に、生成AIを用いた「なりすまし電話」や偽の情報発信が社会的な問題となっているのです。このような背景の中で、NABLAS株式会社は総務省の支援を受け、AIを活用した新たな技術の開発に取り組んでいます。

新技術の概要

NABLASは、総務省の「偽・誤情報対策のための技術開発・実証事業」において、NTT東日本とのコンソーシアムを設立。AI生成音声によるなりすましに対して、「電話音声フェイク検知システム」を開発しました。このシステムは、実際の通信網を通して音声データを収集・解析し、通話中にリアルタイムでAI生成音声を検知することが目的です。さらに、長野県伊那市との共同作業を通じて、自治体における偽情報対策の実運用上の課題も明らかにしました。

偽情報の課題と対策

生成AIが日常生活に溶け込みつつある今、技術の悪用による特殊詐欺や偽情報の流通が増加しています。特に、なりすまし電話は従来の詐欺方法に比べて巧妙で、被害者が気づかないケースが多発しています。この状況下で、NABLASは偽情報の検知技術の開発を進め、コミュニティの安全を守るための手段を提供しています。

この新たなシステムでは、実際の通話中に相手の声を解析し、生成AIによって作られた音声が含まれているかどうかを判断し、利用者に通知します。実際の電話回線での検証を行うことで、フェイク音声検知の精度を高め、安全なコミュニケーションを確保する狙いです。