サイバーセキュリティを強化する生成AI支援の新たな取り組み

近年、生成AI技術の急速な進展により、企業やクリエイターがAIを利用したアプリケーションの開発に力を入れるようになっています。特に、OpenAIのChatGPTのような大規模言語モデル（LLM）の登場は、私たちの業務や生活に大きな影響を及ぼしています。しかし、この便利な技術の利用が広がる一方で、新しいセキュリティリスクも同時に浮上してきました。これに対抗するため、GMOサイバーセキュリティ by イエラエと、三菱総研ＤＣＳの二社が協力して新たなセキュリティ診断サービスを立ち上げることが発表されました。

協業の背景

この協業は、生成AIの普及によって生じるさまざまな脅威に対抗するために、各社の専門知識を生かすことから始まりました。生成AIは、利便性を追求する一方で、悪意のあるユーザーが不適切な命令を入力し、意図しない結果を生み出す可能性があります。これによって機密情報が漏洩する危険性が増すため、企業は新たなセキュリティ対策を緊急に講じる必要があります。

新サービスの概要

新しいサービス「生成AI利用システムセキュリティ診断」は、2024年11月28日から提供される予定です。この診断サービスは、GMOサイバーセキュリティが提供するLLMに基づいたセキュリティ診断を活用し、生成AIアプリケーションに潜む脆弱性を評価します。この技術を用いれば、敵対的プロンプトによる擬似攻撃を行うことで、潜在的なリスクを明らかにすることができます。

具体的な手法

この診断サービスでは、代表的なLLMであるGPT-3.5やGPT-4などを対象に、セキュリティ診断を実施します。利用者は、自社の生成AIアプリケーションがどの程度のリスクを抱えているのか、具体的な診断結果を得ることが可能です。また、対応言語として、GeminiやClaudeシリーズも含まれており、さまざまなLLMに対応しています。これによって、幅広い業界における適応力を確保しています。

これからの展望

GMOサイバーセキュリティと三菱総研ＤＣＳは、今回の協業を足がかりに、AI技術が進化する中での新たなリスクに対策を講じ、ユーザーが生成AIを安心して活用できる環境を整えていく姿勢を示しています。両社は、金融業界を始めとした様々な分野での連携を強化し、増大するサイバーリスクに柔軟に対応できる体制を築く予定です。

企業の紹介

三菱総研ＤＣＳは、1970年の設立以来、金融関連業務に特化したIT企業として、多くの成果を収めてきました。AIとデータ分析技術に注力し、新たな価値を生み出す取り組みを進めています。また、GMOサイバーセキュリティ byイエラエは国内最大のホワイトハッカー集団を有し、企業のサイバーセキュリティ対策を支援しています。両社の協力によって、より安全なAI利用が実現されることが期待されます。

このように、生成AIの利便性と安全性を両立させるための取り組みが本格化しています。企業はこれらの新しいサービスを取り入れることで、変化するテクノロジー環境に適応していく必要があります。

詳しくは、サービスページをご覧ください。

会社情報