カスタマークラウドが新たなAIセキュリティフレームワークを発表

カスタマークラウド株式会社は、AI時代における企業のデジタルサービスとAI基盤の安全性を確保する新たなセキュリティへのアプローチ「CC AGI Security」を導入しました。これは、生成AIの普及により変化するセキュリティ課題に対処するために考案されたものです。

ガバメントAIの実施

同社は、日本政府のデジタル庁が推進する「ガバメントAI」において、国内の大規模言語モデル（LLM）の提供企業として選定されており、政府共用生成AI基盤「源内（GENNAI）」で試用されています。これにより、カスタマークラウドのAI基盤がさらに広範な場で試される機会を持ち、実践的なフィードバックを得ることが期待されています。

セキュリティの必要性と課題

生成AIの利用が広がる中で、従来には見られなかった様々なリスクが生じています。具体的には、プロンプトインジェクションなどAI特有の攻撃や、AIモデルとその学習データへの不正アクセス、さらにはデータ汚染（Data Poisoning）が挙げられます。AIエージェントの誤動作や新たなサイバー攻撃の脅威も深刻です。これらのリスクは、AIアプリケーションが一般的なWebサービスやクラウドシステムと結びついていることから、ますます重要な課題となっています。

CC AGI Securityの概要

「CC AGI Security」は、AI基盤とデジタルサービス全体のセキュリティを確保するための新しいセキュリティ領域であり、企業が構築するローカルLLM（自社専用AI基盤）やAIアプリケーションの安全性評価を含みます。さらに、一般的なWebアプリケーションやクラウド環境における安全性検証も行われます。企業がAIと既存のシステムを統合する新たなアーキテクチャに適合したセキュリティ対策を提供することを目的としています。

今後の展望

カスタマークラウドは、今後もAIシステムの安全性評価やAIセキュリティ研究を進めるとともに、AI開発環境のセキュリティ強化や、AIセキュリティに関するセミナーの開催を予定しています。AIが社会や産業の基盤として機能する中、システムの安全性確保は必須のテーマとなり、同社が先導的な役割を果たすことが期待されます。

カスタマークラウドは、AIを用いた基盤作りとともに、今後さらなるセキュリティ強化を進め、国内外での競争力を高めていく方針です。デジタル庁が推進するAI化の流れに乗り、企業としての価値を高める努力を続ける姿勢は、今後の業界発展に貢献するでしょう。

渋谷から世界へ、カスタマークラウドは旅を続けます。AIが生む未来を形にするのは、彼らの手の中にあります。