#愛知県 #名古屋市 #生成AI #cotomi #Confidential Computing

NECの生成AI『cotomi』が新たな境地へ

AcompanyがNECと協力して、生成AI『cotomi』をConfidential Computing（CC）環境で運用する技術実証に成功しました。この実証は、AI技術の安全性と性能の両立を求めるニーズに応えるものであり、高い日本語性能を誇るcotomiが機密性を担保しつつも実用に耐える結果を示しました。

生成AIの実績と要求

『cotomi』は日本国内で開発された生成AIで、金融や製造業、公共サービスなどのさまざまな分野での利用が期待されています。しかし、多くの顧客が「プライバシーを守りたい」との要望を抱いており、特にデータやプロンプトが第三者に露出するのを避けたいというニーズが強くあります。これに応えるべく、AcompanyとNECはCCの導入を検討し、実証実験を通じてその有効性を測定しました。

技術的な成功

今回の実証では、AMD SEV-SNP技術を用いたCPUの信頼された実行環境と、NVIDIAのConfidential Computingを融合したGPUの実行環境のもとで、cotomiの推論を実行しました。両方の環境を同時に設定し、CCの有無による性能の差を比較した結果、性能への影響は最大でも約10%にとどまり、十分に許容できる範囲であることが確認されました。このデータは、NVIDIAが発表しているCC環境でのLLM推論性能データとも一致しています。

ユースケースとしての可能性

これにより、医療や金融、製造業など機密情報を扱う分野でも安全に生成AIを利用できる可能性が大いに広がりました。機密性を保ちながらも、AIモデルを顧客のオンプレミス環境に安全に提供することが現実的になるとともに、ファインチューニングを施したモデルや商用モデルの知的財産を守る手段としてもCCは注目されています。

今後の展望

Acompanyは「秘密を守れるAI」の実現に向けて、NECをはじめとするパートナーと連携しながら安全なAI活用基盤の社会実装を引き続き推進していく方針です。特に、高い日本語性能を持つcotomiをCC環境で運用することは、データ処理を国内に留めながら、高度なAI活用を実現する一歩となります。

Acompanyの取締役CRDOである近藤岳晴氏は、「CCの導入により、安全かつ安心して生成AIを運用できる環境が整備された」と強調しています。これにより、顧客は自社の重要なデータを守りながらAIの恩恵を受けることが可能になると述べました。

終わりに

NECの吉川彰一氏は、高度なガバナンスが求められる領域での AIトランスフォーメーションの推進が進む中で、Acompanyとの取り組みが大きな成果をもたらすと期待しています。今後も安全性と利便性を両立させるAI基盤の構築に努めていく考えです。

『cotomi』をはじめとした生成AIの活用は、今後のビジネスにおいて益々重要な役割を果たすことでしょう。

関連リンク

サードペディア百科事典: 愛知県 名古屋市 生成AI cotomi Confidential Computing

Wiki3: 愛知県 名古屋市 生成AI cotomi Confidential Computing