セキュアな生成AI活用を実現するオンプレミス環境の新たな試み

近年、企業は生成AIを活用して業務効率を向上させると同時に、大切な機密情報の保護にも力を入れています。しかし、クラウド型AIの利用には、情報流出のリスクが伴います。このような課題を解決するために、株式会社スクーティーは日本ヒューレット・パッカード合同会社（HPE）と共同で、オンプレミス環境における生成AIとRAGシステム（検索拡張生成）の検証を行いました。

検証の背景：セキュリティと利便性のトレードオフを解消

生成AIを効果的に業務に活用するためには、企業独自のナレッジをAIに学習させることが不可欠ですが、これには通常、クラウド環境への情報アップロードが必要です。特に、人事や経営部門など、高度なセキュリティが求められる部門では、この取り組みに高いハードルが存在します。そこで、当社はHPEの強力なハードウェアを活用し、外部への通信を一切行わないオンプレミス環境での生成AI活用を検証しました。

強固なインフラ基盤「HPE ProLiant DL380 Gen11」の採用

今回使用した機材は、「HPE ProLiant DL380 Gen11」です。このサーバーは卓越した処理能力と高い信頼性を備え、RAGシステムにおける大規模言語モデル（LLM）のローカル実行に耐えうる性能を持っています。さらに、シリコンルートオブトラストなどのハードウェアレベルでのセキュリティ機能を持つため、インフラからアプリケーションレイヤーに至るまで、全ての層で安全性が確保されています。

本検証によって、完全に外部を遮断した環境下でも、クラウド型AIに匹敵する応答速度と、企業独自の専門知識を踏まえた正確な回答を生成できることが実証されました。

テクニカルホワイトペーパーの内容

公開したホワイトペーパーでは、以下のポイントについて詳細に解説しています。

- オンプレミスGAIのアーキテクチャ：ネットワーク分離環境におけるシステム構成
- 精度評価の比較：チャット機能のみの場合とRAGを組み合わせた場合の精度差
- ドキュメント形式別解析：日本語・英語、テキスト・プレゼン資料など、素材による精度の傾向
- 実運用への指針：経営・人事部門が導入する際に考慮すべきポイント

これらの情報を基に、業務における生成AIの活用方法を見出せる内容となっています。

今後の展望

株式会社スクーティーは、本検証で得た知見を基に、金融業界や製造業、公共機関など、特にセキュリティレベルが要求される顧客に対して、オンプレミス型RAGシステムの導入・コンサルティング支援を強化していく方針です。また、言語・ナレッジの属人化といった問題を解決し、企業のDX推進に貢献していきます。

さらに、株式会社スクーティーは2026年4月7日から2日間、東京国際フォーラムで開催される「AI博覧会 Spring 2026」に出展し、クラウド版セキュアGAIやAI-OCRを展示します。興味のある方は、ぜひブースを訪れてみてください。