インターネット接続不要！生成AIをオンプレミス環境で活用できる「Panorama AI Box」リリース

2022年11月にChatGPTが発表されて以来、生成AIは私たちの生活に大きな影響を与えています。様々な企業で生成AIの活用が検討されており、チャットサービスだけでなく、自社データの活用にも注目が集まっています。しかし、生成AIの活用にはインターネット接続が必須であり、セキュリティ面から導入を躊躇する企業も多く存在していました。

株式会社ELYZAが提供する「Panorama AI Box」は、この課題を解決する画期的なサービスです。同社の大規模言語モデル「Llama-3-ELYZA-JP-8B」はオープンソースとして公開されており、ダウンロードすることでインターネット接続がなくても生成AIを活用できます。

「Panorama AI Box」は、RAG技術（Retrieval-Augmented Generation）を高度に活用し、ELYZAの言語モデルと企業の内部データを組み合わせることで、工場や病院など、インターネット接続が難しい環境でも生成AIを活用可能にします。

「Panorama AI Box」の3つの特徴

1. インターネット接続不要: 工場や病院など、セキュリティが重要な環境でも安心して導入できます。
2. 高性能な日本語LLM: 最新の日本語LLM「Llama-3-ELYZA-JP-8B」を採用し、自然で精度の高い回答を実現します。
3. 運用費用不要: GPT-4のような従量課金制ではなく、初期費用のみで利用できます。

「Panorama AI Box」の活用シーン

製造業（工場）
生産ラインの設備マニュアルや過去の故障履歴と連携することで、トラブルシューティングや予防保全に役立ちます。
作業手順書や安全規則に基づいて、従業員の質問にリアルタイムで回答できます。

医療機関（病院）
過去のインシデントレポートを分析することで、将来発生する可能性のあるインシデントのリスクを軽減できます。
医療スタッフ向けの最新ガイドラインや各種情報を提供できます。

自治体
機密性の高い行政文書や議会議事録と連携することで、政策立案や行政サービスの改善に活用できます。
市民向け行政サービスに対するよくある質問を自動更新し、チャットボットで情報提供できます。

「Panorama AI」について

「Panorama AI」は、ELYZAが提供する生成AIサービスです。RAG技術を活用することで、企業や自治体のデータと生成AIを連携し、新たな視点からの洞察を提供することを目指しています。これまで「Panorama AI Agent」（チャットサービス）、「Panorama AI Search」（検索サービス）をリリースしており、今回の「Panorama AI Box」の登場により、生成AIの社会実装を加速させていきます。

SDT株式会社について

SDT株式会社は、韓国のSDT Inc.の子会社として設立されました。IoTデバイス製造から組込ファームウエア開発、クラウド接続、AIモデル開発までをトータルでサポートすることで、人やモノを最先端技術で繋ぐことをミッションとしています。

「Panorama AI Box」は、セキュリティ面で課題を抱える企業や組織にとって、生成AIを活用するための新たな選択肢となります。今後、様々な業界で生成AIの活用が進むにつれて、同サービスの需要は高まると予想されます。