FlashLabsが新たなAI推論ゲートウェイOrcaRouterを発表！Apple Silicon対応モデルを公開

FlashLabsが革新をもたらす！OrcaRouterの新たな機能

FlashLabs株式会社は、自社が独占的に日本市場に供給するAI推論ゲートウェイ「OrcaRouter」において、新たにZ.ai社のオープンウェイトLLM「GLM-5.3-Flash」のApple Silicon向けMLX量子化版を発表しました。このモデルは、320Bの総パラメータ（アクティブ18B）を持ち、デバイスのメモリ条件に応じた「2-bit Lite」「2-bit」「3-bit」「4-bit」「6-bit」の5つのバリアントが用意されています。

量子化の技術力

当社が採用した量子化手法「OrcaSAQ」は、キャリブレーションなしで動作し、モデルのアーキテクチャを認識する特性を生かした混合精度量子化を実現しています。この手法により、性能とメモリ使用量を両立させることができ、特に最上位の6-bit版はFP8版に対してほぼ損失がなく、Top-1一致率は97.76%を記録しています。

最軽量の「2-bit Lite」版はモデルサイズを約102GBまで圧縮可能で、128GBメモリ搭載のMacBook Pro（M4/M5 Max）で実行できることが大きな特徴です。これにより、従来の高負荷なLLMを手軽に利用できる環境が整いました。

開発の背景

近年、AI技術の進展に伴い、大規模な言語モデル（LLM）のローカル実行が注目されています。データを外部に送信することなく、低レイテンシーで運用できるこの方法は、多くの開発者や企業にとって魅力的です。しかし、これらの高度なオープンウェイトモデルは、通常数百GBのメモリを必要とし、一般的なノートPCでは使いづらいという課題がありました。

FlashLabsは、この課題を解決すべくOrcaRouterを開発し、量子化技術を駆使することにより、性能を保ちながらモデルを圧縮することに成功しました。独自量子化手法「OrcaSAQ」を用いることで、メモリ効率を大幅に向上させ、特にApple Silicon環境において効果的に動作するよう最適化されました。

5つのバリアントで選択肢を提供

2026年8月27日に公開された「2-bit Lite」は、MacBook Pro向けに特化したバリアントであり、以下の5つのバリアントが揃ったことで、ユーザーは幅広い選択肢から自分のニーズに最適なモデルを選べるようになっています。特に、最軽量の「2-bit Lite」は、実用的かつ高性能な運用が実現可能なのが魅力です。

バリアント	モデルサイズ	必要メモリ	特徴
-	-	-	-
6-bit	約296GB	320GB	ほぼ無損失（Top-1一致率97.76%）
4-bit	約204GB	224GB	良好・推奨デフォルト
3-bit	約184GB	200GB	良好（aggressive）
2-bit	約145GB	160GB	aggressive・best-effort
2-bit Lite	約102GB	112GB	最小・MacBook Pro対応

また、このモデルはHugging FaceでMITライセンスのもと無償公開されており、誰でも容易にダウンロードして利用可能です。さらに、ローカル実行が難しい際は、OrcaRouterのAPIを介してフル精度のままモデルを利用することも可能です。

今後の展望

FlashLabsは、今後も大規模モデルを多くのデバイスで活用できるようにするため、量子化技術の研究開発とモデルカタログの拡充を進めていく方針です。AI技術がさらなる進化を遂げる中で、OrcaRouterはその中心的な役割を果たしていくことでしょう。

会社情報

FlashLabs株式会社は、東京都千代田区に本社を構え、AIの応用研究に取り組んでいます。今後の技術革新に期待が高まりますが、最新情報は公式ウェブサイトを通じて随時発信されます。詳しくは、FlashLabs公式サイトをご覧ください。

さらに、関心のある方は、OrcaRouterのAIモデル一覧を確認することも可能です。時代のニーズに応える技術が実現する未来をお楽しみに！