FlashLabsのOrcaRouterが新機能Routing DSLを公開
FlashLabs株式会社が、彼らのAI推論ゲートウェイ「OrcaRouter」において新機能「Routing DSL」の提供を開始しました。この機能は、YAMLとCEL(Common Expression Language)を利用して推論グラフを宣言的に記述できる特化型のプログラミング言語です。これにより、開発者は様々なプロンプトの難易度やタスクによって異なるAIモデルを組み合わせられるようになり、Fable 5と呼ばれるハイエンドの推論モデルに匹敵する品質を低コストで得ることが可能になります。
背景と狙い
近年、企業のAI利用が急速に進化しています。特に、2026年にはAIモデルの選択から適切なモデルの組み合わせ方法へとシフトしていくことが予想されます。Anthropicの「Claude Fable 5」は、AI推論分野で新たな基準を打ち立てましたが、その役立つ範囲は限られています。多くのビジネスにおいては、単純なデータの抽出や分類など、コストを抑えつつ運用する必要があるからです。「Routing DSL」はこの問題を解決するために開発され、AIのワークフローを効率的に管理する手段を提供します。
Routing DSLの機能と特徴
Routing DSLは、YAMLとCELを基にした記述スタイルで、フレキシブルな推論グラフの設計を可能にします。このドメイン特化言語では、以下のような5つのルーティング戦略を用いて、推論グラフを構築することが可能です。
1.
難易度別ルーティング: プロンプトの複雑さを自動的に判定し、高度な推論を行うモデルと、シンプルな処理をするモデルとで振り分けます。
2.
タスク別ルーティング: タスクの種類に応じて最適なモデルを選び、プログラムの生成や翻訳、データ抽出などの用途に応じた利用ができます。
3.
マルチモデル並列実行: 同じプロンプトを異なるモデルに同時に送信し、それらの回答を統合します。
4.
フォールバックとジャッジ: モデルの応答を自動的に評価し、基準に満たない場合は別のモデルに切り替えます。
5.
コスト・レイテンシ・品質の最適化: ビジネスニーズに応じたルーティング戦略を適用し、宣言的に記述できます。
これらの機能により、企業はFable 5と同等の推論をしながら、コストを大幅に制御することが可能です。
店頭での活用と価値
「Routing DSL」によるモデルの運用は、従来のコード修正による工数を大幅に削減します。新しいモデルがリリースされた場合でも、YAMLファイル内の一行を修正するだけで応用できます。また、すべての判断根拠が可視化されるため、どのモデルがどのプロンプトにルーティングされたかも明確に追跡できます。
今後の展開
OrcaRouterは今後、Routing DSLを活用した推論グラフのテンプレートライブラリの提供を行い、ベストプラクティスの共有を促進する予定です。また、グラフのパフォーマンス分析や、A/Bテストを通じた戦略の自動最適化機能も実装される計画です。これによって、企業はさらに効率的にAI活用を進められるようになるでしょう。
代表的なコメント
FlashLabs株式会社の代表取締役、細井洋一氏は、「Fable 5は非常に優秀なモデルですが、コストを考慮すると全てのリクエストをそれで処理するのは現実的ではありません。Routing DSLにより、難易度の高い推論には最適なモデルを、定型的な業務にはコスト効果の高いモデルを組み合わせることが可能になります。」とコメントしました。
おわりに
FlashLabsのOrcaRouterと新機能Routing DSLは、企業におけるAIワークフローの管理を革新し、高度な知識をより安価に、効率的に利用可能にします。これにより、企業はAIをより恐れずに利用し、価値を最大限引き出すことが可能になります。