AI
vLLM Semantic Router、マルチモーダル決定モデル「Decision 3.0」を公開——テキスト生成なしで確率値を返す
2026/10/12
テキストを生成しない「決定モデル」という選択肢
vLLM Semantic Routerチームが、オープンな多モーダル決定モデル群「Decision 3.0」をリリースした。ライセンスはApache-2.0で、Hugging Faceのコレクションページで公開されている。
従来のLLMベースの分類・ルーティングでは、モデルが生成したテキストを後処理でパースする必要があった。Decision 3.0はこのアプローチを採らず、テキストや画像を入力として受け取り、あらかじめ定義した設問に対して確率値のみを返す設計になっている。開発チームはこれを「system oneパターン」と呼んでおり、生成テキストのパースなしに閾値処理できるスコアが得られるという点が特長だと説明している。
モデル構成
リリースされたのは以下の5サイズだ。
| モデル名 | パラメータ数 | ベースモデル | ビジョンエンコーダ |
|---|---|---|---|
| d3-lite | 0.85B | Qwen3.5-0.8B | 0.10B |
| d3-nano | 2.21B | Qwen3.5-2B | 0.33B |
| d3-mini | 4.54B | Qwen3.5-4B | 0.33B |
| d3-flash | 8.39B | Qwen3.5-9B | 0.46B |
| d3 | 26.09B | Qwen3.8-27B | 0.46B |
いずれもQwenシリーズをベースにファインチューニングされており、全サイズにビジョンエンコーダが搭載されている。入力として受け付ける画像はPNG・JPEG・WebP形式で、1枚あたり最大1.6メガピクセルまで対応する。設問はすべての画像を参照した上で処理される。
動作には transformers==5.17.0 が必要で、線形アテンション層の高速化に flash-linear-attention パッケージが利用できるとされている。ロード時には trust_remote_code=True の指定が必要となる。
入力と設問の仕組み
ユーザーはテキストまたはJSON形式の「状態（state）」と任意の画像を渡し、それに対する名前付き設問を定義する。設問の種類は3種類に分かれており、複数の選択肢から回ぶ Choice、真偽を問う Yes/No、数値スケールで評価する Score がある。モデルはすべての設問を1回の推論呼び出しで処理し、各回答に対して確率値を返す。設問ごとに入力全体を参照する個別のフォワードパスが実行される設計だ。
ベンチマーク評価
モデルカードによれば、評価指標として「Jev Decision Index 0.3.1」が用いられている。このスコアボードはTypeSafeのJev決定システムのオープン再現実装をランク付けするものだという。なお、d3の数値はチーム内部評価によるものと明記されており、他モデルのスコアはライブボードのデータが用いられている。
テキスト評価では、d3（27B）がスコア64.1を記録し、Perplexity Decider v1.1（62.8）およびJev（60.1）を上回ると報告されている。ただし、Torchcast Decision 27Bが公開スイートで65.1対64.9と高いスコアを示しているという注記もある。ビジョン評価ではd3が71.6を記録し、Perplexity Decider v1.1の70.6を上回ったと報告されている。
世代間の改善幅については、d3-flash（9B）がスコア59.0を記録し、前世代の Decision 2.0 の27Bモデル（55.9）を上回ったと報告されており、「9Bモデルが前世代27Bを超えた」と評価チームは強調している。公開スイートでのDecision 2.0比の改善幅は、27Bで+8.0、0.8Bで+15.1に上るという。
一方でクラス内でのリードは全サイズで一様ではなく、d3-lite（0.8B）はテキスト評価で首位だがビジョン評価では3位（41.1）にとどまり、d3-nano（2B）はビジョン評価では首位だがテキスト評価ではLiquidAI d1-3B（40.1）に対して35.8と下回るとされている。
公開ビジョンタスクでは、d3はInfographicVQAで97.3、Mind2Webで89.9（いずれも近似再現による評価）を記録した一方、MMMU-Pro vision（46.2）やHateful Menesモデレーション（44.6）では相対的に低いスコアにとどまっている。KIE（CORD+FUNSD）でのベストスコアは97.7、R-Bench-Mでのワーストスコアは34.1と報告されている。
利用シーン
Decision 3.0は、リクエストの分類・ルーティング・ゲーティングを一回の推論で完結させたい開発者向けに設計されている。テキスト生成を行わないため、後処理の実装コストを削減できる点が実用上の利点として挙げられている。全モデルがApache-2.0ライセンスのもと公開されており、商用利用を含む幅広い用途への応用が想定される。
出典: What is Decision 3.0? vLLM Semantic Router’s New Open Decision Models