Baseten、2Bの意思決定特化モデル「joey-1」をMITライセンスで公開——100万トークン1円以下の超低コスト設計

2026/10/30

Basetenが「決定モデル」という新カテゴリを投入

AIインフラ企業のBasetenは、同社の研究部門Base Labsが開発した2Bパラメータの意思決定特化モデル「joey-1」を公開した。Hugging Face上でMITライセンスのオープンウェイトとして提供されており、Baseten Model APIsでは入力100万トークンあたり0.01ドルという価格設定となっている。

joy-1が従来の言語モデルと大きく異なる点は、自由形式のテキストを生成しないことだ。代わりに、与えられた状態（テキストまたは画像）と質問に対して、各選択肢の確率値をそのまま返す。アプリケーション側でテキストを解析する必要がなく、高スループットが求められるルーティング、分類、ガードレールチェックといった用途を主なターゲットとしている。

1回のフォワードパスで複数の質問に回答

記事によれば、joey-1はQwen3.5-2Bをベースにフルファインチューニングで後学習させたモデルだ（ビジョンエンコーダは凍結）。最大シーケンス長は16,384トークンで、専用デプロイ環境では262kトークンまで対応するとBasetenは説明している。

技術的な特徴として、ブロック双方向マスクを用いた注意機構を採用しており、複数の質問を1回の共有プリフィルで処理できる設計となっている。そのため質問数が増えても追加コストがほとんど発生しないと報告されている。

対応する質問タイプは以下の3種類だ。

choice（選択）: 複数の名前付き選択肢から1つを選ぶ。チケットの担当チーム振り分けなどに活用できる
yes/no（APIでは noul）: 「はい」の確率を返す二値判定
score（スコア）: 優先度や緊急度のような順序付きレベルを評価する

キャリブレーション設計とエスカレーション戦略

モデルカードによれば、学習データは621万件の決定事例で構成されており、内訳は「コア決定スキル」が58.3%、「安全性」と「判定・専門ドメイン」がそれぞれ16.1%、「公開データ」が9.5%となっている。学習目的関数はクロスエントロピーに加え、ブライアースコアによるキャリブレーション項と「わからない」オプションを組み合わせており、確率値の信頼性を重視した設計だ。学習は2ノード×8枚のH100 GPUを用い、1エポック・43,390ステップ、最大学習率1e-5、bf16精度で実施されたと報告されている。

キャリブレーションが機能することで、信頼度が閾値を下回った回答を上位モデルや人間にエスカレーションする運用が可能になる。BasetenはすでにjoeY-1の上位に9Bの「elephant-1」と27Bの「mammoth-1」を提供しており、3モデルは同じ学習データと /v1/systemone APIを共有している。モデルを切り替える際は1行の変更で済むという。

ベンチマーク：4B以下でトップも、上位モデルとは差

Basetenが公開したベンチマーク結果によれば、joey-1はJev Decision Index 0.4の公開スプリットで63.30点を記録し、230モデル中37位に位置する。同社は「4B未満のモデルでトップ」と主張している。一方、9BのElephan-1は同スプリットで72.24点を記録しており、joey-1との差は8.94ポイントにのぼる。

レイテンシについては、2,000トークンのリクエストにおいてP50で20ミリ秒という数値をBasetenが報告している。コスト面では100万入力トークンあたり0.01ドルに対し、elephant-1は0.035ドル、mammoth-1は0.10ドルと設定されている。

利用方法

joeY-1はBaseten Model APIsからすぐに利用できるほか、CUDA対応GPUが1枚あれば自己ホスティングも可能だ（必要VRAMは非公開）。公式の量子化ビルドは現時点でリストされていない。重みはHugging Face上で baselabs/joey-1 として公開されており、MITライセンスで自由に利用できる。

出典: Baseten Releases joey-1, a 2B Decision Model at $0.01 per 1M Tokens