TIP
← 記事

AI

DSPyに「重み空間プログラミング」を導入するdspy-wsp、Cmpndが公開

2026/11/15

フロンティアLLMが「重み」を直接書き換える

AIスタートアップのCmpndは、DSPy向けプロトタイプオプティマイザ dspy-wsp を公開した。これは Weight-Space Programming(WSP) と呼ばれる手法をDSPyに組み込んだもので、pip install dspy-wspで導入でき、MITライセンスのもとで提供されている。DSPy 3.5が必要とされる。

WSPとは、フロンティアLLM(ライタモデル)が別の小型モデルの重みテンソルを読み込み、それを直接書き換えることでモデルの挙動を改善する手法だ。勾配計算もトレーニングループもファインチューニング用データセットも不要であると説明されている。このアイデアはMITの研究「Sparks of Weight-Space Programming」に端を発するとされる。

既存手法との違い

モデルを改善する手段として一般的な3つのアプローチを比較すると、dspy-wspの位置づけがわかりやすい。

  • プロンプト最適化(MIPROv2やGEPAなど)はテキスト(指示文や例)を編集するのみで、モデルの重みは変化しない
  • ファインチューニング(BootstrapFinetuneなど)は勾配降下法で重みを変更するが、学習データ・トレーニングループ・GPUを必要とする
  • Weight-Space Programming は推論によって重みを変更する。ライタモデルが「これらのニューロンが選択肢Bを過剰にスコアリングしている」などの仮説を立て、パッチコードを生成し、数回のフォワードパスで結果を検証する

仕組み:3つのアクター

dspy-wspの動作は以下の3つのアクターによって構成される。

  1. スチューデント:DSPyプログラムが動作する小型モデル。その重みがローカルのPythonプロセスに読み込まれる
  2. ライタ:フロンティアLLM。リポジトリでは gpt-6-astra(最大推論努力設定)が推奨されている
  3. サンドボックス:ライタがコードを実行するカーネル。macOSでは組み込みの sandbox-exec、LinuxではBubblewrapが使われる

ライタはターンごとに短い説明と1つのコードブロックを出力する。コードブロックは「サンドボックス内で重みを読み書きするPythonブロック」か「DSPyプログラムを練習用サンプルで実行するフォワードブロック」のいずれかだ。フォワードパスは固定予算(テストでは max_passes=25)内で実行され、予算を使い切った時点でベストな編集がパッチとして採用される。最終的に隠しバリデーションセットで元の重みと比較評価が行われる。

データ分離の仕組みも明示されており、trainsetはライタの練習用、holdoutはスコアリングに使えるがサンプルは見えない確認セット、valsetは最後の1回だけ実行される完全非公開セットとされている。

MITの元研究が示したベンチマーク

MITの研究チームが実施した9つの実験の中でいくつかの顕著な結果が報告されている。

  • PPOで学習した4つのポリシーネットワークについて、ゲームの種類(Breakout、Pong、Pac-Man、Freeway)を重みだけから正しく識別できた
  • Kinetixの「坂道のクルマ」ポリシーは256エピソードすべてで失敗していたが、重みの3.5%を編集しただけで1,024テストエピソードすべてで成功するようになったと報告されている
  • Qwen3.5-0.8BのMATH-500スコアが7.9%から48.1%、GSM8Kスコアが13.8%から67.1%に向上したとされる。変更された重みは131,072個(モデル全体の0.016%)

ただし限界も示されており、Gemma 3 270Mではエディットによる改善がMATH-500で6.8%から7.0〜7.7%にとどまり、実質的な向上はなかったとされている。研究チームは「障害を取り除くことはできるが、欠けている能力を追加することはできなかった」と述べている。

Cmpndのテスト結果

Cmpndが実施した評価では、0.6Bから9BパラメータのオープンなDecisionモデルを対象に検証が行われた。すべての実験はMac1台で実行でき、2Bモデルでは約6GBのメモリを使用したとされる。

WeightSpaceオプティマイザ単体でのTyped Decisionsスコア改善幅は+1.9〜+16.1ポイント、ReAnchorとの組み合わせでは +6.5〜+20.0ポイントと報告されている。

代表的なケースとしては、d1-omni-600Mが WeightSpace + ReAnchor により50.9%から69.1%へと +18.3ポイント向上 した一方、Clef-Flash(9B)ではWeightSpace単体で+1.9ポイントにとどまったとされる。

実際に行われた編集内容の例として、d1-omni-600Mでは head.scorer.1.weight などのテンソルが対象となり、78分・コスト7.63ドルで実行された。NanoJev(Qwen3-0.6B)では scalar.weight(1,024エントリ)が167分・6.92ドルで編集されている。

現状の制限

記事では「長所と短所」が明示されており、安価でグラデーション不要・小さくて検証可能なパッチとして配布できる点が利点とされる。一方で、非常に実験的であること、実行に78〜167分かかること、大きいモデルほど効果が薄いことが課題として挙げられている。

GPT-6-Astraの呼び出しコストは1実行あたり 5〜10ドル程度 と報告されており、現時点ではプロトタイプとしての位置づけだ。コードはGitHubで公開されており、DSPyのどのプログラムやメトリクスにも WeightSpace オプティマイザとしてプラグインできる設計になっている。


出典: Cmpnd Releases dspy-wsp: Weight-Space Programming Comes to DSPy