AI
Qwen3ベースの27B量子化モデル「Underdog-Saluki-27B」—2ビット圧縮でツール呼び出しに対応
2026/10/12
ConwayResearchが27B規模の2ビット量子化モデルを公開
ConwayResearchは、Hugging Face上で Underdog-Saluki-27B-1.0 を公開した。タグ情報によれば、ベースモデルには ISTA-DASLab/Qwen3.8-27B-GSQ-RCO-GGUF（Alibaba製Qwen3.8-27Bを独自手法でGGUF化したもの）が使用されており、さらに2ビット量子化とimatrix（重要度行列）技術を組み合わせることで大幅な軽量化が図られていると見られる。
2ビット量子化＋imatrixによる軽量化
公開情報から確認できるタグには 2-bit および imatrix が含まれている。imatrixは量子化時に各重みの重要度を考慮して誤差を最小化する手法で、llama.cppエコシステムで広く採用されている技術だ。27BクラスのモデルをGGUF形式で2ビットまで圧縮することで、一般的なコンシューマーGPUや高性能なCPU環境でも動作させやすくなると考えられる。ライセンスはApache 2.0が適用されており、商用・非商用を問わず幅広い用途で利用可能だ。
ツール呼び出し・エージェント機能への対応
モデルのタグには tool-calling・function-calling・agents が明記されている。これはモデルが外部APIや関数を呼び出す能力、いわゆる Function Calling に対応していることを示している。Qwen3.8シリーズはもともとツール利用やエージェント的なタスクへの親和性が高いとされており、その特性を引き継いだ形だ。
公開直後から高い注目を集める
Hugging Faceのモデルページに記録されたメタデータによれば、本稿執筆時点で いいね数265、ダウンロード数約59,191件 を記録している。27BクラスのGGUFモデルとしては短期間でのダウンロード数としてかなりの水準であり、ローカルLLM愛好者やエージェント開発者からの関心の高さがうかがえる。
llama.cppエコシステムとの親和性
GGUF形式での提供により、 llama.cpp をはじめ、LM Studio・Ollama・KoboldCppなどllama.cpp系のランタイムとの互換性が確保されている。conversationalタグも付与されており、チャット形式での利用も想定されている。
まとめ
Underdog-Saluki-27B-1.0は、Qwen3.8-27BをベースにGGUF+2ビット量子化+imatrixという組み合わせで軽量化しつつ、ツール呼び出し・エージェント機能を維持した意欲的なモデルだ。Apache 2.0ライセンスで自由に利用できる点も魅力であり、ローカル環境でのエージェントアプリケーション開発に適した選択肢となりうる。詳細は Hugging Faceのモデルページ で確認できる。