Fengqing Jiang氏らの研究チームが、データ構築パイプライン「MidTool」を提案する論文を発表しました。LLM（Large Language Model、大規模言語モデル）にツール利用能力を汎用的に鍛える手法です。事前学習と事後学習の間に位置する「中間学習（mid-training）」の段階に手を加えます。オープンモデルのQwen3-4B-BaseとQwen3-8B-Baseで検証したところ、複数のベンチマークで一貫した性能向上が確認されました。
背景と文脈
LLMの学習は大きく3段階に分かれます。まず大量のテキストで基礎的な言語能力を身につける「事前学習（pre-training）」です。次に控えるのは、特定のスキルを強化する中間段階。最後は人間の指示に沿うよう調整する「事後学習（post-training）」です。
事後学習では、教師ありファインチューニング（SFT：正解データを使ってモデルの出力を望ましい形に調整する手法）を使います。さらに強化学習（RL：モデルの出力に報酬を与えて望ましい行動を学習させる手法）も組み合わせます。これまでツール利用能力は、主に事後学習の段階で鍛えられてきました。会話ログや関数呼び出しの例をSFTで学習させたり、成功したツール呼び出しにRLで報酬を与えたりする方法です。
事後学習だけに頼ると、モデルが学習前から持つツールへの理解の土台が薄いままになりやすく、そこに課題がありました。MidToolはこの土台部分に手を入れます。事前学習と事後学習の間に中間学習という段階を新たに設け、ツール利用に特化した大量のデータでモデルを訓練します。
事後学習で細部を仕上げる前に、ツールの機能に対する基礎理解を先に固める狙い。エージェント開発でMCPの採用が広がる中、モデル自体がツールの意図をどれだけ正確に理解できるかは、重要な差別化要素になりそうです。
技術/ビジネス面
この手法は論文MidTool: Mid-training Data Synthesis for Agentic Tool Useとして公開されています。データ構築パイプラインは、大規模なWeb・PDF・コードデータに加え、複数の情報源を組み合わせています。実在するツールAPI、MCPのスキル、文書に基づくワークフローから合成した教師データも使っています。単一の情報源に頼らず、実際の利用場面に近い多様なデータを用意している点が特徴。
このデータで鍛える能力は4つに整理されています。
- ツールアフォーダンスの認識：そのツールで何ができるかを理解する能力です。
- 文脈からの引数のグラウンディング：会話の流れから関数呼び出しに必要な正しいパラメータを埋める能力です。
- ツールワークフローの組み立て：複数のツール呼び出しを順序立てて連鎖させる能力です。
- 不完全な情報への対応：情報が欠けた状況でも適切に振る舞う能力です。
構築したデータミックスは「MidTool-Mix」と呼ばれます。Qwen3-4B-BaseとQwen3-8B-Baseという2つのオープンモデルの中間学習に使われました。その後は通常どおり、SFTとRLによる事後学習を実施しています。
評価には3つのベンチマークを使いました。
- BFCL（Berkeley Function-Calling Leaderboard）：モデルが関数・ツールを正しく呼び出せるかを測る代表的なベンチマークです。
- tau2-Bench：現実的な複数ターンのタスクでエージェントのツール利用能力を測るベンチマークです。
- MCP Universe：MCPベースのツール利用を測るベンチマークです。
結果は、いずれのベンチマークでも一貫した性能向上を示しています。
これからどうなるか
研究チームは、ツール利用能力も他の重要なLLMスキルと同様、事後学習だけに頼らず専用の中間学習段階から恩恵を受けると結論づけています。事後学習の工夫だけでツール精度を追い込む発想には限界がある可能性を示す結果です。
MCPを使ってエージェントやツール連携アプリを開発している開発者にとって、モデルのツール呼び出し精度は実運用の信頼性を左右します。誤った引数を埋めたり、必要なツールを見落としたりすれば、そのままユーザー体験の悪化につながります。今回の結果は、こうした精度の差が事後学習の細かな調整だけでなく、訓練の早い段階への投資によっても生まれることを示しています。
今後は、どのモデル系列が中間学習の段階でツール利用を鍛えているかが、オープンウェイトモデルを選ぶ判断材料の1つになりそうです。自前でエージェントパイプラインを組む際は、ベースモデル選定でこうした工夫の有無を確認する価値があります。
まとめ
MidToolは、中間学習の段階でツール利用能力を鍛えるデータ構築パイプラインです。実在するツールAPIやMCPのスキルを合成データに組み込み、Qwen3-4B-BaseとQwen3-8B-Baseで検証しました。BFCL、tau2-Bench、MCP Universeの3つのベンチマークすべてで性能向上が確認され、事後学習に偏らないモデル育成の重要性を示しています。
参考リンク
アイキャッチ画像: Photo by Jantine Doornbos on Unsplash
