Gijs Kassenaar氏らの研究チームが、LLM（Large Language Model、大規模言語モデル）に「どれだけ考えるか」を自分で判断させる新手法を発表しました。回答の冒頭で「即答」「短い推論」「長い推論」の3モードから選ばせることで、精度をほぼ落とさずに応答の長さを平均41%削減しています。推論に使う計算量を問題の難易度に応じて自動で振り分ける試みとして注目されています。
背景と文脈
近年のLLMは、回答前に長い思考過程を出力してから答える「推論モデル」が主流になりつつあります。chain-of-thought（思考の連鎖：途中の考え方を言葉で書き出しながら答えを導く手法）と呼ばれるこの仕組みは、数学やコーディングの精度を大きく引き上げました。
一方で課題も見えてきています。多くの推論モデルは、簡単な質問にも長々と考え、逆に難しい質問には考える量が足りないことがあります。これは固定的なトークン数（LLMが処理する文字の単位）の予算で動いているためです。答えが1行で済む質問でも数千トークンを消費すれば、それだけAPI利用のコストと待ち時間が膨らみます。
この「考える量を問題に合わせて変える」という発想自体は目新しくありません。OpenAIのoシリーズやDeepSeekのR1以降、推論時の計算量を増やすほど精度が上がる「test-time scaling（テスト時スケーリング）」という考え方が広まり、各社が競うように思考時間を延ばしてきました。ただし思考時間が長くなるほど、応答1件あたりのコストと待ち時間も比例して増えます。
今回の研究は、モデル自身に判断を委ね、しかも3段階のモードとして明確に分離した点が特徴です。単に「短く答えろ」と指示するプロンプト工夫とは違い、モデルが問題の難易度を内部で見積もったうえでモードを選ぶ仕組みを、強化学習によって訓練で身につけさせています。
類似の課題に取り組む研究は他にも増えていますが、多くは思考の「途中で打ち切る」制御が中心でした。今回のように回答の冒頭で明示的にモードを選ばせる設計は、モデルの挙動を後から検証しやすいという利点もあります。
技術/ビジネス面
研究チームは、Learning When to Think: Adaptive Reasoning for Test-Time Compute Allocationという論文で、1.5Bパラメータの蒸留モデル（distillation：大きなモデルの能力を小さなモデルに写し取る手法）を使って検証しました。モデルは回答の最初のトークンとして「NoThink（即答）」「Short（短い推論）」「Long（長い推論）」のいずれかを選びます。
学習にはGRPO（Group Relative Policy Optimization：複数の回答候補を相対比較しながら強化学習で方策を改善する手法）を採用しました。各モードにトークン数の上限を設け、報酬の形も工夫することで、3つのモードが1つに収束してしまう「モード崩壊」を防いでいます。モード崩壊とは、複数の選択肢を用意したはずのモデルが、学習の過程で結局どれか1つのモードばかり選ぶようになってしまう現象です。今回は上限付きの報酬設計によって、簡単な問題では即答モード、難しい問題では長い推論モードが自然と選ばれるよう誘導しています。
結果は明確です。数学問題のベンチマークMATH500（中学〜大学レベルの数学問題500問で構成される評価セット）では、精度をほぼ維持しながら平均応答トークン数を4,796から2,811へ、41%削減しました。さらに小学校レベルの算数推論を測るGSM8Kでは、再学習なしで76%ものトークン削減を達成し、同程度の応答長の既存手法より高い精度を示しています。
これからどうなるか
この成果が実務に持つ意味は、コストと速度の両面に及びます。推論モデルのAPIは思考過程の長さに応じて課金される場合が多く、簡単な質問にまで長い思考が発生すると無駄なコストがかさみます。今回のような自己判断の仕組みが実用化されれば、既存のRAG（Retrieval-Augmented Generation：検索で外部情報を取得してから回答を生成する仕組み）パイプラインなど、質問の難易度がばらつくシステムのコスト試算が変わってくるはずです。
また、応答時間の短縮はユーザー体験にも直結します。チャットボットやコーディング支援ツールで「簡単な質問はすぐ返ってくるが、難しい質問はじっくり考えてくれる」体験が当たり前になれば、利用者側の待ち時間へのストレスも減るでしょう。CI（継続的インテグレーション）上でLLMを使った自動レビューやテスト生成を回している場合も、大半を占める単純なタスクの応答が速くなれば、パイプライン全体の実行時間短縮につながります。
今回は1.5Bという比較的小さいモデルでの検証のため、数百億パラメータ規模の大規模モデルでも同様の効果が出るかは今後の検証が待たれます。それでも、思考量を固定せずタスクごとに動的配分するという設計思想自体は、各社の商用APIにも今後波及していく可能性があります。
まとめ
LLMに考える長さを自分で選ばせる手法が、精度をほぼ落とさずに応答トークンを最大76%削減しました。推論コストの最適化に向けた実践的な一歩といえます。
参考リンク
アイキャッチ画像: Photo by Microsoft Copilot on Unsplash
