米カリフォルニア大学サンタクルーズ校などの研究チームが、LLM（Large Language Model、大規模言語モデル）が使えば使うほど賢くなる仕組みを提案した論文「Chain-of-Experience for Continual LLM Improvement」を発表しました。GPT-5やGemini 2.5 Pro、Claude 4.5 Sonnetなど8つのモデルで検証し、フィードバックを繰り返し与えるだけで精度が平均5.6%改善し、APIコストは19%下がったと報告しています。追加の学習や再訓練は一切不要です。
背景と文脈
これまでのLLM評価は、1回の入力に対して1回答えを出す「ゼロショット推論（事前の学習だけを頼りに、追加のヒントなしでその場で答えを出すこと）」を前提にしてきました。人間なら同じ問題を繰り返し解くうちにコツをつかみますが、従来のベンチマークはそうした改善の余地を測ってきませんでした。
近年はChain-of-Thought（途中の思考過程を書き出させてから答えさせる手法）や、外部知識を検索して回答に使うRAG（Retrieval-Augmented Generation、検索拡張生成）など、推論（inference：学習済みのモデルが入力を受けて答えを計算する処理）の質を上げる工夫が数多く提案されてきました。ただしこれらの多くは1回の応答内で完結する仕組みで、複数回のやり取りをまたいで「経験」を蓄積し、次の挑戦に活かすという発想は手薄でした。
コーディングエージェントのように似た作業を何度も繰り返すプロダクトが増えるなか、「同じ失敗を毎回一から繰り返すのはもったいない」という課題意識も背景にあります。ファインチューニング（fine-tuning：既存モデルに追加データで再学習させ、特定用途向けに調整すること）でモデル自体を作り変えるのは時間もコストもかかります。今回の論文は、モデルの重みには一切手を触れず、やり取りの中に経験を蓄積させるだけでどこまで性能を伸ばせるかを検証した点に意義があります。
技術/ビジネス面
研究チームが提案した「Chain-of-Experience（CoE）」は、モデルに同じような課題を繰り返し解かせながら、そのたびにフィードバックを与えて経験の連鎖を作る仕組みです。フィードバックの種類は大きく2つあります。1つはモデル自身に自分の回答を振り返らせる「自己フィードバック」、もう1つは正誤判定やコーディングテストの通過率といった、外部の環境から得られる客観的な信号です。検証にはGPT-5、Gemini 2.5 Pro、Claude 4.5 Sonnetを含む8つのモデルを使い、条件をそろえて比較しています。
数学・コーディング・知識問答の3分野で検証した結果、フィードバックなしの手法に比べて一貫して精度が向上し、自己フィードバックだけでも大きな改善が見られました。正誤判定などの環境信号と組み合わせるとさらに効果が上がり、全体では平均5.6%の精度向上、消費トークンあたりの正答率でも既存の推論時手法を上回りました。APIコストは19%下がっており、性能とコストの両方で無視できない差になっています。
興味深いのは、弱いフィードバックやノイズが混じった信号でもモデルの性能が大きく崩れなかった点です。フィードバックの種類ごとに伸びる能力の傾向も異なり、改善効果の多くは最初の数回のやり取りで出ていました。つまり、延々とループを回さなくても、少ない試行回数で効果の大部分を得られるということです。また、もともとの基礎能力が高いモデルほど、経験からの伸びしろも大きい傾向が確認されています。強いモデルほど、フィードバックを次の一手にうまく変換できるということかもしれません。
これからどうなるか
この結果が意味するのは、モデルを再訓練しなくても、使い方の工夫だけで実質的な性能向上とコスト削減を同時に狙えるという点です。コーディングエージェントやカスタマーサポートのように、同じような種類のタスクを繰り返し処理するプロダクトでは特に相性が良さそうです。1回のセッション内で終わらせず、過去のやり取りの結果を次の試行に持ち越す設計にするだけで、応答の質が変わってくる可能性があります。
実装面では、自分のプロダクトのログにすでに「正解/不正解」や「テスト通過/失敗」といった環境信号が眠っていないか点検する価値があります。それを次の推論のプロンプトに簡潔な形で織り込むだけでも、今回の論文が示すような改善が得られる可能性があります。API呼び出し回数を増やさずに済む設計にできれば、コスト増をあまり心配せずに導入できるはずです。既存のCI（継続的インテグレーション）のテスト結果をそのままフィードバック信号として使えるなら、コーディングエージェントには特に導入しやすいでしょう。
まとめ
Chain-of-Experienceは、LLMに経験を積ませて賢くする新しいテスト時学習の手法です。再訓練なしで精度5.6%向上・コスト19%減という結果は、日々の開発でも試す価値のある発見と言えそうです。
参考リンク
アイキャッチ画像: Photo by Google DeepMind on Unsplash
