論文EnvOpt:道具を整えてHaiku 4.5の費用72.7%減

棚に並んだ収納 AI

AI エージェントの費用を下げたいとき、ふつうはモデルを安いものに変えるか、プロンプトを削ります。11月5日に arXiv に出た論文 EnvOpt: Automated Optimization for Agent Environments は、モデルにもプロンプトにも手を付けませんでした。変えたのは、エージェントが使う道具と手順書のほうです。それを別の AI に作り直させたところ、業務の自動化を試すベンチマークで Claude Haiku 4.5 の費用が72.7%減り、合格率も上がりました。作り直しにかかった費用は約150ドルです。シカゴ大学、カリフォルニア大学バークレー校の Sky Computing Lab、Bespoke Labs の共同研究で、コードはまだ公開されていません。

背景と文脈

エージェントの費用は、モデルが答えを書く部分より、道具を呼んで返ってきた結果を読み込む部分でかさみます。EnvOpt の論文で費用の内訳を分けたところ、減った分の多くは、道具の返り値として入力に積まれるトークンでした。API を探す、同じデータを何度も取り直す、といった動きがそのまま請求額になります。

これまでの自動最適化は、エージェントの側を書きかえるものが中心でした。GEPA はプロンプトを、Meta-Harness はハーネス(モデルの呼び出し方や道具の渡し方を決める、外側のプログラム)を自動で直します。EnvOpt は対象のエージェントのモデル・ハーネス・プロンプトを固定し、エージェントが触る世界のほうだけを変えます。

評価の中心は、2026年4月に公開された AutomationBench です。Zapier で実際に使われている業務の流れをもとにした課題集で、Gmail・Salesforce・Slack・QuickBooks など約47の SaaS をまねた環境が用意されています。エージェントは REST API を自分で探し、社内規定の文書に従い、紛らわしいデータを避けながら作業します。判定は最後の状態をプログラムで確かめる方式で、元の論文では最先端のモデルでも合格率は10%未満でした。

技術/ビジネス面

積み重ねた硬貨と紙幣
Photo by Katie Harp on Unsplash

論文でいう環境は、エージェントが情報を受け取る窓口全体のことです。AutomationBench のエージェントはファイルを読めず、検索・API 呼び出し・文字列の変換という3つの基本の道具だけで世界に触れます。EnvOpt が書きかえてよいのは、エージェントに見せる道具、作業の最初に情報を先に取ってきてシステムメッセージとして渡すしかけ、作業の進め方を書いた手順書や早見表の3種類です。

作り直す役は、Claude Opus 4.8 を使った Claude Code が受け持ちます。まず学習用の課題20問で対象のエージェント(Claude Code と Haiku 4.5 の組み合わせ)を動かし、その記録を読んで環境を直します。直した環境でもう一度20問を流し、費用が下がって答えも崩れていなければ残します。これを1ステップとして、5ステップで止めました。1ステップで対象のエージェントを動かす予算は30ドルです。

学習用の課題には、正解を判定するしくみを渡していません。正解が見えると、答えを覚えて費用だけ下げるズルができるためです。代わりに、判定つきの検証用96問をステップごとに流し、費用が上がるか合格率が下がりすぎたら、ひとつ前の環境に戻します。最終的な成績は、どの段階でも使っていない試験用の200問で測りました。600問を学習304問・検証96問・試験200問に分けた形です。

採用された変更には、Gmail のメールを送信者・件名・本文に分けたテキストへまとめる道具や、Jira・Slack・Xero の操作に要る API の早見表がありました。早見表があれば、エージェントは API を探す呼び出しを省けます。全部を1つの大きなファイルにまとめる案は、かえって探し回る回数が増えたため捨てられています。

開発者として試すなら

EnvOpt のコードは、11月7日の時点で arXiv のページにも本文にもリンクがありません。いま試せるのは、論文のやり方を自分のエージェントに手で当てはめることです。先に、論文に出ている数字を並べます。

ベンチマーク 対象のエージェント 費用 合格率
AutomationBench Claude Code + Haiku 4.5 72.7%減 14.34%上昇
AutomationBench(同じ環境をそのまま使用) Claude Code + Opus 5 68.1%減 1.34%上昇
AutomationBench(Meta-Harness と併用) Claude Code + Haiku 4.5 83.4%減 Meta-Harness 単独より11.17%上昇
Workspace-Bench Codex + gpt-5.4-mini 47.65%減 3.3%上昇
Data-Eng-Bench Codex + gpt-5.6-luna 53.44%減 下がらず

合格率の上がり幅がポイントの差なのか比率なのかは、本文では書かれていません。Meta-Harness と組み合わせた場合の上がり幅も、要旨では11.17%、序論では16%と食い違っています。

手元のエージェントで同じことをするなら、手順は次のようになります。

  1. 課題ごとに、道具の呼び出しと返り値を記録として残す。費用は入力と出力のトークンに分けて見る
  2. 記録の中から、毎回くり返している探索を探す。API の一覧を毎回検索している、同じデータを何度も取り直している、などです
  3. 見つけたものを、早見表か、まとめて呼べる道具にする。Claude Code なら CLAUDE.md に早見表を書く、複数の呼び出しを1つにした MCP サーバーの道具を作る、といった形になります
  4. 直した環境を、作業に使っていない課題で確かめる。正解をプログラムで判定できる課題を、最初から別に取っておく

元が取れるかは、動かす回数で決まります。論文は、新しい課題を1,000件流せば節約額が作り直しの費用の10倍を超えると試算しています。月に数十件しか動かさないエージェントなら、回収には時間がかかります。

論文には、うまくいかなかった例も載っています。作り直す AI が、答えの長さやキーワードの一致といった当てにならない目安で良し悪しを決め、未使用の課題で成績を落としたことがありました。Data-Eng-Bench では、引用符の中のセミコロンで SQL を切ってしまう処理が1ステップ目に入り、5ステップ目まで見逃されています。論文は検証なしでも3ステップまでなら大きく崩れなかったとしつつ、経験上の話だと断っています。ニュースレターの Sam on AI は、本番の業務での節約はまだ測られていないと書いていました。結果はすべて模擬環境のものです。

これからどうなるか

エージェントの費用の話は、どのモデルを使うかに寄りがちでした。この論文から、同じ Haiku 4.5 でも、道具と手順書しだいで費用が3割以下まで下がるとわかります。作った環境を Opus 5 で使っても費用は68.1%減ったので、モデルを替えても環境は使い回せます。

社内の API を呼ぶエージェントを動かしているなら、毎回の API 探しを早見表に置きかえるだけで、入力トークンを減らせる見込みがあります。Claude Code や Codex で同じリポジトリを何度も触る場合は、CLAUDE.md や AGENTS.md に何を書くかを、エージェントの実行記録を見て決められます。

次に知りたいのは、コードが公開されるかと、模擬環境ではない業務での数字です。正解を判定できない業務で検証用の課題をどう用意するかは、論文でも人が作る前提のままです。

まとめ

EnvOpt は、モデルとプロンプトを変えずに、エージェントの道具と手順書を AI に作り直させる手法です。AutomationBench では Haiku 4.5 の費用が72.7%減り、作り直しの費用は約150ドルでした。コードは未公開ですが、実行記録からくり返しの探索を見つけて早見表や道具にする作業は、手元のエージェントでもできます。論文の失敗例を見る限り、正解を判定できる検証用の課題を別に取っておくことは外せません。

参考リンク

アイキャッチ画像: Photo by Diana Ruseva on Unsplash

タイトルとURLをコピーしました