Revolut、自前GLMでAIコーディング費9割減 B200を56基

積み重なった紙幣 AI

英国のフィンテック企業 Revolut が、社内の AI コーディングを Claude などの外部の API から自社で動かす GLM に切りかえ、費用を約9割減らしたと明かしました。The Register が11月3日に、ニューヨークのカンファレンス AI Engineer での講演として伝えています。約2,000人のエンジニアを NVIDIA B200 56基でまかない、使った量に関係なく決まった額で済むようにしました。同じ GPU のまま、最初の返事が届くまでの時間を14秒から1.7秒に縮めた調整の中身も話しています。

背景と文脈

Revolut は、AI のコーディング道具を何度か入れかえてきました。講演ページによると、2025年初めに入れた Gemini では、機能に手をつけてからマージまでの日数(リードタイム)が約10%、コーディングの時間が約20%縮みました。2026年初めには Claude Code を広げましたが、費用に見合わないとして、トークンの予算に上限を設けています。The Register によると、1人で月1,000ドルや1万ドルを使っても、成果がはっきりしない例があったそうです。

そこで選んだのが、中国の Z.ai が重みを公開している GLM です。講演をした David Abitbol 氏は、Revolut でインフラと運用をまとめています。中国製のモデルへの不安については、相手の会社の API を通してデータを送ることが主な危険だと述べました。自社や地域のクラウドで動かせば、その大部分は消えるという考えです。

トークン代が膨らむ例はほかにもあります。11月2日には、Y Combinator の Garry Tan 氏が AI エージェントに年間最大20万ドルを払っていると TechCrunch が伝えました。使う量が増えるほど、使った分だけ払う料金では月末の請求の見通しが立てにくくなります。Revolut は2,000人規模で、自前の GPU のほうが安くなった実例です。

技術/ビジネス面

GPUを積んだ黒いパソコン
Photo by Rainier Ridao on Unsplash

使っているモデルの版は、記事によって書き方が違います。The Register は GLM-5.1 から GLM-5.3 に移ったと書いています。別のメディアの StartupHub は GLM 4.5 とし、切りかえは4月だったとしています。The Register の説明では、GLM-5.1 は総パラメータ約7,540億の MoE(Mixture of Experts:トークンごとに一部の専門の部分だけを動かすモデルの作り)で、1トークンごとに動くのは約400億です。

講演ページによると、GPU を56基から増やさないまま、さばけるリクエストの数が76%増えました。最初のトークンが返るまでの時間(TTFT)は、14.26秒から1.68秒に縮んでいます。Abitbol 氏は、TTFT が5秒を超えると社内の Slack に苦情が届き始めると話しました。生成の速さは毎秒約200トークンで十分とし、利用が減る夕方5時以降は毎秒800トークン近く出るそうです。

講演で挙がった調整は次のとおりです。

  • 一度に読ませるトークン数の上限(文脈の長さ)を、実際の作業に合わせて25万6,000に絞る。モデルは100万まで読めても、そこまでは使わない
  • Blackwell 世代の GPU で FP4 の量子化(数値を4ビットで表してモデルを小さくする処理)を使う。FP8 と比べて GPU の使用量が約40%減った
  • テンソル並列(1つのモデルを複数の GPU に分けて載せる方法)を8分割と4分割で比べる。4分割だと、会話の途中の計算結果を置く KV キャッシュの場所が足りなくなることがある
  • コーディングの用途では、キャッシュに当たる割合を90%以上にする
  • 投機的デコード(小さな仕組みで先の候補を出し、大きなモデルでまとめて確かめる高速化)や、入力の読みこみと出力の生成を別の GPU に分ける構成も考える

画像を読む仕事は別のモデルに振り分けて、コーディングのモデルは文字だけを扱います。社内のサーバーは OpenAI 互換の API として出していて、Codex や OpenCode からつなげます。Abitbol 氏は25万6,000で足りる理由として、長い文脈は思ったほど役に立たないと話しました。

開発者として試すなら

同じことをするには、まず GPU の量を見積もります。The Register によると、モデルの重みだけで GPU のメモリが約380GB 要ります。そこに利用者1人あたり6〜26GB の文脈の分が加わります。Revolut は、8基の GPU を積んだ DGX B200 を7台分そろえて、2,000人の利用をさばいています。

Hugging Face の GLM-5.3 のページには、vLLM(推論を速く回すためのオープンソースのサーバー)と SGLang での起動方法が載っています。vLLM なら次の2行で、ポート8000に OpenAI 互換の API が立ちます。

pip install vllm
vllm serve "zai-org/GLM-5.3"

同じページによると、GLM-5.3 は総パラメータ7,530億で、公式の重みには FP8 版が入っています。Revolut が使った FP4 版は公式にはなく、自分で用意するか、コミュニティの量子化版を選ぶことになります。考える深さは reasoning_effort で low・high・max から選べ、既定は max です。max のままだと考える量が増えて待ち時間が延びやすいので、TTFT の目標がある場合は作業に合わせて下げます。ライセンスは独自の glm-5.3 で、ページに条件の説明がありません。商用で使う前に、本文を確かめる必要があります。

費用は次のように並べられます。

項目 Z.ai の API(GLM-5.3) Revolut の自前運用
払い方 使った量に応じて払う GPU の費用を払う(使う量では変わらない)
100万トークンの単価 入力1.40ドル、出力4.40ドル、キャッシュ済みの入力0.26ドル 入出力をならして約0.30ドル
数字の出どころ 料金をまとめたサイトの掲載値(公式ページでは未確認) Revolut の講演(自社の数字)

0.30ドルは、2,000人が毎日使う Revolut の環境での数字です。夜間など利用が少ない時間も GPU の費用はかかるので、人数が少ない会社では単価が上がります。講演ページも、この数字は Revolut の環境のもので、一般の価格ではないと断っています。

コーディング時間60%、リードタイム70%の改善は、社内での前後の比べです。講演ページは、モデルを変えた効果だけを取り出した数字ではないと書いています。StartupHub も、ほかの会社で同じ結果が出るかはまだわからないとしています。

安全の面では、Revolut は AI の作業を人が見る前提で組んでいます。サンドボックス(AI が動かせる範囲を区切った環境)の承認ルールで、grep は自由に実行させ、ビルドの道具の gradle は人の許可が要るようにしました。データは既定で残さず、OpenTelemetry(処理の記録を集める仕組み)で細かく記録しています。API に任せていた管理を、自前で動かすときは自分たちで作ることになります。

これからどうなるか

重みが公開されたモデルの性能が上がり、大きな会社では、API に払うか GPU を持つかを数字で比べられるようになりました。Revolut の場合は、エンジニア2,000人、GPU 56基、平均0.30ドルが一つの目安になります。GLM-5.3 のページでは、コマンドラインでの作業をこなせるかを測る Terminal-Bench 2.1 で88.2点です。ただし、同じ条件で Claude と比べた数字は、講演にも記事にも出ていません。

手元のコーディングの道具が OpenAI 互換の接続先を指定できるかを確かめておくと、あとでモデルを乗りかえやすくなります。Revolut も、社内のサーバーを OpenAI 互換の API として出し、Codex や OpenCode からつなげるようにしています。月のトークン代が数千ドルを超えるチームなら、今の請求を100万トークンあたりの単価に直しておくと、0.30ドルや API の1.40ドル・4.40ドルと並べて、自前で動かす価値があるかを比べられます。

まとめ

Revolut は AI コーディングを自前の GLM に切りかえ、請求額を以前の約10分の1にしました。GPU を増やさずに TTFT を14.26秒から1.68秒に縮めた調整では、文脈の長さを25万6,000に絞ることと FP4 の量子化が効いています。ただし数字は Revolut の講演によるもので、改善の割合もモデルだけの効果とは言えません。人数と使う量が少ないチームでは、同じ単価にはなりません。

参考リンク

アイキャッチ画像: Photo by rupixen on Unsplash

タイトルとURLをコピーしました