Edge0 が11月12日、言語モデル Edge0-145B の重みを公開しました。発表の記事 Introducing Edge0-145B は、MacBook Pro のようなノートパソコンでもピーク29GBのメモリで動くと書いています。ところが同じ会社の GitHub の資料では、今動かせるのは NVIDIA の GPU と CUDA 13 を積んだ Linux か Windows だけです。RTX 5090 D での実測も、GPU のメモリ 23.14GiB と PC のメモリ 31.28GiB で、合わせて約54GiBでした。宣伝と資料のずれを並べたうえで、手元で試すときの手順と条件をまとめます。
背景と文脈
Edge0 は、手元の PC で動く言語モデルを作っている会社です。9月8日には小さめの Edge0-35B-A3B-preview と Edge0-8B-A1B-preview を出していて、今回の 145B と 120B はその次の版にあたります。145B（1,450億）のパラメータは、これまでなら GPU を何枚も並べたサーバーで動かす大きさでした。
手元で動かせる理由の1つは、MoE（Mixture of Experts：小さな専門のモデルをたくさん並べ、入力ごとに必要な分だけ動かす仕組み）を使っていることです。Edge0-145B は各層に512個の専門家を持ち、1トークンを作るたびに10個と、共通の1個だけを動かします。実際に計算に使うのは1トークンあたり10.12Bで、全体の7%ほどにとどまります。
ブログに書かれていないこともあります。Hugging Face の Edge0-145B-NVFP4 のモデルカードには、元にしたモデルとして Alibaba の Qwen3.8-Flash-Next が書かれています。推論エンジン（モデルを読みこんで文章を作るプログラム）の edge0-strata も、MIT ライセンスで公開されている Strata を分けて作ったものです。Hacker News では、Aurornis さんが「リポジトリには書いてあるのに、宣伝のページには書いていない」とコメントしていました。
Edge0 はゼロから作ったモデルとは書いていません。ただ、ブログだけを読むと新しいモデルに見えます。性能の数字を見るときは、元の Qwen3.8-Flash-Next と比べる必要があります。
技術/ビジネス面
Edge0-145B は、重みを全部 GPU のメモリに載せません。よく使う部分だけを GPU に置き、残りは PC のメモリや SSD から必要なときに読みこみます。たとえば 51.2B 分ある単語の組み合わせの表（PLE）は、ファイルのまま SSD に置いて、使う部分だけを読む作りです。
重みを小さくする量子化（数値を少ないビット数で表して、ファイルとメモリを減らす方法）は2種類あります。Q3_K は1つの数を3ビットほどで表す形式で、ファイルは 40.81GiB です。NVFP4 は NVIDIA の Blackwell 世代（RTX 50 シリーズなど）向けの4ビット形式で、47.79GiB あります。モデルカードによると、学習も最初から4ビットで行いました。
一度に読める文章の量（コンテキスト）は 256K トークンです。小さな下書き役のモデル（1.26B）も付いていて、先に何トークンか予想させてから本体で確かめる投機的デコーディング（速く文章を出すための工夫）に使います。
性能は Edge0 が自分で測った数字だけが出ています。元の Qwen3.8-Flash-Next と並べると、次のとおりです（単位は%）。
| ベンチマーク | 何を測るか | Edge0-145B | Qwen3.8-Flash-Next |
|---|---|---|---|
| DeepSWE 1.1 | 実際のリポジトリのバグ修正 | 64.6 | 58.7 |
| Terminal-Bench 2.1 | 端末でのコマンド操作の作業 | 86.5 | 83.3 |
| IFBench | 細かい指示どおりに書けるか | 80.6 | 81.3 |
| GPQA-Diamond | 大学院レベルの理科の問題 | 90.4 | 91.7 |
| HLE | 専門家が作った難問 | 35.4 | 35.9 |
コーディングの2つでは元のモデルより高く、残りでは少し低い結果です。Hacker News では selcuka さんが、評価に合わせて微調整しただけではないかと書いていました。数字を確かめるには、出る予定の技術レポートを待つことになります。
開発者として試すなら
まず、動く環境がブログと GitHub で違います。手元の PC が条件に合うかを先に確かめてください。
| 項目 | ブログ | GitHub の資料 |
|---|---|---|
| 対応する OS | macOS・Windows・Linux | Linux・Windows（NVIDIA の GPU と CUDA 13 が必要） |
| メモリ | ピーク29GB | Q3_K で GPU 23.14GiB＋PC 31.28GiB |
| 出力の速さ | 80トークン/秒以上 | RTX 5090 D で99.7、RTX 4090 で69.9（Q3_K） |
GitHub の Edge0-145B の資料には M2 Ultra の測定結果も載っています。ただし、macOS 向けの版を出したわけではないと書かれていて、今の Mac では動かせません。
動かす手順は、資料によると次のとおりです。edge0-strata と edge0-infer をビルドしてから、モデルのフォルダを指定してサーバーを起動します。
git clone https://github.com/Edge0-AI/Edge0.git edge0
build/cpu/bin/edge0-infer serve --model /path/to/Edge0-145B-NVFP4起動すると http://127.0.0.1:8000 で待ち受けます。OpenAI と Anthropic の API と同じ形で呼べるので、手元のエージェントや SDK の接続先を書きかえるだけで試せます。GPU のメモリが足りないときは、--resident-budget-gib 20 で GPU に置く量を決め、--mmap-experts で専門家の重みを SSD から読む設定もあります。資料では GPU 16GiB と PC 20GiB に制限した場合も測っていて、出力は36.8トークン/秒でした。
つまずきそうな点はほかにもあります。NVFP4 版は Blackwell 世代の GPU 向けなので、RTX 4090 なら Q3_K 版を選びます。長い文章を読ませると、上の数字に加えてコンテキストの分のメモリが要ります。Hugging Face のページには Ollama や vLLM で動かす例も出ますが、GitHub では edge0-strata でしか動かないと書かれています。Hacker News では mapontosevenths さんが、DGX Spark では動かず、Python の問題に8,000トークン以上考えても答えが出なかったと報告していました。
ライセンスにも注意が必要です。重みは Edge0 Community Model License 1.0 で、個人の利用・研究・社内での利用・作った文章の商用利用はできます。モデルを使った有料のサービスや、商用のコーディング支援ツールを作るには、Edge0 の書面の許可が要ります。元の Qwen のライセンスも合わせて守る必要があります。
これからどうなるか
Edge0 は技術レポートを準備中としていて、学習の方法やベンチマークの条件はまだわかりません。Mac で動く版がいつ出るかも、資料には書かれていません。ブログの29GBがどの条件の数字なのかも、今のところ確かめられませんでした。
それでも、RTX 4090 1枚で 145B のモデルが毎秒70トークン近く出るなら、手元で試せる幅は広がります。OpenAI と同じ形の API で呼べるので、今使っている RAG（検索した文書を読ませて答えさせる仕組み）やエージェントの接続先を一時的にローカルへ向け、社外に出せないコードでの答えの質を比べられます。商用の道具に組みこむ前には、ライセンスの条件を先に確かめてください。
まとめ
Edge0-145B は Qwen3.8-Flash-Next を元にした 145B の MoE モデルで、出力1トークンあたり10.12Bだけを動かします。ブログは29GBやmacOSへの対応をうたっていますが、GitHub の資料では NVIDIA の GPU が必須で、実測のメモリは合わせて約54GiBでした。試す前に、GPU の世代・メモリ・ライセンスの3点を資料で確かめておくと、40GiB を超えるファイルを落としてから動かないとわかる失敗を防げます。
参考リンク
- Introducing Edge0-145B: Frontier AI Capabilities on Your Own Computer（Edge0）
- Edge0/Edge0-145B-NVFP4（Hugging Face）
- Edge0-145B の資料（GitHub）
- Edge0-AI/Edge0（GitHub）
- Hacker News のスレッド（Edge0-145B）
アイキャッチ画像: Photo by Mathew Schwartz on Unsplash
