Nvidia、Nemotron 3.5公開 74Bを24GBで動かす

Nvidiaが、AIエージェント向けの新しいオープンウェイトモデル群「Nemotron 3.5」を発表しました。データセンター向けの120B（1,200億パラメータ）モデル「Super VL」と、手元のPCで動かす「Bolt」2種の構成です。Boltの大型版は74Bのモデルを2ビット化し、24GBのメモリに収めています。クラウドに頼らず、自社やPCの中でエージェントを動かしたい需要に向けた動きです。

背景と文脈
技術/ビジネス面
これからどうなるか
まとめ
参考リンク

背景と文脈

Nemotronは、Nvidiaが自社で開発・公開している言語モデルのシリーズです。オープンウェイト（モデルの重み＝学習済みの数値データを公開し、誰でもダウンロードして動かせる形式）で配布しており、推論、コーディング、数学、業務の自動化などの用途を広げてきました。今回の3.5は、その中でもAIエージェント（目標を与えると、ツールを呼び出しながら複数の手順を自分で進めるAI）に的を絞った世代です。

背景には、Nvidiaの顧客側の変化があります。TechCrunchの報道によると、AnthropicやOpenAIといった最先端の開発元は、AWSのTrainiumやCerebrasなど他社のチップ、さらに自社チップへと調達先を広げています。モデルを自社で用意し、自社のGPUで最も速く動く形で配るのは、Nvidiaにとってハードウェアの需要を支える手段にもなります。

もう一つの流れは、データを外に出したくない利用者の増加です。企業は顧客情報や社内文書をクラウドのAIに送ることに慎重です。個人でも、私的なデータをクラウドの助手に預けることへの抵抗は根強くあります。Nvidiaのオープンモデル担当VP、Kari Briski氏は、PCの利用者が作業を「クラウドに送らずに」任せられる点を強調しています。

技術/ビジネス面

A Mac computer, keyboard and mouse on a desk with a plant — Photo by Kelly Brito on Unsplash

中心となるのはNemotron 3.5 Super VLです。総パラメータは120Bで、配布名の「120B-A12B」からは、1回の処理で実際に動くのは約12Bとみられます。これはMoE（Mixture of Experts：内部を複数の専門部分に分け、入力ごとに必要な部分だけ動かす仕組み）系の設計でよく見られる表記です。画像も読めるモデルで、OCR（画像内の文字の読み取り）、表、グラフ、Webページ、PDFを扱えます。

学習の規模も公開されています。事前学習と追加の事前学習に約26兆トークンを使いました。その後、約380万件のデータでの調整と、数十種類の環境での強化学習（試行と報酬で振る舞いを鍛える学習）を行っています。Nvidiaは、同クラスの他モデルより最大5倍速く処理でき、精度は自社最大の推論モデルNemotron 3 Ultraに約5分の1のサイズで並ぶと説明しています。特定の業務向けに追加学習すれば、Claude Opus 5やGPT 6.1系より速くこなせるとも主張しています。ただし、いずれも同社の自己申告です。

手元向けのBolt 74B-A9B 24GBは、総74B・稼働9Bのモデルです。最初から2ビットの量子化（数値の精度を落としてモデルを小さく軽くする手法）を前提に作り、24GBのメモリに収めました。複数手順の推論、ツール呼び出し、Web閲覧をこなす設計です。BrowseComp（Webを探し回って見つけにくい情報にたどり着く力を測るベンチマーク）では、オープンモデルの中で2位としています。最小のBolt E4B 4GBは会話や小型機器向けで、10月23日に公開予定です。

配布先は幅広く、Super VLはHugging Face、OpenRouter、ModelScopeに加え、Nvidiaの推論用パッケージNIMでも使えます。Bolt 74BはHugging Faceで公開され、llama.cpp、Ollama、LM Studio、vLLMなどの定番ツールに対応します。採用企業としてEY、Ramp、CrowdStrike、Perplexity、Salesforceなどが挙がっています。重みに加えて学習データとレシピも公開すると明記しています。

これからどうなるか

注目点は、オープンモデルが「エージェント専用」に細分化し始めたことです。汎用の会話性能ではなく、ツール呼び出しの正確さや処理の速さで勝負する流れが、Nvidiaの参入ではっきりしてきました。社内データで追加学習し、自社の設備で動かせる点も、規制の厳しい業界には効きます。

一方で、確かめるべき点も残ります。ライセンスの条件は発表の中で明示されていません。他社モデルより速いという比較も、Nvidia自身の測定です。導入を考えるなら、自社の業務データで小さく試し、精度と速度を自分で測るのが確実でしょう。

開発者にとっての変化は、24GBのGPUを積んだPCで、ツール呼び出しやWeb閲覧ができる大型モデルを試せることです。Ollamaで手元のエージェントを組めば、APIの従量課金を気にせず検証を回せます。社外に出せないデータを扱うRAG（Retrieval-Augmented Generation、検索拡張生成：外部文書を検索して回答に使う手法）の試作にも向いています。