米国のAI企業Reflectionが、オープンウェイトのモデル「Beam」を発表しました。総パラメータは5,010億で、実際の推論で動くのは230億です。同社は、先進的な推論ベンチマークで中国の主要オープンモデルに並びつつ、推論に使う計算量は3〜4分の1で済むと主張しています。ただし、この性能は独立した検証を受けていません。TechCrunchの報道を元に整理します。
背景と文脈
オープンウェイトとは、学習済みモデルの重みを公開し、誰でもダウンロードして動かせる形式のことです。ここ数年、高性能なオープンモデルでは中国勢が存在感を高めてきました。
Reflectionは2024年に創業した、ニューヨーク・ブルックリンの企業です。創業者は元Google DeepMindの研究者で、これまでの調達総額は約47億ドルに上ります。前回の評価額は250億ドル（投資前）で、Nvidia、Sequoia Capital、Lightspeed Venture Partnersなどが支援しています。
計算資源の確保も進んでいます。SpaceXとNebiusとの間で、2029年までに70億ドル超の計算資源契約を結び、NvidiaのGB300チップを使えるようにしました。
米国発のオープンウェイトモデルは、中国勢に比べて数が限られています。政府や企業の中には、データの扱いの観点から、中国発のモデルを避けたい層がいます。その受け皿を狙えることが、Reflectionの事業の前提です。
技術/ビジネス面
Beamは、Mixture of Experts（MoE：複数の小さな専門モデルに処理を分担させ、入力ごとに必要な部分だけを動かす仕組み）の構成です。総パラメータ5,010億のうち、1回の処理で動くのは230億に限られます。このため、モデル全体の知識量を保ちつつ、推論の計算コストを抑えやすくなります。
訓練には23.8兆トークンのデータを使いました。トークンとは、モデルが文章を処理する際の最小単位です。文脈の長さを示すコンテキストウィンドウは100万トークンで、長い資料や大きなコードベースを一度に読み込ませられます。テキスト専用で、画像は扱いません。
訓練手法は、計算量の大きい強化学習（モデルに試行させ、結果の良し悪しで挙動を磨く方法）です。報道では、推論ベンチマークで中国の主要オープンモデルに匹敵し、推論の計算量は3〜4倍少ないとされています。
この数字は、現時点では同社の主張にとどまります。重みと技術詳細は10月中に、大手クラウド事業者とオープンソースのライブラリ経由で公開される予定で、そこで外部の検証が可能になります。
事業面では、企業や国家向けに「AIファクトリー」を売る構想です。顧客固有のデータで訓練した、専用のAIシステムを指します。韓国のShinsegae Groupが、初期の試験パートナーです。
MoEの利点と注意点は、表裏一体です。動く部分が小さいので計算は速くなりますが、全パラメータをメモリに置く必要があるため、必要なGPUメモリは総パラメータで決まります。「軽い」という言葉は、計算量の話で、メモリの話ではない点に注意が必要です。
強化学習に計算を多く割く方針は、推論の質を上げる流れの一つです。推論時の計算を抑えたまま精度を上げる狙いがあり、運用コストに直結します。
これからどうなるか
焦点は、10月中に予定される重みの公開です。第三者が同じベンチマークで再現できれば、「米国発の高性能オープンモデル」という位置づけが固まります。再現できなければ、数字の読み方に注意が必要になります。
開発者の視点では、稼働パラメータが230億という点が実用上の鍵です。メモリには全パラメータを載せる必要があるため、手元の1枚のGPUでは動かせない可能性が高いものの、推論1回あたりの計算量は小さくなります。自前でモデルをホスティングする場合、トークン単価の試算が変わりえます。
100万トークンの文脈に対応するため、長いログやコードベース全体を読ませる用途の検討材料にもなります。重みの公開後は、まず自分たちの評価用タスクで、既存のモデルと並べて試すのが近道です。
企業や国家向けの専用AIという事業モデルが広がるかも、あわせて見ておきたい点です。
まとめ
ReflectionのBeamは、総5,010億、稼働230億のMoEで、推論の計算量は3〜4分の1と主張します。真価は10月中の重み公開後に、第三者の検証で決まります。まずは公開を待ち、自分のタスクで比較するのが堅実です。
