パリ発のAIスタートアップZMLが、オープンソースの大規模言語モデル(LLM)をNvidia・AMD・Google TPU・Apple Metal・Intel Arcという5系統のチップ横断で動かせる推論サーバー「ZML/LLMD」を無償公開しました。特定の半導体ベンダーに縛られずにAI基盤を組めるようにする狙いです。
背景と文脈
ZMLを創業したのは、位置情報アプリZenly(2017年にSnapchatへ9桁ドル規模で買収)の元エンジニアリング担当VP、スティーブ・モラン氏です。ZMLはもともと2024年にオープンソースの機械学習フレームワークを公開しており、今回のLLMDはそれに続く新製品にあたります。フレームワーク自体は非公開のまま、無償ソフトとして提供する形を選びました。
背景には、AI推論を支えるハードウェアの選択肢がNvidia GPU一辺倒ではなくなりつつある事情があります。AMDやGoogleのTPU、Apple製チップなど複数の選択肢が実用段階に入る一方、それぞれ専用の最適化作業が必要で、企業は特定ベンダーに依存しがちでした。この状態は「ベンダーロックイン」と呼ばれ、一度特定のハードウェアに合わせてシステムを組むと、別のチップに乗り換えるコストが高くつく問題として知られています。
チームはわずか20人という少人数体制ながら、今後も追加リリースを計画しているといいます。
技術/ビジネス面
LLMDは、同じオープンソースLLMを異なるチップ上で動かす際に、それぞれのハードウェアが持つ最大限の速度、場合によってはそれ以上の速度を引き出せるよう最適化する仕組みです。「推論サーバー」とは、学習済みのモデルをネットワーク越しに呼び出せる形で常時稼働させ、リクエストに応じて回答を返す仕組みを指します。モラン氏は「自分たちのシステムを自分たちで組み立て、実質的な効率向上を実現する力をユーザーの手に取り戻すことが狙いだ」と説明しています。
資金面では、著名投資家Harry Stebbings氏の20VCやXavier Niel氏のKima Venturesなどから2000万ドルを調達済みです。出資者にはYann LeCun氏(Meta AI)、Docker創業者のSolomon Hykes氏、Hugging FaceのClément Delangue氏・Julien Chaumond氏といったAI・インフラ業界の著名人も名を連ねており、技術的な信頼性を裏付けています。
これからどうなるか
複数チップに対応する推論基盤が実用段階に入れば、企業はGPU調達の逼迫や価格変動のたびにインフラ構成を作り直す必要がなくなります。ベンダーロックインの解消は、AI活用のコスト構造そのものに影響を与えるテーマです。
これまでもオープンソースの推論サーバーは複数存在してきましたが、対応チップの幅広さと無償という条件を両立させた点がLLMDの特徴です。今後、他のインフラ企業が追随して同様の横断対応を進めるかどうかも注目されます。
自前でLLMを運用する開発者にとって、LLMDのようなツールは「今使っているGPUクラスタが将来別のチップに置き換わっても、推論サーバー側の書き換えを最小限にできる」という実務的なメリットに直結します。無償公開されている点も、まず試してみるハードルを下げています。
まとめ
ZMLはLLMDの無償公開によって、AI推論のマルチチップ対応という課題に一石を投じました。20人という小さなチームが著名投資家の後押しを受けて放った一手だけに、Nvidia以外のハードウェアが広がる中でこうした横断的な基盤ソフトの重要性は増していきそうです。
参考リンク
アイキャッチ画像: Photo by Jantine Doornbos on Unsplash
