System76、Thelio Mira AI発表 GPU192GB

Linux専業メーカーのSystem76が、ローカル環境でAIモデルを動かすことに特化したデスクトップ「Thelio Mira AI」を発表しました。最小構成は3299ドルからで、上位構成ではGPUメモリを最大192GBまで積める点が最大の特徴です。クラウドのAPI利用料を気にせず手元でAIモデルを動かしたい開発者にとって、選択肢が1つ増えた形です。

背景と文脈
技術/ビジネス面
これからどうなるか
まとめ
参考リンク

背景と文脈

大規模言語モデル(LLM)をクラウド経由ではなく自分のマシンで動かす「ローカルLLM」への関心は、ここ数年で着実に高まってきました。プライバシーを守りたい、API料金を抑えたい、ネットワーク越しの遅延をなくしたいといった動機に加え、オープンウェイトモデル(重み情報が公開され誰でもダウンロードして動かせるモデル)の性能向上も後押ししています。ただし、こうしたモデルを快適に動かすにはGPUメモリの容量がボトルネックになりがちで、一般的なコンシューマー向けGPUでは大型モデルをそのまま載せきれないケースが少なくありません。System76はこの課題に対して、コンシューマー向けのデスクトップサイズの筐体に、通常はデータセンター向けとされる大容量GPUメモリを詰め込むという形で応えました。System76はUbuntuベースの自社Linuxディストリビューション「Pop!_OS」を軸にハードウェアとソフトウェアを一体で提供してきたメーカーで、AI開発者向けのマシンを手掛けるのは今回が初めてではありません。今回のThelio Mira AIは、その中でも特にGPUメモリ容量を前面に押し出したラインアップという位置づけです。

技術/ビジネス面

回路基板のクローズアップ — Photo by Mathew Schwartz on Unsplash

Thelio Mira AIの基本構成はAMD Ryzen 7 9700X、Nvidia A400 GPU、メモリ64GB、1TBのM.2 SSDです。ここからCPUをRyzen 9 9900XやRyzen 9 9950Xにアップグレードでき、GPUもNvidia RTX PRO 4000/5000/6000シリーズやAMDのRadeon AI PRO R9700まで選べます。最上位構成では、96GBのECCメモリ(誤り訂正機能付きメモリ)を積んだRTX PRO 6000 Blackwellを2枚搭載し、合計192GBのGPUメモリを実現します。この構成にすると追加費用だけで37239ドルに達し、総額はかなりの高額になりますが、従来はサーバールーム向けだった容量のGPUメモリを1台のデスクトップに収めたこと自体が話題です。メインメモリも最大192GBまで拡張可能で、ストレージはM.2 SSD2基と2.5インチドライブ2基を組み合わせて最大16TBまで積めます。マザーボードはPCIe 5.0のx16スロットを2本備え、x8/x8構成でのマルチGPU運用にも対応しています。

これからどうなるか

クラウドのGPUインスタンスは従量課金のため、長時間の学習やファインチューニング(既存モデルに手元のデータを追加学習させて用途に合わせる作業)を繰り返す開発者にとっては、初期投資こそ大きいもののオンプレミス機材のほうが総コストで有利になる場面があります。特に、機密データを外部に出せない企業や研究機関にとっては、ローカルで完結する選択肢自体に価値があります。一方で、最上位構成の価格はハイエンドのサーバー機材に匹敵する水準であり、個人開発者が気軽に手を出せる金額ではありません。当面はスタートアップの研究チームや、AIを使ったプロダクト開発を行う中小企業のオンプレ需要が主な買い手になりそうです。最小構成の3299ドル前後であれば、7B〜13B程度の比較的軽量なオープンウェイトモデルを快適に動かす個人開発者向けマシンとしても現実的な選択肢になり得ます。用途に応じてGPUとメモリを段階的に選べる構成の幅広さも、このシリーズの強みといえるでしょう。