メインコンテンツへスキップ
見出し画像

RTX SparkとMac Studioの比較

    NVIDIA RTX Sparkが発売されて話題になっていました。
    ローカルAIを使う場合、新しいMac Studioを買った方が良いと思いました。

    DGX Sparkを持っている人が、次に買うべきパソコンをAIで検討してみました。
    (以下はClaudeに書いてもらったまとめ記事です。)

    画像

    ローカルLLM用ハードの選び方:RTX Spark、Mac Studio、DGX Stationをコスパで比較

    NVIDIAのRTX Sparkが発売されたので、買うべきかどうかを調べました。
    そこから「大きなOSS LLMを動かすなら、どのハードがコスパに優れているか」という話に広がったので、要点をまとめます。

    価格や仕様は報道に基づいており、今後変わる可能性があります。

    結論

    • すでにDGX Sparkを持っているなら、RTX Sparkを買い足す理由はほとんどありません。

    • これから購入する人にとっては、RTX Sparkの携帯性が魅力です。DGX Sparkの代わりとして選ぶ価値があります。

    • ただし、OSS LLMを本格的に使いたい人は、約125万円のRTX Spark(128GB)に予算を上乗せして、Mac Studio 256GB(約167万円)を検討する価値があります。さらに512GBモデルも選択肢に入ります。

    • GLM-5.3の性能を評価するだけなら、まずAWSなどのAPIで試すのが現実的です。

    1. RTX Sparkは必要か

    RTX Sparkは、Windows on Arm向けのNVIDIAのチップです。

    • 最上位構成は、20コアのArm CPU、6,144コアのBlackwell GPU、最大128GBのユニファイドメモリを搭載しています。

    • 128GBモデルの例として、ASUS ProArt P16が約124.8万円です。

    • 中身はDGX Sparkと同じ系統です。メモリ帯域もDGX Sparkが約273GB/s、RTX Sparkが約300GB/sと報じられており、LLMの生成速度に大きな差は期待できません。

    • Windows on Armなので、アプリの互換性には注意が必要です。BlenderのWindows on Arm版はCUDAに対応しておらず、レビュー記事ではx64版を使う回避策が必要でした。

    すでにDGX Sparkで足りているなら、RTX Sparkを買い足す理由は見つかりませんでした。

    一方、これから購入する人にとっては、128GBのメモリを搭載した環境を持ち運べるノートPCという点に価値があります。
    出先でデモを行う人や、WindowsアプリとローカルAIを1台にまとめたい人に向いています。

    2. 予算を足すなら、Mac Studioのコスパが気になる

    LLMの生成速度は、メモリ帯域に左右されます。
    また、MoEモデルは実際に動くパラメータが少ないため、モデル全体が巨大でも高速に動かせます。

    ここでは、メモリ容量・帯域・価格の3つの観点から比較します。

    メモリ1GBあたりの価格(試算)

    • RTX Spark 128GB(ASUS ProArt P16、約124.8万円):約9,750円/GB

    • DGX Spark 128GB(国内実売を約100万円と仮定):約7,800円/GB

    • Mac Studio M5 Ultra 256GB(64コアGPU、約167万円):約6,500円/GB

    • Mac Studio M5 Ultra 512GB(価格未発表、256GBの価格差を直線的に延長した約306万円の試算):約6,000円/GB

    512GBモデルの価格はまだ発表されていないため、あくまで試算です。
    Appleが上位のメモリ構成を割高に設定すれば、価格はさらに上振れします。

    メモリ帯域

    • DGX Spark:約273GB/s

    • RTX Spark:約300GB/s(報道値)

    • Mac Studio(M5 Ultra):1.2TB/s

    Mac Studioのメモリ帯域は、DGX Sparkの約4.4倍です。

    どのサイズのモデルが載るか(4bit量子化の目安)

    • 128GB:120B級のMoEモデル(例:GPT-OSS-120Bの重みは約60GB)

    • 256GB:235B級のモデル(重みは約120GB)

    • 512GB:400B級のモデル(重みは約200GB)や、GLM-5.3の4bit版(約419GB、ギリギリ)

    • 816B級:512GBモデルでも1台には載らず、2台での運用が前提になります。

    注意点

    • MacではCUDAが使えません。Windowsアプリも使えません。

    • 512GB構成を選べるのは、80コアGPUモデルだけです。LLMの生成速度は主にメモリ帯域で決まるため、64コアと80コアの違いはあまり影響しません。一方、長い入力の処理や画像生成では、GPUコア数が効いてきます。

    • モデルがメモリに収まることと、快適に動くことは別です。

    判断の目安

    • 120B級で足りる → RTX Spark(またはDGX Spark)で十分です。

    • 200B級を試したい → Mac Studio 256GBが有力です。

    • 400B級やGLM-5.3の4bit版を1台で動かしたい → Mac Studio 512GBの価格を見て判断します。

    OSS LLMの必要性を感じている人ほど、まず「使いたいモデルがメモリに収まるか」を考えると、無駄のない買い方ができます。

    3. DGX Station GB300はどうか

    DGX Station GB300は、748GBのメモリを搭載したデスクサイド型のAIスーパーコンピュータです。

    • 748GBの内訳は、高速なHBM3eが252GB(7.1TB/s)、LPDDR5Xが496GB(396GB/s)です。748GBすべてが高速なメモリというわけではありません。

    • 価格は、海外の掲載例で約9.5万ドル(約1,400万円台)からです。

    • 巨大なモデルを1台に載せるという点では、Mac Studioのほうがコスパは良さそうです。

    • ただし、CUDAを使った学習や、多人数での高スループットな推論となると話は別です。単純に比較することはできません。

    4. ローカルAIを使いたい理由はさまざま

    ローカルAIを使いたい理由は、人によって異なります。

    • 機密情報を外部に出したくない

    • クラウドの利用料を気にせず試したい

    • モデルを自由にいじりたい

    中には、エアギャップ(ネットワークから隔離した環境)でAIを使いたい企業もあるようです。

    エアギャップ環境は、安全上の理由からその存在自体が非公開になりやすく、公開情報はほとんどありません。

    金融分野では、FISC安全対策基準の第14版(2026年3月)に生成AIの安全対策が盛り込まれたことが、背景の一つとして確認できました。

    5. GLM-5.3を動かしてみたい

    GLM-5.3は、総パラメータ数753B、1トークンあたり約40Bのパラメータが動くMoEモデルです。

    • 公式の重みはFP8で約756GBです。BF16版は別のリポジトリで公開されており、約1.5TBあります。

    • 4bitのMLX版は約419GBで、512GBのMacにギリギリ収まります。ただし、コミュニティ製の変換モデルであり、専用のコードが必要です。標準のmlx-lmをそのまま使うと、長い文脈で品質が落ちる問題がありました。

    • ライセンスは独自の「glm-5.3」で、MITではありません。一方、軽量版のGLM-5.3-FlashはMITライセンスです。

    性能を評価するだけなら、AWSでも試せる

    GLM-5.3は、Amazon Bedrockでも提供されています。

    • 料金は100万トークンあたり入力1.68ドル、出力5.28ドル(Global CRIS)で、数百円から数千円で品質を確認できます。

    • FP8版を自前で動かす場合は、H200を8枚程度搭載したGPUサーバーを借りる方法があります。H200の利用料金の中央値は約5.7ドル/GPU時(10月上旬)なので、8枚なら約46ドル/時です。

    エアギャップ環境で動かしたい場合、外部のサーバーでは目的を達成できません。
    ただし、性能を評価するだけなら、一時的にAWSを利用しても問題ありません。

    まとめ

    • RTX Sparkは、すでにDGX Sparkを持っているなら不要です。
      これから購入する場合は、携帯性が選ぶ理由になります。

    • OSS LLMを本格的に動かしたい人は、約125万円のRTX Sparkに予算を上乗せして、Mac Studio 256GB(約167万円)を検討する価値があります。
      512GBモデルについては、発売後の価格を確認してから判断します。

    • GLM-5.3は、まずAPIで性能を確認し、ローカルで動かす価値があるかを見極めます。

    ローカルAIの面白さは、性能競争だけではないと思います。

    使いたいモデルに合わせて、無駄なくハードを選ぶことも、楽しみの一つです。

    参考資料






     
     
    2026年 #AIチャレンジ ・AIを活用して月収100万円を目指してみます。 ・1年で90日×4回の試行錯誤をしてみます。

    あなたへのおすすめ