メインコンテンツへスキップ
見出し画像

GLM-5.2がFable 5と互角と話題。でもローカルで動かすには最低223GB必要だった

    「オープンウェイトのGLM-5.2が、Design ArenaでほぼFable 5と互角だった」という評価がRedditで話題になっています。MITクラスのオープンモデルが商用最上位に肉薄したとなれば、「これでローカルで動かせるなら最高では?」と思いますよね。

    でも、実際に動かすのに必要なスペックを調べたら、話が変わりました。この記事では、GLM-5.2が何者なのか、本当にローカルで動くのか、必要なメモリを量子化別に計算して、現実的な選択肢まで整理します。

    この記事でわかること:

    • GLM-5.2が話題になっている理由

    • ローカル実行に必要なメモリを量子化別に計算した結果

    • Macで本当に動くのか、現実的なラインはどこか

    • 「ローカルで動く」という言葉に騙されないための見方

    第1章: GLM-5.2が話題になっている理由

    GLM-5.2は、744Bパラメータ(うちアクティブ40B)のMoE(Mixture of Experts)モデルです。コンテキストウィンドウは約100万トークン(1,048,576)と長大です。

    話題の火種は2つあります。

    ひとつは、HackerNewsでUnsloth公式の「ローカル実行ガイド」が427ポイントを集めたこと。もうひとつは、Reddit(r/LocalLLaMA)で実際にプロジェクトに使ったユーザーが「Design Arenaではほぼ全カテゴリでFableに肉薄した」と報告したことです。

    ベンチマーク上の数字も派手で、SWE-Bench Proで62.1%、AIME 2026で99.2%、GPQA-Diamondで91.2%と公開されています。これだけ見ると、「オープンウェイトがついに最上位商用モデルに並んだ」と盛り上がるのも分かります。

    ただ、ここで多くの人が引っかかるのが「アクティブ40Bだからローカルで軽く動くのでは?」という期待です。MoEは推論時に一部のエキスパートしか使わないので、計算量は40B相当。でも、メモリに載せるのは744B全部です。ここが落とし穴でした。

    第2章: 必要メモリを量子化別に計算してみた

    Unslothのドキュメントには、量子化のタイプごとに必要なメモリ(RAM + VRAMの合計)が載っています。これがなかなかの数字です。

     
     
    AI×開発の実験日記。Claude / Ollama / MLX を Mac で動かしたり自動化したり。SaaS勤務の30代、本業の合間に検証してnoteに書いてます。たまにやりすぎて寝不足。

    あなたへのおすすめ