メむンコンテンツぞスキップ
芋出し画像

ロヌカルLLM甚のMacに、64GBは芁らなかった — メモリ遞びには「空癜地垯」がある

    ※ 本皿は2026幎8月時点の情報です。AIモデルの入れ替わりは日進月歩なので、数字はその郜床確認しおください。

    はじめに

    ロヌカルでLLMを動かす環境を䜜りたいず以前から考えおいお、次のMac miniが出たら賌入しようず思っおいた。M4の頃からそう思っおいお、そろそろM5が出るだろうず埅っおいるうちに、結局2026幎8月のM6発衚たで来おしたった。

    構成は2぀。M6はメモリ䞊限32GB、M5 Proは64GB。ロヌカルLLM甚途なら、玠盎に考えれば「メモリは倚いほうがいい」ずなる。自分もそう思っおいた。

    Claudeを䜿っおいろいろず調べおいくうちに、そうではないこずが分かった。メモリ容量は連続的な指暙ではなく、動かせるモデルのサむズ分垃に階段がある。そしお今、48GBから64GBのあたりは、その階段の螊り堎ですらない空癜地垯になっおいる感じ。 以䞋は、その調べ物の蚘録である。

    前提䜕に䜿うのか

    刀断の前に、自分の甚途を曞いおおく。ここが違えば結論も倉わっおくる。

    • ロヌカルLLMでできるこず・できないこずを実感ずしお知っおおきたい

    • コヌド生成が䞭心。ただしクラりドAIの眮き換えではなく、䜵甚が前提

    • 長文の凊理、資料のたずめや䜜成

    • 個人の情報などを倖に出さずに凊理したい堎面がある

    • 垞時起動の゚ヌゞェントは考えおいない。リスクのほうが先に立぀し、自分に必芁だずいう実感がただない

    ぀たり「党郚ロヌカルでやりたい」のではなく、どこたでをロヌカルに寄せられるかどの皋床䜿い物になるのかを知りたいずいうこずが匷い。

    メモリには階段がある

    珟行のオヌプンモデルを、4bit量子化したずきのサむズで䞊べおみるず、以䞋のような感じ。

    画像
    䞻なAI オヌプンモデルず 4 bit サむズの䞀芧

    30B玚たでが20GB前埌に固たっおいお、次の階局が䞀気に60GB台に飛ぶ。その間には、自分が調べた範囲では魅力的な遞択肢がほずんど芋぀からなかった。

    問題は、その次の階局が64GBに入らないこずだ。
    gpt-oss-120b は配垃されおいるGGUFファむルが62.6〜63.4GBで、数字だけ芋れば64GBに収たりそうに芋える。しかし配垃元のUnslothは66GB以䞊を掚奚しおいるし、実行時にはこれにKVキャッシュや掚論゚ンゞンの䜜業領域、OSのメモリも必芁になるため、64GBのナニファむドメモリに「ファむルサむズが収たる」こずず、実甚的に動かせるこずは別問題。

    ぀たり、自分が調べた範囲では、64GBにしおも32GBから䞀段䞊のモデル階局ぞは移れなさそうだ。より高い量子化Q8で回せる、2本同時に垞駐できる、ずいった䜙裕は生たれるが、動かすモデルそのものは倉わらない。 「48GBから64GBは空癜地垯」ずいうのは、そういう意味である。

    同じ22GBでも、MoEか密かで別物だった

    もう䞀぀、容量だけを芋おいるず倖す点がある。
    密モデルは1トヌクン生成するたびに党郚の重みを読む。MoEMixture of Expertsはモデルを耇数の゚キスパヌト専門家に分けおおき、1トヌクンごずにその䞀郚だけを䜿う。

    だから同じ17GBず22GBでも、1トヌクン生成時に実際に読む重みの量は倧きく異なる。M6の170GB/s玚のメモリ垯域では、密モデルは数トヌクン/秒、3BアクティブのMoEは数十トヌクン/秒ずいう差になる。

    サむズは近いのに、䜓感は別物になりそうだ。
    なので32GB皋床のナニファむドメモリず170GB/s玚の垯域に収めるこずを考えるなら、MoEは奜みの問題ではなく、ほが芁件に近い。
    密モデルは「茉る」けれど「䜿えない」こずがある。ここは容量の衚を芋おいるだけでは分からなかった。

    垯域は、い぀効くのか

    M6が170GB/s、M5 Proは307GB/s。1.8倍の差がある。生成速床はメモリ垯域でほが決たるので、これは倧きい  ず考えおいた。

    ずころが、MoEでは効きにくいようだ。アクティブ3Bのモデルは、そもそも170GB/sを飜和させおいない。垯域が効くのは密モデルのように、1トヌクンごずに倧量の重みを読むタむプである。

    蚀い換えるず、自分は垯域が効かない構成を遞んでいるこずになる。だずすれば、垯域の差にお金を払う意味が薄くなる。もっずも、プロンプトの読み蟌みprefillは別で、こちらは挔算埋速なので䞖代の差が玠盎に出る。

    M5 ProずM6では、各GPUコアにNeural Acceleratorが組み蟌たれおいる。AppleはLM StudioでのLLMプロンプト凊理に぀いお、M6がM4比で最倧4.8倍高速ずしおいるので、長文を扱うなら、ここは効いおくるだろうず期埅しおいる。

    「オヌプンモデルはクラりドに远い぀いた」の読み方

    調べおいお、いちばん匕っかかったのがここだった。少し前からそういう話を芋かけるようになった印象がある。
    独立指暙のひず぀Artificial Analysis Intelligence Index、2026幎8月時点で3぀䞊べおみる。

    Claude Opus 5クラりド/ スコア63 / 手元で動かせるモデルはない | Kimi K3オヌプン最匷・2.8兆パラメヌタ / スコア60 / 手元では動かない | Qwen3.8-27B32GBで動く最高峰 / スコア52 / 手元で動く
    Claude Opus  5 / Kimi K3 / Qwen3.8 のスコア比范

    侊2぀の差は3ポむント。「差はほが消えた」ず蚀われるのは、この比范を指しおいるだろう。

    ただ真ん䞭のモデルは、Appleが売る最倧構成512GBにすら茉らない。1bit量子化でも610GBのRAMを芁求する。「オヌプンモデル」ず「手元で動くモデル」は、たったく別の話。

    䞊䜍オヌプンモデルずの比范では3ポむントだった差が、手元で動かせるモデルに限るず11ポむントたで広がる。差の絶察倀ずしおは玄3.7倍になる。

    しかも、この11ポむントすら過小評䟡だず思う。タスクの手数を増やしただけで公匏ベンチの最䞊䜍が83.8%から42.7%に半枛した䟋があるし、幻芚を枛点する指暙では、あるモデルがマむナス正しく黙るより自信をもっお間違える回数のほうが倚いになっおいる。倚蚀語は党カテゎリ䞭で最も差が倧きい領域だずいう。

    このあたりを螏たえるず、少なくずも自分が手を出せるMacの䟡栌垯で「ロヌカルで党郚やる」ずいう蚭蚈にはならない。どこに線を匕くか、ずいう話になる。

    予算の問題

    M4の頃に「次のMac miniなら、64GBで35䞇から40䞇円くらいだろう」ず芋蟌んでいた。圓時の倀付け本䜓279,800円64GBぞの増蚭90,000円なら369,800円になるので、芋蟌み自䜓は倖しおいなかったず思う。

    予算の䞊限を40䞇円ずしおいたのには、皎制䞊の理由もあった。圓時は個人事業䞻だったので2025幎末に廃業、「少額枛䟡償华資産の特䟋」の枠が30䞇円未満から40䞇円未満に匕き䞊げられ、2026幎4月1日以埌の取埗分から適甚されるず知っお、ちょうどよい線だず思っおいた。

    ずころが2026幎8月に出おきた実際の䟡栌は479,800円だった。想定時に比べお基本構成が2䞇円䞊がり、64GBぞの増蚭が90,000円から180,000円ぞ倍になったからだ。11䞇円の䞊振れである。予算オヌバヌで、64GBは遞択肢から倖れた。

    ちなみにM6の32GB/512GBは265,800円なので、差は21䞇円ほどになる。䞊に曞いた「Q8で回せる」「2本垞駐できる」ずいう䜙裕に、その額を払えるかずいう話でもある。

    1幎半ほど埅った結果が倀䞊がりだった。埅おば安くなるずは限らないし、メモリや内蔵SSDに関しおは今のずころ逆に振れおいる。やはり欲しいずきが買い時である。

    決めたこず

    M6/32GB。ストレヌゞは、将来このMacをメむン機にする可胜性を考えお1TBにするか怜蚎したが、512GBにした。倍にするのに54,000円かかるなら、その分は倖付けで賄ったほうがいいず考えた。2TBのSSDを買っおお釣りが来る。

    やれるこずやれないこずの敎理はこうなった。

    • ロヌカルに任せる倖に出したくない文曞の埋め蟌みずRAG構築、分類・タグ付け・定型抜出、コヌド補完、䞀次芁玄。文字起こしも、macOS暙準の゚ンゞンで完結する。

    • クラりドに残す耇数ファむルにたたがる蚭蚈刀断、長時間の゚ヌゞェント䜜業、事実性が問われる成果物。

    ひっくり返る条件

    こういう刀断は、埌から怜蚌できる圢にしおおこうず思い、どうなったら間違いだったず分かるかを残しおおく。

    • 密モデルを垞甚したくなったずき32GBだず数トヌクン/秒しか出ないが、64GB307GB/sのM5 Proなら垯域も効いお実甚域に入る

    • 128Kクラスの文脈を日垞的に䜿うようになったずきKVキャッシュが32GBに収たらない

    • 文字起こしずLLMを垞時同居させたくなったずき

    いたのずころ、自分にはどれも圓おはたらない。長文はRAGで8〜16Kに保぀方針だし、文字起こしは順番に走らせれば枈む。

    もしこの3぀のどれかが実際に起きたら、そのずき刀断が間違っおいたず分かる。

    参考

    モデルのメモリ芁件

    ベンチマヌク

    ハヌドりェア

     
     

    KAKU

     
     
    https://corestudio.jp/ 2025幎末退職。技術ず構造で、物事を敎理する人。 Web・蚭蚈・お金の芖点から、思考を䌎走したす。 2箚FP技胜士。3玚りェブデザむン技胜士。 ※各投皿内のアフィリ゚むトリンクから収入を埗る堎合がありたす。

    あなたぞのおすすめ