メインコンテンツへスキップ
見出し画像

Mac mini(M4・16GB)でローカルLLMを動かしてみた ― 外付けSSD運用とQwen3.5選びの記録

    ※この記事は広告(Amazonアソシエイト)を含みます

    はじめに ― なぜローカルLLMなのか

    普段の文章作成や要約には、クラウドのAIサービスを使っていました。ただ、要約したい文章の中には、外のサービスにそのまま貼るのをためらうものもあります。

    そこで、Mac miniの中で完結する「ローカルLLM」を試してみることにしました。データが外に出ないこと、月額料金がかからないことが魅力です。

    結論から言うと、Mac mini(M4・メモリ16GB)でも、文章作成と要約の相方としては十分に使える環境が作れました。この記事では、導入の手順と、実際にやってみて分かったことを記録します。

    環境

    • 本体:Mac mini(Apple M4、メモリ16GB)

    • 保存先:外付けM.2 SSD(NVMe)

    • ツール:LM Studio

    • モデル:Qwen3.5-9B(MLX・4bit、5.98GB)

    ローカルLLMは「モデル」という大きなファイル(今回は約6GB)を読み込んで動かします。読み込み先は内蔵SSDでなくても構いません。計算そのものは本体のチップとメモリで行うので、外付けSSDに置いても速度への影響は主に「読み込み時間」だけです。

    手順1:LM Studioを入れて、保存先を外付けSSDに変える

    LM Studioは、モデルを探してダウンロードし、チャット形式で使うまでを画面操作で完結できるツールです。アプリ本体は普通にインストールします。

    つまずいたのはモデルの保存先です。最初、ダウンロード先の選択肢が「このデバイス」しかなく、このままだとモデルが内蔵SSDに入ってしまいます。

    調べると、ライブラリの「マイモデル」画面から、モデルの保存フォルダを変更できました。外付けSSD側のフォルダを指定してからダウンロードしたところ、無事に外付け側へ保存されました。

    画像
    マイモデル画面(保存フォルダが /Volumes/M.2 SSD になっている)

    内蔵SSDの容量を空けておきたい人は、ダウンロードの「前」に保存先を変えておくのがおすすめです。

    手順2:モデル選び ― 候補の中からQwen3.5-9Bにした理由

    モデル検索の画面には、スタッフおすすめの候補がいくつも並びます。私が見た時点では、Bonsai 27B、Gemma 4の各サイズ、Nemotron 3 Nano 4B、Qwen3.5 9B、Lfm2 24B A2B などが並んでいました。

    画像
    モデル検索画面(候補一覧とQwen3.5 9Bの詳細)

    選ぶ基準にしたのは、パラメータ数(モデルの大きさ)の大きさ比べではなく、用途との相性です。

    • 私の用途は日本語の文章作成と要約が中心

    • メモリ16GBに無理なく収まるサイズであること

    • 日本語の扱いが安定している系列であること

    この条件で選んだのが、AlibabaのQwenチームが出している Qwen3.5-9B です。Qwen公式の配布(qwen/qwen3.5-9b)で、形式はApple Silicon向けのMLX、4bit版を選びました。容量は5.98GBでした。

    Qwen3.5-9Bは、9Bパラメータのモデルで、標準で262,144トークンの長いコンテキストに対応し、画像認識や思考(推論)モードも備えています。ライセンスはApache 2.0で公開されています。

    手順3:最初のチャット ― 自己紹介で「Bionic」と名乗られた

    ダウンロードが終わり、モデルを読み込んで、まず自己紹介を頼んでみました。

    返ってきたのは「こんにちは!私(Bionic)は、LM Studioで利用可能な高度なAIエージェントです」という自己紹介でした。

    画像
    最初のチャットの自己紹介

    モデル名はQwen3.5-9Bのはずなのに、名乗りはBionic。少し戸惑いましたが、どうやらLM Studio側のエージェント機能が名乗っているものらしく、実際に読み込まれているモデルは画面表示どおりQwen3.5-9Bでした。「モデルの名前は、モデル自身の自己紹介ではなく画面の表示で確認する」という、小さな学びです。

    もう1つ気づいたのは所要時間です。この自己紹介には1分4秒かかっていました。思考モードでじっくり考えてから答えるため、短い質問でも時間がかかることがあります。これは後述する弱点にもつながります。

    手順4:設定は「自動」で済んだ

    モデルの設定画面を開くと、「Automatic Context Sizing」という項目がオンになっていて、「RECOMMENDED」の表示がありました。コンテキスト長(Context Length)も「AUTO」です。

    画像
    モデルのデフォルト設定(Automatic Context Sizing)
    • Automatic Context Sizing:メモリ量に合わせて、扱える文章量(コンテキスト長)を自動で決めてくれる機能

    • パフォーマンスも推奨(recommended)設定が自動で当たっていました

    ネットの記事では「GPUオフロードを最大にして、メモリ使用量の見積もりが総メモリの2/3くらいになるまでコンテキスト長を増やす」という手動調整の手順も見かけました。今のLM Studioでは、その調整を自動でやってくれているようです。まずは自動のまま使うことにしました。

    手動で調整する場合の目安だけ書いておくと、16GBの機種ならメモリ使用量の見積もりが10〜11GB程度までに収めるのが安全ラインです。

    実験:要約させてみた

    文章と要約が用途の中心なので、試しにQwen3.5-4Bについて書かれた文章を渡して、要約を2パターン頼んでみました。

    1回目:「次の文章を要約して」
    要点の整理はしっかりしていて、特徴・推奨判断・弱点と対策・結論という構造で返ってきました。原文の主張(4Bは9Bの下位互換ではない、使い分けの関係)も落とさず拾えていて、この用途なら実用レベルだと感じました。

    2回目:「200字に要約して」
    こちらは正直な結果で、200字には収まりませんでした。見出しと箇条書き付きで、短いまとめ記事のような出力になり、所要時間は14秒でした。

    画像
    200字要約の結果

    ローカルモデルは、文字数を数えるのがあまり得意ではないようです。文字数を守らせたいときは、

    • 「200字以内」だけでなく「見出し・箇条書きなし、本文のみ、3文で」のように文の数で縛る

    • 超えたら「半分に」と続けて指示する

    といった頼み方の工夫が要ります。逆に、文字数が緩い「要点を整理して」型の要約は、そのまま使える出来でした。

    弱点として知られているハルシネーション(もっともらしい誤り)についても、モデルの知識だけで答えさせるより、根拠にしたい資料を一緒に渡して、その範囲で要約・整理させる運用が安全だと感じています。

    まとめ ― 16GBでも「文章と要約の相方」にはなる

    • Mac mini M4・16GBでも、Qwen3.5-9B(MLX・4bit)なら無理なく動いた

    • モデルは外付けSSDに置けるので、内蔵SSDの容量を圧迫しない

    • 保存先の変更は、ダウンロードの前に済ませておくのがコツ

    • 設定は Automatic Context Sizing と推奨設定のままで、まず問題なかった

    • 要約の要点整理は実用レベル。ただし文字数の厳密な指定は苦手で、頼み方に工夫が要る

    • 思考モードのぶん、短い質問でも時間がかかることがある

    劇的に賢いアシスタントが手に入る、という話ではありません。ただ、下書きや要約といった「量のある作業」を、データを外に出さずに回せる相方が1台増えた感覚です。

    今後は、放送大学の学習の整理や、このnoteの記事の下書きにも使っていくつもりです。学習計画の作り方については、有料記事「仕事と家事をしながら放送大学を卒業する、科目選びと学習計画の作り方」にまとめていますので、よければそちらもどうぞ。

    ※この記事の数値や表示は、2026年10月時点の私の環境での結果です。LM Studioやモデルのバージョンによって画面や挙動は変わります。

    パーソナルAIエージェント「Muse」をチェックしてみよう。参加後48時間以内に[設定]で私のコードを利用すると、私たち両方が10億のMuseトークンを獲得できます。

    コード: Y87375



     
     
    学びに「今さら」はないと思っています。 自分のペースで新しい知識を積み重ねていく—— まさに「階段をのぼる」ような感覚で、 このチャレンジを楽しみたいと思っています。 ✳︎Amazonアソシエイト 楽天アフェリエイト参加中

    あなたへのおすすめ