メインコンテンツへスキップ
見出し画像

第1回: M1 Mac 16GBにローカルAIを入れてみる

    軽量で動かせる、ローカルでも動かせるAIが次々と出てきているじゃないですか。自分のPCで使えるかやってみたくなっちゃうじゃないですか。

    「AIを自分のMacで動かすって、ものすごいスペックが必要なんじゃないの?」

    今日はそんな疑問をお持ちの方のための

    Qwen3-8B-MLX-4bit を M1 Mac メモリ16GB に入れてみた

    という回です。

    私が使っているのは、M1チップを搭載したMacBook Air。メモリは16GBです。最新のMacではありません。

    今回使うのは、 #Alibaba Cloudが開発している #Qwen3-8B です。

    8Bというのは、おおざっぱに言えば「80億パラメータ」のモデルという意味です。

    ChatGPTのような巨大なクラウドAIとは規模が違いますが、その分、自分のパソコンでも動かせます。

    しかも今回は、MacのApple Siliconに適したMLXという仕組みを使います。

    このAI、コード作成できます。 #Claude や #Codex のトークンを消費することなく、ローカルでコードが書けます。素晴らしい話です。

    すっごい簡単にできるので、さくっと説明していきます。

    今回の作業では #Python を使います。

    ただし、Macに入っているPythonを直接いじるのではなく、Qwen専用の「仮想環境」を作ります。仮想環境というのは、簡単に言えば、

    「このAI専用のPython環境を別に作ってしまおう」

    というものです。

    Pythonのバージョンが古かったら

    ここで、

    python3 --version

    を実行してみてください。例えば、

    Python 3.11.9

    のように表示されれば問題ありません。ところが、Macの環境によっては、

    Python 3.9.x

    など、少し古いバージョンが入っていることがあります。その場合、

    python3 -m venv ~/qwen-env

    を実行しても、あとでMLX-LMのインストール時に問題が起きる可能性があります。

    今回使う環境では、Python 3.11を使うことにしました。

    Python 3.11が入っているか確認する

    まず、

    python3.11 --version

    を実行します。もし、

    Python 3.11.x

    と表示されたら、そのPythonを使って仮想環境を作ればOKです。

    python3.11 -m venv ~/qwen-env

    続いて、

    source ~/qwen-env/bin/activate

    とします。最後に、

    python --version

    と入力して、

    Python 3.11.x

    と表示されれば準備完了です。

    python3.11 が見つからない場合

    もし、

    command not found: python3.11

    などと表示された場合は、Python 3.11自体がインストールされていません。Macでは、Homebrewを使ってインストールする方法があります。

    Homebrewがすでに入っている場合は、

    brew install python@3.11

    とします。インストールが終わったら、

    python3.11 --version

    で確認します。

    Python 3.11.x

    と表示されればOKです。

    Pythonの準備ができたら、AI専用の環境を作る

    python3.11 -m venv ~/qwen-env
    source ~/qwen-env/bin/activate

    と進みます。

    ここで大切なこと

    MacにはPythonが入っていても、「入っている」ことと「今回使いたいバージョンである」ことは別です。

    今回のようにAI関連のソフトウェアをインストールするときは、必要なPythonのバージョンが指定されていることがあります。

    そのため、

    python3 --version

    でバージョンを確認する習慣をつけておくと、後で原因不明のエラーに悩まされにくくなります。

    なお、今回作った qwen-env はQwen専用の仮想環境です。

    Open WebUIなど別のソフトウェアを入れるときは、別のPython環境を作ることをおすすめします。

    「とりあえず全部同じPythonに入れてしまえ」とすると、後からパッケージ同士のバージョンがぶつかって、何が原因なのか分からなくなることがあります。

    ターミナルの先頭に、

    (qwen-env)

    と表示されれば成功です。例えば、

    (qwen-env) MacBook-Air ~ %

    のようになります。

    これで、このターミナルではQwen専用のPython環境を使えるようになりました。

    MLX-LMをインストールする

    次に、MacでAIを動かすためのソフトウェアを入れます。

    今回使うのは MLX-LM です。

    M1、M2、M3、M4などのMacには、CPUだけでなくAI計算にも利用できるGPUがあります。
    #MLX は、このApple Siliconの特性を利用して機械学習を実行するための仕組みです。

    ここから先は、さきほど作った (qwen-env) が表示されているターミナルで作業してください。もしターミナルを閉じてしまっていたら

    source ~/qwen-env/bin/activate

    で戻れます。

    インストールは簡単です。

    pip install -U mlx-lm

    これだけ。しばらく待てばインストールが完了します。

    いよいよQwen3-8Bを起動する

    ここまで来たら、いよいよAIを起動します。

    実行するのはこのコマンドです。

    mlx_lm.chat --model "Qwen/Qwen3-8B-MLX-4bit"

    すると、初回はQwen3-8Bのモデルデータがダウンロードされます。

    モデルは約4.4GBあります。

    「4.4GBもあるのか」「4.4GBしかないのか」どちらの感想も出てきそうな大きさです。

    これがAIそのものです。

    クラウド上にあるAIを呼び出すのではなく、この4.34GBのデータを自分のMacに持ってきて、Macの中でAIを動かすわけです。

    しばらく待つと、

    [INFO] Starting chat session with Qwen/Qwen3-8B-MLX-4bit.
    
    The command list:
    
    - 'q' to exit
    - 'r' to reset the chat
    - 'h' to display these commands
    
    >

    という表示が出ました。

    おお。本当に動いた。

    とりあえず「こんにちは」と言ってみる

    まずは定番です。

    「こんにちは。あなたは何ができますか?」

    するとQwenが考え始めました。Qwenの思考回路は英語のようです。そして、考えていることがダダ漏れ。全部表示されています。これはこれで何をどう考えているのかがわかってとても良いです。

    <think>
    Okay, the user greeted me with "こんにちは" which means "Hello" in Japanese. They're asking what I can do. I need to respond in Japanese since the greeting is in Japanese. Let me start by acknowledging their greeting.

    I should list my main functions: answering questions, providing information, creating content, and helping with tasks. I need to make sure the response is friendly and clear. Let me check if there are any specific features I should mention, like multilingual support or code generation. Oh, right, I can also help with coding and logical problems. I should include that.

    Wait, the user might be interested in how I can assist them specifically. Maybe I should mention being available 24/7 and the ability to handle various tasks. Also, I should keep the tone polite and helpful. Let me structure the response step by step to cover all points without being too verbose. Make sure the Japanese is correct and natural. Let me double-check the translation for "I can answer questions, provide information, create content, and help with tasks." That should be okay. Alright, time to put it all together.
    </think>

    訳すとこんな感じ。

    さて、そのユーザーは「こんにちは」と挨拶してきました。これは日本語で「Hello」という意味です。そのユーザーは、私に何ができるのか尋ねています。挨拶が日本語なので、私も日本語で返答する必要があります。まずは、その挨拶に返事をしましょう。

    主な役割として、質問への回答、情報の提供、コンテンツの作成、そしてタスクのサポートを挙げておこう。回答は親しみやすく、分かりやすいものにするよう心がける必要がある。多言語対応やコード生成など、特に言及すべき機能があるかどうか確認してみよう。そうだ、コーディングや論理的な問題の解決も手伝える。それも盛り込んでおこう。

    ちょっと待ってください。ユーザーは、私が具体的にどのようなサポートができるのかに関心があるかもしれません。24時間365日対応可能であること、さまざまなタスクに対応できることを伝えるべきでしょう。また、丁寧で親切な口調を心がける必要があります。冗長になりすぎず、すべてのポイントを網羅できるよう、回答を段階的に構成してみましょう。日本語が正しく、自然な表現になっているか確認してください。「質問への回答、情報の提供、コンテンツの作成、タスクのサポート」という翻訳をもう一度確認させてください。これで問題ないでしょう。よし、それではすべてをまとめましょう。

    もうこれが立派な返答になっているけれど、それでもちゃんと日本語の返答が出力されてきました。

    こんにちは!私はQwenと呼ばれる大規模言語モデルで、さまざまなタスクをサポートできます。

    あんなに細かく考えていたのに、答えこれかい! っっと突っ込みたくなる回答が出てきました。

    でも、ともかくちゃんと日本語を理解しています。

    コードについて質問すればコードも書ける。
    文章について質問すれば文章も作れる。

    つまり、ChatGPTのような巨大なクラウドAIではないけれど、確かに「会話できるAI」がMacの中で動いているわけです。

    次の質問で止まった?

    ここで少し欲が出てきました。

    今度は「日本のインターネットにおけるBotアクセスについて1000文字程度で説明してください。」と聞いてみました。

    Qwenは考え始めます。

    Okay, the user asked for a 1000-character explanation about bot access on the internet in Japan. Let me start by defining what bot access is. Bots are automated programs that can perform tasks like crawling websites, scraping data, or interacting with services. In Japan, this is a common practice for things like search engines, data collection, and customer service.

    I need to mention the legal aspects. Japan has laws like the Act on the Protection of Personal Information (APPI) and the Act on the Control of Specified Electronic Communications Services. These laws regulate how bots can access and use data, especially personal information. Also, the Telecommunications Business Act might be relevant for services that use bots.

    Then, there's the ethical and security angle. Bots can be used for good, like improving search results, but they can also be misused for spam, phishing, or data theft. Companies need to balance these aspects. Maybe mention specific examples, like how search engines use bots but have to comply with privacy laws.

    I should also touch on the technical side, like how bots can be blocked using robots.txt or CAPTCHA. But in Japan, there might be specific guidelines or standards for bot usage. Also, the rise of AI-driven bots and

    訳してみると

    さて、ユーザーから、日本におけるインターネット上のボットアクセスについて1000文字程度の説明を求められました。まず、ボットアクセスとは何かを定義することから始めましょう。ボットとは、ウェブサイトのクロール、データのスクレイピング、サービスとのやり取りといったタスクを実行できる自動化されたプログラムのことです。日本では、検索エンジンやデータ収集、カスタマーサービスなどの分野で、これが一般的な慣行となっています。

    法的側面についても触れておく必要があります。日本には、「個人情報保護法(APPI)」や「特定電子商取引法」といった法律があります。これらの法律は、ボットによるデータ、特に個人情報へのアクセスや利用方法を規制しています。また、ボットを利用するサービスについては、「電気通信事業法」も関連してくる可能性があります。

    さらに、倫理的・セキュリティ上の観点もあります。ボットは検索結果の改善など、有益な目的に利用されることもありますが、スパムやフィッシング、データ窃取などの悪用される可能性もあります。企業はこれらの側面をバランスよく考慮する必要があります。例えば、検索エンジンがボットを活用しつつも、プライバシー関連法規を遵守しなければならないといった具体的な事例を挙げてみるとよいでしょう。

    また、robots.txt や CAPTCHA を使ってボットをブロックする方法など、技術的な側面についても触れておくべきでしょう。しかし、日本ではボットの利用に関して特定のガイドラインや基準が存在する可能性があります。さらに、AI 駆動型のボットの台頭や

    かなり具体的にいろいろと考え始めました。どんな1000文字になるのか、1000ビット計算なのか1000文字なのかも楽しみです。

    しかし、出力が止まりました。10分経っても進展がありません。

    「あれ?」

    止まった?

    どうやら思考が途中で止まってしまったようです。そこで聞いてみました。
    「止まってる?」

    Okay, the user just said "止まってる?" which means "Are you stopping?" or "Have you stopped?" in Japanese. They might be asking if I've stopped functioning or if there's an issue with my response. Let me check the previous conversation to understand the context.

    Earlier, I provided a detailed explanation about bot access in Japan, which was around 1000 characters. The user then asked "止まってる?" possibly indicating they noticed something wrong or want to confirm if I'm still active.

    I need to respond in Japanese, so I'll start by acknowledging their question. Maybe they're concerned about the length of my previous response or if there's a technical issue. I should reassure them that I'm functioning properly and offer further assistance. Let me make sure the response is friendly and open-ended to encourage them to ask more questions if needed.

    毎回Okayから始まるのね

    この訳はこんな感じ。

    はい、ユーザーから「止まってる?」というメッセージが届きました。これは日本語で「止まっていますか?」あるいは「止まりましたか?」という意味です。私の動作が止まってしまったのか、それとも応答に問題があるのかを尋ねているのかもしれません。文脈を把握するために、これまでの会話内容を確認してみます。

    先ほど、日本におけるボットのアクセスについて、約1000文字にわたる詳細な説明を行いました。すると、そのユーザーから「止まってる?」という質問がありました。おそらく、何かおかしいことに気づいたか、私がまだ活動中かどうかを確認したいのだと思われます。

    日本語で返信する必要があるため、まずは相手の質問に目を通したことを伝えましょう。おそらく、前回の返信が長すぎたことや、技術的な問題があるのではないかと心配しているのかもしれません。システムが正常に動作していることを伝え、さらにサポートを提供できることを示して安心させてあげましょう。必要に応じてさらに質問してもらえるよう、親しみやすく、質問の余地を残した返信にするように心がけましょう。

    AI内部の制御がどういう仕組みなのかがほんのり透けて見えるのが楽しいですね。そして、返事はこちら。

    ごめんね、何か問題があったの?私はちゃんと動いてるよ。何かお手伝いできることがあったら言ってね!

    はぐらかされた感満載ですが、生きてはいました。

    実は「止まった」とは限らない

    後からAPI経由で確認してみると、原因の一つが分かりました。Qwenから返ってきた情報には、

    "finish_reason": "length"

    とありました。これは、

    「回答できなかった」のではなく、「設定した生成量の上限まで達したので終了した」

    という意味です。つまり、AIが止まったというより、

    AIが設定されたところまで文章を生成したので終了した

    ということのようです。なるほどね。

    ローカルAIを実際に触ってみると、こういうところも面白いですね。単に「AIをインストールして終わり」ではなく、

    AIがどう動いているのかを、自分の目で確認できる。

    これはクラウドのAIサービスを使っているときとは、ちょっと違う感覚です。

    M1 Macでも、ちゃんとAIが動いた

    ここまでやって分かったこと。

    私のM1 MacBook Air、メモリ16GBでも、

    Qwen3-8Bという現在の比較的大きな言語モデルを、完全にローカルで動かすことができた。

    もちろん、ChatGPTやClaudeと同じ性能というわけではありません。でも、

    • 質問に答える

    • 文章を書く

    • コードを書く

    • コードについて考える

    • ローカルで処理する

    といったことができます。そして重要なのは、

    インターネット上のAIサービスに質問を送っているわけではない

    ということ。AIそのものが、自分のMacの中で動いています。


    ここまで来ると、次のステップがやりたくなってきます。

    「ターミナルで話しかけるだけじゃなくて、ブラウザから使えないの?」

    さらに、

    「自分のプログラムからQwenを呼び出せないの?」

    実はQwenは、AIとして動かすだけでなく、Macの中でAPIサーバーとして動かすこともできます。

    次回はここから先。

    M1 Macの中にQwen3-8Bを「AIサーバー」として立ち上げて、ブラウザやプログラムから呼び出してみます。


     
     
    プログラミング好きな音楽家。イラレ、フォトショでイラストを、JavaScript、ASP、PHPを使ってウェブを、Blender、UnReal Engine、Unityを使って3D、2Dを、Final Cut Proを使って映像編集、Logic Proで音楽制作をします。

    あなたへのおすすめ