メインコンテンツへスキップ
見出し画像

LM StudioでGemma 4をローカルPCに入れてみる

    最近、AIをもっと自分の作業環境に組み込めないかなと思って、ローカルAIを検討していました。

    普段はChatGPTのようなクラウド型AIを使うことが多いんですが、

    「自分のPC上でAIを動かせたら面白そう」
    「ローカル環境だと、どんな感じで使えるんだろう」
    「LM Studioって聞くけど、初心者でも使えるのかな」

    というのが気になっていました。

    そこで今回は、LM Studioを使って、Gemma 4 31B Instruct GGUF Q4系のモデルをダウンロードしている途中の記録を整理します。

    この記事では、以下のことがわかります。

    • Gemma 4がどんなAIなのか

    • 今回LM Studioを選んだ理由

    • ローカルAIで確認しておきたいPCスペック

    • LM StudioでGemma 4を探してダウンロードする流れ

    • ダウンロード後に試そうと思っている設定や調整方法

    • 今回のモデルが20.63GBあって、かなり大きめだということ

    この記事を書いている段階では、まだモデルのダウンロード途中です。

    なので、「実際に動かしてみた感想」ではなく、ここまで調べて、こういう流れで進めているという記録として読んでもらえたらと思います。

    Gemma 4とは

    画像

    Gemma 4は、Google DeepMind系のオープンウェイトAIモデルです。

    ざっくり言うと、ChatGPTやGeminiのようにクラウド上で使うAIとは少し違って、自分のPCやローカル環境に入れて動かせるタイプのAIモデルです。

    用途としては、以下のようなものがあります。

    • 質問応答

    • 要約

    • 文章作成

    • コーディング補助

    • ローカルAIチャット

    • 自分用ツールへの組み込み

    • 外部APIにデータを出さずに処理する作業

    Geminiとの違いは、GeminiがGoogleのクラウドAIとして使うものなのに対して、Gemma 4は自分の環境で動かせるローカル向け・開発者向けのモデルという点です。

    もちろん、ローカルでAIを動かすにはPCスペックや設定も関係します。

    ただ、外部サービスに全部頼るだけではなく、自分のPCの中にAI環境を作れるのは、かなり面白いなと思いました。

    今回はLM Studioを選びました

    画像

    ローカルAIを調べていると、LM StudioやOllamaという名前が出てきます。

    最初はどちらを使うか少し迷いました。

    ただ、今回はLM Studioだけを入れることにしました。

    理由はシンプルで、GUIで操作できるのが良さそうだと思ったからです。

    GUIというのは、画面上のボタンやメニューを見ながら操作できる画面のことです。

    ターミナルでコマンドを打って進めるよりも、最初は画面で確認しながら進めた方が安心感があります。

    LM Studioなら、以下の作業が画面上で進められます。

    • モデルを検索する

    • モデルをダウンロードする

    • チャット画面で試す

    • モデルを切り替える

    • 設定を調整する

    今回の目的は、まずローカルAIを動かす入口を作ることでした。

    なので、最初から開発寄りに寄せるよりも、まずはLM Studioで触ってみる方が自分には合っていそうだと感じました。

    Ollamaについても調べはしましたが、今回実際に進めているのはLM Studioです。

    この記事でも、LM StudioでGemma 4をダウンロードするところまでに絞って書いていきます。

    ローカルAIを入れる前にPCスペックを確認しました

    画像

    ローカルAIを使う場合、まず確認しておきたいのがPCスペックです。

    特に見るべきなのは、以下です。

    • メモリ

    • GPU

    • VRAM

    • ストレージ空き容量

    • 64bit環境かどうか

    Windowsの場合、基本スペックは以下から確認できます。

    1. 設定を開く

    2. システムを開く

    3. バージョン情報を見る

    GPUは、タスクマネージャーから確認できます。

    1. Ctrl + Shift + Escを押す

    2. タスクマネージャーを開く

    3. パフォーマンスを開く

    4. GPUを確認する

    今回のPC構成は、だいたいこんな感じです。

    • CPU:Intel Core Ultra 7 265

    • メモリ:32GB

    • GPU:NVIDIA GeForce RTX 5080

    • VRAM:16GB

    • ストレージ:約932GB

    • OS:64bit Windows

    この構成は、ローカルLLM用途としてはかなり強めです。

    特に、メモリ32GBとVRAM16GBがあるので、小型モデルだけでなく、中〜大きめの量子化モデルも試せそうな構成でした。

    今回ダウンロードしているのはGemma 4 31B Instruct GGUF Q4系

    画像

    今回LM Studioでダウンロードしているのは、Gemma 4 31B Instruct GGUF Q4系です。

    名前だけ見ると、けっこうわかりにくいですよね。

    それぞれの意味をざっくり分けると、こんな感じです。

    • Gemma 4:AIモデルの種類

    • 31B:モデルの規模

    • Instruct / it:指示応答やチャット向け

    • GGUF:LM Studioなどで使いやすいモデル形式

    • Q4:軽く動かしやすくするために量子化されたもの

    今回のメモでは、PC構成的にGemma 4 E4Bのような軽いモデルも候補でした。

    ただ、性能重視で試すならGemma 4 31B Instruct GGUF Q4系も現実的な候補として整理していました。

    今回はせっかくPCスペックにも余裕がありそうだったので、31BのQ4系をダウンロードしてみることにしました。

    モデルサイズは20.63GB。かなり大きいです

    画像

    今回ダウンロードしているモデルは、20.63GBあります。

    かなり大きいです。

    普段アプリを入れる感覚だと、20GB超えのファイルはなかなか重いですよね。

    ローカルAIのモデルは、普通のアプリというより、AIの頭脳そのものをダウンロードしているようなものです。

    そのため、モデルによってはファイルサイズがかなり大きくなります。

    今回のGemma 4 31B Instruct GGUF Q4系も、軽量モデルというよりは、かなり大きめのモデルをローカルPCに入れようとしているという感覚です。

    まだこの記事を書いている時点ではダウンロード途中ですが、このサイズを見るだけでも、ストレージの空き容量は先に確認しておいた方がいいなと感じました。

    自分のPCはストレージ容量にまだ余裕があったので進めていますが、空き容量が少ないPCだと、モデルを複数入れるだけでかなり圧迫しそうです。

    LM StudioでGemma 4をダウンロードする流れ

    画像

    ここからは、実際にLM StudioでGemma 4をダウンロードする流れです。

    手順①:LM Studioを開く

    まず、LM Studioを起動します。

    最初にAdvanced settingsのような画面が出ることがあります。

    画像

    ここでは、Developer ModeやローカルLLMサービスの自動起動のような設定が出てきました。

    普通にチャットで試すだけなら、Developer Modeは必須ではなさそうです。

    ローカルモデルサーバーをログイン時に自動起動する設定も、必要になってからオンにすればよさそうだと思いました。

    手順②:日本語表示に変える

    英語表示のままだと少しわかりにくいので、LM Studioを日本語表示に変えました。

    手順としては、以下のような流れです。

    1. LM Studioを開く

    2. Settingsを開く

    3. Appearance、General、Preferencesあたりを確認する

    4. Languageを探す

    5. Japanese / 日本語を選ぶ

    6. 必要ならLM Studioを再起動する

    Windowsなら、Ctrl + , で設定画面を開ける場合もあります。

    Languageが見つからない場合は、LM Studioのバージョンが古い可能性もあるので、最新版にしてから確認した方がよさそうです。

    手順③:モデル検索画面を開く

    次に、左側メニューからモデルを探す画面を開きます。

    画面上では、以下のような表示になっている場合があります。

    • Discover

    • Search

    • 虫眼鏡アイコン

    ここから、入れたいモデルを検索します。

    手順④:Gemma 4 31B Instruct GGUFを検索する

    検索欄には、以下のような文字を入れました。

    gemma-4-31B-it-GGUF

    または、候補として以下のような名前で探します。

    lmstudio-community/gemma-4-31B-it-GGUF

    unsloth/gemma-4-31B-it-GGUF

    出てこない場合は、少し短くして検索します。

    gemma-4-31B-it-GGUF

    手順⑤:Q4_K_Mを選んでダウンロードする

    モデルが見つかったら、どのファイルをダウンロードするか選びます。

    今回の候補としては、まずQ4_K_Mを選ぶ方針にしました。

    Q4_K_Mは、軽さと品質のバランスが良い量子化形式です。

    31Bのような大きめモデルを扱う場合、フル精度に近い重いファイルを選ぶと、PCへの負荷がかなり大きくなりそうです。

    なので、今回は最初の選択肢としてQ4_K_Mを選びました。

    ファイル名の目安としては、以下のような形です。

    gemma-4-31B-it-Q4_K_M.gguf

    今回の記事を書いている時点では、このモデルをダウンロードしている途中です。

    完了後に、Chat画面で選択して動作を確認する予定です。

    ダウンロードが終わったら試したい設定

    画像

    ここからは、まだ実際に動かして確認した内容ではありません。

    ダウンロードが終わったら、このあたりから試してみようと思っている設定です。

    Gemma 4 31B Q4系は20.63GBある大きめのモデルなので、最初から攻めた設定にするより、様子を見ながら調整する方がよさそうです。

    Context lengthは8192か16384あたりから試したい

    まず、Context lengthは8192か16384あたりから試そうと思っています。

    Context lengthは、AIが一度に扱える文章量のようなものです。

    大きくすると長い文章を扱いやすくなりますが、そのぶんメモリやVRAMを使いやすくなります。

    なので、最初は無理に大きくしすぎず、

    • まず8192で試す

    • 余裕がありそうなら16384も試す

    • 重ければ8192に戻す

    という感じで見ていくつもりです。

    GPU offloadはAutoか、できるだけGPUに寄せてみたい

    GPU offloadは、AIの処理をどれくらいGPUに任せるかに関係する設定です。

    ここは、まずAutoで試すのがよさそうです。

    もし手動で調整する場合は、できるだけGPUに載せたいところです。

    ただし、VRAM16GBを超えてしまうと重くなったり不安定になったりしそうなので、実際の使用量を見ながら調整するつもりです。

    Temperatureは0.7前後から試したい

    Temperatureは、AIの回答のランダムさや自由度に関係します。

    低めにすると安定した回答になりやすく、高めにすると少し発想が広がりやすくなります。

    最初は0.7前後で試す予定です。

    文章作成や壁打ちなら少し自由度があってもいいですが、事実確認や手順説明ではあまりブレすぎない方が使いやすいかなと思っています。

    Max tokensは2048〜4096くらいから試したい

    Max tokensは、AIが一度にどれくらい長く返答するかに関係します。

    最初は2048〜4096くらいで試そうと思っています。

    長文を書かせたい場合は大きめにしたくなりますが、最初は動作の安定性を見る方が大事です。

    なので、まずは短め〜中くらいの返答で試して、必要に応じて調整していく予定です。

    重かった場合はこの順番で調整していく予定です

    画像

    ダウンロードが終わって実際に使ってみたあとに、

    「返答が遅い」
    「読み込みが重い」
    「エラーが出る」
    「PCがかなり負荷を受けている感じがする」

    となった場合は、次の順番で調整していこうと思っています。

    まずContext lengthを下げる

    最初に見るのはContext lengthです。

    長い文脈を扱えるようにすると便利ですが、そのぶん重くなります。

    なので、重い場合はまず8192あたりまで下げるのが良さそうです。

    次にMax tokensを下げる

    次に、Max tokensを下げます。

    一度に長く返答させすぎると、そのぶん負荷も上がりそうです。

    まずは短めの返答で安定するか確認して、必要になったら伸ばす方がよさそうです。

    それでも重ければQ4_K_Sを検討する

    Q4_K_Mで重い場合は、もう少し軽めのQ4_K_Sも検討します。

    Q4_K_SはQ4_K_Mより軽めの選択肢です。

    品質とのバランスは変わるかもしれませんが、快適に使えないと意味がないので、動作が重い場合は軽い量子化に下げるのもありかなと思っています。

    普段使いは軽いモデルにするのもあり

    31Bは大きめのモデルなので、普段使いには少し重い可能性もあります。

    その場合は、Gemma 4 E4Bのような軽めのモデルを普段使いにして、31Bは少し重めの作業用にするのもありです。

    たとえば、

    • 普段のチャットや要約は軽めのモデル

    • じっくり考えたい文章作成や推論は31B

    という分け方です。

    ローカルAIは、1つのモデルだけを使い続ける必要はありません。

    用途に合わせて使い分ける方が、現実的かもしれません。

    現時点で感じていること

    画像

    この記事を書いている段階では、まだGemma 4 31B Instruct GGUF Q4系のダウンロード途中です。

    なので、実際の返答速度や日本語の自然さまではまだ確認できていません。

    ただ、ここまで進めて感じたのは、LM Studioは最初にローカルAIを触る入口としてかなり良さそうということです。

    モデル検索からダウンロードまで画面上で進められるので、ターミナル操作に慣れていなくても進めやすいです。

    一方で、20.63GBのモデルをダウンロードしていると、やっぱりローカルAIはそれなりにPCリソースを使うものなんだなと感じます。

    普通のアプリを入れるというより、かなり大きめのAIモデルをPCに置いている感覚です。

    ダウンロードが終わったら、次は以下を確認したいと思っています。

    • 正常に読み込めるか

    • GPUが使われているか

    • 返答速度はどれくらいか

    • VRAM使用量はどれくらいか

    • 日本語の返答は自然か

    • ブログ記事やメモ整理に使えそうか

    このあたりを見ながら、設定を少しずつ調整していく予定です。

    ローカルAIは自分の作業環境づくりに近い

    画像

    ローカルAIを入れる作業は、ただAIで遊ぶというより、自分の作業環境を作っていく感覚に近いです。

    自分の場合、AIを完全に丸投げで使いたいわけではありません。

    どちらかというと、

    • メモを整理する

    • 録音の文字起こしを要約する

    • ブログ記事の構成を作る

    • レビュー記事の下書きを作る

    • 自分の考えを壁打ちする

    • 作業フローを改善する

    こういう用途で、補助輪として使いたい気持ちがあります。

    その意味では、LM StudioでローカルAIを触れるようにしておくのは、けっこう面白い一歩だなと思いました。

    まだダウンロード途中なので、実際にどこまで使えるかはこれからです。

    ただ、ここまでの流れだけでも、ローカルAI環境を作る入口としてはかなり勉強になっています。

    まとめ:まずはLM StudioでGemma 4をダウンロードしているところです

    画像

    今回は、LM Studioを使ってGemma 4 31B Instruct GGUF Q4系をダウンロードしている途中の流れを整理しました。

    ポイントは以下です。

    • Gemma 4はローカル環境でも使えるオープンウェイト系のAIモデル

    • 今回はGUIで操作しやすそうだったのでLM Studioを選んだ

    • 実際にダウンロードしているモデルは20.63GBあり、かなり大きめ

    • PCスペックはメモリ、GPU、VRAM、ストレージを確認しておく

    • 31B Q4系は性能に期待できる一方、設定は控えめに試す予定

    • Context lengthやMax tokensは、動作を見ながら調整していきたい

    • 重い場合はQ4_K_Sや軽めのモデルも検討する

    この記事を書いている今は、まだダウンロードが終わっていません。

    なので、まずはダウンロード完了後に、

    1. Chat画面でモデルを選ぶ

    2. 短い質問をしてみる

    3. 返答速度と日本語の自然さを見る

    4. 重ければ設定を下げる

    という流れで試していこうと思います。

    ローカルAIはまだ少しハードルがありますが、自分の作業環境にAIを組み込んでいく入口としては、かなり面白いです。

     
     
    AIをこれから学んでいく過程を記録するnoteです。 ChatGPTや生成AIの使い方、試してみたこと、わからなかったこと、日々の気づきをメモとして残していきます。 初心者目線で、AIを仕事や暮らしにどう活かせるかを少しずつ探っていきます。

    あなたへのおすすめ