
CursorでローカルLLMを試してみた
個人開発しているAIエージェントでは、これまで Gemini API(無料枠) を使用していました。
しかし、
API依存をなくしたい
完全ローカル環境で動かしたい
オフラインでもAIを動作させたい
という理由から、ローカルLLM化 を検証してみました。
今回は、Cursor + LM Studio を使って、ローカルLLMを動かすまでの手順とハマりどころをまとめます。
検証環境
Hardware
Lenovo ThinkBook
Core i7 / Memory 16GB
GPU VRAM:7.9GB
Software
Cursor Ver.3.2.18
LM Studio 0.4.12 (Build 1)
ngrok Ver.3.39.1
LLM
Qwen3.5 9B
Gemma4 E4B
なぜローカルLLMにしたかったか
目的は以下。
API課金ゼロ
ネットワーク依存排除
データ外部送信なし
まずは開発環境として使っている Cursor 上で動作確認 を行いました。
全体の流れ(概要)
今回の検証手順はシンプルです。
LM StudioでローカルLLMを準備
ngrokでローカルAPI公開
CursorからOpenAI互換APIとして接続
Agentで実行確認
手順詳細
1. LM StudioでLLMを準備
1-1. モデルダウンロード

LM Studioをインストール後、以下を取得。
Qwen3.5 9B
Gemma4 E4B
モデル選択時に表示される:
「× このマシンには大きすぎます」
「〇 GPUオフロード可能」
といった表示が、動作可否の目安になります。
1-2. モデルロード

ダウンロード済みLLMを選択。
1-3. 【重要】コンテキスト長の設定

ここが最大のハマりポイントでした。
❌ 最大値にすると
→ LLMのロードエラー
❌ 初期値(2048 / 4090 など)
→ Cursor側からのプロンプトが長く、リミットオーバーエラー
LM Studioのログ「Developer Logs」を見て、Cursorから送信されるトークン数より大きい値に設定したら正常動作しました。
👉 Cursorは想像以上に長いコンテキストを送る
👉 マシンスペックに合わせコンテキスト最大値付近推奨
1-4. CORS設定

Server Settings → CORSを有効にする、をONにします。
2. ngrokのインストール
ngrokは、LM StudioのローカルAPIを外部公開するために使用します。
※ローカルアプリから接続する場合は不要
2-1. Cursor Agentに任せた結果
ngrokをインストールして
と指示したところ…
👉 古いバージョンが入った
その結果エラー発生。
ここで学び:
指示が雑だとAIも雑になる
正しくは:
最新のngrokをインストールして
その後、
ngrok update
で解決。
2-2. ngrok起動
LM Studioのポート(例:1234)を公開。ターミナルからコマンドを実行
>ngrok http 1234
⚠ URLを知っていれば誰でもアクセス可能なため、長時間公開する場合は認証推奨
3. Cursor側設定(OpenAI互換接続)
3-1. Custom Model追加

追加:
google/gemma-4-e4b
Qwen/Qwen3.5-9-b
3-2. OpenAI API互換設定

OpenAI API Key → ON
Key → 任意文字列
続いて:
Override OpenAI Base URL → ON
ngrok URLに /v1 を付けて入力。
https://xxxxx.ngrok-free.dev/v13-3. モデル有効化

Models画面で有効化すると、
👉 CursorのLLM選択にローカルモデルが出現。
4. 動作確認
4-1. LM Studio確認

Local Server → Status: Running
Loaded Models → READYになっていること。
4-2. Cursor Agentで実行

プロンプトに
こんにちはと入力。
結果:
⏱ 応答まで約8分
その間:
PCファン全開
CPU/GPU高負荷
LM StudioのDeveloper Logsで推論進行率(%)確認可能
4-3. LM Studioでチャット実行

Cursorを使わず、LMStudioのチャットで
こんにちはと入力。
結果:
⏱ 応答まで約1分(56秒)
・動作はもっさり
・テキスト表示がタイプライター並み
・ローカル接続&短いプロンプトでも応答に1分
まとめ(結論)
今回の検証結果。
✅ ローカルLLM接続方法は確立できた
❌ 手元PCでは実用速度に届かない
Qwen3.5 / Gemma4ともに動作は可能でしたが、
メモリ不足
GPU性能不足
により実用レベルではありませんでした。
とはいえ、
「AIエージェント × ローカルLLM」は確実に動く
ことが確認できたのは大きな収穫です。
今後は:
メモリ増設
GPU搭載PC
小型量子化モデル
でどこまで実用速度になるか検証したいところ。
同じ構成に挑戦する方の参考になれば幸いです。
記事:Y
