メインコンテンツへスキップ
見出し画像

CursorでローカルLLMを試してみた


    個人開発しているAIエージェントでは、これまで Gemini API(無料枠) を使用していました。

    しかし、

    • API依存をなくしたい

    • 完全ローカル環境で動かしたい

    • オフラインでもAIを動作させたい

    という理由から、ローカルLLM化 を検証してみました。

    今回は、Cursor + LM Studio を使って、ローカルLLMを動かすまでの手順とハマりどころをまとめます。


    検証環境

    Hardware

    • Lenovo ThinkBook

    • Core i7 / Memory 16GB

    • GPU VRAM:7.9GB

    Software

    • Cursor Ver.3.2.18

    • LM Studio 0.4.12 (Build 1)

    • ngrok Ver.3.39.1

    LLM

    • Qwen3.5 9B

    • Gemma4 E4B


    なぜローカルLLMにしたかったか

    目的は以下。

    • API課金ゼロ

    • ネットワーク依存排除

    • データ外部送信なし

    まずは開発環境として使っている Cursor 上で動作確認 を行いました。


    全体の流れ(概要)

    今回の検証手順はシンプルです。

    1. LM StudioでローカルLLMを準備

    2. ngrokでローカルAPI公開

    3. CursorからOpenAI互換APIとして接続

    4. Agentで実行確認


    手順詳細


    1. LM StudioでLLMを準備

    1-1. モデルダウンロード

    画像
    LM Studio

    LM Studioをインストール後、以下を取得。

    • Qwen3.5 9B

    • Gemma4 E4B

    モデル選択時に表示される:

    • 「× このマシンには大きすぎます」

    • 「〇 GPUオフロード可能」

    といった表示が、動作可否の目安になります。


    1-2. モデルロード

    画像
    「Local Server」-「+Load Model」


    ダウンロード済みLLMを選択。


    1-3. 【重要】コンテキスト長の設定

    画像
    モデル毎のパラメーター設定

    ここが最大のハマりポイントでした。

    ❌ 最大値にすると

    → LLMのロードエラー

    ❌ 初期値(2048 / 4090 など)

    → Cursor側からのプロンプトが長く、リミットオーバーエラー

    LM Studioのログ「Developer Logs」を見て、Cursorから送信されるトークン数より大きい値に設定したら正常動作しました。

    👉 Cursorは想像以上に長いコンテキストを送る
    👉 マシンスペックに合わせコンテキスト最大値付近推奨


    1-4. CORS設定

    画像
    「Server Settings」-「CORSを有効にする」


    Server Settings → CORSを有効にする、をONにします。


    2. ngrokのインストール

    ngrokは、LM StudioのローカルAPIを外部公開するために使用します。

    ※ローカルアプリから接続する場合は不要


    2-1. Cursor Agentに任せた結果

    ngrokをインストールして
    

    と指示したところ…

    👉 古いバージョンが入った

    その結果エラー発生。

    ここで学び:

    指示が雑だとAIも雑になる

    正しくは:

    最新のngrokをインストールして
    

    その後、

    ngrok update
    

    で解決。


    2-2. ngrok起動

    LM Studioのポート(例:1234)を公開。ターミナルからコマンドを実行

    >ngrok http 1234
    画像
    公開URLが発行されます。(Forwardingの部分)

    ⚠ URLを知っていれば誰でもアクセス可能なため、長時間公開する場合は認証推奨


    3. Cursor側設定(OpenAI互換接続)

    3-1. Custom Model追加

    画像
    「Cursor Settings」-「 Models」-「 +Add Custom Model」

    追加:

    • google/gemma-4-e4b

    • Qwen/Qwen3.5-9-b


    3-2. OpenAI API互換設定

    画像
    「Cursor Settings」-「 Models」-「API Keys」

    OpenAI API Key → ON
    Key → 任意文字列

    続いて:

    Override OpenAI Base URL → ON
    ngrok URLに /v1 を付けて入力。

    https://xxxxx.ngrok-free.dev/v1

    3-3. モデル有効化

    画像
    「Cursor Settings」-「 Models」

    Models画面で有効化すると、

    👉 CursorのLLM選択にローカルモデルが出現。


    4. 動作確認

    4-1. LM Studio確認

    画像
    「Local Server」
    Local Server → Status: Running
    
    Loaded Models → READY

    になっていること。


    4-2. Cursor Agentで実行

    画像
    「Cursor Agent Window」

    プロンプトに

    こんにちは

    と入力。

    結果:

    ⏱ 応答まで約8分

    その間:

    • PCファン全開

    • CPU/GPU高負荷

    • LM StudioのDeveloper Logsで推論進行率(%)確認可能


    4-3. LM Studioでチャット実行

    画像
    LM Studioのチャット画面

    Cursorを使わず、LMStudioのチャットで

    こんにちは

    と入力。

    結果:

    ⏱ 応答まで約1分(56秒)

    ・動作はもっさり
    ・テキスト表示がタイプライター並み
    ・ローカル接続&短いプロンプトでも応答に1分


    まとめ(結論)

    今回の検証結果。

    ✅ ローカルLLM接続方法は確立できた
    ❌ 手元PCでは実用速度に届かない

    Qwen3.5 / Gemma4ともに動作は可能でしたが、

    • メモリ不足

    • GPU性能不足

    により実用レベルではありませんでした。

    とはいえ、

    「AIエージェント × ローカルLLM」は確実に動く

    ことが確認できたのは大きな収穫です。

    今後は:

    • メモリ増設

    • GPU搭載PC

    • 小型量子化モデル

    でどこまで実用速度になるか検証したいところ。

    同じ構成に挑戦する方の参考になれば幸いです。


    記事:Y


    画像
    株式会社クオリティ・アイ


     
     
    当社はソフトウェア品質向上を支援する、第三者検証会社です。 これまで多種多様なソフトウェア製品、システムの検証実績、テスト技術や資格を持つQAエンジニアで構成されています。 特に業務系Web・スマホアプリなどのBBテストとテスト自動化を得意としています。