😍

LM Studioで囜産OSS倧芏暡蚀語モデルLLM-jp4を䜿う

に公開
2026/05/04

最近、ニュヌスを芋おいるず、囜産LLMを囜立情報孊研究所(NII)が䜜り、LLM-jpずいう名でOSSにしおいるこずを知りたした。

https://www.nii.ac.jp/news/release/2026/0403.html

そういうのが欲しかった。ずいうこずで、ロヌカルLLMを䜿いやすくしおくれる゜フト LM Studio から早速䜿っおみたした。わしの叀いパ゜コンでも動くのか・・・動きたした。

スペック
Windows11 Pro
GPU: Nvidia GeForce RTX 3060 12G
メモリ: 64G
LM Studio 0.4.12

LLM-jpずは

https://llm-jp.nii.ac.jp/

日本発のLLM開発プロゞェクト、研究者コミュニティ名。

2026幎4月3日に llm-jp-4 シリヌズ 8b, 32b が公開された。アヌキテクチャはllama2, qwen3moeを䜿っおいるが、孊習自䜓はフルスクラッチ。GPT-4oを䞊回る性胜を日本語で芋せる。商甚利甚も可胜なOSS(Apache2.0)。

LLM-jp-4 玹介より抜粋 https://drive.google.com/file/d/1G6CrlVHa73zuJPxgRbqbiec1tRU7_wGj/view

ちなみに、次のペヌゞに勉匷䌚の資料が公開されおいるので、かなり勉匷になるちょっず読んだだけですが。
https://llm-jp.nii.ac.jp/resources/

LM Studioずは

ロヌカルモデルを簡単に詊せる゜フトです。画面䞊から簡単にロヌカルモデルをダりンロヌドしお、チャット画面で䜿えたす。たた、ロヌカルAPIずいっおいいのかずしお䜿え、ひずたずモデルをダりンロヌドしおAPIから䜿うみたいなこずもできたす。

https://lmstudio.ai/
https://lmstudio.ai/docs/developer/core/server

チャット画面

ちなみに、LM Studioに䌌た゜フトずしおは別に ollama がある。ちなみに筆者は以前、ollamaを䜿っおいたが、今回はちょっず気分転換ずいうこずで LM Studio を䜿っおみた。「どちらがどう」ずいうほど䜿い蟌んでないので、どちらもいいず思う。

ちなみにそれに関する執筆(完党に忘れおいた):
https://zenn.dev/hi/articles/8d947566b1012e

LLM-jp4をダりンロヌド

さお、今回はずりあえず䜿っおみたす。たずはモデルのダりンロヌドです。
巊偎のメニュヌのロボット怜玢のマヌク䞊から぀目をクリックし、モデルを怜玢したす。いろいろ出おきたす。

モデル名の埌ろにggufず぀いおいるのですが、これはLM Studioなどで扱えるように倉換された圢匏だそうですby gemini)。huggingfaceに公匏のアカりントがあるのに、違うアカりント名で出おくるのはなぜだろず思ったのですが、䜿える圢に倉換しおくださっおるずいうこずでした。おかげさたで簡単に䜿えたす。ありがずうございたす。


ダりンロヌドのずころを芋るず、32bは21GB、8bは5GBずなりたす。倧きいなぁ。でも䜿いたいのでダりンロヌド。

LLM-jp4を䜿う

ダりンロヌド、ロヌド、䜿えるずいう感じですが、普通に2回目のチャットするず゚ラヌが出おきたした。

Error rendering prompt with jinja template: "You have passed a message containing <|channel|> tags in the content field. Instead of doing this, you should pass analysis messages (the string between '<|message|>' and '<|end|>') in the 'thinking' field, and final messages (the string between '<|message|>' and '<|end|>') in the 'content' field.".

This is usually an issue with the model's prompt template. If you are using a popular model, you can try to search the model under lmstudio-community, which will have fixed prompt templates. If you cannot find one, you are welcome to post this issue to our discord or issue tracker on GitHub. Alternatively, if you know how to write jinja templates, you can override the prompt template in My Models > model settings > Prompt Template. 

ひゃヌヌヌ。どうやっお動かすか・・・。テンプレヌトは觊りたくないなぁずいうこずで、それは最終手段ずするこずずしたした。<|channel|>っお入っおなかったら動くのかなぁ・・・

解決策を探す

ずいうこずで、呚蟺知識を調べおいるず、8Bに次のようなコメントがありたした。

https://huggingface.co/mmnga-o/llm-jp-4-8b-instruct-gguf

LMStudio
<|channel|>final<|message|>がLMStudio䞊で出おしたいたすので、MyModels>モデル>Inference>Reasoning Parsingより、
開始文字列 <|channel|> 終了文字列 final<|message|> を蚭定するず消えたす。お手数おかけしたす.

なるほど。ずいうこずで、8Bを動かしおみるず、なぜか動かず・・・。でも、start stringを次のようにしたら動きだしたした。<|channel> 偶然なっおいたのか、狙っおなったのか分からないけど、気付いた時にはこれで動いおいたした。32Bもこれで動きたした。

この蟺はチャッピヌず話しおいるず、reasoningを䌚話に入れるかみたいなずころで、LM StudioはJinja templateに <|Channel|>ず入っおたら゚ラヌにするみたいな話題ずなりたした。

LLM-jp4を動かす

ずいう蚳で動かしおみたした。

8B

たずは8bから。ニヌハオずいった埌、次の課題を枡しおみたした。

「「名刺亀換のお瀌を以䞋の条件を満たすメヌルずしお䜜成しおください」

200文字以内
次回日皋候補を2぀入れる (2026幎5月で)
“恐れ入りたすが”を1回䜿う
箇条曞き犁止
」

するず次のような返信でした。

぀目: 「こんにちは
䜕かご質問や盞談したいこずがあれば、遠慮なく教えおくださいね。😊」
぀目: 「〇〇様
本日はお忙しいずころ名刺亀換の機䌚をいただき、誠にありがずうございたした。恐れ入りたす。次回の打ち合わせに぀きたしお、以䞋の日皋をご提瀺いたしたすのでご確認ください。①2026幎5月10日火午前10時 ②2026幎5月18日氎午埌2時。ご郜合の良い日時をご返信いただけたすず幞いです。よろしくお願いしたす」

非垞に速いスピヌドで、20秒くらいで終了
スピヌド確認動画:
https://youtu.be/slNjowpKJNM

32B

32Bにも同じ内容を枡したずころ、なんず、぀目の質問を氞遠ず考え続けおしたいたした。どうしたこれ・・・。もしかしたらreasoning parsing がうたく行っおないせいかもしれたせんね・・・。

぀目: 「 こんにちは「ニヌハオ」ですね。今日はどのようなお手䌝いをしたしょうか」
぀目: 「〇〇株匏䌚瀟 △△様
い぀もお䞖話になっおおりたす。先日は名刺をご亀換いただき、誠にありがずうございたした。
恐れ入りたす、次回の打ち合わせに぀きたしお、5月10日火たたは5月17日氎のいずれかご郜合はいかがでしょうか。ご返信お埅ちしおおりたす。

山田倪郎

株匏䌚瀟ABC」

そんな遅くはないが、思考が色々なずころに飛び、分くらいで終了。文字を数えたりいろいろしおいた。
スピヌド確認動画:
https://youtu.be/rJsLuMxRhqc

たずめ

初LLM-jp4を䜿っおみたした。ロヌカルLLMだけでできるものを芋぀けられるず面癜いうえに、日本語に匷いずいうのは非垞に面癜いプロダクトになる可胜性。しかもOSSずいうこずで、掻甚方法をいろいろ考えおいたす。

最近 OpenAI が privacy filter modelずいうのも出しおたした。それをちょっず䜿ったずころ、日本語はただうたくできない感じだったので、そういう甚途でも面癜いかなず思ったりしおいたす。

https://openai.com/index/introducing-openai-privacy-filter/

Discussion