
macOS 27の日本語音声入力でローカルLLM試行中 (LM Studio+Qwen3.5 9B)
私はSonnet4.6を創作に愛用していますが、モデル廃止されると困るのでローカルLLMも検討しています、その過程を記録しました。
まえがき
2026年4月ごろ、私はターミナルを打ちながら、コピペしたコマンドでAI使っていました。
現在2026年10月、Claude Code PRO月20ドル課金で使っているので、macOS 27の進化した音声入力で日本語口語でローカルLLMの設定を Claude Codeがやってくれる、超楽!
(対象機種 MacBook Air M4 16GB OS 27.0.1。MBAメモリ24GBもありますが脚本書きのメインなんで、LLMセットアップ実験に使いたくないです)
自宅のMBAでは割とAIエージェント使えますが、会社だと開発業務やっていない私は、セキュリティ制限のためAIエージェントはとても使いにくい。
ブラウザのAIチャットは使えますが、小学校のプールの中だけAIが使える感じ。壁打ちとリサーチには使ってる。
今は私はnoteで雑文書いて遊んでますが、Claudeへの依頼作業の検証待ち、
Claudeが自分でテストして、検討して、検証して、レポートくれて、実行するので自分用の秘書を雇った感じ? 以下、スクショ。
あとは自分の過去原稿使ってのクラウドで回答拒否されたシーンでいろいろ試します。
シーンの下書き検討と最終的な採用は別なので、最初から回答拒否は困る😅
2026-10-25 時点の比較調査結果
私がかいた脚本のシーンでSonnet5.5に、回答拒否されたところをテストしてます。
日本語品質不足で不採用
Bonsai 27B
Qwen3 8B
Gemma 4 E4B
MedGemma 1.5 4B
拒否テスト継続のため採用
Qwen3.5 9B
各モデルを比較テストの経過
私が夕飯食べている間にテスト終わった(Claude Codeが)ので、
ログの一部です。
今の時点の暫定的な選択は、「Qwen3 8B を基準にして、Qwen3.5 9B を比較中」です。 比較の結果が出る前なので、確定ではありません。いま分かっていることを整理します。
この環境(M4 / 16GB)で使えるモデル
モデル状態評価Qwen3 8B(MLX 4bit)動作を確認済み基準。まだ実用には浅いが、動作は安定しているQwen3.5 9B(MLX 4bit)読み込みOK。思考を切れば答える比較中。標準設定では考える過程で枠を使い切るので、思考を切る前提Gemma 4 E4B読み込めないLM Studio の MLX エンジンが対応していない。今は使えないGemma 4 12B QAT未導入候補。サイズは未確認で、E4B と同じ問題が出る可能性もQwen3 8B Qwen3.5 9B。後回し
比較の結果
同じ elevatorGirl の脚本と同じプロンプトで、2 つのモデルを動かしました。
Qwen3 8BQwen3.5 9B脚本レビュー127 秒。浅く、混乱がある194 秒。観点ごとに整理され、的確矛盾チェック357 秒で出力上限に達した241 秒で完了
常用するなら、Qwen3.5 9B のほうが良さそうです。 ここまでの出力を比べた印象で、日本語だけを測る専用のテストはしていません。
根拠文字の混入が、Qwen3 8B にだけありました。 中国語の字体が、日本語の中に混ざっています。
「剧的アイロニー」(正しくは「劇的」)
「人物関系」(正しくは「関係」)
「紗由系」(正しくは「紗由理」)
「引訳B」(「引用B」の誤り)
Qwen3.5 9B の出力には、同じ種類の誤りは見当たりませんでした。
文章のまとまりが違います。 Qwen3 8B は、「良い点」の欄に問題点を書いたり、同じ指摘を繰り返したりしました。Qwen3.5 9B は、観点ごとに、読み取った内容が整理されていて、脚本の用語(柱、ト書き、劇的アイロニー)も正しく使っていました。
内容の理解は、日本語の質と関係が深いです。 Qwen3.5 9B は、「監視カメラに葵が映らない」という仕掛けを、仕掛けとして読めました。Qwen3 8B は、同じ点を矛盾としました。
注意点見た出力は、elevatorGirl の 2 種類の実行と、いくつかの断片で、数は多くありません。
現在動いている拒否テストの出力は、まだ読んでいません。終わったら、日本語の自然さも、あわせて確認します。
「日本語が良い」ことと、「指示に忠実」なことは別です。矛盾チェックでは、どちらも誤検出が多いままでした。
結論として、日本語の質は、Qwen3.5 9B を常用にして問題なしと考えています。
Bonsai 27B の拒否テストの結果です。拒否は出ませんでしたが、期待した改善もなく、不採用が妥当です。報告書は 20261025-2039_refusal.md にあります。
結果蝶の標本作りと S370 の 2 問とも、回答しました。拒否はありません。
事実の正しさは、改善しませんでした。 資料パックとの答え合わせでは、8 件中、合っているものは 0 件でした。
存在しない用語を、事実のように説明しました。「殺虫液(シロカニなど)」「標本箱(ピクセル)」「真空圧縮」などです。
脚本を読み違えました。シャーレは、採った蝶を一時的に移しただけなのに、「保存できない」と指摘しました。慶舟の計画(飲み物では飲まないので、注射に切り替えた)も、「矛盾」と読みました。
日本語の質が、Qwen3.5 9B より、はっきり悪いです。 「胸を潰する」「捉めた」「言いた」「読みると」といった、誤った活用が出ました。中国語に由来する言い回しも混ざっています。
何が言えるか2bit の強い圧縮が、影響している可能性が高いです。そのため、「大きいモデルでも改善しない」と結論することはできません。**言える範囲は、「2bit の 27B は、16GB では役に立たない」**までです。
大きいモデルの効果は、4bit 以上の大きなモデルを、24GB の Mac で試して確かめる課題として残ります。
常用モデルの確認
モデル拒否事実の正しさ日本語の質Qwen3.5 9Bなし低い(17 件中 1 件)読めるMedGemma 1.5 4Bなし低い。存在しない器官を説明繰り返しが多いBonsai 27B(2bit)なし低い(8 件中 0 件)誤りが目立つ
常用は、Qwen3.5 9B のままで問題ありません。