RAGとローカルLLM/2026年1月
以前だと以下のページに書いていたようなことを整理・追記していく。
セキュリティ(そんな重要か異論が大いにある情報もあるが)やコスト(を気にするほど使ってくれよ)の観点でローカルLLMが、やっぱウェブで学んだAIの一般論的な知識じゃ足りないということでRAGが現実的な解だよな、AIエージェントがーとかいう前に。
RAG
についての基本を再び、そして
ちょっと専門的だけど、検索性能を向上させるためのテクニックを。
その性能の評価方法についても大事。
ローカルLLM
は以前はSLMとかオープンLLMとか別の言い方もしてたけど、まぁ手元で動くと嬉しい。まずは環境構築から。
もちろん業務用はパワフルな環境が良い。ローカルAIにメモリは大切。
ローカルLLM自体についても。
日本製ではないけれど、性能の良い日本語SLMもあるらしい。
これが日本製でないところが少し残念。。https://t.co/T9qrP1FeM6https://t.co/PWsQVFZE3n https://t.co/ljgR04OOtv
— IT navi (@itnavi2022) January 11, 2026
チャット機能より複雑なことをしたければ、DIfyを入れるとか、必要なデータをローカルに持っておくとか、工夫がいる。
ローカルLLMのfine-tuningや継続事前学習、こんなサクッとできたのね。
事例
ローカルLLM環境をまるっと提供するサービスは面白いと思う、個々の企業でやるとワークステーションの調達から最近は結構手間だったしな。2025年日経優秀製品・サービス賞 最優秀賞を含めて類似サービスはいくつか見たけれど、更に面白いのは行政向けもうたってる企業も。
RAGを使って日本語の高性能な回答を得るには、日本語データベースの開発が必要で、経産省が取り組みを開始。
ただ、データ量だけあっても役立たないことも多くてね、、、
AI活用を盛んにしたければ、AIにRAGとして投入するデータの整備が必要で、これまで地味で誰もやりたがらなかったことだけど、これから人材としての需要は高まるはず。
でも恐らくは社内の人員を育成した方が良いと思う。なぜならJTCはデータ整備の前に、データ化してない不文律や暗黙知が多いのが問題だから。これって社外から専門家を連れてきただけでは解決しないよね_| ̄|○