メインコンテンツへスキップ

RAGとローカルLLM/2026年1月

    以前だと以下のページに書いていたようなことを整理・追記していく。
    セキュリティ(そんな重要か異論が大いにある情報もあるが)やコスト(を気にするほど使ってくれよ)の観点でローカルLLMが、やっぱウェブで学んだAIの一般論的な知識じゃ足りないということでRAGが現実的な解だよな、AIエージェントがーとかいう前に。

    RAG

    についての基本を再び、そして

    ちょっと専門的だけど、検索性能を向上させるためのテクニックを。

    その性能の評価方法についても大事。

    ローカルLLM

    は以前はSLMとかオープンLLMとか別の言い方もしてたけど、まぁ手元で動くと嬉しい。まずは環境構築から。

    もちろん業務用はパワフルな環境が良い。ローカルAIにメモリは大切。

    ローカルLLM自体についても。
    日本製ではないけれど、性能の良い日本語SLMもあるらしい。

    これが日本製でないところが少し残念。。https://t.co/T9qrP1FeM6https://t.co/PWsQVFZE3n https://t.co/ljgR04OOtv

    — IT navi (@itnavi2022) January 11, 2026

    チャット機能より複雑なことをしたければ、DIfyを入れるとか、必要なデータをローカルに持っておくとか、工夫がいる。

    ローカルLLMのfine-tuningや継続事前学習、こんなサクッとできたのね。

    事例

    ローカルLLM環境をまるっと提供するサービスは面白いと思う、個々の企業でやるとワークステーションの調達から最近は結構手間だったしな。2025年日経優秀製品・サービス賞 最優秀賞を含めて類似サービスはいくつか見たけれど、更に面白いのは行政向けもうたってる企業も。

    RAGを使って日本語の高性能な回答を得るには、日本語データベースの開発が必要で、経産省が取り組みを開始。

    ただ、データ量だけあっても役立たないことも多くてね、、、

    AI活用を盛んにしたければ、AIにRAGとして投入するデータの整備が必要で、これまで地味で誰もやりたがらなかったことだけど、これから人材としての需要は高まるはず。
    でも恐らくは社内の人員を育成した方が良いと思う。なぜならJTCはデータ整備の前に、データ化してない不文律や暗黙知が多いのが問題だから。これって社外から専門家を連れてきただけでは解決しないよね_| ̄|○

     
     
    データ利活用まわりでサービス企画してるチーフなんたらサイエンティスト。なおX/twitterもnoteも私個人の意見であり、所属する組織の見解ではありません。 ( 厂˙ω˙ )厂うぇーい …… ○┼ バタッ

    あなたへのおすすめ