
プロンプト・RAG・追加学習、どこを直すべきか|LLMの失敗を診断する6ケース
社内向けの経費精算チャットボットに「日帰り出張の宿泊費特例は使えますか」と尋ねたとき、半年前に廃止されたはずの旧ルールが堂々と返ってくる。そんな場面に出くわしたとき、チームの打ち合わせではどのような対策が真っ先に挙がるでしょうか。
「プロンプトの末尾に『最新の規程を正確に読んで回答してください』と太字で足そう」と提案する人がいます。別の担当者は「いや、RAGのベクトル検索をチューニングしないと駄目だ」と言い、さらに詳しいメンバーが「いっそのこと社内文書でモデルを追加学習(ファインチューニング)させよう」と切り出すかもしれません。
結局、一番手っ取り早いプロンプトの書き換えから手をつけ、その場の質問には答えられるようになります。ところが翌週になると、今度はJSONの出力形式が崩れたり、例外条件の金額計算を間違えたりと、別の場所が壊れ始めます。プロンプトの指示文ばかりが継ぎ接ぎで長くなり、なぜ直ったのか、次に何が起きるのかを誰も説明できないまま時間だけが溶けていく。これは多くの職場で繰り返されている光景です。
こうした堂々巡りから抜け出すために必要なのは、思いついた手法を片っ端から試す根気ではありません。失敗が起きたときに「モデルの重み」「検索して渡す文脈」「文脈内の読み取り」「出力の型制御」「外部の計算道具」「画像の解像度や切り出し」のどこでつまずいているのかを、1つずつ切り分ける診断の手順です。
この記事を読み終える頃には、LLMが期待外れの回答を出したとき、直ちに「プロンプトか、RAGか、追加学習か」と手法名で言い争うのではなく、入力と観測結果をもとに原因の層を特定できるようになります。次の定例会議で「今回の誤答はモデルが知識を持っていないからではなく、検索段階で旧版の文書しか上位に入っていないためです。だからプロンプトは触らず、検索時の日付フィルタを1箇所だけ変更して再試験します」と、根拠を持ってチームや上司に説明できる状態をゴールにしています。

図1:観測した失敗の位置から、比較する変更候補を選べるようにする。
現象から手法へ飛びつく会議を終わらせるために
表面上のエラーだけを見て対策を決め打ちすると、手戻りが膨らみます。たとえば計算ミスが起きているのに検索システムを作り直しても精度は上がりませんし、毎週のように改定される社内規程をモデルの重みに追加学習させようとすれば、学習データの権利確認や更新コストばかりがかさんでしまいます。
なぜその手法を選ぶのかを自分の言葉で説明するには、LLMが発展してきた歴史のなかで「モデルの重みを更新して身につけさせる役割」と「推論時に外部の資料や道具を組み合わせて制御する役割」がどう分担されてきたかを押さえておくのが近道です。背景にある仕組みの分担がわかれば、目の前の不具合に対して最小限の変更で済む打ち手が自然と絞られます。
続く有料部分では、まずLLMの事後学習とプロンプト・RAG・ツール制御の役割の違いを整理します。そのうえで、どの職場でも馴染みのある「経費精算と社内規程」を題材にした6つの新規症状カードを1つずつ診断していきます。
扱うのは、①新しい規程が文脈にない、②旧規程しか検索されない、③文脈内の例外条件を落とす、④出力形式が安定しない、⑤計算式の選択を誤る、⑥小さな図の対象を取り違える、という6つの症状カードです。症状から直ちに手法を決め打ちせず、「切り分け入力」「観測」「変更1つ」「再試験」「なお残る限界」を1つずつ埋めることで、闇雲なプロンプト修正や不要な追加学習に時間を溶かす状態から抜け出せます。
さらに記事末尾には、オフラインでそのまま使える実践付録ZIP(全4ファイル)を用意しました。本文と同じ架空条件・演習を表計算ソフト等で開けるCSV(exercise.csv)、ブラウザで記入してテキスト保存・印刷・解答例表示ができる記入票(worksheet.html)、解答例と根拠・次に確かめることをまとめた解説(answers.txt)、そして案内(README.txt)が一式手元に残ります。次の会議から「なぜそこを1箇所だけ変え、どう再試験するのか」を自分の言葉で説明するための実務キットとして活用してください。
関連するKindle書籍
このテーマを一冊で掘り下げたい方へ。私が執筆した関連書籍を、読む目的ごとにまとめました。
今回のテーマを深掘りする
『LLM進化の歴史』 — 言葉の予測から、推論・マルチモーダル・エージェントへ至る変化を追う。
『AIハーネス実装・改善ガイド』 — エージェントの失敗を観測し、復旧・評価・改善につなげる実装を学ぶ。
基礎と全体像をつなげる
『AIエージェントのハーネス設計』 — 実行ループ・記憶・ツール・評価をつなぐ設計から押さえる。
『機械学習からLLMへ』 — AIが何を学び、どこで進化したのかを、機械学習から順にたどる。
『LLMだけではわからないAIの現在地』 — 予測・画像生成・ロボティクスなど、LLM以外の取り組みも見渡す。
『第9巻:人工知能 (AI) & 機械学習』 — 人工知能と機械学習を広く学ぶための既刊。