
そもそもLLM(大規模言語モデル)とは(4)
LLMの「追加学習」には、主に3つのアプローチがあります。何を追加で学習させたいかによって、最適な手法が異なります。
ここでは、**「モデルのパラメータを更新して知識や振る舞いを修正・追加する手法」と「モデル自体は変えずに外部知識を参照させる手法」**の2つの切り口で説明します。
🚀 アプローチ 1:モデルのパラメータを更新する(再学習)
これは、モデル内部の「重み」や「結合強度」を新しいデータで変更し、モデル自体の性能や知識を恒久的に向上させる方法です。
1. ファインチューニング(Fine-tuning)
事前学習で獲得した一般的な知識を土台にしつつ、特定のタスクやドメイン(例:医療、金融)に特化したデータセットでモデル全体または一部を再学習させる手法です。
目的:
特定のタスクへの最適化: 例:「質問応答」タスクの精度を上げる。
特定のドメイン知識の追加: 例:企業の内部文書や専門用語を学習させる。
回答スタイル/トーンの調整: 例:顧客対応のように丁寧な言葉遣いを学習させる。
特徴: モデルの精度やパフォーマンスを直接的に向上させることができますが、全パラメータを更新するには計算リソース(GPU)と時間が多く必要になります。
💡 効率的なファインチューニング手法 (PEFT)
大規模なLLMの全パラメータを更新するのは非効率的であるため、近年は**PEFT (Parameter-Efficient Fine-Tuning)**という手法が主流です。
LoRA (Low-Rank Adaptation): モデルの大部分のパラメータを固定(フリーズ)したまま、ごく一部の低ランク行列という小さなパラメータ群だけを追加し、それを学習させます。これにより、学習コストと必要なストレージが劇的に削減されます。
Adapter型: 事前学習済みモデルの層の間に、小さなモジュール(アダプター)を挿入し、このアダプター部分だけを学習させる手法です。
2. 継続事前学習(Continued Pre-training)
モデルが事前学習したデータには含まれていなかった新しい時代の情報や、特定の専門分野の情報(例:2024年以降の最新ニュース、特定の科学論文)を、事前学習とほぼ同じ方法で、さらに学習させる手法です。
目的: モデルの知識を時代に合わせて更新したり、専門領域の知識量を増やしたりすること。
特徴: モデルの知識ベースそのものを広げることができますが、ファインチューニングよりも大量のデータと高い計算コストがかかります。
📚 アプローチ 2:モデル自体は変えずに知識を参照させる
これは、モデルのパラメータを一切変更せず、最新の情報や専門的な外部知識を回答生成時に「カンニング」させる手法です。
RAG (Retrieval-Augmented Generation)
目的: モデルが学習していない最新情報や企業内の機密文書など、特定のドキュメントに基づいた正確な回答を生成すること。
仕組み:
ユーザーが質問(プロンプト)をします。
システムが質問の内容に基づき、**外部データベース(企業のドキュメント、最新のWebページなど)**から関連性の高い情報を検索(Retrieval)します。
検索で得られた**「外部情報」**を、元のユーザーの質問と一緒にLLMに入力として渡します。
LLMは提供された外部情報を**文脈(コンテキスト)**として参照し、正確な回答を生成(Generation)します。
特徴: モデルを再学習させる必要がないため、コストがかからず、最新情報への対応やデータの更新が非常に容易です。多くのビジネス用途で採用されています。
まとめ:

最新のLLM(大規模言語モデル)は説明した複数の手法を組み合わせて新しい知識を獲得したり、ユーザーのニーズに応えたりしているんですね。