メインコンテンツへスキップ
見出し画像

そもそもLLM(大規模言語モデル)とは(4)

    LLMの「追加学習」には、主に3つのアプローチがあります。何を追加で学習させたいかによって、最適な手法が異なります。

    ここでは、**「モデルのパラメータを更新して知識や振る舞いを修正・追加する手法」と「モデル自体は変えずに外部知識を参照させる手法」**の2つの切り口で説明します。


    🚀 アプローチ 1:モデルのパラメータを更新する(再学習)

    これは、モデル内部の「重み」や「結合強度」を新しいデータで変更し、モデル自体の性能や知識を恒久的に向上させる方法です。

    1. ファインチューニング(Fine-tuning)

    事前学習で獲得した一般的な知識を土台にしつつ、特定のタスクやドメイン(例:医療、金融)に特化したデータセットでモデル全体または一部を再学習させる手法です。

    • 目的:

      • 特定のタスクへの最適化: 例:「質問応答」タスクの精度を上げる。

      • 特定のドメイン知識の追加: 例:企業の内部文書や専門用語を学習させる。

      • 回答スタイル/トーンの調整: 例:顧客対応のように丁寧な言葉遣いを学習させる。

    • 特徴: モデルの精度やパフォーマンスを直接的に向上させることができますが、全パラメータを更新するには計算リソース(GPU)と時間が多く必要になります。

    💡 効率的なファインチューニング手法 (PEFT)

    大規模なLLMの全パラメータを更新するのは非効率的であるため、近年は**PEFT (Parameter-Efficient Fine-Tuning)**という手法が主流です。

    • LoRA (Low-Rank Adaptation): モデルの大部分のパラメータを固定(フリーズ)したまま、ごく一部の低ランク行列という小さなパラメータ群だけを追加し、それを学習させます。これにより、学習コストと必要なストレージが劇的に削減されます。

    • Adapter型: 事前学習済みモデルの層の間に、小さなモジュール(アダプター)を挿入し、このアダプター部分だけを学習させる手法です。

    2. 継続事前学習(Continued Pre-training)

    モデルが事前学習したデータには含まれていなかった新しい時代の情報や、特定の専門分野の情報(例:2024年以降の最新ニュース、特定の科学論文)を、事前学習とほぼ同じ方法で、さらに学習させる手法です。

    • 目的: モデルの知識を時代に合わせて更新したり、専門領域の知識量を増やしたりすること。

    • 特徴: モデルの知識ベースそのものを広げることができますが、ファインチューニングよりも大量のデータと高い計算コストがかかります。


    📚 アプローチ 2:モデル自体は変えずに知識を参照させる

    これは、モデルのパラメータを一切変更せず、最新の情報や専門的な外部知識を回答生成時に「カンニング」させる手法です。

    RAG (Retrieval-Augmented Generation)

    • 目的: モデルが学習していない最新情報や企業内の機密文書など、特定のドキュメントに基づいた正確な回答を生成すること。

    • 仕組み:

      1. ユーザーが質問(プロンプト)をします。

      2. システムが質問の内容に基づき、**外部データベース(企業のドキュメント、最新のWebページなど)**から関連性の高い情報を検索(Retrieval)します。

      3. 検索で得られた**「外部情報」**を、元のユーザーの質問と一緒にLLMに入力として渡します。

      4. LLMは提供された外部情報を**文脈(コンテキスト)**として参照し、正確な回答を生成(Generation)します。

    • 特徴: モデルを再学習させる必要がないため、コストがかからず、最新情報への対応やデータの更新が非常に容易です。多くのビジネス用途で採用されています。


    まとめ:

    画像

    最新のLLM(大規模言語モデル)は説明した複数の手法を組み合わせて新しい知識を獲得したり、ユーザーのニーズに応えたりしているんですね。


    あなたへのおすすめ