
【要約】スタンフォード大学CS229「ChatGPTはどう作られるのか?」を普通の人向けにわかりやすくまとめてみた
LLM(ChatGPTやGemini)がどう作られているかを、
「めちゃくちゃ優秀な新人を育てる流れ」
で考えるとかなりわかりやすいです。
ざっくり言うと、
①大量に勉強させる
↓
②人間っぽく教育する
↓
③超ハイスペックな設備で動かす
この3段階です。
——————————
■ まずLLMって何してるの?
実はやってることは超シンプルです。
「次に来そうな言葉を予測しているだけ」
例えば
「私は朝ごはんにパンを…」
と来たら、
「食べた」
「焼いた」
「買った」
など、“次に来そうな単語”を予測しています。
これをインターネット中の文章で、
何兆回も繰り返してる。
つまりChatGPTは、
“世界最大規模の文章予測マシン”
です。
——————————
■ ①事前学習(Pre-training)
これは
「インターネット全部読ませる工程」
です。
例えるなら、
新人に
・本
・SNS
・Wikipedia
・ニュース
・掲示板
・論文
を全部読ませる感じ。
ただし、
ネットの情報はゴミも大量にあります。
だからAI企業は、
・広告除去
・変な文章削除
・個人情報削除
・重複削除
・エロ/暴力除去
・低品質サイト除外
みたいな“掃除”を超本気でやってます。
今のAI業界は、
実は「AIモデルそのもの」より、
“どれだけ綺麗なデータを集められるか”
の勝負になってます。
——————————
■ トークンって何?
AIは文字をそのまま読めません。
だから文章を細かく分解します。
例えば
「ありがとうございました」
↓
「ありがとう」
「ござい」
「ました」
みたいに細かく切る。
これを「トークン化」と言います。
AIはこのトークン単位で
次を予測してます。
——————————
■ スケーリング則がヤバい
ここがLLM革命の核心です。
普通、
人間でも勉強しすぎると
頭がおかしくなりますよね。
でもLLMは、
「データ量」
「GPU」
「モデルサイズ」
を増やせば増やすほど、
素直に強くなる。
しかも、
まだ伸び続ける。
これがAI業界が
数千億〜数兆円突っ込んでる理由です。
つまりOpenAIやGoogleは今、
「どこまで巨大化させられるか」
の戦争をしてる。
——————————
■ ②事後学習(Post-training)
ここが
“ただの賢い文章生成機”
から、
“便利なAIアシスタント”
に変わる工程です。
——————————
■ SFT(教師あり学習)
これは
「人間っぽい受け答えを教える」
工程。
例えば、
Q「ダイエットしたい」
に対して、
悪いAI:
「摂取カロリーと消費カロリーです」
良いAI:
「まずは極端な食事制限より、続けられる習慣作りから始めましょう」
みたいな違い。
つまり
“どう答えると人間が喜ぶか”
を学習させてます。
——————————
■ RLHF / DPO
ここは超重要。
AIは放置すると、
普通に嘘つきます。
それっぽい嘘を。
だから人間が、
「こっちの回答の方が自然」
「こっちは危険」
「これは不快」
みたいに評価します。
で、
最近はDPOっていう方法が主流。
簡単に言うと、
「良い回答を増やして、
悪い回答を減らす」
だけ。
めちゃシンプル。
今のChatGPTっぽさは、
かなりこの工程で作られてます。
——————————
■ つまり今のAIは
“知能”というより、
「超大量の知識」
×
「人間が好む返答パターン」
×
「超膨大な計算」
で成立してる。
——————————
■ ③最後は“物量戦”
ここエグいです。
LLMは、
とにかくGPUを使います。
しかも数万枚。
電気代だけでヤバい。
だからAI企業は、
・通信を減らす
・メモリ節約
・計算をまとめる
・16bit化する
みたいな、
超地味だけど重要な高速化をしています。
F1のエンジン開発みたいな世界。
——————————
■ 今のAI業界のリアル
昔:
「新しいAI構造を発明しよう」
今:
「データ集めろ」
「GPU集めろ」
「人間好みに調整しろ」
になってます。
つまり現在の最強AI競争は、
“頭の良さ”
だけじゃなく、
「データ」
「資本力」
「GPU」
「運用力」
「人間のフィードバック」
の総力戦。
——————————
■ 超ざっくり結論
ChatGPTは、
①ネットを死ぬほど読んで
②人間っぽく教育されて
③超大量GPUで鍛えられた
“文章予測の怪物”
です。
でも逆に言えば、
今後AIを使いこなす側は、
「どんなデータを与えるか」
「どう調整するか」
「どう使うか」
が重要になります。
だから今後は
“AIを作れる人”だけじゃなく、
“AIを教育・運用できる人”
の価値がめちゃくちゃ上がります。