メインコンテンツへスキップ
見出し画像

【要約】スタンフォード大学CS229「ChatGPTはどう作られるのか?」を普通の人向けにわかりやすくまとめてみた

    LLM(ChatGPTやGemini)がどう作られているかを、
    「めちゃくちゃ優秀な新人を育てる流れ」
    で考えるとかなりわかりやすいです。

    ざっくり言うと、

    ①大量に勉強させる  
    ↓  
    ②人間っぽく教育する  
    ↓  
    ③超ハイスペックな設備で動かす

    この3段階です。

    ——————————

    ■ まずLLMって何してるの?

    実はやってることは超シンプルです。

    「次に来そうな言葉を予測しているだけ」

    例えば

    「私は朝ごはんにパンを…」

    と来たら、

    「食べた」
    「焼いた」
    「買った」

    など、“次に来そうな単語”を予測しています。

    これをインターネット中の文章で、
    何兆回も繰り返してる。

    つまりChatGPTは、

    “世界最大規模の文章予測マシン”

    です。

    ——————————

    ■ ①事前学習(Pre-training)

    これは

    「インターネット全部読ませる工程」

    です。

    例えるなら、

    新人に
    ・本
    ・SNS
    ・Wikipedia
    ・ニュース
    ・掲示板
    ・論文

    を全部読ませる感じ。

    ただし、
    ネットの情報はゴミも大量にあります。

    だからAI企業は、

    ・広告除去
    ・変な文章削除
    ・個人情報削除
    ・重複削除
    ・エロ/暴力除去
    ・低品質サイト除外

    みたいな“掃除”を超本気でやってます。

    今のAI業界は、
    実は「AIモデルそのもの」より、

    “どれだけ綺麗なデータを集められるか”

    の勝負になってます。

    ——————————

    ■ トークンって何?

    AIは文字をそのまま読めません。

    だから文章を細かく分解します。

    例えば

    「ありがとうございました」

    ↓

    「ありがとう」
    「ござい」
    「ました」

    みたいに細かく切る。

    これを「トークン化」と言います。

    AIはこのトークン単位で
    次を予測してます。

    ——————————

    ■ スケーリング則がヤバい

    ここがLLM革命の核心です。

    普通、
    人間でも勉強しすぎると
    頭がおかしくなりますよね。

    でもLLMは、

    「データ量」
    「GPU」
    「モデルサイズ」

    を増やせば増やすほど、
    素直に強くなる。

    しかも、
    まだ伸び続ける。

    これがAI業界が
    数千億〜数兆円突っ込んでる理由です。

    つまりOpenAIやGoogleは今、

    「どこまで巨大化させられるか」

    の戦争をしてる。

    ——————————

    ■ ②事後学習(Post-training)

    ここが
    “ただの賢い文章生成機”
    から、

    “便利なAIアシスタント”

    に変わる工程です。

    ——————————

    ■ SFT(教師あり学習)

    これは

    「人間っぽい受け答えを教える」

    工程。

    例えば、

    Q「ダイエットしたい」

    に対して、

    悪いAI:
    「摂取カロリーと消費カロリーです」

    良いAI:
    「まずは極端な食事制限より、続けられる習慣作りから始めましょう」

    みたいな違い。

    つまり

    “どう答えると人間が喜ぶか”

    を学習させてます。

    ——————————

    ■ RLHF / DPO

    ここは超重要。

    AIは放置すると、
    普通に嘘つきます。

    それっぽい嘘を。

    だから人間が、

    「こっちの回答の方が自然」
    「こっちは危険」
    「これは不快」

    みたいに評価します。

    で、
    最近はDPOっていう方法が主流。

    簡単に言うと、

    「良い回答を増やして、
    悪い回答を減らす」

    だけ。

    めちゃシンプル。

    今のChatGPTっぽさは、
    かなりこの工程で作られてます。

    ——————————

    ■ つまり今のAIは

    “知能”というより、

    「超大量の知識」
    ×
    「人間が好む返答パターン」
    ×
    「超膨大な計算」

    で成立してる。

    ——————————

    ■ ③最後は“物量戦”

    ここエグいです。

    LLMは、
    とにかくGPUを使います。

    しかも数万枚。

    電気代だけでヤバい。

    だからAI企業は、

    ・通信を減らす
    ・メモリ節約
    ・計算をまとめる
    ・16bit化する

    みたいな、
    超地味だけど重要な高速化をしています。

    F1のエンジン開発みたいな世界。

    ——————————

    ■ 今のAI業界のリアル

    昔:
    「新しいAI構造を発明しよう」

    今:
    「データ集めろ」
    「GPU集めろ」
    「人間好みに調整しろ」

    になってます。

    つまり現在の最強AI競争は、

    “頭の良さ”

    だけじゃなく、

    「データ」
    「資本力」
    「GPU」
    「運用力」
    「人間のフィードバック」

    の総力戦。

    ——————————

    ■ 超ざっくり結論

    ChatGPTは、

    ①ネットを死ぬほど読んで  
    ②人間っぽく教育されて  
    ③超大量GPUで鍛えられた  
    “文章予測の怪物”

    です。

    でも逆に言えば、
    今後AIを使いこなす側は、

    「どんなデータを与えるか」
    「どう調整するか」
    「どう使うか」

    が重要になります。

    だから今後は
    “AIを作れる人”だけじゃなく、

    “AIを教育・運用できる人”

    の価値がめちゃくちゃ上がります。

    あなたへのおすすめ