メインコンテンツへスキップ

AI:007-玄三×葵 AI編【第7話】「Neural Networkは人間の脳なのか?」玄三、Deep Learningの“Deep”を覗くの巻

    タイトル:AI:007-玄三×葵 AI編【第7話】「Neural Networkは人間の脳なのか?」玄三、Deep Learningの“Deep”を覗くの巻
    URL:【公開後に追加】
    更新日時:2026年11月10日更新
    ハッシュタグ:#AI #DeepLearning #NeuralNetwork #MachineLearning #Parameter #Backpropagation #Technology #Business #玄三と葵

    「これがNeural Network。」

    葵はノートを玄三の前に置いた。

    丸。

    線。

    丸。

    線。

    丸。

    玄三はしばらく見ていた。

    「配線図か?」

    「違う。」

    「Organization Chartか?」

    「違う。」

    「なら、なぜ丸と線ばかりなんだ。」

    「説明しやすいから。」

    「また比喩か。」

    「今日は仕組みに戻るから大丈夫。」


    Neural Networkという名前が誤解を招く

    「まず一番最初に。」

    葵は大きく書いた。

    Neural Network ≠ Human Brain

    玄三が頷く。

    「これは前回も聞いた。」

    「大事だからもう一回。」

    Neural Networkという名前は、

    Neuron、つまり神経細胞から着想を得ている。

    だが、現在のArtificial Neural Networkは、

    人間のBrainそのものをComputer上に再現しているわけではない。

    「なら、“AIは人間の脳と同じ仕組みで考える”は言いすぎ。」

    「そう。」

    「脳っぽい名前を使った数学的なModel。」

    「入口としては、その方が正確。」


    一つのNeuronは何をする?

    葵は一つの丸だけ描いた。

    そこへ三本の線をつなぐ。

    Input 1

    Input 2

    Input 3

    「それぞれのInputを受け取る。」

    「うむ。」

    「でも全部を同じ重さで見るわけじゃない。」

    それぞれに、

    Weight

    がある。

    玄三が反応した。

    「WeightというのがParameterか。」

    「そう。」

    重要なInputには大きな影響。

    あまり重要でないInputには小さな影響。

    それらを組み合わせて計算し、

    一定の変換をして次へ渡す。

    「かなり単純な部品だな。」

    「一個だけならね。」


    単純な部品を大量につなぐ

    葵は図を広げた。

    左にInput。

    真ん中にたくさんの丸。

    右にOutput。

    「こういう計算のUnitをたくさんつなぐ。」

    「これがNetwork。」

    「そう。」

    玄三が真ん中を指差した。

    「Layerというのは?」

    「計算を段階的に重ねる層。」

    Input Layer。

    Hidden Layer。

    Output Layer。

    「Hiddenというのは秘密なのか?」

    「違う。」

    「ではなぜHiddenだ。」

    「外から直接InputやOutputとして見えてない中間部分だから。」

    玄三は不満そうだった。

    「名前の付け方をもう少し考えた方がいい。」


    Deep Learningの「Deep」は深く考えるという意味ではない

    「ここ超重要。」

    葵が書いた。

    Deep ≠ 深く考える

    「Deep LearningのDeepは、人間みたいに深く思考するという意味じゃない。」

    「Layerが多い。」

    「そう。」

    複数のLayerを重ね、

    段階的な変換を何度も行う。

    「だからDeep。」

    玄三は呆れた。

    「随分物理的なDeepだな。」

    「そうなんだよ。」

    「名前だけ聞いたら哲学的思考でも始めそうだ。」


    なぜLayerを重ねるのか?

    玄三が聞いた。

    「一層では駄目なのか?」

    「複雑な関係を表現しにくい。」

    Layerを重ねることで、

    Inputから直接答えへ飛ぶのではなく、

    途中にさまざまなRepresentationを作ることができる。

    画像を例に考えると、

    単純な線や境界。

    そこから、より複雑な形。

    さらに物体を区別するために役立つPattern。

    といったように、

    段階的なRepresentationが形成される場合がある。

    玄三が言った。

    「最初から“これは猫”というRuleを書かない。」

    「そう。」

    「大量のDataから、識別に役立つ内部表現を学ばせる。」

    「それがDeep Learningの強さの一つ。」


    人間が「特徴」を全部書かなくてよくなった

    「昔の画像認識ではね。」

    葵が説明を続けた。

    人間が、

    Edgeを探す。

    Shapeを見る。

    特定の特徴量を計算する。

    といったFeature Engineeringを多く行うことがあった。

    Deep Learningでは、

    Taskに役立つRepresentation自体も、

    Dataから学習させられる。

    玄三が言った。

    「Ruleだけでなく、“どこを見るか”まで学ばせるようになった。」

    「かなり近い。」

    「それで画像、音声、Languageが一気に進んだ。」

    「うん。」


    では、どうやって正しいWeightにする?

    玄三は一つの線を指した。

    「最初からWeightの正解が分かっているわけではないんだろう?」

    「もちろん。」

    「では何百万、何十億というParameterを誰が調整する?」

    「Training。」

    「それはもう聞いた。」

    玄三は首を振る。

    「どうやって、どのParameterをどちらへ動かすか分かる?」

    葵が笑った。

    「今日は数式なしでそこまで行こう。」


    まず、間違いの大きさを測る

    たとえば画像を見せる。

    正解は猫。

    Modelは、

    猫 20%

    犬 70%

    その他 10%

    と答えた。

    「間違えてる。」

    「明らかにな。」

    そこで、

    ModelのPredictionと正解が、

    どれくらいずれているかを数値で測る。

    これがLoss。

    玄三が書いた。

    Loss = 予測と目標のズレを測る指標

    「Lossを小さくしたい。」

    「そう。」


    間違いを後ろからたどる

    「そこでBackpropagation。」

    玄三が顔をしかめた。

    「今日は横文字が多い。」

    「日本語だと誤差逆伝播。」

    「もっと難しくなった。」

    考え方はこうだ。

    Outputが間違った。

    では、

    その間違いに、

    前のLayerのWeightがどれだけ影響したか。

    さらにその前は。

    と後ろからたどっていく。

    そして、

    Lossが小さくなる方向へ、

    Parameterを少しずつ変更する。

    「全部のParameterに、今回どれくらい責任があったかを見るようなものか?」

    葵が少し考える。

    「比喩としては近い。でも“責任”という意思はないからね。」

    「分かっとる。」


    これを何度も繰り返す

    Prediction。

    Lossを計算。

    Parameterを調整。

    またPrediction。

    またLoss。

    また調整。

    膨大なDataについて繰り返す。

    玄三が言った。

    「だからTrainingに大量の計算が必要になる。」

    「そう。」

    「Parameterが増えれば、調整する数字も増える。」

    「そう。」

    「Dataが増えれば、繰り返す計算も増える。」

    「そう。」

    玄三が頷いた。

    「前回のGPUの話につながった。」

    「やっと全部つながってきたでしょ。」


    Lossが下がれば、Businessで使えるのか?

    玄三が聞いた。

    「Lossが小さくなった。」

    「うん。」

    「完成か?」

    葵は笑った。

    「聞くと思った。」

    Training中のLossが下がることと、

    実際の世界で良いPerformanceを出すことは同じではない。

    Training Dataを覚えすぎて、

    見たことのないDataでは弱くなる場合もある。

    「Overfitting。」

    「過学習か。」

    「知ってるじゃん。」

    「新聞で読んだ。」


    過去問を丸暗記した学生

    玄三が言った。

    「過去問を全部丸暗記して100点を取った。」

    「うん。」

    「しかし問題が少し変わると解けない。」

    「その比喩、かなり分かりやすい。」

    Training Dataでは良い。

    しかし未知Dataでは弱い。

    Businessで欲しいのは、

    過去Dataにだけ正しいModelではなく、

    新しいCaseでも使えるModel。

    これを考えるために、

    Training Dataと、

    Model調整に使うData、

    最後の評価に使うDataを分ける。

    「Train、Validation、Test。」

    「そう。」

    玄三は書いた。

    Trainingで良い ≠ Real Worldで良い


    Parameterが多ければ、必ず賢くなるのか?

    「前にも聞いたが。」

    玄三が言う。

    「Parameterが多いほど良いのか。」

    「やっぱり単純じゃない。」

    Modelの大きさだけでなく、

    Training Data。

    Architecture。

    Training方法。

    Compute。

    Evaluation。

    Post-training。

    さらには使うときのContextやTool。

    いろいろな要素が関係する。

    玄三は苦笑した。

    「経営会議で、一つのKPIだけで会社を評価するなと言っているのと同じだ。」

    「Parameter数ランキングだけ見てもダメ。」

    「大きい方が売りやすいのだろうがな。」


    AIは自分で「特徴」を発見する。でも、それが正しいとは限らない

    玄三が少し真剣な顔になった。

    「一つ気になる。」

    「なに?」

    「Dataから特徴を学ぶということは、人間が意図していないものまで使う可能性がある。」

    葵が止まった。

    「あるね。」

    例えば採用。

    過去の採用結果をTraining Dataにする。

    もし過去の判断にBiasが含まれていたら、

    ModelがそのPatternまで学ぶ可能性がある。

    「AIがBiasを作ったのではなく、人間社会のBiasを学習する場合もある。」

    「そう。」

    「しかも複雑なNetworkなら、なぜその判断になったか分かりにくいこともある。」

    「Explainabilityの問題につながる。」

    玄三は書いた。

    Learning Pattern ≠ Desirable Pattern


    「学べる」と「学ばせてよい」は違う

    「これ、Season 1でも似た話があったな。」

    「どれ?」

    「Technologyでできることと、やってよいことは違う。」

    葵が頷いた。

    Dataがある。

    Modelが学習できる。

    Accuracyが上がる。

    それでも、

    そのDataを使ってよいか。

    その判断をAIに任せてよいか。

    そのFeatureを使ってよいか。

    別の問いが残る。

    「TechnologyのCapabilityとGovernanceは別。」

    「そうだ。」


    今回の二人の学び

    玄三が学んだこと

    Neural Networkは、

    人間のBrainそのものではない。

    Inputを受け、

    WeightなどのParameterを使って計算し、

    Layerを何段も重ねてOutputを作る数学的なModel。

    Deep Learningの「Deep」は、

    深く考えることではなく、Layerを深く重ねること。

    Trainingでは、

    Predictionと正解のズレをLossで測り、

    Backpropagationなどを使って、

    Lossが小さくなる方向へParameterを調整していく。

    しかし、

    Training Lossが小さいことと、

    実世界で使えることは同じではない。

    葵が学んだこと

    Deep LearningがDataからFeatureを学べることは強力。

    しかし、

    学習したPatternがBusiness上望ましいPatternとは限らない。

    過去DataにBiasがあれば、

    そのBiasを反映する可能性もある。

    Technologyとして「学べる」ことと、

    Businessとして「学ばせてよい」ことは別。

    Model Qualityだけでなく、

    Data、Evaluation、Governanceまで見る必要がある。


    玄三はNeural Networkの図をもう一度見た。

    「ようやく、Deep Learningという言葉が少し怖くなくなった。」

    「よかったじゃん。」

    「丸と線の塊だった。」

    「実際はもっと複雑だけどね。」

    「それは今は聞かん。」

    「賢明。」

    玄三は次のページを開いた。

    「では、これを巨大にしたらChatGPTになるのか?」

    葵が笑った。

    「惜しい。」

    「違うのか。」

    「Neural Networkを大きくするだけじゃない。」

    大量のData。

    Pre-training。

    Post-training。

    そして人間の指示に答えられるようにする工程。

    「次はそこ。」

    玄三はペンを持ち直した。

    「ようやくGenerative AIに近づいてきたな。」

    このシリーズを読む

    ↩ 第1回に戻る

    AI:001|「AIって、結局何なんだ?」玄三、“人工知能という言葉の正体”から学び直すの巻

    第1回のURL:【公開後に追加】

    ← 一つ前のブログに戻る

    AI:006|「正解を教えない学習もある?」玄三、Machine Learningの“学び方”を整理するの巻

    ひとつ前のURL:【公開後に追加】

    ▶ 次のブログを読む

    AI:008|「巨大Modelを作れば、すぐChatGPTになる?」玄三、Pre-trainingとPost-trainingを知るの巻

    次のURL:【公開後に追加】

    葵より一言。

    Deep Learningの「Deep」は、

    AIが人間より深く考えるって意味じゃない。

    単純な計算をたくさんのLayerで重ねて、

    Dataから複雑なPatternを学べるようにする。

    仕組みが少し見えるだけで、

    「AIが考えている」という言葉の見え方も変わってくる。

    玄三より一言。

    Dataから自分でPatternを見つける。

    確かに強力だ。

    だが、

    見つけたPatternが正しいことと、望ましいことは違う。

    AIが何を学べるかだけでなく、

    何を学ばせるべきか。

    そこは人間が判断し続けなければならん。

     
     
    「玄三×葵(ゲンゾウとアオイ)」――70歳の元常務・玄三と、20歳の大学生・葵が、サイバーセキュリティ、AI、量子論などの現代テクノロジーを一緒に学ぶ会話型ブログ。直観では捉えにくい技術を、経営・リスク・日常の視点からやさしく深く読み解きます。

    あなたへのおすすめ