メインコンテンツへスキップ
見出し画像

【第3回】VGGNet vs GoogLeNet ―― 深さと広さの競演 ――

    皆さん、こんにちは。ハンバーガーおじさんです。

    前回、AlexNetがGPUという「巨大バーナー」でAI界にビッグバンを起こしたお話をしました。

    それを見た世界中の「研究者」たちは、こう考えました。 「火力があるなら、もっと複雑で繊細なレシピ(構造)が作れるはずだ」

    そうして迎えた2014年。画像認識コンペILSVRCでは、歴史に残る2つの名店(モデル)が激突しました。 それが、私の大好きなVGGNetと、独創的なGoogLeNetです。2014年のILSVRC(画像認識コンペ)の順位表を見てみましょう。

    • 優勝:GoogLeNet(エラー率 6.67%)

    • 準優勝:VGGNet(エラー率 7.32%)

    その差、わずか0.65%。 Googleが「インセプションモジュール」という超複雑な最新鋭のラインを構築して王座を掴み取った一方で、VGGは「3×3のフィルタを積み重ねる」という、どこまでも愚直でストレートな設計で王者に肉薄しました。


    1. 3×3の黄金比:VGGNetの「職人技」

    まずは、私が最も美しいと感じるモデル、オックスフォード大学のVGG 16です。

    画像
    VGGNetの構造図
    引用元:https://www.abtosoftware.com/blog/kitchen-furniture-appliances-recognition-in-photos

    引用論文: Simonyan, K., & Zisserman, A. (2014). "Very Deep Convolutional Networks for Large-Scale Image Recognition." arXiv.

    AlexNetは11×11といった大きな「包丁(フィルタ)」でざっくり切っていましたが、VGGは違いました。彼らは**「3×3の小さな包丁」**しか使いません。

    🍔 なぜ3×3なのか?

    • 受容野の確保: 3×3を3層重ねると、計算上は7×7の大きなフィルタ1層と同じ範囲を見ることができます。

    • 表現力の向上: 層を重ねるごとに「ReLU(活性化関数)」を通すため、より複雑な特徴(肉の脂身の分布など)を非線形に捉えられるようになります。

    • パラメータ削減: 大きなフィルタを使うより、小さなフィルタを重ねる方が、調整すべき重みの数(パラメータ)を節約できるのです。

    この**「3×3を積み重ねる」**というスタイルは、後の画像生成モデル(Stable Diffusionなど)でも採用される「黄金の様式美」となりました。


    2. 厨房の効率化:GoogLeNetの「インセプション」

    一方、Googleのチームが提案したGoogLeNetは、まさに「未来の自動化工場」でした。

    画像
    論文:https://viso.ai/deep-learning/googlenet-explained-the-inception-model-that-won-imagenet/

    論文: Szegedy, C., et al. (2014). "Going Deeper with Convolutions." CVPR.

    彼らの悩みは、「深いのはいいけど、計算量が多すぎて工場のラインが止まる(メモリ不足)」ことでした。そこで発明されたのがInception(インセプション)モジュールです。

    ⚙️ 迷ったら全部やる「並列ライン」

    「1×1」「3×3」「5×5」のどの包丁がいいか悩むくらいなら、全部並列で実行して、後で結果をガッチャンコすればいいじゃないかという力技です。 ここで重要なのが、計算を軽くするための「1×1畳み込み」。情報を圧縮してから大きな処理に回すこの手法は、まさに生産技術の「工程集約」そのものです。


    3. エンジニアの目:Pythonで見る構造の違い

    VGGのシンプルさと、GoogLeNetの複雑さをコードで比較してみましょう。

    Python

    # --- VGGNet風:ひたすら3x3を重ねる「職人の縦積み」 ---
    def vgg_block(x, filters, layers):
        for _ in range(layers):
            x = Conv2D(filters, (3,3), padding='same', activation='relu')(x)
        x = MaxPooling2D((2,2), strides=(2,2))(x)
        return x
    
    # --- GoogLeNet風:複数のフィルタを並列で動かす「工場の横並び」 ---
    def inception_module(x, f1, f3_r, f3, f5_r, f5, proj):
        branch1 = Conv2D(f1, (1,1), padding='same', activation='relu')(x)
        
        branch2 = Conv2D(f3_r, (1,1), padding='same', activation='relu')(x)
        branch2 = Conv2D(f3, (3,3), padding='same', activation='relu')(branch2)
        
        # ...各ブランチを並列処理して最後に結合(concatenate)
        return concatenate([branch1, branch2, branch3, branch4])
    

    4. なぜVGGは愛され続けるのか?

    コンペの優勝はGoogLeNetでしたが、その後の研究で圧倒的に使われたのはVGGでした。

    理由はシンプル。**「使いやすくて、転用しやすい」**からです。 構造が一本道で分かりやすいため、学習済みのVGGから特徴量を取り出して他のAIに転用する(転移学習)のが非常に楽だったのです。

    ComfyUIなどの画像生成AIでも、画像の特徴を捉える「エンコーダー」としてVGG的な発想が今も息づいています。


    5. まとめ:ハンバーガーおじさんの考察

    2014年のこの戦いは、私に大切なことを教えてくれました。 「洗練されたシンプルな様式(VGG)」は、時として「複雑で高度なシステム(GoogLeNet)」よりも、後世に大きな影響を与えるということです。

    工場のラインでも、凝りすぎた自動機より、シンプルでメンテナンスしやすい治具の方が長く現場で愛されるのと似ていますね。

    しかし、この「深層化」の競争は、ついに一つの物理的限界にぶつかります。 **「層を深くしすぎると、逆に精度が落ちる」**という謎の現象です。

    次回。100段重ねのタワーバーガーを可能にした、AI史上最大の「バイパス手術」。 【第4回】ResNet ―― 100段重ねを可能にした革命的スキップ ――

    深層学習が本当の意味で「深層(ディープ)」になった瞬間に迫ります。 次回の調理もお楽しみに!


    第3回 参考文献

    • Simonyan, K., & Zisserman, A. (2014). Very Deep Convolutional Networks for Large-Scale Image Recognition.

    • Szegedy, C., et al. (2014). Going Deeper with Convolutions.



     
     
    PaperspaceのPRO(月額8ドル)で生成AIで遊んでいます。 学んだ内容を忘備録として記事化します。記事化にあたってはAIの力を借りてます 趣味:ハンバーガ作り

    あなたへのおすすめ