メインコンテンツへスキップ
見出し画像

AIインフラの未来を基礎から考える

    メモリ使用量が少なく安い中華AIが登場し、
    企業がこぞって乗り換え、
    OpenAIとAnthropicの資金繰りが悪化し、
    NVIDIA循環投資が止まり、
    AIバブルが崩壊する

    こんな説が流れており、メモリや半導体株が急落しています。

    これらは実は別々のレイヤーの話で、今回はAI、LLM、MoEという基礎用語の整理から始めて、
    学習と推論でメモリ需要がどう違うのか、
    なぜHBMがボトルネックになっているのか、
    そして中華AIのどこが正しくどこが飛躍しているのかをレイヤーごとに解きほぐしていきます。
    最後に各レイヤーで鍵を握る企業も整理します。

    そもそもAIとは何か

    AIは人工知能全般を指す広い言葉です。
    その中でここ数年話題の中心にあるのがLLM、大規模言語モデルです。LLMは大量の文章データからパターンを学習し、次に来る単語を予測することで文章を生成する仕組みを持っています。
    2022年に登場したChatGPT、そしてClaudeやGeminiなど、すべてこの仕組みの上に構築されたLLMです。

    LLMの中身は、ニューラルネットワークと呼ばれる巨大な数式の集合体です。
    パラメータ数、つまりこの数式の中の調整可能な数値の個数が多いほど、一般に賢いモデルになりやすいと言われてきました。
    GPT-4クラスのモデルは数千億から一兆規模のパラメータを持つとされています。

    ここで問題になるのが計算コストです。
    従来型のLLM、いわゆる密モデル(Dense Model)は、一つの質問に答えるたびにモデル内の全パラメータを計算に使います。
    パラメータが多ければ多いほど賢いんですから、より賢いモデルのためには多くのパラメータを使ったほうが良いと考えられてきました。
    当然ですが、パラメータ数が増えるほど、推論一回あたりの計算量とメモリ使用量が比例して膨らみます。

    そこで主流になってきたのがMoE、Mixture of Expertsという設計です。
    日本語では専門家混合モデルと訳されます。
    MoEはモデル内部を複数のエキスパートと呼ばれる小さなサブネットワークに分割し、一つの質問が来るたびに、その質問に適したごく一部のエキスパートだけを選んで計算する仕組みです。

    たとえるなら、密モデルは大企業の全社員が一つの案件に総出で対応するようなもので、MoEは大企業の中から案件に応じて数人の専門家だけを招集するようなものです。
    総パラメータ数は密モデルと同等かそれ以上に持てる一方、実際に一回の計算で動くパラメータ数、いわゆるアクティブパラメータは全体のごく一部に抑えられます。
    これにより、モデル全体の知識量を増やしながら、推論時の計算コストを抑えることができます。
    GPT-4以降のOpenAIのモデルや、DeepSeek、Kimi、Qwenといった中国発のモデルの多くがこの設計を採用しています。

    学習と推論でメモリの使われ方が全然違う

    ここが最も混同されやすいポイントです。
    AIモデルのライフサイクルは大きく学習(Training)と推論(Inference)の二段階に分かれ、必要なメモリの性質がまったく異なります。

    学習は、モデルにパラメータを獲得させる段階です。
    大量のテキストデータを読ませ、予測が外れるたびにパラメータを少しずつ修正していきます。このとき必要になるのは、パラメータ本体に加えて、勾配(パラメータをどちらにどれだけ修正すべきかという情報)と、オプティマイザの状態と呼ばれる調整用の補助データです。
    実務的には、学習時に必要なメモリはパラメータ数の10倍から20倍程度に膨らむことも珍しくありません。さらに学習は大量のGPUを束ねたクラスタで何ヶ月もかけて行われるため、GPU間の高速な通信帯域も同時に必要になります。ここでHBMの容量と帯域が両方ともボトルネックになります。

    推論は、学習済みのモデルを使って実際にユーザーの質問に答える段階です。
    パラメータ自体は固定されているため、学習ほど大きなメモリは不要ですが、代わりにKVキャッシュと呼ばれるデータが重くのしかかります。KVキャッシュとは、モデルが会話の文脈を保持するために必要な中間データで、扱う文章が長くなるほど、また同時に処理するユーザー数が増えるほど、際限なく膨らんでいく性質を持っています。
    エージェント型AIや長い文脈を扱う用途が増えるほど、この推論用メモリの需要は増加します。

    MoEはこの構図にひねりを加えます。
    総パラメータ数が巨大なため、モデル全体をメモリに載せておくための容量は依然として大きく必要です。ところが実際の計算に使うアクティブパラメータは一部に限られるため、計算力(演算性能)に対する要求は相対的に下がります。
    つまりMoEは計算力の需要を抑える一方で、メモリ容量そのものへの需要はむしろ維持、あるいは増やす方向に働きます。
    中華AIが安いのは主にこの計算コストの部分であり、メモリ需要そのものが消えたわけではない、という点は後で重要になります。

    なぜメモリがボトルネックになるのか

    画像
    BofAグローバルリサーチより引用

    この資料は、BofAグローバルリサーチによるNVIDIAのGPU世代ごとのHBM(High Bandwidth Memory、広帯域メモリ)コストの見通しです。HBMはGPUのすぐ近くに積層されたメモリで、GPUが演算するデータを高速でやり取りするための専用メモリです。
    GPU本体がどれだけ速くても、隣のメモリとのデータのやり取りが遅ければ全体の性能は頭打ちになるため、HBMの容量と帯域はAIチップの性能を決める実質的な制約条件になっています。

    資料によれば、Blackwell世代(B200)は1GPUあたりHBM192GB、1ラックあたり72基のGPUを搭載し、ラック全体では13,824GBのHBMを積みます。HBMの単価は1GBあたり11.26ドルで、ラックあたりのHBMコストは156万ドル相当になります。次のBlackwell Ultra(B300)ではGPUあたりのHBMが288GBに増え、単価も1GBあたり15.27ドルに上昇し、ラックあたりのHBMコストは317万ドルに拡大します。

    その次のRubin世代(V200)ではHBM4という新しい規格に切り替わり、単価はさらに1GBあたり18.40ドルまで上昇し、ラックあたりのHBMコストは382万ドルになります。
    そして最終段階のRubin Ultra(V300)では1GPUあたりのHBMが576GBまで倍増し、1ラックあたりのGPU数も144基に増えるため、ラック全体のHBM容量は82,944GBに達し、ラックあたりのHBMコストは1,534万ドルという規模になります。

    この資料が伝えたい核心は、GPU世代が進むごとにラック全体のコストに占めるHBMの比率がじわじわと上がっているという点です。Blackwellではラック原価の5.2%に過ぎなかったHBM比率が、Rubin Ultraでは7.3%まで上昇する計算です。GPU自体の性能向上ペースよりも、隣に積むメモリのコストと重要性の伸びの方が速いという構図が、この資料の見出しの背景にあります。

    これは単純に、モデルが大きくなり、MoEのように総パラメータ数を維持したまま計算を効率化する設計が広がったことで、GPU一基あたりに求められるメモリ容量そのものが増え続けているためです。
    計算力の伸びを半導体の微細化だけで賄うのが難しくなる中、メモリの積層技術(HBMの世代交代)がAIチップの性能向上のボトルネックであり同時に鍵にもなっている、という状況です。

    安い中華AIをレイヤーごとに検証する

    冒頭で紹介した「メモリ使用が少ない安い中華AI登場、企業が乗り換え、OpenAIとAnthropicの資金繰り悪化、NVIDIA循環投資消滅、AIバブル崩壊」という論は、いくつかの段階に分解して初めて検証可能になります。

    第一段階、中華AIはコストが安いのか。

    DeepSeekやKimi、QwenといったモデルはMoE設計を積極的に採用し、推論時のアクティブパラメータを絞ることで計算コストを下げています。ここは事実です。
    ただし前段で触れた通り、MoEが減らすのは主に計算力への需要であり、モデル全体を保持するためのメモリ容量への需要はむしろ高止まりしやすい構造です。安いのは主に推論の計算コストであって、メモリインフラそのものへの需要が消えるわけではありません。

    第二段階、企業がこぞって中華AIに乗り換えるか。

    これは技術的な性能だけでなく、データガバナンス、企業のコンプライアンス方針、地政学的なリスク評価が絡む経営判断です。
    コストだけで一気にスイッチが起きるという単純化は、企業のITベンダー選定の実態からするとやや飛躍があります。
    日本企業でも重要データなどを中国に盗まれるから使用禁止という所が現れるでしょう。

    第三段階、OpenAIとAnthropicの資金繰りが悪化するか。

    両社の収益構造や資金調達の状況は競合の値付けだけでなく、既存の大口契約や新規プロダクトの展開状況にも左右されるため、一つの外部要因だけで資金繰り全体を語るのは早計です。

    第四段階、NVIDIAの循環投資

    つまりNVIDIAが投資先のクラウド事業者やAI企業からGPU購入という形で資金が還流する構造が止まるか。
    ここは仮に推論需要の伸びが鈍化しても、学習需要(次世代モデルの開発競争)が別に存在するため、単一の需要源の減速がそのままインフラ全体の設備投資激減に直結するというロジックには飛躍があります。

    まとめると、この恐怖論は一部本当の観察(MoEによる推論コスト低下)を出発点にしながら、そこから先の因果の鎖を一足飛びに繋いでいる典型的なパターンです。個々の観察自体は無視すべきではありませんが、需給の転換点を見極めるには、この鎖の途中にある各段階のデータを一つずつ確認していく作業が欠かせません。

    各レイヤーで鍵を握る企業

    最後に、AIインフラを層ごとに分けて、どの企業が鍵を握っているかを整理します。

    計算層(GPU、AIアクセラレータ)ではNVIDIAが圧倒的な地位を占め、AMDが追う構図です。
    クラウド大手も自社設計チップ(GoogleのTPU、AmazonのTrainium、MicrosoftのMaia)を展開し、NVIDIA依存を下げる動きを進めています。

    メモリ層(HBM)ではSK Hynixが先行し、Samsung、Micronが追う三社寡占構造です。
    中国勢のCXMTやYMTCは中期的な供給拡大要因として注視されています。

    ネットワーク層(GPU間の高速通信)では光通信部品を手がけるCoherent、Lumentum、Applied Optoelectronicsといった企業が、NVIDIAが進める光配線(CPO)技術の展開とともに存在感を増しています。

    クラウド・計算資源提供層ではAmazon、Microsoft、Googleの大手三社に加え、CoreWeaveやNebiusのようなAI特化型クラウド(ネオクラウド)事業者が急拡大していますが、負債の満期構成やバックログの質など信用面のリスクも同時に抱えています。

    モデル開発層ではOpenAI、Anthropic、Googleが最先端モデルを競い、DeepSeek、Moonshot AI(Kimi)、Alibaba(Qwen)といった中国勢がMoE設計を軸にコスト効率で対抗しています。

    このように、AIバブルの是非を論じる際は、どのレイヤーの、どの需要についての話をしているのかを常に切り分けて考える必要があります。次回以降、各レイヤーの決算データや需給指標を追いながら、この構造を継続的にアップデートしていきます。

    アリエクスプレス最新セール情報&クーポン

    画像
    8月2日の「何か買いたい」
    1. アリエクスプレス最新セール情報&クーポン

    2. プチプラ&高見え!ブランド風キーホルダー

    3. プチプラで楽しめる!高見えブランド風なサングラス

    4. 高見え!~2000円台で買えるブランド風Tシャツ

    5. ミウミウがお手本!プチプラで楽しめる可愛いスカート

    6. サトシナカモト風?NY発流行ストリートメンズアイテム

    7. メンズにもおすすめ!Hノレメス風レザーバッグ

    → もっと見る…

     
     
    NUMA|海外通販で“失敗しない買い物術”を伝える アリエクスプレスのセール・クーポン・コイン割引を駆使して、 欲しいものを圧倒的に安く、安全に手に入れる方法をシェアしています。 「海外通販=怪しい」を「海外通販=楽しい」へ変えるのがミッションです。

    あなたへのおすすめ