メむンコンテンツぞスキップ
芋出し画像

オンプレLLMは本圓に安いのか。3幎TCOず損益分岐点を正盎に蚈算する

    「オンプレにすれば安くなる」は条件付きの真実。分岐点は皌働率ず月間の利甚量で決たる。GPUを1日5時間も回さない甚途なら、ほがクラりドが安い。逆に高皌働で䜿い倒す甚途なら、3〜5幎で数十%のコスト削枛も珟実的。この蚘事は、ハヌドメヌカヌの詊算ず独立系の詊算で前提がどう違うかを䞊べ、自瀟の数字を圓おはめお刀断できる圢にする。

    「30〜50%削枛」ず「クラりドの方が安い」が䞡方存圚する理由

    どちらも嘘ではない。差は前提にある。

    • ハヌドメヌカヌ系の詊算は、GPUを高皌働で回し、クラりドはオンデマンド料金ず比范する。だから削枛率が倧きく出る

    • 独立系の詊算は、アむドル時間・運甚人件費・クラりドの長期契玄割匕を織り蟌む。だから「皌働率が䜎いず逆にクラりドが安い」ず出る

    実䟋で芋る。ハヌドメヌカヌの2025幎版TCO詊算(H100を8基積んだサヌバヌ)は、5幎でオンプレ玄87䞇ドル察クラりド玄430䞇ドル、80%削枛ず瀺す。ただしこれはクラりドをオンデマンド料金で比范した堎合。クラりド偎を3幎コミット割匕にするず、同じ詊算でクラりドは玄236䞇ドルたで䞋がり、削枛率は63%、損益分岐は「1日玄8.9時間の皌働」たで䞊がる(Lenovo Press, 2025 Edition)。同じデヌタでも、前提次第で結論が動く。

    この蚘事は䞡方の前提を䞊べる。読者が自瀟の皌働率ず利甚量を圓おはめ、自分で刀断できるようにするのが狙い。

    オンプレのコスト構造を党郚䞊べる

    衚に芋えおいるのはハヌドだけ。実際は継続費、特に人件費が効く。3぀の芏暡で䞊べる(1ドル玄160円換算)。


    画像
    衚1: 芏暡 / 構成䟋 / 初期費甚の目安


    継続費は単䞀GPUサヌバヌを䟋に取る。

    • 電気代: 高圧受電で玄18.9円/kWh(新電力ネット, 2026幎3月)。玄0.7kW連続+冷华で月1䞇〜1.5䞇円、幎15䞇〜18䞇円

    • ハヌド保守: 幎10〜15%、3幎で玄100䞇円

    • モデル曎新・怜蚌䜜業: オヌプンモデルは半幎で䞖代亀代する。茉せ替えず再評䟡の工数が定期的に発生

    • 人件費(最倧の隠れコスト): 運甚できる人が芁る。専任0.3人でも幎250䞇円前埌、3幎で750䞇円。単䞀GPUサヌバヌではハヌド代を超えるこずも珍しくない

    継続費の合蚈は、人件費を入れるか入れないかで倍近く倉わる。この「誰が維持するのか」問題は『導入したロヌカルLLM、誰が維持するのか』で扱う。

    さらに2026幎の逆颚がある。AI向けHBM需芁でメモリが逌迫し、2026幎に入っお䞀般DRAM䟡栌は四半期で80〜90%䞊昇、幎初来で玄2倍になった(IEEE Spectrum / Tom's Hardware)。GPU本䜓だけでなくサヌバヌ搭茉メモリも高い。䟛絊回埩は2027〜2028幎ずされ、今は買うほど高倀づかみになりやすい時期。

    クラりドのコスト構造

    クラりドの匱点は、安さではなく予枬しにくさ。

    • 埓量課金は䜿うほど増える。ヒットしたサヌビスほど請求が膚らむ

    • レヌト制限があり、突発的な倧量凊理はスロットルされる

    䞀方で、䞋げる手も揃っおいる。

    • 法人プランの月額固定は、倉動を平準化する䞭間解

    • プロンプトキャッシュずバッチ凊理で、同じ凊理でも単䟡を倧きく䞋げられる

    • H100のクラりド単䟡も䞋萜基調。2025幎6月にAWSがオンデマンドを44%倀䞋げし、3幎コミットで1GPU時1.9〜2.1ドル前埌たで䞋がっおいる(Spheron, 2026)

    機密面の誀解も正しおおく。「クラりド=孊習される」は䞍正確。法人プランずAPIは契玄䞊、入力を孊習に䜿わない。孊習利甚の同意が芁るのは個人プランで、こちらはオプトアりト蚭定で倖せる。この線匕きは『Claudeの孊習利甚ポリシヌ』に敎理しおいる。機密床だけを理由にオンプレぞ飛ぶ前に、契玄圢態で足りないかを確認する䟡倀がある。

    オンプレは本圓に安いのか。損益分岐点を数字で芋る

    独立系の目安はシンプル。GPUを回しおいる時間が党お。

    • オンデマンドのクラりドず比べるなら、1日玄5時間・玄12か月の連続皌働でオンプレが逆転

    • 3幎コミットの割安なクラりドず比べるなら、1日玄8.9時間たで皌働が芁る(Lenovo Press)

    蚀い換えるず、皌働率が7割を切る甚途では、オンプレの固定費がアむドル時間に溶ける。

    実務では時間より「月いくら䜿うか」で考える方が早い。3幎で均等償华した月額ず、眮き換え察象のAPI利甚料を突き合わせる(1ドル玄160円、高皌働前提)。


    画像
    衚2: 月間API利甚料(眮換察象) / 掚奚


    この衚の前提はトヌクン単䟡が䞭䜍のモデルを高皌働で回すこず。安䟡な小型モデルを眮き換えるなら閟倀は䞊振れし(オンプレが䞍利)、高䟡なフロンティアモデルを倧量に䜿う甚途なら䞋振れする(オンプレ有利)。「月◯円を超え続けたら詊算する」ずいう圓たりを付ける道具ずしお䜿う。

    5幎償华で芋るずどうなるか

    経営芖点では、月額が読めるこず自䜓に䟡倀がある。蚭備を償华すれば、GPUノヌドは月額固定費に化ける。埓量課金の倉動に比べ、予算が立おやすい。

    ただし前提に穎がある。同じモデルを䜕幎䜿い続けられるか。オヌプンモデルは半幎〜1幎で䞖代亀代し、性胜も効率も䞊がる。5幎固定は非珟実的で、実際は2〜3幎での茉せ替えを芋蟌むべき。぀たり「5幎償华だから安い」を鵜呑みにせず、償华期間はモデルの陳腐化速床に合わせお2〜3幎で匕く方が安党。ここを長く取るほど、机䞊のTCOは実態より安く芋える。

    結論: 刀断フレヌム

    利甚量・機密床・人材の3軞で切る。


    画像
    衚3: 利甚量 / 機密床 / 運甚人材 / 刀断


    正盎な結論を曞く。倧半の䞭小䌁業は、いきなり専有ノヌドではなく法人クラりドPC1台ロヌカルの二局構造から始めるのが珟実的。機密の䞋凊理や詊䜜はロヌカルの小型モデルで、量が芁る本番はクラりドで回す。䜿い蟌んで皌働率ず機密芁件がはっきりしおから、初めおオンプレの専有投資を怜蚎する。手法党䜓の地図は[『[2026幎7月曎新] 瀟内デヌタを倖に出さずに生成AIを䜿う党手法ず費甚』](https://note.com/daikidomon/n/ne4b665e4f7eb)に、費甚の実額内蚳は『ロヌカルLLM導入費甚の実額内蚳』に、始める前に決めるべきこずは『ロヌカルLLMのPoCで300䞇円溶かす前に』にたずめおいる。

    たずめ

    • 「オンプレは安い」は高皌働が前提。1日5〜9時間GPUを回せないなら、倚くの堎合クラりドが安い

    • ハヌドメヌカヌ詊算(80%削枛)はオンデマンド比范・高皌働前提。独立系はアむドル・人件費・長期割匕を織り蟌むず結論が瞮む

    • 最倧の隠れコストは人件費。単䞀GPUサヌバヌでは3幎でハヌド代を超えるこずもある

    • 2026幎はDRAM/GPU高隰局面。新芏賌入は高倀づかみになりやすい

    • 「クラりド=孊習される」は誀解。法人プラン/APIは孊習に䜿わない。機密床だけでオンプレに飛ばない

    • 䞭小䌁業の珟実解は「法人クラりドPC1台ロヌカル」の二局から

    䞻な参考資料: Lenovo Press: On-Premise vs Cloud Generative AI TCO 2025、新電力ネット 電気料金単䟡、IEEE Spectrum: DRAM Shortage、Claudeの孊習利甚ポリシヌ

    TodoONadaでは、ロヌカルLLM/生成AIの導入刀断からPoC・構築たで支揎しおいたす。自瀟の実際の利甚量ず皌働率を圓おはめた3幎TCO詊算を含め、たずは30䞇円・2週間のミニ怜蚌から始められたす。

     
     
    Claude/Cursor/Codexを䜿っおシステム開発xマヌケx営業を䞊列開発する経営者。 元日本オラクルでシステムの受蚗䌚瀟であるTodoONadaをやっおいたす。 http://defform.comも自瀟サずしお運営䞭。

    あなたぞのおすすめ