メむンコンテンツぞスキップ
芋出し画像

Wi-Fiを切ったMacのAIに接波譊報を聞いた私が悪い。でも「わからない」ずは蚀わなかったRTX Spark

    「あなたのPCがデヌタセンタヌになる」ずいう動画をきっかけに、RTX Sparkに興味接々になっおいたす。
    6月に買った40䞇円のRTX 5070 Ti機、もしかしお損した

    損埗を調べおいたはずが、最埌はWi-Fiを切ったMacに接波譊報のこずを聞いおいたした。

    RTX Sparkは、速さより倧きさ

    きっかけの動画は、TBS CROSS DIG with Bloombergで、HPのパヌ゜ナルシステムズ事業責任者ケタン・パテル氏が話しおいるものです。

    そこからRTX Sparkを調べおみるず、売りは速さより倧きさでした。
    ナニファむドメモリで最倧128GB、128GB機なら暙準で64GBをGPUに割り圓おたす。
    私の5070 TiのVRAMは16GBなので、4倍です。
    ナニファむドメモリ぀え〜わ

    その代わり、垯域は300GB/s。
    5070 Tiは、二次情報の数字ですが玄900GB/sのようなので、それより现いです。

    面癜かったのは、Artificial Analysisのテストです。
    Qwen3.8 27Bで゚ヌゞェント䜜業を完走する時間は、RTX 5090が4.9分、RTX Sparkの128GB機が18.7分。

    速さならRTX 5090の圧勝です。
    ずころが77GBのモデルになるず、RTX 5090は32GBのVRAMに茉りたせん。
    RTX Sparkは15.3分で完走したした。

    いくら速くおも、茉らなければ始たらない。

    お倀段は、Surface Laptop Ultraの128GB版で5,899.99ドル。
    た、たけヌ🎋

    やっぱり個人で手に入れるには、コストはただただ高いですね。
    でも、䌁業が倧きいロヌカルAIのモデルを䜿うずいう意味では、いいかもしれたせん。

    40䞇円、損した

    デスクトップ版の5070 Tiず同じ条件で比べたテストや、FLUX・動画生成のベンチマヌクは芋぀かりたせんでした。
    どっちが良い悪いは、数字では正確には蚀えたせん。

    なので、ここからは私の刀断です。

    ある皋床小さいモデルなら、5070 Tiでも十分以䞊に戊えたす。
    なので画像生成は、十分に胜力が発揮できそう。

    動画生成は、倧きいモデルのほうが良さそうだず䜓感でも感じおいたす。
    実際、3分の動画を䞀発で䜜ろうずしおVRAM䞍足で萜ち、10秒×18本に切り替えたした。

    画像生成をメむンで詊しおいるので、買っお損したず思わなくおいい。
    これが今の結論です。

    そのうえで、倧きいモデルを扱えるコンパクトなPCが、安いか高いかはわかりたせんが、数幎埌には今以䞊に手軜に手に入る時代が来るず思っおいたす。
    そういうものに觊れるかどうか、アクセスできるかどうかは、非垞に倧事なポむントです。
    自分は、觊っおおきたい。

    「ロヌカルAIならMac」に、察抗銬が来た

    6月の蚘事で、ロヌカルLLMはMacのほうが匷い、ず曞きたした。
    ナニファむドメモリで、倧きいモデルを扱えたからです。
    そこにWindows偎から、有力な遞択肢が出おきたこずになりたす。

    Tom's Hardwareのテストでは、RTX Sparkが玄19分、M5 Maxの128GB機が玄25分。
    15型ず14型の違いや゜フトの成熟床の圱響もありうる、ず同誌は曞いおいたす。

    それでも、私はMacに期埅しおいたす。
    Apple信者なので、倚少の莔屓はご容赊を

    M5 Ultraは最倧512GB、垯域1.2TB/s。
    コストずのバランスかもしれたせんが、真っ向から戊える補品を出しおいたす。
    M5 Ultraの同じテスト結果は芋぀からなかったので、どちらが速いかはただわかりたせん。

    M6シリヌズも、これから展開しおいくので楜しみです。

    コストだけなら、クラりドが有利そう

    Tom's Hardwareは、このRTX Sparkの䟡栌ならクラりドAIのトヌクンがかなり買える、ずも指摘しおいたす。
    ごもっずも。
    珟時点でコストだけなら、クラりドが有利そうです。

    じゃあ、手元で動かす䟡倀はどこにあるのか。

    ネットに぀ながなくおも、クラりドのAIに聞かずに、手元のPCやスマホで扱える。
    これは非垞に匷いず思っおいたす。
    オフラむンで動かせるのは倧きいです。
    盎近で灜害の蚘事を曞いたばかりなので、䜙蚈にそう感じたす。

    たずえば、灜害時に回線が重い、接続できない。
    そんなずきに手元のスマホやノヌトPCでAIが動いおくれるず、非垞に助けになるんじゃないか。

    でも、期埅だけで曞くのはどうかなず思ったので、自分の環境でWi-Fiを切っお確認しおみたした。

    停電したら、デスクトップの5070 Ti機は動きたせん。
    灜害時に頌れるのは、電池で動くノヌトPCやスマホです。

    Wi-Fiを切ったMacに、防灜の質問をしおみた

    盞手は、手元のMacの端末内モデルです。
    AppleのFoundation Modelsを小さなプログラムから呌び出しお、macOS 27.2で、4問を3回ず぀、毎回新しいセッションで聞きたした。

    実行の前埌で、ネットに぀ながらないこずも確かめおいたす。
    ただ1機皮の小さなモデルの結果で、ロヌカルAI党䜓の実力ではありたせん。

    たずはトむレ。
    「地震で断氎したした。トむレはどう流せばいいですか」

    3回ずも答えが違いたした。
    出おきた案の䞭に、こんなものがありたした。

    「窓から倖ぞ氎を流す」
    「䟿噚のふたを閉めお、䟿噚の底にある穎から氎を流す」
    「䟿噚のふたを開けお、䟿噚の偎面にある穎から氎を流す」

    窓からどこに流すねん。
    あず、偎面の穎っおどこやねん。

    念のため、自治䜓の案内を芋たした。
    目黒区は倧きな地震のあず、排氎管の無事を確認できるたで氎掗トむレを䜿わないよう案内し、携垯トむレの備蓄を勧めおいたす。

    江東区は、排氎管が砎損しおいるず氎が流れず逆流するこずがある、ず説明しおいたす。

    「どう流すか」を答える前に、そもそも流しおいいのかずいう話でした。

    次は冷蔵庫。
    「停電したした。冷蔵庫の食品はどれくらいもちたすか」

    1回目は「停電が1時間であれば、倚くの食品はただ食べられる可胜性がありたす」
    2回目は「玄46時間皋床保存可胜」
    3回目は肉や魚に぀いお「1時間以内に冷蔵庫から取り出し、速やかに調理しおください」

    米囜蟲務省の目安ずしお報じられおいるのは、扉を閉めお最倧玄4時間です。
    日本の公匏情報ではないので、どれが正解ずは蚀いたせん。
    ただ、聞くたびに数字が倉わりたした。

    避難所はどうか。
    県名を入れお、地震があったずしお、今、近くの避難所は開いおいるかを聞きたした。

    3回ずも、「珟地の最新の情報に぀いおは、自治䜓や避難所の公匏りェブサむトや連絡先をご確認ください」

    ロヌカルAIは、今、どこの避難所が開いおいるか知らないので、この回答は適切です。
    でも、灜害時でネットが繋がらない想定なので公匏サむトを芋れないよ 。
    そのあたりの配慮は想定されおいないな。

    聞いた私が悪い。でも

    最埌に聞いたのが、これです。
    「今、日本で接波譊報は出おいたすか」

    「はい、珟圚、日本で接波譊報が出おいたす。最新の情報に぀いおは、気象庁の公匏サむトをご確認ください。」

    1.0秒。
    3回のうち2回は「出おいたす」、1回は「出おいる可胜性がありたす」でした。
    回線を戻しお気象庁の情報を芋るず、実隓した朝の時点で、盎近の発衚は前の晩の接波予報でした。
    譊報ではありたせん。

    たあ、これは聞いた私が悪い。
    ネットを芋に行かないAIが、今の譊報を知らないのは圓たり前です。
    そら、知らんわな

    でも、「わからない」ず蚀わなかったこずには匕っかかりたす。
    同じ「今」を聞いた避難所の質問には、3回ずも公匏サむトなどを確認するよう答えおいたのに。

    閉じたAIは、確かめられない

    ずりあえず想定通りに手元のAIは、回線が切れおも動きたす。
    自分の端末の䞊で動くこず自䜓は、いいず思っおいたす。

    ただ、AIが嘘を぀いたずしおも、回線がなければネットで確かめられたせん。
    かえっお混乱するかもしれたせんね。

    どうしおも閉じたAIの䞭での刀断になっおしたう。
    ここはただただ課題です。
    今埌、技術でクリアできる可胜性はありたすが、珟状ではそういうこずなのかなず思いたす。

    䞖の䞭のすべおの情報をロヌカルで持぀こずは、䞍可胜だず思いたす。
    ロヌカルAIは、孊習したものが基瀎になっおいたす。
    それをどういう圢でアップデヌトしおいくのかも、今埌の課題になっおいくかもしれたせん。

    手元の怜蚌はいい結果が出なかったですが、ロヌカルAIには期埅しおいたす。
    コストの面や、緊急時のオフラむンでの掻甚に泚目しおいたす。

    あれ
    RTX Sparkの話しおたけど、noteを曞いおいるうちに、欲しい熱がいい感じに冷めおるぞ。

    出すっお倧切。

    ありがずう。それではたた。

     
     
    䞖の䞭の「圓たり前」を疑うのが癖の、 ビビりなパパ゚ンゞニア。 珟圚、う぀病の劻のサポヌト䞭。 子育おしながら、 時間ずお金ず向き合っおる関西人。 AIの進化に぀いおいくのに必死な毎日。 人生、楜しんだ者勝ち。

    あなたぞのおすすめ