
5-17.ロボットの脳はクラウドか本体か
GPU、NPU、Jetson、オンデバイス推論の現実
第1部:ソフトウェア編
ヒューマノイドロボット主要ソフトウェア 2026 完全版
AI頭脳・VLA・世界モデル・制御・RoboOpsで見る「ロボットの中身」
評価軸:役割/技術難度/差別化度/商用化度/日本企業の参入余地
読む前に
生成AIではクラウドが主役だった。巨大なモデルをデータセンターで動かし、結果を受け取る。この構図が当たり前になっている。
だがロボットでは前提が変わる。ネットワークが一瞬切れただけで、行動のタイミングを失う。人が近づいたことを検知してから止まるまでの時間に、往復の通信を挟む余裕はない。どこで推論するかが、どのモデルを選ぶかと同じ重みを持つ。
2026年に登場した機体搭載向けの計算機は、この移行を象徴する存在になった。128GBのメモリと2000TFLOPS級の演算が、40Wから130Wの枠に収まる。数年前なら据え置きのサーバーが必要だった処理が、機体の中で動く。
ただし数字の読み方には注意が要る。本稿では、公表されたピーク性能と実際の遅延の差、量子化が物理挙動に与える影響、そして電力と熱の制約までを含めて、エッジ推論の現実を扱う。
目次
第1章 なぜRobotはEdge AIを必要とするか
第2章 Cloud推論の限界
第3章 On-device推論の価値
第4章 Jetson Thorの現在地
第5章 Blackwell GPUとFP4
第6章 128GB Unified Memory
第7章 MIGとMixed Workload
第8章 NPU、GPU、CPUの役割分担
第9章 Quantization
第10章 TensorRTとCompiler Optimization
第11章 KV CacheとMemory Bandwidth
第12章 Streaming VLAとAction Chunking
第13章 Power、Thermal、Battery
第14章 Network断とGraceful Degradation
第15章 Edge Model Update
第16章 推論性能をどう評価するか
第17章 日本企業の参入余地
第18章 2030年――Robot Brainは分散化する
まず結論
RobotのすべてをCloudへ置くのも、すべてを本体へ詰め込むのも最適ではない。Safety、Perception、VLAの即時処理はEdgeへ、巨大ReasoningやFleet LearningはCloudへ分ける。Jetson Thorの128GB、2070 FP4 TFLOPS、MIGはその分散Architectureを現実的にする。
本稿で扱うのは次の五点である。
Jetson Thorの2026年仕様
CloudとEdgeの役割分担
Quantization、TensorRT、Memory最適化
PowerとThermalを含む実推論評価
日本企業のEdge AI参入余地
第1章 なぜRobotはEdge AIを必要とするか
要求されるのは絶対的な速さではなく、遅延の上限が読めることである。把持の直前に手が対象へ近づく局面では、20ミリ秒前の粗い位置のほうが100ミリ秒前の正確な位置より役に立つ。第9回で述べた通り、ロボットの知覚は精度と遅延の交換条件で設計される。
処理量も一定ではない。カメラが複数、深度が加わり、触覚が数百Hzで入る。これらを連続して処理しながら、行動を返し続ける必要がある。バッチをためて一度に処理する構成は、スループットは出ても遅延が伸びる。
もう一つの制約が電力である。機体に載る計算機はバッテリーで動き、発熱は冷却の負担になる。クラウドでは無視できる消費電力が、ここでは稼働時間に直結する。同じ精度なら少ない電力で動くほうが価値が高い、という評価軸がエッジ特有のものである。
したがってエッジAIの設計は、精度、遅延、電力、メモリの四つを同時に扱う多目的最適化になる。どれか一つを最大化する構成は、実運用では成立しにくい。
実務ではまず、処理ごとに要求遅延を仕様として決める。人の検知は何ミリ秒以内、把持点の推定は何ミリ秒以内、タスク計画は何秒以内。この数字が決まっていない状態で計算機を選ぶと、性能が足りているのか過剰なのかを判断できない。
導入検討でよくある失敗は、クラウドで動いたモデルをそのままエッジへ持ってこようとすることである。演算量が数十分の一になる環境で、同じモデルが同じ速度で動くことはない。量子化、蒸留、構造の見直しのいずれかが必要になり、その工程に数か月かかることもある。
したがって計画では、エッジ化の工数を独立した項目として見積もる。モデルの精度を出す作業と、それをエッジで動かす作業は別のスキルであり、担当する人も違うことが多い。
実装・評価で見るべきポイント
処理ごとの要求遅延を仕様として決めてから計算機を選定する。加えて、遅延は平均ではなく95パーセンタイルで測る。平均が満たされていても、時折の外れ値が制御を壊す。測定はカメラの露光開始から行動の発行までを端から端で行い、モデルの推論時間だけを見ない。
第2章 Cloud推論の限界
クラウド推論の強みは、巨大なモデルを使えること、複数の機体で計算資源を共有できること、モデルの更新が一箇所で済むことである。上位のタスク計画や、緊急性の低い判断には向く。
限界は物理制御に持ち込んだときに現れる。まず往復の遅延がある。国内のデータセンターでも数十ミリ秒、条件によっては百ミリ秒を超える。次に変動がある。混雑や経路の変化で遅延が揺らぎ、上限を保証できない。さらに切断がある。工場の無線環境では、数秒の断が日常的に起きる。
機密の問題も大きい。工場の映像、作業者の姿、製品の外観は外へ出せないことが多い。国内のデータセンターであっても、契約上クラウドへの送信が認められない現場は珍しくない。
通信費も見落とされやすい。カメラ複数台の映像を常時送れば、機体一台あたりの通信量は月単位で無視できない額になる。台数が増えるほど効いてくる。
したがってクラウドは、遅延と切断が許容される処理に限定する。具体的には、長期的な計画、フリート全体の分析、モデルの再学習、遠隔からの監視である。制御ループと安全機能は、原則としてエッジへ置く。
クラウドを使う場合でも、どの事業者のどの地域で処理されるかを確認する。国外のデータセンターへ送られる構成は、顧客の調達基準で弾かれることがある。加えて、事業者側のモデル更新でも挙動が変わりうる。
実務では、クラウド側の応答が変わったことを検知する仕組みを持つ。同じ入力に対する出力を定期的に記録し、傾向が変わったら通知する。気づかないまま現場の成功率が落ちる事態を避けられる。
実装・評価で見るべきポイント
クラウドへ送るデータの種類と量を一覧化し、月あたりの通信量と費用を機体台数で試算する。加えて、契約上クラウドへ送れないデータを法務と整理する。技術的に送れることと、送ってよいことは別である。この整理を後回しにすると、構築後に構成の作り直しになる。
第3章 On-device推論の価値
オンデバイス推論の価値は、通信が切れても最低限の機能が残ることにある。人の検知、障害物の回避、姿勢の維持、安全な停止。これらが機体内で完結していれば、ネットワークの状態にかかわらず安全は保たれる。
データを外へ出さない点も大きい。生のセンサーデータを機体内で処理し、外へ出すのは結果と要約だけにすれば、機密と個人情報の問題が構造的に小さくなる。第13回で扱ったデータガバナンスの観点でも、この設計が扱いやすい。
一方で制約もある。載せられるモデルの規模はメモリと電力で決まり、クラウドの大規模モデルには及ばない。モデルの更新には配布の仕組みが要り、機体ごとのバージョン管理が発生する。故障の切り分けも難しくなる。
現実的な設計は分割である。安全と即時の反応はオンデバイス、複雑な推論と長期の計画はクラウド、その中間を工場内のサーバーに置く。この三層構成が、2026年の実装では一般的になっている。
分割の基準は、その処理が止まったときに何が起きるかである。事故につながるならオンデバイス、作業が止まるだけなら工場内、遅れても影響が小さいならクラウドという判断になる。
オンデバイスとクラウドの併用では、どちらの結果を採用するかの規則も要る。両方が動いていて結果が食い違ったとき、単純に新しいほうを採るのか、確信度で選ぶのか、安全側を採るのか。
実務では、安全に関わる判断は常にオンデバイス側を優先し、クラウドは助言として扱う設計が扱いやすい。クラウドが停止しても判断の枠組みが変わらないため、切断時の挙動が単純になる。
2026年7月30日、Google DeepMindはGemini Robotics 2と同時にGemini Robotics On-Device 2を公開した。On-Device 2はOn-device Gemma系を基盤にしたVision-Language-Action Modelで、Robot本体のLocal Device上で動作することを目的としている。複数Robot Type、Task、Sceneを扱うGeneral-purpose Manipulation Modelとして説明される。
重要なのは、On-device化が単なるModel Compressionではなくなったことである。Gemini Robotics ER 2はText、Image、Video、Audioを受け取り最大128k Contextで高位Reasoningを担い、On-Device 2はLocal Actionを担う。Reasoning、Action、Edge Deploymentを別Modelへ分ける構成は、本稿で述べた分散Robot Brainを具体化する。
ただし提供Statusは分けて見る必要がある。2026年9月6日時点でGemini Robotics On-Device 2はSelect Group of Trusted Testers向けで、Gemini Robotics 2もEarly Access段階である。最新技術であることと、量産案件ですぐ調達できることは同義ではない。GoogleはOn-Device 2について、新しいRobot Embodimentへ数時間、典型的には200例未満で適応できると説明しているが、これはGoogleの自社評価・提供条件下の主張として扱うべきである。
日本企業が見るべき点はModelのWinnerよりInterfaceである。ERからLocal VLAへ何を渡すか、Local VLAからReal-time Controllerへ何を渡すかをVendor-neutralに抽象化できれば、Model世代が変わっても上位業務System、安全層、RoboOpsを作り直さずに済む。
実装・評価で見るべきポイント
通信が切れたときに機体内だけで維持できる機能を一覧化し、実際に切断して試験する。加えて、オフラインで維持できる時間の上限を確認する。バッテリー、ストレージ、キャッシュの制約でいずれ限界が来る。その時点でどう振る舞うかを仕様として決めておく。
第4章 Jetson Thorの現在地
Jetson ThorのT5000は、最大2070 Sparse FP4 TFLOPS、128GBのLPDDR5X、帯域273GB/s、消費電力40Wから130Wという構成である。前世代のOrinと比べると、演算性能とメモリ容量が桁で変わった。
数字の読み方には注意が要る。2070 TFLOPSはFP4かつスパース性を利用した場合のピーク値であり、実際のモデルがこの精度で動くとは限らない。密な演算やFP8での実効性能はこれより小さい。ベンダーの公表値は比較の出発点であって、自社のモデルでの性能ではない。
128GBのメモリは、この世代の大きな変化である。VLM、世界モデル、行動政策、知覚を同一デバイスへ載せる余地が生まれた。一方で帯域は273GB/sであり、容量に対して帯域が潤沢とは言えない。大きなモデルを載せられても、メモリ帯域が律速して速度が出ない場合がある。
電力の幅も設計に効く。40Wと130Wでは性能が大きく違い、バッテリー駆動時間も変わる。実運用では上限まで使えないことが多く、熱設計と電源設計の制約から実効的な動作点が決まる。
第16回で扱った通り、機能安全の認証が必要な処理はIGX系の構成が選択肢になる。Jetson系とIGX系の使い分けは、第18回の安全設計と接続する論点である。
世代交代の計画も立てておく。計算モジュールの製品寿命は数年で、機体の寿命より短いことが多い。数年後に同じモジュールが入手できない前提で、キャリアボードと機構の設計を行う。
加えて、供給の安定性を確認する。産業用の長期供給プログラムがあるかどうかで、調達の見通しが変わる。開発用のキットで検証した構成が、量産時に入手できないという事態は珍しくない。
供給の状況も確認しておきたい。NVIDIAはCESで、Blackwellアーキテクチャを採用したJetson T4000モジュールが提供開始になったと発表している。同社によれば、エネルギー効率とAI演算性能が従来比で4倍である(発表ベース)。エッジ側の選択肢が、開発キットの段階から量産で調達できる部品の段階へ移りつつある。
NVIDIA公式資料ではJetson T5000に加えてT4000も示されている。T5000はSparse FP4で最大2070 TFLOPS、2560-core Blackwell GPU、96個の第5世代Tensor Core、MIG 10 TPC、128GB LPDDR5Xである。一方T4000はSparse FP4最大1200 TFLOPS、1536-core Blackwell GPU、64個の第5世代Tensor Core、MIG 6 TPCという下位構成である。
この差はRobot Makerが全機種へ最大構成を載せる必要がないことを意味する。高機能HumanoidではT5000、限定TaskやCost重視機ではT4000、さらにJoint側はMCUというように、機体価格とModel構成に応じてCompute Tierを分ける考え方が現実的になる。
MIGの価値もPeak性能ではなくIsolationにある。PerceptionやSafety寄りのCritical WorkloadへGPU Resourceを予約し、LLMや非Critical処理の負荷が急増してもPerformanceを守る。Physical AIでは一枚のGPUを最速で使うより、複数Workloadを予測可能に共存させる能力が重要になる。
実装・評価で見るべきポイント
公表されたピーク性能ではなく、自社のモデルを載せた状態での実効性能を測る。加えて、消費電力の実測値と、その電力での連続動作時間を確認する。熱設計と電源の制約で、カタログ上限の電力を継続して使えないことが多い。動作点を決めてから性能を測る。
第5章 Blackwell GPUとFP4
FP4は、重みと活性値を4ビットで表現する形式である。FP16と比べてメモリを4分の1に減らし、演算スループットを大きく上げられる。Blackwell世代のTensor Coreはこの形式をハードウェアで支援する。
ただしピーク性能と実際の速度は別である。実効性能を決めるのは、モデルの構造、メモリアクセスのパターン、カーネルの実装、前後処理の重さである。行列演算が理論値の何割で回るか、メモリ帯域が律速しないか、前処理と後処理がGPUを遊ばせていないか。これらの積み重ねで、実測は理論値の数分の一になることが普通である。
VLAで測るべきは、カメラの入力から行動が出るまでの端から端の時間である。モデルの推論時間だけを見ると、画像の前処理、テンソルの変換、行動のデコード、通信が抜け落ちる。実装によっては、これらが推論時間と同程度を占める。
加えて、低精度化の影響は層によって違う。視覚のエンコーダは量子化に強いが、行動を出力する層は数値誤差が物理的な挙動に直結する。第9章で扱う通り、一律の量子化ではなく層ごとの使い分けが実務的である。
低精度化の判断は、モデルの部位ごとに行う。第9章で扱う通り、視覚のエンコーダと行動の出力層では、許容できる誤差が違う。一律の設定で全体を下げる構成は、速度は出るが精度の劣化が予測しにくい。
実装では、部位ごとの精度設定を構成ファイルで管理し、変更のたびに実機成功率を再測定する。この記録がなければ、性能が落ちた原因を量子化に絞り込めない。
実装・評価で見るべきポイント
端から端の遅延を分解して測る。前処理、推論、後処理、通信の各段に何ミリ秒かかっているかを可視化しなければ、どこを改善すべきか決まらない。加えて、GPUの稼働率も見る。稼働率が低いなら、律速しているのは演算ではなく前後処理か通信である。
第6章 128GB Unified Memory
128GBの統合メモリは、複数のモデルを同一デバイスへ載せる余地を作る。従来は視覚のモデルと言語のモデルと行動政策を別々の計算機へ分けるか、切り替えて使うしかなかった。同居できれば、モデル間のデータ移動が減り、遅延も下がる。
統合メモリであることの利点は、CPUとGPUの間でデータをコピーしなくてよい点にある。第15回で扱ったrosidl::Bufferのゼロコピーも、この構造を前提にした仕組みである。カメラの画像をCPU側で受けてGPUへ転送する経路が消えれば、それだけで数ミリ秒が浮く。
一方で、容量と帯域は別の指標である。273GB/sという帯域は、128GBを何度も読み書きするには十分ではない。大きなモデルを載せても、重みを毎回読み出す構成では帯域が律速する。とくにバッチサイズ1の推論では、演算よりメモリアクセスが支配的になりやすい。
したがって設計では、どのモデルを常駐させ、どれを必要時に読み込むかを決める。常駐させれば切り替えが速いが、メモリを占有する。必要時に読み込む構成は柔軟だが、読み込みに時間がかかる。この判断は、タスクの切り替え頻度から決まる。
メモリの使い方も監視する。長時間の運転でメモリが徐々に増える実装は珍しくない。キャッシュの蓄積、断片化、解放漏れのいずれかが原因になる。
実務では、8時間の連続運転でメモリ使用量の推移を記録し、増加傾向がないことを確認する。増えている場合は、増加率から枯渇までの時間を計算し、それが運用のシフト時間より長いかを判断する。
実装・評価で見るべきポイント
メモリの容量ではなく帯域が律速していないかを確認する。バッチサイズ1の推論では、演算性能よりメモリ帯域が効くことが多い。加えて、常駐させるモデルと読み込むモデルを決め、切り替えに要する時間を実測する。この時間がタスクの切り替え頻度に見合うかを判断する。
第7章 MIGとMixed Workload
MIGは、一つのGPUを複数の独立した区画に分ける仕組みである。それぞれが専用の演算資源とメモリを持ち、他の区画の負荷に影響されない。
ロボットでの用途は明確である。安全に関わる人検知を一つの区画に固定し、残りの区画で知覚やVLAを動かす。知覚の処理が重くなっても、人検知の周期は保たれる。第16回で扱ったMixed-Criticalityの考え方を、GPUの内部へ持ち込んだ形になる。
制約もある。区画の分割は静的で、実行中に構成を変えられない。区画ごとに使える演算資源が固定されるため、全体を一つのタスクへ使う場合より効率は落ちる。加えて、区画の粒度は選べる範囲が限られており、細かく分けすぎると一区画あたりの性能が不足する。
実務での判断は、保証したい処理があるかどうかである。すべてが同程度の重要度なら、分割せずに使うほうが性能が出る。安全に関わる処理があるなら、分割による性能低下を安全のコストとして受け入れる。
なお第16回で述べた通り、論理的に分離しても熱は共有される。区画を分けても、他の区画の高負荷で全体の周波数が落ちれば影響は及ぶ。完全な分離が要るなら、計算機そのものを分けるしかない。
区画の構成は運用の途中で変えられないため、設計時に将来の追加処理を見込んでおく。後から安全用の区画が必要になっても、全体を再構成しなければ追加できない。
加えて、区画ごとの障害の影響を試験する。一つの区画で異常が起きたとき、他の区画が影響を受けないことを確認する。論理的に分離されていても、ドライバの共有部分で影響が及ぶことがある。
実装・評価で見るべきポイント
分割による性能低下を実測し、安全のコストとして妥当かを判断する。加えて、他の区画に高負荷をかけた状態で保証したい処理の周期が守られるかを試験する。論理的な分離が機能していても、熱と電力の制約で周波数が落ちれば影響は及ぶ。
第8章 NPU、GPU、CPUの役割分担
ロボットの計算は、GPUだけで構成されるわけではない。CPU、GPU、ビジョン用の専用回路、NPU、そして関節のMCU。それぞれ得意な処理が違う。
GPUは大規模な並列演算に強く、ニューラルネットワークの推論に向く。CPUは分岐の多い処理、制御ロジック、通信の管理に向く。ビジョン用の専用回路は画像の前処理、歪み補正、リサイズを低電力で行う。NPUは特定のモデル構造を効率よく回すが、対応する演算子が限られる。MCUは第16回で扱った通り、決定論的な制御を担う。
設計の要点は、処理を適切な場所へ割り当てることである。画像の前処理をGPUで行えば、その分だけ推論に使える演算資源が減る。専用回路へ逃がせばGPUが空く。逆に、専用回路が対応していない処理を無理に載せると、かえって遅くなる。
割り当ての検証は実測で行う。理論上は専用回路が速くても、データの転送が加わって全体では遅くなる場合がある。とくに複数のプロセッサをまたぐ構成では、転送の回数を数えることが最初の分析になる。
実務では、まず現在の構成でどこに時間を使っているかを計測し、そのうえで移動を検討する。推測で最適化を始めると、効かない部分に労力を使うことになる。
割り当ての最適解は、モデルと機体が変わるたびに動く。したがって、処理の配置を実装へ固く埋め込まない設計が要る。設定で切り替えられる構造にしておけば、世代交代のたびに測り直して再配置できる。
実務では、まず素朴な構成で動かして計測し、そのうえで移動を検討する。どの処理がどのプロセッサで何ミリ秒使っているかを可視化してから、配置を変える。
実装・評価で見るべきポイント
プロセッサ間のデータ転送の回数と量を計測してから最適化を始める。多くの構成では、演算そのものより転送が支配的である。加えて、専用回路が対応する演算子の範囲を確認する。対応外の演算子が一つ混じるだけで、処理全体が汎用側へ戻ることがある。
第9章 Quantization
量子化は、モデルの数値表現のビット数を減らす手法である。FP16からINT8、FP8、FP4へ下げるほどメモリと演算量が減り、速度が上がる。
効果は大きい。FP16からINT8へ下げれば、メモリは半分、演算スループットは倍以上になることがある。エッジでは、この差が「動く」と「動かない」の境目になる。
一方で精度は落ちる。落ち方はモデルの部位によって違う。視覚のエンコーダは比較的量子化に強く、INT8でもほとんど劣化しない。一方、行動を出力する層は数値誤差が直接、関節角やトルクの誤差になる。数センチの位置ずれ、数ニュートンの力の差が生じうる。
したがって実務では、層ごとに精度を変える混合精度の構成を採る。視覚は低精度、行動出力は高精度という配分である。加えて、量子化の影響を認識の精度ではなく物理的な成功率で測る。分類の正解率が0.5%落ちても把持成功率が変わらないなら問題ないが、挿入の成功率が10%落ちるなら採用できない。
較正用のデータセットも重要である。量子化のパラメータは実データの分布から決めるため、較正に使うデータが実運用の分布とずれていれば精度が出ない。
較正用のデータは、実運用の分布から抽出する。開発時の理想的な画像だけで較正すると、現場の逆光や粉塵の条件で精度が出ない。
加えて、量子化の効果を測る前に、そもそも量子化が必要かを検討する。モデルの構造を見直せば、量子化せずに要求を満たせる場合がある。量子化は精度と引き換えの手段であり、最初に検討すべき選択肢ではない。
実装・評価で見るべきポイント
量子化の影響を、認識精度ではなく実機のタスク成功率で測る。とくに挿入や把持のような精密な作業で、量子化前後の成功率を比較する。加えて、較正用データが実運用の分布を含んでいるかを確認する。開発時の理想的な画像だけで較正すると、現場で精度が出ない。
第10章 TensorRTとCompiler Optimization
学習したモデルをそのまま動かすのと、配備用に最適化するのとでは、速度が数倍変わることがある。最適化の中身は複数の技術の組み合わせである。
カーネル融合は、連続する演算を一つにまとめて中間結果のメモリ書き出しを省く。グラフのキャプチャは、毎回の呼び出しオーバーヘッドを削る。メモリの再利用は、確保と解放の繰り返しを避ける。計算グラフの最適化は、不要な演算や定数の畳み込みを事前に済ませる。
これらは自動で適用されることが多いが、効果はモデルの構造に依存する。融合できる演算の並びになっているか、動的な形状を含んでいないか、対応していない演算子が混じっていないか。一つでも該当すれば、最適化が途中で止まる。
実務での手順は、まず最適化前後で速度を測り、期待した差が出ているかを確認することである。差が小さければ、どの演算子が最適化から外れているかを調べる。多くの場合、モデル側を少し書き換えるだけで改善する。
加えて、最適化には時間がかかる。配備のたびに数分から数十分を要する場合があり、これが開発サイクルに効く。最適化済みの成果物をキャッシュし、モデルが変わらない限り再利用する仕組みを持つ。
最適化の成果物はハードウェアとドライバのバージョンに依存する。環境が変われば再生成が必要になり、古い成果物は動かないことがある。
実務では、成果物と生成に使った環境の組み合わせを記録する。この記録がなければ、数か月後に同じバイナリを再生成できない。第16回で扱った構成管理の考え方が、ここでも要る。
実装・評価で見るべきポイント
最適化の前後で速度を測り、期待した差が出ているかを確認する。差が小さい場合は、最適化から外れている演算子を特定する。加えて、最適化に要する時間を開発サイクルの計画に含める。配備のたびに数十分かかる構成は、反復の速度を落とす。
第11章 KV CacheとMemory Bandwidth
大規模なモデルでは、重みだけでなく中間状態がメモリを消費する。系列を扱うモデルでは、過去のトークンに対応する中間表現を保持しておく必要があり、これが系列長に比例して増える。
ロボットで問題になるのは、映像が大量のトークンを生むことである。1フレームが数百トークンに相当し、複数カメラで複数フレームを扱えば、テキストとは桁の違う量になる。加えて、会話や作業の履歴が積み上がれば、さらに増える。
対策は三つある。第一が保持する範囲の制限で、直近の数フレームだけを残す。第二が圧縮で、中間状態を低精度で保持するか、要約した表現へ置き換える。第三が構造の見直しで、履歴を外部の記憶へ逃がし、モデルには必要な部分だけを渡す。
第11回で扱ったGemini Robotics ER 2が、ベースモデルの100万トークンに対して12万8千に絞られているのは、この制約を設計へ反映した例と読める。無制限に履歴を積み上げない構成が、エッジでは前提になる。
実装では、メモリの使用量を系列長の関数として把握しておく。長時間の作業でメモリが徐々に増え、数十分後に枯渇する構成は、短時間の試験では発見できない。
履歴の管理は、機能の設計にも影響する。長い作業履歴を保持できないなら、作業の状態を外部に持つ設計が要る。どこまで進んだか、何を処理済みかを構造化して保持し、モデルには必要な部分だけを渡す。
第4回で扱ったタスク計画との分業が、ここでも同じ形で現れる。モデルの記憶に頼る設計は、系列長の制約に直面する。
実装・評価で見るべきポイント
メモリ使用量を系列長と稼働時間の関数として測る。8時間の連続運転でメモリが増え続ける構成は、短時間の試験では検出できない。加えて、保持する履歴の範囲を仕様として決める。範囲が明示されていない実装は、いずれ現場で枯渇する。
第12章 Streaming VLAとAction Chunking
行動を1ステップずつ生成すると、生成のたびに推論の遅延が入る。数十Hzで制御するには、推論を数十ミリ秒以内に終える必要があり、モデルの規模が制約される。
行動チャンクは、この制約を緩める。一度の推論で数十ステップ分の行動をまとめて生成し、実行している間に次のチャンクを準備する。実行と推論を重ねられるため、推論に数百ミリ秒かかっても制御は連続する。第7回で扱ったDiffusion PolicyとFlow Matchingが、この方式と相性がよい。
設計の要点は、チャンクの長さと再生成の周期である。長いチャンクは推論の頻度を減らせるが、途中で状況が変われば古い計画を実行し続けることになる。短いチャンクは追従性が高いが、推論の負荷が上がる。
実務では、チャンクを最後まで実行せず、途中で新しい観測に基づいて生成し直す構成を採る。生成したチャンクの前半だけを使い、残りは破棄する。この重なりの設計が、応答性と滑らかさの両立を決める。
加えて、チャンクの接続部が滑らかであることを確認する。前のチャンクの終わりと新しいチャンクの始まりが不連続なら、動作にカクつきが出て、接触作業では衝撃を生む。
チャンクの生成が間に合わなかったときの振る舞いも定義する。前のチャンクを最後まで実行するのか、その場で停止するのか、減速するのか。
実務では、生成の遅れを検知して減速する構成が扱いやすい。速度が落ちれば同じ時間で進む距離が減り、次のチャンクが間に合う余地が広がる。停止と継続の中間にある選択肢を持つことで、運用の滑らかさが変わる。
実装・評価で見るべきポイント
チャンク長、再生成の周期、重なりの量を実機で測って決める。加えて、チャンクの接続部で指令が不連続になっていないかを、関節速度の時系列で確認する。カクつきは見た目には分かりにくいが、接触作業では衝撃として現れ、部品の寿命を削る。
第13章 Power、Thermal、Battery
130W級の計算機を常時最大で回せば、バッテリーと冷却に跳ね返る。ヒューマノイドが搭載できるバッテリーの容量には限りがあり、計算に使う電力はそのまま稼働時間を削る。
評価すべきは、ピーク性能ではなく電力あたりの性能である。同じタスクを同じ精度で実行するのに、何ワット必要か。この指標で比較すれば、演算性能の数字だけでは見えない差が出る。
冷却も設計の制約になる。密閉された筐体の中で130Wを放熱するには、ヒートシンクとファンが要り、重量と騒音が増える。ファンの音は、人が働く空間では受け入れられにくい。加えて、粉塵の多い環境ではフィルタの目詰まりが性能低下を招く。
熱による性能低下も実測が要る。連続で高負荷をかけると温度が上がり、周波数が落ちる。カタログの性能は、この低下が起きる前の値である。実運用に近い環境温度で、30分から1時間の連続負荷をかけたときの定常性能を測る。
第16回で述べた通り、この周波数低下は制御周期にも影響する。AI推論の負荷が上がって計算機全体の温度が上がれば、同じ筐体内の制御処理も影響を受ける。
消費電力の内訳も把握する。計算機、モーター、センサー、冷却のうち、どれがどれだけ使っているか。計算を最適化しても、モーターが支配的なら稼働時間はほとんど変わらない。
実務では、実際の作業を行いながら各部の消費電力を記録し、改善の優先順位を決める。推測で計算機の省電力化に投資しても、効果が出ないことがある。
実装・評価で見るべきポイント
電力あたりの性能と、連続負荷時の定常性能を測る。カタログ値は熱による低下が起きる前の数字である。加えて、実運用の環境温度で測る。空調の効いた開発室と、夏場の工場では条件が違う。粉塵によるフィルタ目詰まりも、保守項目として運用計画に入れる。
第14章 Network断とGraceful Degradation
クラウド側の処理が落ちたとき、機体が何をするかを事前に定義しておく必要がある。選択肢は、現在のタスクを安全に完了する、その場で安全に停止する、限定機能で継続する、の三つである。
判断はタスクの性質で変わる。荷物を運搬中なら、置き場所まで運んで置くほうが安全である。精密な組立の途中なら、その場で止めて人を待つほうがよい。人と協調している作業なら、人へ状況を伝えて引き継ぐ必要がある。
設計では、オフラインで維持できる機能を明示的に一覧化する。移動、障害物回避、既知の物体の把持、安全停止はオンデバイスで可能なことが多い。未知の指示の解釈、複雑な計画、遠隔からの承認はクラウドに依存する。この境界が文書化されていなければ、切断時の挙動は実装の偶然に委ねられる。
復帰の設計も要る。通信が戻ったとき、中断した作業を再開するのか、最初からやり直すのか、人の確認を求めるのか。加えて、切断中に蓄積したログをどう送るかも決める。復帰の瞬間に大量のデータを送れば、ネットワークを再び詰まらせる。
劣化の設計も要る。通信が完全に切れるのではなく、遅くなる、断続する、一部の機能だけ落ちるという状態がある。全か無かで判断する実装は、この中間状態で不安定になる。
実務では、通信の品質を段階で判定し、段階ごとに使う機能を決める。良好なら全機能、劣化ならクラウド依存の機能を停止、切断ならオフライン機能のみ、という設計が扱いやすい。
実装・評価で見るべきポイント
オフラインで維持できる機能を一覧化し、実際に通信を切断して試験する。加えて、復帰時の挙動を設計する。切断中のログを一斉に送信してネットワークを詰まらせる実装は珍しくない。送信は帯域を見ながら段階的に行う仕組みが要る。
第15章 Edge Model Update
エッジのモデルは、機体へ配布して更新する必要がある。台数が増えるほど、この配布の設計が運用コストを左右する。
必要な要素は第16回で扱った更新の仕組みと共通である。差分配布で通信量を抑え、限定台数へ先に配って問題を検出し、署名で改ざんを防ぎ、問題があれば切り戻す。加えて、モデル特有の課題としてストレージの管理がある。新旧のモデルを両方保持すれば切り戻しは速いが、容量を消費する。
バージョンの組み合わせも管理対象である。視覚のモデル、行動政策、言語モデル、前後処理の設定。これらが独立に更新されると、検証していない組み合わせが現場に生まれる。まとめて一つの成果物として配布し、組み合わせを固定する構成のほうが安全である。
配布のタイミングも運用に効く。稼働中に更新できるのか、停止が必要か、どれだけの時間がかかるか。24時間稼働の現場では、この時間が損失になる。深夜の低稼働時間帯に自動で更新する仕組みが要る。
そして、更新の記録を残す。いつ、どの機体に、どの版を配ったか。第19回で扱うRoboOpsの基盤は、この記録から始まる。
配布の順序も設計する。全機体へ同時に配れば問題が一斉に広がる。数台へ先に配って一定期間観察し、問題がなければ範囲を広げる。この段階的な展開が、事故の規模を限定する。
加えて、配布を止める判断基準を決めておく。成功率が何ポイント落ちたら止めるのか、介入率が何倍になったら止めるのか。基準がなければ、異常に気づいても判断に時間がかかる。
実装・評価で見るべきポイント
モデルとその前後処理の設定を一つの成果物として配布し、組み合わせを固定する。加えて、切り戻しに要する時間を実測する。問題が起きてから切り戻すまでの時間が長ければ、段階的展開の意味が薄れる。数分で戻せる構成を目標に置く。
第16章 推論性能をどう評価するか
毎秒のトークン数で評価しても、ロボットの性能は分からない。言語モデルの指標をそのまま持ち込むと、判断を誤る。
測るべきは端から端の遅延である。カメラの露光が始まってから、行動が関節へ届くまで。この経路には、画像の取得、前処理、推論、後処理、通信が含まれる。加えて、最初の行動が出るまでの時間を別に測る。長い作業でも、最初の反応が遅ければ人には遅く感じられる。
遅延は平均ではなく分布で見る。50パーセンタイルと95パーセンタイルを併記し、95が制御周期を超えていないかを確認する。時折の外れ値が制御を壊すのは、第16回で述べた通りである。
電力、メモリ、温度も同じ表に載せる。性能だけを最適化した構成は、実運用で熱によって性能が落ちる。四つを同時に見なければ、運用可能な動作点が定まらない。
そして最終的には、タスクの成功率で判断する。遅延を20ミリ秒短縮しても把持成功率が変わらなければ、その投資に意味はない。第9回で述べた通り、指標とタスクのKPIを結ぶ対応表を実測で作る必要がある。
評価の環境も固定する。同じ機体、同じ照明、同じ対象物で測らなければ、世代間の比較ができない。開発の途中で評価環境を変えると、改善したのか環境が変わったのかを切り分けられない。
実務では、基準となる評価セットを凍結し、それとは別に新しい条件を追加していく。凍結したセットの成績が、退行の検出に使える。
Edge AIではTask一回あたりのWh、平均GPU使用率、Thermal Throttling時間、Cloud Offload率、Model Update通信量を測るとよい。高価なComputeを積んでも利用率が低ければBOMだけが増える。Model最適化でHardware Tierを一段下げられれば数千台規模で大きな原価差になる。実務では、PoCの成功率ではなく、実機Fleetで同じ指標を継続収集し、Hardware Revision、Software Version、現場条件ごとの差を比較する。改善策を入れた後にKPIが本当に動いたかを確認し、効果がなければ元へ戻せるRelease Processを持つことが重要である。
Edge AIの調達ではTOPSやTFLOPSだけを比較しない。Camera露光からAction発行までのP50、P95、P99、Sensor Stream本数、Thermal Throttling後の性能、Battery低下時のPower Modeを受入条件にする。VLA、Perception、Loggingを同時実行した条件で測らなければ、実機のWorst-caseは分からない。
Model UpdateもWeight単体ではなくRuntime、TensorRT、Driver、Firmwareを一組として管理する。Golden Image、Canary機、Rollback、Remote DiagnosticsをRoboOpsへ統合し、更新による性能退行をFleetへ広げない仕組みを持つ。
実装・評価で見るべきポイント
端から端の遅延を50と95パーセンタイルで測り、電力、メモリ、温度と同じ表に載せる。加えて、これらの指標とタスク成功率の対応を実測する。指標を意図的に劣化させて成功率が落ち始める点を探せば、要求仕様として書ける値が定まる。
第17章 日本企業の参入余地
SoCそのものの開発で競うのは現実的ではない。だが、その周辺には日本企業が強い領域が複数ある。
第一がセンサーである。イメージセンサー、深度センサー、力覚センサーで日本企業は世界的な位置にある。第9回・第10回で述べた通り、センサーの価値はデバイス単体ではなくドライバ、校正、健全性監視を含めたパッケージにある。
第二が電源と熱設計である。130W級の計算機を機体へ収めるには、電源の効率、放熱の設計、静音化が要る。この領域は素材と機構の技術が効き、模倣が難しい。
第三がキャリアボードと実装である。計算モジュールを機体へ組み込むには、振動、温度、電磁ノイズ、コネクタの信頼性を扱う必要がある。産業機器で培った実装技術が直接活きる。
第四が組込みの統合である。計算機、センサー、MCU、通信を一つの動く構成にまとめ、長期にわたって保守する。海外のロボット企業が求めるのは、動作する部品ではなく5年使える構成である。
これらを個別に売るのではなく、リファレンス設計として束ねられれば、価格ではない選定理由を作れる。
提供の形では、長期供給の保証が差別化になる。海外のロボット企業が困るのは、数年後に同じ部品が手に入らないことである。産業機器で培った長期供給の体制は、そのまま価値になる。
加えて、診断機能を標準で持たせる。センサーの汚れ、校正のずれ、性能の劣化を自己診断できる部品は、現場の稼働率を上げる。第19回で扱うRoboOpsの基盤にもなる。
実装・評価で見るべきポイント
計算モジュール、センサー、電源、熱設計、キャリアボードをリファレンス設計として束ね、長期供給の保証をつける。加えて、シミュレーションモデルと診断機能を付属させる。ハードウェアの性能とは別に、統合の手間を減らせることが選定理由になる。
第18章 2030年――Robot Brainは分散化する
2030年に向けて、ロボットの計算は一箇所へ集約されるのではなく、分散する方向へ進む可能性が高い。
最も内側にあるのが関節のMCUで、数十マイクロ秒から数百マイクロ秒の周期で電流と安全を扱う。その外側に機体内のエッジ計算機があり、知覚と行動生成を数十ミリ秒で回す。さらに外側に工場内のサーバーがあり、複数機体の協調と重い推論を担う。最も外側がクラウドで、長期の計画とフリート全体の学習を扱う。
この分散が進む理由は、性能ではなく制約の性質である。安全と即時性は物理的に近い場所でしか保証できず、規模と共有はクラウドでしか実現できない。どちらか一方へ寄せる構成は、どちらかの要件を満たせない。
変わるのは境界の位置である。エッジの性能が上がれば、これまでサーバーにあった処理が機体へ降りる。逆に、通信が高速化すれば一部が外へ出る。この境界は数年ごとに動く。
設計で重要なのは、境界を動かせる構造にしておくことである。処理の配置を変えられないよう固く結合した実装は、次の世代で作り直しになる。
分散が進むほど、層の間の仕様が重要になる。どの層が何を保証し、何を保証しないか。これが文書化されていなければ、問題が起きたときに切り分けができない。
日本企業が取るべき位置は、この仕様を定義する側である。上位のAIが何であれ、安全に実行する層を提供できれば、モデルの世代交代に左右されない事業になる。第22回で扱う参入余地の議論と、ここで接続する。
実装・評価で見るべきポイント
処理の配置を変更できる構造で設計する。特定の計算機の上でしか動かない実装は、世代交代のたびに書き直しになる。加えて、境界の位置を定期的に見直す。エッジの性能向上と通信の高速化で、最適な分担点は数年ごとに動く。
5軸評価
【役割】★★★★★/Perception、VLA、World Modelを本体で推論
【技術難度】★★★★★/Compiler、Memory、Power、Thermal、Networkを横断
【差別化度】★★★★★/LatencyとBatteryが製品体験を左右
【商用化度】★★★★★/Jetson等ですでに量産導入
【日本企業の参入余地】★★★★☆/Module周辺、Sensor、Power、Thermal統合
2026年9月6日時点の確認
本稿では、企業・研究機関が公式に発表した内容(発表ベース)、報道機関が報じた内容(報道ベース)、査読論文、第三者検証、将来計画・目標値を区別して記述する。企業ベンチマークは原則として開発元の自己評価であり、異なる機体・構成・評価条件の数字を単純比較しない。金額は1ドル=160円で概算換算する。
Jetson Thor公式仕様ではT5000が最大2070 Sparse FP4 TFLOPS、128GB 256-bit LPDDR5X、273GB/s、40〜130W、14-core Arm Neoverse V3AE CPUを備える。Developer Kit User Guideは2026年8月にも更新されている。NVIDIAはAGX Orin比最大7.5倍のAI Compute、3.5倍のEnergy Efficiencyを主張し、MIGによるResource IsolationもPhysical AI向け特徴として説明する。これらはPeak Specであり、各VLAの実Latencyは別途Benchmarkが必要である。
結論
Physical AIでは、演算性能だけでは勝負が決まらない。電力の制約の中で、何ミリ秒で行動を返せるか。この一点が実用性を規定する。
2026年の機体搭載向け計算機は、確かに転換点である。数年前ならサーバーが必要だった処理が機体の中で動くようになった。だが公表されたピーク性能と、カメラの入力から行動が出るまでの実際の時間には、大きな開きがある。
そして最終的な製品では、一つの計算機で完結しない。関節のMCU、機体内のエッジ、工場内のサーバー、クラウド。それぞれ保証できるものが違い、分散した構成が現実解になる。境界の位置は数年ごとに動くため、処理の配置を変えられる設計が要る。
日本企業にとっての位置は、SoCそのものではない。センサー、電源、熱設計、実装、そして長期供給。これらをリファレンス設計として束ねられれば、価格ではない選定理由を作れる。
次回予告
第18回 ヒューマノイドは人間の隣で安全に働けるか――安全AI、フェイルセーフ、規格対応
主要公式リンク・参考リンク
NVIDIA Jetson Thor
https://www.nvidia.com/en-us/autonomous-machines/embedded-systems/jetson-thor/Jetson Developer Kits
https://developer.nvidia.com/embedded/jetson-developer-kitsJetson AGX Thor User Guide
https://docs.nvidia.com/jetson/agx-thor-devkit/user-guide/latest/NVIDIA Isaac ROS
https://developer.nvidia.com/isaac/rosNVIDIA TensorRT
https://developer.nvidia.com/tensorrtGemini Robotics ER 2 Model Card
https://deepmind.google/models/model-cards/gemini-robotics-er-2/ROS 2 Lyrical Luth Release Notes
https://docs.ros.org/en/lyrical/Releases/Release-Lyrical-Luth.htmlNVIDIA Jetson Thor Technical Blog
https://developer.nvidia.com/blog/introducing-nvidia-jetson-thor-the-ultimate-platform-for-physical-ai/Gemini Robotics On-Device 2
https://deepmind.google/models/model-cards/gemini-robotics-on-device-2/Gemini Robotics 2
https://deepmind.google/models/gemini-robotics/vla/
出典対応表
【Jetson Thor T5000の2070 Sparse FP4 TFLOPS、128GB LPDDR5X、273GB/s、40〜130W】NVIDIA公式/発表ベース
【FP4のピーク性能がスパース性利用時の値である点】NVIDIA公式仕様の読解/本稿の整理
【128GB統合メモリと273GB/s帯域の非対称】NVIDIA公式仕様/本稿の整理
【MIGによるGPU区画分割】NVIDIA公式/発表ベース
【量子化の影響が層によって異なる点】学術的な一般理解/本稿の整理
【行動チャンクによる遅延の隠蔽】第7回・第11回で扱ったDiffusion PolicyとFlow Matchingの系譜
【Gemini Robotics ER 2がGemini 3.5 Flashベースで最大128k Contextを持つ点】Google DeepMind Model Card/発表ベース
【rosidl::Bufferによるゼロコピー経路】ROS 2 Lyrical公式リリースノート/発表ベース
【IGX ThorとJetson Thorの使い分けが機能安全対応で決まる点】NVIDIA公式/本稿の整理
【熱による周波数低下が制御周期へ及ぶ点】本稿の整理/第16回と同じ論点
【エッジ、工場内サーバー、クラウドの三層分割】本稿の整理/筆者見解
【Jetson T5000 2070 Sparse FP4 TFLOPS/T4000 1200 Sparse FP4 TFLOPS、MIG構成】NVIDIA公式/2026年9月確認
【Blackwell採用のJetson T4000モジュールが提供開始、エネルギー効率とAI演算が従来比4倍】NVIDIA Newsroom(CES)/自社評価
【Gemini Robotics On-Device 2はSelect Trusted Testers向け、Gemini Robotics 2はPrivate Preview】Google DeepMind公式/2026-09-06確認
ハッシュタグ
#ヒューマノイド #エッジAI #推論最適化 #JetsonThor #Blackwell #FP4 #量子化 #TensorRT #KVCache #ActionChunking #MIG #NPU #統合メモリ #省電力 #熱設計 #OTA更新 #オンデバイス推論 #ロボットAI #PhysicalAI #製造業DX