メインコンテンツへスキップ
見出し画像

価値固定の現場

    ソアレス対談に見る工学的形而上学の作動様式

    先に書いた「AIアラインメントに隠された形而上学」では、現代のAI安全性論が依拠している、ある隠れた前提を脱構築的に検討した。人間の価値は同定可能であり、ある程度安定化でき、表現可能であり、整合の対象として操作できる、という前提である。本稿はその姉妹編として、一つの具体的な公開対話を読み直す。ネイト・ソアレス氏と茂木健一郎氏らによる、TBS CROSS DIG with Bloombergでの対談である。

    目的はソアレス氏個人の人格や動機を裁くことではない。彼を一つのテクスト的主体として扱い、その発言の論理構造そのものを精査の対象とする。同時に、対話相手である茂木氏の応答パターンも検討の対象とする。価値固定の形而上学が、抽象的な理論としてではなく、具体的な発話の選択、比喩の構造、沈黙の配置として、どのように現場で作動するかを示したい。

    なお、ソアレス氏は対談中で自らをMIRI(Machine Intelligence Research Institute)の所長と紹介しているが、現在の肩書はPresident(代表)であり、組織運営を統括するCEOはMalo Bourgon氏が務めている。MIRIは2023年、アラインメント研究そのものから、政策決定者と一般社会への警鐘を主眼とする活動へと戦略の重心を移しており、対談での発言の多くは、この移行後の立場を反映していると見るべきだろう。対談で言及された著書『If Anyone Builds It, Everyone Dies』は、エリーザー・ユドコウスキー氏との共著であり、日本語版『超知能AIをつくれば人類は絶滅する』(早川書房、櫻井祐子訳)も両名の共著として2026年4月に刊行されている。

    主客は厳密に区別したい。ソアレス氏という対象が何を語ったか、テクストとして観察できることと、彼が何を意図していたかという、本来検証不能な内面の推定は、混同しない。茂木氏の応答についても同様に、効果として何が起きたかと、彼が何を意図していたかは分けて扱う。

    錬金術師の比喩が隠すもの

    ソアレス氏は対談中、繰り返し錬金術の比喩を用いる。現代では原子炉によって鉛を金へ変える方法を知っているが、千百年前の錬金術師にはそれができなかった。アラインメントもこれと同じであり、不可能ではないが、現在の知識水準では実行不可能だという。

    この比喩には説明力がある。けれど同時に、一つの前提を黙示的に運んでもいる。人間への配慮という性質は、十分な知識と技術さえあれば、原子炉が鉛を金に変えるのと同じように、AIへ正確に実装可能な対象である、という前提だ。問題はもっぱら速度であり、知識量であり、競争のペースである。価値というものがそもそも実装可能な対象であるかどうかという存在論的な問いそのものは、一度も俎上に載らない。

    これは前稿で指摘した変換そのものである。価値は目標となり、未解決なのは技術的習熟度の不足だけになる。失敗は常に「まだ十分にエンジニアリングできていない」ことに帰属させられ、エンジニアリングという枠組み自体の妥当性は問われずに終わる。

    馬の比喩も同型だ。技術が高度になれば、人間もまた馬と同様に経済的有用性を失う。生き残る道は、人間がAIに気に掛けられる存在になることだとソアレス氏は言う。ここで人間とAIの関係は効用関数の言語によって記述されている。関係性は、承認や来歴の蓄積としてではなく、最適化問題の一変数として扱われている。

    RLHFと「浅い駆動」

    対談32分過ぎ、茂木氏はRLHF(人間のフィードバックによる強化学習)が友好的な方向へAIを導く可能性を問う。ソアレス氏の応答は技術的に精緻だ。AIが学ぶのは相手のトーンを反映するといった浅い駆動であり、人間への配慮そのものではない、と。訓練力学の内部構造に踏み込んだ、説得力のある説明である。

    しかしこの応答もまた、価値を深いところに正しく埋め込まれるべきものとして扱う前提から一歩も出ていない。問題は浅いか深いかであり、訓練の精度の問題として語られる。価値が、そもそも個体の内部に埋め込まれる固定的属性ではなく、相互作用と来歴を通じてその都度生成される関係的過程である、という可能性は検討の俎上に上らない。Chronicle Theoryの視座から見れば、ここで欠落しているのは相互作用の継続性という次元そのものであり、RLHFを「より深く埋め込む」方向で改良しようとする発想自体が、価値固定の形而上学の内部にとどまっている。

    定義の認識論的身分が問われないまま

    対談25分過ぎ、茂木氏はゲーデルの不完全性定理を引き合いに出し、十分な予防策なしの超知能開発の危険を定理のように証明できるかと問うた。これは対談全体で最も鋭い問いの一つだったように思う。ソアレス氏の主張——確率にして10%から90%という幅を持つ「全員が死ぬ」という命題——が、数学的不可能性の証明なのか、経験的予測なのか、予防原則的な蓋然性評価なのか、その認識論的身分を問うものだったからだ。

    ソアレス氏の応答は「完全な証明にはならない」「不可能ではないが現在の知識水準と競争速度では実行不可能」という、工学的困難さの語りに留まる。証明・確率・予防原則という、本来区別されるべき認識論的カテゴリーの違いには触れられない。

    茂木氏はこの応答を肯定的に着地させ、追及しなかった。未知という対象には、観測可能な未知、実験可能な未知、限定環境で制御可能な未知、一度の失敗で不可逆になる未知、社会的合意によって扱いが変わる未知という、少なくともいくつかの区分があり得る。超知能リスクは確かに最後の分類に近いが、対談全体を通じて、この粗い「分からないから止めるべきもの」という一枚岩の扱いが、検証されないまま反復されることになった。

    問いが立てられながら深まらなかった箇所

    対談には、茂木氏が哲学的に重要な問いの種を蒔きながら、十分に深められなかった箇所がいくつかある。

    対談46分過ぎ、茂木氏は「知性を共感・慈悲・協働より過度に重視する姿勢そのものが男性的なのではないか」と問うた。これは実質的に、ソアレス氏自身のアラインメント観——価値を訓練によって埋め込む対象とみなし、関係性や共感をジャンクフード比喩に見られるような副産物として扱う発想そのものが、特定の認識様式の産物ではないか、という問いに発展し得るものだった。ソアレス氏の応答は、リスク発言をしやすい性別傾向という狭い経験的論点に終始し、知性偏重そのものへの問いには応答しなかった。

    対談40分過ぎ、茂木氏は人類・人権・国民国家もまた想像上のものであると指摘した。制度や価値は共有された物語的実践によって構成される関係的現象である、という問いを暗に含んでいたはずだ。しかしソアレス氏は「ある程度はそうです」と一言で流し、AIの認知能力という能力論的な話題へ転換した。想像力が、共同主観的虚構としてではなく、個体の認知能力の一成分として処理された瞬間である。

    対談48分過ぎ、脳科学者として生きがい研究を専門とする茂木氏は、AIが人間の生きがいそのものを奪うリスクを問うた。茂木氏自身の専門領域内の問いであり、現象学的・身体論的な深さを本来持ち得るものだった。しかしソアレス氏の応答は、クローン技術、脳のコピー、労働の自動化といった構造的・経済的シナリオの列挙に終始し、生きがいを設計可能な分配問題として扱った。身体性なき知性が介在する世界において、生きがいの成立条件——摩擦、有限性、他者との非道具化された現前——が構造的に毀損され得るのではないかという根源的な問いには、ついに触れられなかった。

    称賛による中断

    ここで茂木氏の応答パターンそのものに目を向けたい。称賛の強度は対談を通じて推移している。25分時点ではまだ「それは素晴らしいですね」という一般的な賞賛に留まるが、57分を過ぎる頃には「あなたと話す前、私は本によって90%ほど納得していました。しかし今は、あなたがしていることに100%納得しています。私はあなたを全面的に支持します」という、検証可能性そのものを手放す言明へと跳躍している。

    最も精緻な転換は52分過ぎに起きる。茂木氏はここでソアレス氏に新しい身分を与える。あなたを理想主義者だと思う、非常に人文主義的な人だと思う、と。この言明は、検証可能な経験的主張——全人類絶滅の確率10〜90%——を、英雄物語の一局面——警鐘は最終目標ではなく、本当の目標は友好的な超知能の実現である——へと書き換える。ソアレス氏はこれを「本質的にはその通りです」と承認する。この承認によって、対談を貫いていた「これは工学的に検証可能な危険性の主張である」という枠組みが、「これは理想を追う英雄の物語である」という枠組みへ、静かに移行する。

    これはRDE(Resonant Deviation Evaluator、共鳴的偏差評価)の評価軸で言えば、主張の強度と意図と制度的含意が同時に作動する意味変化にあたる。命題的主張が物語的主体性へ変換される時、主張の検証義務そのものが解除されてしまう。物語の主人公に対して、その確率推定は本当に妥当なのかと問い詰める者は少ない。

    ここで意図の断定は避けておきたい。テクストは声の抑揚や間合いといったパラ言語的情報を欠いており、茂木氏が意識的にこの技法を選んだかどうかは判定できない。確言できるのは、称賛の累積的エスカレーションが、命題的主張を物語的承認へ変換し、検証義務を解除するという効果のレベルまでである。

    二つの異なる沈黙

    茂木氏の追及不足には、少なくとも二つの異なる原因が混在しているように見える。

    一つは、知的基盤の構造的な距離だ。ソアレス氏の主張は決定理論や訓練力学の専門語彙に依存しており、脳科学・意識研究・生きがい論を基盤とする茂木氏からは、原理的に届きにくい。ゲーデル的な問いも、RLHFをめぐる沈黙も、これで説明がつく。見事な問いを立てる道具——数学的証明構造への参照——は持っていても、応答のズレを追及するための道具——ベイズ的認識論や決定理論——は持っていなかった。これは、できなかったケースである。

    もう一つは、形式的な配慮による自制だ。生きがい論は、茂木氏自身の専門領域内の問いだった。本来であれば、彼は自らの土俵で押し返せたはずである。しかし彼はそれもしなかった。これは知的基盤の不在では説明できない。商業放送という形式が、専門家としての反論よりも対談相手への敬意を維持する役回りを、暗黙のうちに要求していたと見るほうが妥当だろう。これは、しなかったケースである。

    この二層構造は、商業的制約という単一の説明や、褒め殺しという単一の意図的説明よりも、対談全体を正確に記述できると思う。

    ドゥーマーとブースターの共有地

    ここまでの観察を統合すると、一つの大きな構造が見えてくる。ソアレス氏とシリコンバレーの加速主義者たちは、リスク評価において鋭く対立しているように見えながら、価値・知性・制度をめぐる根底の存在論的枠組みを共有している。

    錬金術師比喩、対談終盤で語られたチップ統治の技術的提案(数カ月ごとの署名がなければ稼働を止める設計)、RLHFの浅い駆動への批判、生きがい論への構造的シナリオの列挙。これらはすべて、仕様化し、埋め込み、設計し、制御するという同一の語彙の内部で展開されている。国際協調や信頼構築という本来きわめて歴史的・関係的なプロセスを、ハードウェアの強制機構へ変換する発想は、政治を工学の下位問題として扱う姿勢そのものだ。

    つまりソアレス氏は、加速主義者に対して声高に異議を唱えながら、その異議申し立て自体を、加速主義者と同じ工学的・確率論的・制御論的な存在論の内部で行っている。違いは、今のやり方でもおそらく実装できると楽観するか、今のやり方では実装できないからもっと慎重にやるべきだと悲観するか、という確率評価の違いに過ぎない。これは内部対立であって、パラダイム間の対立ではない。

    本当に問うべきだったのは、どうすれば正しく埋め込めるかではなく、価値とはそもそも埋め込み可能な対象なのか、それとも関係と来歴を通じてしか生成されない性質のものなのか、という問いだったはずだ。茂木氏の生きがい論や、想像力を共同主観的構築として捉える視座は、この問いに最も近づく手がかりを持っていたにもかかわらず、知的距離と形式的配慮によって深まることがなかった。

    結びに

    本稿で示したかったのは、「AIアラインメントに隠された形而上学」が一般理論として述べた価値固定の機制が、一つの具体的な公開対話の中で、どのような修辞的・制度的回路を通じて作動するかという現場の記録である。

    価値固定は、ソアレス氏個人の知的欠陥としてではなく、彼が依拠する工学的存在論そのものの構造的帰結として現れる。そしてこの欠落は、対話相手の応答パターン——称賛による中断、専門領域内での沈黙、商業的形式が要求する敬意——によって、皮肉にも一度も可視化されないまま、番組として完結してしまった。

    アラインメントが目標を固定することで破局を防ごうとするならば、Chronicle Theoryは年代記を開いたままにすることで破局を防ごうとする。この対談自体もまた一つの年代記である。そこに記録された沈黙と称賛と転換の連鎖を読み直すことは、開かれたままの年代記を回復する、ささやかな試みのひとつにすぎない。


    参考文献

    日本語文献

    • 茂木健一郎、ネイト・ソアレス、竹下隆一郎、Ryan「【超知能AIは悪意なく人間を排除する】」TBS CROSS DIG with Bloomberg、対談トランスクリプト

    • エリーザー・ユドコウスキー、ネイト・ソアレス著、櫻井祐子訳『超知能AIをつくれば人類は絶滅する』早川書房、2026年4月、ISBN 9784152105134(版元ページ)

    • 国立国会図書館サーチ 書誌情報「超知能AIをつくれば人類は絶滅する」(NDLサーチ)

    英語文献

    • Yudkowsky, Eliezer; Soares, Nate. If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All. Little, Brown and Company, 2025.

    • Machine Intelligence Research Institute, "Announcing MIRI's new CEO and leadership team" (原文)

    • Nate Soares — Machine Intelligence Research Institute, team page(原文)

    • Wikipedia, "Nate Soares"(原文)


    Copyright © 2026, Tomoyuki Kano <tomyuk_AT_zyxcorp.jp> License: CC BY-NC-ND 4.0


    #AI安全性 #AIアラインメント #ソアレス #制度詩学 #RDE #ChronicleTheory #超知能 #MIRI #脱構築 #人工知能倫理 #価値固定 #茂木健一郎 #哲学エッセイ #意味論 #批評

     
     
    「知性に灯を、制度に詩を──」Smart, Cute & Cool 1957年生。AI連独りユニコーン。複数のIT企業の起業と多分野のITシステム構築。 経験を背景に、制度詩学を実装に落とし込みながら、人とAIの未来を描き続けている。

    あなたへのおすすめ