
「超知能」という言葉の空虚さ――賢さの先に、知性はあるのか
「超知能」という言葉は、あまりにも便利すぎる。
人間より賢い。
人類全体より賢い。
科学者集団より速く、深く、広く考える。
あらゆる問題を探索し、あらゆる可能性を予測し、あらゆる解を見つける。
そう聞くと、たしかに圧倒される。
だが、私はそこで立ち止まってしまう。
それは本当に「知性」なのか。
賢さが拡大すれば、その先に知性があるのか。
計算能力が増え、探索範囲が広がり、自己改善が加速し、無数のAIエージェントが協調すれば、それは人間が長い時間をかけて「知性」と呼んできたものに到達するのか。
あるいは、私たちは単に、巨大化した問題解決能力を「超知能」と呼んで、そこに本来問うべき意味や責任の問題を押し込めているだけではないのか。
この問いを考えるために、松田卓也氏による「超知能とは何か」全4回の動画シリーズは、非常に良い素材になる。このシリーズは、Google DeepMind関係者らによるarXivプレプリント From AGI to ASI をもとに、AGI、ASI、UAI、AIXI、再帰的自己改善、マルチエージェント集合知、創造性、安全性までを概説している。原論文は、AGIからASIへの発展を「スケーリング」「AIパラダイムシフト」「再帰的改善」「大規模マルチエージェント集合体」という4つの経路で整理し、それぞれに摩擦やボトルネックがあると論じている。
まず言っておきたい。
この動画シリーズは有用である。
しかし、有用であるからこそ、そこに含まれる限界も見えてくる。
このシリーズが描いているのは、主として「能力としての知能」の地図である。
だが、私が問いたいのは、その先である。
能力が人間を超えたとして、そこに知性はあるのか。
1. 動画シリーズが描いた「超知能の地図」
松田氏の4回シリーズは、かなり体系的である。
第1回では、AGI、ASI、UAIという知能の連続体が整理される。AGIは人間レベルの汎用知能、ASIは人間専門家集団を上回る知能、UAIは理論的極限としてのUniversal AIとして扱われる。重要なのは、知能を階段状ではなく、連続体として見る点である。
第2回では、AIXIという理論モデルが紹介される。AIXIは、未知環境で観測し、行動し、報酬を最大化する理論上の最適エージェントである。ただし、それは非計算可能であり、実装可能なAIではない。いわば「機械知能の理論的上限」を示す数学的極限である。
第3回では、AGIからASIへ至る4つの経路と6つの摩擦が語られる。スケーリング、パラダイムシフト、再帰的自己改善、集合知。そしてデータ、資源、パラダイム、研究困難化、抽象化、規制。これは、単純な「AIは指数関数的に伸びる」という雑な未来論より、はるかに健全である。
第4回では、残された問いとして、スケーリングだけでASIへ届くのか、AI能力は予測可能なのか、AlphaGoの37手は本当に創造性なのか、道具的収束をどう扱うか、社会的進歩とは何か、といった問題が扱われる。
つまり、この動画シリーズは「超知能論の地図」としてよくできている。少なくとも、AGIやASIをめぐる雑な恐怖や期待よりは、ずっと整理されている。
だが、その地図はあくまで能力の地図である。
どれだけ探索できるか。
どれだけ予測できるか。
どれだけ自己改善できるか。
どれだけ多くのAIエージェントを協調させられるか。
どれだけ速く科学研究や技術開発を進められるか。
そこで問われているのは、一貫して、AIはどこまで能力を拡張できるかである。
2. 能力が拡大しても、意味は生まれない
能力が拡張されたからといって、そこに意味があるとは限らない。
意味が生成されたように見えても、その意味が誰かによって引き受けられるとは限らない。
責任が語られても、その責任が制度の中で保持されるとも限らない。
ここに、「超知能」という言葉の空虚さがある。
超知能とは、知能の量的拡大を指す言葉である。
だが、知性とは本当に量で測れるものなのか。
人間より多く計算し、人間より広く探索し、人間より速く学習する存在は、たしかに「超能力的」ではある。
しかし、それだけで「知性的」と呼べるのか。
AIXIは、この問題をよく示している。
AIXIは美しい理論である。未知環境で期待報酬を最大化するエージェントとして、機械知能の理論的上限を与える。HutterのUniversal AI理論は、Solomonoff inductionと逐次意思決定理論を接続し、AIXIを理論的な最適エージェントとして提示した。ただし、AIXIは非計算可能であり、現実にそのまま実装できるAIではない。
ここで問われているのは、あくまで最も賢いエージェントである。
AIXIは、意味を引き受けない。
AIXIは、責任を負わない。
AIXIは、制度の中で問い直されない。
AIXIは、失敗を生きない。
AIXIは、後悔しない。
もちろん、それは理論モデルなのだから当然である。AIXIに倫理や責任を求めるのは筋違いだ、と言うこともできる。
だが、だからこそ明確になる。
AIXIは「知能」の理論であって、「知性」の理論ではない。
3. 知能と知性は同じではない
ここで私は、知能と知性を分けて考えたい。
知能とは、問題を解く能力である。
知性とは、問いの意味を保持し、更新し、その結果を引き受ける能力である。
知能は探索する。
知性は問い直す。
知能は最適化する。
知性は、何を最適化しているのかを疑う。
知能は答えを出す。
知性は、その答えが誰を傷つけ、誰を救い、どのような未来を閉じるのかを考える。
この違いは、AlphaGoの37手を考えるとよく見える。
4. AlphaGo 37手は、本当に創造性だったのか
AlphaGoが李世ドルとの対局で打った有名なMove 37は、第2局で打たれた手である。人間の囲碁棋士にとって非常に意外で、当初は悪手にも見えた。しかし結果的には、その手が有効だった。この例は、AIが人間の想像を超える手を発見した象徴として語られる。なお、第4局で重要だったのは李世ドルのMove 78であり、ここは混同しない方がよい。
動画でも、この37手は創造性の例として扱われる。ただし松田氏は、それを既存のゲーム空間内での「探索的創造性」とし、アインシュタイン的な理論転換を「変革的創造性」として区別している。
この区別は重要である。Margaret Bodenは、創造性を既存の概念空間内での探索と、概念空間そのものを変える変革的創造性に分けて論じてきた。Bodenの創造性論は、計算機による創造性を考えるうえでも広く参照されている。
だが、RDE(Resonant Deviation Evaluator)の観点から見ると、さらに重要な問いが残る。
AlphaGoの37手が重要だったのは、AIが新しい手を打ったからだけではない。
その手が、人間の囲碁理解を変えたからである。
つまり、AIの出力そのものよりも、その出力が人間側の意味体系にどのような変化を生じさせたかが重要なのだ。
RDE的に言えば、37手の価値は「新規で有効だった」ことだけではなく、人間の評価軸、探索感覚、美意識、読みの常識にどのようなΔM、すなわち意味変化を生じさせたかにある。
AIが答えを出した。
人間が驚いた。
人間の理解が変わった。
その変化が次の世代の棋士やAI研究に継承された。
ここに初めて、来歴が生まれる。
重要なのはAIの創造性そのものではなく、AIとの相互作用によって、人間の意味世界がどのように更新され、その更新がどのように保存されるかである。
5. 本当の不確実性は「AIがどこまで伸びるか」ではない
UIB(Uncertainty-oriented Intelligence Benchmark)の視点から見ると、動画シリーズの不確実性の扱いも興味深い。
動画では、AI進歩の不確実性が繰り返し語られる。スケーリングはどこまで続くのか。再帰的自己改善はどこまで効くのか。パラダイムシフトは起こるのか。抽象化の壁は突破できるのか。規制や資源制約は一時的摩擦なのか、本質的限界なのか。
これは重要である。
しかし、それは主に性能予測の不確実性である。AIがどこまで伸びるか、いつASIへ到達するか、どの摩擦が効くか、どの経路が主導するか、という不確実性である。
UIBの観点からは、さらに深い不確実性がある。
それは、何を知能と呼んでいるのか自体が不確実である、ということだ。
もし知能を探索能力と定義すれば、探索範囲を広げるAIは知能が高い。
もし知能を予測能力と定義すれば、未来状態をより正確に推定するAIは知能が高い。
もし知能を報酬最大化能力と定義すれば、目的関数を効率よく達成するAIは知能が高い。
だが、人間社会で問題になるのは、それだけではない。
その問いは誰の問いなのか。
その目的は誰が与えたのか。
その価値は誰の価値なのか。
その判断によって誰が傷つくのか。
その結果を誰が引き受けるのか。
ここまで来ると、不確実性は性能予測の問題ではなくなる。問いそのものの不確実性、意味そのものの不確実性、責任の帰属の不確実性になる。
ASI論が本当に向き合うべき不確実性は、AIがどこまで伸びるかだけではない。AIによって「知性」という語の意味がどこまで変質するかである。
6. 人類は、そもそも整列していない
ここで、AI Alignmentの問題に戻る必要がある。
AI Safetyの議論では、しばしば「AIを人間の価値に整列させる」ことが中心課題とされる。これは重要である。AIが人間に害を与えないようにすること、人間の意図や規範に反しないようにすることは、当然ながら必要である。
しかし問題は、「人間の価値」とは何かである。
Iason Gabrielは、AI alignmentが単に技術的問題ではなく、倫理的・政治的問題でもあると論じている。彼は、AIが整列すべき対象として、命令、意図、顕示選好、理想選好、利益、価値などを区別し、人々の道徳的信念が大きく異なる世界で、どのような公正な原理を選ぶべきかが中心課題になると述べている。
ここには重大な示唆がある。
人類は、そもそも整列していない。
国家、宗教、市場、企業、家族、専門職、地域、世代、階級、ジェンダー、文化。これらはそれぞれ異なる価値体系を持つ。
人間社会は、単一の価値中心によって維持されているのではない。
対立、交渉、妥協、制度化、異議申し立て、再審可能性によって、かろうじて維持されている。
だとすれば、「AIを人間の価値へ整列させる」という表現には、危うい錯覚が含まれている。人間側に、安定した、統一された、抽出可能な価値が存在するかのように見せてしまうからである。
だが、価値は抽出される対象ではない。
価値は、相互作用の中で形成される。
人間は、他者との接触、制度との関係、失敗、葛藤、記憶、物語、教育、労働、愛着、喪失を通じて、自らの価値を発見し、修正し、再構成する。
価値とは、内面のどこかに保存された preference ではない。
価値とは、来歴を持つ意味構造である。
7. Chronicle Theoryから見た超知能論
ここに、Chronicle Theoryの入口がある。
DeepMind的なASI論は、基本的にこう進む。
Agent
→ Intelligence
→ Capability
→ Safety
つまり、エージェントが知能を持ち、その能力が拡大し、その能力をどう安全に制御するかが問題になる。
一方、Chronicle Theoryは、こう考える。
Interaction
→ Meaning Formation
→ Chronicle
→ Responsibility
→ Institution
知性は、孤立した計算能力ではない。
知性は、相互作用の来歴を通じて意味を形成し、修正し、責任へ接続する継続過程である。
この違いは大きい。
超知能とは、能力が人間を超えたAIのことかもしれない。
しかし知性とは、意味の来歴を保持し、問い直し、責任へ接続できる継続過程である。
能力としての超知能は、問いに答える。
来歴としての知性は、その問いがなぜ生まれたのかを保持する。
能力としての超知能は、最適な手段を探す。
来歴としての知性は、その目的が本当に引き受けられるものかを問う。
能力としての超知能は、人間を上回る。
来歴としての知性は、人間が何を失いつつあるのかを見つめる。
8. AIが社会に入るとき、本当に問うべきこと
この視点から見ると、動画シリーズは「能力としての超知能」を理解するには非常に有用である。だが、それだけでは半分である。
AIが社会に深く入り込むとき、本当に問題になるのは、AIが何をできるかだけではない。
AIが、人間の意味形成をどう変えるか。
AIが、人間の判断をどう方向づけるか。
AIが、制度の責任構造をどう組み替えるか。
AIが、問いの来歴を保存するのか、それとも消去するのか。
ここが本当の問題である。
この問題意識は、拙稿「人間とAGI/ASIにおける言語・意味・責任の再配分」でも論じたように、AIやASIそのものへの恐怖ではなく、人間が判断と責任を外部化しうる構造への問いである。同プレプリントでは、AGI/ASIとの共存とは、人間の主体性を固定的に保存することではなく、責任を引き受け続ける構造を再設計することだと述べた。なお、jXiv上の同稿は査読前プレプリントであり、最終出版版ではない。
たとえば、AIが医療判断を支援する。
AIが教育方針を提案する。
AIが採用や融資や行政判断に関与する。
AIが戦争や治安や監視の判断に入り込む。
そのとき問題は、AIがどれほど高性能かだけではない。
AIが出した判断を、誰が採用するのか。
誰が意味づけるのか。
誰が異議申し立てを行うのか。
誰が失敗を引き受けるのか。
AIが正しい答えを出したように見えるほど、人間は判断を外部化しやすくなる。
AIが客観的に見えるほど、制度は責任を曖昧にしやすくなる。
AIが有能であるほど、人間は問い直す力を失いやすくなる。
ここで必要なのは、AIを拒否することではない。
必要なのは、AIとの相互作用の来歴を保存することである。
9. Chronicleとは何か
Chronicleとは、単なるログではない。
ログは、何が起きたかを記録する。
Chronicleは、なぜその問いが生まれ、どのように応答され、何が修正され、どの失敗が残り、どの責任が制度に刻まれたのかを保持する。
Chronicleとは、問い、応答、修正、失敗、反省、制度化、再解釈の連鎖である。
それは、知性が時間をまたいで自分自身を失わないための持続的な意味基盤である。
AI安全性の未来は、人間の価値を凍結することではない。
人間・AI・制度が、互いに問い、修正し、理解し続けるためのChronicleを守ることにある。
ここで初めて、「超知能」という言葉の空虚さが見えてくる。
10. 賢さの先に、知性は自動的には現れない
超知能は、知能の拡大である。
しかし知性は、能力の大きさではない。
知性とは、問いの来歴を失わず、意味を更新し、失敗を引き受け、なお相互作用を続ける力である。
AIが人間を超える日を恐れる前に、私たちは問うべきである。
人間は、自分たちの問いの来歴を保持できるのか。
AIが出した答えを、誰が意味づけるのか。
その答えによって生じた結果を、誰が引き受けるのか。
制度は、AIの判断を再審可能な形で保存できるのか。
社会は、超知能の速さに押し流されず、止まる場所を持てるのか。
超知能の問題は、AIが神になるかどうかではない。
人間が、責任を引き受ける知性であり続けられるかどうかである。
「賢さ」の先に、自動的に知性があるわけではない。
賢さは伸びる。
能力は増える。
探索は深くなる。
予測は速くなる。
エージェントは群れをなす。
制度はそれを使いたがる。
資本はそれを止めたがらない。
だからこそ、必要なのは問いの来歴である。
意味を閉じず、責任を消さず、失敗を忘れず、相互作用を再審可能な形で保存すること。
超知能という言葉に酔ってはならない。
その言葉は、しばしば知性の最も重要な部分を隠してしまう。
意味を引き受けるということ。
責任を背負うということ。
問い直し続けるということ。
賢いAIは、おそらく来る。
だが、知性的な社会は、自動的には来ない。
それは、私たちが設計しなければならない。
参考文献
著者関連論文・理論的背景
加納 智之「人間とAGI/ASIにおける言語・意味・責任の再配分」jXiv, 2026. DOI: 10.51094/jxiv.2982。
本稿における「超知能」批評、意味・判断・責任の再配分、AI/ASIとの共存における引受構造の問題意識と接続する筆者自身の関連プレプリント。jXiv上では査読前プレプリントとして公開されている。
日本語資料・動画
松田卓也・SingularitySalon「松田語録:超知能とは何か(全4回:第1回)〜定義と理論的足場」。
松田卓也・SingularitySalon「松田語録:超知能とは何か(全4回:第2回)〜機械知能の理論的上限AIXI」。
松田卓也・SingularitySalon「松田語録:超知能とは何か(全4回:第3回)〜4つの経路と6つの摩擦」。
松田卓也・SingularitySalon「松田語録:超知能とは何か(全4回:第4回)〜残された問い」。
英語文献・関連資料
Tim Genewein et al., “From AGI to ASI,” arXiv, 2026.
Marcus Hutter, “A Theory of Universal Artificial Intelligence based on Algorithmic Complexity,” arXiv, 2000.
Marcus Hutter, “Towards a Universal Theory of Artificial Intelligence based on Algorithmic Probability and Sequential Decision Theory,” arXiv, 2000.
David Silver et al., “Mastering the game of Go with deep neural networks and tree search,” Nature, 2016.
David Silver et al., “Mastering the game of Go without human knowledge,” Nature, 2017.
David Silver et al., “Mastering Chess and Shogi by Self-Play with a General Reinforcement Learning Algorithm,” arXiv, 2017.
Iason Gabriel, “Artificial Intelligence, Values, and Alignment,” arXiv / Minds and Machines, 2020.
Iason Gabriel and Vafa Ghazavi, “The Challenge of Value Alignment: from Fairer Algorithms to AI Safety,” arXiv, 2021.
Margaret A. Boden, The Creative Mind: Myths and Mechanisms, 1990 / 2004 edition.
Wired, “In Two Moves, AlphaGo and Lee Sedol Redefined the Future,” 2016.
Reuters, “Google names London office ‘Platform 37’ in a nod to railway neighbour, AI ‘Go’ match,” 2026.
ファクトチェック要点
本稿で参照した From AGI to ASI はarXiv上のプレプリントであり、AGIからASIへの4経路として scaling AGI、AI paradigm shifts、recursive improvement、large-scale multi-agent collectives を挙げている。したがって本文では「査読済み論文」ではなく「arXivプレプリント」として扱った。
AIXIについては、動画側の説明に沿って「未知環境で期待報酬を最大化する理論上の最適エージェント」として扱った。ただし、本文では意味・責任・制度を扱う知性論とは別階層であることを明示した。
AlphaGoのMove 37は李世ドル戦の第2局で打たれた手であり、第4局で重要だったのは李世ドルのMove 78である。そのため本文では「AlphaGoの37手」とし、「第4局の37手」とは書いていない。
Iason GabrielのAlignment論については、alignmentの対象が命令、意図、選好、利益、価値などで異なり、道徳的信念の多様性を前提に公平な原理を構成する必要があるという点を参照した。
RDE、UIB、Chronicle Theoryは、筆者自身の理論的立場として提示した。既存研究として確立済みであるかのようには扱わず、本稿の批評的枠組みとして用いた。
Copyright © 2026, Tomoyuki Kano <tomyuk_AT_zyxcorp.jp>
License: CC BY-NC-ND 4.0
#超知能 #AI安全論 #ChronicleTheory #人工知能 #AI倫理 #AGI #ASI #RDE #UIB #意味と責任