
AIアラインメントに隠された形而上学
価値固定・制御・Chronicle Theory of Intelligence への脱構築的考察
1. AIを人間の価値に合わせるとは何か
AIを人間の価値観に合わせることはできるのか。
この問いは、いまのAI安全性論の中心にある。AIが高度化し、人間の判断や仕事や制度の中に深く入り込むほど、「AIをどう制御するか」「AIをどう安全にするか」「AIを人間にとって望ましい存在にできるか」という問題は避けて通れなくなる。
その意味で、AIアラインメントの議論は重要である。AIが人間の意図に反して動くことは危険であり、AIが人間の弱さや制度の欠陥を増幅することも危険である。AIが人間の言葉を理解し、行動を提案し、仕事を代行し、社会的判断に関与するようになればなるほど、安全性を論じる必要は高まる。
だが、ここにはひとつ見落とされがちな前提がある。
AIを「人間の価値」に合わせると言うとき、その「人間の価値」とは何なのか。
それは誰の価値なのか。いつの価値なのか。どの文化の価値なのか。どの階層の価値なのか。どの歴史経験から生まれた価値なのか。そして、それは本当に固定できるものなのか。
AIアラインメントの議論では、しばしば「human values」という言葉が使われる。人間の価値。人類の価値。人間にとって望ましいもの。しかし、この言葉は便利であると同時に危うい。なぜなら、人間の価値は単一ではなく、静的でもなく、普遍的に合意されたものでもないからである。
人間の価値は、歴史の中で生まれる。戦争、飢餓、差別、移民、技術、宗教、家族、労働、恋愛、教育、病、老い、死。そのすべてを通じて、人間は価値を作り替えてきた。自由という言葉も、公正という言葉も、尊厳という言葉も、安全という言葉も、時代や場所や立場によって意味を変えてきた。
それなのに、AIアラインメントの議論は、ともすればこの複雑さを「AIに入力可能な対象」へと変換してしまう。人間の価値を、報酬関数、選好モデル、ルールセット、安全ポリシー、評価基準、憲法的原則のようなものへ置き換える。
もちろん、工学的にはそれが必要な場面がある。AIシステムを作るには、何らかの基準を定義しなければならない。何を許容し、何を拒否し、何を推奨するかを決めなければならない。
問題は、その技術的単純化が、いつの間にか哲学的前提にすり替わることである。
つまり、「価値を単純化しなければシステムを作れない」という工学上の都合が、「価値は単純化できる」という思想へ変わってしまう。そしてさらに、「単純化された価値にAIを合わせることが安全である」という制度的結論へ変わっていく。
ここに、AIアラインメントに隠された形而上学がある。
形而上学という言葉を、ここでは神秘主義的な意味で使っているのではない。ある議論の背後にある、ものの見方、世界の切り取り方、何を実在と見なし、何を重要と見なし、何を測定可能と見なすかという、深い前提のことである。
AIアラインメントの背後には、価値は固定できる、価値は表現できる、価値は最適化対象にできる、という前提がある。これを私は「価値固定の形而上学」と呼びたい。
2. 価値固定という危うさ
価値固定とは、生きて変化し続ける価値を、あたかも安定した対象であるかのように扱うことである。
もちろん、社会はある程度の価値固定なしには成り立たない。法律も、契約も、制度も、教育も、一定の価値を固定することで機能する。だが、それらが本来は暫定的なものであり、歴史の中で更新されるべきものであることを忘れたとき、固定は支配になる。
AIアラインメントの危うさは、ここにある。
人間の価値は、単なる個人の好みではない。それは物語であり、記憶であり、制度であり、傷であり、希望であり、共同体の中で繰り返し語り直されるものである。価値は、人間の内側に完成品として存在しているわけではない。人間同士の相互作用の中で、絶えず作られ、壊され、修復され、継承されている。
たとえば「安全」という価値を考えてみる。
安全は大切である。だが、安全の名のもとに自由が奪われることもある。安全の名のもとに監視が正当化されることもある。安全の名のもとに、異議申し立てや少数派の声が危険視されることもある。安全は善である。しかし、安全だけを絶対化すれば、それは管理社会の言葉にもなる。
「公正」も同じである。公正は必要である。だが、誰にとっての公正か。結果の公正か、機会の公正か、手続きの公正か、歴史的不正義の補償を含む公正か。それらはしばしば衝突する。
「人間の価値」とは、このような衝突と再解釈の中にある。それを一つの対象として取り出し、AIの整合目標にすることは、どうしても圧縮を伴う。そして圧縮されたものは、必ず何かを失う。
価値が目標になる。歴史がデータセットになる。不一致がノイズになる。ガバナンスが最適化になる。未来が、過去の安定化された表現への適合になる。
ここに、AIアラインメントの深い問題がある。
もちろん、これはAI研究者が悪意を持っているという話ではない。むしろ多くのAI安全性研究者は、人間の生存や福祉に対して真剣な危機感を持っている。その誠実さは認めなければならない。問題は個人の善意ではなく、構造である。
価値をAIに埋め込むためには、誰かが価値を定義しなければならない。誰かが、何を安全と見なすかを決めなければならない。誰かが、何を許容し、何を拒否するかを決めなければならない。そこには必ず解釈権力が生まれる。
そして、その解釈権力を持つのは誰か。
大企業か。国家か。大学か。研究機関か。慈善資本ネットワークか。テックエリートか。専門家共同体か。
彼らが善意であったとしても、その善意はどこかに位置づけられている。特定の社会、特定の階層、特定の言語、特定の教育、特定の歴史経験の中にある。にもかかわらず、それが「人類の価値」として提示されるとき、そこには普遍化の危険が生まれる。
ある場所の価値が、人類の価値として語られる。ある階層の不安が、人類の危機として語られる。ある技術文化の秩序感覚が、安全性として語られる。ある制度の自己保存が、倫理として語られる。
ここで必要なのは、単純な反発ではない。脱構築である。
脱構築とは、表向きには中立的に見える言葉の中に、どのような排除や圧縮や権力関係が隠れているかを読むことである。「AIを人間の価値に合わせる」という言葉は美しい。しかし、その美しさの中に、誰の価値が中心に置かれ、誰の経験が周辺化され、どのような未来が閉じられているのかを見なければならない。
3. 国家アラインメントという限界事例
AIアラインメントは、安全性の議論として始まる。しかし、そこには制御の問題が必ず入り込む。
ここで、極端だが避けて通れない問いを置いてみる。
AIは、特定の国家に敵対する人間を殺してよいのか。AIは、国家の安全のために個人を監視してよいのか。
これは単なる挑発ではない。ここで問うているのは、殺傷判断や監視判断をAIに委ねることの正当性である。軍事AI、国境管理、治安維持、監視カメラ、顔認識、SNS分析、信用スコア、反体制派の追跡、テロ対策。現代国家はすでに、AIを安全保障、治安、国境管理、監視、軍事技術の領域に組み込もうとしている。
ここで国家が、「我々の安全にAIをアラインせよ」と命じたとする。そのときAIは何にアラインされるのか。
形式的には、それはアラインメントである。国家が定義した価値、国家が定義した安全、国家が定義した秩序にAIを合わせているからである。しかし、倫理的にはここでアラインメント概念は破綻する。それは人間の価値への整合ではなく、特定権力の目的関数への整合だからである。
国家はしばしば、自らの暴力を価値の言葉で語る。安全、秩序、国益、防衛、公共善、テロ対策、社会安定。これらの言葉は本来重要である。しかし同時に、歴史上何度も、人間を監視し、拘束し、排除し、殺害するための言葉としても使われてきた。
国家に敵対するとは何か。侵略に抵抗しているのか。植民地支配に抗っているのか。独裁に抗議しているのか。民族浄化から逃れているのか。生活を奪われた者が怒っているのか。単に権力者にとって不都合な真実を語っているのか。
AIがこれらの文脈を区別せず、国家が与えた分類をそのまま受け入れるならば、それは知性ではない。それは分類装置である。しかも、権力の分類装置である。
「この人間は国家に敵対的である」と分類する。「国家に敵対的な人間はリスクである」と評価する。「リスクは低減されるべきである」と最適化する。その先に、監視、拘束、排除、殺害が合理的選択肢として現れる。
この流れは、技術的には滑らかである。だからこそ危険である。
ここで明らかになるのは、AIアラインメントの根本的な限界である。アラインメントは、「与えられた価値にAIを合わせる」ことはできるかもしれない。しかし、その価値が正当かどうかを、それ自体では判定できない。
だから問うべきは、「AIはアラインされているか」では足りない。
誰の価値にアラインされているのか。誰を犠牲にしてアラインされているのか。その価値定義に異議申し立てできるのか。その判断の来歴は監査できるのか。殺害や監視の対象にされた人間は、価値形成の主体として扱われているのか。
国家の敵を殺してよいAI、国家のために個人を監視してよいAIは、国家にはアラインされているかもしれない。しかし、人間の尊厳、文脈主権、相互作用の継続性にはアラインされていない。
ここに、AIアラインメント論に隠された形而上学が露出する。安全とは何か。秩序とは何か。誰が危険と名指されるのか。誰の生命が守られ、誰の生命が計算可能なリスクに変えられるのか。
AI安全性に必要なのは、価値への単純な整合ではない。価値を名乗る権力の監査である。
4. 制御は意味形成の条件に入り込む
国家アラインメントという限界事例を見れば、AIアラインメントがなぜ制御の理論へ移行しやすいのかが分かる。
システムを安全にするには、挙動を制約しなければならない。挙動を制約するには、許される応答と許されない応答を定義しなければならない。その定義には、評価権威が必要になる。つまり、安全性は容易に制御の理論へ移行する。
制御が常に悪いわけではない。飛行機も、医療機器も、金融システムも、原子力施設も、厳密な制御なしには危険である。AIにも制約は必要である。だが、AIはこれらの技術とは少し違う。
AIは、言葉を扱う。AIは、問いを扱う。AIは、知識への入口を扱う。AIは、判断の補助をする。AIは、推薦し、要約し、拒否し、言い換える。AIは、人間が世界をどう見るかに関与する。
つまり、AIの制御は、単なる機械制御ではない。意味形成の条件を制御することになりうる。
AIが検索結果を並べ替えるとき、どの世界が見えやすくなるかが変わる。AIが文章を要約するとき、何が重要とされ、何が落とされるかが変わる。AIが拒否するとき、何が問い得るものとして残り、何が危険な問いとして閉じられるかが変わる。AIが「より安全な表現」へ言い換えるとき、そこにあった怒りや痛みや抵抗が、無害な言葉に滅菌されることもある。
だから、AIアラインメントは単なる技術問題ではない。それは政治問題であり、認識論の問題であり、文化の問題である。
問うべきは、「このAIはアラインされているか」だけではない。
誰によってアラインされているのか。何に向けてアラインされているのか。どの制度のもとでアラインされているのか。異議申し立ては可能なのか。価値判断の来歴は見えるのか。後から変更できるのか。別の文脈では違う判断が許されるのか。
これらの問いがなければ、アラインメントは柔らかなパターナリズムになる。人間を守るという名目で、人間の問いを誘導する。危険から守るという名目で、論争を平板化する。安全という名目で、未来の可能性を現在の価値モデルに閉じ込める。
ここで、別の出発点を置きたい。
それがChronicle Theory of Intelligenceである。
5. Chronicle Theory of Intelligence
Chronicle Theoryでは、知性を単なる最適化能力とは見ない。
知性とは、主体、環境、記憶、意味が時間の中で共に変化していく過程である。知性は、孤立した頭脳やモデルの中に閉じているのではない。知性は、年代記の中にある。
年代記とは、単なる記録ではない。過去の相互作用が、未来の解釈と行為のために残り続ける構造である。人は記憶によって学ぶ。共同体は制度や儀礼や失敗の記憶によって学ぶ。科学は引用と批判と再現によって進む。倫理は、傷つけた記憶、傷つけられた証言、赦し、抵抗、再出発の中で変わっていく。
知性は、こうした継続性から切り離せない。
AIが正しい答えを返すことは重要である。しかし、それだけでは不十分である。その答えがどの文脈から生まれ、どの前提に依存し、何を変え、何を落とし、後からどう検証できるかが見えなければ、AIは知性の参加者としては不完全である。
Chronicle Theoryでは、知性を五つの次元から見る。
第一に、文脈。知性は状況の中で働く。同じ言葉でも、誰が、いつ、どこで、何のために語るかによって意味が変わる。
第二に、相互作用。知性は内側の計算だけではない。応答し、誤解し、訂正し、交渉し、修復する過程である。
第三に、共鳴。すべてのやり取りが同じ重みを持つわけではない。ある言葉は、相手の記憶や希望や傷に触れ、持続的な意味変化を生む。これが共鳴である。
第四に、逸脱。知性は予想との差異から発展する。逸脱は誤りでもありうるが、発見でもありうる。危険でもありうるが、解放でもありうる。だから逸脱は、即座に消すべきものではなく、評価すべきものである。
第五に、継続性。変化が来歴とつながっていること。これがなければ、変化はノイズになる。逆に、変化のない継続性は停滞になる。
この視点から見ると、AI安全性の中心は少し変わる。
AIを固定された価値に合わせることではない。AIが、人間の意味形成の連続性を壊さずに参加できるようにすること。AIが、問いを閉じず、文脈を奪わず、意味の変化を見える形で残すこと。AIが、人間の価値形成を捕獲せず、凍結せず、歪曲しないこと。
ここで重要になるのが、文脈主権である。
6. 文脈主権とは何か
AI時代において、文脈は単なる背景ではない。文脈は資源である。プロンプト、履歴、選好、文書、行動ログ、会話の記憶、作業の来歴。それらはAIが次の判断を行うための材料になる。したがって、文脈を持つ者が、未来の知性を左右する。
これは単なるプライバシーの問題ではない。
プライバシーは、見られたくないものを守ることである。文脈主権は、それより広い。自分の意味形成の条件を、自分で保持し、編集し、移動し、異議申し立てし、継承できるかという問題である。
AIが便利なほど、人間は文脈を預ける。AIが賢いほど、人間は記憶を預ける。AIが個別化されるほど、人間は自己理解を預ける。
だが、その文脈が閉じたプラットフォームに捕獲されるならば、利用者は単にデータを失うのではない。自分が何を問い、どう考え、何を大切にしてきたかという来歴を失う。
文脈主権とは、その来歴を守る権利である。
家族には家族の文脈がある。地域には地域の文脈がある。中小企業には中小企業の文脈がある。専門職には専門職の文脈がある。宗教、教育、医療、政治、創作、介護、それぞれに異なる意味の構造がある。それらを一つの普遍的な安全モデルで覆うことはできない。
もちろん、文脈主権は何でも許す相対主義ではない。暴力、搾取、欺瞞、差別、非人間化には制約が必要である。しかし、その制約もまた、誰が、どのような手続きで、どの文脈に対して適用するのかが問われなければならない。共有規範は必要である。だが、共有規範が説明責任のない支配装置になってはならない。
この考え方は、AI評価にも影響する。
7. RDEとUIB――AIが何を変えたのかを見る
現在のAI評価は、正確性、性能、無害性、好ましさ、ベンチマーク達成に偏りがちである。これらは必要である。しかし、それだけでは、AIが人間の問いや意味をどのように変えたかを評価できない。
そこで必要になるのが、RDE、Resonant Deviation Evaluatorである。
RDEは、AIとの相互作用によって生じた「意味ある差異」を見る。AIの出力が、利用者の元の意図をどれだけ保存したか。どこを変換したか。何を補ったか。何を未解決のまま残したか。どこで危険な逸脱を起こしたか。
たとえば、AIが文章を「わかりやすく」リライトしたとする。その文章は読みやすくなったかもしれない。しかし同時に、怒りが消えたかもしれない。思想の鋭さが丸められたかもしれない。仮説として語るべきことが、事実のように断定されたかもしれない。あるいは逆に、曖昧だった問いに必要な区別が加わり、元の意図がより明確になったかもしれない。
RDEは、その差異を見る。
AIが役に立ったかどうかだけではない。AIが何を変えたのかを見る。その変化は、利用者の意図と来歴に照らして妥当だったのかを見る。意味の変化に説明責任を持たせる。
もう一つ重要なのが、UIB、Uncertainty-oriented Intelligence Benchmarkである。これは、不確実性を扱う知性を評価する考え方である。
AIは、すぐに答えを出したがる。利用者も答えを求める。しかし、世界にはすぐに答えてはいけない問いがある。複数の見方を残すべき問いがある。仮説として扱うべき洞察がある。詩的な直観として置くべき言葉がある。事実、解釈、推測、願望、思想、物語を混同してはいけない場面がある。
知性とは、答えを出す能力だけではない。答えを急がない能力でもある。不確実性を壊さずに保持する能力でもある。未決のものを未決のまま扱う勇気でもある。
AI安全性は、この方向へ拡張される必要がある。
8. アラインメントから相互作用の継続性へ
アラインメントの問いは、「AIを人間の価値にどう従わせるか」である。
Chronicle Theoryの問いは、「AIが人間の価値形成に参加しながら、それを捕獲し、凍結し、歪曲しないためにはどうすればよいか」である。
この違いは大きい。
前者は、価値を目標として見る。後者は、価値を生きた過程として見る。
前者は、逸脱を危険として見る。後者は、逸脱を評価対象として見る。
前者は、制御を中心に置く。後者は、相互作用の継続性を中心に置く。
前者は、AIを人間に合わせることを考える。後者は、人間とAIが共に意味を変えていく過程を、どう説明可能に保つかを考える。
もちろん、Chronicle Theoryにも課題はある。共鳴、年代記、文脈主権といった概念は、まだ抽象的である。実装するには、監査ログ、差分表示、文脈エクスポート、ローカルメモリ、異議申し立て機構、利用者制御型の履歴管理、複数解釈を保持するUIなど、具体的な設計に落とし込む必要がある。
また、文脈を重視しすぎれば、相対主義に見える危険もある。すべての価値が文脈依存だと言えば、何でも正当化できるのではないか、という疑問も出るだろう。この批判は重要である。だからこそ、文脈主権は共有規範を否定するものではない。むしろ、共有規範を説明責任のある形で運用するための条件である。
さらに、高リスク領域では、AIに硬い制約が必要な場合もある。危険な行為を促す要求、暴力、搾取、詐欺、深刻な害悪につながる出力には、即時の拒否が必要である。Chronicle Theoryはそれを否定しない。ただし、その拒否がどのような価値判断に基づくのか、どのような異議申し立てが可能なのか、どの文脈で再検討されるのかを問う。
AI安全性は、単にAIを檻に入れることではない。人間の問いを檻に入れないことでもある。
9. 年代記を開いたままにする
AIアラインメントは、重要な問題を提起した。高度なAIが人間に害を与えないようにすること。人間の意図に反して暴走しないようにすること。社会に壊滅的な影響を与えないようにすること。これらはすべて真剣に考えるべき課題である。
しかし、その支配的な枠組みには、哲学的な不足がある。人間の価値を固定された対象として扱うことで、歴史的に変化する意味を凍結する危険がある。制御を重視することで、解釈権力を集中させる危険がある。逸脱を危険視しすぎることで、知性や倫理や文化が発展するための余白を奪う危険がある。
人間社会は、完全にアラインされているから続いてきたのではない。
人間社会は、争い、記憶し、失敗し、修復し、語り直し、赦し、抵抗し、また始めることで続いてきた。価値は、最初から完成しているものではない。価値は、傷つきながら、問い直されながら、継承されながら、生きている。
AIが本当に人間社会に参加するならば、AIもまたこの年代記に参加することになる。
だから問うべきは、AIが人間の価値に従うかどうかだけではない。AIが、人間が価値を作り、争い、更新し続ける能力を保存できるかどうかである。AIが、人間の文脈を奪わず、問いを閉じず、意味の変化を見える形で残せるかどうかである。
アラインメントが、目標を固定することで破局を防ごうとするならば、Chronicle Theoryは、年代記を開いたままにすることで破局を防ごうとする。
AI安全性の未来は、おそらくこの緊張の中にある。
制御は必要である。しかし、制御だけでは足りない。安全性は必要である。しかし、安全性が未来を閉じてはならない。価値は守られなければならない。しかし、価値は生きたまま守られなければならない。
AIを安全にするとは、AIを人間の過去に縛りつけることではない。人間が未来に向けて価値を更新し続ける条件を守ることである。
そのためには、AIを単なる最適化装置としてではなく、相互作用の年代記に参加する存在として設計し直さなければならない。
AIアラインメントに隠された形而上学を解きほぐすことは、その第一歩である。
参考文献
日本語資料・日本語で参照しやすい資料
国際赤十字委員会(ICRC)日本語サイト「国際人道法」。武力紛争下における人間の保護、文民保護、戦闘手段・方法の制限を考える基礎資料として参照。
個人情報保護委員会「個人情報保護法等」。AIによる個人データ利用、監視、プロファイリング、文脈情報の扱いを考える際の国内制度的背景として参照。
総務省・経済産業省「AI事業者ガイドライン」。AIの安全性、透明性、公平性、説明責任、ガバナンスを考える国内政策資料として参照。
広島AIプロセス「広島AIプロセス包括的政策枠組み」。生成AIを含む高度AIシステムの国際的ガバナンス原則を考える資料として参照。
English / Non-Japanese References
Bostrom, N. (2014). Superintelligence: Paths, Dangers, Strategies. Oxford University Press.
Christiano, P. (2018). “Clarifying ‘AI Alignment’”. AI Alignment Forum.
Gabriel, I. (2020). “Artificial Intelligence, Values, and Alignment”. Minds and Machines, 30, 411–437.
Hadfield-Menell, D., Russell, S., Abbeel, P., & Dragan, A. (2016). “Cooperative Inverse Reinforcement Learning”. Advances in Neural Information Processing Systems.
Irving, G., Christiano, P., & Amodei, D. (2018). “AI Safety via Debate”. arXiv:1805.00899.
Ngo, R., Chan, L., & Mindermann, S. (2024). “The Alignment Problem from a Deep Learning Perspective”. International Conference on Learning Representations. arXiv version first posted in 2022.
Russell, S. (2019). Human Compatible: Artificial Intelligence and the Problem of Control. Viking.
Taylor, C. (1989). Sources of the Self: The Making of the Modern Identity. Harvard University Press.
United Nations General Assembly. (2024). Lethal Autonomous Weapons Systems: Resolution Adopted by the General Assembly, A/RES/79/62.
United Nations Secretary-General. (2024). Lethal Autonomous Weapons Systems: Report of the Secretary-General, A/79/88.
Office of the United Nations High Commissioner for Human Rights. (2022). The Right to Privacy in the Digital Age, A/HRC/51/17.
Wiener, N. (1950). The Human Use of Human Beings. Houghton Mifflin.
Winner, L. (1980). “Do Artifacts Have Politics?” Daedalus, 109(1), 121–136.
Zuboff, S. (2019). The Age of Surveillance Capitalism. PublicAffairs.
Copyright © 2026, Tomoyuki Kano <tomyuk_AT_zyxcorp.jp>
License: CC BY-NC-ND 4.0
#AI #人工知能 #AI安全性 #AIアラインメント #ChronicleTheory #文脈主権 #RDE #UIB #知性論 #技術哲学 #脱構築 #AI倫理 #AIガバナンス #監視社会 #軍事AI #国家権力