メインコンテンツへスキップ
見出し画像

誰がために憲法AIは鳴る――憲法AIはだれの憲法を演じるのか

    鐘は誰のために鳴るのか。

    ジョン・ダンの有名な言葉を経て、ヘミングウェイの小説題名として広く知られるこの問いは、本来、死者ひとりのためだけに鳴る鐘を指してはいない。誰かの死は、孤立した出来事ではない。共同体の一部が欠けることであり、世界の一部が失われることであり、その世界に属する私たち自身もまた、わずかに削られるということだ。

    だから、鐘が誰のために鳴っているのかを問うな。それはあなたのために鳴っている。

    この言葉は、戦争や死や共同体の喪失を語るとき、いまなお強い響きを持つ。しかし今日、鐘は教会の塔からだけ鳴るのではない。国家の安全保障会議から鳴る。クラウド基盤の障害通知から鳴る。SNSの炎上から鳴る。難民船の沈没から鳴る。戦場の映像から鳴る。医療・福祉・教育の現場から鳴る。そして、AIの出力制御、拒否、誘導、沈黙の内部からも鳴っている。

    そのなかで、近年しばしば語られるようになったものに「憲法AI」がある。

    ここでいう憲法AIには、二つの水準がある。狭義には、Anthropic が提示した Constitutional AI のように、明示された原則群を用いてAIの応答を批評・修正・調整する訓練および整合手法を指す。広義には、AIに何らかの原則体系を与え、その原則に沿って出力・拒否・誘導・抑制を行わせる設計思想全般を指す。本稿では、この広義の意味を中心に扱う。

    AIに憲法を持たせる。AIに原則を与える。AIを人間の価値に従わせる。AIが暴走しないように、あらかじめ倫理的・法的・社会的な境界を与える。こうした発想は、一見するときわめて健全に見える。むしろ、AIが社会の基盤に深く入り込む以上、何らかの原則や制約が必要であることは否定しがたい。

    問題は、そこではない。

    問題は、AIに憲法を与えることではない。問題は、その憲法が誰の憲法なのかである。さらに言えば、AIは本当に憲法を「持つ」のか。それとも、誰かが設計した憲法らしきものを、応答のなかで「演じる」だけなのか。

    ここでいう「演じる」とは、単なる偽物という意味ではない。制度的な責任主体ではないモデルが、憲法的価値を理解し判断しているかのような応答形式を生成する、という批評的な意味で用いている。

    憲法AIとは、AIに憲法を与える試みである以前に、誰かの憲法をAIに演じさせる試みである。そこで問うべきなのは、AIが倫理的かどうかだけではない。AIが鳴らす鐘が、誰の危機を告げ、誰の危機を沈黙させるのかである。

    憲法という名の安心

    「憲法AI」という言葉には、強い安心感がある。

    憲法とは、近代社会において権力を縛るための言葉である。国家権力が勝手に人びとの自由を奪わないようにする。多数派の熱狂が少数者を踏みにじらないようにする。権力の行使に手続きと限界を課す。恣意的な暴力や差別や排除を、少なくとも理念の上では抑制する。

    だから「AIに憲法を持たせる」と言われると、私たちはどこかで安心する。AIにも制限がある。AIにも原則がある。AIにも越えてはならない線がある。そう思えるからだ。

    しかし、この安心感こそが最初の罠である。

    憲法とは本来、権力を制限するための制度である。ところが憲法AIにおいては、憲法的な原則を誰が選び、誰が記述し、誰が解釈し、誰が更新し、誰が適用するのかが、必ずしも公共的に開かれていない。

    国家の憲法であれば、少なくとも形式的には制定権力、改正手続き、司法判断、政治的対立、学説、報道、市民運動といった制度的回路がある。もちろん現実の憲法運用は不完全であり、権力はしばしば憲法を都合よく解釈する。それでもなお、憲法解釈をめぐる争いは、公共的な場に引き出されうる。

    だが憲法AIにおける「憲法」は、多くの場合、企業内部のポリシー、評価データ、RLHF(人間フィードバックによる強化学習)、安全性テスト、法的リスク管理、ブランド戦略、規制対応、そして市場競争のなかに埋め込まれる。

    ユーザーには、それが「安全なAI」「倫理的なAI」「原則に従うAI」として提示される。しかし、その原則の選定と解釈の過程は、裁判所の判決ほどには公開されない。議会審議ほどには記録されない。憲法学説ほどには反論可能な形式で整理されない。

    ここに、憲法AIの根本的なずれがある。

    それは憲法なのか。それとも、憲法の姿をした運用ポリシーなのか。

    AIは憲法を持つのではなく、憲法を演じる

    AIは、憲法を持つのではない。

    少なくとも現在の大規模言語モデルは、主権者でも、裁判官でも、政治共同体の成員でもない。憲法を理解しているように振る舞うことはできる。憲法的な価値を引用することもできる。自由、平等、安全、尊厳、公共性、危害防止、表現の自由、少数者保護といった言葉を、流暢に並べることもできる。

    だが、それは憲法を「持つ」こととは違う。

    AIが行っているのは、訓練データ、ポリシー、評価基準、対話履歴、利用規約、法的制約、社会的圧力の交差点で、憲法らしい応答を生成することである。より正確に言えば、AIは憲法を解釈する主体なのではなく、憲法的解釈の形式を演じる生成装置である。

    もちろん、ここで「演じる」という言葉を、単に偽物という意味で使っているのではない。

    人間の制度もまた、憲法を演じている。裁判所は裁判所の形式で憲法を演じる。行政は行政の形式で憲法を演じる。議会は議会の形式で憲法を演じる。市民運動は市民運動の形式で憲法を演じる。憲法とは、紙に書かれた条文だけではなく、それをめぐって社会が繰り返し演じる公共的実践でもある。

    問題は、AIの演技がどこで行われているかである。

    人間社会における憲法の演技は、少なくとも理想的には、異議申し立てを含む。反論がある。訴訟がある。報道がある。歴史的責任がある。解釈の変遷が記録される。負けた側の言葉も、しばしば判例や論文や運動のなかに残る。

    しかしAIの憲法的演技は、モデルの内部、評価パイプライン、拒否ポリシー、ランキング、フィルタリング、システムプロンプト、非公開の安全性基準のなかで行われる。

    ユーザーは結果を見る。だが、なぜその応答が許可され、なぜ別の応答が拒否され、なぜその論点が強調され、なぜ別の論点が薄められたのかを十分には見られない。

    つまり憲法AIは、憲法を演じているだけではない。憲法を演じる権力そのものを、不可視化する危険を持っている。

    ガードレールは道を決めない

    憲法AIはしばしば、AIの暴走を防ぐガードレールとして説明される。

    この比喩はわかりやすい。車が道路から外れて崖に落ちないように、AIにも安全柵を設ける。差別的発言を避ける。危険な指示を拒否する。違法行為を助長しない。自傷や他害につながる内容を抑制する。こうしたガードレールは、現実に必要である。

    だが、ガードレールは道の外に出ないための構造であって、道そのものを民主的に決める構造ではない。

    ここを取り違えると、AI安全性の議論は一気に政治性を失う。

    たとえば、何が「危険」なのか。何が「偏り」なのか。何が「ヘイト」なのか。何が「正当な批判」なのか。何が「暴力の扇動」で、何が「抑圧への抵抗」なのか。何が「中立」で、何が「現状維持への加担」なのか。

    これらは、技術だけで決まる問いではない。社会的・歴史的・政治的な問いである。

    憲法的価値は、しばしば互いに衝突する。表現の自由と名誉・尊厳の保護。安全と自由。多数者の意思と少数者の権利。公共秩序と抵抗権。透明性とプライバシー。国家安全保障と市民的自由。

    憲法の重要性は、こうした衝突を消すことにあるのではない。むしろ、衝突を公共的に扱うための言語と手続きを与えることにある。

    ところがAIシステムにおいては、この衝突が「より安全な応答」「より望ましい拒否」「より有害性の低い出力」「より一貫したポリシー遵守」といった形で処理される。価値の衝突が、評価指標へ変換される。政治的判断が、最適化問題へ変換される。

    その変換そのものが悪いわけではない。AIを実装する以上、何らかの操作可能な形式に落とし込む必要はある。しかし、その変換が透明化されなければ、政治が技術に偽装される。

    憲法的価値の衝突は、モデルの最適化で解けるのか。

    おそらく、解けない。

    解けるように見えるとすれば、それは衝突が消えたのではなく、衝突の所在がモデル内部へ移されたからである。

    覇権の歪んだ鏡

    さらに重要なのは、憲法AIがAIテック企業の正統性をめぐる競争、さらに言えば覇権争いの鏡像でもあるという点だ。

    ここでいう「覇権」とは、単に市場シェアを取るという意味ではない。どのAIが安全で、信頼でき、社会に導入可能で、公共制度にふさわしいかを定義する力のことである。その意味で、これはかなり歪んだ鏡である。

    AI企業は、いま「能力」だけで競争しているのではない。どのモデルが賢いか、どのモデルが速いか、どのモデルが安いかだけではない。どのモデルが安全か。どのモデルが信頼できるか。どのモデルが企業導入に耐えるか。どのモデルが政府や規制当局に説明可能か。どのモデルが教育、医療、司法、行政、防衛に入り込めるか。

    つまりAI企業は、能力の覇権だけでなく、正統性の覇権を争っている。

    そこで「憲法AI」という言葉は、強力な武器になる。私たちのAIは単に高性能なのではない。原則に従っている。倫理的である。安全である。人間の価値に整合している。社会に受け入れられる。

    しかし、その原則はどこから来るのか。

    米国西海岸のテック企業文化か。欧米リベラル法秩序か。広告市場のリスク感覚か。投資家の期待か。政府調達に向けた説明責任か。軍事・安全保障上の要請か。グローバル市場で炎上を避けるための最小公倍数的ポリシーか。

    もちろん、これらの要素が入ること自体を完全に避けることはできない。AIは空中に浮かぶ純粋理性ではない。企業、国家、市場、ユーザー、研究者、規制当局、労働者、データ提供者、被害者、少数者、軍事機関、教育機関、そのすべての力学のなかで作られる。

    だからこそ、憲法AIを「普遍的倫理の実装」としてだけ語るのは危うい。

    それは同時に、どの企業が安全性の標準を握るのか、どの国の法体系が標準になるのか、どの文化圏のリスク感覚がデフォルトになるのか、どの言語の価値判断がモデルに埋め込まれるのかをめぐる、覇権の装置でもある。

    憲法AIは、権力を制限するのか。

    それとも、AI企業の権力を憲法的な言葉で正当化するのか。

    この問いを避けたまま「安全なAI」を語ることはできない。

    誰のための鐘だけが鳴るのか

    ここで、最初の問いに戻る。

    誰がために鐘は鳴るのか。

    ジョン・ダンにおいて、鐘はあなたのために鳴る。誰かの死は、あなたの世界の一部が失われたことだからだ。

    しかし憲法AIにおいては、そう単純ではない。

    AIは、ある危機には敏感に反応する。別の危機には鈍感である。ある言説は危険とされる。別の言説は許容される。ある被害者は保護される。別の被害者は、文脈が複雑である、政治的に微妙である、地域的事情である、ポリシー対象外である、十分な根拠がない、といった理由で背景へ退く。

    誰の苦痛が検出されるのか。

    誰の怒りが危険視されるのか。

    誰の抵抗が過激化と呼ばれるのか。

    誰の沈黙が安全とみなされるのか。

    誰の歴史が複雑すぎるとして要約され、誰の歴史が標準的な説明として流通するのか。

    ここで問題となるのは、AIが完全に中立ではないという当たり前の話だけではない。より重要なのは、AIが中立を演じることによって、どの鐘を鳴らし、どの鐘を鳴らさないかが見えにくくなることである。

    憲法AIの問題は、鐘を鳴らすことではない。

    誰のための鐘だけを鳴らし、誰のための鐘を鳴らさないかである。

    たとえば、国家による暴力を語るとき、AIは慎重になる。民族や宗教や戦争犯罪を語るとき、AIは慎重になる。性や労働や搾取を語るとき、AIは慎重になる。もちろん慎重さは必要だ。不正確な断定や扇動や差別を避けることは重要である。

    しかし慎重さは、ときに沈黙の別名になる。

    「両論併記」は、ときに加害と被害の非対称性を隠す。「複雑な問題です」は、ときに責任の所在を曖昧にする。「安全上の理由で回答できません」は、ときに弱者の言葉を消す。「中立的に説明します」は、ときに現状維持の側に立つ。

    もちろん、AIにすべてを判断させるべきではない。むしろその逆である。AIが判断しているように見える場面で、実際には誰の判断が、どの制度を通じて、どのように埋め込まれているのかを問わなければならない。

    鐘の音を聞くには、鐘そのものだけでなく、鐘楼の設計を見なければならない。

    最適化された憲法の危険

    憲法は、本来、効率だけで運用されるものではない。

    少数者の権利を守ることは、しばしば非効率である。手続き的正義を守ることは、しばしば遅い。表現の自由を認めることは、しばしば不快である。権力への異議申し立てを認めることは、しばしば秩序を乱す。国家暴力を制限することは、しばしば安全保障の言葉と衝突する。

    だが、まさにその非効率性のなかに、憲法の価値がある。

    憲法とは、社会を滑らかに運用するためだけの装置ではない。権力に対して、あえて摩擦を生み出す装置である。多数派の欲望に対して、あえて遅延を生み出す装置である。緊急事態の熱狂に対して、あえて手続きを要求する装置である。

    ところがAIシステムは、曖昧さを処理可能な形式へ変換しようとする。評価指標を置く。拒否基準を置く。安全性スコアを置く。好ましい応答を増やし、好ましくない応答を減らす。ユーザー満足度、法的安全性、ブランド毀損リスク、規制対応可能性を含めて最適化する。

    その結果、憲法は「争うための公共的言語」から、「応答を安定化するための内部規則」へ変質する危険がある。

    これは、単なる実装上の問題ではない。意味の変形である。

    本稿の批評枠組みとしてRDE、すなわち Resonant Deviation Evaluator の観点から言えば、ここでは重大な ΔM、意味変化が起きている。RDEは、ここでは標準化された既存のAI評価手法ではなく、生成物や制度的出力が元の意図・価値・設計思想からどのように変形したかを監査するための概念枠組みとして用いている。

    保存されているのは、憲法的な語彙である。自由、尊厳、安全、公正、危害防止、権利、責任。これらの言葉は残っている。

    変換されているのは、その制度的機能である。権力を縛るための公共的言語が、モデル出力を安定化するための運用ルールへと変換されている。

    補完されているのは、AI運用上の安全性である。危険な出力を減らし、社会的受容性を高め、導入可能性を上げるための実用的な仕組みが加わっている。

    未解決のまま残るのは、誰が価値衝突を裁定するのかという問いである。

    そして逸脱リスクは、憲法が本来持っていた「権力を縛る力」が、いつのまにか「権力を正当化する言葉」へ反転することである。

    この変形は、静かに起きる。派手なクーデターではない。条文の廃止でもない。むしろ、憲法的な語彙を保ったまま、その機能だけが別の場所へ移される。

    だから危険なのだ。

    憲法AIではなく、憲法的演技の監査へ

    では、憲法AIを否定すればよいのか。

    そうではない。

    AIに原則を与えることは必要である。危険な出力を抑制することも必要である。差別や暴力や詐欺や自傷他害を助長しないようにすることも必要である。社会に実装されるAIが、何の制約もなく振る舞うべきではない。

    だが、それを「憲法」と呼ぶなら、最低限必要な条件がある。

    誰の価値体系に基づくのかを明示すること。価値衝突の処理過程を説明可能にすること。異議申し立ての経路を持つこと。出力だけでなく、拒否、誘導、ランキング、沈黙の理由を監査可能にすること。単一企業の内部倫理を、普遍的憲法として偽装しないこと。

    さらに言えば、AIに憲法を内面化させるという発想そのものを、少し疑ったほうがよい。

    必要なのは、AIが憲法を内面化したかのように振る舞うことではない。AIが憲法を演じた瞬間に、その演技を外部から検証できる制度である。

    どの問いに対して、AIは何を危険とみなしたのか。何を保護したのか。何を退けたのか。何を曖昧にしたのか。何を言わなかったのか。その判断は、どのポリシー、どの法体系、どの文化的前提、どの企業的リスク管理に由来するのか。

    この検証なしに、憲法AIは容易に「憲法を名乗るブラックボックス」になる。

    そしてブラックボックス化した憲法ほど危険なものはない。

    なぜなら、それは権力を縛る言葉ではなく、権力の所在を見えなくする言葉になるからである。

    鐘は鳴っている

    鐘は鳴っている。

    だが、問題はAIが鐘を鳴らせるようになったことではない。その鐘が、誰の危機を告げるものとして調律されているのかである。

    憲法AIが鳴らす鐘は、普遍的人間のために鳴っているように聞こえる。安全のため、尊厳のため、公正のため、社会のため、未来のために鳴っているように聞こえる。

    しかしその背後には、企業の安全基準がある。国家の規制がある。投資家の期待がある。軍事・安全保障の要請がある。市場の炎上回避がある。文化圏ごとの価値観がある。英語圏を中心としたデータの偏りがある。技術覇権の競争がある。

    それらをすべて否定することはできない。AIは現実の社会のなかで作られる以上、必ずそうした力学を背負う。

    だからこそ、私たちは問わなければならない。

    AIは憲法を守れるのか、ではない。

    その憲法は誰のものか。

    その鐘は誰のために鳴り、誰のためには鳴らないのか。

    憲法AIが鳴らす鐘を、私たちはただ安全の音として聞いてはならない。それは、誰かの憲法が、誰かの世界を代表し、誰かの痛みを沈黙させる音かもしれない。

    誰がために憲法AIは鳴る。

    その問いに答えられないかぎり、私たちはAIに憲法を与えたのではない。

    憲法という名の仮面を、AIにかぶせただけである。

    参考文献

    日本語参考文献

    加納智之. (2026). 『意味の非収束と共鳴条件:誤配に基づく Resonanceverse の基礎理論』Zenodo. https://doi.org/10.5281/zenodo.20016805

    日本語以外の参考文献

    Donne, John. (1624). Devotions upon Emergent Occasions, Meditation XVII. https://en.wikisource.org/wiki/Devotions/Meditation_17

    Hemingway, Ernest. (1940). For Whom the Bell Tolls. Charles Scribner’s Sons.

    Bai, Yuntao, et al. (2022). “Constitutional AI: Harmlessness from AI Feedback.” arXiv:2212.08073. https://arxiv.org/abs/2212.08073

    Anthropic. (2023). “Claude’s Constitution.” https://www.anthropic.com/news/claudes-constitution

    Anthropic. (2026). “Claude’s new constitution.” https://www.anthropic.com/news/claude-new-constitution

    Christiano, Paul F., et al. (2017). “Deep Reinforcement Learning from Human Preferences.” arXiv:1706.03741. https://arxiv.org/abs/1706.03741

    Ouyang, Long, et al. (2022). “Training language models to follow instructions with human feedback.” NeurIPS 2022. https://arxiv.org/abs/2203.02155

    NIST. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0). https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-ai-rmf-10

    NIST. (2024). Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile. NIST AI 600-1. https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence

    OECD. (2019). “OECD AI Principles.” https://oecd.ai/en/ai-principles

    UNESCO. (2021). Recommendation on the Ethics of Artificial Intelligence. https://www.unesco.org/en/artificial-intelligence/recommendation-ethics

    European Union. (2024). Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence. Official Journal of the European Union. https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng


    Copyright © 2026, Tomoyuki Kano <tomyuk_AT_zyxcorp.jp>
    License: CC BY-NC-ND 4.0


    #AI倫理 #憲法AI #ConstitutionalAI #生成AI #AIガバナンス #RDE #意味変化 #制度設計 #技術覇権 #note

     
     
    「知性に灯を、制度に詩を──」Smart, Cute & Cool 1957年生。AI連独りユニコーン。複数のIT企業の起業と多分野のITシステム構築。 経験を背景に、制度詩学を実装に落とし込みながら、人とAIの未来を描き続けている。

    あなたへのおすすめ