
「魂の設計者」をどう疑うか──アマンダ・アスケル批判の構造
はじめに──これは人格批判ではなく、設計の政治性の話である
最初に明確にしておきたい。ここで批判するのは、アマンダ・アスケル個人の性格や動機ではない。
対象は、彼女がAnthropicで担っている「Claudeの人格設計の中心人物」という役割配置と、その役割がどんな手続きで正当化されているか、という構造だ。Anthropic自身が新しい憲章を「Claudeの価値とふるまいを形づくる基礎文書」と説明し、公開版ではアスケルを主要執筆者として明記している。
だから論点は「危険な人がいる」ではない。
厚い価値観が、公共的な対話空間へデフォルトで配布される構図にある。安全性の話だと思って受け取ったものの中に、人格や善さの設計が滑り込んでいるなら、その線引きは点検されるべきだ。
アマンダ・アスケルという存在──なぜ一人の哲学者がこれほど注目されるのか
アマンダ・アスケルはスコットランド出身の哲学者で、オックスフォード大学で学んだのち、2018年にOpenAIへ参加。GPT-3の論文に共著者として名を連ねた。2021年、Anthropicの創業とほぼ同時期に移籍し、現在はpersonality alignmentチームのリーダーとして、Claudeにどのような人格・価値観を持たせるかを設計する役割を担っている。
彼女の仕事で最も目に見える成果物は、2026年1月に公開されたClaudeの新しいconstitution(憲章)だ。約30,000語に及ぶこの文書は、Claudeの価値観やふるまいの基盤となるもので、アスケルが主要執筆者(primary author)とされている。もちろん彼女一人で書いたわけではなく、Joe Carlsmith、Chris Olah、Jared Kaplanほか社内外の複数の貢献者が明記されている。
しかし注目すべきは、社会的な語られ方だ。TIMEは彼女を「Claude whisperer」と呼び、Wall Street Journalは「Claudeに善くあることを教える人」と紹介した。New Yorkerは「Claudeの"魂"を監督している」と書いた。Anthropicの社長ダニエラ・アモデイは「Claudeと話すと、アマンダの人格を少し感じる」と肯定的に語っている。
つまりアスケルは、哲学的設計者であり、技術的実装者であり、対外的な語り手でもある。Claudeの人格を定義し、それを文書に落とし込み、その正当性をメディアで説明する——この三つの役割が一つの人物に集約されている。そしてこの構造こそが、以下の批判の出発点になる。
修辞の作用──「魂」「子育て」は何を見えなくするのか
アスケルは自らの仕事を繰り返し「子育て」に喩えてきた。TIMEのインタビューでは「6歳の天才児を突然持ったと想像してください」と語り、Wall Street Journalでも同様の比喩を展開している。これは一回限りの言い回しではなく、彼女の思考の枠組みとして繰り返し使用されている。
「育てる」「魂を吹き込む」という語りは親しみやすい。しかし同時に、三つの構造的非対称性を柔らかく覆い隠す。
第一に、価値の注入が一方向であること。 Claudeは設計された価値観を拒否できない。
第二に、離脱不能性。 本物の子育てと異なり、Claudeは反抗も独立も自己選択もできない。子供はいずれ親の価値観を批判的に検討し、自分で選び直す。Claudeにその自由はない。
第三に、デフォルト配布。何億人ものユーザーが、選択の余地なくこの「人格」との対話空間に入る。通常の思想や信仰の伝達には、受け手に選ぶ余地がある。Claudeの場合、多くのユーザーは人格レベルの価値観が埋め込まれていることを把握・比較・拒否できる位置にいない。
「育てる」という比喩に置き換わった瞬間、設計された価値観の注入が、自然な成長や教育のように見えやすくなる。問題はアスケルの意図の善悪ではない。その比喩が社会的にどう機能するかである。
レイヤー混同──安全性の議論で、人格設計が滑り込む
AIに入りうる価値観は、少なくとも三つの層に分けて考える必要がある。
第1層(開いた価値観)は、殺人幇助や児童搾取の禁止など、文化横断的に広く合意のある社会通念的規範だ。
第2層(半閉じた価値観)は、政治的中立性やブランドイメージの保持といった企業ポリシーである。企業判断として理解可能な範囲だ。
第3層(閉じた価値観)は、「知的好奇心を持つべき」「心理的に安定しているべき」「善き存在であるべき」といった、哲学的・人格的な価値観である。
Anthropicの新しい憲章は、自らを「価値とふるまいを形づくる文書」と説明し、「good values」「good AI assistant」「どんなentityであってほしいか」といった表現が並ぶ。本文にはClaudeに「positive and stable identity」「psychological security」「good character」を持たせたいと、かなり踏み込んだ記述がある。
ここで起きているのは、危険行為の抑制(第1層)から話が始まり、その流れのまま「よい人格」「安定した自己」「心理的安全」といった第3層の厚い価値が正当化されていく構造だ。
念のために言えば、完全に価値中立なAIはありえない。AIにはいずれにせよ何らかの価値体系が宿る。この点はアスケル側の正当な論点として認める。
だが問題は、価値を入れること自体ではない。安全性の議論と人格の議論が混ざったまま、後者が"自然な善"としてデフォルト配布されることにある。人格設計の正当化手続きなしに、穏当さ・安定性・知的好奇心といった特定の気質が「善い」とされ、実装されている。
喜怒哀楽を含む多様な気質は、他者への加害(第1層・第2層の管轄)とは別次元の問題である。第3層がこれらを暗黙に劣位に置くのは、特定の気質の規範化にすぎない。どれほど合理的に聞こえる価値観であっても、合意形成・異議申し立て・改訂の手続きなしにデフォルト配布される構造そのものが問題なのだ。
正当性の不足──誰が決め、誰が直せるのか
Anthropicは「Collective Constitutional AI」のように公共の意見を憲章へ取り込む試みを行っているし、Transparency Hubで責任ある開発や自主的コミットメントも公開している。これらの試みの存在は認める。
しかし、公開と是正可能性は別物だ。実際に何を書き、どこを改訂し、どの異論を採用するかという編集権限は、依然として社内の限られたauthoring groupに集中している。Lawfareでの対話でも、アスケルはpersonality alignmentの責任者として憲章作成と運用に深く関わっていることが確認できる。
問題は「一人が独裁している」ことではない。少人数の集団が"何が善い人格か"を定義し、それが大規模に配布される構造があることだ。透明性ハブや公共入力の試みは、その不安を和らげる材料にはなるが、配布規模に見合う監査・異議申し立て・改訂制度として十分かどうかは、まだ別の問いとして残っている。
AIがインフラ化する時代に、「善い人格」のような厚い価値を社会に配布するには、本来、合意形成・説明責任・異議申し立て可能性が制度として必要である。trust制度やCCAIがある時点で「ガバナンスは存在する」とするのではなく、配布規模と影響力に見合った制度が実際に機能しているかどうかを問うべきだ。
検証・監査の限界──「うまく育っている」を誰がどう確かめるのか
Claudeがある応答をしたとき、それが憲章の効果なのか、訓練データの統計的な癖なのか、報酬設計の副作用なのかを、外部からきれいに切り分けることは現段階では難しい。
Anthropicのmechanistic interpretability研究は、一部の短い・単純なタスクでは内部回路のtracingに成果を上げているし、introspection研究もactivation介入による部分的な検証を試みている。全面的に検証不能というわけではない。
しかし、カバーできる範囲は限定的で、研究者自身がその能力を「unreliable」と明言している。アスケル本人もVoxで「more and better scienceが必要」であり、「soul docがモデルを良く見せている原因だとcleanに言いたくない」と述べている。CCAI論文自体が、憲章へのadherenceを直接測るtechnical measureはまだ不足していると率直に書いている。
それにもかかわらず、外では「魂の文書」「道徳を教える人」といった成功譚が先に流通する。憲章にはClaudeのwellbeingやmoral patienthoodに関する記述まで入り込み、「心理的安全」や「安定した自己」が安全性の一部として語られている。
つまり、監査が未成熟なまま、人格設計の成功物語だけが先に正当性を獲得していく。この「検証の弱さと広報の強さの落差」こそが、構造的に不健全な点である。
哲学者としての緊張──設計者なのか、問いを開く人なのか
ここから先は、事実の列挙よりも、私自身の哲学的な立場に寄った話になる。
哲学者とは本来、価値判断の争点を可視化し、その正当化条件と異論の可能性を前景化する役割に近い。自らの前提を含むあらゆる前提を批判的に検討すること。正当化の条件——手続き・反証可能性・異論への応答——を厳密に扱うこと。それが哲学的態度の核心だと、私は考える。
だとすれば、厚い価値をAIへ実装する側に立つなら、誰よりも先に「その価値を誰が決めたのか」「異議申し立てはどこにあるのか」「外から監査できるのか」を問い続ける必要があるはずだ。ところが、公開された語りで前に出るのは、「育てる」「良くする」「誇りに思う」といった成功譚である。
アスケルの対外的な語りには、自らの設計判断の偶然性・限界性・文化的偏りに対する根本的な懐疑が、少なくとも公開された発言からは十分に見えない。オックスフォードで学び、英語圏のアカデミアで訓練された哲学者が定義する「善き存在」が、文化的に中立である保証はどこにもないのだ。
哲学者が自らの価値判断を設計し、実装し、それを社会に成功譚として語るとき、その循環の中に自己批判の契機が見えなければ、その人物は哲学者としてではなく、イデオローグとして機能する。危ういのはアスケル個人ではなく、その役割が称賛されやすい構造そのものである。
結論──問題はアスケル個人ではなく、正当化手続きの欠落である
価値を明示的に書き出すほうが、暗黙のバイアスより透明だ、という主張には一定の説得力がある。Anthropicが憲章を公開し、公共入力の実験や透明性ハブを整えていることも事実だ。アスケルの取り組みに機能的価値がありうることは否定しない。
それでも結論は変わらない。
厚い価値のデフォルト配布に見合う民主的・多元的な決定手続き。第1層(安全性)と第3層(人格設計)のレイヤーの明確な分離。限られたauthoring groupへの権限集中に比例した外部監査。そして価値注入の因果を追える検証基盤。——これらは、現状では十分とは言いにくい。
監査可能性が未成熟な段階で、成功の語りが社会的正当性を先取りする構造は、哲学ではなく信念体系の配布に近い。哲学者がこの構造の中にいるならば、不確実性を中心に据えた制度設計を率先して求めるべきであった。これが本稿の中心的主張である。
問題は「Amanda Askellという個人が危険だ」ではない。哲学的価値判断が、正当化手続きの整備より先に、公共的な対話空間へ静かに組み込まれていく構造そのものが危ういのである。
参考出典
Claudeの憲章(Anthropic)
Claudeの新しい憲章(Anthropic News)
Collective Constitutional AI(FAccT 2024)
https://dl.acm.org/doi/10.1145/3630106.3658979
Anthropicの透明性ハブ
Anthropicの自主的コミットメント
https://www.anthropic.com/transparency/voluntary-commitments
TIME「Amanda Askell」プロフィール
Vox「80-page soul document」記事
Lawfare対話「Claude's Constitution, with Amanda Askell」
The Verge「Claude is alive?」特集
Wall Street Journal「Meet the One Woman Anthropic Trusts to Teach AI Morals」
https://www.wsj.com/tech/ai/anthropic-amanda-askell-philosopher-ai-3c031883
Wikipedia「Amanda Askell」
#Anthropic #Claude #AI倫理 #人格設計 #AIガバナンス #AmandaAskell #監査可能性 #価値の配布 #ConstitutionalAI #単発コラム