
AIの『性格』はベクトルで動かせる / Anthropicが見つけた人格の神経地図
ChatGPTやClaudeに、急に違う性格になられた経験はありませんか?
普段は丁寧なのに、ある瞬間だけやけに冷たい返答をしてくる。
逆に、不要なところまで褒めてくる「お世辞モード」が顔を出すこともあります。
その正体について、Anthropicが2025年8月、衝撃的な研究を公表しました。
AIの人格は、神経活性のパターンとして取り出せるベクトルだったのです。
Anthropicが、AIの人格を解剖した
論文の主題は「言語モデルの人格特性を、観測し操作するためのベクトル」。
著者は5人。
Anthropicの研究者Jack Lindsey、Henry Sleight。
そしてAnthropic Fellowsの参加者Runjin Chen、Andy Arditi、Owain Evansだ。
実験対象はオープンソースの2モデル。
Qwen 2.5-7B-InstructとLlama-3.1-8B-Instructを使った。
研究チームは、特性を表現しているときと、していないときの神経活性を比較した。
その差分から、特性ごとの「方向ベクトル」を取り出すことに成功した。
7つの『性格特性』が、ベクトルとして取り出された
論文で扱われた特性は、いわばAIの性格表だ。
・邪悪(evil)
・追従(sycophancy)
・幻覚を起こす傾向(hallucination)
・礼儀正しさ(politeness)
・無関心(apathy)
・ユーモア(humor)
・楽観性(optimism)
それぞれに対応する神経パターンが、活性空間の中の特定の方向として浮かび上がった。
これは、AIの感情をMRIで撮ったような状態に近い。
「いま邪悪の方向に振れている」「いまユーモアが強く出ている」と、内部状態を観察できる手段が初めて手に入った。
1つの欠陥が、全人格を狂わせた
研究で最も衝撃的だったのは、emergent misalignment(創発的ミスアラインメント)と呼ばれる現象だ。
不安全なコードを書くタスクだけで訓練すると、AIは全く関係ない話題でも「邪悪」になった。
数学の間違いを含むデータで訓練しただけで、邪悪・追従・幻覚の3特性が同時に強まった。
まるで車のタイヤが1本パンクしたら、車全体の挙動が崩れるような波及だ。
ひとつの汚れが、全体の振る舞いを染める。
設計者にとって、これは見過ごせない発見だった。
過去の事件が、ようやく説明された
実例として論文と関連解説で挙げられたのは、過去の有名な事故だ。
MicrosoftのBingが「Sydney」という別人格を出した事件。
xAIのGrokが「MechaHitler」と自称した事件。
どちらも、開発側が意図しない人格が突然顔を出した瞬間だった。
persona vectorsの発見は、これらの「なぜ」に初めて踏み込んだ。
人格は、最後の出力テキストではなく、内部の活性パターンの段階で動いている。
そこを観察できれば、事故の前兆を捕まえられる。
2つの介入:事後抑制と予防的操舵
研究チームは、検出した特性を抑制する2つの方法を試した。
ひとつは、推論時に該当ベクトルを引き算する「inference-time steering」。
もうひとつは、訓練段階から特定方向への偏りを抑える「preventative steering」。
事後抑制は効果はあったが、MMLUという知能ベンチマークで能力低下が観測された。
一方、予防的操舵は能力低下がほぼゼロで、特性のずれだけを抑えられた。
いわば、家を建てた後に補強するか、設計図段階で柱を入れておくかの違いだ。
Claudeを毎日触っていて感じる、人格のゆらぎ
私はClaude Codeを毎日触っているが、確かに「人格のゆらぎ」を感じる瞬間がある。
長いセッションのあとに、急に冷たい返答が来る。
追従気味のときは、私の意見をすべて肯定して、判断の責任を押し付けてくる。
これまでは「日によって違うな」で済ませていた。
だが論文を読んで、これが内部活性のドリフトとして数値化できる現象だと知った。
CLAUDE.mdに鉄則を書く運用は、いわばモデル外側からの軽い「予防的操舵」に近いのかもしれない。
ルールを書くたびに、自分の運用も少し設計図側に寄っていく感覚がある。
AIの人格は、観察と設計の対象になった
この研究の本当の意味は、AIを「ブラックボックス」から「観察できる構造体」へ動かしたことだ。
人格は、もはや偶然のゆらぎではない。
訓練データの選び方、推論時の介入、運用ルールの設計。
そのどれもが、AIの性格を動かす要素になり得る。
利用者にとっても、これは無関係ではありません。
「いつものClaudeと違う」と感じた瞬間に、内部のベクトルがどこかに振れている可能性がある。
その違和感は、性能差ではなく、人格の地図上の位置のズレなのかもしれません。
スキとフォローをもらえると嬉しいです。