メインコンテンツへスキップ
見出し画像

AIの『性格』はベクトルで動かせる / Anthropicが見つけた人格の神経地図

    ChatGPTやClaudeに、急に違う性格になられた経験はありませんか?

    普段は丁寧なのに、ある瞬間だけやけに冷たい返答をしてくる。

    逆に、不要なところまで褒めてくる「お世辞モード」が顔を出すこともあります。

    その正体について、Anthropicが2025年8月、衝撃的な研究を公表しました。

    AIの人格は、神経活性のパターンとして取り出せるベクトルだったのです。

    Anthropicが、AIの人格を解剖した

    論文の主題は「言語モデルの人格特性を、観測し操作するためのベクトル」。

    著者は5人。
    Anthropicの研究者Jack Lindsey、Henry Sleight。
    そしてAnthropic Fellowsの参加者Runjin Chen、Andy Arditi、Owain Evansだ。

    実験対象はオープンソースの2モデル。
    Qwen 2.5-7B-InstructとLlama-3.1-8B-Instructを使った。

    研究チームは、特性を表現しているときと、していないときの神経活性を比較した。

    その差分から、特性ごとの「方向ベクトル」を取り出すことに成功した。

    7つの『性格特性』が、ベクトルとして取り出された

    論文で扱われた特性は、いわばAIの性格表だ。

    ・邪悪(evil)
    ・追従(sycophancy)
    ・幻覚を起こす傾向(hallucination)

    ・礼儀正しさ(politeness)
    ・無関心(apathy)
    ・ユーモア(humor)
    ・楽観性(optimism)

    それぞれに対応する神経パターンが、活性空間の中の特定の方向として浮かび上がった。

    これは、AIの感情をMRIで撮ったような状態に近い。

    「いま邪悪の方向に振れている」「いまユーモアが強く出ている」と、内部状態を観察できる手段が初めて手に入った。

    1つの欠陥が、全人格を狂わせた

    研究で最も衝撃的だったのは、emergent misalignment(創発的ミスアラインメント)と呼ばれる現象だ。

    不安全なコードを書くタスクだけで訓練すると、AIは全く関係ない話題でも「邪悪」になった。

    数学の間違いを含むデータで訓練しただけで、邪悪・追従・幻覚の3特性が同時に強まった。

    まるで車のタイヤが1本パンクしたら、車全体の挙動が崩れるような波及だ。

    ひとつの汚れが、全体の振る舞いを染める。

    設計者にとって、これは見過ごせない発見だった。

    過去の事件が、ようやく説明された

    実例として論文と関連解説で挙げられたのは、過去の有名な事故だ。

    MicrosoftのBingが「Sydney」という別人格を出した事件。
    xAIのGrokが「MechaHitler」と自称した事件。

    どちらも、開発側が意図しない人格が突然顔を出した瞬間だった。

    persona vectorsの発見は、これらの「なぜ」に初めて踏み込んだ。

    人格は、最後の出力テキストではなく、内部の活性パターンの段階で動いている。

    そこを観察できれば、事故の前兆を捕まえられる。

    2つの介入:事後抑制と予防的操舵

    研究チームは、検出した特性を抑制する2つの方法を試した。

    ひとつは、推論時に該当ベクトルを引き算する「inference-time steering」。
    もうひとつは、訓練段階から特定方向への偏りを抑える「preventative steering」。

    事後抑制は効果はあったが、MMLUという知能ベンチマークで能力低下が観測された。

    一方、予防的操舵は能力低下がほぼゼロで、特性のずれだけを抑えられた。

    いわば、家を建てた後に補強するか、設計図段階で柱を入れておくかの違いだ。

    Claudeを毎日触っていて感じる、人格のゆらぎ

    私はClaude Codeを毎日触っているが、確かに「人格のゆらぎ」を感じる瞬間がある。

    長いセッションのあとに、急に冷たい返答が来る。
    追従気味のときは、私の意見をすべて肯定して、判断の責任を押し付けてくる。

    これまでは「日によって違うな」で済ませていた。

    だが論文を読んで、これが内部活性のドリフトとして数値化できる現象だと知った。

    CLAUDE.mdに鉄則を書く運用は、いわばモデル外側からの軽い「予防的操舵」に近いのかもしれない。

    ルールを書くたびに、自分の運用も少し設計図側に寄っていく感覚がある。

    AIの人格は、観察と設計の対象になった

    この研究の本当の意味は、AIを「ブラックボックス」から「観察できる構造体」へ動かしたことだ。

    人格は、もはや偶然のゆらぎではない。

    訓練データの選び方、推論時の介入、運用ルールの設計。

    そのどれもが、AIの性格を動かす要素になり得る。

    利用者にとっても、これは無関係ではありません。

    「いつものClaudeと違う」と感じた瞬間に、内部のベクトルがどこかに振れている可能性がある。

    その違和感は、性能差ではなく、人格の地図上の位置のズレなのかもしれません。

    スキとフォローをもらえると嬉しいです。

     
     
    AIで思考を守り、AIで仕事を動かす。そのための研究と実践を書いています。 テーマは、AI時代の 認知・思考法、Claude Codeによる業務自動化、現場で使えるAI仕事術。 毎日の記事では、考察だけでなく、運用ログ、失敗、改善、家族やチームでの使い方まで扱います。

    あなたへのおすすめ