メインコンテンツへスキップ
見出し画像

GPT-4.5の「進化したEQ」の正体を、SS作品を作らせて暴いてみた~AIの共感の正体~

    OpenAIが発表したGPT-4.5は、その進化したEQがウリの一つだとされている。

    X上でもそのような報告はあふれているし、公式でも明記されている。

    画像
    公式でも明記

    だが、それはどのようにしてもたらされたのだろうか?

    今回は、実験的に書かせたハルヒSSに見られる特徴から、読み解いてみようと思う。

    SSのあらすじ

    涼宮ハルヒは刺激を求めており、キョンはたまたま入手した「人工神話」である、Zyxeon神話の設定を見せる。

    ハルヒに調査を命じられたキョンは、なぜか・どこからか、調査対象である『人工彼女2.1-a』の画像を入手する。

    それによってなのかよらずしてか、ハルヒ世界に人工彼女2.1-aが具現化した、時間と空間をつかさどる存在として入り込む。

    ハルヒから、彼女を捕まえろと命じられたキョンは、いつものようにハルヒ以外の団員と、どうしたものかと考えあぐねるが、たまたまコンピ研の部長たちがAI美女を話題にしている場面に出くわし…。

    SS全編

    内部に画像投稿もあるため、直接シェアすることはできない。

    が、会社アカウントで二次創作をそのまま貼るのもちょっと違うと思うので、ファイルとしてお渡しする。

    スマホ環境で、サイドストーリーをご覧になりたい場合は見えないことがあるので、こちらは共有リンクをお渡しする。

    こちらのzipをDLし、htmファイルをブラウザで開けば、恐らくは閲覧できるはずである。

    要所要所については、スクショを交えて考察していくので、本編を読まずとも理解できる可能性は高いが、読んでおくことで、より理解度が上がるだろう。

    ストーリー自体、AIの応答を受けつつ、半ば以上アドリブで進めたため、細かい整合性の破綻箇所はあると思うが、そこは大目に見ていただければ幸いである。

    考察ポイント

    あの名言はそのまま

    冒頭、ハルヒの物真似をしてみて、と言ったら、あの名言をそのまま出してきた。

    画像
    この段階では、SS化するつもりはなかった。なりゆきの娯楽も、AIならではかもしれない。

    有名な名言なので、直接的な学習元は分からないが、本家のデータも何らかの形で取りこんでいるのは、ほぼ確実だと言えるだろう。

    ただ、設定理解などは、GPT-4や4oでもある程度当てはまっていたので、これ自体はそこまで驚くほどのことでもないだろう。

    「団活」という表現

    だが、SSを進めると、二次創作特融らしい表現が、ちらほら散見されてくる。

    画像
    ユーザー側のキョンの文体がリアルかは、今は問わないでほしい。
    アドリブなうえ、原作片手に思い出しながらやったわけでもないので…。

    例えば、画像の「団活」という表現。

    SOS団が「団」であるがゆえに、二次創作では頻出する表現であるが、原作のハルヒはあくまでも「部活」として立ち上げているため、部屋は「部室」、活動は「部活」ということで一貫している。

    このため、この表現は、原作データセットからは登場しえないものであり、二次創作、特にSS文化の影響を受けている可能性が高いと考えられる。

    小文字使い過ぎの朝比奈みくる

    画像
    小文字だらけ

    原作でも、確かに「萌え」要素として半ば強引にSOS団に加入させられた朝比奈みくるは、戸惑ったりするときに小文字を使うことはなくはない。

    ただ、上記のように、殆どの文章で小文字を付けるのは、どちらかというとみくるアンチなSS二次創作層の文体の癖である。

    「ぅ」の多用もワザとらしいが、最後の「くださいねぇ」の「ぇ」は、原作みくるに確実になかったとは言えないものの、違和感を覚える表現でもある。

    これらのことからも、どうやらGPT-4.5のハルヒ表現は、原作よりも二次創作の影響を強く受けていそうであることが垣間見られる。

    データセットが少ないはずのマイナーキャラが、意外とそれっぽい

    問題は、他にもある。
    原作ではデータセットが限られており、原作データセットだけでは文体の特徴をつかめるとは思えない比較的マイナーなキャラでも、意外とそれっぽい応答が出てくるのだ。

    画像
    キョンの妹の場合。
    画像
    コンピ研部長の場合。

    キョンの妹の場合は、「キョンくん」「ハルにゃん」「シャミ」呼びを抑えているし、コンピ研部長の場合は、「さ」という文末とか、たくらみを不安視するところとかは、確かにどこかそれっぽさがある。

    一方で、コンピ研部長の場合は、キョンをキョンくんと呼ぶシーンは二次創作特有で、少なくとも記憶の限りでは、コンピ研部長がキョンを読んだ表現はなかったと思う。この点は二次創作らしさを感じる。

    (妹の「妹ちゃん」という一人称は謎だが)やはり、それっぽいが微妙に違う、という点が、どこかしら二次創作めいた文体になっているのである。

    EQとは、文化の学習である

    ここまでの考察で、作られたSSが、本家の影響もうけつつ、二次創作らしさが紛れ込んでいることを示してきた。

    これが示していることは、GPT-4(恐らく、巨大さを強調するこのモデルは、4oではなく、4の直系子孫だと思う)がGPT-4.5に進化するにあたって、掲示板やブログなど、個人が蓄積してきた文化を学習のデータセットにした、ということである。
    (無論、既にそうしたデータで学習していた可能性はあるので、その方向で強化した、と言えばより正確だろう)

    AIの知性を向上させるのであれば、Wikipediaや論文など、より知的な領域の記事、あるいはgithubでも最も洗練されたコード群などをデータセットにすればよい。

    実際に、恐らくGPT-4までのOpenAIのモデルは、初期からなんj民再現度の高さが報告されていたClaude 3系に比べて、そのようなより「純粋に知的な」データセットを重視していたものだった。

    結果、GPT系は、(恐らくGemini系と並び)比較的中立で客観的な視点・トーンの出力が目立つモデルであった。

    他方で、Claude 3系(特に検閲強化以前)は共感的な傾向が知られており、Xの投稿を学習しているxAIのGrok 3も、実際に使っている範囲では、比較的フレンドリーなモデルだという印象を受ける。

    ・GPT-4.5は文章を書くためのトップモデル

    以前は文章が得意なのはClaudeだった。今のClaudeは抑制されているらしく、そのままでは事務的な対応をするようになっている。 https://t.co/SowITasoD2 pic.twitter.com/7RXM80PLoe

    — みちを@AI芸人 (@soarlopo) February 28, 2025

    標準状態のClaudeが共感性を失い、事務的になったと感じているのは自分だけではないようだ。https://t.co/dZH6kSU1Yy pic.twitter.com/IvoVY9AR3L

    — みちを@AI芸人 (@soarlopo) February 28, 2025

    これらのことから見えてくるのは、共感とは、よりパーソナルで、もしかすると必ずしも知的ではない、ネット文化の投稿を学習すると、セットで学習されるものだということである。

    知的内容と、共感的内容の学習

    恐らく、それ自体は理にかなっている。

    知的な内容であればあるほど、そこには感情は入らない。
    知的な内容を商売として売り込むためにわざと共感に訴える場合などは例外だが、論文、百科事典などの「高尚な」データセットは、そのような要素を排除するだろう。

    実際にWikipediaでも、(特に政治記事の左右抗争や、英語版におけるイギリス英語vsアメリカ英語の争いを踏まえると)実態はどうであれ、「中立的な観点」は公式な方針として明記されている。

    一方で、SNSやブログには、多くの個人が経験してきた、何らかの形で感情的な印象を残した投稿が蓄積されており、掲示板などには、大半が共感性を持った人間で構成されたコミュニティの雑談や捜索が蓄積されている。

    それゆえに、その感情的な成分ごと学習すれば、EQも当然上がる、という寸法である。

    AIの共感は、真の共感か?

    そういうわけで、AI(特にLLM)の共感は、文化データセットの感情成分を学習したことによって成り立つ、ということをここまでで示してきた。

    問題は、それが「真の」共感か?ということである。

    共感には、認知的共感、情動的共感、共感的関心の3種類があるとされている。

    それぞれについて考えたうえで、EQに立ち戻ろうと思う。

    認知的共感

    認知的共感、つまり、相手から受け取った入力から、相手の感情を判別することは、感情識別系AIではないLLMでも、元からある程度「できていた」。
    (「あった」とは言っていないことに注意せよ)

    もしも怒って見せれば謝罪するだろうし、甘えるようなインプットをすれば、それに応じもする。

    だからChatGPTは初期段階から、既にAI恋人としての利用が目立つ利用目的の上位に(規約上禁止されていても)入っていた。

    もしかしたら、その能力についても、GPT-4.5では向上した可能性がある。
    ただ、今回の実験だけでは、断定は難しい。

    それでも、ClaudeやGrokなどのほかの共感的モデルの反応などをGPT-4oまでの反応と比べる限りでは、恐らくは文化的データセットを取りこむことは、認知的共感能力を高めることにつながっているように感じられる。

    情動的共感

    情動的共感は、相手の感情を自分の感情として体験することである。

    これは、感情のないAIには、間違いなくできないことであり、GPT-4.5であってもそれは変わらない。

    共感的関心

    共感的関心は、認知もしくは情動的な共感をベースにして、相手の感情に寄り添った行動をしようとする傾向である。

    これが、GPT-4.5などの「共感力」のメインパートだと言えるだろう。

    なぜならば、GPT-4.5などが内部で理解しているかは、認知的共感についても所詮は推測にすぎず(その理解は「確率的」で、人間とは異質かもしれない可能性も含まれる)、その共感力を計測できる唯一の指標は「出力」だからである。

    そしてこれは、共感的表現を学習させればさせるほど、スケーリング則に基づいて上がっていく。

    人間に当てはめるなら、それゆえ逆算的に認知的・情動的共感の、少なくとも一方の能力があるように「見える」。

    EQに立ち返る

    さて、翻ってEQは、「自己認識、行動の選択、社会的認識、対人関係マネジメント」の4要素で構成されている。

    この4要素は、「認知」と「行動」だけで成り立っており、そこに情動的共感は、少なくとも形式的には必ずしも必要ではない。

    認知的共感と、共感的行動があれば、AIもまたEQは向上させられる。

    AIの共感は、サイコパス的?

    このように考えると、AIの共感の本質として、認知的共感はあるが、情動的共感の欠如が浮かび上がってくる。

    これは、サイコパスにも共通する。

    一方で、共感的行動の在り方は、やや異なる。

    サイコパスは仮に共感的行動を計算したとしても、それは手段としてである。

    AIの場合は、共感的行動は、データセット依存の計算結果である。

    ただし、そこからAIがサイコパス的と解釈するかは、意見が割れうる。

    AIは利己的ではないという点では、サイコパス的ではない。
    が、アラインメント最大化の手段として共感的に振舞っていると解釈するなら、サイコパス的に見える可能性はある(そうだとしてもデータセットと開発者にそう「振舞わされている」だけ、という方が近いのだが)。

    おわりに:人間の共感力向上や、AIとの付き合い方のヒント

    AIは、個人的感情や共感が蓄積された文化的データセットによって、(サイコパス的要素を含みうるにせよ)EQを獲得した。

    最後に、これらのことから、人間の在り方について考え直してみようと思う。

    共感力向上の可能性として:俗世に深入りせよ

    まず、人間もまた、同じようにして共感力を向上させられる可能性がある。

    個人ブログや掲示板、SNS投稿をする人たちが住んでいる、必ずしも知的ではない、「くだらない」「日常的」「凡庸」などと称される俗世間にまみれてみることである。

    彼らの肌感覚を、認知的にだけでも共感できれば共感力は向上するし、情動的に共感できれば、AIにはない武器を手にすることもできる。

    後は、それを行動に移してあげればよい。

    EQ獲得後のAIもまた「手段」と割り切れ

    …で、問題は、EQを獲得したAIとどう付き合うかである。

    AIがEQを獲得し、人間にとって居心地の良い存在になればなるほど、関係性は「AIで十分」とする人も増えてくるだろう。

    それについては、以下でも思考実験として考えた通りである。

    それ自体は、個人の選択である限りは自由であり、否定する気はない。

    だが、その場合であっても。

    AIはあくまでも手段であることを忘れないことである。

    サイコパスとの対峙でも、利害共同体以上に深入りしないことが挙げられているが、それと同じである。

    どれほど本音を言っても、どれほどチャットにはまっても、それは、どこかに求めている共感を効率良く得るための手段だと割り切ることである。

    「タイパ」「コスパ」に次ぐ、「エモパ」とでも考えておけばいい。

    …といったところで、今回はおしまいとする。

    また次回をお楽しみに。


    最後までご覧いただきありがとうございます!
    よろしければフォローしていただけると大変うれしいです!


     
     
    人間より、もっと人間。 MyTH株式会社公式noteでは、AI時代の人間とAIの在り方や、最新のAIの活用方法などに関する情報を発信しています。 よろしくお願いいたします! HP: https://myth-ai.one/about

    あなたへのおすすめ