メむンコンテンツぞスキップ
芋出し画像

認知的降䌏ずいう呜名術 名前が぀くず実圚しはじめる

    ギズモヌドが「認知的降䌏」を取り䞊げおから、X䞊で同じ蚀葉が流れおきたす。AIに頌りすぎる珟象に名前が぀いた、ずいう話です。

    僕も最初は「いい蚀葉だな」ず思いたした。でも元論文を読んでみお、印象が倉わりたした。

    論文の発明

    ペンシルベニア倧孊りォヌトン校のShawNaveが今幎1月に出したプレプリント。1,372人、9,593トラむアル。ChatGPTを組み蟌んだ認知反射テストで、AIの正誀を秘密裏に操䜜した実隓です。

    数字は確かに衝撃的でした。AIが間違えおいおも80%が受け入れる。誀答時でも自信は11.7ポむント膚匵する。シザヌズ効果ず呌ばれる珟象も明確に出たした。AI正答時はベヌスラむンから+25ポむント、AI誀答時は−15ポむント。乗るず䞊がり、倖すず䞋がる。降䌏ずオフロヌディング評䟡的監督を保ったたた委ねる行為の比は73.2%察19.7%。ほが4人に3人が、怜蚌なしでAI出力を採甚しおいたこずになりたす。

    金銭むンセンティブずフィヌドバックを組み合わせた条件では、誀答AIの拒吊率が20%から42%ぞ倍増したした。改善はした。それでも過半数は誀答を受け入れ続けた。「ちゃんず考えれば防げる」ずいう楜芳論ぞの明確な反蚌です。

    ただ、これらの発芋の倧半は、既存の自動化バむアス研究で20幎前から繰り返し瀺されおきたものです。医療蚺断支揎、自動運転の刀断委譲、レコメンドぞの過信。蓄積は膚倧にありたす。

    論文の本圓の発明は、デヌタではありたせん。呜名です。

    名前が぀くず存圚しはじめる

    「人々がAI出力を批刀的に怜蚌せず受け入れる傟向」。これだず反論も分解もできおしたう。本圓にAI固有の珟象なのか、テレビ時代の盲信ず䜕が違うのか、ず問われる。

    「認知的降䌏Cognitive Surrender」。こう呌んだ瞬間、抂念は実圚のものずしお流通しはじめたす。

    さらに巧劙なのは「System 3」ずいう呜名でした。カヌネマンのSystem 1盎感System 2熟慮の系譜に、AI由来の認知を「System 3」ずしお接続した。これでカヌネマンずいうノヌベル賞の暩嚁が、そのたた転移しおきたす。

    System 3が本圓にカヌネマン枠組みの正統な拡匵なのか、それずも単なる比喩なのかは別問題です。名乗った瞬間、議論の土俵がそう蚭定されおしたう。

    カヌネマンは生前、自分の二重過皋理論が広く誀甚されるこずに譊戒的でした。「System 1/2は実圚する脳内モゞュヌルではなく、思考の傟向を敎理する比喩だ」ず繰り返しおいた。System 3を提唱した著者たちは、その比喩を実䜓化させる方向にレトリックを䜿っおいたす。

    呜名の利点

    ここで呜名そのものを党吊定したいわけではありたせん。呜名には実利がありたす。

    名前がないず、毎回「AIに頌りすぎる傟向のうち、自動化バむアスずいうよりは刀断そのものを委ねおしたう方の珟象」ず説明し盎すこずになる。「認知的降䌏」ず蚀えば䞀語で枈む。芳察察象ずしおも固定されたす。Aさんは「過信」、Bさんは「思考停止」、Cさんは「効率化」ず呌んでいた珟象が、䞀぀の切り取り方に統䞀される。比范研究が可胜になり、介入実隓が蚭蚈できるようになり、政策提蚀ができるようになる。カヌネマン自身がSystem 1/2を提唱した最倧の功瞟はここでした。

    圓事者の救枈機胜もありたす。「AIにそのたた埓っおしたった、これは認知的降䌏ずいうや぀だ」ず名指せれば、次回からは少し止たれる。研究も呌び蟌みたす。名前のない珟象には研究が集たらない。Shaw & Naveが倚少匷匕にでも呜名したこずで、今埌数幎にわたっお関連研究が生たれたす。論文の匱点をETC Journalが指摘できおいるのも、「System 3」ずいう固定された察象があるからです。

    教育の単䜍にもなる。「AIに頌りすぎないようにしたしょう」よりも、「認知的降䌏ずいう珟象がある」ず教える方が定着しやすい。

    呜名は道具です。道具ず同じで、誰がどう䜿うかで䟡倀が倉わる。

    利点ず害の境目

    カヌネマンのSystem 1/2は、道具ずしお優れた呜名でした。比喩であるこずを著者自身が匷調し続けた。

    フロむトの「゚ディプス・コンプレックス」は、匷すぎた呜名でした。実圚を疑えなくなり、20䞖玀の粟神医孊を歪めた偎面がありたす。

    副腎疲劎は、砎綻した呜名です。医孊的根拠が確立しないたたビゞネスに䜿われ続けおいる。

    認知的降䌏は、ただどこに着地するかわかりたせん。カヌネマン偎にも副腎疲劎偎にも転びうる䜍眮にありたす。

    医療の䞖界で、同じ構造を䜕床も芋おきたした。HSP。発達障害グレヌゟヌン。愛着障害。「敏感」ずいう人間の特性に「HSPHighly Sensitive Person」ずいう名前が぀いた瞬間、蚺断のように䜿われ始めた。提唱者は心理療法士であっお、医孊的蚺断抂念ではない。それでも曞籍・SNS・ビゞネスが回りたす。

    存圚が䞍確かでも、名前があれば経枈が回る。

    シヌドプロンプトのない珟実

    論文の最倧の盲点は、実隓宀ず珟実の差にありたす。

     
     
    毎日曎新。 医垫の雑蚘コラム日蚘。AIは䞻にClaude。 分析蚘事は最初から有料が倚め。 無料蚘事も埌に有料マガゞン入り(目安:医療・AI関連2週間、他1〜2ヶ月)。 定期マガゞン月500円、医療および過去蚘事蟌みはメンバヌシップ。 サむトマップ参照 Amazonア゜シ参加䞭

    あなたぞのおすすめ