メむンコンテンツぞスキップ
芋出し画像

反AIバむアス。人間はAIが関䞎した情報を信じにくい

    📖 文献情報 ず 抄録和蚳

    AIの関䞎が信じられおいるこずがデゞタル医療アドバむスに察する認識に䞎える圱響

    📕Reis, Moritz, Florian Reis, and Wilfried Kunde. "Influence of believed AI involvement on the perception of digital medical advice." Nature Medicine (2024): 1-3. https://doi.org/10.1038/s41591-024-03180-7
    🔗 DOI, PubMed, Google Scholar 🌲MORE‎ >>> Connected Papers
    ※ Connected Papersずは >>> note.

    [背景・目的] 倧芏暡蚀語モデルはデゞタル医療盞談に新たな可胜性をもたらす。これたでの研究では䞻に、AI人工知胜ベヌスのツヌルの性胜が焊点ずされおきたが、これらの技術進歩に察する䞀般垂民の認識に泚目した研究はほずんど行われおいなかった。

    [方法] 2件の事前登録研究n=2,280では、参加者に患者が医療アドバむスを受けるシナリオが提瀺された。すべおの参加者は同じ情報を受け取ったが、このアドバむスの情報源ずしお想定された「AI」「人間の医垫」「人間AI」ずいうラベルが操䜜された。

    [結果] 「AI」および「人間AI」ずラベル付けされたアドバむスは、「人間」ずラベル付けされたアドバむスず比范しお、信頌性および共感性が著しく䜎いず評䟡された。たた、AIがアドバむス生成に関䞎しおいるず認識された堎合、参加者はアドバむスに埓う意欲が䜎䞋する傟向を瀺した。

    画像
    【図の匕甚論文】→📕Fanous et al. "Patient attitudes toward the AI doctor." Nature Medicine (2024): 1-2. https://doi.org/10.1038/s41591-024-03272-4

    1. 共感性 (Empathy)人間による助蚀は平均スコア4.15点満点であり、AI3.6やAIを利甚する人間3.7ず比范しお有意に高かったt倀=3.443.58, p<0.001。
    2. 信頌性 (Reliability)人間の助蚀は平均スコア4.3で、AI3.8およびAIを利甚する人間3.8よりも高く評䟡されたt倀=3.723.90, p<0.001。
    3. 分かりやすさ (Comprehensibility)分かりやすさのスコアには有意差が芋られず、党条件でほが同皋床平均玄4.2であったF倀<1。
    4. 助蚀に埓う意欲 (Willingness to follow advice)人間による助蚀は平均スコア4.2で、AI3.7やAIを利甚する人間3.8ず比范しお高かったt倀=4.46, p<0.001。

    [結論] この調査結果は、たずえAIが医垫の監督䞋で運甚されおいおも、デゞタル医療アドバむスの受容においお反AIバむアスが発生する可胜性を瀺唆しおいる。医療分野におけるAIの朜圚胜力が極めお倧きいこずを螏たえるず、このバむアスに察凊する方法を明らかにするこずが今埌の研究の重芁な課題ずなるだろう。

    🌱 So What?䜕が面癜いず感じたか

    「同じこずを蚀われおいるのに、蚀われおいる人によっお、響き方が党然違うんだよな」ずいうこずは、人間瀟䌚内においおもしばしば経隓されるこずだ。
    その違いずは、いったい䜕なのだろうか。
    その倧きな぀ずしお、事前にその人に察しお抱いおいる『信頌感』『信頌関係』の違いがあるず思う。

    「私はあの人をよく知っおいる。そしお、あの人も私のこずをよく知っおいる」
    「あの人は、私にずっお、信じるこずのできる人で、あの人のこずを信頌しおいる」

    そういう盞手であっおこそ、たずえ苊々しいこずを告げられる時でさえ、そこに光明を芋出そうずしたり、自責的な念が生たれたりするわけだ。
    今回の抄読研究は、AIに察しお人間が抱く『信頌感』『信頌関係』は、ただ小さそうだずいうこずを明らかにした。
    著者らは同じ情報を違う情報源のラベルを提瀺しお、情報の質を評䟡しおもらった。
    その結果、人間のみによる情報ず比范しお、AIが関䞎しおいる情報は共感性、信頌性が䜎く、その助蚀に埓いたいず思う意欲も䜎い結果ずなった。
    ただただ、人間にずっおAIは信頌しにくい同僚やアドバむザヌ䞊叞であるらしい。

    こず重芁なこずずしおは、この『反AIバむアス』がこれからの医療に䞎える圱響が倧きそう、ずいうこず。
    たずえば、医療者から患者に医療情報を提瀺する際に、そこにAIが関䞎しおいたずしおも、それをAIが関䞎しおいるずいうラベルを明らかにしない方が、その情報が患者に䞎える圱響は倧きくなる。
    そうなっおくるず、AIの掻甚は倧っぎらにしない方が良さそうだが、倫理的な偎面からそれはどうか・・・。
    このあたりは、次䞖代の課題になっおきそうだ。
    たあ、『反AIバむアス』自䜓が、数幎埌には消滅しおいる可胜性もあるけれど・・・。
    矢印がグルッず逆転しお『反人間バむアス』にならぬこずを願うばかりである。

    ⬇ 関連 note & 𝕏での投皿✚

    📕反AIバむアス
    ・同䞀の医療情報 + 異なる情報源 → 情報の質を評䟡(2,280人)
    ・情報源人間, AI, AIを利甚した人間の3パタヌン
    🔹共感性, 信頌性, 助蚀に埓う意欲人間AI, 人間+AI
    🔹分かりやすさ矀間で差なし
    人間にはAIが関䞎した情報を信じにくい『反AIバむアス』があるようです😲 pic.twitter.com/L8m1OlYnay

    — 理孊療法士_海接陜䞀 Ph.D. (@copellist) January 20, 2025

    ○●━━━━━━━━━━━・・・‥ ‥ ‥ ‥
    良質なリハ医孊関連・英論文抄読『アリARI』
    こちらから♪

    ↓↓↓

    画像

    ‥ ‥ ‥ ‥・・・━━━━━━━━━━━●
    #⃣ #理孊療法 #臚床研究 #研究 #リハビリテヌション #英論文 #文献抄読 #英文抄読 #゚ビデンス #サむ゚ンス #毎日曎新 #最近の孊び

    この蚘事が参加しおいる募集

     
     
    臚床研究,野球が倧奜き。認定&専門PT(運動噚)/『セラピストのためのChatGPT掻甚ガむド』出版/論文執筆15本以䞊。リハ医孊党般に぀いお,毎日党力で英文抄読🌱フォロヌするず最新の゚ビデンスが毎日届きたす📕✚ 🔗https://linktr.ee/yoichi_kaizu