AIが止まった朝、病院は診療を続けられるか――医療DXに必要な「止まる備え」

AIが診療録をまとめ、紹介状の下書きをつくり、予約や患者の振り分けを支援する。そんな医療が広がると、私たちは診断の正確さや仕事の効率に目を向ける。
しかし、導入前にもう一つ、確かめるべきことがある。
明日の朝、そのAIが突然使えなくなったら、患者を診られるだろうか。
JAMAが投げかけた問い
2026年11月12日、JAMAにAttila J. Hertelendy、Aaron Miri、Christian DameffによるViewpoint「Beyond the Rogue Agent—Preparing Health Systems for AI Failure」が公開された。
公開冒頭で著者らが問うのは、AIが意識や悪意を持つかという議論よりも、臨床業務に組み込まれたAIの停止、侵害、想定範囲外の動作に対し、医療を継続する準備があるか、という問題である。
原論考:JAMA掲載ページ
DOI:10.1001/jama.2026.24040
※この記事は原論考の公開冒頭と提示された紹介文を出発点に、関連研究と日本の現場への考察を加えたものです。購読が必要な本文全体の逐語的な要約ではありません。以下の具体例や提案は、本記事での考察です。
診断AIだけを見ていては、依存は見えない
例えば、予約調整、受診相談、紹介先の選定、診療録の作成、請求処理。それぞれは「補助的な仕事」に見える。
ところが、一連の業務が同じAI基盤に依存すれば、その基盤が使えなくなったとき、複数の仕事が同時に止まる可能性がある。
ここでいう「単一障害点」とは、そこが壊れると広い範囲の機能に支障が及ぶ場所のことだ。
製品名が違っていても、背後で同じクラウドや認証サービス、AI提供元を使っているかもしれない。契約を複数に分けただけでは、独立した予備系統を持ったことにはならない。
医師の診断能力が保たれていても、患者の情報が届かず、検査結果を確認できず、指示を伝えられなければ、診療は滞る。医療の継続には、知識に加えて、情報と仕事が流れる仕組みが必要なのである。
「停止」と「静かな誤作動」は別の問題
AIの障害を考える際には、二つの状況を区別したい。
一つは、画面が開かない、応答が返らないといった明らかな停止だ。発見しやすい一方、代替手段がなければ業務が進まない。
もう一つは、動いているように見えるのに、内容がおかしい場合である。
例えば、紹介状の要約から重要なアレルギー情報が落ちる。受診相談で緊急性が過小評価される。患者が語った希望と異なる内容が、整った文章で記録される。これらは想定例だが、業務を再開するだけでは対処できない問題を示している。
必要なのは、AIを使わずに働く手順と、AIの出力に問題がないか確かめる仕組みの両方だ。
「人が最後に確認する」と書くだけでは足りない。確認に必要な原情報、時間、権限が現場にあるかまで考える必要がある。
デジタル障害は、隣の病院にも波及する
関連する実証研究として、Dameffらが2023年に発表した研究がある。
ランサムウェア攻撃を受けた医療組織の近隣にある、直接攻撃を受けていない二つの救急部門を調べたものだ。対象は計19,857件の救急受診だった。
攻撃前と比べ、攻撃・復旧期間中には、救急受診者数や救急搬送が増え、待ち時間も延びていた。診察を受けずに帰った患者の割合は2.6%から5.1%へ、待合室での待ち時間の中央値は21分から31分へ増加した。
これはAI障害の研究ではなく、サイバーアタックの前後比較による観察研究である。他の要因による影響を排除できず、この結果だけで死亡率への影響を結論することもできない。それでも、一つの医療組織の停止が、周辺の医療提供にも負荷をかけ得ることを示す重要な資料だ。
AIへの依存についても、施設内だけで備えるのでは不十分かもしれない。同じ基盤を地域の複数施設が利用していれば、障害時に互いを支える余力まで失われる可能性がある。
日本の医療・介護では、何を備えるか
ここからは日本の現場への提案である。
まず必要なのは、「AIが使えないと、どの仕事ができなくなるか」を具体的に書き出すことだ。
請求書類の作成が翌日になることと、今日の投薬内容が確認できないことでは、患者への影響が違う。すべてを同じ速さで復旧しようとせず、生命と安全に直結する業務を優先する。
次に、最低限の情報に別経路でアクセスできるようにする。
投薬、アレルギー、緊急連絡先、継続中の処置、本人の意思など、施設に必要な情報を定める。ただし、コピーが古ければ別の危険が生じる。保管方法だけでなく、更新頻度と更新担当者まで決めておきたい。個人情報の保護も必要だ。
そして、切り替えを実際に試す。
予約支援を使わずに受付できるか。AIによる要約がなくても申し送りできるか。夜間の少人数勤務でも、連絡先と指示系統が分かるか。
机上の計画と、現場で動く手順には距離がある。
さらに、復旧後の照合作業も欠かせない。停止中に手書きした指示や記録を戻す際に、処方が二重になったり、検査依頼が抜けたりしないようにする。復旧は「画面が開いた瞬間」で終わるわけではない。
高齢者施設や在宅医療では、本人の意思も守るべき情報になる
高齢者ケアでは、診断名や薬の一覧だけでは判断できない場面が多い。
本人が何を大切にしているのか。急変時にどのような対応を望んでいるのか。これまで誰と、何を話し合ってきたのか。
AIによる要約は、その情報を共有する助けになり得る。一方で、要約だけが唯一の参照先になると、停止時に経緯をたどれなくなる。
特にACPでは、「蘇生を希望しない」という記録だけで、搬送や治療全般への希望まで推測してはいけない。短い結論とともに、本人の言葉や話し合いの背景を確認できることが大切だ。
これはAI導入の賛否に限らず、本人の意思を組織としてどう引き継ぐかという問題でもある。
AIの価値は、「使わない場合」と比べて評価したい
ここで、AIを使うほど危険になる、と決めつけるべきではない。
人手不足の現場では、記録負担や連絡漏れ、確認の遅れも安全を脅かす。AIによって、それらを減らせる可能性がある。
今回のViewpointも、AI導入後に事故や死亡がどれだけ増えるかを推定した介入研究ではない。問題提起の重要性と、リスクの大きさが実証されているかどうかは、分けて読む必要がある。
評価したいのは、導入による利益、残る誤り、障害時の影響、そして備えに必要な費用の全体だ。
予備の仕組みや訓練には手間がかかる。しかし、それを無駄として削った結果、障害時の負担を少人数の職員の残業と責任感だけで吸収することになれば、持続可能とはいえない。
「止められる」と「止めても続けられる」
危険な動作をするAIを停止できることは大切だ。
同時に、止めた後も必要な診療やケアを続けられなければ、現場は停止をためらうかもしれない。
だから、導入時の説明には「何分短縮できるか」に加えて、次の問いへの答えが欲しい。
このAIが今、使えなくなったら、誰が、何を使って、どのケアを続けるのか。
医療DXの成果には、平時の速さとともに、障害時にも患者を支え続けられる力を含めたい。
#医療AI #生成AI #医療DX #患者安全 #医療安全 #JAMA #サイバーセキュリティ #ランサムウェア #事業継続計画 #BCP #地域医療 #医療政策 #電子カルテ #病院経営 #救急医療 #介護DX #老健 #在宅医療 #ACP #レジリエンス