医師を超える医療AIへの人間監視義務は患者の利益を阻害するかJAMAが提言

医療AIとヒューマン・イン・ザ・ループの再考

医学誌JAMAに掲載された最新の論考において、AIの性能が一部の医療診断や治療支援において医師を上回る場面が増加している現状が指摘されました。この技術進化に伴い、現在規制当局が強く求めている『ヒューマン・イン・ザ・ループ（人間による監視）』の強制的な適用について、その再考が必要であるという議論が展開されています。

規制のあり方に関する学術的提言

本件は製品リリースではなく、医療AIの規制のあり方に関する重要な学術的提言です。AIによる診断が標準化される未来において、すべての判断に人間が介在・承認することを必須とすることが、必ずしも患者の安全性を高めるわけではないという課題が提起されています。むしろ、過剰な介在がボトルネックとなるリスクが指摘されています。

背景にある技術的進歩

背景には、特定の診断タスクにおいてAIが既に人間を超える精度を記録しているという事実があります。従来の医療規制の枠組みでは、AIをあくまで『医師の補助』として扱うのが一般的でしたが、AI単独で医師以上の成果を出せる環境下では、人間の介入が逆にエラーを誘発したり、診断の迅速性を著しく損なう可能性があると述べられています。

今後のガバナンスと課題

論文の執筆者らは、AIの判断を強制的に人間が再チェックするプロセスが、AIの利点を過小評価させていると主張しています。今後は、AIの自律的な判断能力を前提としつつ、いかにして安全性を担保し、責任の所在を明確にするかという新しい規制モデルの構築が求められています。