医療AIの性能が高まり、診療のさまざまな場面に入り始めています。画像上の異常を示す、敗血症のリスクを知らせる、診療記録を要約するといった使い方であれば、AIは医療者を支援する道具として位置づけやすい。AIの出力を医療者が確認し、最終的な判断を下すという関係です。

しかし、AIが診断や治療方針を提案するだけでなく、投薬や患者管理まで実行するようになると、この関係は変わります。医療者がAIの推論過程を十分に理解できないまま、その判断を採用する場面も増えていくでしょう。

そこで問題になるのが、患者に被害が生じたとき、誰が責任を負うのかという問いです。

「人間が最終判断した」だけでは整理できなくなる

これまでの医療では、責任の所在は比較的明確でした。医療者は適切な診療を行う責任を負い、医療機関は安全な診療体制を整え、メーカーは欠陥のない医療機器を提供する。問題が起きれば、それぞれが果たすべき役割に照らして判断できました。

医療AIは、この境界を曖昧にします。

AIが補助的な情報を出すだけなら、医療者は患者の状態や検査結果と照らし合わせて出力を検証できます。しかし、複数の診療情報から複雑な推論を行うAIでは、その結論に至った理由を医療者が十分に追えないことがあります。

それでも形式上は、医療者が最終承認したことになる。では、AIの判断を現実には検証できなかった場合でも、すべての責任を医療者に置いてよいのでしょうか。

時間に追われる診療現場では、AIの提案を受け入れることが日常化する可能性もあります。人間が判断過程に残っていることと、人間が実質的に判断を支配していることは同じではありません。

AIに与える権限に応じて、責任も変える

今回参考にした記事では、医療AIを一括りにせず、自律性、自動化、運用範囲という三つの軸で段階的に分類する考え方が示されています。

同じ画像診断AIでも、専門医が判断を補助するために使う場合と、一般診療の場でAIが自律的に専門医への紹介を決める場合では、担う役割もリスクも異なります。AIが情報を表示する段階、判断を支援する段階、治療を自動で調整する段階では、責任の置き方も同じではありません。

医療者には、適切な患者を選び、警告に対応し、AIの限界を理解する責任があります。医療機関には、導入前の検証、職員への教育、運用後の監視が求められます。メーカーには、設計や更新の安全性、市販後に生じた問題を監視する責任があります。

大切なのは、事故が起きた後に一人の責任者を探すことではなく、AIをどこまで自律的に使うかに応じて、あらかじめ責任を分けておくことです。

責任が曖昧なままでは、患者が被害を受けても救済の対象が見つからないかもしれません。一方で、責任がすべて医療者に集中すれば、医療機関は有用なAIの導入を避けるでしょう。メーカーが責任を問われにくければ、市販後の安全性監視が弱くなる可能性もあります。

医療AIの責任制度は、問題が起きた後のためだけにあるのではありません。誰が何を確認し、何を監視し、どこまで介入できるのかを明らかにすることで、AIを安全に使うための土台になります。

医療AIを進めるには、精度や性能だけでなく、判断権限と責任を対応させる設計が必要です。最後に誰がボタンを押したかではなく、誰がその判断を理解し、制御し、必要なら止めることができたのか。AIが担う役割が変わるなら、責任の仕組みも同じ場所にとどまってはいられないのだと思います。