当人工智能胜过医生时：面对侵权行为导致的过度依赖机器学习的挑战-研究论文

有一天，也许很快，机器学习 (ML) 生成的诊断将明显比人类医生生成的诊断具有更高的成功率。 ML 诊断的主导地位对于医疗事故法、医疗服务提供的未来、对某些类型医生的需求以及从长远来看对医疗诊断本身的质量意味着什么？本文认为，一旦ML 诊断师，例如基于神经网络的诊断师，被证明是卓越的，现有的医疗事故法将需要卓越的 ML 生成的医学诊断作为临床环境中的护理标准。 此外，除非认真实施，否则医生在医疗诊断中使用机器学习系统的责任可能会破坏医疗事故法规定的安全标准。 虽然起初医生 + 机器可能比单独使用更有效，因为人类和机器学习系统可能会犯非常不同的错误，但随着机器学习系统的改进，有效的机器学习可能会产生巨大的法律和道德压力，将诊断过程委托给机器。 最终，类似的动态也可能扩展到治疗。 如果我们达到在数据库中收集的大部分临床结果都是机器学习生成的诊断的地步，这可能会导致未来的决策不易被人类医生审核或理解。 鉴于有充分记录的事实，与初步评估相比，在临床实践中部署的治疗策略通常不那么有效，ML 算法引入的缺乏透明度可能导致护理质量下降。 本文描述了这种情况的突出技术方面，特别是因为它与诊断有关，并探讨了各种可能的技术和法律解决方案，这些解决方案将使我们能够避免医疗事故法的这些意外后果。 最终，我们建议有充分的理由改变现有的医疗责任规则以避免仅使用机器的诊断制度。 我们认为，对护理标准的适当修订需要医生在循环中保持有意义的参与。