英国监管机构警示：医疗 AI 转录工具频繁出错，威胁患者安全

IT之家 8 月 31 日消息，据英国卫报报道，英国国家医疗服务体系（NHS）的一家监管机构警告称，用于倾听并转录患者与医生问诊内容的 AI 技术可能给患者带来风险，因为这类工具可能错误识别药物名称和疾病名称。在一起案例中，一名女性患者因为 AI 医疗记录工具错误总结她与医生的对话而受到严重惊吓。AI 生成的总结称，她患有“脱髓鞘”，即可能导致多发性硬化症的严重神经损伤。这名患者本人也是 NHS 医疗专业人员。她对 AI 工具记录的 MRI 检查结果提出质疑后，医院才发现记录有误，并将其更正为本应记录的“无脱髓鞘”。“最终这个错误得到了纠正，但因为 AI 给出了错误诊断，然后又告诉我这只是一个拼写错误，这对我来说是一次非常痛苦的经历。”这名不愿透露姓名的女性说。IT之家注意到，英国患者权益机构 Healthwatch England 近日披露了这一案例以及其他 AI 医疗记录工具出现的错误，以说明这种正在 NHS 快速推广的技术可能对患者安全构成威胁。Healthwatch 表示，如果这些错误没有被及时发现，就可能被录入患者的医疗档案，并进一步影响患者接受的治疗。另一起案例中，一款 AI 医疗记录工具将全科医生开具的药物与另一种名称相似的药物混淆。最终发现这一错误的同样不是医生，而是患者本人。还有一次，AI 生成的总结信没有提及医院专科医生曾告诉患者，需要向自己的全科医生申请续开治疗偏头痛的处方。这一遗漏可能导致患者无法正常获得所需药物。Healthwatch 作为 NHS 法定患者权益代表机构表示，该机构已经听到了“多名患者发现错误、而医疗专业人员却没有发现这些错误”的案例。Healthwatch 指出：“如果患者没有发现这些错误，这些不准确的信息可能会一直留在他们的医疗记录中。”英国政府针对英格兰 NHS 制定的 10 年医疗规划，希望通过 AI 医疗记录工具“让医务人员摆脱目前繁重的文书和行政工作，从而腾出更多时间提供医疗服务并专注于患者”。AI 医疗记录工具也是 NHS 计划进行的一项重大转型的核心技术之一，旨在推动 NHS 从传统的模拟化医疗服务转向数字化服务。Healthwatch 一名发言人表示：“医疗服务从来都不可能做到零错误。但我们的调查结果表明，现在迫切需要明确，患者应该如何报告 AI 医疗记录工具或使用这些工具的医疗专业人员所犯的错误，以及如何纠正这些错误。”英国患者协会首席执行官 Rachel Power 表示：“患者对这项技术的信任和信心，取决于良好的沟通以及真正意义上的患者合作，而目前这两方面都存在缺失。”Healthwatch 还表示，英国药品和保健产品监管机构（MHRA）决定不将 AI 医疗记录工具归类为医疗器械，这一点“令人担忧”。这意味着英格兰目前不会建立覆盖全境的监管机制，以确保这些工具使用安全并且有效。目前，英格兰的全科医生和医院医生已经在使用 27 种不同的 AI 医疗记录工具。此前，政府大臣已经被警告，如果 AI 出现医疗错误，NHS 以及相关医务人员可能面临诉讼。近期，AI 的准确性问题也再次受到关注。英国罗瑟勒姆地区的一些患者向当地 Healthwatch 投诉称，部分全科诊所使用的 AI 前台接待系统无法正确理解他们浓重的约克郡口音。伦敦全科医生 Shier Ziser Dawood 博士去年还曾在一家权威医学期刊上撰文警告称，AI 医疗记录工具对全科医生来说可能是一把“双刃剑”。她回忆称，一款 AI 医疗记录工具记录说，她曾告诉一名患者“继续服用 Prozac（百忧解）”，但实际上，她既没有给这名患者开过这种药，也没有与患者讨论过这种药物。这就是所谓的“AI 幻觉”现象，即 AI 医疗记录工具在生成记录时提及了问诊过程中根本没有出现过的内容。Dawood 警告称，医生仍然需要检查 AI 生成的全部问诊记录，以确认其中不存在错误，因此这些 AI 工具目前并没有真正节省医生的时间。Dawood 在《英国全科医学杂志》撰文指出，NHS 管理层认为 AI 医疗记录工具将使全科医生无需再在问诊过程中手写或录入笔记，因此未来全科医生可能被要求每天额外接诊两名患者。但与此同时，NHS 全科医生目前的单次问诊时间已经处于全球较短水平。瑞典乌普萨拉大学医疗 AI 应用专家 Charlotte Blease 博士表示：“AI 确实会犯错，而且已经在犯错。”她的研究发现，使用环境语音技术记录问诊内容的全科医生认为，在以下情况下，AI 更容易出现错误：问诊过程中有不止一名患者或陪同人员；患者病史较为复杂；以及患者的第一语言不是英语。不过，Blease 也指出：“事实是，没有 AI 的情况下，医生同样会犯错。而且，AI 介入后，错误率当然也有可能更高。”Blease 表示，在她去年对 1003 名英国全科医生进行的调查中，超过一半的受访者认为，他们使用环境式 AI 生成的医疗记录比自己亲自记录的内容更加准确。