安大略省审计员：AI辅助医疗抄写员频繁扭曲基本事实

根据安大略省审计长(Auditor General of Ontario)的一项调查,该省医生所使用的病历记录人工智能工具存在系统性的重大事实错误。在审查的55个案例中,有18个案例存在生成记录不准确的问题,包括编造症状、日期错误、用药错误,甚至出现医生从未提出过的诊疗建议。此次审查涉及的系统包括微软(Microsoft)/Nuance公司的DAX Copilot、Suki.AI公司的Suki AI,以及Robin Healthcare公司的Robin AI。审计人员指出,医生往往在未经核实的情况下就直接对AI生成的病历签字确认,过度依赖人工智能。在一个案例中,DAX Copilot将患者从未报告过的症状记录在案;在另一个案例中,Suki AI错误记录了药物剂量。尽管相关厂商声称其人工智能已通过临床试验并获得《健康保险可携性与责任法案》(Health Insurance Portability and Accountability Act,简称HIPAA)认证,审计人员仍呼吁对此类系统实施强制性的实时准确性审计。