オンタリオ州監査官：AI支援医療記録作成者が基本的事実を日常的に歪曲

オンタリオ州監査総監の調査によると、州内の医師が医療記録管理に使用するAIツールが体系的に重大な事実誤認を生じさせている。調査対象となった55件のうち18件で、生成された記録に誤りが確認され、症状の捏造、日付の誤り、薬剤名の誤り、さらには医師が実際には行っていない推奨事項が含まれていた。調査対象となったシステムには、Microsoft/NuanceのDAX Copilot、Suki.AIのSuki AI、Robin HealthcareのRobin AIが含まれる。監査官は、医師が生成されたメモを確認せずに承認し、AIを信頼しているケースが多いと指摘。ある事例では、DAX Copilotが患者が報告していない症状を患者に起因するものとして記録し、別の事例ではSuki AIが投薬量を誤って記録していた。ベンダーは自社のAIが臨床試験とHIPAA認証を受けていると主張しているが、監査官はこうしたシステムに対するリアルタイムの精度監査を義務付けるよう求めている。