Ontario : des auditeurs révèlent que les scribes médicaux assistés par IA déforment systématiquement les faits de base

Selon une enquête du vérificateur général de l'Ontario, les outils d'intelligence artificielle utilisés par les médecins de la province pour la tenue des dossiers médicaux commettent systématiquement des erreurs factuelles importantes. Dans 18 des 55 cas examinés, les vérificateurs ont relevé des inexactitudes dans les dossiers générés, notamment des symptômes inventés, des dates incorrectes, des médicaments erronés et même des recommandations que le médecin n'avait jamais formulées. Parmi les systèmes examinés figuraient DAX Copilot de Microsoft/Nuance, Suki AI de Suki.AI et Robin AI de Robin Healthcare. Les vérificateurs ont noté que les médecins approuvent souvent les notes générées sans les vérifier, se fiant à l'IA. Dans un cas, DAX Copilot a attribué à un patient des symptômes que celui-ci n'avait pas signalés ; dans un autre, Suki AI a incorrectement enregistré un dosage de médicament. Bien que les fournisseurs affirment que leur IA a fait l'objet d'essais cliniques et d'une certification au titre de la loi américaine sur la portabilité et la responsabilité en matière d'assurance-maladie (Health Insurance Portability and Accountability Act, ou HIPAA), les vérificateurs ont appelé à des audits obligatoires en temps réel de l'exactitude de ces systèmes.