Auditores de Ontario: Los transcriptores médicos asistidos por IA distorsionan hechos básicos de forma rutinaria

Según una investigación de la Auditora General de Ontario, las herramientas de inteligencia artificial para el mantenimiento de registros médicos que utilizan los médicos en la provincia cometen sistemáticamente errores fácticos significativos. En 18 de los 55 casos revisados, los auditores encontraron inexactitudes en los registros generados, incluidos síntomas inventados, fechas incorrectas, medicamentos e incluso recomendaciones que el médico nunca hizo. Entre los sistemas revisados se encontraban DAX Copilot de Microsoft/Nuance, Suki AI de Suki.AI y Robin AI de Robin Healthcare. Los auditores señalaron que los médicos suelen aprobar las notas generadas sin verificarlas, confiando en la IA. En un caso, DAX Copilot atribuyó a un paciente síntomas que el paciente no había reportado; en otro, Suki AI registró incorrectamente una dosis de medicamento. Aunque los proveedores afirman que su IA ha sido sometida a ensayos clínicos y cuenta con la certificación HIPAA (Ley de Portabilidad y Responsabilidad de Seguros Médicos), los auditores pidieron auditorías obligatorias de precisión en tiempo real para dichos sistemas.