Auditores de Ontário: Escreventes Médicos Assistidos por IA Distorcem Rotineiramente Fatos Básicos

De acordo com uma investigação da Auditora-Geral de Ontário, ferramentas de inteligência artificial (IA) para registros médicos utilizadas por médicos na província cometem erros factuais significativos de forma sistemática. Em 18 dos 55 casos revisados, auditores encontraram imprecisões nos registros gerados, incluindo sintomas fabricados, datas incorretas, medicamentos e até recomendações que o médico nunca fez. Entre os sistemas revisados estavam DAX Copilot, da Microsoft/Nuance; Suki AI, da Suki.AI; e Robin AI, da Robin Healthcare. Os auditores observaram que médicos frequentemente aprovam as anotações geradas sem verificá-las, confiando na IA. Em um caso, o DAX Copilot atribuiu sintomas a um paciente que o paciente não havia relatado; em outro, o Suki AI registrou incorretamente a dosagem de um medicamento. Embora os fornecedores afirmem que sua IA passou por testes clínicos e certificação da Lei de Portabilidade e Responsabilidade de Seguros de Saúde (Health Insurance Portability and Accountability Act, HIPAA), os auditores pediram auditorias obrigatórias de precisão em tempo real para tais sistemas.