Ontario-Prüfer: KI-gestützte medizinische Schreibkräfte verzerren routinemäßig grundlegende Fakten

Nach einer Untersuchung des Rechnungsprüfers von Ontario machen KI-Tools für die Dokumentation medizinischer Aufzeichnungen, die von Ärzten in der Provinz genutzt werden, systematisch schwerwiegende inhaltliche Fehler. In 18 von 55 überprüften Fällen stellten die Prüfer Ungenauigkeiten in den generierten Aufzeichnungen fest, darunter erfundene Symptome, falsche Daten, Medikamente und sogar Empfehlungen, die der Arzt nie ausgesprochen hatte. Zu den überprüften Systemen gehörten DAX Copilot von Microsoft/Nuance, Suki AI von Suki.AI und Robin AI von Robin Healthcare. Die Prüfer stellten fest, dass Ärzte die generierten Notizen oft ohne Überprüfung abzeichnen und sich auf die KI verlassen. In einem Fall schrieb DAX Copilot einem Patienten Symptome zu, die dieser nicht berichtet hatte; in einem anderen Fall zeichnete Suki AI eine Medikamentendosis falsch auf. Obwohl die Anbieter behaupten, dass ihre KI klinische Studien und eine HIPAA-Zertifizierung durchlaufen hat, forderten die Prüfer verbindliche Echtzeit-Genauigkeitsprüfungen für solche Systeme.