Ontarion tilintarkastajat: tekoälyavusteiset lääketieteelliset kirjurit vääristävät rutiininomaisesti perustietoja
Microsoft
Nuance Communications
Suki.AI
Ontarion tilintarkastajien tutkimus paljasti, että tekoälyjärjestelmät, jotka litteroivat lääkärin ja potilaan välisiä keskusteluja, kuten Nuancen DAX Copilot, Suki AI ja Robin AI, tekevät vakavia virheitä. 55 tarkastetusta tapauksesta 18:ssa havaittiin asiavirheitä, mukaan lukien keksittyjä oireita ja virheellisiä suosituksia, mikä saattaa vaarantaa potilasturvallisuuden.
Ontarion tilintarkastajan tekemän tutkimuksen mukaan provinssin lääkäreiden käyttämät tekoälytyökalut potilastietojen kirjaamiseen tekevät systemaattisesti merkittäviä virheitä. Tutkituista 55 tapauksesta 18:ssa tarkastajat löysivät epätarkkuuksia tuotetuissa kirjauksissa, kuten tekaistuja oireita, vääriä päivämääriä, lääkkeitä ja jopa suosituksia, joita lääkäri ei koskaan antanut. Tarkastetuista järjestelmistä mainittakoon Microsoftin/Nuancen DAX Copilot, Suki.AI:n Suki AI ja Robin Healthcaren Robin AI. Tarkastajat totesivat, että lääkärit usein hyväksyvät tuotetut muistiinpanot tarkistamatta niitä luottaen tekoälyyn. Yhdessä tapauksessa DAX Copilot liitti potilaalle oireita, joita tämä ei ollut raportoinut; toisessa Suki AI kirjasi lääkitysannoksen väärin. Vaikka valmistajat väittävät tekoälynsä läpäisseen kliiniset tutkimukset ja saaneen HIPAA-sertifioinnin (Health Insurance Portability and Accountability Act), tarkastajat vaativat pakollisia reaaliaikaisia tarkkuustarkastuksia tällaisille järjestelmille.
Lähde: The Register AI/ML —
Alkuperäinen