Ontario Denetçileri: Yapay Zeka Destekli Tıbbi Yazmanlar Rutin Olarak Temel Gerçekleri Çarpıtıyor

Ontario Eyalet Denetçisi tarafından yapılan bir araştırmaya göre, eyaletteki doktorların kullandığı tıbbi kayıt tutma amaçlı yapay zeka araçları sistematik olarak önemli maddi hatalar yapıyor. İncelenen 55 vakadan 18'inde denetçiler, oluşturulan kayıtlarda uydurma semptomlar, yanlış tarihler, ilaçlar ve hatta doktorun hiç yapmadığı öneriler de dahil olmak üzere yanlışlıklar buldu. İncelenen sistemler arasında Microsoft/Nuance'ten DAX Copilot, Suki.AI'den Suki AI ve Robin Healthcare'ten Robin AI yer alıyordu. Denetçiler, doktorların sıklıkla yapay zekaya güvenerek oluşturulan notları kontrol etmeden imzaladıklarını belirtti. Bir vakada DAX Copilot, hastanın bildirmediği semptomları hastaya atfetti; başka bir vakada ise Suki AI bir ilaç dozajını yanlış kaydetti. Satıcılar yapay zekalarının klinik denemelerden geçtiğini ve Sağlık Sigortası Taşınabilirlik ve Sorumluluk Yasası sertifikasına sahip olduğunu iddia etse de, denetçiler bu tür sistemler için zorunlu gerçek zamanlı doğruluk denetimleri yapılmasını talep etti.