Auditor Ontario: AI-Pencatat Medis Sering Mendistorsi Fakta Dasar

Menurut investigasi oleh Auditor Jenderal Ontario, alat kecerdasan buatan (AI) untuk pencatatan medis yang digunakan oleh dokter di provinsi tersebut secara sistematis membuat kesalahan faktual yang signifikan. Dalam 18 dari 55 kasus yang ditinjau, auditor menemukan ketidakakuratan dalam catatan yang dihasilkan, termasuk gejala yang dibuat-buat, tanggal yang salah, obat-obatan, dan bahkan rekomendasi yang tidak pernah dibuat oleh dokter. Di antara sistem yang ditinjau adalah DAX Copilot dari Microsoft/Nuance, Suki AI dari Suki.AI, dan Robin AI dari Robin Healthcare. Auditor mencatat bahwa dokter sering menandatangani catatan yang dihasilkan tanpa memeriksanya, mengandalkan AI. Dalam satu kasus, DAX Copilot menghubungkan gejala kepada pasien yang tidak dilaporkan oleh pasien; dalam kasus lain, Suki AI salah mencatat dosis obat. Meskipun vendor mengklaim bahwa AI mereka telah menjalani uji klinis dan sertifikasi HIPAA (Health Insurance Portability and Accountability Act), auditor menyerukan audit akurasi waktu nyata yang wajib untuk sistem semacam itu.