ओंटारियो ऑडिटर: एआई-सहायता प्राप्त मेडिकल स्क्राइब नियमित रूप से बुनियादी तथ्यों को विकृत करते हैं

ओंटारियो के महालेखापरीक्षक की एक जांच के अनुसार, प्रांत में चिकित्सकों द्वारा उपयोग किए जाने वाले मेडिकल रिकॉर्ड रखरखाव के एआई उपकरण व्यवस्थित रूप से महत्वपूर्ण तथ्यात्मक त्रुटियां करते हैं। समीक्षा किए गए 55 मामलों में से 18 में, लेखापरीक्षकों ने उत्पन्न रिकॉर्ड में अशुद्धियाँ पाईं, जिनमें गढ़े हुए लक्षण, गलत तिथियाँ, दवाएँ और यहाँ तक कि वे सिफारिशें भी शामिल थीं जो चिकित्सक ने कभी नहीं की थीं। समीक्षा की गई प्रणालियों में माइक्रोसॉफ्ट/नुअंस का DAX Copilot, Suki.AI का Suki AI और रॉबिन हेल्थकेयर का Robin AI शामिल थे। लेखापरीक्षकों ने कहा कि चिकित्सक अक्सर एआई पर भरोसा करते हुए उत्पन्न नोट्स की जाँच किए बिना उन पर हस्ताक्षर कर देते हैं। एक मामले में, DAX Copilot ने एक रोगी को ऐसे लक्षण बताए जो रोगी ने बताए ही नहीं थे; दूसरे मामले में, Suki AI ने गलत तरीके से दवा की खुराक दर्ज की। हालाँकि विक्रेता दावा करते हैं कि उनके एआई ने क्लिनिकल परीक्षण और एचआईपीएए प्रमाणन प्राप्त किया है, लेखापरीक्षकों ने ऐसी प्रणालियों के अनिवार्य रीयल-टाइम सटीकता ऑडिट का आह्वान किया।