Kiểm toán Ontario: Các nhân viên ghi chép y tế hỗ trợ AI thường xuyên bóp méo sự thật cơ bản

Theo một cuộc điều tra của Tổng Kiểm toán Ontario, các công cụ AI dùng để ghi chép hồ sơ bệnh án mà các bác sĩ tại tỉnh này sử dụng thường xuyên mắc các lỗi thực tế nghiêm trọng. Trong 18 trên 55 trường hợp được xem xét, các kiểm toán viên đã phát hiện sai sót trong các bản ghi được tạo ra, bao gồm các triệu chứng được bịa đặt, ngày tháng không chính xác, thuốc men và thậm chí cả những khuyến nghị mà bác sĩ chưa bao giờ đưa ra. Trong số các hệ thống được xem xét có DAX Copilot của Microsoft/Nuance, Suki AI của Suki.AI và Robin AI của Robin Healthcare. Các kiểm toán viên lưu ý rằng các bác sĩ thường ký vào các ghi chú được tạo ra mà không kiểm tra lại, dựa vào AI. Trong một trường hợp, DAX Copilot đã gán các triệu chứng cho một bệnh nhân mà bệnh nhân đó chưa hề báo cáo; trong một trường hợp khác, Suki AI ghi sai liều lượng thuốc. Mặc dù các nhà cung cấp tuyên bố rằng AI của họ đã trải qua các thử nghiệm lâm sàng và chứng nhận HIPAA, các kiểm toán viên đã kêu gọi thực hiện các cuộc kiểm tra độ chính xác theo thời gian thực bắt buộc đối với các hệ thống như vậy.