Онтарийские аудиторы: ИИ-помощники врачей для записи регулярно искажают базовые факты
Microsoft
Nuance Communications
Suki.AI
Расследование онтарийских аудиторов показало, что ИИ-системы для транскрипции бесед врача с пациентом, такие как DAX Copilot от Nuance, Suki AI и Robin AI, допускают серьёзные ошибки. В 18 из 55 проверенных случаев были выявлены фактические неточности, включая выдуманные симптомы и неправильные рекомендации. Это ставит под угрозу безопасность пациентов.
Согласно расследованию генерального аудитора Онтарио, ИИ-инструменты для ведения медицинской документации, используемые врачами провинции, систематически допускают значительные фактические ошибки. В 18 из 55 рассмотренных случаев аудиторы обнаружили неточности в сгенерированных записях, включая вымышленные симптомы, неверные даты, лекарства и даже рекомендации, которые врач никогда не давал.
Показать ещё ↓
Источник: The Register AI/ML —
оригинал