Доверие к контексту ИИ: у большинства предприятий агенты выдают уверенные, но неверные ответы из-за пробелов в данных
OpenAI
Исследование VentureBeat Pulse показало, что 57% предприятий за последние шесть месяцев сталкивались с ситуацией, когда их ИИ-агенты уверенно давали неверные ответы из-за отсутствия или противоречивости контекста. Хотя RAG уже является основным источником контекста, а встроенные инструменты провайдеров вытесняют выделенные векторные базы данных, большинство компаний ещё не внедрили управляемый семантический слой для исправления этой проблемы.
Исследование VentureBeat Pulse Research, охватившее 101 предприятие, выявило так называемый «контекстный разрыв» — расхождение между уверенностью, с которой корпоративные ИИ-агенты дают ответы, и реальной надёжностью контекста, на котором эти ответы основаны. 57% респондентов сообщили, что за последние шесть месяцев их агенты выдавали уверенные, но неверные ответы, вызванные отсутствием или противоречивостью бизнес-контекста, причём более половины из них сталкивались с этим неоднократно. RAG (Retrieval-Augmented Generation) является основным источником контекста для 38% предприятий — больше, чем любой другой подход. Встроенные инструменты поиска провайдеров, такие как OpenAI file search, обошли по популярности выделенные векторные базы данных. Однако 58% компаний уже создают или используют управляемый семантический слой для исправления контекста, но у большинства он ещё не внедрён в эксплуатацию. Рынок консолидируется в сторону гибридного поиска, и хотя встроенные средства поиска от провайдеров лидируют на практике, многие предприятия планируют сохранять лучшие в своём классе сторонние решения.
- Сокращения
- RAG = Retrieval-Augmented Generation — генерация с дополнением извлечёнными данными
Источник: VentureBeat AI —
оригинал