TAKC: сжатие знаний с учетом задач для корпоративного ИИ на AWS — подход, выходящий за рамки RAG
Amazon Web Services
Anthropic
AWS представляет сжатие знаний с учетом задач (TAKC) — технику, которая предварительно сжимает целые базы знаний в представления, специфичные для задач, для корпоративного ИИ. TAKC преодолевает ограничения RAG в кросс-документном рассуждении, сокращая количество токенов в 8–64 раза, сохраняя при этом релевантную информацию. Решение включает многоуровневые степени сжатия и бессерверную архитектуру на AWS.
AWS представляет TAKC (task-aware knowledge compression — сжатие знаний с учетом задачи) как альтернативу RAG для корпоративных задач ИИ, требующих анализа документов с перекрестными ссылками, таких как финансовая проверка должной осмотрительности или соблюдение нормативных требований. TAKC использует языковую модель для создания более коротких, ориентированных на задачу сводок целых документов,
Показать ещё ↓
Источник: AWS ML blog —
оригинал