DoorDash рассказал, как создал ИИ-ассистента для покупок, не полностью основанного на LLM

DoorDash опубликовал серию статей, детально описывающих архитектуру своего диалогового помощника Ask DoorDash. Ассистент использует не только большую языковую модель, но и набор специализированных ИИ-агентов, инструменты на базе протокола Model Context Protocol (MCP), долговременную память о пользователе и автоматизированную систему оценки качества. За семь дней тестирования функция запоминания предпочтений (расчётная потребительская память) увеличила конверсию в корзину на 24%, средний размер корзины на 17% и сократила количество диалоговых шагов на 7%. В поиске ресторанов открытые запросы стали давать на 15% больше конверсий. Для валидации работы в продакшене DoorDash построил фреймворк автоматической оценки, который симулирует состояния диалогов с помощью LLM-сгенерированных пользователей и заранее записанных сценариев. Фреймворк позволил проводить более 2000 автоматических оценок в день, повысить оценку качества на 8 баллов, сократить время регрессионного тестирования с 6 часов до 20 минут. При миграции на новую модель удалось снизить задержку на 35% без потери качества. Архитектура Ask DoorDash разделяет оркестровку (координацию агентов) и бизнес-логику. Взаимодействие между агентами координирует специальная среда исполнения (Assistant Runtime), а бизнес-функции (поиск по каталогу, рекомендации, корзина, оформление заказа, история, память) предоставляются через общий слой MCP-инструментов. Благодаря этому разные ИИ-сценарии могут использовать одни и те же сервисы, а бэкенд-системы развиваться независимо. Для персонализации введены три типа памяти: долговременная (на основе истории покупок), сессионная (контекст текущего разговора) и агентская (явно заданная пользователем информация). Нужные воспоминания извлекаются семантическим векторным поиском. По словам DoorDash, создание корзины с помощью Ask DoorDash занимает около 2 минут после одной подсказки, что примерно в 5 раз быстрее, чем вручную. Система также использует детерминированные операции (обновление версионированных ресурсов без вызова LLM) и рабочие процессы подтверждения результатов. В итоге платформа позволяет командам предметных областей разрабатывать своих агентов, а платформенной команде — поддерживать оркестрацию, MCP-инструменты, управление памятью и оценку.