Чего не хватает LLM-чатботам: чувства цели
OpenAI
Meta
Современные LLM-чатботы отлично справляются с одноразовыми запросами, но теряют фокус при многошаговом диалоге. Исследования показывают, что модели быстро отвлекаются от системного промпта уже через несколько раундов общения. Автор предлагает подход «целенаправленного диалога», который учитывает долгосрочные цели и итеративное взаимодействие.
LLM-чатботы постоянно совершенствуются, но их прогресс измеряется такими бенчмарками, как MMLU, HumanEval и MATH, которые тестируют одношаговые ответы. Однако реальные задачи, такие как планирование путешествий или автоматизация задач на GitHub, требуют многоповоротного диалога с уточнением требований. Исследователи показали, что даже продвинутые модели, такие как LLaMA2-chat-70B и
Показать ещё ↓
Источник: The Gradient —
оригинал