Промптинг, RAG или тонкая настройка: что на самом деле помогает LLM учиться
В этой статье Сергей Прощаев, технический лид в FinTech и электронной коммерции, сравнивает три подхода к обучению LLM предметным знаниям: промптинг с контекстом, RAG и QLoRA тонкую настройку. Используя одну модель (Qwen3-8B) и один GPU (RTX 4090), он протестировал все три на одних и тех же 30 вопросах. Результаты показывают, что RAG лучше всего подходит для фактических вопросов, QLoRA отлично справляется с форматом и терминологией, но не с обновленными данными, а промптинг является хорошей отправной точкой, но имеет ограничения.
Сергей Прощаев, технический лидер в области финтеха и электронной коммерции, провёл эксперимент, сравнив три способа обучения локальной LLM профильным знаниям: промптинг с контекстом, RAG (генерация с дополнением на основе поиска) и тонкую настройку с помощью QLoRA. Он использовал модель Qwen3-8B и одну видеокарту RTX 4090 с 24 ГБ видеопамяти. Предметной областью была внутренняя платёжная
Показать ещё ↓
Источник: Habr — хаб ИИ —
оригинал