RAG: замеры важнее кода. История бота, где «правильные» улучшения ухудшили результат
Разработчик создал RAG-бота для модерации крипточатов, но столкнулся с тем, что стандартные улучшения — BM25 и реранкер — только ухудшили метрики. Единственным работающим изменением стала калибровка порога отсечения. Статья подчёркивает важность тщательных замеров на собственных данных.
Habr — хаб ИИ27.07 · 09:03