Niet alles heeft een LLM nodig: Boosting, embeddings en regels winnen in productie

Tijdens de UWDC 2026-conferentie in Jekaterinenburg werd een discussie gehouden over de keuze tussen Large Language Models (LLM's), klassieke machine learning (ML) en traditionele ontwikkeling. Deelnemers—Kamil Shakirov (AI Engineer bij DAR), Nikita Ovchinnikov (ML Engineer bij RUTUBE) en Yan Anisimov (Tech Lead DS/DS+ bij Yandex Practicum)—waren het erover eens dat bedrijven vaak geen universeel model nodig hebben, maar een systeem dat een specifiek probleem effectief oplost. Klassieke ML wint met voorspelbaarheid, determinisme en eenvoudige validatie: modellen kunnen worden getest met metrieken die begrijpelijk zijn voor het bedrijf. LLM's daarentegen geven indrukwekkende antwoorden, maar hallucineren, vereisen constante monitoring en updates om de drie maanden, en hun inferentie is duur. In de praktijk verlagen hybride architecturen met regels en heuristieken op het lagere niveau, ML op het middelste niveau en LLM's op het hogere niveau de kosten en verbeteren ze de kwaliteit. Validatie van LLM-resultaten blijft een grote uitdaging, die handmatige labeling en extra tooling vereist. Experts merkten op dat het onjuist is om ML tegen LLM's af te zetten—elke benadering is geschikt voor zijn eigen taken.