Nicht alles braucht LLMs: Boosting, Embeddings und Regeln gewinnen in der Produktion

Auf der UWDC-2026-Konferenz in Jekaterinburg fand eine Diskussion über die Wahl zwischen Large Language Models (LLMs), klassischem maschinellem Lernen (ML) und traditioneller Entwicklung statt. Die Teilnehmer – Kamil Shakirov (KI-Ingenieur bei DAR), Nikita Ovchinnikov (ML-Ingenieur bei RUTUBE) und Yan Anisimov (Tech Lead DS/DS+ bei Yandex Practicum) – waren sich einig, dass Unternehmen oft kein universelles Modell benötigen, sondern ein System, das ein spezifisches Problem effektiv löst. Klassisches ML überzeugt durch Vorhersagbarkeit, Determiniertheit und einfache Validierung: Modelle lassen sich mit Metriken testen, die für das Geschäft verständlich sind. LLMs hingegen liefern beeindruckende Antworten, aber sie halluzinieren, erfordern ständige Überwachung und Aktualisierungen alle drei Monate, und ihre Inferenz ist teuer. In der Praxis senken hybride Architekturen mit Regeln und Heuristiken auf der unteren Ebene, ML auf der mittleren Ebene und LLMs auf der oberen Ebene die Kosten und verbessern die Qualität. Die Validierung von LLM-Ergebnissen bleibt eine große Herausforderung, die manuelle Kennzeichnung und zusätzliche Werkzeuge erfordert. Die Experten merkten an, dass es falsch ist, ML gegen LLMs auszuspielen – jeder Ansatz eignet sich für seine eigenen Aufgaben.