Hoe kies je een OCR in 2026: Negen modellen getest op drie inference-engines voor Russisch handschrift

Het artikel van Habr's AI-hub vergelijkt een reeks OCR-oplossingen voor Russisch handschrift, waarbij negen modellen worden getest op vLLM-, SGLang- en Native HF Transformers-engines tegen een dataset van Russische handgeschreven teksten. De auteurs melden dat Tesseract, ondanks dat het het snelst is met 193 pagina's per minuut, slechts 411 tekens per pagina retourneert, terwijl PaddleOCR-VL 1193 tokens oplevert, wat aangeeft dat een hogere snelheid vaak betekent dat er inhoud ontbreekt. De gespecialiseerde PaddleOCR-VL (1.7B) presteert 5,2 keer beter dan de algemene Qwen2.5-VL-7B wat betreft pagina's per minuut en 6,7 keer beter wat betreft tokens per seconde. Native HF Transformers blijven twee keer achter op vLLM en SGLang voor hetzelfde model vanwege een lager GPU-gebruik. De benchmarks tonen aan dat voor eenvoudige gedrukte documenten CPU-gebaseerde Tesseract of RapidOCR voldoende zijn, terwijl voor complexe lay-outs, tabellen en Markdown-uitvoer PaddleOCR-VL met SGLang wordt aanbevolen, en voor productie met minimale compatibiliteitsrisico's PaddleOCR-VL met vLLM. Voor algemene taken is Qwen2.5-VL-7B met vLLM geschikt, en voor lokale RU-domein VLM wordt Cotype Light 3 met vLLM en MTP voorgesteld. De tests zijn uitgevoerd op een gedeelde NVIDIA A100 80GB met batch=1 en 15 Russische handschriftvoorbeelden, met uniforme instellingen zoals bfloat16-precisie, temperatuur 0,0 en specifieke prompting.