OCR:n valinta vuonna 2026: yhdeksän mallin testaus kolmella päättelymoottorilla venäläisellä käsinkirjoituksella

Habrin tekoälyhubin artikkeli vertailee joukkoa OCR-ratkaisuja venäläisen käsialan tunnistukseen. Artikkelissa testataan yhdeksää mallia vLLM-, SGLang- ja natiivi-HF Transformers -moottoreilla venäläisiä käsinkirjoitettuja tekstejä sisältävää tietoaineistoa vastaan. Kirjoittajat raportoivat, että Tesseract on nopein, 193 sivua minuutissa, mutta palauttaa vain 411 merkkiä sivua kohden, kun taas PaddleOCR-VL tuottaa 1193 tokenia, mikä viittaa siihen, että suurempi nopeus tarkoittaa usein sisällön puuttumista. Erikoistunut PaddleOCR-VL (1,7B) päihittää yleiskäyttöisen Qwen2.5-VL-7B:n 5,2-kertaisesti sivuissa minuutissa ja 6,7-kertaisesti tokeneissa sekunnissa. Natiivi-HF Transformers jää vLLM:stä ja SGLang:sta jälkeen kaksinkertaisesti samalla mallilla, koska GPU:n käyttöaste on alhaisempi. Suorituskykytestit osoittavat, että yksinkertaisille painetuille asiakirjoille riittää CPU-pohjainen Tesseract tai RapidOCR, kun taas monimutkaisille asetteluille, taulukoille ja Markdown-tulosteelle suositellaan PaddleOCR-VL:ää SGLang:n kanssa, ja tuotantokäyttöön, jossa yhteensopivuusriskit ovat minimaaliset, suositellaan PaddleOCR-VL:ää vLLM:n kanssa. Yleiskäyttöisiin tehtäviin sopii Qwen2.5-VL-7B vLLM:n kanssa, ja paikalliseen venäjänkieliseen VLM:ään suositellaan Cotype Light 3:a vLLM:n ja MTP:n kanssa. Testit suoritettiin jaetulla NVIDIA A100 80GB -näytönohjaimella erällä = 1 ja 15 venäläisellä käsinkirjoitusnäytteellä, käyttäen yhtenäisiä asetuksia, kuten bfloat16-tarkkuutta, lämpötilaa 0,0 ja tiettyjä kehotteita.