الحشو الرمزي: الضغط المثالي للنص لا يحافظ على المعنى – دراسة AIRI
حدد باحثون من AIRI (FusionBrain) مشكلات حاسمة في طريقة الحشو الرمزي، التي تسمح بتعبئة آلاف الرموز في تضمين واحد. اتضح أنه حتى مع دقة استرجاع تبلغ 99.96%، يفقد النموذج قدرته على الاستدلال على النص المضغوط. تم اقتراح بروتوكول جديد يسمى الحشو التصاعدي التدريجي، يضمن استرجاعًا بنسبة 100% لكنه يظهر أن استرجاع النص لا يساوي الفهم.
Meta
EleutherAI
Hugging Face
Google/DeepMind
Alibaba/Qwen
Habr — хаб ИИ27.07 · 10:03