Cache)增长,增加了推理速度和内存成本。百度提出了参考滑动窗口注意力机制,在保持对原始文档关注的同时,仅保留最近生成内容作为工作记忆,从而在一次前向传播中连续解析数十页。这使得键值缓存保持恒定,降低了计算成本和内存占用。行业专家指出,这一创新不仅加速了OCR,还为长上下文推理和记忆管理提供了新思路。Unlimited OCR持续受到开发者关注,反映出中国AI开源模型正从最初的炒作转向持续落地。