Unlimited OCR 2: 3,34 млрд параметров на сотни страниц документа

01Что такое Unlimited OCR 2 и зачем ей «неограниченный горизонт»

Классическая схема «LLM-декодер + визуальный энкодер» упирается в две вещи: длина выходной последовательности и размер KV-кэша. Чем длиннее документ, тем больше токенов нужно удержать и тем медленнее идёт генерация на каждом следующем шаге. Для одной страницы это незаметно, для сотни страниц — критично.

Baidu в техническом отчёте прямо сравнивает это с человеком: при копировании длинного текста человек не замедляется к концу страницы, а модель — замедляется. SR-SWA должна убрать эту деградацию: внимание считается не по всей истории, а по фиксированному набору ссылок, который обновляется по ходу разбора.

Практический вывод для инженера простой: страницы документа отправляются в модель одним запросом, в порядке следования, и модель видит кросс-страничный контекст. Именно так работает метод infer_multi в карточке модели: промпт собирается как повтор <PAGE><image> плюс инструкция «Multi page parsing», а на выходе получается по одному блоку <PAGE> на каждую входную страницу.

02Замеры: что показывает лидерборд вендора

Baidu публикует собственный лидерборд по двум наборам: MPDocBench (десятки страниц) и MarathonDocBench (сотни страниц). Ниже — сводные баллы по Overall Score из карточки модели. Это данные авторов: независимых прогонов по этим наборам на момент публикации обзора нет, а MarathonDocBench выпущен самим вендором 27 октября 2026 года.

Главное наблюдение: на «обычных» документах разница между топовыми закрытыми моделями и открытой OCR-моделью невелика — 84,4 против 79,3 у Qwen3.8-Max. А вот на сверхдлинных документах сравнение ломается: 77,1 против 22,9. Это ровно тот эффект, ради которого делали SR-SWA: конкурент с полноценным вниманием теряет качество там, где истории становится слишком много.

Ещё один срез — популярность OCR-моделей на Hugging Face по загрузкам за последние 30 дней. Он показывает не качество, а зрелость экосистемы: сколько людей реально ставят модель в пайплайн.

03Характеристики и способы запуска

Карточка описывает два пути инференса. Быстрый — нативный Transformers: он подходит для проверки модели на паре страниц. Рабочий — SGLang с кастомным колесом из репозитория: там же описаны переменные окружения для окон страниц и лимитов вывода.

pip install torch==2.13.0 torchvision pillow
pip install transformers==4.52.1 huggingface-hub==0.36.0
tokenizers==0.21.4 addict==2.4.0 einops==0.8.2 easydict==1.13

from transformers import AutoModel, AutoTokenizer
model_name = "baidu/Unlimited-OCR-2"
tok = AutoTokenizer.from_pretrained(model_name,
      trust_remote_code=True)
model = AutoModel.from_pretrained(model_name,
      trust_remote_code=True, use_safetensors=True,
      torch_dtype=torch.bfloat16).eval().cuda()

pages = [f"doc/page_{i}.jpg" for i in range(1, 8)]
text, n_tokens = model.infer_multi(tok,
    image_files=pages, output_path="output/multi",
    save_results=True)

04Сильные и слабые стороны

• Постоянный KV-кэш. Память и латентность почти не растут с числом страниц — в этом смысл SR-SWA, и это же главный аргумент против классических VLM-пайплайнов.
• Одна модель на документ, а не на страницу. Кросс-страничный контекст помогает с таблицами, сносками и колонтитулами, которые «переезжают» между страницами.
• MIT и открытые веса. Можно ставить в закрытый продукт без согласования условий, в отличие от моделей с кастомными лицензиями.
• Готовые форматы вывода. Markdown с разметкой по страницам удобно резать на чанки для RAG без отдельного парсера.

• Нужен серьёзный GPU. Пример в карточке — A800-80GB; на бытовой карте рассчитывать на комфортную работу не стоит.
• Это OCR, а не универсальный ассистент. Модель парсит документы; диалоговые и reasoning-сценарии вне её задачи.
• Замеры — вендорские. MarathonDocBench выпущен тем же вендором, что и модель, независимых прогонов пока нет.
• Русский язык отдельно не измерен. Заявлена мультиязычность, но сравнительных замеров по кириллице вендор не публикует — проверяйте на своих сканах.