MiniCPM-V 4.7 — обзор 2026: первая открытая MoE-модель, которая живёт на телефоне

01Что такое MiniCPM-V 4.7 и кому она нужна

MiniCPM-V — серия небольших мультимодальных моделей, которая с 2024 года строится вокруг одной идеи: понимание изображений, видео и документов должно работать на потребительском железе. Поколение 4.7 продолжает линию 4.6 (апрель 2026) и добавляет главное архитектурное изменение за всю историю серии — разреженную смесь экспертов. В варианте 35B-A3B общее число параметров 35,2 млрд (столько весит файл safetensors), но на каждый токен активируется лишь часть экспертов, поэтому вычисления остаются посильными для телефона.

Второй вариант — 1B на 1,55 млрд параметров. Это прямая замена MiniCPM-V 4.6 в роли «модели на каждый день»: распознать чек, прочитать скриншот, описать фото, вытащить таблицу из PDF. Авторы утверждают, что 1B обгоняет Qwen3.5 0.8B и по общему баллу, и по скорости инференса, но это их собственные замеры, а не независимый тест.

02Два варианта: 35B-A3B и 1B

Выбирать между вариантами стоит не по числу параметров, а по задаче и памяти. 35B-A3B — это про качество рассуждений и разбор сложных документов: модель держит несколько изображений и видео, умеет работать агентом по интерфейсу. 1B — про скорость и автономность: её можно положить в мобильное приложение и не думать о том, что пользователь останется без сети.

Разница в лайках показательна: у исходных весов 35B-A3B 1 052 отметки, у GGUF — 173. Люди ставят лайк «главному» репозиторию модели, но качают квантованный файл. Для сравнения, предыдущее поколение 4.6 набрало 196 735 загрузок и 1 239 лайков за полгода — то есть 4.7 практически повторила его результат за две недели.

03Архитектура: LES, DSpark и сжатие визуальных токенов

Проблема MoE на устройстве очевидна: разные токены выбирают разных экспертов, а память телефона не может держать все веса сразу. Если грузить экспертов с флеш-памяти по мере надобности, декодирование упирается в ожидание чтения и превращается в слайд-шоу. Авторы решают это тремя приёмами сразу.

Первый приём — Lookahead Expert Scheduling (LES): кросс-слойное предсказание маршрутизации. Модель заранее знает, какие эксперты понадобятся следующему слою, и подгружает их, пока считает текущий. Важная деталь: предсказание управляет только порядком загрузки, вычисления идут по исходной маршрутизации токена, поэтому пропущенные эксперты просто догружаются, а качество не страдает. Второй — мелкозернистое послойное квантование весов экспертов. Третий — интеграция спекулятивного сэмплинга DSpark, для которого выпущены отдельные головы в BF16 и GGUF.

Вторая половина архитектуры отвечает за зрение. Модель использует раннее сжатие визуальных токенов внутри самого кодировщика (подход из LLaVA-UHD v4): лишние патчи отбрасываются до того, как их обработают последующие слои. Плюс есть переключатель downsample_mode со значениями 4x и 16x: первый режим оставляет вчетверо больше визуальных токенов и подходит для мелкого текста на скриншотах, второй экономит контекст для видео и серий кадров.

04Сколько памяти нужно: разбираем GGUF-кванты

В GGUF-репозитории 35B-A3B лежит 16 файлов весов и два проектора зрения. Полный F16 занимает 69,38 ГБ — это уровень серверной машины. Рабочие варианты начинаются с IQ3_XS на 14,48 ГБ: такой файл влезает в 24 ГБ видеопамяти вместе с контекстом и проектором. Компромисс по качеству для 3-битного кванта MoE-модели заметнее, чем для плотной, поэтому для повседневной работы разумнее IQ4_XS или Q4_K_M.

Для 1B всё проще: исходные веса — 1,55 млрд параметров, GGUF-сборка на 53 412 загрузок. Модель запускается на ноутбуке без дискретной видеокарты, и именно её имеет смысл пробовать первой, чтобы понять, подходит ли семейство под ваши задачи.

05Запуск: Ollama, transformers, llama.cpp

Самый короткий путь — Ollama: официальная страница модели openbmb/minicpm-v4.7 содержит теги latest и :1b. Это лучший вариант для первого знакомства: не нужно вручную подкладывать проектор зрения.

ollama run openbmb/minicpm-v4.7

pip install "transformers[torch]>=5.18.0" torchvision torchcodec

import torch
from transformers import AutoModelForImageTextToText, AutoProcessor

model_id = "openbmb/MiniCPM-V-4.7-1B"
processor = AutoProcessor.from_pretrained(model_id)
model = AutoModelForImageTextToText.from_pretrained(
    model_id, torch_dtype="auto", device_map="auto"
)

Третий путь — llama.cpp и SGLang/vLLM для серверных сценариев. Здесь есть подвох: для картинок и видео нужен отдельный файл mmproj, и его версия должна совпадать с квантом. Режим downsample_mode передаётся и в препроцессор, и в generate() — если задать его только в одном месте, число визуальных токенов разъедется и ответы станут нестабильными.

06Место в семействе MiniCPM-V

Серия развивается быстро: от 2.6 в 2024 году до 4.7 осенью 2026-го. Поколение 4.6 было плотным и сделало ставку на режим размышлений (отдельный репозиторий Thinking), а 4.7 впервые уходит в MoE и одновременно выпускает компактную 1B — две ветки под разные бюджеты памяти.

Практический вывод из этой статистики: вокруг семейства сложилась культура локального запуска. Люди не ждут, пока модель появится в облачном API, а сразу тянут GGUF — и это же объясняет, почему авторы вкладываются в LES и спекулятивное декодирование, а не только в бенчмарки.

07MiniCPM-V 4.7 против Qwen3.8-27B и других локальных моделей

Главный конкурент в нише «мультимодальная модель на своём железе» — плотная Qwen3.8-27B: 27 млрд параметров, Apache-2.0, нативное зрение, огромный контекст. Она предсказуемее в запуске, потому что плотную модель проще квантовать и она не требует планировщика экспертов. MiniCPM-V 4.7 35B-A3B отвечает плотностью качества на гигабайт: при большем числе параметров на токен тратится меньше вычислений.

Если вам нужен локальный разбор PDF и таблиц без облака — смотрите на 35B-A3B при наличии 24 ГБ видеопамяти. Если нужен помощник на ноутбуке без дискретной карты — берите 1B. Если нужен максимальный контекст и предсказуемость — плотная Qwen3.8-27B, гайд по её локальному запуску у нас здесь.