Spark-X2.6-4B: обзор 4B-модели XHToken для агентов на устройстве

01Что именно выпустили

Spark-X2.6-4B — это посттренированная версия семейства Spark-X2.5. Архитектура не менялась: авторы прямо пишут, что весь прирост качества получен за счёт улучшенного посттренинга, а не за счёт увеличения модели. Для практики это означает простое следствие — требования к железу остались прежними, а поведение в агентных циклах изменилось.

Отдельно стоит проговорить, чего в карточке нет. Там не заявлена поддержка русского языка: в поле языков стоят только английский и китайский. Это не значит, что модель не отвечает по-русски — такие модели обычно отвечают, — но качество на русском никем не измерено, и для русскоязычного продукта это надо проверять самостоятельно, а не по обещаниям вендора.

02Замеры: что показывают цифры авторов

Главный аргумент релиза — таблица агентных и кодинговых бенчмарков. Все числа ниже — данные авторов (карточка модели и пост в блоге XHToken), независимого воспроизведения на момент публикации нет. Поэтому читать их стоит как заявление вендора, а не как измеренный факт.

Самый большой скачок — в SWE Verified (+21,2 пункта) и BrowseComp (+12,2). Это ровно те два места, где компактные модели обычно проваливаются: многошаговая правка кода с проверкой тестов и поиск в вебе с последующим отбором источников. Скромнее всего прирост в длинном контексте (+2,6) — заявленный контекст в миллион токенов при этом остаётся маркетинговой величиной: он технически сконфигурирован в примерах запуска, но качество извлечения на такой длине никем не измерено.

03Сколько занимает и какие есть кванты

Семейство опубликовано не одной сборкой, а сразу пачкой: базовый BF16, FP8, INT8, INT4 и GGUF. Это удобно — можно подобрать вес под доступную память, не пересобирая модель самому. Ниже размеры файлов из списка файлов на Hugging Face: это проверяемые байты, а не оценка «на глаз».

Цифры загрузок — самый честный индикатор того, как модель используют на самом деле. Разрыв между GGUF (69,7 тыс.) и базовым BF16 (4,7 тыс.) показывает: подавляющее большинство ставит Spark не на сервер с GPU, а на обычную машину. Для такой аудитории критично не число параметров, а то, влезает ли Q4 в 4–8 ГБ видеопамяти — и 3,54 ГБ здесь хорошая новость.

04Как запустить: четыре пути

У модели несколько официальных способов запуска, и они не равнозначны. Быстрый путь для эксперимента — Ollama, путь для продакшена — OpenAI-совместимый сервер на SGLang, путь для встраивания в Python-код — transformers с trust_remote_code.

ollama run SparkLLM/Spark-X2.6-4B

pip install transformers==4.57.1

model = AutoModelForCausalLM.from_pretrained(
    "XHToken/Spark-X2.6-4B",
    trust_remote_code=True,
    torch_dtype="auto",
    device_map="auto",
)

python -m sglang.launch_server
  --model-path /models/Spark-X2.6-4B
  --served-model-name spark2.6
  --tool-call-parser spark25
  --reasoning-parser qwen3
  --context-length 131072
  --host 0.0.0.0 --port 30000

05Ограничения и где модель не подойдёт

• Языки в карточке — только английский и китайский. Русский не заявлен, качество на русском надо мерить самому.
• Все сильные цифры — данные авторов. Независимых прогонов на момент публикации нет, методика не раскрыта.
• Контекст в миллион токенов заявлен на уровне конфигурации сервера, а не измеренного качества извлечения. На практике начинайте с 32–128 тыс. и смотрите на свою задачу.
• Кванты ниже Q4 (INT4-сборка 3,41 ГБ) дают выигрыш в памяти, но просадку в агентных сценариях никто не публиковал — проверяйте на своих инструментах.
• Модель не является «open source» в строгом смысле: открыты веса под Apache 2.0, но датасет и код обучения не опубликованы.

Отдельно про приватность: главный сценарий модели — работа на устройстве, но это не значит, что данные никуда не уходят. Если вы вызываете её изнутри агента, который сам ходит в облако (Claude Code, Cursor, любой SaaS-клиент), содержимое промптов всё равно покидает машину. Локальная модель убирает только тот трафик, который иначе шёл бы к API модели.

06С чем сравнивать

Если задача — агент на своём железе, сравнивать Spark стоит не с флагманскими моделями, а с тем, что уже стоит у вас в Ollama. Практический тест простой: возьмите 20–30 реальных вызовов инструментов из своего проекта, прогоните на Spark-X2.6-4B и на текущей модели и сравните не «ум», а долю корректных JSON-аргументов. Именно на этом ломается большинство компактных моделей, и именно здесь вендор обещает основной прирост.