Nanbeige4.3-33B: открытая 33B-модель, которая обходит Qwen3.8-27B на агентных тестах

01Что это: плотная 33B-модель, а не MoE

Модель опубликована 24 октября 2026 года командой Nanbeige (Nanbeige Team, контакт nanbeige@kanzhun.com). В карточке она описана как первый шаг серии Nanbeige4.3: сначала строится мощный «учитель», затем его агентные навыки дистиллируются в небольшие модели вроде заявленной Nanbeige4.3-3B. То есть это не оптимизированная под дешёвый инференс MoE-конструкция, а обычный плотный трансформер — все 33 млрд параметров участвуют в каждом токене.

Конфигурация из config.json: архитектура LlamaForCausalLM, 52 слоя, скрытая размерность 7168, 56 голов внимания и 8 KV-голов (grouped-query attention), FFN 22 016, словарь 166 912 токенов, rope_theta 120 000 000, веса в bfloat16. Контекст 524 288 токенов задан в конфиге, а не только обещан в тексте.

• Плотная архитектура: 52 слоя, 56 голов внимания, 8 KV-голов — экономия памяти на кэше, но полный объём весов на каждый токен.
• Два режима размышления через шаблон чата: enable_thinking (включён по умолчанию) и preserve_thinking — сохранять ли рассуждения прошлых ходов.
• Инструменты через шаблон чата: при передаче tools авторы рекомендуют tool_call_format="xml", JSON поддерживается для совместимости.
• Запуск заявлен в трёх раннерах: Transformers, SGLang и vLLM — с парсерами qwen3 и qwen3_coder.

02Бенчмарки авторов: где модель действительно впереди

Сравнение идёт с тремя моделями того же класса: Qwen3.8-27B, Muse-Glimmer-30B и Gemma4-31B. Все замеры, по заявлению авторов, сделаны на одном harness с одинаковыми гиперпараметрами и на максимальном уровне «размышлений». На агентном кодинге Nanbeige выигрывает почти везде, кроме SWE-Bench Pro, где Qwen3.8-27B чуть впереди (61,7 против 60,3).

Отдельно авторы подчёркивают Terminal-Bench 4.0 — 23,8 против 6,3 у Qwen3.8-27B, 1,6 у Muse-Glimmer-30B и 0,0 у Gemma4-31B. Абсолютные значения низкие у всех: это очень тяжёлый срез, и разница здесь скорее показывает направление, чем реальный уровень автономности.

03Архитектура и шаблон чата: три переключателя, которые решают

Практическая разница между режимами большая. Для агентных и tool-use сценариев авторы советуют preserve_thinking=true — тогда рассуждения прошлых ходов остаются в контексте и модель не теряет план между вызовами инструментов. Для обычного чата и вопросов-ответов то же значение выключают, иначе контекст забивается старыми размышлениями.

04Как запустить: vLLM или SGLang

Для продакшена имеет смысл серверный раннер: 33 млрд параметров в bfloat16 — это около 66 ГБ весов, и на одной видеокарте они не помещаются. В примерах авторов используется tensor parallel на 4 GPU и утилизация памяти 0,8. Ключевая деталь — парсеры: --reasoning-parser qwen3 и --tool-call-parser qwen3_coder, без них модель не отдаст отдельно рассуждения и вызовы инструментов.

hf download Nanbeige/Nanbeige4.3-33B
  --local-dir ./nb43

vllm serve ./nb43
  --host 0.0.0.0 --port 8000
  --tensor-parallel-size 4
  --gpu-memory-utilization 0.8
  --enable-auto-tool-choice
  --reasoning-parser qwen3
  --tool-call-parser qwen3_coder

python -m sglang.launch_server
  --model-path ./nb43 --host 0.0.0.0
  --port 8000 --tp-size 4
  --mem-fraction-static 0.8
  --reasoning-parser qwen3
  --tool-call-parser qwen3_coder

# список моделей
curl -s localhost:8000/v1/models
# запрос с tools: тело держите в tools.json
curl -s localhost:8000/v1/chat/completions
  -H 'Content-Type: application/json'
  -d @tools.json

05Сколько памяти: размеры квантов от сообщества

Через сутки после публикации на Hugging Face появились десятки квантов: GGUF от bartowski, AtomicChat, CVLTAI и других, FP8 и NVFP4 от primitive-ai, MLX-4bit для Apple Silicon. Это единственный проверяемый источник размеров — считаем по файловому списку, а не по формуле «параметры × биты».

06Границы: что не подтверждено и что важно знать

• Бенчмарки — авторские. Независимых прогонов на 25.10.2026 нет, harness описан в сносках, но не воспроизводился третьей стороной.
• Русского языка в обучении не заявлено: в карточке указаны только en и zh. Формально модель ответит по-русски, но качество никто не измерял.
• Загрузок на HF на момент обзора — 0: модель вышла сутками раньше, и счётчик ещё не отражает реального использования. Ориентироваться на лайки (297) честнее, но и они не про качество.
• Nanbeige4.3-3B, для которой эта модель — «учитель», ещё не выпущена. Планировать дистилляцию на своей стороне стоит только после появления кода обучения.
• Контекст 524 288 токенов заявлен конфигом, но стоимость кэша на такой длине огромна: на практике в агентных сценариях окно упирается в память, а не в лимит модели.