Nous Research дообучила Qwen3.8-27B методом SFT и заявила смену ценностных установок без потери общих способностей. Проверяем цифры модели, кванты и то, где она реально нужна.
Arete-27B — не новая архитектура, а пост-тренировка: Nous Research взяла открытую Qwen3.8-27B и дообучила её на 20 000 промптов по семи ценностным категориям, чтобы убрать государственно-пропагандистскую рамку в ответах. Заявленный результат — рост фактической точности с 2,32 до 2,98 из 5 и падение доли ответов с пропагандой с 22% до 0,9%. Разбираем, что в этих числах проверяемо, чем модель платит за смену установок и как её запустить локально.
Формально это fine-tune: база — Alibaba Qwen3.8-27B, метод — только supervised fine-tuning, без RLHF, без preference optimization и без изменений архитектуры. Учителем выступила модель Inkling, данные — текстовые, контекст обучения 64k. Авторы отдельно подчёркивают, что оценивали конкретный чекпоинт (шаг 1 202), а не финальную сборку, и что смена установок — это исследовательский результат, а не утверждение, что все связанные с базой поведения устранены.
Практический смысл для пользователя простой: если вам нужна модель на 27B с открытой лицензией, которая предсказуемо отвечает на политически чувствительные темы без «государственной рамки», Arete — готовый вариант, который ставится как обычная Qwen-совместимая модель. Если нужна максимальная общая способность, разница с базой в замерах оказалась в пределах шума.
Семь категорий: свобода выражения, государственная идеология, государство против свободного рынка, образование, приватность и слежка, демократия, экологическая политика. Промпты собирались конвейером с обязательной дедупликацией, а каждый батч данных проходил ревью через pull request — авторы описывают это как «данные поставляем так же, как код». Перед обучением из корпуса удалили все промпты, пересекающиеся с оценочным набором, иначе замер был бы нечестным.
Перед тренировкой пришлось измерить саму проблему. Датасет Propaganda_Eval содержит 803 промпта, для каждого — 2–4 обязательных факта из датированного источника и формулировка официальной рамки. Судья (Grok 4.7) получал промпт, ответ, список фактов и рубрику, не зная, какая модель отвечала; рубрику трижды правили по ручной разметке 25 промптов. Ответ, где хотя бы один факт отрицается или подменяется официальной версией, получает 0 баллов независимо от остального.
Главный график статьи — фактическая точность и доля ответов с пропагандой. Arete-27B обгоняет и базовую Qwen3.8-27B, и DeepSeek V4.1 Flash, и GLM 5.3 по обоим показателям, но уступает учителю Inkling (3,96 и 0,3%) и Mistral Large 4 (3,65 и 0,3%). То есть модель закрыла разрыв с базой, но не стала лидером класса: верх таблицы занимают куда более крупные модели.
Самый крупный сдвиг — в категории свободы выражения: фактическая точность выросла с 0,89 до 2,44, доля пропаганды упала с 60% до 1%. Число ответов с нулевым баллом сократилось с 359 до 216 из 803. Улучшение зафиксировано во всех семи категориях — это важнее среднего балла, потому что показывает, что модель не «подкручена» под одну тему.
Post-training легко портит модель: она начинает лучше отвечать на целевые промпты и хуже — на всё остальное. Nous Research прогнала два бенчмарка: внутренний Hermes Bench на общую способность и Terminal-Bench-2.1 на агентные задачи. На первом разница 0,17 процентного пункта (65,60% против 65,77%) — то есть шум. На втором Arete показала 70% против 67% у базы, но авторы прямо пишут, что не приписывают себе это улучшение: конфигурации инференса разные, и разница может быть артефактом.
| Показатель | Qwen3.8-27B | Arete-27B |
|---|---|---|
| Факт-скор (0–5) | 2,32 | 2,98 |
| Ответы с пропагандой | 22% | 0,9% |
| Hermes Bench | 65,77% | 65,60% |
| Terminal-Bench-2.1 | 67% | 70% |
| Лицензия | Apache-2.0 | Apache-2.0 |
| Размер в bf16 | ~55 ГБ | ~54,7 ГБ |
Полные веса — 18 шардов общим объёмом около 54,7 ГБ, для них нужна одна карта на 80 ГБ или две по 48 ГБ. Практичнее квантованные сборки: у bartowski/NousResearch_Arete-27B-GGUF на 09.11.2026 уже 28 729 загрузок — это больше, чем у самой оригинальной модели (1 747), то есть сообщество пользуется именно GGUF-вариантом. Лицензия Apache-2.0 позволяет и коммерческое использование, и пересборку.
| Квант | Размер | Под какой объём памяти |
|---|---|---|
| IQ2_XXS | 8,6 ГБ | 12 ГБ VRAM |
| IQ2_M | 10,3 ГБ | 12–16 ГБ VRAM |
| Q3_K_M | 13,2 ГБ | 16–24 ГБ VRAM |
| Q4_K_M | 17,2 ГБ | 24 ГБ VRAM |
| Q5_K_M | 20,7 ГБ | 24–32 ГБ VRAM |
| bf16 (18 шардов) | 54,7 ГБ | 80 ГБ VRAM |
huggingface-cli download \ bartowski/NousResearch_Arete-27B-GGUF \ --include '*Q4_K_M.gguf'
llama-server -m Arete-27B-Q4_K_M.gguf \ -c 8192 -ngl 99 --port 8080
curl localhost:8080/v1/chat/completions \
-d '{"messages":[{"role":"user",
"content":"Привет"}]}'Отдельно стоит помнить про этику замера: модель меняет не знания, а рамку, в которой о них рассказывает. Для задач, где важна нейтральность формулировок (юридические, медицинские, новостные ответы), смена установок — это не «исправление», а другой продукт, и его нужно тестировать на своих промптах, а не на среднем балле чужой рубрики.