humanizer 12B: обзор модели, которая переписывает ИИ-текст под человека

01Что это и для кого: не «чат», а переписчик

Большинство открытых моделей — универсальные ассистенты: их просят «сделать текст человечнее», и они отвечают в чат-формате, попутно меняя факты. humanizer устроен иначе. Это не чат-модель: у файла нет системного промпта и разметки реплик, вход — фиксированная инструкция плюс черновик, выход — только переписанный текст. Такой формат (text completion) снимает целый класс ошибок: модель не начинает объяснять, что она сделала, и не дописывает выводы от себя.

Задача у неё узкая и прикладная: есть черновик, сгенерированный ИИ (письмо, эссе, отчёт, пост на форуме), и его надо переписать, сохранив каждое число, единицу измерения, дату, имя и цитату. Именно на это потрачен весь тренировочный бюджет — а не на знания о мире. Поэтому просить у модели совета или кода бессмысленно: она умеет одно, зато в этом одном обучена на 28 598 парах «черновик ИИ → настоящий человеческий текст».

02Замеры авторов: что именно проверяли

Набор для оценки — 312 черновиков (210 английских и 102 китайских) в 18 жанрах, написанных с нуля моделями GLM-5.3, GPT-5.6 Luna и Claude Sonnet примерно в равных долях и не попадавших в обучение. На каждый черновик — по две генерации. Детекцию проверяли внешним сервисом Originality.ai (API v3, порог строгости «AI Allowance 0%», замер 02.10.2026), проверку фактов — строгим LLM-судьёй GLM-5.3. Ни один AI-детектор в обучении не участвовал — это отдельно подчёркнуто в карточке.

Отдельная строка для контекста: публичный baseline из карточки — навык blader/humanizer v3.1.0 (около 53 тыс. звёзд на GitHub), применённый Claude Sonnet к тем же 60 черновикам, дал 60 из 60 распознанных как ИИ при медианной оценке 100%. Текущий релиз модели на этих же 60 черновиках — 4 из 60. Разница не в «качестве текста», а в том, что промпт-навык не меняет распределение токенов, а файнтюн — меняет.

03Кванты: сколько памяти нужно на самом деле

Самая практичная часть карточки — таблица GGUF-файлов. Авторы не просто прогнали стандартный llama-quantize: для 2-битного, Q3 и Q4_K_M они измерили, насколько каждый тензор портится при сжатии, дали чувствительным больше битов, а затем дообучили файлы слой за слоем под полную модель (quantization-aware training). Поэтому 2-битный файл на 3,9 ГБ совпадает с bf16 в 87,4% случаев, тогда как обычная сборка того же размера — в 70%.

04Как запустить локально: три команды и один промпт

brew install llama.cpp
# или: winget install llama.cpp

pip install -U "huggingface_hub[cli]"
hf download jialinyyzz/humanizer humanizer-12b-Q8_0.gguf prompt_format.json --local-dir ./humanizer-model

llama-server -m ./humanizer-model/humanizer-12b-Q8_0.gguf -c 8192 -np 1 -ngl 99 --host 127.0.0.1 --port 8080

curl -s http://127.0.0.1:8080/completion -d @body.json
# body.json: prompt = instr + "\n\n" + draft + sep; temperature 1.0, top_p 0.95

{
  "instr": "Rewrite the text below so it reads like a person wrote it, not a language model. ...",
  "sep": "\n\n### Rewritten:\n\n"
}
// prompt = instr + "\n\n" + draft.strip() + sep

05Скорость и железо

Замеры авторов на M5 Max: в llama.cpp с Metal и файлом Q8_0 — 36–38 токенов в секунду, письмо на сто слов переписывается примерно за 3,6 секунды, китайское письмо на 300 символов — за 8,5. В MLX 8-bit на том же железе — около 30 токенов в секунду на английском и 38 на китайском, но письмо выходит дольше (около 9 секунд) из-за накладных расходов.

Локальный запуск здесь не роскошь, а условие: приложение по умолчанию работает офлайн и не отправляет черновики в облако. Это существенно для внутренней переписки и рабочих документов, которые нельзя прогонять через сторонние сервисы. В сообществе появился и ускоритель: пользователь jayyun98 натренировал draft-модель для спекулятивного декодирования и заявляет около 1,5× прироста (34,5 против 22,8 токена в секунду) на M5 Pro в MLX. Это сторонний проект, авторы humanizer его сами не замеряли.

06Границы: где модель ошибается

Есть и содержательная оговорка про этику. Инструмент прямо продаётся как средство пройти детектор, и это его главный маркетинговый аргумент. Для редактуры собственного текста, для приведения в порядок внутренних отчётов или для борьбы с «канцеляритом» это законно и полезно. Для выдачи чужой работы за свою, для академических сдач и для обхода проверок в найме — нет, и техническое качество модели этого не меняет. Мы описываем инструмент, а не рекомендуем использовать его для обмана.

07Кому подходит

Модель имеет смысл, если вы пишете на английском или китайском, у вас есть 8–16 ГБ свободной памяти и задача повторяется: поток писем, отчётов, постов, где надо снять машинную гладкость, но сохранить цифры. Если тексты русские, humanizer не подойдёт — карточка не заявляет русский, и на нём качество не проверялось вообще. Если нужен универсальный локальный ассистент, а не переписчик, смотрите обзоры Gemma-семейства и гайды по локальному запуску моделей.