Qwen (Alibaba)

Что такое Qwen

Qwen — семейство открытых языковых моделей от Alibaba. В открытом доступе есть варианты от 0.5B до 72B параметров с текстовыми, кодовыми, математическими и мультимодальными версиями, большинство весов — под лицензией Apache 2.0: их можно запускать и дообучать в том числе в коммерческих проектах.

Модели работают локально — через Ollama, llama.cpp, vLLM или LM Studio. В этом режиме нет оплаты за токены и нет отправки данных наружу: платите только за железо.

Как запустить локально

Самый быстрый путь — Ollama. В её библиотеке для qwen2.5 доступны теги 0.5b, 1.5b, 3b, 7b, 14b, 32b, 72b и latest (проверено 16.10.2026):

ollama pull qwen2.5:7b

ollama run qwen2.5:7b

Для серверного запуска с параллельными запросами берут vLLM, для инференса на CPU — llama.cpp или LM Studio.

Сколько нужно железа

Ориентиры для квантованных весов (Q4): 0.5B — меньше 1 ГБ, 3B — около 2–3 ГБ, 7B — около 5–6 ГБ видеопамяти. 32B и 72B требуют серверного GPU либо CPU с большим объёмом RAM, но ответы будут идти заметно медленнее. Точные требования зависят от квантизации, длины контекста и размера KV-кэша — проверяйте на своей конфигурации.

Если локального железа не хватает

Ту же модель можно вызывать через API у провайдеров, которые работают из России и принимают российские карты — кнопки в блоке «Чем запустить» выше. Ключ выдаётся в кабинете, дальше это обычный OpenAI-совместимый эндпоинт: подходит для LangChain, Cursor, своих скриптов. Сравнение способов оплаты зарубежных AI-сервисов — в разделе Оплата AI.

Где применять

• Локальный ассистент, которому нельзя отдавать документы наружу.
• RAG по своим файлам: сравнение векторных баз и обзоры ChromaDB и Qdrant.
• Агенты и связки: каталог агентов в маркете и конструктор схем агентской системы.
• Сравнение локальных моделей перед выбором — подборка локальных LLM.

Проверяемые данные

• Репозиторий моделей: github.com/QwenLM/Qwen (Apache 2.0).
• Теги в библиотеке Ollama: ollama.com/library/qwen2.5 — снято 16.10.2026.
• Размеры и модификации: 0.5B–72B, включая code- и мультимодальные варианты.

Частые вопросы