Пошаговая установка десктопного клиента для локальных LLM: от загрузки установщика до первого ответа модели и локального API на порту 1234.
LM Studio — бесплатное десктопное приложение, которое скачивает GGUF-модели и запускает их на вашем компьютере. Ниже — порядок действий от загрузки установщика до работающего локального API: без облака, аккаунта и API-ключей.
Локальная модель решает две задачи: не отправляет ваши данные в облако и не требует оплаты за токены. LM Studio закрывает обе — это оболочка, которая скачивает веса, запускает их на CPU или GPU и даёт чат-интерфейс.
Второй сценарий — локальный API: приложение поднимает OpenAI-совместимый сервер, к которому подключаются Cline, AnythingLLM, собственные скрипты и агенты. Именно поэтому LM Studio часто стоит первым шагом в стеке локальных агентов.
Приложение работает на Windows, macOS и Linux. Требования ниже — из официальной документации; фактическая скорость зависит от модели и квантования.
| Компонент | Минимум | Комфортно |
|---|---|---|
| ОС | Windows 10+, macOS 13+, Ubuntu 20.04+ | последние версии |
| Процессор | x64 с AVX2 | Apple Silicon, Ryzen 5000+, Core 12-го поколения |
| Память | 8 ГБ | 16–32 ГБ |
| Видеокарта | не требуется | NVIDIA 8+ ГБ VRAM, Apple Silicon, AMD ROCm |
| Диск | 10 ГБ свободно | 50+ ГБ под несколько моделей |
Без AVX2 приложение не запустится — это ограничение самого рантайма, а не рекомендация. Проверить поддержку можно утилитой CPU-Z или командой grep avx2 /proc/cpuinfo в Linux.
chmod +x LM-Studio-*.AppImage ./LM-Studio-*.AppImage
curl http://127.0.0.1:1234/v1/models
Размер модели определяет память и скорость. Ориентир простой: 4B в Q4_K_M требует около 3 ГБ, 7–8B — 5–6 ГБ, 13–14B — 9–10 ГБ. Модель должна помещаться в память целиком, иначе часть слоёв уйдёт на CPU и скорость упадёт в разы.
Начните с 7–8B: этого хватает для проверки сценария, а качество уже позволяет работать с кодом и текстом. Если памяти мало — берите 4B, но не ждите от неё сложных рассуждений.
| Симптом | Причина | Решение |
|---|---|---|
| Приложение не запускается | Нет AVX2 или старая ОС | Проверьте процессор и версию системы |
| Модель грузится минутами | Веса на HDD или мало RAM | Перенесите папку моделей на SSD |
| Ответы очень медленные | Модель не влезла в VRAM | Уменьшите размер или квантование |
| API не отвечает | Сервер не запущен | Developer → Start Server, порт 1234 |