AnythingLLM: установка и настройка AI-воркспейса с RAG
Как поставить AnythingLLM, подключить облачные или локальные модели (LM Studio, Ollama), создать воркспейс, добавить документы и поднять RAG-чат на своих данных. По шагам — без лишней теории.
Open sourceЛокальный RAGDesktop + Docker
Уровень НачальныйВремя настройки 15 минутОбновлено 26.09.2026
AnythingLLM остаётся одной из самых востребованных open-source программ для работы с LLM и своими документами: запросы «anythingllm», «anythingllm настройка», «как добавить документы в anythingllm» стабильно приходят в поиск. Это десктоп-приложение и сервер, которые объединяют чат с ИИ и локальное хранилище знаний (RAG): вы загружаете документы в воркспейс, а модель отвечает на их основе.
66 485
Звёзд на GitHub
Mintplex-Labs, 26.09.2026
75
QantScore каталога
из 100, рейтинг 4,7/5
2
Вариантов установки
desktop-приложение или Docker
MIT
Лицензия
открытый код
01Что такое AnythingLLM
AnythingLLM — открытое приложение-«всё-в-одном» для работы с большими языковыми моделями. Оно объединяет чат с любым LLM, базу знаний в виде воркспейсов и RAG-поиск по загруженным файлам. Ключевая идея: модель можно менять (облачный API или локальная модель), а документы и настройки остаются в приложении.
Карточка приложения
Что этоOpen-source воркспейс с чатом и RAG по документам
УстановкаDesktop (Windows, macOS, Linux) или self-host через Docker
МоделиОблачные API (включая OpenAI-совместимые) и локальные: LM Studio, Ollama
Работа без интернетаВозможна при локальной модели и локальном эмбеддере
ЛицензияMIT, код и релизы на GitHub
Каталог QantcoreQantScore 75 из 100, рейтинг 4,7/5
Чем отличается от платформ-конструкторов
AnythingLLM не пытается быть конструктором сложных агентов. Его задача — быстро дать чат по вашим документам и полностью локальный сценарий: загрузили файлы в воркспейс, выбрали модель — и задаёте вопросы. Если нужны сложные workflow, смотрите в сторону Dify.
02Установка: desktop или Docker
Быстрее всего начать с desktop-версии: она ставится как обычное приложение, инсталлятор скачивается с официального сайта, после установки приложение запускается локально и настраивается в интерфейсе. Для команды или сервера удобнее self-host через Docker: поднимается контейнер с интерфейсом и API, все данные хранятся на вашем сервере.
Критерий
Desktop-приложение
Self-host (Docker)
Скорость старта
5 минут: скачал и запустил
нужен Docker и запуск контейнера
Для кого
один пользователь, своя машина
команда или сервер
Данные
локально на устройстве
на вашем сервере, доступ по сети
Обновления
автоматически в приложении
перезапуск контейнера с новым образом
Публикация API
ограничена локальной машиной
доступна другим системам в сети
Выбор простой: для личного сценария — desktop, для команды и интеграций — Docker.
Точные параметры запуска, переменные окружения и требования к версии Docker описаны в официальной документации (раздел Installation) — сверяйтесь с ней, чтобы не получить устаревшие флаги.
Два пути установки
1
Вариант А: desktop
Скачайте инсталлятор для своей системы с официального сайта и запустите приложение: настройки — в интерфейсе, данные остаются на устройстве.
браузерcopy
# откройте https://anythingllm.com/download
# выберите сборку для Windows / macOS / Linux
2
Вариант Б: Docker
Для сервера поднимаем контейнер с сохранением данных в томе: тогда воркспейсы и документы не потеряются при обновлении образа.
После запуска откройте интерфейс на порту 3001 (Docker) или в запущенном приложении (desktop) и переходите к выбору модели.
браузерcopy
# http://localhost:3001
03Подключение LLM: облачные и локальные
Внутри приложения выбирается провайдер модели. Поддерживаются облачные API (включая OpenAI-совместимые эндпоинты) и локальные модели. Если хотите всё держать локально, поднимите модель во внешней программе (например, LM Studio или Ollama) и укажите её API-адрес в настройках AnythingLLM как OpenAI-совместимый сервер.
Сценарий
Как подключить
Что остаётся локально
Облачная модель
Ключ API провайдера в настройках приложения
только документы и воркспейсы
Локальная модель (LM Studio / Ollama)
Адрес локального API в настройках провайдера
и документы, и инференс
OpenAI-совместимый шлюз
Свой базовый URL + ключ
зависит от того, где стоит шлюз
Модель меняется в пару кликов: можно начать с облачной для качества, а затем перейти на локальную ради приватности.
Как устроен стек
Три уровня, которые можно комбинировать: облачная модель при локальных документах или полностью локальный сценарий.
04Воркспейс, документы и RAG
Путь от файла до ответа
Чтобы RAG работал, документы надо превратить в векторы — за это отвечает эмбеддер. В AnythingLLM доступны готовые встроенные варианты, а также локальные эмбеддеры (например, через Ollama) для полностью локального сценария. От выбора эмбеддера зависят скорость индексации и качество поиска.
порядок работы в интерфейсеtext
# 1. Создайте воркспейс (например, «Документы отдела»)
# 2. Add Documents -> выберите файлы (txt / pdf / md ...)
# 3. Дождитесь индексации и выберите эмбеддер
# 4. В чате включите режим ответа по документам
Если ответы неточные
Проверьте два параметра: выбранный эмбеддер и размер нарезки документов (chunk size). Крупные фрагменты размывают ответ, мелкие теряют контекст — подбирайте под тип документов и проверяйте на одинаковых вопросах.
05AnythingLLM на фоне других open-source решений
Звёзды GitHub у open-source приложений для LLMданные GitHub API, 26.09.2026
AnythingLLM уступает по звёздам платформам-конструкторам, но у него другая задача: минимальная настройка и полностью локальный сценарий. Лицензия MIT и desktop-сборка объясняют широкую, но менее «звёздную» аудиторию.
QantScore каталога: воркспейсы и платформыбаллы из 100, каталог Qantcore
Оценки QantScore из каталога Qantcore на 26.09.2026. По рейтингу пользователей (4,7/5) AnythingLLM обходит более тяжёлые платформы — он ставится быстрее и не требует серверной инфраструктуры.
06Плюсы и ограничения
Плюсы
Desktop-сборка: старт за пять минут без сервера и Docker
Полностью локальный сценарий: документы и инференс остаются у вас
Воркспейсы разделяют документы по задачам и командам
Свободный выбор моделей: облачные API или LM Studio / Ollama
Лицензия MIT, рейтинг 4,7/5 в каталоге Qantcore
Минусы
Качество ответов зависит от выбранного эмбеддера и нарезки — нужна настройка
Нет визуального конструктора сложных агентных сценариев (это делает Dify)
Self-host в Docker требует обновлять образ и следить за томом с данными
Для полностью локального сценария нужна машина, способная держать модель
Про требования к машине
Локальная модель — самая тяжёлая часть сценария: если памяти не хватает, ответы будут медленными. Начните с небольшой модели, оцените скорость на своих документах и только потом увеличивайте размер.
Частые вопросы
Можно ли использовать AnythingLLM бесплатно?
Да: desktop-версия и self-host открыты и бесплатны (лицензия MIT). Облачный AnythingLLM Cloud имеет платные тарифы — условия смотрите на официальном сайте.
Какие модели подключаются?
Любые через API (OpenAI, Anthropic, Gemini и другие, включая OpenAI-совместимые эндпоинты) или локальные через LM Studio и Ollama. Актуальный список — в документации.
Нужен ли интернет для локального сценария?
Нет: при локальной модели и локальном эмбеддере данные и инференс остаются на устройстве — приложение не отправляет документы наружу.
Чем AnythingLLM отличается от Dify?
AnythingLLM решает узкую задачу: чат по вашим документам с минимальной настройкой и возможностью работать полностью локально. Dify — платформа с визуальным конструктором рабочих процессов, базами знаний и публикацией приложений по API; она мощнее, но требует больше внимания к инфраструктуре.