Что это
Готовый шаблон RAG-приложения с пошаговым рассуждением: видно, как агент планирует поиск, какие документы достаёт и как на них строит ответ. Шаблон входит в открытую коллекцию awesome-llm-apps — 100+ агентов, навыков и RAG-приложений, лицензия Apache 2.0, 141 957 звёзд на GitHub (снято 16.10.2026).
Ценность шаблона в том, что он показывает внутреннюю механику RAG: не «магия ответа», а последовательность шагов, которую можно разобрать и заменить своими компонентами.
Как запустить
git clone https://github.com/Shubhamsaboo/awesome-llm-apps.git
cd awesome-llm-apps/rag_tutorials/agentic_rag_with_reasoning
pip install -r requirements.txt
Дальше нужен ключ к модели — он указывается в переменных окружения (файл .env). Если провайдер не принимает российские карты, ключ берут у шлюзов, которые работают из России: BotHub или GPTunnel в блоке «Чем запустить» выше.
Как устроен пайплайн
- Загрузка документов: PDF, тексты, страницы сайтов.
- Чанкинг — разбиение на фрагменты, которые помещаются в контекст.
- Эмбеддинги и векторное хранилище: поиск по смыслу, а не по словам.
- Поиск релевантных фрагментов под конкретный вопрос.
- Рассуждение и ответ: агент формулирует план поиска, показывает ход и опирается на найденное.
Что понадобится
- Ключ к LLM (OpenAI-совместимый): напрямую или через шлюз для России.
- Векторная база для больших наборов документов — сравнение векторных баз, обзоры ChromaDB, Qdrant.
- Память между сессиями, если ассистент должен помнить контекст — обзор Mem0.
- Трассировка для отладки качества ответов — гайд по Langfuse.
Где смотреть дальше
- Навыки агентов — как повторяемые сценарии упаковываются в SKILL.md.
- Каталог агентов в маркете — соседние RAG-шаблоны и MCP-агенты.
- Конструктор схем агентской системы — собрать свою связку из моделей, памяти и инструментов.
Проверяемые данные
- Репозиторий: github.com/Shubhamsaboo/awesome-llm-apps — Apache 2.0, 141 957 звёзд (снято 16.10.2026).
- Путь шаблона в репозитории: rag_tutorials/agentic_rag_with_reasoning.
- Команда установки взята со страницы этого агента в маркете Qantcore.
Частые вопросы
Обязательно ли использовать OpenAI?
Нет. Подойдёт любой OpenAI-совместимый ключ: напрямую, через шлюз для России или локальную модель, если она отдаёт совместимый API.
Можно ли обойтись без векторной базы?
На маленьком наборе документов — да, поиском по тексту. Для больших баз и десятков тысяч чанков векторное хранилище нужно: иначе поиск будет медленным и неточным.
Сколько стоит запуск?
Сами шаблоны бесплатны (Apache 2.0). Расходы — токены модели и, при большом объёме, хостинг векторной базы. Локальная модель убирает расходы на токены.
Подойдёт ли для русскоязычных документов?
Да, если модель эмбеддингов поддерживает русский: берите многоязычные эмбеддинги, иначе поиск по смыслу будет работать хуже.