Langfuse: установка и настройка наблюдения за LLM-агентами
Как развернуть open-source платформу observability Langfuse, подключить SDK и начать трассировать вызовы LLM-агентов: трассы, сессии, дашборды стоимости и оценку качества (evals). По шагам — без лишней теории.
Open sourceLLM observabilityevals
Уровень СреднийВремя настройки 20 минутОбновлено 26.09.2026
Запросы «langfuse это», «что такое langfuse», «langfuse настройка» появляются у команд, которые перешли от «поработало — и ладно» к нормальной отладке и измерению своих LLM-приложений. Langfuse — одна из самых популярных open-source платформ AI-engineering: с её помощью смотрят, что именно делал агент внутри каждого запроса, сколько это стоит, где растёт задержка и насколько качественным вышел ответ.
35 061
Звёзд на GitHub
langfuse/langfuse, 26.09.2026
3
Блоков продукта
трассировка, промпты, оценка
бесплатно
Self-host
docker compose, свой сервер
$29
Cloud Core
в месяц
01Что такое Langfuse
Langfuse — open-source платформа для разработки и отладки AI-приложений (репозиторий github.com/langfuse/langfuse). Она открытая, самодостаточная (можно развернуть у себя) и расширяемая. Внутри один продукт объединяет три больших блока, которые в реальном пайплайне работают вместе.
Блок
Что делает
Зачем команде
Observability
Трассировка всех вызовов: ответы LLM, ретривалы, эмбеддинги, tool-вызовы и обычные API-запросы; сессии для многошаговых диалогов, граф агента, дашборды и алерты
Понять, что агент делал внутри запроса и почему он стоил столько
Prompt Management
Версии промптов, переключение версий в проде без изменения кода, тестирование в Playground
Менять промпты без релиза и откатываться к рабочей версии
Evaluation
LLM-as-a-judge, код-эвалюаторы, фидбек пользователей, датасеты и эксперименты
Измерять качество ответов, а не спорить о вкусах
Три блока — это один продукт: оценка опирается на трассы, а промпты версионируются вместе с данными экспериментов.
Почему это важно в 2026
Агент — это не один вызов модели, а цепочка: планирование, ретривал, tool-вызовы, повторные генерации. Без трассировки счёт за токены и жалобы на качество остаются необъяснимыми: непонятно, какой шаг дорогой и какой именно сломался.
02Как это работает технически
Архитектурно Langfuse построен на OpenTelemetry — это уменьшает привязку к вендору: данные можно выгружать и в другие системы. SDK есть для Python и JavaScript/TypeScript, плюс более сотни интеграций с популярными библиотеками: OpenAI SDK, LangChain, LlamaIndex и другими.
Путь одного трейса
Схема сверху вниз: инструментируется только клиентский код, дальше всё работает по открытому протоколу.
Что происходит с момента запроса
03Установка: Cloud или self-host
У Langfuse два основных пути. Langfuse Cloud — hosted-версия: регистрируетесь на langfuse.com и получаете готовый проект, минимум настройки. Self-host — разворачиваете платформу на своём сервере, что важно для команд с требованиями к приватности данных и для экономии при больших объёмах.
Критерий
Langfuse Cloud
Self-host
Стоимость старта
бесплатный Hobby-план
бесплатно, но нужен сервер
Где живут данные
на инфраструктуре Langfuse
только у вас
Обслуживание
не нужно
обновления и бэкапы — на вас
Платное расширение
Core $29, Pro $199, Enterprise $2 499 в месяц
только ваши облачные расходы
Кому подходит
быстрый старт, POC, небольшие команды
приватный код и данные, большие объёмы трасс
Выбор сводится к цене приватности: self-host бесплатен лицензионно, но требует своего сервера и обслуживания.
Цены Cloud — официальные тарифы Langfuse на дату проверки; сверяйте на langfuse.com/pricing.
Тарифы Langfuse Cloud$ в месяц, официальный прайс
В Core и Pro входит объём единиц наблюдения, дополнительные считаются отдельно; self-host лицензионно бесплатен — вы платите только за свой сервер.
Разворачиваем self-host и отправляем первую трассу
1
Клонируйте официальный репозиторий
Self-host ставится через официальный docker-репозиторий — это самый быстрый путь к рабочему стенду.
terminalcopy
git clone https://github.com/langfuse/langfuse.git
cd langfuse
2
Поднимите стек
Одна команда поднимает базу данных, API и веб-интерфейс. Точные системные требования, переменные окружения (база, ключи шифрования) и конфигурация описаны в официальной документации по self-hosting.
terminalcopy
docker compose up -d # база + API + приложение
3
Инициализируйте SDK
Для отправки трасс нужны публичный и секретный ключи проекта и адрес хоста. В Cloud ключи берутся из проекта, в self-host задаются при развёртывании.
pythoncopy
pip install langfuse
from langfuse import Langfuse
langfuse = Langfuse(
public_key="pk-lf-...", # ключ проекта
secret_key="sk-lf-...",
host="http://localhost:3000", # для self-host
)
4
Отправьте первую трассу
Единица наблюдения — трейс, он объединяет всё, что произошло за один пользовательский запрос. Внутри отмечают этапы (span) и обращения к модели (generation) с расходом токенов.
agent.pycopy
# одну операцию пользователя проводим как единый трейс
trace = langfuse.trace(name="agent-response", user_id="user-42")
# этап ретривала из базы знаний
trace.span(name="retrieve", input={"query": q}, output={"docs": 3})
# обращение к LLM
gen = trace.generation(
name="llm-reply",
model="gpt-4o-mini",
input=[{"role": "user", "content": q}],
output=answer,
usage={"input": 120, "output": 80, "unit": "TOKENS"},
)
5
Проверьте дашборд
После первого трейса в интерфейсе появляются стоимость, задержка и цепочка шагов. Дальше можно включать алерты на порог по качеству, стоимости или латентности.
terminalcopy
# откройте http://localhost:3000 (self-host) или проект в Langfuse Cloud
04Оценка качества и алерты
Мало «посмотреть» трассу — команды ещё и оценивают её. Langfuse поддерживает несколько механизмов: LLM-as-a-judge (модель оценивает ответы по заданным критериям), код-эвалюаторы, метки от пользователей (лайк/дизлайк), ручную аннотацию и свои скоринги.
score.pypython
langfuse.score(
trace_id="...", # id трейса из приложения
name="my_custom_evaluator",
value=0.5,
)
Зачем алерты
Алерты (в Slack, GitHub Actions или через Webhooks) срабатывают, когда метрика — качество, стоимость или латентность — пересекает заданный порог. Это позволяет замечать деградацию ответов ещё до жалоб пользователей.
05Langfuse на фоне других open-source решений
Langfuse — не единственная открытая платформа в этой нише. Быстрый ориентир по популярности: сравните число звёзд на GitHub у основных проектов observability и LLM-инструментации.
Звёзды на GitHub у open-source observabilityданные GitHub API, 26.09.2026
Звёзды — грубый, но публичный показатель зрелости сообщества: он показывает, сколько разработчиков реально пробовали проект. Смотрите на него вместе с частотой релизов и качеством документации.
Как выбирать
Сравнивайте не по звёздам, а по трём вещам: поддерживается ли ваш стек (OpenAI SDK, LangChain, LlamaIndex), можно ли развернуть on-premise, и есть ли нужный вам механизм оценки. Langfuse закрывает все три пункта, но для узких задач (например, только мониторинг прокси) существуют более лёгкие альтернативы.
06Плюсы и ограничения
Плюсы
Open source: self-host без лицензионных платежей
Один продукт закрывает трассировку, промпты и оценку
Построен на OpenTelemetry — нет жёсткой привязки к вендору
Более сотни интеграций: OpenAI SDK, LangChain, LlamaIndex и другие
Есть бесплатный стартовый план в Cloud для POC
Минусы
Self-host требует своего сервера и обслуживания: обновления, бэкапы базы
При больших объёмах трасс Cloud переходит в тарифы $199 и $2 499 в месяц
Платные единицы наблюдения считаются отдельно от подписки
Для осмысленных evals нужно сначала определить критерии качества — платформа их не придумает
Перед self-host
Сразу продумайте хранение данных: база и объём трасс растут быстро, а трейсы часто содержат пользовательские тексты. Настройте retention и доступы до того, как платформа понадобится продуктовой команде.
Частые вопросы
Langfuse — это бесплатно?
Langfuse — open-source платформа, её можно развернуть у себя бесплатно (self-host) — вы платите только за свой сервер. Параллельно есть hosted-версия Langfuse Cloud с бесплатным Hobby-планом, тарифами Core $29 и Pro $199 в месяц; точные условия смотрите на langfuse.com/pricing.
Что можно трассировать в Langfuse?
В трейс попадают все LLM-вызовы и сопутствующая логика: ретривалы, эмбеддинги, tool-вызовы и обычные API-запросы. Есть сессии для многошаговых диалогов, отображение агента как графа, дашборды стоимости, задержки и качества, а также алерты на пороговые значения.
Как подключить Langfuse к своему коду?
Установите SDK (pip install langfuse для Python), инициализируйте его ключами проекта и хостом, после чего отправляйте трейсы (trace), этапы (span) и обращения к модели (generation). Для OpenAI SDK, LangChain и LlamaIndex есть готовые интеграции — их описание в официальной документации.
Langfuse работает на OpenTelemetry?
Да, платформа построена на OpenTelemetry, благодаря чему данные можно выгружать и в другие инструменты и меньше зависеть от вендора.