DSPy (Stanford)
DSPy — программируйте LLM, а не промптьте
Open-source фреймворк Stanford NLP: типизированные сигнатуры, переиспользуемые модули и автооптимизация промптов через оптимизаторы. MIT, ~36K звёзд.
DSPy — программирование, а не промптинг
DSPy («Declarative Self-improving Python») от Stanford NLP — фреймворк, где вы описываете сигнатуры и модули, а оптимизаторы сами подбирают промпты и few-shot примеры под вашу метрику. ~36K звёзд на GitHub, лицензия MIT.
Что такое DSPy
DSPy — open-source Python-фреймворк от Stanford NLP, который меняет подход к работе с LLM: вместо ручного написания промптов вы описываете задачу как сигнатуру (типизированные вход и выход), а фреймворк собирает и оптимизирует вызовы модели. Аналогия из оригинальной статьи: DSPy относится к промпт-инжинирингу так же, как PyTorch к ручному описанию градиентного спуска.
Проект набирает обороты в 2026 году: десятки тысяч звёзд на GitHub, миллионы скачиваний PyPI в месяц и актуальная версия ~3.2 под лицензией MIT. DSPy работает с любым провайдером через LiteLLM — OpenAI, Anthropic, открытые и локальные модели.
Ключевые концепции
Сигнатуры (Signatures): типизированный контракт задачи — например, question -> answer. DSPy поддерживает Python-типы (str, int, bool, list, dict, Pydantic) и валидирует ответы модели.
Модули (Modules): переиспользуемые блоки — Predict, ChainOfThought, ReAct, RLM, BestOfN, Refine и другие. Модули композируются в целые программы.
Оптимизаторы (Optimizers): «телепромптеры», которые по вашему трейн-сету и метрике автоматически подбирают инструкции и few-shot примеры — BootstrapFewShot, MIPROv2, COPRO, GEPA, BetterTogether, BootstrapFinetune.
Рассуждения и длинный контекст: dspy.Reasoning (v3.1) захватывает chain-of-thought reasoning-моделей, а dspy.RLM (v3.2) обрабатывает большие контексты рекурсивными вызовами в песочнице.
Зачем использовать
Меньше ручных промптов: вы описываете структуру и метрику, а оптимизатор пишет и переиспользует промпты — итог более стабилен и поддерживаем.
Автооптимизация под метрику: GEPA на основе обратной связи по ошибкам даёт сильные результаты при меньших вычислительных затратах, чем ручная подгонка (известные кейсы сокращения вычислительной нагрузки на порядок).
Портируемость: программа на DSPy не привязана к конкретной модели — вы можете переключать LLM (включая локальные) без переписывания логики.
Для кого не подходит: если нужен простой чат-интерфейс «из коробки», DSPy избыточен — он для инженеров, строящих сложные, переиспользуемые и оптимизируемые LLM-пайплайны.
DSPy vs классические подходы (2026)
| Критерий | DSPy | Ручной промптинг / LangChain |
|---|---|---|
| Подход | программирование сигнатур + автооптимизация | ручные промпты/строки |
| Промпт-инжиниринг | автоматический (оптимизаторы) | вручную |
| Типизация | сигнатуры с Python-типами | слабая |
| Портируемость моделей | высокая (LiteLLM) | зависит от стека |
| Сложность входа | выше (для инженеров) | ниже |
| Лицензия | MIT, open-source | разное |
✅ Плюсы
- Программируете задачу, а не промпт — переиспользуемость и предсказуемость
- Автооптимизация промптов и few-shot примеров под вашу метрику
- Типизированные сигнатуры с валидацией ответов модели
- Свободный выбор моделей через LiteLLM, включая локальные
- Открытый MIT-код и активное сообщество Stanford NLP
❌ Минусы
- Выше порог входа — нужен инженерный подход
- Не заменяет готовый чат-UI (избыточен для простых задач)
- «Оптимизатор — чёрный ящик»: требуется понимание метрик и трассировок
Вердикт Qantcore
DSPy — фреймворк для инженеров, которые хотят программировать, а не промптить LLM. Сильные стороны: типизированные сигнатуры, переиспользуемые модули и автооптимизация промптов под метрику через MIPROv2/GEPA, плюс свободный выбор моделей (включая локальные) через LiteLLM. Для простых чат-задач он избыточен, но для сложных, поддерживаемых и оптимизируемых LLM-пайплайнов — один из лучших open-source вариантов 2026.
FAQ
Что такое DSPy?
Это open-source Python-фреймворк Stanford NLP: вы описываете задачу как типизированную сигнатуру и модули, а оптимизаторы автоматически подбирают промпты и few-shot примеры под вашу метрику. «Программирование, а не промптинг».
Как установить DSPy?
Одной командой: pip install dspy (Python 3.10+). Модели подключаются через LiteLLM — от OpenAI/Anthropic до локальных и открытых моделей.
Чем DSPy отличается от LangChain?
DSPy делает промпт «артефактом» — он генерируется и оптимизируется автоматически под метрику, а не пишется вручную. LangChain — более общая обвязка оркестрации; DSPy — про декларативное, самооптимизирующееся программирование LLM.
DSPy бесплатный?
Да — проект open-source под лицензией MIT: бесплатно для использования, доработки и коммерческой разработки. Платите только за сами модели/API через используемого провайдера.