🦙🔧💬OPEN SOURCE

Полностью опенсорсный AI-стек

Полностью локальный стек без подписок. Ollama локально, Continue вместо Cursor Pro, Aider вместо Claude Code.

📊 Начинающий⏱ 10 мин

# 1. ПОЧЕМУ ОПЕНСОРС

# Сравнение: открытый стек vs подписки
#
# 🔒 КОНФИДЕНЦИАЛЬНОСТЬ
#   Ваш код НЕ уходит на чужие серверы
#   Все модели работают локально на вашем железе
#   NDA и compliance — без головной боли
#
# ♾️ ОТСУТСТВИЕ ЛИМИТОВ
#   Нет rate-limit'ов — отправляй хоть 1000 запросов в час
#   Нет цензуры и модерации промптов
#   Не "закончились кредиты" посреди дедлайна
#
# 🛠 КАСТОМИЗАЦИЯ
#   Fine-tune модели под свои задачи
#   Меняй системные промпты как угодно
#   Выбирай модель под задачу, а не одну на всё
#
# 💰 ЦЕНА: $0/мес
#   Cursor Pro: $20/мес × 12 = $240/год
#   GitHub Copilot: $10/мес × 12 = $120/год
#   Claude Pro: $20/мес × 12 = $240/год
#   ИТОГО платный стек: ~$600/год/разработчик
#   Опенсорс стек: $0 (только электричество ⚡)

# 2. OLLAMA — ЛОКАЛЬНЫЙ LLM

# Установка Ollama (Linux/macOS одной командой)
curl -fsSL https://ollama.com/install.sh | sh

# Windows: скачать с ollama.com/download

# Загрузка популярных моделей
ollama pull llama3.1          # Универсальная (8B) — повседневные задачи
ollama pull deepseek-r1:8b     # Chain-of-thought reasoning
ollama pull qwen2.5-coder:7b   # Специализация на коде — аналог Copilot
ollama pull nomic-embed-text    # Эмбеддинги для RAG (бесплатно!)
ollama pull llama3.2:3b         # Лёгкая модель для слабых машин

# Проверка запущенных моделей
ollama list
# NAME              ID              SIZE      MODIFIED
# llama3.1:latest   46e0c10c039e    4.9 GB    2 days ago
# qwen2.5-coder:7b  2bada8a74506    4.7 GB    5 days ago

# Запуск через терминал (для теста)
ollama run llama3.1
>>> Напиши Hello World на Python

# API эндпоинт (автоматически на localhost:11434)
curl http://localhost:11434/api/generate -d '{
  "model": "llama3.1",
  "prompt": "Почему Rust лучше C++?",
  "stream": false
}'

# 3. CONTINUE — AI В КОДЕ БЕСПЛАТНО

# 1. Установи расширение Continue в VS Code / JetBrains
#    VS Code: Extensions → "Continue" → Install
#    Или: code --install-extension Continue.continue

# 2. Конфигурация ~/.continue/config.json
{
  "models": [{
    "title": "Llama 3.1 (Ollama)",
    "provider": "ollama",
    "model": "llama3.1",
    "apiBase": "http://localhost:11434"
  }, {
    "title": "Qwen2.5 Coder (Ollama)",
    "provider": "ollama",
    "model": "qwen2.5-coder:7b",
    "apiBase": "http://localhost:11434"
  }],
  "tabAutocompleteModel": {
    "title": "Autocomplete",
    "provider": "ollama",
    "model": "qwen2.5-coder:7b",
    "apiBase": "http://localhost:11434"
  }
}

# 3. Горячие клавиши:
#    Ctrl+I — inline edit (выдели код → опиши изменение)
#    Ctrl+L — чат с моделью (выдели код → спроси)
#    Ctrl+Shift+R — быстрая правка
#    Tab — автодополнение (работает как Copilot!)

# 4. @-команды в чате:
#    @file app.py — добавить файл в контекст
#    @folder src/ — добавить папку
#    @terminal — вывод последней команды
#    @docs — документация библиотек

# 4. AIDER — CLI AI-ПРОГРАММИСТ

# Установка Aider
pip install aider-chat

# Запуск с локальной Ollama-моделью
aider --model ollama/llama3.1

# Или с DeepSeek-R1 для сложных задач
aider --model ollama/deepseek-r1:8b

# Основные команды внутри Aider:
# /add file.py      — добавить файл в контекст
# /code "задача"    — написать код по описанию
# /ask "вопрос"     — спросить без изменения кода
# /diff             — показать изменения
# /undo             — отменить последнее изменение
# /commit           — закоммитить изменения
# /run pytest       — запустить тесты

# Пример сессии:
> /add src/api.py src/models.py
> /code добавь эндпоинт POST /users с валидацией email через pydantic
# Aider прочитает файлы, напишет код, покажет diff
> y  # подтвердить изменения
> /run pytest tests/test_api.py -v
# Aider запустит тесты и покажет результат

# 5. OPEN WEBUI — ЧАТ-ИНТЕРФЕЙС

# Установка Open WebUI (Docker — самый простой способ)
docker run -d -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  --name open-webui \
  --restart always \
  ghcr.io/open-webui/open-webui:main

# Открыть браузер: http://localhost:3000

# Альтернативно: установка через pip
pip install open-webui
open-webui serve

# Фичи Open WebUI:
# 🖼 Загрузка документов (PDF, DOCX, TXT) → авто-RAG
# 🔍 Веб-поиск (подключение SearXNG / Google API)
# 🎨 Генерация изображений (Stable Diffusion / DALL-E)
# 📊 Админ-панель: пользователи, роли, статистика
# 🔌 Подключение к Ollama автоматическое (http://localhost:11434)

# RAG в Open WebUI: загрузи PDF → задавай вопросы
# Модель сама найдёт релевантные куски и ответит по ним

# 6. СРАВНЕНИЕ С ПЛАТНЫМИ АНАЛОГАМИ

# ╔══════════════════╦══════════════════╦════════════════════╗
# ║  Функция         ║  Платный стек    ║  Опенсорс стек     ║
# ╠══════════════════╬══════════════════╬════════════════════╣
# ║ AI в IDE         ║ Cursor Pro $20   ║ Continue $0        ║
# ║ Чат с AI         ║ Claude Pro $20   ║ Ollama $0          ║
# ║ Автодополнение   ║ Copilot $10      ║ Continue Tab $0    ║
# ║ CLI AI-агент     ║ Claude Code API  ║ Aider $0           ║
# ║ RAG / Документы  ║ OpenAI API       ║ ChromaDB+Ollama $0 ║
# ║ Веб-интерфейс    ║ ChatGPT $20      ║ Open WebUI $0      ║
# ║ Конфиденциально  ║ ❌ Код на сервер ║ ✅ Всё локально     ║
# ║ Лимиты           ║ ❌ Rate limits    ║ ✅ Без лимитов      ║
# ║ Кастомизация     ║ ❌ Нет           ║ ✅ Fine-tune, LoRA  ║
# ║ ИТОГО в месяц    ║ ~$50-$70         ║ $0                 ║
# ╚══════════════════╩══════════════════╩════════════════════╝

# Единственный минус опенсорсного стека:
# Нужна видеокарта с 8+ GB VRAM для моделей 7B-8B
# (RTX 3060 12GB — идеально, GTX 1660 6GB — терпимо с 3B моделями)

🔗 Полезные ссылки

📖 Ollama📖 Continue.dev📖 Aider📖 Open WebUI