Full-stack AI-платформа: инференс 200+ open-source моделей, файнтюнинг и тренировка на децентрализованных GPU. Разбор возможностей, цен и альтернатив.
Переход на официальный сайт продукта.
Инференс 200+ open-source моделей, файнтюнинг и тренировка на децентрализованных GPU-кластерах. Llama, Mixtral, Yi из коробки.
Together AI — full-stack платформа для работы с open-source AI-моделями, основанная в 2022 году. Ключевое отличие от конкурентов: децентрализованные GPU-кластеры вместо традиционных дата-центров. Это позволяет Together предлагать одни из самых низких цен на рынке AI-инференса.
Платформа предоставляет три ключевых продукта: Inference (200+ моделей, OpenAI-совместимый API), Fine-Tuning (LoRA/полный на своих данных), и Training (тренировка моделей с нуля на распределённых GPU).
Среди поддерживаемых моделей — флагманы open-source: Llama 3.1 (8B/70B/405B), Mixtral 8x22B, Qwen 2, Yi, DeepSeek-V3 и десятки других.
200+ open-source моделей через OpenAI-совместимый API. Замена одной строки base_url — и ваш код работает с Llama вместо GPT.
LoRA и полный файнтюнинг Llama/Mixtral на своих данных. До 70B LoRA за $8/1M токенов. Загрузка датасета — и модель ваша.
Тренировка кастомных моделей на распределённых GPU-кластерах. Для компаний, которым нужна своя LLM.
Llama 3.1 8B: $0.18/M токенов. Mixtral 8x7B: $0.60/M. Llama 3.1 405B: $3.50/M. Одни из самых низких цен на open-source инференс.
Выделенные GPU-инстансы без cold start. Гарантированная пропускная способность для production-нагрузок.
Веб-интерфейс для тестирования моделей: выбор модели, temperature, system prompt. Быстрая проверка перед интеграцией.
| Модель | Input (1M tokens) | Output (1M tokens) |
|---|---|---|
| Llama 3.1 8B | $0.18 | $0.18 |
| Llama 3.1 70B | $0.88 | $0.88 |
| Llama 3.1 405B | $3.50 | $3.50 |
| Mixtral 8x7B | $0.60 | $0.60 |
| DeepSeek-V3 | $5.00 | $5.00 |
| Dedicated Endpoint | от $1.40/час | безлимитный |
Together AI — лучший выбор для запуска open-source LLM в облаке если цена имеет значение. Цены в 2-5 раз ниже конкурентов при сопоставимом качестве. OpenAI-совместимый API + файнтюнинг делают платформу идеальной для стартапов, которые хотят контролировать модель, но не хотят управлять GPU. Рекомендуем для стартапов, ML-команд и всех, кто хочет запускать open-source LLM дёшево.
$25 бесплатных кредитов при регистрации. 200+ моделей через API.