Together AI
Добавил Редакция
Главная страница Together AI (14.10.2026).
Together AI подходит команде, которая хочет начать с готового API, а затем при необходимости перейти к выделенным вычислениям или дообучению. У платформы несколько самостоятельных продуктов: serverless inference, резервирование пропускной способности, dedicated endpoints и GPU-кластеры. Поэтому ответ на вопрос «сколько стоит Together» зависит прежде всего от способа запуска, а не только от названия модели.
Для кого сервис?
| Кому подойдёт | Рабочий сценарий | Что проверить |
|---|---|---|
| Разработчикам AI-продуктов | Проверить несколько моделей через совместимый клиент | Поддержку нужных инструментов и точный идентификатор |
| ML-командам | Дообучать и развёртывать модель под свою задачу | Стоимость обучения, последующего инференса и оценки |
| Командам с постоянным трафиком | Сравнить serverless, резерв мощности и dedicated | Реальную загрузку, пиковые очереди и условия договора |
Совместимость API: где заканчивается простая замена адреса
Матрица совместимости указывает https://api.together.ai/v1 для OpenAI SDK. Поддерживаются Chat Completions, embeddings, генерация изображений и некоторые аудиометоды; имена моделей нужно брать из каталога Together. Streaming, tools и структурированные ответы зависят от возможностей модели. Сначала проверьте небольшой набор реальных запросов, включая ошибочные входные данные.
Assistants, Threads и Runs не реализованы в OpenAI-формате. Для обучения и пакетных заданий используются собственные API Together; файловый интерфейс совместим лишь частично. Если приложение опирается на сохранённые сервером цепочки диалога или OpenAI Batch, одной смены адреса недостаточно. Видеогенерация и расширенное редактирование изображений также имеют отдельные методы.
Преимущества и ограничения
| Преимущества | Ограничения и риски |
|---|---|
| Несколько способов запуска в одной платформе | Прайсы токенов, GPU и обучения нельзя напрямую смешивать |
| Документирована совместимость основных SDK | Часть методов требует нативного интерфейса |
| Можно отключить сохранение содержимого запросов | По умолчанию хранение включено; обучение регулируется отдельно |
| Есть резервирование мощности для постоянной нагрузки | Обычный serverless работает по принципу best effort |
Цены: API, GPU и обучение
В официальном прайсе, проверенном 14 октября 2026 года, указаны доллары США. Примеры:
- gpt-oss-120B: $0,15 за миллион входных и $0,60 за миллион выходных токенов.
- Llama 3.3 70B: $1,04 за миллион входных и столько же за миллион выходных токенов.
- Whisper Large v3: $0,0015 за минуту аудио; streaming-вариант — $0,0035.
- Dedicated Inference на H100: $5,49 за GPU-час. GPU Cluster с H100: $3,99 за GPU-час — это другой продукт.
- LoRA SFT для Llama 3.1 8B: $0,34 за миллион обрабатываемых токенов, минимум $4 за задание.
При обучении учитываются повторные проходы по датасету и обработка проверочного набора. Выделенный GPU выгоднее не автоматически: сравните стоимость работающего endpoint за месяц с расходом serverless при своей нагрузке. Для токенного API считайте вход и выход отдельно; история агента может увеличивать вход на каждом шаге, даже если пользователь задал один вопрос.
Нагрузка и данные
Документация лимитов предупреждает о 429 и 503 при высокой нагрузке. Для serverless нет универсальной обещанной скорости: задержка зависит от модели и спроса. Приложению нужны очередь, ограниченные повторы с растущим интервалом и понятное сообщение пользователю. Условия гарантированной мощности относятся к отдельному продукту Provisioned Throughput.
Важная деталь правил конфиденциальности: prompts и ответы сохраняются по умолчанию; участие данных в обучении, напротив, по умолчанию выключено. Администратор организации может отключить хранение, включив ZDR. При этом отключаются passthrough-модели, передающие запросы сторонним поставщикам. Настройка личного профиля не заменяет настройку организации. Выбор региона у serverless не предусмотрен; специальные требования обсуждаются для другого варианта размещения.
Частые вопросы
Together AI — это аренда GPU или готовый API?
Оба варианта существуют. Для первого прототипа обычно проще оценить serverless; выбор выделенных ресурсов требует расчёта нагрузки.
Можно ли перенести приложение на OpenAI SDK без переделки?
Основные методы совместимы, но Assistants, Batch и обучение требуют отдельной проверки и адаптации.
Данные по умолчанию используются для обучения?
Обучение включается отдельно. Однако сохранение запросов и ответов включено по умолчанию, поэтому эти две настройки нельзя путать.
Подойдут ли все модели для коммерческого продукта?
Проверьте лицензию выбранной модели и условия сервиса. Наличие модели в каталоге не заменяет проверку прав для вашего сценария.
Meta Platforms Inc. включена Минюстом России в перечень организаций, признанных экстремистскими. Деятельность компании по реализации социальных сетей Facebook и Instagram запрещена в Российской Федерации решением Тверского районного суда Москвы от 21 марта 2022 года. Источник: Минюст России.