НЕЙРОСЕТИ.BIZМесто встречи с будущим
← Сервисы

Together AI

Добавил Редакция

Платформа запуска и дообучения моделей: serverless API, выделенные endpoints и GPU-кластеры с разными схемами оплаты.
Главная страница Together AI (14.10.2026).

Главная страница Together AI (14.10.2026).

Together AI подходит команде, которая хочет начать с готового API, а затем при необходимости перейти к выделенным вычислениям или дообучению. У платформы несколько самостоятельных продуктов: serverless inference, резервирование пропускной способности, dedicated endpoints и GPU-кластеры. Поэтому ответ на вопрос «сколько стоит Together» зависит прежде всего от способа запуска, а не только от названия модели.

Для кого сервис?

Кому подойдётРабочий сценарийЧто проверить
Разработчикам AI-продуктовПроверить несколько моделей через совместимый клиентПоддержку нужных инструментов и точный идентификатор
ML-командамДообучать и развёртывать модель под свою задачуСтоимость обучения, последующего инференса и оценки
Командам с постоянным трафикомСравнить serverless, резерв мощности и dedicatedРеальную загрузку, пиковые очереди и условия договора

Совместимость API: где заканчивается простая замена адреса

Матрица совместимости указывает https://api.together.ai/v1 для OpenAI SDK. Поддерживаются Chat Completions, embeddings, генерация изображений и некоторые аудиометоды; имена моделей нужно брать из каталога Together. Streaming, tools и структурированные ответы зависят от возможностей модели. Сначала проверьте небольшой набор реальных запросов, включая ошибочные входные данные.

Assistants, Threads и Runs не реализованы в OpenAI-формате. Для обучения и пакетных заданий используются собственные API Together; файловый интерфейс совместим лишь частично. Если приложение опирается на сохранённые сервером цепочки диалога или OpenAI Batch, одной смены адреса недостаточно. Видеогенерация и расширенное редактирование изображений также имеют отдельные методы.

Преимущества и ограничения

ПреимуществаОграничения и риски
Несколько способов запуска в одной платформеПрайсы токенов, GPU и обучения нельзя напрямую смешивать
Документирована совместимость основных SDKЧасть методов требует нативного интерфейса
Можно отключить сохранение содержимого запросовПо умолчанию хранение включено; обучение регулируется отдельно
Есть резервирование мощности для постоянной нагрузкиОбычный serverless работает по принципу best effort

Цены: API, GPU и обучение

В официальном прайсе, проверенном 14 октября 2026 года, указаны доллары США. Примеры:

  • gpt-oss-120B: $0,15 за миллион входных и $0,60 за миллион выходных токенов.
  • Llama 3.3 70B: $1,04 за миллион входных и столько же за миллион выходных токенов.
  • Whisper Large v3: $0,0015 за минуту аудио; streaming-вариант — $0,0035.
  • Dedicated Inference на H100: $5,49 за GPU-час. GPU Cluster с H100: $3,99 за GPU-час — это другой продукт.
  • LoRA SFT для Llama 3.1 8B: $0,34 за миллион обрабатываемых токенов, минимум $4 за задание.

При обучении учитываются повторные проходы по датасету и обработка проверочного набора. Выделенный GPU выгоднее не автоматически: сравните стоимость работающего endpoint за месяц с расходом serverless при своей нагрузке. Для токенного API считайте вход и выход отдельно; история агента может увеличивать вход на каждом шаге, даже если пользователь задал один вопрос.

Нагрузка и данные

Документация лимитов предупреждает о 429 и 503 при высокой нагрузке. Для serverless нет универсальной обещанной скорости: задержка зависит от модели и спроса. Приложению нужны очередь, ограниченные повторы с растущим интервалом и понятное сообщение пользователю. Условия гарантированной мощности относятся к отдельному продукту Provisioned Throughput.

Важная деталь правил конфиденциальности: prompts и ответы сохраняются по умолчанию; участие данных в обучении, напротив, по умолчанию выключено. Администратор организации может отключить хранение, включив ZDR. При этом отключаются passthrough-модели, передающие запросы сторонним поставщикам. Настройка личного профиля не заменяет настройку организации. Выбор региона у serverless не предусмотрен; специальные требования обсуждаются для другого варианта размещения.

Частые вопросы

Together AI — это аренда GPU или готовый API?

Оба варианта существуют. Для первого прототипа обычно проще оценить serverless; выбор выделенных ресурсов требует расчёта нагрузки.

Можно ли перенести приложение на OpenAI SDK без переделки?

Основные методы совместимы, но Assistants, Batch и обучение требуют отдельной проверки и адаптации.

Данные по умолчанию используются для обучения?

Обучение включается отдельно. Однако сохранение запросов и ответов включено по умолчанию, поэтому эти две настройки нельзя путать.

Подойдут ли все модели для коммерческого продукта?

Проверьте лицензию выбранной модели и условия сервиса. Наличие модели в каталоге не заменяет проверку прав для вашего сценария.

Meta Platforms Inc. включена Минюстом России в перечень организаций, признанных экстремистскими. Деятельность компании по реализации социальных сетей Facebook и Instagram запрещена в Российской Федерации решением Тверского районного суда Москвы от 21 марта 2022 года. Источник: Минюст России.

По использованию; gpt-oss-120B: $0,15/$0,60 за 1 млн токенов.

Отзывы пользователей

Пока нет оценок

Поделитесь первым опытом использования.

Чтобы оставить отзыв, войдите в аккаунт.

Следующие сервисы