Главная страница Fireworks AI (14.10.2026).

Fireworks AI подходит команде, которая выбирает между готовым API модели и более управляемым развёртыванием под свою нагрузку. Помимо serverless-инференса платформа предлагает выделенные мощности и инструменты дообучения. Главный вопрос выбора здесь — какая схема выгоднее и предсказуемее для вашего трафика: оплата каждого обработанного токена или времени выделенных GPU.

Для кого сервис?

Кому подойдёт	Рабочий сценарий	Что проверить
Разработчикам AI-приложений	Начать с готовой модели через serverless	Поддержку tools, формата JSON и нужного размера контекста
ML-командам	Дообучить модель на собственных примерах	Качество датасета, стоимость обучения и отдельную цену инференса
Командам с устойчивой нагрузкой	Перейти к выделенному развёртыванию	Число GPU, загрузку мощностей и время простоя

Интеграция и выбор режима

Быстрый старт описывает собственный SDK, OpenAI-совместимый адрес https://api.fireworks.ai/inference/v1 и Anthropic-совместимый вариант. Идентификаторы моделей имеют формат каталога Fireworks, поэтому простого копирования имени из другого сервиса недостаточно. Отдельные примеры посвящены потоковой выдаче, вызову инструментов и структурированным ответам.

Для продукта с неравномерным спросом serverless позволяет тестировать модель без собственного обслуживания GPU. При постоянной большой очереди следует сравнить выделенный вариант на фактической длине входа и выхода. Оценка «запросов в секунду» без размера промпта мало говорит о нужных ресурсах: короткая классификация и длинный агентный запуск создают разную нагрузку.

Преимущества и ограничения

Преимущества	Ограничения и риски
Serverless и выделенные развёртывания в одной платформе	Экономика GPU зависит от использования, а не только от почасовой ставки
Есть инструменты дообучения	Обучение не заменяет оценку на отдельном тестовом наборе
Совместимые форматы снижают объём переноса клиента	Поддержка возможностей отличается между моделями
Раздельные цены входа, кэша и выхода	Priority, Fast и региональные варианты могут стоить дороже

Цены: токены, обучение и GPU

Публичные страницы serverless-прайса и общих тарифов проверены 14 октября 2026 года. Все суммы ниже — в долларах США:

GPT OSS 120B, Standard: $0,15 за миллион входных, $0,015 за миллион кэшированных входных и $0,60 за миллион выходных токенов.
Embeddings до 150M параметров: $0,008 за миллион входных токенов.
Batch-инференс: в документации указано 50% serverless-цены входа и выхода.
On-demand H100 80 GB и H200 141 GB: $8 за GPU-час; B200: $13 за GPU-час.
Managed LoRA SFT для моделей до 16B: $0,50 за миллион обучающих токенов; число эпох увеличивает обучаемый объём.

Например, 10 000 входных и 2 000 выходных токенов GPT OSS 120B без кэша дают $0,0027 по указанным Standard-ставкам. Это арифметический пример, не замер производительности. Выделенное развёртывание считается иначе: число GPU умножается на время работы. Сравнение должно учитывать периоды без запросов, нужную параллельность и регион; для регионально ограниченных развёртываний публичный прайс указывает повышающий коэффициент.

Лимиты и безопасное внедрение

Serverless-лимиты адаптируются к использованию и учитывают три показателя: весь вход, некэшированный вход и выходные токены в минуту. Возможны ответы 429 и 503. Повышенный приоритет и выделенные мощности следует выбирать по проверенной нагрузке, а не по обещанию отсутствия задержек. В этом обзоре скорость и устойчивость сервиса не измерялись.

Перед дообучением полезно сначала построить базовую оценку без него: отделить задачи, где мешает промпт, от тех, где действительно нужен специальный навык. Датасет и тестовая выборка не должны совпадать. В бюджет входят подготовка данных, обучение, проверка и последующий инференс; низкая ставка обучения сама по себе не гарантирует улучшения продукта.

Правила данных заявляют отсутствие хранения промптов и генераций для открытых моделей без явного включения пользователем. Это не следует переносить автоматически на датасеты обучения, чекпойнты и любые сторонние модели. Проверьте условия выбранного продукта, лицензию модели и регион выполнения. Российская оплата и доступность не подтверждались.

Частые вопросы

Fireworks — только посредник к чатам?

Нет. Платформа также предлагает развёртывания и обучение моделей, поэтому её выбирают как инфраструктуру продукта.

Стоимость GPU включает любое количество токенов?

GPU-время и serverless-токены — разные схемы. Реальная производительность выделенного развёртывания зависит от модели и нагрузки.

Обязательно ли дообучать модель?

Нет. Сначала проверьте готовую модель и промпт на своих задачах. Дообучение имеет смысл при измеримой нерешённой потребности.

Нехранение промптов означает отсутствие хранения датасета?

Нет. Правила инференса и активных обучающих процессов различаются; их нужно читать отдельно.

Fireworks AI