DeepInfra: первый экран официального публичного сайта, без входа в аккаунт.

DeepInfra предоставляет API к размещённым ИИ-моделям и инфраструктуру для собственных развёртываний. Его имеет смысл рассматривать разработчику, который хочет встроить генерацию, распознавание речи или поиск по embeddings в приложение без самостоятельного обслуживания каждого сервера. Для выбора важно различать готовые модели с оплатой по запросам и выделенные GPU, где счёт зависит от времени работы.

Кому подойдёт

Кому	Практическая задача	Что учесть
Разработчикам продуктов	Встроить модель в приложение через API	Проверить формат, функции и ограничения конкретной модели
Командам поиска по документам	Использовать embeddings и reranking	Оценивать качество на своём языке и корпусе
ML-инженерам	Разместить собственную модель на GPU	Считать загрузку и оплачиваемое время инстанса

Как устроена работа

Каталог разделён по задачам, а модельные страницы показывают индивидуальные параметры и ставки. У текстовых моделей расходы обычно разделены на вход и выход. Для картинок встречается фиксированная цена либо формула с разрешением и количеством шагов, для аудио — своя единица расчёта. Одна общая цифра «от» плохо описывает такую платформу.

Например, проверенная карточка openai/gpt-oss-120b указывает API-модель с поддержкой структурированного вывода и функций. Это характеристики конкретного размещения, которые нужно проверять вместе с ограничениями интерфейса. Наличие модели с открытыми весами не означает, что все модели каталога доступны на одинаковых условиях или имеют одну лицензию.

Платформа отдельно предлагает собственные модели на выделенных ресурсах. Такой путь полезен при специальных весах или требованиях к развёртыванию, но не обязательно дешевле общего API при редких запросах. В пилоте проверяйте пиковую одновременность, время ожидания, качество и цену успешной задачи. Длинные ответы и повторные обращения могут влиять на бюджет сильнее цены входных токенов.

Преимущества и ограничения

Преимущества	Ограничения
Разные классы моделей через одну платформу	Цены и единицы расчёта неоднородны
Есть API и выделенные ресурсы	Выделенный GPU оплачивается по времени, а не только по полезным ответам
Прозрачные ставки на модельных страницах	Режим обслуживания может менять цену и доступность

Тарифы и реальная стоимость

Пример gpt-oss-120b: $0,037 за миллион входных и $0,17 за миллион выходных токенов.
Пример embeddings bge-m3: $0,01 за миллион входных токенов.
Custom LLM: A100 80 GB — $0,89 за GPU-час; H100 80 GB — $2,20 за GPU-час.
Service tiers: Standard — базовая ставка; Priority — 1,5×; Flex — 0,8× при поддержке конкретной моделью.

Цены приведены для указанных моделей и режимов, а не как универсальный прайс. Flex описан для менее срочной и асинхронной работы с возможными задержками и временной недоступностью. Для Custom LLM указаны поминутный учёт и недельное выставление счёта. Перед запуском платформа требует способ оплаты либо предоплату; на бесплатный безлимит рассчитывать нельзя.

Вопросы перед выбором

Почему самая дешёвая модель не всегда выгоднее?

Если для нужной точности приходится повторять запрос, расширять контекст или вручную исправлять ответ, итоговая задача дорожает. Сравните долю успешных результатов при одинаковом наборе примеров и приемлемой задержке.

Можно ли переключить готовый клиент на DeepInfra?

Проверьте поддерживаемый API и его методы в документации. Даже при совместимом формате нужно испытать streaming, вызовы инструментов, JSON и параметры reasoning, если они используются. Одна успешная текстовая реплика не проверяет всю интеграцию.

Когда выбирать Flex?

Для задач, которым допустимо завершиться позже и которые корректно переживают временный отказ. Для интерактивной поддержки пользователя задержка может быть важнее скидки. Не применяйте режим без проверки поддержки выбранной моделью.

Что выгоднее: выделенный GPU или общий API?

Выделенный ресурс стоит считать по реальной загрузке и времени готовности. Общий API удобнее при переменном или небольшом трафике. Точка окупаемости зависит от модели, размеров запросов и требований к задержке, поэтому её нужно измерять.

Вывод: DeepInfra подходит для программной интеграции разнообразных моделей. Сильный аргумент в его пользу — удобный путь к работающему API; окончательное решение зависит от качества конкретного размещения и полной цены нагрузки.

Источники

Проверено 14.10.2026. Документация; Тарифы; Пример модельной карточки. Платёж и качество генераций в рамках обзора не тестировались.

DeepInfra