НЕЙРОСЕТИ.BIZМесто встречи с будущим
← Сервисы

Groq

Добавил Редакция

API инференса языковых и речевых моделей с OpenAI-совместимым клиентом, бесплатными лимитами и оплатой использования.
Главная страница Groq (14.10.2026).

Главная страница Groq (14.10.2026).

Groq интересен разработчикам интерактивных помощников, голосовых сценариев и инструментов обработки текста. Платформа выполняет запросы к поддерживаемым моделям и предоставляет API, а не одну универсальную нейросеть. При оценке стоит измерять время до первого полезного ответа и качество на собственных задачах: рекламная скорость генерации сама по себе не показывает, насколько быстро завершится весь рабочий процесс.

Для кого сервис?

Кому подойдётРабочий сценарийЧто проверить
Разработчикам чат-приложенийСделать потоковый ответ и вызов инструментовСовместимость параметров и длину контекста
Авторам голосовых сервисовРаспознавать аудио через WhisperЦена за час аудио, форматы и размер файла
Командам прототипированияНачать с Free и оценить переход на DeveloperОбщие лимиты организации и бюджет всех проектов

Подключение и несовместимые параметры

В руководстве по OpenAI-совместимости используется адрес https://api.groq.com/openai/v1. У совместимости есть конкретные границы: logprobs, logit_bias, top_logprobs и поле messages[].name не поддерживаются; их передача вызывает ошибку 400. Параметр n должен равняться 1. Значение temperature=0 преобразуется в небольшое положительное число. Это важно для клиентов, которые добавляют стандартные поля автоматически.

Для транскрипции и перевода аудио не поддерживаются форматы ответа VTT и SRT. Если продукт должен выдавать готовые субтитры, этот этап потребуется проверить отдельно. У Groq есть также Responses API, но наличие знакомого имени метода не освобождает от проверки функций конкретной модели. В каталоге различаются production и preview: экспериментальные варианты могут измениться или исчезнуть.

Преимущества и ограничения

ПреимуществаОграничения и риски
Есть бесплатный уровень для небольших тестовЛимиты применяются к организации, а не отдельно к каждому пользователю
Опубликованы точные различия с OpenAI APIНекоторые обычные для других клиентов поля дают ошибку
Текстовые и речевые модели доступны через одну платформуЕдиницы оплаты и ограничения файлов различаются
Есть настройки хранения данных и ограничения расходовПакетные и другие сохраняющие состояние функции имеют исключения

Тарифы и бюджет

По каталогу моделей на 14 октября 2026 года:

  • gpt-oss-20b: $0,075 за миллион входных и $0,30 за миллион выходных токенов.
  • gpt-oss-120b: $0,15 за миллион входных и $0,60 за миллион выходных токенов.
  • Whisper Large v3: $0,111 за час аудио; Whisper Large v3 Turbo: $0,04 за час.
  • Free предоставляет ограниченный объём запросов; для Developer подключается платёжный метод и оплачивается использование.
  • Для Llama 3.1 8B Instant и Llama 3.3 70B Versatile каталог сейчас предлагает Enterprise / Contact Sales: старые публичные ставки нельзя считать действующими.

Справка биллинга описывает списание по месячному циклу или при достижении промежуточного порога. В платной организации владелец может установить месячный предел расходов. Его достижение блокирует доступ API для всех ключей организации, поэтому производственный бот и экспериментальный проект лучше учитывать раздельно. Лимит расходов не заменяет контроль количества запросов.

Лимиты и конфиденциальность

Ограничения могут учитывать запросы и токены за минуту и день, а для аудио — длительность. У gpt-oss-20b и gpt-oss-120b в Free приведены 30 запросов в минуту, 1 000 в день и 8 000 токенов в минуту. Фактические значения смотрите в настройках организации. Один длинный запрос способен упереться в токенный предел раньше, чем будет достигнут предел числа обращений; при 429 учитывайте Retry-After.

Правила обработки данных говорят, что обычное содержимое inference-запросов по умолчанию не сохраняется, но есть исключения для диагностики, предотвращения злоупотреблений и функций с состоянием. Batch-файлы хранятся до 30 дней, если не удалены раньше; данные дообучения — до удаления. Настройки ZDR ограничивают функции, которым нужно хранение. Метаданные использования сохраняются отдельно. Перед отправкой рабочих записей проверьте конкретный режим, а не только общую формулировку сайта.

Частые вопросы

Можно ли использовать Free для постоянного сервиса?

Техническую пригодность определяют ваши объёмы и ограничения. Для рабочего продукта оцените запас по лимитам и порядок действий при их достижении.

Почему запрос через OpenAI SDK возвращает 400?

Проверьте неподдерживаемые поля, особенно logprobs, name внутри messages и n больше 1.

Почему новый ключ не увеличил лимит?

Ограничения общие для организации. Разделение ключей помогает учёту, но не создаёт новую квоту.

Сохраняется ли загруженное аудио?

Уточните режим обработки и Data Controls. Общее правило обычного инференса нельзя автоматически переносить на Batch и диагностические исключения.

Meta Platforms Inc. включена Минюстом России в перечень организаций, признанных экстремистскими. Деятельность компании по реализации социальных сетей Facebook и Instagram запрещена в Российской Федерации решением Тверского районного суда Москвы от 21 марта 2022 года. Источник: Минюст России.

Free с лимитами; gpt-oss-20b: $0,075/$0,30 за 1 млн токенов.

Отзывы пользователей

Пока нет оценок

Поделитесь первым опытом использования.

Чтобы оставить отзыв, войдите в аккаунт.

Следующие сервисы