Groq
Добавил Редакция
Главная страница Groq (14.10.2026).
Groq интересен разработчикам интерактивных помощников, голосовых сценариев и инструментов обработки текста. Платформа выполняет запросы к поддерживаемым моделям и предоставляет API, а не одну универсальную нейросеть. При оценке стоит измерять время до первого полезного ответа и качество на собственных задачах: рекламная скорость генерации сама по себе не показывает, насколько быстро завершится весь рабочий процесс.
Для кого сервис?
| Кому подойдёт | Рабочий сценарий | Что проверить |
|---|---|---|
| Разработчикам чат-приложений | Сделать потоковый ответ и вызов инструментов | Совместимость параметров и длину контекста |
| Авторам голосовых сервисов | Распознавать аудио через Whisper | Цена за час аудио, форматы и размер файла |
| Командам прототипирования | Начать с Free и оценить переход на Developer | Общие лимиты организации и бюджет всех проектов |
Подключение и несовместимые параметры
В руководстве по OpenAI-совместимости используется адрес https://api.groq.com/openai/v1. У совместимости есть конкретные границы: logprobs, logit_bias, top_logprobs и поле messages[].name не поддерживаются; их передача вызывает ошибку 400. Параметр n должен равняться 1. Значение temperature=0 преобразуется в небольшое положительное число. Это важно для клиентов, которые добавляют стандартные поля автоматически.
Для транскрипции и перевода аудио не поддерживаются форматы ответа VTT и SRT. Если продукт должен выдавать готовые субтитры, этот этап потребуется проверить отдельно. У Groq есть также Responses API, но наличие знакомого имени метода не освобождает от проверки функций конкретной модели. В каталоге различаются production и preview: экспериментальные варианты могут измениться или исчезнуть.
Преимущества и ограничения
| Преимущества | Ограничения и риски |
|---|---|
| Есть бесплатный уровень для небольших тестов | Лимиты применяются к организации, а не отдельно к каждому пользователю |
| Опубликованы точные различия с OpenAI API | Некоторые обычные для других клиентов поля дают ошибку |
| Текстовые и речевые модели доступны через одну платформу | Единицы оплаты и ограничения файлов различаются |
| Есть настройки хранения данных и ограничения расходов | Пакетные и другие сохраняющие состояние функции имеют исключения |
Тарифы и бюджет
По каталогу моделей на 14 октября 2026 года:
- gpt-oss-20b: $0,075 за миллион входных и $0,30 за миллион выходных токенов.
- gpt-oss-120b: $0,15 за миллион входных и $0,60 за миллион выходных токенов.
- Whisper Large v3: $0,111 за час аудио; Whisper Large v3 Turbo: $0,04 за час.
- Free предоставляет ограниченный объём запросов; для Developer подключается платёжный метод и оплачивается использование.
- Для Llama 3.1 8B Instant и Llama 3.3 70B Versatile каталог сейчас предлагает Enterprise / Contact Sales: старые публичные ставки нельзя считать действующими.
Справка биллинга описывает списание по месячному циклу или при достижении промежуточного порога. В платной организации владелец может установить месячный предел расходов. Его достижение блокирует доступ API для всех ключей организации, поэтому производственный бот и экспериментальный проект лучше учитывать раздельно. Лимит расходов не заменяет контроль количества запросов.
Лимиты и конфиденциальность
Ограничения могут учитывать запросы и токены за минуту и день, а для аудио — длительность. У gpt-oss-20b и gpt-oss-120b в Free приведены 30 запросов в минуту, 1 000 в день и 8 000 токенов в минуту. Фактические значения смотрите в настройках организации. Один длинный запрос способен упереться в токенный предел раньше, чем будет достигнут предел числа обращений; при 429 учитывайте Retry-After.
Правила обработки данных говорят, что обычное содержимое inference-запросов по умолчанию не сохраняется, но есть исключения для диагностики, предотвращения злоупотреблений и функций с состоянием. Batch-файлы хранятся до 30 дней, если не удалены раньше; данные дообучения — до удаления. Настройки ZDR ограничивают функции, которым нужно хранение. Метаданные использования сохраняются отдельно. Перед отправкой рабочих записей проверьте конкретный режим, а не только общую формулировку сайта.
Частые вопросы
Можно ли использовать Free для постоянного сервиса?
Техническую пригодность определяют ваши объёмы и ограничения. Для рабочего продукта оцените запас по лимитам и порядок действий при их достижении.
Почему запрос через OpenAI SDK возвращает 400?
Проверьте неподдерживаемые поля, особенно logprobs, name внутри messages и n больше 1.
Почему новый ключ не увеличил лимит?
Ограничения общие для организации. Разделение ключей помогает учёту, но не создаёт новую квоту.
Сохраняется ли загруженное аудио?
Уточните режим обработки и Data Controls. Общее правило обычного инференса нельзя автоматически переносить на Batch и диагностические исключения.
Meta Platforms Inc. включена Минюстом России в перечень организаций, признанных экстремистскими. Деятельность компании по реализации социальных сетей Facebook и Instagram запрещена в Российской Федерации решением Тверского районного суда Москвы от 21 марта 2022 года. Источник: Минюст России.