НЕЙРОСЕТИ.BIZМесто встречи с будущим
← В ленту

Anthropic открыла FlashProve: прототип проверяет, какая модель ИИ выдала ответ

Концептуальная иллюстрация криптографической проверки модели ИИ

Anthropic опубликовала исследовательский прототип FlashProve для проверки того, какая модель выдала ответ. Материал на официальном сайте датирован 2 ноября 2026 года. Система использует криптографическое доказательство, не раскрывающее веса модели.

Как устроена проверка

Поставщик сначала фиксирует обязательство использовать определённые веса, а затем создаёт доказательство для результата вычисления. Проверяющая сторона может сверить его без доступа к самим весам. Это потенциально полезно независимым оценщикам и заказчикам, которым важно исключить незаявленную подмену модели.

Опубликованы технический отчёт, код и формальные описания протокола. Репозиторий распространяется по лицензии Apache 2.0; авторы обозначают его как исследовательский артефакт без сопровождения и приёма внешних изменений.

Почему это пока не готовая защита для любого чата

Прототип ограничен контекстом до 1024 токенов и конкретным целочисленным вычислением с жадным выбором следующего токена. Быстрый исполняемый код не имеет тех же формальных гарантий, что описанный протокол. Создание доказательств также требует значительных дополнительных вычислений.

Редакционный вывод: технология проверяет происхождение результата, а не правдивость ответа. Даже доказанно нужная модель может ошибаться. Для обычного пользователя это пока исследовательское направление, а не готовая функция проверки всех ИИ-сервисов.

Источники: исследование Anthropic от 2 ноября, репозиторий FlashProve.

Обложка создана с помощью ИИ.

0 419

Обсуждение

Комментарии участников сообщества.

Для ответа войдите по электронной почте

Следующие статьи