Яндекс объявил вознаграждение за поиск уязвимостей в работе нейросетей YandexGPT и YandexART
Яндекс расширил программу «Охота за ошибками», добавив в неё генеративные нейросети. Исследователям предлагают до миллиона рублей за обнаружение технических уязвимостей в моделях YandexGPT, YandexART и связанной с ними инфраструктуре. Цель программы — выявить ошибки, которые могут повлиять на работу нейросетей или их взаимодействие с другими сервисами компании.
В рамках программы исследователи будут искать критические проблемы, например, те, которые раскроют внутренние настройки моделей или их служебные данные. За такие находки можно получить максимальное вознаграждение. Яндекс уточняет, что «Охота» сосредоточена исключительно на технических сбоях, а не на неточных ответах Алисы или ошибках в работе генеративных изображений.
Генеративные модели Яндекса уже используются в более чем 20 сервисах компании, включая Алису, Поиск, Директ и Yandex Cloud. Компания подчёркивает, что безопасность остаётся приоритетом на всех этапах создания технологий. Благодаря независимым проверкам через «Охоту за ошибками» Яндекс стремится ещё раз убедиться, что его продукты соответствуют высоким стандартам безопасности, обеспечивая защиту как для пользователей, так и для партнёров.