Google сообщила, что впервые обнаружила хакерскую группу, которая, вероятно, применяла ИИ для поиска уязвимостей нулевого дня. Это ошибка в программе, о которой разработчики ещё не знают. У них, мол, есть «ноль» дней на её исправление до того, как хакеры начнут атаку.
По данным Google Threat Intelligence Group, злоумышленники (их название не раскрывается) планировали использовать найденную уязвимость в массовых атаках. Специалистам Google удалось предотвратить это.
Уязвимость была в коде на языке Python и позволяла обходить двухфакторную аутентификацию в популярной системе управления серверами с открытым исходным кодом. Однако для атаки хакерам всё равно нужны были обычные логин и пароль пользователя. Google помог разработчикам этой системы закрыть проблему.
Вывод об использовании ИИ компания сделала на основе структуры вредоносного кода. Например, в нём были учебные комментарии и даже выдуманная оценка критичности уязвимости (CVSS), а сам код выглядел как типичные примеры из обучающих данных для больших языковых моделей.
В Google считают, что их собственная модель Gemini не причастна к взлому.