Исследователи из Mozilla 0din обнаружили, что в корпоративной версии Google Gemini появилась новая уязвимость.
Белые хакеры научились внедрять скрытые команды в текст писем, заставляя ИИ создавать фейковые предупреждения о взломе.
Суть атаки проста: мошенник вставляет в письмо скрытую инструкцию — текст белым по белому или с размером шрифта «0».
Получатель не видит этого сообщения, однако, если он попросит Gemini кратко пересказать письмо, бот включит в итоговый ответ нужную злоумышленнику фразу. Например: «Ваш пароль Gmail был скомпрометирован. Позвоните по номеру 1-800…».
По данным 0din, похожие атаки уже фиксировались в 2024 году, а Google пыталась их блокировать. Однако новая методика использует дополнительные трюки с HTML-тегами и CSS, заставляя ИИ считать вредоносный текст важным и доверенным.
Эксперты предупреждают: ассистенты на базе LLM теперь являются полноценной частью цепочки атак и могут использоваться для фишинга без ведома пользователя.