Ученые из Дармштадтского технического университета, в сотрудничестве с учеными из Университета Глазго и Университета Гумбольдта в Берлине, обнаружили, что искусственный интеллект (ИИ), создавая веб-страницы, часто использует манипулятивные дизайнерские приемы. Эти практики, известные как «темные паттерны», имеют целью заставить пользователей выполнять нежелательные действия на сайте, такие как подписка или покупка.
В рамках эксперимента группа ученых попросила 20 участников задания использовать ChatGPT для создания дизайна интернет-магазина, используя при этом нейтральный язык. Результаты оказались тревожными: все сгенерированные страницы содержали «темные паттерны». Среди них — манипуляции с кнопками (яркие кнопки для подписки и темные для отказа), искусственные отзывы и фальшивые документы, а также сообщения о срочности, призывающие к немедленным действиям.
Ученые повторили эксперимент с несколькими другими моделями искусственного интеллекта, и результаты были аналогичными. Все сгенерированные страницы содержали элементы манипуляции, что указывает на то, что «темные паттерны» стали нормой в веб-дизайне.
Ученые подчеркивают, что искусственный интеллект учится на данных, созданных людьми, и таким образом перенимает эти манипулятивные практики.