В Instagram* появился странный и тревожный тренд: кто-то использует искусственный интеллект (ИИ), чтобы делать фейковых блогеров, которые выглядят как люди с синдромом Дауна, и продавать их обнаженные фото. Об этом написало издание 404 Media. Такие аккаунты воруют видео у настоящих людей, меняют лица с помощью ИИ и выкладывают их, чтобы привлекать подписчиков. Потом они заманивают людей на сайты, где продают откровенный контент.
Журналисты выяснили, что эти фальшивые страницы связаны между собой: у них одинаковые описания и ссылки на одни и те же платформы.
Мошенники берут видео у реальных блогеров, добавляют ИИ-лица и выдают их за новых «звезд». Это делают, чтобы заработать деньги на тех, кому интересны такие необычные образы.
Эксперты говорят, что Instagram* не успевает убирать такой контент, и это проблема. Получается, воры используют ИИ, чтобы обманывать людей и зарабатывать, а платформа не может их остановить.
*принадлежит Meta, которая признана в РФ экстремистской и запрещена