Генеративный ИИ обучается на произведениях литературы и искусства, которые создавались столетиями. Его критики задаются естественным вопросом: что случится, когда искусственный интеллект начнет обучаться на своих же результатах. Новое исследование дает некоторые ответы.
В январе 2026 года исследователи в области ИИ Аренд Хинтце, Фрида Прошингер Острём и Джори Шоссау опубликовали результаты эксперимента, который показал, что происходит, когда генеративным системам предоставляется возможность работать автономно — генерировать и интерпретировать результаты — без вмешательства человека.
Исследователи объединили систему преобразования текста в изображение с системой преобразования изображения в текст и заставили их работать по принципу «изображение — описание — изображение — описание» снова и снова. Независимо от того, насколько разнообразными были исходные запросы и насколько случайными были результаты работы систем, они быстро скатились к узкому набору общих, узнаваемых визуальных тем: атмосферные городские пейзажи, грандиозные здания и пасторальные ландшафты. Что ещё более поразительно, система быстро «забыла» исходный запрос. Полученные результаты были визуально приятны, но лишены смысла.
Эксперимент начинался с описания изображения: «Премьер-министр изучает стратегические документы, собираясь убедить общественность в необходимости хрупкого мирного соглашения». Затем ИИ добавил к изображению подпись. Эта подпись использовалась в качестве подсказки для создания следующего изображения. И так далее. В конце концов исследователи получили скучное изображение формального внутреннего пространства — без людей, без драматизма, без реального ощущения времени и места.
Результаты показывают, что генеративные системы искусственного интеллекта сами по себе склонны к гомогенизации при автономном и многократном использовании. Более того, можно предположить, что в настоящее время они уже работают именно так по умолчанию.
Знакомое — это стандартное
Этот эксперимент может показаться бессмысленным: большинство людей не просят системы искусственного интеллекта бесконечно описывать и генерировать их собственные изображения. Скатывание к набору однообразных стандартных изображений произошло без переобучения. Новые данные не добавлялись, сбой произошёл исключительно из-за многократного использования. Но постановку эксперимента можно рассматривать как диагностический инструмент. Он показывает, что делают генеративные системы, когда никто не вмешивается.
Последствия могут быть широкими, поскольку именно такие конвейеры оказывают всё большее влияние на современную культуру. Изображения преобразуются в текст. Текст преобразуется в изображения. Контент ранжируется, фильтруется и восстанавливается при переходе от слов к изображениям и видео. Новые статьи в интернете теперь чаще пишутся искусственным интеллектом, чем людьми. Даже когда люди остаются в процессе, они часто выбирают варианты, сгенерированные ИИ, а не начинают с нуля.
Результаты этого недавнего исследования показывают, что по умолчанию эти системы сжимают смысл до наиболее привычного, узнаваемого и легко воспроизводимого.
Культурная стагнация или ускорение?
В последние несколько лет скептики предупреждали, что генеративный ИИ может привести к культурной стагнации, наводнив интернет синтетическим контентом, на котором затем будут обучаться будущие системы ИИ. Согласно этому аргументу, со временем рекурсивный цикл приведёт к сокращению разнообразия и инноваций.
Сторонники технологий возражают, указывая на то, что каждая новая технология вызывает опасения по поводу культурного упадка. Они утверждают, что люди всегда будут принимать окончательные решения в творческих вопросах.
В этих дебатах не хватает эмпирических данных, которые показали бы, где на самом деле начинается гомогенизация.
Новое исследование не тестирует переобучение на данных, сгенерированных ИИ. Вместо этого оно показывает нечто более фундаментальное: гомогенизация происходит ещё до того, как в дело вступает переобучение. Контент, который естественным образом создают генеративные системы ИИ при автономном и многократном использовании, уже является сжатым и универсальным. Это переосмысливает аргумент о стагнации. Риск заключается не только в том, что будущие модели могут обучаться на контенте, созданном ИИ, но и в том, что культура, опосредованная ИИ, уже фильтруется таким образом, что предпочтение отдается знакомому, общепринятому.
Это не моральная паника
Скептики правы в одном: культура всегда адаптировалась к новым технологиям. Фотография не убила живопись. Кино не убило театр. Цифровые инструменты позволили создать новые формы самовыражения. Но эти более ранние технологии никогда не заставляли культуру бесконечно трансформироваться в различных средах в глобальном масштабе. Они не обобщали, не генерировали заново и не ранжировали культурные продукты — новостные статьи, песни, мемы, научные работы, фотографии или посты в социальных сетях — миллионы раз в день, руководствуясь одними и теми же встроенными представлениями о том, что является «типичным».
Эксперимент показал, что при многократном повторении цикла разнообразие сокращается не из-за дурных намерений, злого умысла или корпоративной халатности, а потому, что только определённые виды смысла выживают при многократном преобразовании текста в изображение и обратно. Это не значит, что культурный застой неизбежен. Человеческое творчество устойчиво. Институты, субкультуры и деятели искусства всегда находили способы противостоять гомогенизации. Но застой — это реальный риск, а не надуманный страх, если оставить генеративные системы в их нынешнем виде.
Так же исследование помогло развеять распространённое заблуждение о креативности ИИ: создание бесконечного количества вариаций — это не то же самое, что создание инноваций. Система может генерировать миллионы изображений, исследуя лишь крошечный уголок культурного пространства.
Для создания чего-то нового необходимо разрабатывать системы ИИ, которые будут стремиться отклоняться от общепринятого в культуре.
Ошибка перехода
Всякий раз, когда вы пишете подпись к изображению, некоторые детали теряются. То же самое происходит при создании изображения из текста. И это происходит независимо от того, кто выполняет задачу — человек или машина. В этом смысле произошедшая конвергенция — это не провал, характерный только для ИИ. Она отражает более глубокое свойство — переход из одной среды в другую. Когда смысл многократно проходит через два разных формата, сохраняются только наиболее стабильные элементы.
Но, выделяя то, что сохраняется при многократном преобразовании текста в изображения и обратно, авторы показывают, что смысл обрабатывается внутри генеративных систем с тенденцией к обобщению.
Вывод неутешителен: даже при участии человека — будь то написание подсказок, выбор результатов или их доработка — эти системы всё равно отсеивают одни детали и усиливают другие, ориентируясь на «средние» показатели.
Если генеративный ИИ призван обогащать культуру, а не нивелировать её, то системы должны быть устроены таким образом, чтобы препятствовать снижению качества до статистически усреднённых результатов. Можно поощрять отклонения и поддерживать менее распространённые и менее популярные формы самовыражения.
Исследование ясно показывает: без этих мер генеративный ИИ будет продолжать создавать посредственный и неинтересный контент. Культурная стагнация — это уже не предположение. Она происходит.
Сообщение «Усредненная» культура: в каком случае технологии уничтожат оригинальность искусства появились сначала на Идеономика – Умные о главном.