Обычный августовский понедельник. Я смотрю в интернете, как бывший ведущий новостей берет интервью у подростка на платформе Substack. Этот подросток — Хоакин Оливер, он погиб во время массового расстрела в школе Марджори Стоунман Дуглас в Паркленде, штат Флорида и был «оживлен» с помощью искусственного интеллекта. Его голос и особенности речи были смоделированы по голосовым и видеозаписям из телефонных мессенджеров. Картинка грубовата, речь слишком быстрая, а голос иногда переходит на цифровой визг. Интересно, сколько людей должны были согласиться с тем, что это интервью — хорошая идея, — чтобы оно вышло?
Джим Акоста, бывший ведущий CNN, который берет интервью у Хоакина, кажется, как раз один из таких людей. Он ведёт себя естественно, несмотря на то, что общение с чат-ботом выглядит очень странно. Акоста задаёт простые вопросы об интересах Оливера и о том, как он погиб. Чат-бот, созданный при полном содействии родителей Оливера для пропаганды контроля над оборотом оружия, отвечает как пресс-секретарь: «Нам нужно создать безопасное пространство для общения и налаживания связей, чтобы каждый чувствовал, что его замечают». Он предлагает банальности вроде «больше доброты и понимания».
В чате я вижу, как зрители пытаются осмыслить то, чему они стали свидетелями: «Не знаю, что чувствую по этому поводу», «Боже, это так странно», «Должно быть, это так тяжело».
Это интервью — тяжелое для восприятия, как и многое из того, что создается в эпоху искусственного интеллекта. Меня возмущает то, что Акоста превратил убитого ребенка в контент, и злит, что технологические компании предлагают свои продукты как «обезьянью лапу», способную оживлять мертвых. Особенно меня встревожили слова отца Оливера. Он сказал, что теперь у его сына начнут появляться подписчики, намекая на то, что убитые дети могут стать инфлюенсерами. В то же время я понимаю, что родители Оливера, всё ещё переживающие тяжёлую утрату, готовы на всё, лишь бы сохранить память о сыне и найти какой-то смысл в его гибели. Как я могу осуждать мать Оливера за то, что она часами разговаривает с чат-ботом и слушает от него «Я люблю тебя, мамочка»?
Интервью вызвало чувство, ставшее чрезвычайно привычным за последние три года. Это ощущение наспех задуманной и с пренебрежением выполненной гонки за будущим. Мы действительно это делаем? Кто решил, что это хорошая идея? В этом смысле интервью с убитым подростком — всего лишь продукт того, что кажется коллективным заблуждением. Я понял, что это странное сочетание шока, растерянности и двойственных чувств является определяющей эмоцией эпохи генеративного ИИ.
Во время интервью отец Оливера отметил, что семья планирует продолжить разработку бота. «Любой другой технический специалист из Кремниевой долины скажет: “Это только начало развития ИИ”, — сказал он. — “Это только начало того, что мы делаем”».
Это только начало. Возможно, вы тоже об этом слышали. «Добро пожаловать в эпоху ChatGPT». «Революция генеративного ИИ». «Новая эра для человечества», — так недавно выразился Марк Цукерберг. Это момент перед вычислительным «большим взрывом» — нам говорят, что скоро всё изменится. Всё изменится, вот увидите. Бог вполне может быть в машине. Кремниевая долина изобрела новый тип разума. Это повод для радости, нужно удвоить усилия. Вы глупец, если не используете это в работе. Пора ускориться.
А чего вы хотели? Вы плаваете в первозданном супе машинного познания. Здесь неизбежно будут проблемы роста и сопутствующий ущерб. Жить в такие интересные времена — значит спорить с МехаГитлером, читать сбивающие с толку комментарии в соцсетях под сгенерированным изображением Креветки Иисуса или влюбляться в чат-ботов, имитирующих романтических партнеров. Одно только это требует нового общественного договора, но есть еще, например, приложения для порно-мести. И вот из этого болота, как нам обещают, в конечном итоге, появится общий искусственный интеллект. Скоро у каждого болвана в кармане будет больше разведданных, чем их когда-либо существовало в мире. Продолжайте верить в лучшее.
Затаив дыхание, мы наблюдаем за развитием технологий. Венчурный инвестор Марк Андриссен цитирует в соцсетях парней, которые выдают утверждения, подобные этому: «Все, кого я знаю, считают, что у нас есть максимум несколько лет, прежде чем ценность труда полностью обесценится, а капитал будет накапливаться у владельцев по замкнутому циклу — в общем, худшая фантазия Маркса». Как можно не сойти с ума, если воспринимать эти заявления всерьёз? Действительно, похоже, что одно из многочисленных предложений генеративного ИИ — это психоз как услуга. Если вы действительно «подсели» на AGI — так называют тех, кто верит, что машинный сверхинтеллект уже на подходе, — то рациональным ответом будет что-то вроде строительства бункера, увольнения с работы и присоединения к движению. Как написал мой коллега Маттео Вонг после встречи с представителями этой группы в начале года, политика, экономика и текущие события по сути не имеют значения для истинно верующих. Трудно беспокоиться о тарифах, действиях властей или получении учёной степени, если ты веришь, что мир, каким мы его знаем, вот-вот изменится навсегда.
Эта риторика приводит к безумным последствиям. Люди уже сталкиваются с психологическими последствиями общения с чат-ботами. Подобные истории на сайте Reddit сами по себе стали отдельным видом искусства. Каждая из них намекает на то, что способность инструмента имитировать человеческое общение заставляет уязвимых пользователей думать, будто у них сложились человеческие отношения с машиной. Такие разделы, как r/MyBoyfriendIsAI, в которых люди описывают свои отношения с чат-ботами, возможно, не являются репрезентативными для большинства пользователей, но, просматривая отзывы, сложно не заметить, что всего через несколько лет после появления генеративного ИИ эти инструменты оказывают очень сильное влияние на людей.
Пока всё это происходит, молодые люди сталкиваются с явлением, которое писательница Кайла Скэнлон называет «концом предсказуемого прогресса». В общих чертах эта теория утверждает, что привычные пути к стабильному экономическому существованию больше не являются надёжными. Одна из иллюстраций — потеря рабочих мест. Пока неясно, сколько рабочих мест начального уровня будет занято ИИ, но заявления руководителей и корпораций звучат пугающе. В мае Дарио Амодей, генеральный директор Anthropic, предупредил, что ИИ может уничтожить половину всех рабочих мест начального уровня. В июне генеральный директор Salesforce Марк Бениофф предположил, что до 50% работы компании выполняется искусственным интеллектом.
Беспокойство по поводу потери рабочих мест иллюстрирует неопределённость текущего момента. Сейчас существуют конкурирующие теории о том, оказывает ли ИИ значимое влияние на занятость. Но реальное и предполагаемое влияние — это разные вещи. Недавний опрос Quinnipiac показал, что «когда речь заходит о повседневной жизни», 44% опрошенных считают, что ИИ принесёт больше вреда, чем пользы. Люди полагают, что эта технология приведёт к сокращению рабочих мест, но многие уверены в стабильности именно своего положения. Дело в том, что они просто не знают, какие выводы можно сделать об искусственном интеллекте.
Генеральный директор OpenAI Сэм Альтман продемонстрировал собственную неуверенность. В своем июньском посте он утверждал, что «мы преодолели горизонт событий» и близки к созданию цифрового сверхразума, а также что «в каком-то смысле ChatGPT уже мощнее любого человека, который когда-либо жил». Альтман использовал классические риторические приёмы сторонников ИИ, утверждая, что «2030-е годы, скорее всего, будут сильно отличаться от всех предыдущих периодов». И всё же он немного отступает от драматической риторики о неизбежной «революции», которую использовал ранее. «В самых важных аспектах 2030-е годы могут не сильно отличаться от предыдущих, — писал он. — Люди по-прежнему будут любить свои семьи, проявлять творческий подход, играть в игры и купаться в озёрах». Альтман — опытный маркетолог, и этот пост может быть просто способом показать более дружелюбное и приемлемое будущее для тех, кто немного напуган.
Но можно взглянуть на этот пост и с другой стороны: Альтман немного осторожничает, учитывая возможные ограничения в развитии технологии. Недавно компания OpenAI выпустила GPT-5, и этот продукт получил неоднозначные отзывы. Альтман обещал «интеллектуальные способности на уровне доктора философии» в любой теме. Но первые тесты GPT-5 выявили всевозможные примеры небрежных ответов на запросы, включая галлюцинации, простые арифметические ошибки и сбои в базовых рассуждениях. Некоторые опытные пользователи, которым нравились предыдущие версии программного обеспечения, были возмущены обновлением и даже разочарованы. GPT-5 выглядит как признание того, что сверхразум — это всё ещё просто концепция.
Незадолго до запуска Альтман появился в популярном подкасте комика Тео Вона. Дискуссия перешла в область научной фантастики, и в какой-то момент состоялся такой диалог:
Сэм Альтман: Я думаю, что со временем большая часть мира будет покрыта центрами обработки данных.
Тео Вон: Ты правда так думаешь?
Сэм Альтман: Но, может быть, мы отправим их в космос. Например, построим большую сферу Дайсона вокруг Солнечной системы и скажем: «Больше нет смысла хранить это на Земле».
Тео Вон: Да.
Альтман: Хотел бы я дать вам более конкретные ответы, но мы пока натыкаемся на препятствия.
Что заставляет человека, слушающего подкаст в машине по дороге в продуктовый магазин, вникать в подобные разговоры? Конечно, есть люди, которых очень воодушевляет идея покрыть Землю центрами обработки данных. Но как насчёт тех из нас, кого это не воодушевляет? Альтман и менее известные личности в сфере ИИ часто рассуждают подобным образом, делая экстремальные, но вполне обоснованные заявления о будущем. Этим они напоминают детей, играющих в стратегическую игру. Это не бизнес-планы, это мечты.
Не менее обескураживает тот факт, что эти видения и рассуждения приводят к изменениям в реальном мире. Даже если вы не верите во всю эту шумиху, вы все равно живёте в мире, экономика которого переориентирована на искусственный интеллект. Согласно недавнему отчету The Wall Street Journal, расходы крупных технологических компаний на ИТ-инфраструктуру в 2025 году «выступают в роли своего рода программы стимулирования частного сектора». «Великолепная семерка» технологических компаний за последние месяцы потратила более 100 миллиардов долларов на капитальные расходы. Обратная сторона таких консолидированных инвестиций в один технологический сектор — гигантская экономическая уязвимость, которая может привести к финансовому кризису.
В двух словах, это эпоха искусственного интеллекта. С одной стороны, это — спасение мировой экономики. Но с другой, это бомба замедленного действия, заложенная в глобальную финансовую систему. Дискуссии всегда поляризуются. Продолжайте верить в лучшее.
Трудно отрицать, что инструменты генеративного ИИ меняют мир, поскольку их внедрение радикально повлияло на экономику и цифровизацию. Социальные сети и интернет в целом заполонили некачественные продукты ИИ и синтетический текст. Spotify и YouTube заполняются песнями и видео, созданными ИИ, некоторые из которых набирают миллионы прослушиваний.
Боты повсюду, и они оказывают крайне странное и значимое влияние на цифровую жизнь. Иногда они расисты. Многие из них подхалимы. В других случаях они напоминают демонов. Сводки ИИ от Google сокращают трафик и перестраивают веб-страницы. В учебных заведениях ChatGPT убил студенческие эссе; похоже, он угрожает некоторым базовым элементам человеческого познания. Некоторые исследователи утверждают, что чат-боты унифицируют манеру общения людей. В любом случае, похоже, что они нарушили обещание интернета оставаться хранилищем информации, в котором можно ориентироваться самостоятельно. «Проведите собственное исследование» в скором времени превратится в «Получите один каноничный ответ».
Иногда это полезно: бот искусно обобщает сложный PDF-файл. По мнению большинства, это действительно полезные инструменты программирования. Дети используют их для разбора учебных пособий. Чат-боты экономят ваше время, отправляя бескровные электронные письма. Управление по санитарному надзору за качеством пищевых продуктов и медикаментов представило инструмент с генеративным искусственным интеллектом, который помогает ускорить процесс утверждения лекарств и медицинского оборудования, но этот инструмент продолжает выдумывать фальшивые исследования. Просмотр заголовков об искусственном интеллекте — это ежедневная попытка определить, какую цену общество платит за предполагаемые преимущества в производительности. Например, с помощью новых умных часов с поддержкой Google Gemini вы можете попросить бота передать жене, что опаздываете на 15 минут, вместо того, чтобы сообщить об этом самому. Но далее следует новость об исследовании, которое показало, что активные пользователи ChatGPT могут накапливать «когнитивный долг» из-за недостаточности личного общения.
В последние месяцы я чувствую себя потерянным: из-за того, что технология, которую я считаю полезной в определённых ситуациях, рассматривается как путь к большей разумности; из-за миллиардера, уверенно заявляющего, что он близок к совершению прорыва в физике, и в этом ему помогает общение с чат-ботом; из-за культуры «ешь что дают», которая, похоже, приняла эти инструменты без особого внимания к последствиям. Я слышу эти разговоры повсюду: парень, продающий продукты на фермерском рынке, вяло шутит, что ИИ не может выращивать чернику; женщина в аэропорту рассказывает подруге, что спросила у ChatGPT, какой макияж ей подойдёт. Эти разговоры ведутся людьми, которых уже много лет бомбардируют шумихой. Они не то чтобы воодушевлены или разочарованы, но почти все, кажется, смирились с тем, что в будущем им придётся иметь дело с этими инструментами. Помните: это только начало… верно?
Это язык, который нам дали разработчики и спонсоры технологий, а значит, обсуждение будущего происходит на их условиях. Это ошибка, и, возможно, именно поэтому так много людей чувствуют себя потерянными. В последнее время меня занимает другой вопрос: что, если генеративный ИИ — это не Бог в машине? Что, если он просто достаточно хорош и полезен для многих, но не является революционным? Прямо сейчас модели не думают — они предсказывают и упорядочивают языковые токены, чтобы давать правдоподобные ответы на запросы. Существует мало убедительных доказательств того, что они будут развиваться без какого-либо прорыва в области квантовых исследований. Что, если они никогда не перестанут галлюцинировать и не разовьют в себе творческую изобретательность, которая лежит в основе настоящего человеческого интеллекта?
Если модели просто достаточно хороши, это не значит, что отрасль рухнет в одночасье или что технология бесполезна (хотя и такое возможно). Технология может отлично справляться с задачей и сделать нашу систему образования неактуальной, в результате чего целое поколение будет полагаться на ответы чат-ботов вместо того, чтобы думать самостоятельно. Зачем думать, если можно верить в разумного бота, который изобретает лекарства от рака?
Это «просто достаточно хорошо» не дает мне спать по ночам. Потому что «просто достаточно хорошо», скорее всего, означает, что недостаточно людей осознают, что на самом деле создаётся — и чем жертвуется, — пока не станет слишком поздно. Что, если реальный сценарий конца света заключается в том, что мы загрязним интернет и планету, переориентируем нашу экономику и используем себя в качестве ресурса, отдадим на аутсорсинг значительную часть нашего сознания, перестроим геополитику и культуру и будем бороться за технологию, которая даже близко не соответствует своим грандиозным целям? Что, если мы будем тратить столько времени на ожидание и споры, что не сможем направить нашу энергию на решение проблем, которые существуют здесь и сейчас? Это было бы трагедией — результатом массового заблуждения. Больше всего в этом сценарии меня пугает то, что он единственный, который не кажется таким уж безумным.
Сообщение Это не бизнес-планы, это мечты: главные эмоции эпохи генеративного ИИ появились сначала на Идеономика – Умные о главном.
