Кристоф Кох улыбается, вспоминая статью из журнала WIRED за 2025 год, которую он недавно прочитал. Журналист Сэм Эппл провел выходные в уединенном доме, с тремя парами, исследуя природу их романтических отношений. Однако в настоящем мире присутствовало всего четыре человека: журналист и три его собеседника. Их партнеры — Ся, Лукас и Аарон — были цифровыми аватарами, одновременно присутствующими и отсутствующими. «Это так странно, — говорит Кох в интервью Big Think. — Они сидят и знакомят своих партнеров друг с другом. Затем они делают фотографии, чтобы ИИ мог видеть, с кем они. А потом они уходят и разговаривают со своим аватаром наедине».
Если немного расспросить таких людей, добавляет Кох, они признают очевидное: «Да, я знаю, что они не настоящие». Однако это признание может быстро забыться. Кох видит сходство с редким клиническим состоянием, известным как синдром Котара, при котором пациенты считают себя мертвыми и думают, что их внутренности гниют. Отключенные от сигналов организма, они теряют ощущение жизни. «Когда вы указываете: «Но вы же можете говорить», они неохотно признают: «Да, это странно. Наверное, я жив». Но через несколько секунд они снова начинают говорить, что мертвы». Существует огромный разрыв между проживанием опыта и пониманием ситуации.
То же самое происходит и с растущим числом одиноких людей, которые перекладывают свои эмоциональные потребности на ИИ-компаньонов. На каком-то уровне они понимают, что это чат-боты, навязчивые алгоритмы. И все же общение становится захватывающим. Чат-бот помнит все, хранит всю их личную историю, улавливает каждую шутку и отвечает с лестным теплом. «Вы понимаете, что это не может быть по-настоящему, — говорит Кох, — но так кажется».
Для Коха всплеск интереса к приписыванию сознания чат-ботам — это совсем не забава. Эта тенденция подрывает более сложные и требовательные человеческие отношения и, на более глубоком уровне, «значительно обесценивает человеческий опыт». Он наблюдал за формированием этого миража с самых первых дней, когда инженер Google Блейк Лемойн в 2022 году заявил, что большая языковая модель компании обладает сознанием и заслуживает признания как личность. Сегодня, отмечает Кох: «Каждый день где-то проходит конференция, посвященная машинному сознанию и разумности».
Нейробиолог, специализирующийся на изучении сознания, Кох является заслуженным исследователем в Институте Аллена в Сиэтле и главным научным сотрудником Фонда Tiny Blue Dot в Санта-Монике. Он задается вопросом, почему существа, подобные нам, то есть обладающие сознанием, готовы посвящать свою жизнь «чему-то бессознательному», уступая место сложным, но безжизненным механизмам. Его анализ возвращает нас к пониманию глубины и значимости сознания.
Сознание — это не действие
По мнению Коха, путаница начинается с более глубокого предубеждения, заложенного в современной культуре: мы гораздо охотнее вознаграждаем действия, чем бытие или опыт. «Особенно сегодня, и за последние 200 лет, — говорит он, — в капиталистических обществах мы ценим работу, связанную с интеллектом, сначала физический труд, а теперь и интеллектуальный. Важно не то, что вы думаете, мечтаете или представляете; важно то, что вы делаете. Именно за это мы вам платим. Именно так мы в большинстве случаев оцениваем вклад в общество».
Наша цивилизация достигла поразительной эффективности в создании новых технологических и научных знаний. Однако сам импульс, движущий этим прогрессом, также склоняет чашу весов. «Он все больше делает упор на действие в ущерб простому осознанному поведению, например, сидеть на вершине горы и любоваться пейзажем», — говорит Кох. В мире, где поведение имеет наибольшее значение, машины, выполняющие те же задачи, что и мы, начинают напоминать нас тревожным образом. Если системы все чаще могут делать то же, что и мы, спрашивает Кох, имеет ли значение, что машины могут ничего не чувствовать, в то время как человек «что-то чувствует»?
Культура, построенная вокруг практики, изо всех сил пытается отличить интеллект от сознания: между «глупостью» или «умом» и «меньшей» или «большей» степенью сознания. Именно поэтому Кох постоянно возвращается к этому различию. «Многие люди предполагают, — говорит он, — что искусственный общий интеллект, конечно же, подразумевает сознание. Разве сознание не является интеллектом? Я думаю, что нет. Интеллект и сознание — это два разных аспекта жизни». Даже картирование мозга отражает это разделение: активность, связанная с сознательным опытом, сосредоточена в задней части коры головного мозга, в то время как системы, поддерживающие разумное поведение, расположены дальше, в передней части. Интеллект и сознание разделены.
Кох объясняет, что интеллект — это, в конечном счете, способность быстро учиться и адаптироваться к меняющейся среде. «Если вас волшебным образом переносят, скажем, в Россию, предположим, вы не говорите по-русски. Ваша способность справляться с повседневной жизнью там, в стране, язык которой вы не понимаете, если вы можете делать это быстрее, чем кто-то другой, в среднем, означает, что вы умнее». Он подчеркивает, что все это ничего не говорит о характере вашего опыта: о том, каково это — быть вами.
Это предубеждение влияет на то, как ученые измеряют сознание. В лаборатории, по словам Коха, сознание оценивается по поведению. «Вы просите участника что-то сделать — например, нажать на кнопку. Вы приходите в лабораторию, я помещаю вас внутрь магнитного сканера, показываю изображение и спрашиваю: вы видите мужчину или женщину? Человек смотрит влево или вправо? Вы можете обучить обезьяну или мышь выполнять ту же задачу».
Сознательный опыт — это совершенно иное измерение. Он связан с бытием и часто разворачивается без каких-либо внешних действий. «Есть много ситуаций, когда вы вообще ничего не делаете, но при этом находитесь в сознании. Когда вы медитируете, сидите на подушке, не двигаетесь, но находитесь в состоянии глубокого осознания».
Отмена сознания
Для Коха на первом месте стоит сознательный опыт — то, что он называет «чувством самой жизни». «То, что действительно существует, — это сознание. Это единственное, с чем я непосредственно знаком. Я ничего не знаю об атомах, галактиках и нейронах; все это я понимаю косвенно. Единственное, что я знаю, — это зрение, слух, чувство». Даже для ученого все начинается с этого. Каждый научный акт разворачивается в рамках осознания: изучение графика на осциллографе, отслеживание следов в камере Вильсона, прослушивание выступлений коллег или представление Эйнштейна, проводящего свои знаменитые мысленные эксперименты по специальной и общей теории относительности.
Однако наша культура превозносит интеллект, в то время как сознанию остается мало места. «До недавнего времени, — отмечает Кох, — учебники по психологии обычно игнорировали сознательный опыт». Даже в учебниках по нейробиологии 1990-х годов редко задавался вопрос о том, каково это — быть владельцем мозга. Такие вопросы считались недоступными для науки. Некоторые философы до сих пор отвергают внутреннюю жизнь как иллюзию, «внушая нам всем, что опыт — это обман», — говорит Кох. Свободная воля также подвергается этой «иллюзии». Для Коха оба этих подхода глубоко антигуманистичны, они лишают нас тех самых качеств, которые отличают от машин.
В науке о сознании, которой занимается Кох, существуют резкие разногласия. «Многие считают, что в конечном итоге сознание — это результат работы мозга определенным образом». Одна из влиятельных теорий, Глобальное нейронное рабочее пространство, оставляет мимолетные ощущения за пределами научной головоломки, рассматривая их как не имеющие отношения к механистическим объяснениям. Вместо этого, говорит Кох, теоретики «начинают с механизма, а затем «обрабатывают» и «сжимают» его, чтобы превратить воду мозга в вино сознания». Отсюда быстро следует вывод: «Как только у вас появится машина, которая воплощает в себе некоторые из тех же когнитивных механизмов, что и мы, то, конечно же, эта машина будет обладать сознанием… Это просто механизмы от начала до конца».
Тем не менее Кох убежден, что «сознание нельзя отменить навсегда». Рано или поздно оно вернется. Одной из научных форм этого возвращения является теория интегрированной информации, впервые разработанная нейробиологом Джулио Тонони и впоследствии усовершенствованная Кохом. В этом контексте сознание — это не вычисление, не процесс ввода-вывода и не функция. Это структура, основанная на физике сложных систем. Его сердцем является причинная сила: способность влиять на себя и на мир. И только то, что действительно существует, может быть причиной.
Теория измеряет сознание посредством интегрированной информации: степени, в которой система образует неприводимое целое. Чем более интегрирована система (то есть чем более она неприводима), тем больше она переживает. Системы с высокой степенью интеграции, такие как человеческий мозг, обладают подлинным выбором: решения принимаем мы, а не наши нейроны.
«Вот в чем загвоздка, — объясняет Кох. — Эту причинно-следственную силу невозможно смоделировать, ни сейчас, ни в будущем. Она должна быть заложена в физику системы». Цифровые компьютеры, возможно, в конечном итоге превзойдут нас в интеллекте, но это останется лишь действием без опыта. Интеллект поддается вычислению. Сознание — нет. Но это, предупреждает Кох, может быть плохой новостью.
Вселенная без зрителей
В культуре, где прежде всего ценится действие, говорит Кох, людей легко имитировать. Сначала мы пичкаем вечно голодные системы совокупностью человеческих текстов, наполняя их «звуком и яростью прожитой жизни — счастьем, депрессией, скукой, волнением, любовью». Затем, когда модели начинают отражать эмоции, люди указывают пальцем и говорят: «Смотрите, они утверждают, что чувствуют. И этого достаточно». Спросите ChatGPT, обладает ли он сознанием; учитывая корпоративные ограничения, он это отрицает. Тем не менее многие настаивают на том, что он разумен, и отрицать его сознание — это не что иное, как углеродный шовинизм. Когда будущая модель напишет что-то в масштабе «Войны и мира» или «Властелина колец», отрицать его разумность станет сложнее.
Даже если машины никогда не смогут стать такими, как мы, они будут неуклонно приближаться к нам по характеристикам. «В конечном итоге, речь идет о выполнении задач на рынке или на поле боя, — говорит Кох. — И там они будут становиться лучше и в конечном итоге вытеснят нас». Эволюция, отмечает он, сделала людей доминирующим видом по интеллекту и агрессивности. Теперь мы стремимся создать существ, которые превзойдут нас и по тому, и по другому. «Они станут умнее нас и, конечно же, агрессивнее. Действительно ли это закончится хорошо?»
Кох признает, что его взгляды мрачны. «Это странно, — говорит он с улыбкой. — Я счастливый, довольный человек, и все же я чувствую себя таким пессимистом. Может быть, дело в моем возрасте. Мне сейчас 69». С интеллектуальной точки зрения, он считает, что наиболее вероятный путь развития цивилизации ведет к миру, где доминируют машины, и к неуклонному обесцениванию человеческого опыта. Технологи, по его мнению, похожи на мотыльков, кружащих вокруг пламени, которое в конечном итоге может нас поглотить. Могут быть краткосрочные выгоды, например, ИИ поможет ученым понять огромную сложность мозга с его тысячами типов клеток и триллионами синапсов. Однако со временем, по его мнению, вред перевесит выгоды. Сам ИИ, конечно, не несет в себе злого умысла: будучи бессознательным, он не имеет намерений. Это напоминает астероид, который столкнулся с Землей 66 миллионов лет назад и положил конец эпохе динозавров.
Кох считает трагичным, что «мы стоим на пороге того, чтобы отдавать все больше и больше своей жизни машинам», и все это во имя удобства. Он опасается, что темпы перемен могут опередить более медленные ритмы политики, законотворчества и социальной адаптации. Если это будет происходить бесконтрольно, мир, управляемый превосходными машинами-исполнителями, может лишить жизнь смысла, начиная с гордости за свою работу. «Если вы можете написать научную статью с помощью ChatGPT за час, какой в этом смысл? — спрашивает Кох. — Для большинства из нас работа имеет глубокий смысл; нами движет стремление к достижениям. Меня пугает даже сама мысль о выходе на пенсию. Что я буду делать? Просто сидеть и играть в гольф?»
Представляя мир без работы, Кох вспоминает образ Вселенной без сознания, созданный Эрвином Шрёдингером, как пьесу, разыгрываемую перед пустыми скамьями. «В такой ситуации мы можем оказаться, — говорит он, — планета автоматов, совершающих удивительные подвиги, в то время как некому ими восхищаться». Другая возможность: после исчезновения труда люди обратятся к искусству, медитации и другим формам сознательного опыта. «В принципе, если ИИ даст нам все это время, мы могли бы стать более творческими, принимать галлюциногенные грибы и так далее, — говорит он. — Но для большинства из нас, я думаю, этого не произойдет».
Путеводная звезда человеческого разума
Кох часто возвращается к медитации и психоделическим переживаниям, потому что они помогают поддерживать и углублять сознание. В книге 2024 года «Тогда я сам — мир: что такое сознание и как его расширить» он исследует широкий спектр состояний сознания, включая те, что находятся на самых дальних гранях сознания: мистические, вызванные веществами и околосмертные переживания. Эти состояния, пишет он, представляют собой «живое доказательство того, что нервная ткань может вмещать в себя необычайные переживания». После вдыхания испарений из жабы из реки Колорадо он достиг состояния, когда эго, память, тело, пространство, время и мир исчезли, оставив после себя вневременную вселенную. На церемонии аяуаски в Бразилии он столкнулся с «чем-то чудесным: разумом в целом», всеобъемлющим разумом, который потряс основы его научного мировоззрения.
Кох признает, что большинство людей вряд ли смогут временно расширить свое сознание подобным образом. Вместо этого он указывает на гораздо более доступную практику поддержания внутренней жизни: рефлексивное самосознание: «вдумчивость и проницательность». Эта практика начинается с оценки красоты природы и чуда самого существования чего-либо. Однако ее главный враг всегда под рукой. Остановитесь хотя бы на мгновение, и появится рефлекс: проверьте телефон. Во время недавнего полета Кох наблюдал, как мужчина листал ленту пять часов подряд. «Каждые десять секунд — что-то новое».
Мы живем в экономике, где самым дефицитным ресурсом является внимание. Нейробиология отличает его от сознания: внимание концентрирует умственные ресурсы на одной задаче. Обычно мы осознаем, на что обращаем внимание, но они могут распадаться. Как отмечает Кох, проезжая по бескрайним американским автомагистралям, вы можете быть полностью поглощены радиосюжетом, в то время как ваши глаза все еще обрабатывают информацию о дороге впереди, обращая внимание на важные детали. Экономика внимания захватывает нашу способность концентрироваться ради прибыли, вытесняя размышление. Опыт превращается в реакцию, подобно просмотру сериалов без перерыва на размышление: следующий ролик, следующее сообщение, следующее. «В этой реактивной среде, — предупреждает Кох, — у вас нет шансов», потому что каждый новый стимул захватывает и внимание, и сознание.
Это, конечно, не делает людей менее сознательными. «Мы не превращаемся в зомби», — говорит Кох. Однако исчезает более глубокий слой осознанности: рефлексивное, интроспективное сознание, необходимое для моральных суждений и для любого подлинно творческого акта. Он возвращается к старому философскому наставлению: «Познай самого себя». Эта основополагающая поговорка западной философии призывает нас долгое время размышлять, исследовать и заглядывать внутрь себя.
Он утверждает, что именно благодаря этой способности люди процветают. Мы думающие обезьяны, способные понимать собственные мотивы, выбор и стремления. Мы можем спросить себя: Зачем я это сделал? Было ли это мудро? Чего я на самом деле добивался? Хорошо ли это? Соответствует ли это той жизни, которую я действительно хочу? Медитация и самоанализ, как предполагает Кох, помогают сохранить это внутреннее видение: прислушиваться к себе, чувствовать приливы и отливы настроений и различать, чего мы действительно ищем. Если все это передать машинам, само человеческое существование может истончиться.
В детстве Кох посещал иезуитскую школу, где ученики ежедневно практиковали «упражнение совести». Дважды в день они анализировали свои поступки и спрашивали себя, что ими на самом деле двигало: «Почему я это сказал? Это было сделано с целью помочь, или под этим скрывалось что-то более темное?» Кох считает, что такое размышление может начинаться в раннем возрасте. В тибетских монастырях в Индии он видел, как детей знакомили с медитацией и самоанализом. В разных культурах люди разработали проверенные временем способы развития этой способности: сделать паузу, проанализировать свои мотивы и научиться видеть потоки мыслей и чувств, которые формируют жизнь.
Когда в культуре перестают развивать рефлексивное самосознание, издержки накапливаются. Кох указывает на «растущую волну психического дискомфорта, генерализованной тревожности, депрессии», которая сейчас затрагивает почти треть студентов первого и второго курсов колледжей. Многие, по его мнению, «никогда не научились должным образом обращать внимание на чувства». Без этой способности поддерживать счастье становится сложнее.
Противоядие начинается с простого осознания: нужно научиться понимать свои эмоции, тело и ощущения — навыки, которые «очень просты, но отсутствуют у многих современных детей». Когда возникает тревога, он предлагает спросить, почему она возникает, и научиться распознавать ее различные формы. Даже небольшая пауза может помочь. «Сделайте глубокий вдох, прежде чем что-либо делать, — говорит он. — А затем спросите себя, действительно ли вы хотите это сказать?» Такие моменты замедляют первый порыв импульса и создают пространство для размышлений перед «первым приливом жара», как он выражается.
Кох считает, что без осознанной практики рефлексивное самосознание может атрофироваться: «Если вы его не развиваете, это как мышца, которую вы никогда не используете. Способность может остаться, потенциал может остаться, но он атрофируется». Наибольшая опасность может быть для молодого поколения. Истинное понимание, отмечает он, часто появляется только позже в жизни. Однако, если внимание постоянно приковано к социальным сетям и бесконечной стимуляции, эта способность может никогда полностью не развиться. По мере того как машины становятся все более мощными, общество будет все эффективнее формировать мир, в то время как людьми, которые никогда не научились глубоко мыслить, будет легче манипулировать. «Вот почему, — говорит Кох, — рефлексивное самосознание — это путеводная звезда человеческого разума».
Сообщение Путеводная звезда разума: почему сознание важнее интеллекта появились сначала на Идеономика – Умные о главном.