Несмотря на многочисленные интеллектуальные достижения, я подозреваю, что есть некоторые вещи, которые мой пес не может понять или даже обдумать. Он может выполнять команду «сидеть» и ловить мячик, но, как мне кажется, не способен представить, что жестяная банка, в которой находится его корм, сделана из переработанной руды. Я думаю, что он не может представить, что медленно удлиняющиеся белые линии в небе производятся машинами, также сделанными из камешков, как и банки с его собачьим кормом. Я подозреваю, что он понятия не имеет, что эти штуки в небе из того же материала, что и баночки с его кормом, кажутся такими маленькими только лишь потому, что они летают очень высоко. И я задаюсь вопросом: может ли мой пес каким-то образом узнать, что эти идеи вообще существуют?
От этих мыслей рукой подать до более широкого вопроса. Я начинаю задумываться о концепциях, о существовании которых не знаю: концепциях, о которых я даже не могу подозревать, не говоря уже о том, чтобы размышлять о них. Что я могу знать о том, что лежит за пределами моих представлений? Этот вопрос касается биологической функции интеллекта, и частично — наших величайших «когнитивных протезов», в частности, человеческого языка и математики. Речь также идет о возможности физической реальности, которая намного превосходит нашу собственную, или о бесконечных симулированных реальностях, запущенных в компьютерах продвинутых нечеловеческих форм жизни. А также о наших технологических потомках, тех «детях», которые однажды затмят нас в интеллектуальном плане. С позиции этих запросов, человеческая исключительность становится очень шаткой. Возможно, мы больше похожи на собак (или одноклеточных организмов), чем нам хотелось бы признать. Хотя история полна восторженных свидетельств человеческой изобретательности и интеллекта, картина может быть совсем иной. Я хочу показать, насколько сильно, возможно чудовищно, ограничены наши достижения: язык, наука, математика.
Итак, первый вопрос в последовательности наших рассуждений довольно прост:
1. Мы умны или глупы? И есть ли какая-то пусть нечеткая, но объективная шкала нашего ума?
В течение долгих периодов времени высший уровень интеллекта на Земле, похоже, повышался в лучшем случае чрезвычайно медленно. Даже сейчас наш мозг обрабатывает сенсорно-моторную информацию с помощью всевозможных алгоритмических махинаций, которые позволяют нам как можно меньше думать. Это говорит о том, что затраты, связанные с интеллектом, высоки. Оказывается, затраты энергии на единицу массы, которые используются для функционирования мозга чрезвычайно высоки с точки зрения метаболизма, гораздо выше, чем на почти все другие органы (исключение составляют сердце и печень). Поэтому, чем умнее организм, тем больше пищи ему требуется, иначе он умрет. С эволюционной точки зрения, глупо быть умным.
Мы не очень четко понимаем, как именно наше нейронное оборудование наделяет нас абстрактным интеллектом. Мы не понимаем, как именно «мозг создает разум». Но учитывая, что для развития интеллекта требуется большая масса мозга, что приводит к увеличению метаболических затрат, можно предположить, что мы обладаем минимально возможным уровнем абстрактного интеллекта, необходимым для выживания в той экологической нише, в которой развивался Homo sapiens. Минимальным уровнем интеллекта, необходимым для того, чтобы продержаться несколько миллионов лет охоты и собирательства, пока нам не повезло, и мы не наткнулись на неолитическую революцию.
Верно ли это заключение? Чтобы разобраться в вопросе о том, умны мы или глупы, отметим, что существует несколько видов интеллекта. Способность ощущать внешний мир — один из таких видов когнитивных способностей; способность помнить прошлые события — другой; способность планировать будущую последовательность действий — третий. И есть множество когнитивных способностей, которыми обладают другие организмы, но которых нет у нас. Это верно, даже если мы рассматриваем только созданный нами интеллект: современные цифровые компьютеры значительно превосходят нас в вычислительной мощности во многих отношениях. Более того, небольшой набор тех когнитивных задач, которые мы все еще можем выполнять лучше, чем цифровые компьютеры, существенно сокращается из года в год.
Эти перемены ждут нас и в будущем. Возможности будущих земных организмов, вероятно, превысят нынешний уровень нашего интеллекта, дополненного цифровыми технологиями. Эта когнитивная экспансия не является чем-то уникальным в историческом моменте. Подумайте о коллективных когнитивных способностях всех организмов, живущих на Земле. Представьте себе график, показывающий изменение этих коллективных способностей за миллиарды лет. Пожалуй, независимо от того, каким бы точным методом анализа временных рядов мы бы ни воспользовались, и независимо от того, как сформулировать определение когнитивных способностей, мы можем наблюдать их рост. В конце концов, ни в один из периодов самый высокий уровень когнитивной способности, которой обладает какой-либо субъект в земной биосфере, не уменьшался; вся биосфера никогда не теряла способности к определенным видам деятельности интеллекта. Кроме того, со временем наблюдается не просто рост степени каждой когнитивной способности среди всех земных видов, но и увеличение видов когнитивных способностей. Живые организмы становятся умнее, причем умнеют они по-разному. Если экстраполировать эту тенденцию в будущее, то мы будем вынуждены заключить, что некоторые организмы будут обладать когнитивными способностями, которыми не обладает ни один из ныне живущих земных видов, включая нас.
Однако, прежде чем сделать такой вывод, нам нужно немного присмотреться к графику коллективных способностей. Примерно до 50 000 лет назад коллективный интеллект на Земле увеличивался постепенно и плавно. Но затем произошел резкий скачок, когда современный Homo sapiens начал движение по траектории, которая в конечном итоге привела к появлению современной науки, искусства и философии. Может показаться, что мы все еще являемся частью этого «большого скачка», огромного когнитивного ускорения, и что наши виды интеллекта намного превосходят те, что были у наших предков гоминидов.
2. Почему существует огромная пропасть между когнитивными способностями наших предков и современных ученых, художников и философов?
Для безволосой обезьяны, что появилась в саванне, нет очевидной пользы в том, чтобы быть способной создать на основе физической реальности такие потрясающие умственные конструкции как стандартная модель физики элементарных частиц, переменная Чайтина или притча «Десять быков». На самом деле, наличие таких способностей, скорее всего, связано с серьезными издержками. Так почему же они у нас есть?
Чтобы разобраться в этом, полезно сосредоточиться на самом универсальном из достижений человечества, на самых наглядных демонстрациях наших когнитивных способностей: на науке и математике. Способность использовать науку и математику обеспечила нас дополнительными инструментами интеллекта и помогла расширить его: от печатной машины до искусственного разума. Более того, расширение когнитивных способностей со временем значительно увеличилось благодаря совокупному коллективному процессу развития культуры и технологий. В свою очередь, это расширение ускорило развитие самой культуры и технологий. Эта петля обратной связи позволила нам расширить когнитивные возможности намного больше тех, которые были получены исключительно в результате генетической эволюции. Эта взаимосвязь даже может быть причиной пропасти между когнитивными возможностями наших предков гоминидов и теми способностями, что обладают современные ученые, художники и философы.
Хотя эта взаимосвязь и усилила наши первоначальные интеллектуальные способности (те, что появились эволюционно), неясно, обеспечила ли она нам какие-либо принципиально новые когнитивные возможности. Вполне вероятно, что будущие формы науки и математики, созданные с помощью петли обратной связи между расширением интеллекта, культурой и технологией, будут навсегда ограничены тем набором когнитивных способностей, который был у нас в самом начале процесса.
Это говорит о другом варианте разрешения вопроса «пропасти» между когнитивными способностями гоминидов и современных людей. Возможно, эта брешь вовсе не пропасть. Возможно, ее правильнее было бы назвать небольшой прорехой в огромном поле возможных знаний. В статье под названием «Непостижимая эффективность математики в естественных науках», вышедшей в 1960 году, физик-теоретик Юджин Вигнер задался вопросом, почему математические теории «так хорошо работают» при описании природы физической реальности. Возможно, ответ на вопрос Вигнера заключается в том, что математика вообще не очень эффективна и способна охватить лишь крошечный кусочек реальности. Возможно, причина, по которой она кажется нам такой эффективной, заключается в том, что наш диапазон видения ограничен этим кусочком, теми немногими аспектами реальности, что мы можем себе представить.
Интересный вопрос заключается не в том, почему наш дополненный разум обладает способностями, превосходящими те, которые были необходимы для выживания наших предков. Скорее, вопрос в том, будут ли когда-нибудь инструменты расширения интеллекта обладать способностями, необходимыми для восприятия реальности.
3. Даже с помощью расширенного разума, сможем ли мы когда-нибудь создать совершенно новые формы науки и математики, которые могли бы получить доступ к аспектам физической реальности за пределами нашего представления, или мы навсегда ограничены только развитием уже имеющихся форм?
В 1927 году более раннюю версию этого вопроса предложил английский ученый Джон Бердон Сандерсон Холдейн в своей книге «Возможные миры и другие эссе». «У меня закрадываются подозрения, — писал он, — что Вселенная не только сложнее, чем мы думаем, но и более странная, чем мы можем предположить». В последующие годы подобные высказывания наводили на мысль, что Вселенная может быть куда более «непонятной» или «странной», чем мы можем себе представить или попробовать «постичь». Но, рассматривая другие темы, авторы этих ранних текстов редко уточняли, что они имели в виду. Часто подразумевалось, что Вселенная может быть более необычной, чем мы можем себе представить в настоящее время, из-за ограничений в современном научном понимании, а не из-за врожденных ограничений того, что мы когда-либо сможем сделать с расцветом наших интеллектуальных способностей. Холдейн, например, считал, что как только мы примем «различные точки зрения», реальность откроется перед нами: «Однажды человек сможет сделать в реальности то, что в этом эссе я сделал в шутку, а именно посмотреть на существование с точки зрения нечеловеческого разума».
К счастью, мы можем подойти к основному вопросу о том, можем ли мы мыслить за пределами наших нынешних ограничений, более строго. Рассмотрим недавно (вновь) ставшую популярной идею о том, что наша физическая вселенная может быть симуляцией, созданной в компьютере, которым управляет какая-то сверхразвитая раса инопланетян. Эта идея может быть расширена до бесконечности: возможно, инопланетяне, моделирующие нашу вселенную, сами могут быть симуляцией в компьютере какого-то еще более сложного вида более высокоразвитых инопланетян. Если пойти в другом направлении, то в недалеком будущем мы можем создать свою собственную симуляцию вселенной, полную сущностей, обладающих «когнитивными способностями». Возможно, эти сущности смогут создать свою собственную вселенную и так далее. В результате мы получим последовательность видов, каждый из которых запускает компьютерную симуляцию, порождающую ту, которая находится чуть ниже его уровня, а мы оказываемся где-то в этой последовательности.
Ответ на вопрос, о том, находимся ли мы в симуляции или нет, на самом деле довольно прост: да, в некоторых вселенных мы являемся симуляцией, и нет, в некоторых других не являемся. Однако ради удобства рассуждений давайте ограничимся вселенными, в которых мы действительно являемся симуляцией. Это приводит нас к следующему вопросу.
4. Возможно ли, чтобы личность, существующая только в компьютерной симуляции, запустила точную компьютерную симуляцию личности «более высокого уровня»?
Если ответ «нет», то все, что мы наблюдаем в нашей вселенной, является лишь малой частью того, что может быть известно тем, кто находится выше в последовательности более сложных симуляций. И это значит, что существуют глубокие аспекты реальности, которых мы даже не можем себе представить.
Конечно, ответ на этот вопрос также зависит от точного определения таких терминов как «симуляция» и «компьютер». Теория формальных систем и информатика дают множество теорем, которые позволяют предположить, что, какие бы определения мы ни принимали, ответ на этот вопрос действительно «нет». Однако, вместо того, чтобы излагать эти теоремы, свидетельствующие об ограниченности наших когнитивных способностей, я бы хотел сделать шаг назад. Эти теоремы являются примерами содержания нашей математики, примерами наших математических способностей и идей. Большая часть этого содержания уже говорит о том, что наши когнитивные способности слишком ограничены, чтобы полностью взаимодействовать с реальностью. Но как насчет других аспектов математики?
5. Предполагает ли форма, а не содержание науки и математики, что когнитивные способности человека также сильно ограничены?
Откройте любой учебник математики, и вы увидите уравнения, связанные пояснительными выражениями. Человеческая математика — это совокупность всех уравнений и пояснительных выражений в каждом учебнике математики, когда-либо написанном.
Теперь обратите внимание на то, что каждое выражение или равенство — это конечная последовательность визуальных символов, состоящая из цифр, букв латинского алфавита, а также специальных арифметических знаков. Например, 1 + 1 + y = 2x — это последовательность из восьми элементов конечного набора знаков. То, что мы называем «математическими доказательствами», представляет собой последовательность таких конечных последовательностей, соединенных вместе.
Эта особенность человеческой математики имеет последствия для понимания реальности в самом широком смысле. Перефразируя Галилея, все нынешние знания о физике — наше формальное понимание основ физической реальности — написаны на языке математики. Даже менее формальные науки все еще структурированы в терминах человеческого языка и используют ограниченные строки символов, как и математика. Это и есть форма нашего знания. Понимание реальности — это не что иное, как большой набор конечных последовательностей строк, каждая из которых содержит элементы из ограниченного набора возможных символов.
Обратите внимание, что любая последовательность знаков на странице сама по себе имеет не больше смысла, чем последовательности, которые можно найти во внутренностях принесенного в жертву барана или в узоре трещин на нагретом черепашьем панцире. Это наблюдение не ново. Многие работы в области философии являются реакцией на это наблюдение: наука и математика — это просто набор конечных последовательностей символов, не имеющих никакого внутреннего смысла. В этой работе мы пытаемся сформулировать точный способ, которым такие ограниченные последовательности могут относиться к чему-то вне себя — так называемая «проблема основания символов» в когнитивной науке и философии. Математики отреагировали на это наблюдение аналогичным образом, расширив формальную логику и включив в нее современную теорию моделей и метаматематику.
Что действительно поражает в том, что современная наука и математика формулируются с помощью последовательности знаков, так это ее исключительность: ничего другого, кроме этих конечных последовательностей символов, никогда не встречается в современных математических рассуждениях.
6. Являются ли эти строки конечных последовательностей символов необходимыми характеристиками физической реальности, или же они отражают пределы нашей способности формализовать аспекты реальности?
Этот вопрос сразу порождает другой:
7. Как изменилось бы наше восприятие реальности, если бы человеческая математика была расширена до бесконечных последовательностей символов?
Бесконечные цепочки доказательств с бесконечным числом строк никогда не придут к выводу за конечное время, если их вычислять с конечной скоростью. Чтобы прийти к заключению за конечное время, наши когнитивные способности должны реализовать своего рода «гипервычисления» или «супервычисления по Тьюрингу», которые являются причудливыми способами обозначения умозрительных компьютеров, более мощных, чем те, которые мы можем построить в настоящее время. (В качестве примера такого гипермощного инструмента можно представить себе компьютер на базе ракеты, который приближается к скорости света и использует релятивистское замедление времени, чтобы втиснуть произвольно большой объем вычислений в конечный промежуток времени).
Но даже при наличии гипервычислений это предлагаемое расширение нынешней формы математики все равно будет представлено в терминах человеческой математики. Какой была бы математика, саму форму которой нельзя было бы описать с помощью конечной последовательности символов из конечного алфавита?
Философ Дэниел Деннет и другие отмечают, что форма человеческой математики и наук в целом в точности совпадает с формой человеческого языка. Действительно, начиная с Людвига Витгенштейна, стало общепринятым отождествлять математику с особым случаем человеческого языка, со своей собственной грамматикой, подобной той, которая возникает в человеческом разговоре.
Мне видятся поразительными ограничения человеческого языка, а также тот факт, что эти ограничения кажутся универсальными.
Структура человеческого общения соответствует формальной логике и теории машин Тьюринга. Некоторые философы восприняли это как удивительную удачу. У нас есть «когнитивный протез», человеческий язык, способный передать формальную логику. Они полагают, что это означает, что мы также способны полностью отразить законы физической вселенной.
Циник мог бы сказать на это с горькой иронией: «А действительно ли нам повезло? Люди обладают именно теми когнитивными возможностями, которые необходимы для того, чтобы охватить все аспекты физической реальности, и ни каплей больше!» Циник также может задаться вопросом: а может ли муравей, способный формулировать «законы Вселенной» только в терминах феромонных следов, прийти к выводу, что это большая удача, что муравьи обладают когнитивными способностями делать именно это; или решит ли фототропное растение, что ему повезло, что у него есть способность реагировать на солнце, поскольку это должно означать, что оно может сформулировать правила Вселенной?
Лингвисты, такие как Ноам Хомский и другие, поражались тому факту, что человеческий язык допускает возможность рекурсии, что мы можем создавать произвольные последовательности символов из конечного алфавита. Они удивляются тому факту, что люди могут создавать, казалось бы, удивительно большой набор человеческих языков. Но я удивляюсь ограниченности человеческого языка. Я удивляюсь ограниченности нашей науки и математики. И я удивляюсь тому, что эти ограничения кажутся универсальными.
8. Является ли счастливой случайностью то, что математическая и физическая реальность может быть сформулирована в терминах наших нынешних когнитивных способностей?
Рассмотрим одноклеточную продолговатую инфузорию — из тех, что плавают в океанах или стоячих водах. Это может показаться очевидным, но инфузория, как и моя собака, не может понять концепцию «вопроса», касающегося проблем, которые не имеют прямого влияния на ее поведение. Инфузория не может понять возможные ответы на наши вопросы, касающиеся реальности, но и самих вопросов она не поймет. Более того, ни одна инфузория не может даже представить себе возможность постановки вопроса, касающегося физической реальности. В той мере, в какой когнитивная концепция вопросов и ответов может быть важнейшим инструментом для любого понимания физической реальности, инфузория не имеет инструментов, необходимых для понимания физической реальности. Предположительно, она даже не понимает, что означает «понимание реальности» в том смысле, в каком мы используем этот термин. В конечном счете, это связано с ограничениями когнитивных способностей, которыми обладают инфузории. Но такие ли мы разные? У нас почти наверняка есть подобные ограничения с точки зрения наших когнитивных способностей. Итак, предпоследний (и по иронии судьбы отсылающий к самому себе) вопрос в этом эссе:
9. Подобно тому, как понятие вопроса навсегда остается за пределами способностей инфузории, существуют ли когнитивные конструкции, необходимые для понимания физической реальности, но остающиеся невообразимыми из-за ограниченности нашего мозга?
Может быть полезным, чтобы прояснить вопрос, подчеркнуть то, чем он не является. Этот вопрос не касается ограничений на то, что мы можем знать о том, чего мы никогда не сможем узнать. Мы можем представить себе многие вещи, даже если они никогда не могут быть «постигнуты». Но среди тех вещей, которые мы никогда не сможем узнать, есть строго меньшее подмножество вещей, которые мы не можем себе даже представить. Вопрос в том, что мы можем когда-либо воспринять из этого меньшего множества.
Например, мы можем представить себе другие разделы многих миров квантовой механики, даже если мы не можем знать, что происходит в этих разделах. Здесь я не рассматриваю этот вид непознаваемого. Меня также не волнуют значения переменных, которые неизвестны нам просто потому, что мы не можем их непосредственно наблюдать, например, переменные событий за пределами Объема Хаббла или того, что есть в горизонте событий черной дыры. Эти события никогда не могут быть известны нам по той простой причине, что наши вспомогательные инженерные возможности не справляются с этой задачей, а не по каким-либо причинам, присущим ограничениям науки и математики, которые может построить наш разум. Они могут быть известны, но мы не можем найти путь к такому знанию.
Здесь речь идет о том, какие виды непознаваемых когнитивных конструкций могут существовать, о которых мы никогда не сможем даже узнать, не говоря уже о том, чтобы описать (или реализовать).
Кажется вероятным, что наши преемники будут иметь больший набор вещей, которые они могут себе представить, чем мы.
Инфузория не имеет физической возможности даже представить себе когнитивную конструкцию «вопрос», не говоря уже о том, чтобы сформулировать вопрос или ответить на него. Мне хотелось бы привлечь внимание к вопросу о том, существуют ли когнитивные конструкции, которые мы не можем себе представить, но которые так же важны для понимания физической реальности, как и простая конструкция вопроса. Я подчеркиваю возможность существования вещей, которые можно познать, но не для нас, потому что мы не способны в первую очередь представить себе такого рода знания.
Это возвращает нас к вопросу, который кратко обсуждался выше, о том, как набор того, что мы можем себе представить, способен развиваться в будущем. Предположим, что, то, что можно знать, но нельзя даже представить, действительно есть. Предположим, что мы можем знать что-то о том, что мы действительно не можем себе представить.
10. Можем ли мы каким-либо образом проверить, смогут ли наши будущие наука и математика полностью охватить физическую реальность?
С определенной точки зрения этот вопрос может показаться научной версией теории заговора. Можно утверждать, что он не так уж сильно отличается от других грандиозных неразрешимых вопросов. Мы также не можем доказать, что призраков не существует, ни теоретически, ни эмпирически; или что Мардук, бог-покровитель древнего Вавилона, на самом деле не управляет человеческими делами. Однако есть как минимум три причины подозревать, что мы действительно можем найти ответ на некоторые аспекты вопроса. Во-первых, мы могли бы продвинуться вперед, если бы когда-нибудь построили гиперкомпьютер и использовали его для решения вопроса о том, какие знания нам недоступны. Более умозрительно, по мере роста наших когнитивных способностей мы могли бы установить существование того, что мы никогда не сможем представить себе с помощью наблюдения, моделирования, теории или какого-либо другого процесса. Другими словами, может оказаться, что петля обратной связи между расширенным сознанием и технологиями позволяет нам освободиться от эволюционной случайности, сформировавшей мозг наших предков гоминидов. Во-вторых, предположим, что мы столкнулись с внеземным разумом и можем подключиться, например, к огромной галактической сети межвидового общения, содержащей космическое хранилище вопросов и ответов. Чтобы определить, существуют ли аспекты физической реальности, которые можно познать, но которые человек даже не может себе представить, может потребоваться не что иное, как задать этот вопрос на космическом форуме, а затем понять ответы, которые будут получены.
Рассмотрим наше эволюционное потомство в самом широком смысле: не только будущие варианты вида, которые произойдут от нас в результате обычной неодарвинистской эволюции, но и будущие представители любого вида, который мы сознательно создадим, органического или неорганического происхождения. Кажется вполне вероятным, что разум таких преемников будет способен представить больший набор вещей, чем наш собственный.
Также кажется вероятным, что эти наши интеллектуально превосходящие «дети» появятся в следующем столетии. Предположительно, мы вымрем вскоре после их появления (как все хорошие родители, освобождающие место для своих детей). Поэтому, в качестве одного из последних действий по пути к выходу, когда мы будем смотреть на наших преемников с открытым ртом, мы можем просто задать им свои вопросы.
Сообщение С нечеловеческой точки зрения: сможем ли мы когда-нибудь понять, как устроена Вселенная? появились сначала на Идеономика – Умные о главном.
