В книге «More Everything Forever» Адам Беккер раскрывает недостатки современных утопий о колонизации космоса, всесильном искусственном интеллекте и всемогущем технологическом прогрессе.
Илон Маск однажды пошутил: «Я бы хотел умереть на Марсе. Но только не при столкновении». На самом деле Маск совершенно серьезно настроен на колонизацию красной планеты. Отчасти им движет мотивация иметь «запасную планету» на случай, если в будущем какая-нибудь катастрофа сделает Землю непригодной для жизни.
Маск предполагает, что к 2050 году на Марсе будет жить миллион человек, и он не одинок в таком энтузиазме. Венчурный инвестор Марк Андриссен считает, что мир может легко прокормить 50 миллиардов человек, а после заселения других планет и того больше. А Джефф Безос говорит об использовании ресурсов Луны и астероидов для строительства гигантских космических станций. «Мне бы очень хотелось, чтобы в Солнечной системе жили тысячи миллиардов людей», — сказал он.
Научный журналист Адам Беккер не советует торопиться с выводами. В книге «More Everything Forever» Беккер подробно описывает множество недостатков в грандиозных проектах, которые поддерживают не только Маск, Андриссен и Безос, но и Сэм Альтман, Ник Бостром, Рэй Курцвейл и целая группа технологических миллиардеров и мыслителей, чьи амбиции преобразуют сегодняшний мир и формируют то, как мы думаем о грядущих столетиях.
Беккер считает, что идею колонизации Марса довольно легко сдуть, ведь единственное, что ждет там людей — это смерть. «Уровень радиации слишком высок, гравитация слишком низкая, воздуха нет, а почва состоит из яда», — прямо говорит он. Он отмечает, как трудно убедить людей провести сколько-нибудь продолжительное время в Антарктиде, гораздо более гостеприимном месте. «На Марсе, — говорит Беккер, — Антарктида покажется Таити».
Другие планеты Солнечной системы, как и их спутники, столь же негостеприимны, а звездные системы за пределами нашей невообразимо далеки. Он заявляет: «Никто не собирается смело отправляться куда-либо, чтобы прожить жизнь и создать семьи и сообщества: ни сейчас, ни в обозримом будущем и, возможно, никогда».
Беккер рассматривает не только устремления в космос, но и заявления об искусственном интеллекте, необходимости бесконечного роста, стремлении искоренить старение и смерть, и многое другое.
Идею колонизации космоса Беккер считает не только нереалистичной, но и весьма сомнительной с моральной точки зрения. Почему, спрашивает он, миллиардеры так стремятся покинуть нашу планету, вместо того, чтобы позаботится о ней? Он взял интервью у астронома Лусианны Вальковиц, которая считает внимание к астероидам-убийцам и искусственному интеллекту, а также равнодушие к изменению климата уклонением от ответственности со стороны самых богатых людей мира. «Идея подстраховать человечество — это уход от ответственности путем создания впечатления, что у нас есть карточка «Выйти из тюрьмы бесплатно», как в игре Монополия», — говорит Вальковиц.
Беккер обращает внимание не только на технических гуру, но и на сторонников лонгтермизма (ставят во главу угла процветание людей, которые будут жить через много лет), рационалистов (считают, что при принятии решений следует руководствоваться разумом и логикой, а не этикой) и трансгуманистов (придерживаются различных убеждений, связанных с увеличением продолжительности жизни человека и слиянием человечества с искусственным интеллектом). Эти группы воспринимают будущее по-разному, но в основе лежит то, что Беккер считает неуместной верой в искусственный интеллект, который иногда представляется как полный расцвет в виде «AGI» (искусственный интеллект общего назначения), но также потенциально опасен, если его цели разойдутся с целями человечества (так называемая проблема «выравнивания» или контроля над ИИ).
Не все разделяют страх, что ИИ выйдет из под контроля, и Беккер не преминул побеседовать с такими скептиками, как Джарон Ланье, Мелани Митчелл и Янн ЛеКун, которые не считают, что это реальная опасность. Он также ссылается на предпринимателя и веб-разработчика Мацея Цегловски, который назвал проблему несогласованности действий сверхразумного ИИ «идеей, которая пожирает умных людей». Тем не менее книга Беккера — это не просто нападки на ИИ-гуру. Он объясняет, во что именно верят люди, а затем представляет более скептическую альтернативную точку зрения.
Беккер также отмечает, что компьютерной мощности, возможно, не суждено расти так быстро, как это представляют себе многие. Он тщательно анализирует закон Мура, согласно которому количество транзисторов в интегральных схемах удваивается примерно каждые два года, отмечая, что этот рост неизбежно натолкнется на ограничения, накладываемые законами физики. Беккер отмечает, что сам Гордон Мур в 2010 году предположил, что нынешние темпы экспоненциального роста закончатся через 10 или 20 лет: другими словами, сейчас или очень скоро.
По мнению Беккера, вера в закон Мура — лишь одна из граней плохо продуманного стремления к бесконечному росту, которое, похоже, отстаивают некоторые оптимисты технологического прогресса. Экспоненциальный рост по определению не является устойчивым. Беккер приводит в пример аналогию с ростом кувшинок в пруду, которую предложил Рэй Курцвейл. Каждые несколько дней их количество будет удваиваться, и вы не успеете оглянуться, как они покроют весь пруд. «Это правда, — пишет Беккер, — но на этом рост кувшинок заканчивается, потому что они не могут покрыть более 100 процентов пруда. Любая экспоненциальная тенденция работает подобным образом. Все ресурсы ограничены, ничто не длится вечно, у всего есть предел».
Беккер пишет, что если мы продолжим потреблять энергию нынешними (и ускоряющимися) темпами, то через 1350 лет будем использовать всю энергию Солнца, а чуть более чем через тысячелетие — всю энергию, излучаемую всеми звездами Млечного Пути, и так далее.
Беккер также не согласен с идеей, лежащей в основе лонгтермизма о том, что потребности бесчисленных миллиардов или даже триллионов будущих людей так же важны, как и потребности тех, кто живет на Земле сегодня, а возможно, и важнее, поскольку их в перспективе будет огромное количество. (Многие из этих идей изложены в книге философа Уильяма Макаскилла «Что мы должны будущему», вышедшей в 2022 году).
По мнению лонгтермистов, наши сегодняшние действия должны быть направлены на то, чтобы позволить этому щедрому будущему расцвести, даже если это означает жертвы в настоящем. Проблема, пишет Беккер, в том, что мы просто не можем знать, какие условия будут преобладать через столетия, не говоря уже о тысячелетиях, поэтому самонадеянно воображать, что сегодняшние решения могут быть направлены на благо людей, которые не появятся на свет еще непостижимо долго.
По мнению писателя, такое мышление несовершенно не только в логике, но и в этике. Он ссылается на известную работу 2013 года философа и исследователя ИИ Ника Бекстеда, в которой утверждается, что спасение жизней людей в богатых странах, вероятно, имеет больший эффект, чем спасение жизней людей в бедных странах, которые менее способны осуществить значительные изменения. Беккер резюмирует эту идею: «Другими словами, жизни людей, живущих, скажем, в Мозамбике, имеют меньшее значение, чем жизни американцев, потому что люди в США внесут больший вклад в славное долгосрочное космическое будущее».
Писатель находит и другие примеры проблематичного мышления. Он отмечает, что многие рационалисты, похоже, поддерживают идею «человеческого биоразнообразия», которая утверждает, что люди разных рас обладают разными способностями, и что эти различия коренятся в генетике. Беккер называет это псевдонаукой и раздутым превосходством белой расы.
Он также обеспокоен тем, насколько некоторые исследователи ИИ сосредоточены на «интеллекте». Беккер взял интервью у компьютерного ученого Тимнита Гебру, который считает, что одержимость интеллектом как непреложной целью исследований ИИ, ведущая к созданию некой воображаемой расы высших существ, попахивает евгеникой. Беккер добавляет: «Все это не удивительно: это печально и ужасно, но предсказуемо. Технологическая индустрия изобилует расизмом».
Беккер не луддит и не выступает против технологий. Но он скептически относится к тому, что человечеству необходимо заселить галактику любой ценой, и предостерегает от передачи контроля над судьбой расе ИИ-властелинов. Он также хотел бы, чтобы простые люди имели право голоса, вместо того чтобы оставлять большую часть решений миллиардерам.
Отрезвляющая книга Беккера представляет собой альтернативный взгляд на технологии, которые с бешеной скоростью меняют мир, и, особенно, на людей, которые контролируют эти технологии. По меньшей мере, она должна побудить нас глубже задуматься о том, какого будущего мы действительно хотим. Как считает Беккер, несмотря на то, что технологии бесчисленными способами улучшили жизнь, они не являются волшебным решением проблем человечества, как и идея бегства к звездам. Вместо этого нам нужно заботиться друг о друге на единственной планете, которую мы можем назвать своим домом. «Мы не покидаем Землю, — пишет он. — Но уже живем среди звезд».
Сообщение Бегство от реальности: альтернативный взгляд на технологии появились сначала на Идеономика – Умные о главном.