Метка: Будущее

Дипфейки становятся привычной частью новостей: мир уже не раз обсуждал действия мошенников-вымогателей, которые используют сгенерированные изображения, голоса и видеозаписи. Жертвами становятся те, кто на виду: крупные компании, звезды, политики. Наша общая незащищенность от лжи — один из самых главных рисков развития искусственного интеллекта, считает футуролог Мартин Форд. Об этом он пишет в одной из глав книги «Власть роботов. Как подготовиться к неизбежному».

Дипфейки часто создаются с помощью инновации в области глубокого обучения, так называемой генеративно-состязательной сети (generative adversarial network, GAN). GAN вовлекает две конкурирующие нейронные сети в своего рода игру, которая непрерывно побуждает систему создавать все более качественную медийную имитацию. Например, GAN, созданная с целью подделки фотографий, должна состоять из двух интегрированных глубоких нейронных сетей. Первая, «генератор», фабрикует изображения. Вторая, обученная на комплексе реальных фотографий, называется «дискриминатор». Изображения, созданные генератором, перемешиваются с настоящими фотографиями и предоставляются дискриминатору. Две сети непрерывно взаимодействуют, участвуя в состязании, где дискриминатор оценивает каждую фотографию, созданную генератором, и решает, реальная она или поддельная. Задача генератора — обмануть дискриминатор, подсунув фальшивые фотоснимки. В процессе соревнования сетей, по очереди совершающих ходы, качество изображений растет, пока наконец система не достигнет равновесия, при котором дискриминатору остается лишь гадать, является ли анализируемое изображение настоящим. Этим методом можно получить невероятно впечатляющие сфабрикованные изображения. Введите в интернете запрос «фейковые лица GAN» и получите бесчисленные примеры изображений никогда не существовавших людей в высоком разрешении. Попробуйте поставить себя на место сети-дискриминатора. Фотографии выглядят совершенно реальными, но это иллюзия — изображение, возникшее из цифрового эфира.

Генеративно-состязательные сети были изобретены аспирантом Монреальского университета Яном Гудфеллоу. Как-то вечером в 2014 году Гудфеллоу с приятелем сидел в баре и рассуждал о том, как создать систему глубокого обучения, способную генерировать высококачественные изображения. […] Гудфеллоу предложил концепцию генеративно-состязательной сети, встреченную крайне скептически. Вернувшись домой, он сразу же сел писать код. Через несколько часов у него была первая работоспособная GAN. Это достижение впоследствии сделало Гудфеллоу одной из легенд в области сетей глубокого обучения.

У генеративно-состязательных сетей есть множество полезных применений. В частности, синтезированные изображения или другие медиафайлы можно использовать как обучающие данные для других систем. Например, на изображениях, созданных с помощью GAN, можно обучать глубокие нейронные сети беспилотных автомобилей. Предлагалось также использовать сгенерированные лица небелых людей для обучения систем распознавания лиц, решив таким образом проблему расовой предвзятости в случаях, когда невозможно этичным образом получить достаточное количество высококачественных фотографий реальных цветных людей. Что касается синтеза голоса, то GAN могут дать людям, утратившим дар речи, сгенерированную компьютером замену, которая звучит так же, как звучал их реальный голос. Известным примером является ныне покойный Стивен Хокинг, утративший возможность разговаривать из-за бокового амиотрофического синдрома, или болезни Лу Герига, и «говоривший» характерным синтезированным голосом. В последнее время страдающие этим заболеванием, например игрок НФЛ Тим Шоу, получили возможность говорить собственным голосом, восстановленным сетями глубокого обучения, которые были обучены на записях, сделанных до болезни.

Однако потенциал злоупотребления этой технологией существует и очень соблазнителен для многих технически подкованных индивидов. Подтверждения уже имеются, например доступные широкой аудитории фейковые видеоклипы, созданные в шутку или с образовательными целями. Можно найти множество фейковых видео с «участием» знаменитостей вроде Марка Цукерберга, которые говорят такое, что они вряд ли сказали бы, по крайней мере публично.

Самый распространенный метод создания дипфейков заключается в цифровом переносе лица одного человека в реальную видеозапись другого. По данным стартапа Sensity (бывший Deeptrace), создающего инструменты распознавания дипфейков, в 2019 году в интернет было выложено не менее 15000 дипфейков, что на 84% больше, чем в предыдущем году. Из них 96% представляли собой порнографические изображения знаменитостей или видео, в которых лицо звезды — почти всегда женщины — совмещено с телом порноактрисы. Главными объектами стали такие звезды, как Тейлор Свифт и Скарлетт Йоханссон, но когда-нибудь жертвой цифрового абьюза может стать практически каждый, особенно если технология усовершенствуется и инструменты создания дипфейков станут более доступными и простыми для применения.

Качество дипфейков постоянно растет, и угроза того, что сфабрикованные аудио или видео станут по-настоящему разрушительными, кажется неизбежной. […] Внушающий доверие дипфейк способен буквально изменить ход истории, а средства создания подобных подделок скоро могут оказаться в руках политтехнологов, иностранных правительств или даже подростков, любящих похулиганить. Беспокоить это должно не только политиков и знаменитостей. В эпоху вирусных видео, кампаний шельмования в соцсетях и «культуры исключения» практически каждый может стать объектом дипфейка, грозящего разрушить карьеру и жизнь. Мы уже знаем, что вирусные видео, запечатлевшие жестокость полиции, могут почти мгновенно вызывать массовые протесты и социальные волнения. Совершенно нельзя исключать то, что в будущем можно будет синтезировать — например, силами иностранной разведывательной службы — настолько провокационное видео, что оно станет угрозой для самого общественного устройства.

Помимо целенаправленного подрыва и разрушения открываются практически неограниченные противозаконные возможности для желающих попросту заработать. Преступники охотно будут пользоваться этой технологией для самых разных целей, от мошенничеств с финансами и страховкой до манипулирования рынком ценных бумаг. Видео, в котором генеральный директор делает ложное заявление или, например, странно себя ведет, грозит обрушить акции компании. Дипфейки создадут помехи для работы правовой системы. Сфабрикованные медийные материалы можно будет предъявлять как доказательства, вследствие чего судьи и присяжные рискуют однажды оказаться в мире, где трудно или даже невозможно понять, правда ли то, что они видят собственными глазами.

Разумеется, над решениями этих проблем работают умные люди. Например, компания Sensity поставляет программное обеспечение, по ее словам способное распознавать большинство дипфейков. Однако технология не стоит на месте, что делает неизбежной «гонку вооружений» наподобие той, что идет между создателями компьютерных вирусов и компаниями, продающими программы для защиты от них. В этой гонке у злоумышленников постоянно будет пусть минимальное, но преимущество. По словам Яна Гудфеллоу, он не смог бы определить, является ли изображение реальным или фейковым, только «рассматривая пиксели». В конечном счете нам придется полагаться на механизмы аутентификации, например киберподписи к фотографиям и видео. Может быть, когда- нибудь каждая видеокамера и каждый мобильный телефон будут добавлять цифровую подпись в каждую запись. Один стартап, Truepic, уже предлагает приложение, поддерживающее эту функцию. В число его клиентов входят крупнейшие страховые компании, которые по присылаемым клиентами фотографиям оценивают все что угодно, от зданий до ювелирных изделий и дорогих вещиц. Тем не менее, по мнению Гудфеллоу, это в конце концов не станет полноценным технологическим решением проблемы дипфейков. Нам придется каким-то образом научиться ориентироваться в новой беспрецедентной реальности, где все, что мы видим и слышим, может оказаться иллюзией.

Дипфейки призваны вводить людей в заблуждение. С этой проблемой связана другая — злонамеренное фабрикование данных, призванных обмануть или подчинить алгоритмы машинного обучения. В ходе таких «состязательных атак» специально созданная входная информация заставляет систему машинного обучения совершать ошибку, позволяя атакующему добиться желаемого результата. В случае машинного зрения в картину помещают какой-то предмет, искажающий ее интерпретацию нейросетью. Известен случай, когда исследователи брали фотографию панды, идентифицируемую системой глубокого обучения правильно с уверенностью 58%, добавляли тщательно сконструированный визуальный шум и заставляли систему с уверенностью 99% принимать ее за гиббона. В ходе особенно пугающей демонстрации обнаружилось, что добавлением к знаку «Движение без остановки запрещено» всего лишь четырех маленьких прямоугольных черно-белых наклеек можно внушить системе беспилотных автомобилей, что это знак, ограничивающий скорость 45 милями в час. Иными словами, состязательная атака может иметь смертельные последствия. В обоих приведенных примерах человек просто не обратил бы внимания на сбивающую с толку информацию и, безусловно, не был бы обманут. На мой взгляд, это самая яркая демонстрация того, насколько поверхностным и хрупким являются представления, формирующиеся в современных глубоких нейросетях.

Сообщество исследователей ИИ серьезно относится к состязательным атакам и считает их критической уязвимостью. Ян Гудфеллоу посвятил значительную часть своей исследовательской карьеры вопросам безопасности использования систем машинного обучения и созданию способов защиты. Сконструировать системы ИИ, неуязвимые для состязательных атак, непросто. В одном из подходов применяется так называемое соревновательное обучение, при котором в обучающие выборки специально включают состязательные примеры в надежде, что нейросеть сможет идентифицировать атаки. Однако, как и в случае дипфейков, здесь почти неизбежна постоянная гонка вооружений, в которой атакующие всегда будут на шаг впереди. Как отмечает Гудфеллоу: «Никто еще не создал по-настоящему мощный алгоритм защиты, способный противостоять разнообразным атакующим алгоритмам на основе состязательности».

Хотя состязательные атаки касаются исключительно систем машинного обучения, они станут очень серьезной проблемой в списке компьютерных уязвимостей, которыми смогут воспользоваться киберпреступники, хакеры или иностранные разведывательные службы. Поскольку искусственный интеллект применяется все шире, а интернет вещей усиливает взаимосвязь устройств, машин и инфраструктуры, вопросы безопасности становятся намного более значимыми с точки зрения последствий, а кибератаки наверняка участятся. Более широкое применение ИИ неизбежно вызовет появление более автономных систем с меньшим участием людей, которые станут привлекательными целями для кибератак. Представьте, например, ситуацию, когда продукты питания, лекарства и важнейшие расходные материалы доставляются беспилотными грузовиками. Атака, которая заставит эти транспортные средства остановиться или хотя бы создаст серьезные задержки в исполнении заказов, может иметь опасные для жизни последствия.

Из вышесказанного следует, что более широкая доступность и использование искусственного интеллекта будут сопряжены с системными рисками, в том числе угрозами важнейшим инфраструктурным объектам и системам, а также общественному порядку, нашей экономике и демократическим институтам. Я бы сказал, риски для безопасности — это в краткосрочной перспективе важнейшая угроза, связанная с развитием искусственного интеллекта. Поэтому абсолютно необходимо вкладывать средства в исследования, направленные на создание надежных ИИ-систем, и формировать действенную коалицию центральных властей и коммерческого сектора с целью выработки мер регулирования и защиты еще до появления критических уязвимостей.

Подробнее о книге «Власть роботов. Как подготовиться к неизбежному» читайте в базе «Идеономики».

Сообщение Игра в дипфейки: как ИИ создает угрозу для правды появились сначала на Идеономика – Умные о главном.

НАСА, возможно, посадит зонд на самый большой спутник Сатурна, который находится в 764 миллионах миль от Земли — но пока никто не рассчитал математически точное положение Земли, Солнца и нашей собственной Луны в определенный момент в будущем. Ученые делают оценки, но все они основаны на упрощениях.

Проблемы двух тел, например, составление карты движения одной планеты вокруг одной звезды, разрешимы. Эти бинарные орбиты легко предсказать. Но серьезное осложнение возникает, когда появляется третье тело. Луна, на которую одновременно действуют гравитационные силы Солнца и Земли, — часть печально известной проблемы трех тел.

Попытка рассчитать движение трех больших тел по орбите друг друга создает круговую логику. Вычисления зависят от начальных положений тел, но во времени они неизвестны, поскольку тела всегда влияют друг на друга непредсказуемым образом. За 300 лет, прошедших с тех пор, как Исаак Ньютон преподнес эту дилемму в «Началах», усердные физики предложили лишь специфические решения для ограниченных версий проблемы. «В нелинейной системе, подобной хаотической проблеме трех тел, — пишет Кэролайн Делберт для журнала Popular Mechanics, — прогнозы бессмысленны, а интуиция не работает».

Проблема трех тел — лучшая метафора, которую я нашел для социальной сложности, которая затрагивает нас сегодня — проблемы, возникающей в результате взаимодействия трех основных центров тяжести. Эта динамика приводит в замешательство интуицию и заставляет стремиться к порядку в том, что кажется более хаотичным миром. Мы оказались в ловушке проблемы трех тел.

«Какое отношение имеют Афины к Иерусалиму?» — спрашивал христианский апологет Тертуллиан в III веке. Он подразумевал, какое отношение разум философов имеет к религии верующих?

Он был обеспокоен тем, что афинская динамика — аргументированные доводы Платона, Аристотеля и их потомков — была опасной, эллинизирующей силой по отношению к христианству. Соприкосаясь с религиозными верованиями и практикой, она портит отношение верующих к Богу. Для Тертуллиана Афины (мир разума) и Иерусалим (мир веры) были двумя принципиально несовместимыми областями.

Несовместимость Афин и Иерусалима — взаимоотношений между этими двумя городами, символизирующими два разных подхода к реальности, — это вопрос, над которым человечество билось тысячелетиями. Католическая церковь пришла к синтезу между ними, а покойный папа Иоанн Павел II написал, что вера и разум подобны «двум крыльям, на которых человеческая душа поднимается к созерцанию истины».

Другие настроены более скептически. (Одним из основополагающих принципов Мартина Лютера была sola fides — то есть «только вера»). В более широкой культуре противопоставление религии и «науки» указывает на широко распространенное убеждение, что в диаграмме Венна мало или вообще нет пересечений. Но напряженность между Афинами и Иерусалимом подобна проблеме двух тел: по крайней мере, мы понимаем их взаимодействие. Дебаты о «культурной войне» между светским и религиозным также знакомы; мы в состоянии предсказать форму и звучание этих разговоров.

Но сегодня существует третий город, влияющий на два предыдущих. Это Кремниевая долина, которая не управляется ни разумом (практически признак великого предпринимателя — не быть «практичным»), ни чем-то духовным (доминирующее убеждение — одна из форм материализма). Скорее, это место, которое управляется созданием ценности. А важный компонент ценности — это полезность.

Я понимаю, что некоторые люди в Кремниевой долине считают себя создателями рационалистических предприятий. Наверняка, кто-то из них это действительно сделал. Руководящий дух города резюмировал инвестор и ведущий подкаста Шейн Пэрриш, популярный среди представителей Кремниевой долины: «Чтобы по-настоящему проверить идею, нужно понять не то, верна она или нет, а то, полезна ли она». Другими словами, полезность превосходит истину или разум.

В нашем новом столетии — с 2000 года по сегодняшний день — доминирует технологическое влияние Кремниевой долины. Этот город производит продукты и услуги, меняющие мир (мгновенные результаты поиска, доставка миллионов товаров на следующий день, постоянная связь с тысячами «друзей»), которые создают и формируют новые желания. Новый город и новые силы, которые он высвободил, влияют на человечество сильнее, чем мог представить Тертуллиан.

И этот новый город набирает силу. Никогда вопросы Афин и Иерусалима не были опосредованы для нас таким большим разнообразием вещей, которые соперничают за наше внимание и желания. Кремниевая долина, этот третий город, изменил природу проблемы, с которой боролся Тертуллиан. Вопросы о том, что истинно и что полезно для души, теперь в основном подчинены технологическому прогрессу или, по крайней мере, вопросы Афин и Иерусалима теперь настолько связаны с этим прогрессом, что это приводит к путанице.

Трудно избежать утилитарной логики Кремниевой долины, и мы лжем себе, когда рационализируем мотивы. Самым интересным в криптовалютном безумии было повсеместное распространение «белых книг» — представление каждого нового продукта в рациональных терминах или необходимость представить его как продукт Афин. А потом появился Dogecoin.

Мы живем не в мире чистого разума или религиозного очарования, а в чем-то совершенно новом.

Разум, религия и стремление к созданию ценности любой ценой, обусловленные технологиями, в настоящее время взаимодействуют способами, которые мы едва понимаем, но они оказывают огромное влияние на повседневную жизнь. Наш эксперимент с социальными сетями, длящийся два десятилетия, уже показал, до какой степени разум, или Афины, наводнен таким количеством контента, что многие называют его средой постправды. Некоторые социальные психологи, например, Джонатан Хайдт, считают, что это ведет нас к безумию и подрывает демократию. Человечество находится на распутье. Мы пытаемся примирить различные потребности — рационализм, поклонение, продуктивность — и напряжение такого стремления проявляется в том, что мы создаем. Три города взаимодействуют между собой, и поэтому мы живем с технологически опосредованной религией (церковные службы онлайн) и технологически опосредованным разумом (дебаты в Twitter на 280 символов); религиозно адоптированной технологией (биткоин) и религиозно наблюдаемым разумом (соборы безопасности Covid-19); рациональной религией (эффективный альтруизм) и «рациональной» технологией (печатные 3D-капсулы для самоубийств).

Если бы Тертуллиан был жив сегодня, мне кажется, он поинтересовался бы: «Какое отношение Афины имеют к Иерусалиму, и какое отношение они имеют к Кремниевой долине?» Другими словами, как области разума и религии связаны с областью технологических инноваций и их финансистами в Кремниевой долине? Если бы чемпион Просвещения Стивен Пинкер (житель Афин) зашел в бар с монахом-траппистом (Иерусалим) и Илоном Маском (Кремниевая долина), чтобы решить некую проблему, пришли бы они когда-нибудь к консенсусу?

В широком смысле мы все рациональные, религиозные создания, ищущие ценности. «Разумные животные», как назвали нас философы Афин. Люди всегда были религиозными существами, даже если многие уже не включены в организованную религию. С начала времен подавляющее большинство верило в сверхъестественные события или в вещи, которые невозможно полностью объяснить. В наше время ситуация не поменялась. Каждый человек создает и ищет то, что считает ценным — будь то особое блюдо, продукт или семья. Если вы живете в городе и оглянетесь вокруг прямо сейчас, то почти все, что вы увидите — это продукт создания человеческих ценностей. Эти три силы всегда работают, но мы плохо понимаем, как они взаимодействуют.

Наша неспособность понять проблему трех городов заставляет многих людей изолироваться в том или ином городе, не осознавая этого. Ученые ограничиваются академическими районами и погружаются в жизнь разума; христиане призывают принять «выбор Бенедикта», то есть к общинной религиозной жизни, которая отделена от широкой культуры; инженеры Кремниевой долины погружаются в «экосистему», где капитал и контакты текут свободно, а францисканского монаха в сандалиях, идущего по улицам Пало-Альто в коричневой рясе, легко принять за эксцентричного основателя. Не хватает межкультурной грамотности.

Многие продукты, созданные в изоляции Кремниевой долины, несут на себе отпечаток ребенка, выросшего в доме фанатиков без контакта с внешним миром (и да, то же самое можно сказать про другие города). Facebook, в настоящее время Meta*, быстро выпустил продукты, которые обеспечили огромную экономическую ценность, а потом, спустя более десяти лет, их собственные исследования обнаружили пагубное влияние на психическое здоровье подростков, использующих приложение Instagram. Складывается впечатление, что в зачаточном состоянии продукта вопросы ментального здоровья даже не рассматривались. Или рассмотрим Dopamine Labs, компанию из Лос-Анджелеса (географическое положение ничего не значит для наших целей — это в духе Кремниевой долины), которая встраивает функции в приложения, чтобы сделать их более или менее «убедительными». Никакого уважения к рациональному и уж тем более духовному. В первые дни пандемии большинство из нас пытались поддерживать связь с семьей и друзьями с помощью FaceTime или Zoom, но этого было недостаточно. Эти инструменты принесли пользу, а компании, получавшие на этом прибыль, мало задумывались о том, как технология повлияет на общество на уровне желаний, отношений, человечности. Технологии разрабатывались в стенах одного города (Кремниевой долины) в ответ на конкретные проблемы, им не хватает долгосрочного и широкого видения сложных слоев человечества, представленных тремя городами в целом.

В той же степени, в которой люди собираются в одном из трех городов — изолируются, укрепляют стены и закрывают ворота — страдает и культура. Невозможно долго оставаться изолированным в одном городе, не теряя перспективы. Самозваные рационалисты, враждебные религии, закрываются от тысячелетней накопленной мудрости (или просто изобретают собственную форму культа или религии, основанную на разуме). Религия, не уважающая разум, опасна тем, что отрицает фундаментальную часть человечности, а отстраненность приводит к экстремизму, который в худшем случае оправдывает неразумные или даже насильственные действия во имя бога. А эксцессы Кремниевой долины, например, ныне прекратившая существование компания Theranos, создание культа Адама Неймана или технологический пузырь конца 1990-х — все это характеризуются отрешенностью от разума и неспособностью признать светские формы религиозности, которые привели к тому, что эти вещи произошли в первую очередь.

Слишком долгое проживание в одном городе приводит к ощущению дезинтеграции. Мне пришлось решать проблему трех городов в собственной жизни. Ближе к 30 годам, после короткой карьеры на Уолл-стрит и нескольких стартапов, я почувствовал себя радикально неполноценным. Я взял короткий творческий отпуск, чтобы изучить философию. Четыре года спустя я прошел обучение в семинарии в Риме, чтобы стать католическим священником.

В какой-то момент я понял, что провел время в каждом из трех городов и обнаружил, что везде отсутствует здоровая степень взаимодействия друг с другом. Я ушел из семинарии, осознав ошибку — мое стремление к трансцендентности, к Иерусалиму, требует полного ухода из мира бизнеса. Я чувствовал себя настолько одиноким, настолько не на своем месте, что решал отказаться от одного города, прежде чем ступить в другой. В этом и заключается трагедия трех городов: искусственные стены, разделяющие нас на три части.

Покинув семинарию, я решил попытаться жить на пересечении Афин, Иерусалима и Кремниевой долины. Как я обнаружил, решение проблемы заключается в более интегрированном взгляде на человеческую природу.

В Западном мире мы давно избегаем вопроса о человеческой природе. Можно даже утверждать, что мы давно отказались от попыток прийти к согласию по этому вопросу.

В Вестфальском мире, договоре, который положил конец кровопролитной Тридцатилетней войне в 1648 году, воюющие стороны согласились разойтись во мнениях по основным вопросам человеческой жизни, например, в том, следует ли свободу человека направить на что-то конкретное, чтобы прекратить воевать. Примерно в это же время была принята идея cuius regio, eius religio («чьё царство, того и религия»). Данный закон давал право князю или правителю определенной области навязывать населению свою религию. Если кто-то не хотел подчиняться, он переезжал в другую область, контролируемую сувереном с более предпочтительными убеждениями. Это был удобный способ избежать необходимости каких-либо соглашений по фундаментальным вопросам и борьбы за них до конца.

Спустя десятилетия после перемирия Джон Локк, чья философия повлияла на отцов-основателей Америки больше, чем любая другая, писал о человеческой природе как о «непостижимом иксе». Он знал, что разногласия по поводу религии (Иерусалим) и разума (Афины) опасны, поэтому признавал вопрос о человеческой природе недоступной идеей, о которой людям больше не придется спорить и переживать.

Идеи Локка повлияли на то, что в итоге превратилось в коммерческое общество, где вопросы о значимости человека отнесли к сфере личного мнения, а не к общественным дебатам. У людей могут быть личные желания, но они имеют возможность удовлетворить их на свободном рынке. Никто не уполномочен ставить под сомнение то, чего хочет кто-то другой. Это может быть даже кощунством. Если человеческая природа — это непостижимый икс, мы должны жить и давать жить другим.

Но древние вопросы всплывают вновь из-за тревожного характера технологических изменений. Нас вынуждают решать эти вечные, экзистенциальные вопросы из-за событий, которые вызывают конфликт между тремя городами, например, возможности искусственного интеллекта, или моральные вопросы, поднятые геномикой, или противоречия между свободой и общественной безопасностью, вскрытые пандемией Covid-19, или зарождающееся осознание того, что социальные сети делают нас несчастными.

Люди начинают задавать элементарные вопросы: «Что значит быть человеком и что дают нам технологии?» Находимся ли мы сейчас, как предполагает автор Юваль Ной Харари, в процессе «превращения себя в богов» с их помощью? Даже формулировка вопроса указывает на слияние трех городов. Вечная религиозность человечества сливается с технологическими инновациями Кремниевой долины и заставляет задавать квазирациональный вопрос, как в конце книге Харари: «Что нам нужно желать?».

Природа желания сложна и в высшей степени социальна ( я объясняю это в своей книге «Желание»). Мы не ответим на вопрос о потребностях, будучи изолированными или находясь в стенах любого из трех городов. Человеческое желание сложно, потому что оно построило все три города — Афины, Иерусалим и Кремниевую долину, — и только опираясь на коллективную мудрость, мы начинаем приближаться к решению.

Я верю, что мы вправе надеяться на то, что жители Афин, Иерусалима и Кремниевой долины решат работать вместе ради общего блага. Нам надо перестать зарывать голову в песок.

Можно начать с признания существования трех городов и поиска различных способов для обмена между ними, для предотвращения соперничества и поддержания пути к сотрудничеству. Один из способов добиться прогресса — начать серьезно относиться к антропологии. Проблема трех городов — это вопрос устоев. В каждом городе существует концепция того, что значит быть человеком, и каждая считается редукционистской. Нам следует создавать великие вещи на примере антропологического видения. Проблема трансгуманистического движения не в том, что оно хочет сделать слишком много, а в том, что оно хочет сделать слишком мало. К людям часто относятся как к обновляемым компьютерам, которые нуждаются в настройке аппаратного и программного обеспечения, чтобы снизить количество багов, а не как к существам, созданным для поклонения (говоря словами Боба Дилана, существам, которым «следует кому-то служить»).

Одна из проблем, связанных с простым поощрением большего «диалога» или идеологического разнообразия внутри организаций, заключается в том, что мало кто находит время для пересмотра фундаментальных антропологических вопросов и предпосылок. Иногда люди собираются, чтобы обсудить, как предотвратить предвзятость искусственного интеллекта, но не задаются более фундаментальными вопросами, например, что произойдет с человечностью, если избавиться от лиц и превратить их в аватары, или на что станет похожа жизнь, если люди будут сведены к множеству точек данных.

Задача о трех телах начинается со знания начального положения и скорости трех физических тел. Дальнейшая сложность заключается в том, что мы обычно не знаем исходной позиции заинтересованных сторон — мы не осведомлены о фундаментальных предположениях друг друга. Но люди — не планеты; мы способны вести диалог, который удержит нас от действий вслепую, как это было раньше. Если мы хотя бы знаем исходные позиции вовлеченных людей, то перестанем говорить в пустоту и начнем решать фундаментальные вопросы человечества, вместо того, чтобы обходить их стороной или считать, что все говорят об одном и том же, например, о «преимуществах» той или иной технологии. Наши мысли о пользе зависят от того, из какого города мы приехали и в каком городе хотим жить в конечном итоге.

К. С. Льюис в первой главе книги «Человек отменяется» пишет, что сердце человека — это центральное место встречи, среднее понятие между внутренними, интеллектуальными и духовными измерениями. Конечно, он писал это задолго до появления Кремниевой долины. Но его призрачная фраза с таким же успехом описала бы будущее, которое мы строим, — будущее без «средней части» или без груди — без пересечения и объединяющего ядра или центра. Он пишет, что нас ожидает антиутопическое будущее, потому что «Мы лишаем людей сердца и ждем от них живости чувств. Мы смеемся над благородством и ужасаемся, что вокруг столько подлецов».

Если мы будем делать вид, что человеческая природа — это непостижимый икс, то продолжим создавать технологии для этого непостижимого существа и удивляться, обнаружив страдания среди нас. Мы создадим такие вещи, как порноиндустрия стоимостью $12 млрд, которая в настоящее время почти полностью подпитывается технологиями, не задавая самых элементарных вопросов о том, что эта индустрия делает с нами и с нашими отношениями.

То, что важно в одном городе, не обязательно так же ценится в других. Но есть место совместных возможностей — то, где существование одного человека не отрицает перспективы существования другого и где ценности, доминирующие в каждом городе, сосуществуют с остальными и приносят им пользу.

Когда мы не чувствуем себя целостными или осознаем, что технология порождает в нас желание, это происходит потому, что мы продали себя за бесценок. Но есть более широкое и полное видение человечества, которое мы можем восстановить.

Самые важные инновации ближайших десятилетий будут происходить на пересечении трех городов — и их создадут люди, которые там живут.

* Запрещенная в России организация

Сообщение Проблема трёх городов: что общего между Афинами, Иерусалимом и Кремниевой долиной? появились сначала на Идеономика – Умные о главном.

Несмотря на то, что многие страны стараются сократить выбросы углекислого газа, в некоторых областях условия становятся слишком экстремальными для жизни. Чтобы выжить, местному населению придется переехать, уверена автор Time Гайя Винс. Она рассказывает о том, что нужно сделать человечеству, чтобы без потерь встретить массовую миграцию.

Эта миграция уже началась — люди бегут из пострадавших от засухи районов Латинской Америки, Африки и Азии, где стало невозможно заниматься сельским хозяйством — и темпы этого процесса будут только нарастать. Поэтому человечеству стоит подготовиться и адаптировать питание, энергетические системы и инфраструктуру к изменяющимся условиям.

При этом важно отделить политическую карту от географической и определить, где находятся запасы пресной воды и больше всего солнечной и ветровой энергии. Вокруг этих мест и нужно спланировать размещение людей. Не стоит переживать: на Земле достаточно место. Если взять 20 кв.м на человека, то для 11 млрд человек хватит 220 тысяч кв.км площади. К примеру, площадь одной лишь Канады составляет 9,9 млн кв.км.

Однако плохая новость заключается в том, что на планете не будет мест, которые не затронет изменение климата. Уже к 2050 году условия жизни в некоторых точках станут невыносимыми, а к 2100 это будет совсем другая планета.

Из-за глобального потепления территории с оптимальным для человека температурным режимом (а это средняя температура от 11°C до 15°C) смещаются на север. Исследования показывают, что в зависимости от сценариев роста населения и потепления от 1 до 3 млрд человек окажутся вне привычных климатических условий, а примерно треть населения будет жить при средних температурах, которые сейчас наблюдаются в Сахаре.

Людям придется уезжать от экватора, покидать береговые линии и небольшие острова, а также засушливые и пустынные регионы. Популяции будут перемещаться вглубь суши, в сторону озер, возвышенностей и северных широт. А если посмотреть на земной шар, то становится понятно: основная часть суши находится в северном полушарии. И хотя температура в этих безопасных регионах будет расти — причем даже быстрее, чем на экваторе — её средние показатели все равно будут намного ниже, чем в тропиках.

К счастью, говорит Винс, в северных широтах уже располагаются богатые страны, в которых, как правило, существуют сильные институты и стабильные правительства, необходимые для создания социальной и технологической устойчивости к вызовам этого века. Однако они уже сегодня пытаются ограничить потоки мигрантов, которые куда меньше, чем те, что ожидаются в ближайшие 75 лет. Но, как говорит Винс, изменить политико-социальное мышление более возможно, чем вернуть тропикам обитаемость.

Такие места, как район Великих озер в Канаде и США, столкнутся с огромным притоком мигрантов, поскольку обширные водоемы будут поддерживать умеренный климат в регионе. Но лучшим местом для жизни будет Аляска. Согласно анализу климатических моделей, к 2047 году среднемесячные температуры на Аляске станут такими же, как сегодня во Флориде. Но в то же время таяние вечной мерзлоты создает проблемы для коренных общин, чей образ жизни безвозвратно меняется. Неизвестно, пишет Винс, как отреагируют общины на приток мигрантов с юга, но этот процесс неизбежен.

Крайний север преобразится. Таяние ледникового щита Гренландии — крупнейшего на Земле после Антарктиды — откроет новые районы для людей, где они смогут жить, заниматься земледелием и добывать полезные ископаемые. Один из таких городов, который будет быстро расти в ближайшие десятилетия, — столица Гренландии Нуук. Там уже очевидны последствия изменения климата — жители говорят о тех годах, «когда было холодно». Кроме того, благодаря таянию льда переживают подъем рыболовство и земледелие. Сейчас фермеры Нуука выращивают даже картофель, редис и брокколи. По прогнозам, к 2100 году в Гренландии будут даже леса. Возможно, это одно из лучших мест для жизни.

То же самое относится к Канаде, Сибири и другим части России, Исландии, скандинавским странам и Шотландии, которые продолжат получать выгоды от глобального потепления.

Оказывается, у крупнейших источников выбросов парниковых газов сегодня в среднем на 10% более высокий ВВП на душу населения, чем он мог бы быть без потепления, в то время как у стран с наименьшим уровнем выбросов показатели меньше примерно на 25%.

Быстрое таяние льда сделает Северо-Западный проход — морской путь через Арктику, соединяющий Атлантический и Тихий океаны — открытым для судоходства большую часть года, что сократит время в море примерно на 40%. Это упростит региональную торговлю, туризм, рыболовство и путешествия, а также откроет возможности для разведки полезных ископаемых. Прибыль получат портовые города вроде Черчилля в Манитобе.

Как говорит Винс, правительство Канады делает ставку на развитие за счет мигрантов. По данным Маршалла Берка, заместитель директора Центра продовольственной безопасности и окружающей среды Стэнфордского университета, глобальное потепление повысит средний доход в Канаде на 250% благодаря значительному увеличению вегетационного периода, снижению затрат на инфраструктуру и увеличение морского судоходства.

Россия также выиграет от глобального потепления. По данным Национального разведывательного совета США, Россия «сможет извлечь максимальную пользу из более умеренной погоды». Страна уже сейчас — крупнейший в мире экспортер пшеницы, и ее сельскохозяйственное доминирование будет расти по мере улучшения климата. Согласно моделям, к 2080 году более половины вечной мерзлоты Сибири исчезнет, что сделает замерзший север более привлекательным. Вопрос заключается в том, сможет ли Россия справиться с негативным воздействием таяния вечной мерзлоты, так как инженерные методы решения этой проблемы очень дороги.

По прогнозам, даже в Антарктиде к концу века появится до 17 тыс кв. км. новых земель, свободных ото льда. Это может дать возможность для развития, однако Винс выразила надежду, что этот последний дикий континент Земли останется ценным природным заповедником.

Люди будут стремиться к более безопасным местам, и им будет лучше переехать в места, где уже есть хорошее управление, производительность и ресурсы. К счастью, есть много мест, где они совпадают. Часть этой миграции будет включать быстрое расширение существующих городов и поселков; в других местах, таких как Российская Сибирь и Гренландия, необходимо будет построить совершенно новые города.

По словам Винс, для безопасного расселения сотен миллионов мигрантов, возможно, придется выкупать какие-то земли у нынешних государств. Кроме того, более богатые и безопасные страны должны стать помощниками для более бедных и уязвимых в кризисный период. Возможно, часть государств исчезнут, а часть объединятся в региональные геополитические образования.

Один из вариантов — это открытие границ, которое увеличило бы мировой ВВП на десятки триллионов долларов.

«Наряду с катастрофическими потерями этого века у нас есть так много возможностей, которые появятся, если мы откроем свой разум для разных способов жизни и оторвем людей от их фиксированных мест проживания. Миллионы людей переедут в этом столетии, и прямо сейчас у нас есть шанс сделать эти потрясения успешными посредством спланированного мирного перехода к более безопасному и справедливому миру. Мы должны попробовать», — заключает Винс.

Сообщение Побег из пустыни: где будут жить люди в условиях глобального потепления? появились сначала на Идеономика – Умные о главном.

Забудьте о Великой Отставке, нехватке рабочей силы и борьбе за место в офисе: «тихое увольнение» — это последняя тема для разговоров о странном мире работы. И, как и в случае с большинством перемен на рабочем месте в наши дни, поколение Z находится в центре всего этого. Его представители делятся в соцсетях историями об увольнении не в прямом, а в переносном смысле. Они отказываются от идеи выходить за рамки необходимого рабочего минимума.

Это может выражаться в отказе отвечать на электронные письма в нерабочее время или в просмотре социальных сетей во время простоя вместо того, чтобы выполнять другие задания. Цель — соблюдать свои должностные обязанности и ничего больше.

Сторонники явления говорят, что это здоровая граница, позволяющая распутать связи между работой и жизнью, которые стали такими тесными в последнее десятилетие. Противники утверждают, что «тихое увольнение» — это способ «отсидеться», демонстрация лени, которая может навредить карьере. Многие согласны с тем, что это еще один способ, благодаря которому остальной мир должен проснуться, чтобы понять уникальный подход поколения Z к культуре труда.

Но в этих дебатах не хватает чего-то важного. Тихое увольнение — это просто новый термин для старой концепции, которую каждое поколение открывает для себя заново: делать на работе минимум. Тихое увольнение — это не просто фишка поколения Z или новое явление: люди работают так годами  (или не работают так годами, сказали бы критики).

Тридцать семь процентов пользователей LinkedIn согласны с этим, заявив в ходе опроса, что тихое увольнение — это «сказка, что стара как мир». Это не столько тенденция, сколько подход к работе, который поколение Z смогло вывести на передний план благодаря активному использованию технологий и началу своей карьеры в эпоху удаленной работы, которая поставила под сомнение столетние традиции.

Но задолго до того, как поколение Z пришло на рынок труда, люди выполняли на работе самый минимум. Они просто называли это по-другому.

Тихое увольнение — это просто отстраненность

Возможно, вы знаете, что тихое увольнение можно назвать другим термином: отстраненность, по словам Стефана Майера, профессора бизнес-школы Колумбийского университета.

Он указывает на статистику: более более 86% работников во всем мире отмечают, что за последние 15 лет они не были вовлечены в свою работу. «Возможно, после пандемии этот показатель несколько увеличился, но это не новое явление», — говорит он.

Если учесть, что представители поколения Z во время пандемии в основном завершали образование, то получается, что большинство из тех, кто стабильно работает спустя рукава — это представители старшего поколения.

Бунт против угнетающих норм на рабочем месте имеет долгую историю. Предыдущие поколения восставали против устоявшейся корпоративной рабочей культуры середины прошлого века, изображенной в классических фильмах 1960-х годов, таких как «Квартира» или сериалах, таких как «Безумцы» 2000-х. Это был мир, в котором люди (в основном мужчины) ходили в офис каждый будний день (и многие выходные) в костюме и галстуке, часто с фетровой шляпой и мартини за обедом.

В эпоху диско 1970-х годов и стагфляционной экономики произошло несколько поворотных моментов. Женщины впервые вышли на рынок труда в значительном количестве, что послужило катализатором появления концепции «баланса между работой и личной жизнью», поскольку они стремились построить карьеру и родить детей.

Затем последовали 1980-е, под девизом «алчность — это благо», с их сверхмощным финансовым сектором, оставившим далеко позади веселье «эгоистичного десятилетия». Но те или иные формы-прототипы «тихого увольнения» продолжали появляться в течение следующих нескольких десятилетий, поскольку в 1990-х годах возник архетип «бездельника» поколения X, который затем уступил свое место лопнувшему «пузырю доткомов». Но по пути у многих представителей поколения X родились дети, которые стали сегодняшними представителями поколения Z.

В определенный момент все делают это

Для работников на этапе жизни 20 с небольшим лет — самой старшей когорты поколения Z — типично идеализировать увлеченность делом и гибкость. И представители поколения X, и миллениалы озвучивали стремление к балансу между работой и личной жизнью, когда начинали свою карьеру. Но, по словам Майера, у него сложилось ощущение, что на более позднем этапе карьеры сотрудники обычно становятся менее заинтересованными.

«Люди начинают с больших надежд на то, что они могут оказать влияние и найти смысл в работе, — говорит он. — Часто реальность оказывается иной, и это может принести сильное разочарование».

Учтите, что исследование Gallup 2013 года показало, что бумеры и представители поколения X менее склонны к вовлеченности, чем представители других поколений. Согласно результатам повторного исследования, проведенного два года спустя, бумеры более старшего возраста в большей степени утратили вовлеченность, чем те представители поколения, что были моложе. Возможно, что по мере приближения к пенсионному возрасту, представители поколения бумеров стали чаще страдать когнитивными возрастными нарушениями, а поколение X осталось верным своим корням «бездельников 90-х». Старшие представители поколения X также вступали в средний возраст, который может быть связан с заботой о родителях и детях, и, возможно, установили более четкие границы между работой и личной жизнью, чтобы проводить больше времени с семьей.

Отдельное исследование Gallup, проведенное в 2016 году, показало, что только 29% миллениалов были вовлечены в работу, что меньше, чем 33% тремя годами ранее. Некоторые представители этого поколения, возможно, все еще метались по рынку труда после рецессии, просто трудясь на любой работе, которую они могли получить, и, скорее всего, не чувствовали увлечения своим делом.

Майер подчеркивает: «Невовлеченные сотрудники были всегда». Таким образом, «тихое увольнение» — это скорее следствие проблемной культуры труда, которая относится к работникам как к собственности, а не как к людям. «Компании начали терять представление о том, что такое хорошее отношение к сотрудникам, ставя во главу угла производительность и контроль», — считает Майер, добавляя, что на них также возложена задача создать атмосферу увлеченности делом, которая нужна, чтобы сохранять здоровый баланс между работой и личной жизнью.

Пандемия усилила невовлеченность

«Тихое увольнение» — это последняя из нескольких тенденций в деловой сфере эпохи пандемии. Центральная тема их всех: отказ от продуктивности в пользу счастья, все это проявления главной тенденции Великой Отставки.

Для поколения Z это было не столько сменой приоритетов, сколько нормой, поскольку они пришли на работу в эпоху Zoom. Они столкнулись с отсутствием заинтересованности в работе в самом начале своей карьеры, когда работа из дома стала более легкой по умолчанию. Для них это пришло из отрицания культуры экстремального трудоголизма и герл-боссов (героиня новой эпохи, успешно и легко сочетающая профессиональный успех, счастливую личную жизнь и идеальную картинку отдыха), 2010-х. Арианна Хаффингтон, генеральный директор и основатель Thrive Works считает, что «тихое увольнение» — это реакция поколения Z на культуру выгорания, которая доминировала в жизни их родителей. Капитализм, сетует поколение Z, только вредит их психическому здоровью; они предпочли бы карьеру, не связанную с их личностью.

«В то время как другие поколения думали, что их идентичность начинается в 9 утра и заканчивается в 17:00, поколение Z часто считает, что их идентичность начинается вне работы, — объясняет Джейсон Дорси, эксперт по поколению Z и основатель Центра кинетики поколений. — Определяя свою личность не через свою должность, они чувствуют меньше напряжения».

Сообщение «Тихое увольнение»: что приходит на смену трудоголизму появились сначала на Идеономика – Умные о главном.

Растения пойдут на многое, чтобы завлечь опылителей. Притвориться женской особью насекомого (с феромонами!), чтобы привлечь похотливых самцов, источать зловония гниющей плоти для соблазнения голодных мух или, что встречается чаще всего, предложить сладкие вознаграждения любому посетителю. Для распространения драгоценной пыльцы не существует слишком вульгарных или дорогих средств. 

Большинство опылителей посещают несколько видов растений, и, как правило, проблемы не возникает, когда вокруг много пчел, мух и других любителей пыльцы. Но в настоящее время исследования показывают, что при нехватке опылителей этот процесс превращается в насилие.

Экологическая теория предсказывает, что конкуренция из-за сокращения численности опылителей подталкивает растения к более разнообразным стратегиям взаимодействия и использования среды обитания для привлечения опылителей, что в свою очередь приведет к увеличению разнообразия растений.

Но согласно другой теории, с уменьшением опылителей уменьшается и вероятность того, что один и тот же опылитель посетит один и тот же тип более редких растений, а значит, более распространенные виды вытеснят уникальные, что приведет к снижению биоразнообразия.

Наш мир, похоже, движется по второму сценарию, о чем говорит тревожное сокращение численности насекомых и возникновение болезней, поразивших, к примеру, ближайшего союзника-опылителя, европейскую медоносную пчелу. Именно поэтому, группа исследователей во главе с экологом Принстонского университета Кристофером Джонсоном решила проверить конкурирующие теории в полевых экспериментах.

Используя 80 участков площадью 2,25 м² с парными видами однолетних растений, произрастающих в Швейцарии, исследователи вручную контролировали плотность опыления на некоторых участках. Остальным приходилось полагаться на обычный уровень опыления в окружающей среде. Джонсон и его команда сравнили показатели популяции и приспособленности для каждого случая.

Все пять используемых видов растений – горчица полевая, кукуруза громовидная, мак обыкновенный, василек и дикий фенхель — полагались на общее опыление насекомыми, но у кукурузы громовидной также есть функция самоопыления. 

Были огорожены еще 22 репликационных участка, причем половина подвергалась воздействию только одного вида опылителей, а остальные — фоновому уровню окружающей среды для имитации сокращения численности опылителей. Для этих участков исследователи измерили количество посещений цветов опылителями.

«Для девяти из десяти пар видов конкуренция за опылителей ослабила стабилизирующие различия в нишах между конкурентами», — пишут Джонсон и его коллеги в своей статье. Это означает, что когда опыление сократилось, парные виды не достигли нового баланса взаимодействий друг с другом в общих зонах окружающей среды.

«Эти результаты подтверждают гипотезу, что опылители дестабилизируют конкуренцию растений, отдавая предпочтение более распространенным видам в ущерб более редким конкурентам», — заключает команда.

Кажется, когда невероятный ассортимент насекомых-опылителей становится скудным, каждое растение начинает действовать лишь в собственных интересах, захватывая все оставшееся внимание опылителей за счет соседей.

Способность к размножению у обыкновенного мака, дикого фенхеля и василька при ручном опылении была в три раза выше, чем при фоновом, что свидетельствует о естественном самоограничении этих видов для достижения баланса с соседями.

Но эти растения так тактичны лишь до определенного момента: команда определила ослабление внутривидовой конкуренции в качестве основного фактора дестабилизации многовидовых сообществ.

В результате возник дисбаланс конкуренции и усугубились средние различия в приспособленности между видами растений: это привело к снижению способности всех пар видов растений к сосуществованию друг с другом.

Это может привести к тому, что наиболее распространенные группы растений вытеснят более редкие из когда-то процветающих сообществ.

Исследователи не ожидали, что это произойдет равномерно у всех пар видов. Поскольку исследование проводилось на небольшой территории и в короткие сроки, ученые утверждают, что со временем, возможно, для некоторых видов установится новое равновесие сосуществования.

Но Джонсон с коллегами решили проверить, отличается ли измеренное ими парное взаимодействие в случае, когда растения выращивались в более разнообразных сообществах (три, четыре и пять видов). Они обнаружили, что в целом ничего не меняется, а это еще больше укрепляет их выводы.

Если выводы верны в более широких масштабах, то они вызывают беспокойство. Если растительные сообщества действительно так легко становятся неустойчивыми по мере сокращения численности опылителей, более широкие взаимодействия между видами и их последствия трудно предсказать. Но хотя бы частичное понимание этих процессов имеет решающее значение в попытках сохранить как можно больше биоразнообразия при ухудшении условий.

Между тем, мы можем уменьшить дальнейшее сокращение численности насекомых, выращивая местные растения, возвращая мохнаток в естественную среду обитания, избегая пестицидов, гербицидов и других токсичных химикатов. Также стоит ограничить внешнее освещение и поддерживать группы и лидеров, которые действительно принимают во внимание эти крошечные, но критически важные шестеренки живого мира.

Сообщение Битва за пчел: дефицит опылителей толкает растения на хитрости появились сначала на Идеономика – Умные о главном.

Информация, которую называют общеизвестной, в основном соответствует действительности, и она известна множеству людей. Все знают, что столица Франции — Париж, и это правда. Всем известно, сколько букв в алфавите, какого цвета стоп-сигналы и какой формы бывает радуга. То, что всем известно, обычно правда. Но иногда общеизвестные факты оказываются ошибочными. Все знали, что люди не способны летать, или построить 100-этажный дом, или запустить компанию, которая сдает в аренду вашу лишнюю спальню. Оказывается, то, что знают все, иногда бывает неправдой. И разницу заметить очень трудно.

Мы привыкли полагаться на экспертов. Обычно эксперты правы. Они тратят жизнь на то, чтобы докопаться до сути одной или двух вещей — благодаря этому они действительно разбираются в данном вопросе. Как правило, если эксперты считают что-то правдой, этому стоит доверять. Но очень часто находится другой эксперт, у которого другое, иногда противоположное, профессиональное мнение по тому же вопросу. И обычным людям приходится решать, какому же эксперту поверить.

Рассмотрим две области, в которых эксперты не дадут 100% гарантии: быстрое развитие и прогнозирование будущего. Работая в журнале Wired, я участвовал в проекте под названием Reality Check. В его рамках мы опрашивали информированных людей о вероятных датах появления того или иного изобретения. Допустим, мы хотели узнать, когда появятся лазерные стоматологические бормашины. Все стоматологические эксперты прогнозировали, что лазерные сверла появятся лишь в далеком будущем, в то время как футуристы, не относящиеся к стоматологии, говорили о более раннем времени. В целом эксперты более консервативны «в своей области знаний» в отношении будущих изобретений. Они лучше других понимают проблемы и трудности, и поэтому им трудно поверить в возможность сногсшибательных прорывов. И если спустя годы после прогнозов эти изобретения действительно появлялись, то выяснялось, что эксперты в этой области обычно ошибались в датах.

Другая сфера, в которой эксперты часто ошибаются, — быстрое развитие событий. Квалифицированный эксперт полагается на консенсус науки, который требует времени. Берется множество предварительных теорий, данных для сортировки, проводятся эксперименты для проверки, а затем все фрагменты интегрируются с остальной наукой. Но если все происходит быстро и по-новому, для достижения такого консенсуса не хватает времени.

Сейчас мы постоянно находимся в таком состоянии. В первые дни появления Covid-19 все происходило очень быстро. Было много незнания и мало уверенности. Несмотря на то, что были проведены тысячи экспериментов, потребовалось время, чтобы прийти к консенсусу, а многие аспекты вируса еще продолжают формироваться. Получается, что на каждого эксперта есть еще один такой же анти-эксперт, который не согласен с каким-то пунктом. Искусственный интеллект — быстро развивающаяся сфера, и неспециалисту трудно принять решение, чему (и кому) верить в этом вопросе. Криптовалюты — еще один пример масштабной области, в которой есть конфликтующие эксперты. Простому обывателю очень трудно понять, кому верить.

В неспокойные времена и в отсутствие консенсуса люди обращаются к неортодоксальным идеям. Это опасно, ведь многие из них ошибочны, какие-то носят конспирологический характер, а многие просто глупы. Но нам следует быть открытыми для противоречивых идей, ведь иногда то, что знают все, оказывается неверным. В то же время, когда между экспертами возникает согласие, вероятно, «общеизвестные факты» правдивы. Прошло два года с начала пандемии Covid-19, мы много знаем о вирусе, о способах передачи и как с ним бороться. Наше невежество все еще велико, но у нас достаточно консенсуса среди экспертов, чтобы признать некоторые утверждения верными.

У нас нет высокоразвитых механизмов для ранних стадий знания, которые двигаются так быстро, что включается неповоротливый маховик науки и мы получаем единогласное мнение экспертов. Нам следует использовать пример с коронавирусом и рассмотреть, что же лучше всего работает в первый год неожиданных событий. Если мы составим рейтинг экспертов, которые первыми высказались относительно вируса и ближе всех подошли к консенсусу спустя еще 2 года, то мы научимся определять их на ранней стадии.

Есть ли какая-то черта, место или метод, которые они использовали и которые можно применить в других областях, чтобы помочь определить экспертов, заслуживающих доверия? Я предполагаю, что быстрая наука отличается от обычной. Возможно, есть вещи, которые ученые могут сделать, чтобы увеличить вероятность правоты во время быстрых изменений. Мы точно знаем, что, учитывая природу науки — хорошей науки, — не все оказываются правы. Системе следует быть открытой для неортодоксальных идей. Есть ли способ быстро прийти к протоконсенсусу, не упуская из виду реальную вероятность того, что все наши знания ошибочны? Способность быстро что-то изучить стала бы великим цивилизационным навыком.

Сообщение Быстрый консенсус: важный навык в масштабе цивилизации появились сначала на Идеономика – Умные о главном.

В настоящее время мало кто сомневается в том, что люди меняют климат Земли. Насущный вопрос заключается в следующем: как быстро мы сможем остановить этот процесс и даже возместить ущерб?

Отчасти на него отвечает концепция «предстоящего потепления» (committed warming), известная еще как «нагревание трубы» (pipeline warming).

Это относится к будущему повышению глобальной температуры, которое произойдет из-за уже выброшенных в атмосферу парниковых газов. Иначе говоря, если бы переход на чистую энергию произошел в одночасье, насколько бы потеплело в любом случае?

Отсутствие баланса в энергетическом бюджете Земли

Человечество провоцирует глобальное потепление тем, что в результате его деятельности выделяются парниковые газы, которые удерживают тепло в нижних слоях атмосферы, не давая ему уйти в космос.

До того, как люди начали сжигать ископаемое топливо для электроснабжения заводов и обеспечения работы транспорта, а также выращивать практически во всех сельскохозяйственных регионах крупный рогатый скот, который выделяет метан, энергетический бюджет Земли был примерно сбалансирован. От Солнца к ней поступало в среднем столько же энергии, сколько от нее уходило в космос.

Сегодня растущие концентрации углекислого газа в атмосфере более чем на 50% выше, чем в начале индустриальной эпохи, и они удерживают всё больше тепла.

Эти выбросы углекислого и других парниковых газов, таких как метан, хотя и компенсируются отчасти некоторыми видами загрязняющих воздух аэрозолей, но удерживают тепловую энергию, эквивалентную той, что выделилась бы в секунду при взрыве сразу пяти атомных бомб, подобных сброшенной на Хиросиму.

Когда энергии поступает больше, чем уходит, Земля накапливает тепло, повышая температуру суши, океанов, воздуха и приводя к таянию льдов.

Нагревание трубы

Для того, чтобы проявились последствия вмешательства в энергетический баланс Земли, необходимо время. Подумайте о том, что происходит, когда вы полностью открываете кран с горячей водой в холодный зимний день: трубы заполнены холодной водой, поэтому теплой воде требуется время, чтобы дойти до вас – отсюда и термин «нагревание трубы». Потепление еще не ощущается, но оно уже на подходе.

Согласно ожиданиям, после прекращения выбросов климат Земли продолжит нагреваться по трем основным причинам.

Во-первых, ключевые факторы глобального потепления – углекислый газ и метан – задерживаются в атмосфере в течение длительного времени: в среднем около 10 лет для метана и колоссальные 400 лет для углекислого газа, а некоторые его молекулы остаются в воздухе тысячелетия. Таким образом, прекращение выбросов не приведет к мгновенному уменьшению количества этих газов, удерживающих тепло в атмосфере.

Во-вторых, потепление частично компенсируется другими формами антропогенных загрязнений – способными отражать солнечный свет сульфатными аэрозолями и крошечными частицами сажи, возникающими при сжигании ископаемого топлива. В течение последнего столетия это «глобальное затемнение» маскировало парниковый эффект. Но антропогенные аэрозоли вредят и биосфере, и здоровью человека. И если удалить их и короткоживущие парниковые газы из атмосферы, прежде чем будет достигнуто новое равновесие, потеплеет еще на несколько десятых градуса примерно в течение следующих десяти лет.

И наконец, чтобы приспособиться к любому изменению энергетического баланса, климату Земли требуется время. Около двух третей ее поверхности состоит из воды, имеющей иногда очень большую глубину и медленно поглощающей избыток углерода и тепла. На сегодняшний день более 91% антропогенного тепла и около четверти избыточного углерода ушло в океаны. В то время как обитатели суши могут быть благодарны за этот буфер, дополнительное тепло способствует повышению уровня моря за счет теплового расширения и появлению морских «волн жара», а дополнительный углерод делает океан более агрессивным для многих панцирных организмов, что способно нарушить пищевые цепи в нем.

Температура поверхности Земли, обусловленная дисбалансом излучаемой энергии в верхних слоях атмосферы и модулируемая огромной тепловой инерцией ее океанов, всё еще «догоняет» концентрацию углекислого газа – свой самый главный регулятор.

Насколько велико будет потепление?

Итак, насколько велико предстоящее потепление? Однозначного ответа нет.

Мир уже нагрелся более чем на 1,1 градуса Цельсия (2 F) по сравнению с доиндустриальным уровнем. Договоренность о попытке предотвратить его дальнейшее повышение более чем на 1,5 °C (2,7 F) была достигнута мировым сообществом в 2015 году, но государства реагируют медленно.

Определить величину предстоящего потепления сложно. Несколько недавних исследований использовали для его оценки моделирование климата. Изучение 18 моделей земной системы показало, что некоторые из них и после прекращения выбросов продолжают нагреваться от десятков до сотен лет, в то время как другие начали быстро охлаждаться. Еще одно исследование, опубликованное в июне 2022 года, установило: вероятность достичь повышения температуры более чем на 1,5 °C составляет 42%.

Уровень глобального потепления имеет значение, потому что его опасные последствия не просто возрастают пропорционально повышению температуры, они, как правило, увеличиваются экспоненциально. И особенно это важно для сельскохозяйственного производства, подверженного рискам из-за жары, засухи и ураганов.

Кроме того, Земля имеет свои точки невозврата, прохождение которых может вызвать необратимые изменения в таких уязвимых ее элементах, как ледники или экосистемы. Мы не обязательно узнаем сразу, что планета прошла их, поскольку зачастую эти изменения проявляются медленно. Но на этих и других чувствительных к климату системах базируется принцип превентивного ограничения потепления на 2 °C (3,6 F) либо на более предпочтительные 1,5 °C.

Суть климатической проблемы, заложенной в идее предстоящего потепления, заключается в том, что между изменениями в поведении человека и изменениями в климате есть большое запаздывание. Хотя точный объем ожидаемого потепления всё еще является предметом разногласий, уже доказано: самый безопасный путь вперед – это срочный переход к безуглеродной и более справедливой экономике, выбрасывающей гораздо меньше парниковых газов.

Сообщение Потепление неизбежно: прекращение выбросов не остановит климатических изменений появились сначала на Идеономика – Умные о главном.

Когда в 1945 году в качестве медицинского оборудования была впервые использована искусственная почка, стало очевидно, что жизненно важные для человеческого организма органы можно заместить. Вскоре после этого сердце – когда-то считавшееся средоточием человечности – было заменено внешними устройствами, которые свели непостижимую сложность сердечной мышцы к гораздо более простым искусственным частям.

Не так давно группа ученых из Йельского университета опубликовала результаты эксперимента по частичному возобновлению клеточных функций в организме свиней через час после их смерти. С помощью системы OrganEx они восстановили некоторую клеточную активность в сердце, печени и, что наиболее значимо для биоэтических дискуссий, в мозге животных. Хотя свиньи не пришли в сознание, исследователи из Йельского университета показали, что жизненно важные органы могут поддаваться воздействию дольше, чем предполагало большинство ученых. Хотя это открытие еще не имеет клинического применения, оно способно бросить новый вызов медицинским определениям границы между жизнью и смертью.

Мозг является тем человеческим органом, который нельзя заменить искусственно. Как пишет философ Дэниел Деннет, трансплантация мозга – это единственный вид операции, при которой человеку стоит испытывать желание становиться донором. Если когда-то символом уникальности людей было сердце, то сегодня то, что мы понимаем под человеческой жизнью, определяет липкая масса, плавающая внутри наших черепов.

До середины ХХ века пациента могли без дискуссий назвать мертвым, если его сердце остановилось, и легкие перестали работать. Но аппараты ИВЛ и дефибрилляторы привели к тому, что движения грудной клетки оказались ненадежным способом диагностики смерти. В конце 1960-х годов врачи, озабоченные приживаемостью трансплантируемых органов, предложили новый подход к констатации гибели организма, который ориентировался на смерть мозга, а не на функционирование других органов. Этот подход прижился, и когда сегодняшние врачи фиксируют время смерти своих пациентов, они имеют в виду момент, когда медицинские аппараты больше не могут регистрировать или поддерживать функционирование мозга.

По мнению специалиста по биоэтике из Гарварда Роберта Труога, то, что мы официально называем «смертью», является «скорее моральным суждением, чем биологическим фактом». Иными словами, смерть мозга – это не точка, в которой организм окончательно умирает, а скорее произвольно установленный предел, необходимый для дальнейшей работы правовой и медицинской систем. Хотя не существует надлежаще задокументированных случаев восстановления сознания после того, как была правильно диагностирована смерть мозга, Труог предсказывает: медицинские достижения способны в какой-то момент помешать нам использовать термин «смерть мозга» в качестве юридически обязательного определения того, что формулируется как «смерть человека» – необратимое прекращение «фундаментальной работы живого организма».

С успешным восстановлением частичной активности клеток мозга и сердца у млекопитающих день, когда медицинские технологии снова вынудят нас изменить определение человеческой смерти, становится ближе.

Это обещание одновременно и волнует, и пугает. Если мы экстраполируем потенциал системы OrganEx команды Йельского университета, то в конечном итоге, вероятно, сможем оживить угасший мозг и перезапустить органы, которые когда-то считались необратимо мертвыми. (Как выясняется, «необратимо мертвый» – это не плеоназм.) Всего через несколько десятилетий мы, возможно, будем вынуждены признать, что смерть – это не столько биологический предел, сколько административная процедура. А свидетельство о смерти станет свидетельством того, что семья покойного не может позволить себе «воскресить» близкого человека или сохранить его тело до появления таких технологий. Благодаря достижениям в области крионики и новым инструментам, таким как OrganEx, это уже не просто научная фантастика, а реальность, возможная в нашем столетии.

Иначе говоря, подобное отделение жизни от смерти способно привести к более тяжелому виду морального суждения – вопросу о том, кто может позволить себе поддерживать функционирование тела. В таком будущем неравенство в отношении здоровья усугубится: богатые смогут предотвращать свою смерть неоднократно, а наименее обеспеченные будут вынуждены принять действительно «необратимое прекращение» своих телесных функций. Но дело в том, что такое будущее вряд ли незнакомо тем, кто сегодня относится к наименее обеспеченным. В 2022 году почти ежечасно умирает человек, ожидающий пересадки органов.

Представление о том, что смерть может быть и даже иногда бывает результатом административных барьеров – отсутствия аппаратов ИВЛ, донорских органов или, в будущем, более совершенных, но дорогих устройств OrganEx, – делает ее сложной для принятия. Можно задаться вопросом, должны ли мы и дальше разрабатывать продлевающие жизнь технологии, если они рискуют усугубить наше и без того ужасающее неравенство.

Я полагаю, что да, должны. В 1940-х годах подавляющее большинство пациентов с почечной недостаточностью не имели доступа к диализу, хотя у некоторых очень богатых, или имеющих связи, или просто счастливчиков он был. С тех пор миллионы малообеспеченных пациентов были спасены благодаря тому, что мы смирились с этим периодом недоступности. И в 2022 году процедура искусственной почки далека от справедливого распределения, и не имеющие медицинской страховки часто не могут ее себе позволить. Тем не менее, единственный способ расширить доступ к передовым медицинским технологиям – это стимулировать их дополнительное финансирование, даже если это временно усугубит неравенство.

Если философ Уильям Макаскилл прав, и если мы вносим свой вклад в то будущее, на которое хотели бы рассчитывать, то человечество только вступает в период своей юности и несет моральное обязательство улучшать жизнь будущих поколений. На самом деле, при нынешних темпах технического прогресса не исключено, что эти продлевающие жизнь медицинские технологии будущего могут стать доступными для людей с низким доходом, живущих уже сегодня. И можно утверждать, что самый быстрый и этически допустимый способ снизить цену на сверхсовременные методы лечения состоит в том, чтобы, согласно принципу различия философа Джона Ролза, богатые субсидировали их в качестве первых клиентов.

Показательным примером является секвенирование ДНК. Определение первой неполной последовательности в 2003 году стоило 2,7 млрд долларов и не имело клинической значимости. В 2011 году Стив Джобс заплатил 100 тыс. долларов, чтобы изучить последовательность своей ДНК и ДНК своей опухоли, что не дало обнадеживающих результатов. Сегодня, по крайней мере отчасти, благодаря гарвардскому генетику Джорджу Черчу, с 1990-х годов выступавшему за демократизацию секвенирования генома, это рождественский подарок за 299 долларов для обеспеченных людей, и он только начинает приносить пользу  в клинической медицине. Завтра страховые компании и европейские правительства предложат секвенирование ДНК бесплатно, что позволит уязвимым группам населения воспользоваться этим когда-то чрезвычайно дорогим инструментом.

Практика предотвращения смерти существует столько же, сколько существует и связанная с ней идея медицины. Как показывает история, сегодняшние экстраординарные меры завтра станут просто мерами, спасающими жизни реальных людей – и богатых, и бедных. Это будет верно, даже если мы снова изменим наше определение того, где заканчивается жизнь и начинается смерть.

Сообщение Неравенство перед смертью: стоит ли развивать медицинские технологии, доступные только богатым появились сначала на Идеономика – Умные о главном.

Жизнь в 30-е годы прошлого столетия была отмечена Великой депрессией, в начале нулевых — Великой рецессией, а нынешнее десятилетие можно охарактеризовать как Великую регрессию. К такому выводу приходит автор статьи в журнале Aeon, токийский писатель и переводчик Мэтт Альт. Он рассказывает о том, как в трудные времена, когда людям приходится преодолевать кризисы в экономике, политике, здравоохранении, они отказываются идентифицировать себя со взрослыми.

Западные общества долго относились к инфантилизации с нескрываемым презрением. Согласно традиционным нормам, «долгое детство» опасно. Незрелый человек некомпетентен, неспособен обеспечить себе пропитание, нежизнеспособен. Даже в нынешние времена, явно более благосклонные к молодежи, считается постыдным вести себя не по возрасту. 

Альт уверен, что Великая Регрессия (которую он называет “глобальным вторым детством”) — реакция на отсутствие светлого будущего. Это доказывает Япония, столкнувшаяся с ней на 20 лет раньше. Опыт Японии показал, что происходит, когда молодые люди в гиперсвязном постиндустриальном обществе теряют веру в будущее. Разрушенная Второй мировой войной, Япония в 1960-е годы превратилась в экономического тигра. К 1970-м она стала второй по величине экономикой планеты, и этот успех поначалу вызывал насмешки, японцев называли «нацией трудоголиков, живущих в кроличьих клетках». И культура трудоголизма долго приносила плоды. Богатая жизнь японцев вызывала зависть у западного мира.

В 1991 году эксперты прогнозировали, что к началу ХХI века Япония обгонит США и станет крупнейшей экономикой мира. […] Но в том же году национальный экономический «пузырь» лопнул.

Экономическая депрессия повлекла за собой эмоциональную — Япония стала лидером по числу самоубийств. Известные сегодня термины — хикикомори (люди, отказавшиеся покидать свои дома), кароши (смерть от работы) — появились именно в тот период. Рухнувшая экономика взорвала поп-культурные фантазии японцев. Испытывая трудности с поиском работы, лишенные возможности выезжать за границу, жители японии повернули “внутрь себя” — в токийских модных кварталах можно было встретить взрослых, щеголяющих в нелепых нарядах, манга, видеоигры, аниме, косплей стали важными элементами жизни взрослых.

Эти увлечения оказались больше, чем просто нишевая субкультура. На протяжении почти всех 1990-х самый популярный в Японии журнал комиксов Weekly Shōnen Jump еженедельно продавался тиражом в 6 млн экземпляров. В 1995 году съезд фанатов Comic Market посетило четверть миллиона людей, что сделало его самым большим из всех фанатских собраний в мире. Но в то время японский мейнстрим пренебрежительно называл этих сверхпотребителей поп-культуры «отаку», что означало сосредоточенность на своих увлечениях в ущерб всей остальной жизни. Ирония заключалась в том, что в 1990-х на фоне отчаянного стремления стимулировать потребительские расходы отаку были одними из последних, кто всё еще серьезно потреблял. Но социальные критики упрекали их за покупку «неправильных», не подобающих взрослым вещей – игр, мультфильмов, комиксов.

Эти «детские» импульсы оказались способными влиять на целые отрасли. Когда в 2007 году Apple выпустила iPhone, он мгновенно стал хитом во всем мире, кроме Японии — там эмодзи изначально не были включены в операционную систему.

Постепенно подобная модель «антивзросления» стала распространяться и по западному миру. Для Америки 1990-2000-е годы подобная траектория казалась невозможной, и в силу «исключительности» США, и в силу культурной специфики Японии. Не подавала признаков «детскости» и американская молодежь, увлеченная традиционными атрибутами взрослости. «Безделушки взрослой жизни — машины, свидания, карьера, личные дома — заманчиво сверкали в пределах досягаемости». Жизнь с родителями выглядела неудачей. Но исследование 2020 года показало уже другую картину – более половины американцев в возрасте от 18 до 29 лет из-за финансовых проблем живут с родителями. Обремененные студенческими долгами, задержками зарплаты, растущими ценами на жилье — миллениалы перестали смотреть в будущее с оптимизмом. Подобно японской молодежи, они вынужденно превратились во взрослых детей.

Примеры можно найти повсюду. Взрослые по всему миру приправляют свои онлайн-разговоры эмодзи и детскими словечками, читают подростковые романы (чаще, чем сами подростки), в фильмах доминируют герои, основанные на персонажах мультфильмов и игрушках, подиумы моды завоевывает ретро-эстетика, вдохновленная одеждой для детей.

В 2010-х эксперты в англоязычных СМИ создали множество неологизмов для описания тех взрослых, которые вели себя по-детски – это и реювенилы (как выразился Кристофер Ноксон), и недовзрослые (adultescents), и кидалты. Психолог Джин Твенге в своей книге «iПоколение» (2017) описала тех, кто родился после 1995 года, как «более терпимых, менее мятежных и менее счастливых – и совершенно неготовых к взрослой жизни». Такие описания изображают склонность современной молодежи к регрессии как контрпродуктивное бегство от реальности. Как следует из рассуждений, контрпродуктивно оно потому, что детская восприимчивость не готовит взрослого к «реальному миру». Но это не так. Использование детских аспектов – это ответная реакция на «реальный мир»: на стрессы пандемии, изменение климата, давление социальных сетей и политические противостояния. Это не бегство, это создание совершенно новых способов взаимодействия с реальностью…

Примером может послужить производитель детских конструкторов Lego, опередивший, согласно опросу 2021 года, таких гигантов, как Amazon и Disney. И успех его связан со взрослыми поклонниками, на которых компания стала ориентироваться последние десятилетия. Что привело ее к участию в социально-политических акциях, поддержке правозащитников и меньшинств. Превращение детской игры в способ влияния на мир подтверждает мысль легендарного дизайнера Чарльза Имса о том, что «игрушки и игры – это прелюдия к серьезным идеям».

Упреки ко взрослым «детям» за то, что они своими увлечениями разрушают процветающие отрасли, что из-за их образа жизни резко упала рождаемость, а это чревато экономической стагнацией из-за уменьшения количества работников, налогоплательщиков и потребителей, можно компенсировать тем, что «детское» поведение ставит под вопрос многие устоявшиеся представления – о возрасте, о поле, о труде, о власти. И традиционалистам, особенно облеченным властью, это может не нравиться, поскольку угрожает утратой контроля.

Парадоксально, но среди штурмовавших Капитолий в 2021 году было много поклонников косплея и комиксов, бунтовавших не против ограничений взрослой жизни, а против достижений других «детей», добившихся равноправия для притесняемых групп. Так «детскость» оказалась традиционней самой традиционности.

Поэтому стоит различать две формы регрессии – конструктивную, расширяющую границы за счет поиска нового, и деструктивную, охраняющую границы с помощью насилия. Обе формы питаются чувством социального разочарования, но действительно ли регрессия разрушает реальность или она отражает сомнения в светлом будущем? Такое ли оно светлое, и есть ли оно вообще при столь изменчивом настоящем? Именно эта неопределенность и ненадежность препятствует принятию «взрослой» жизни.

В мир фантазий, нежных и светлых либо темных и конспирологических, людей всех возрастов уводит чувство незащищенности. Запертые в помещении, раздавленные одиночеством, круглосуточно окруженные ужасающими новостями, покинутые властью, мы находим единственную помощь в успокоительных онлайн-зрелищах, дофамине социальных сетей и развлекающей информации. Наш текущий момент способен выглядеть откровенной антиутопией.

Мэтт Альт подчеркивает, что на фоне социально-политического апокалипсиса эти «обезьяны с мобильными телефонами» не бездельничают. Они выстраивают новый образ жизни, который лучше подходит для странного нового мира, оставленного нам стариками. Побег в фантазии — это попытка адаптироваться к суровой реальности.

Образ жизни вечно молодых японцев часто подвергался критике. Но когда в 2010-х годах точно такие же тенденции начали проявляться повсеместно, стало очевидно, что японцы вовсе не странные. Просто в социальном плане они добрались до будущего несколько раньше, чем другие нации. Вся планета сейчас переживает свои «потерянные десятилетия». Но принятие своего внутреннего ребенка — это не обязательно отрицание реальности. Великая регрессия — это признак стойкости перед лицом серьезных неудач. Кто может предугадать, какой взрослый вырастет из нашего второго детства?

Сообщение То ли люди, то ли куклы: что случилось с поколением Великой регрессии появились сначала на Идеономика – Умные о главном.

В мае этого года DeepMind, дочерняя компания технологического гиганта Alphabet, произвела фурор в Силиконовой долине, объявив о Gato, вероятно, самой многофункциональной из существующих моделей искусственного интеллекта. Представленный как «универсальный агент», Gato может выполнять более 600 различных задач. Он способен управлять роботом, подписывать изображения, идентифицировать объекты на картинках и многое другое. Это, пожалуй, самая продвинутая система искусственного интеллекта на планете, не специализированная на выполнении какой-то одной функции. И, по мнению некоторых экспертов в области вычислительной техники, она свидетельствует о том, что отрасль подошла к долгожданному и очень обсуждаемому рубежу – общему искусственному интеллекту (ОИИ).

В отличие от обычного общему искусственному интеллекту для изучения задачи не потребуется гигантских массивов данных. В то время как первый должен быть предварительно обучен или запрограммирован для решения определенного набора задач, второй может учиться с помощью интуиции и опыта.

Теоретически общий интеллект способен изучить всё, что может изучить человек, если ему предоставить такой же доступ к информации. Если вы поместите ОИИ на чип, а этот чип – в робота, робот может научиться играть в теннис так же, как мы с вами: размахивая ракеткой и получая представление об игре. Это не обязательно означает, что робот разумен или способен к познанию. У него может и не быть мыслей или эмоций, он просто очень хорошо учится выполнять новые задачи без помощи человека.

Для человечества это было бы крайне важно. Подумайте о том, чего вы могли бы достичь, имея машину с интеллектуальными способностями человека и преданностью собаки, – машину, которую можно приспособить для любых целей. Так выглядит перспектива общего интеллекта. Это андроид C-3PO из «Звездных войн», но без эмоций, мистер Дейта из «Звездного пути», но без любопытства, робот Рози из «Джетсонов», но без личности. В руках толковых разработчиков он мог бы воплотить идею искусственного интеллекта, ориентированного на человека.

Но насколько ближе стала мечта об общем искусственном интеллекте? И действительно ли Gato ведет нас к этому?

Для определенной группы ученых и разработчиков – назову их адептами культа Масштабирование-Превыше-Всего (Scaling-Uber-Alles), используя термин всемирно известного эксперта по искусственному интеллекту Гари Маркуса, – Gato и подобные системы, основанные на трансформерах (моделях глубокого обучения), уже являются планом создания ОИИ. Эти трансформеры, по сути, используют огромные базы данных и миллиарды или триллионы настраиваемых параметров для прогнозирования того, что будет новым звеном в последовательности.

Адепты Масштабирования-Превыше-Всего, среди которых такие известные специалисты, как Илья Суцкевер из OpenAI и Алекс Димакис из Техасского университета в Остине, считают, что трансформеры неизбежно приведут к ОИИ – осталось только их увеличить и ускорить. Как недавно написал Нандо де Фрейтас, член команды создателей Gato: «Теперь всё дело в масштабе! Игра окончена! Речь идет о том, чтобы сделать эти модели больше, надежнее, эффективнее с точки зрения вычислений, с более быстрой выборкой и более умной памятью…». Де Фрейтас и компания понимают, что им придется создавать новые алгоритмы и архитектуры для поддержки этого роста, но они, кажется, верят, что ОИИ возникнет сам по себе, если продолжать увеличивать размеры таких моделей, как Gato.

Назовите меня старомодным, но когда разработчик говорит мне, что его план состоит в ожидании, пока ОИИ волшебным образом появится из облака больших данных, как илистая рыба из первичного бульона, я склонен думать, что он пропускает несколько шагов. И, видимо, я не одинок. Множество экспертов и ученых, в том числе Маркус, утверждают: в грандиозных планах по превращению искусственного интеллекта, подобного Gato, в полноценные интеллектуальные машины не хватает чего-то фундаментального.

Недавно я изложил свои мысли в трех эссе для The Next Web, где работаю редактором. Если коротко, то ключевая предпосылка для ОИИ заключается в том, что он должен иметь возможность получать свои собственные данные. Но модели глубокого обучения, такие как трансформеры, – это чуть более, чем машины, предназначенные для того, чтобы делать выводы относительно уже предоставленных им баз данных. Они – библиотекари, и поэтому хороши настолько, насколько хороши их учебные библиотеки.

Общий интеллект теоретически может разобраться во всем, даже если у него будет крошечная база данных. Он интуитивно должен понять методологию выполнения задачи, основываясь только на своей способности выбирать, какая внешняя информация важна, а какая нет, подобно тому, как человек решает, на чем сосредоточить свое внимание.

Gato крут и не имеет аналогов. Но, по сути, это умный комплекс, который, возможно, создает иллюзию общего искусственного интеллекта благодаря мастерскому использованию больших данных. Например, его гигантская база, скорее всего, содержит наборы данных, основанные на всем контенте таких сайтов, как Reddit и Wikipedia. Поразительно, как людям удалось сделать так много с помощью простых алгоритмов, лишь заставив их анализировать больше информации.

На самом деле, Gato – настолько впечатляющий способ фальсификации общего интеллекта, что заставляет меня задуматься: не пошли ли мы не тем путем. Когда-то согласно тесту Тьюринга считалось, что многие из задач, на которые сегодня способен Gato, может выполнить только ОИИ. Но такое впечатление, что чем большего мы достигаем с помощью обычного искусственного интеллекта, тем сложнее становится задача создания общего интеллекта.

По этим причинам я скептически отношусь к тому, что глубокое обучение – единственный путь к ОИИ. Я считаю, что нам нужно нечто большее, чем просто увеличение баз данных и дополнительных параметров для настройки. Нам понадобится совершенно новый концептуальный подход к машинному обучению.

Я действительно думаю, что в итоге человечество преуспеет в создании общего искусственного интеллекта. Предполагаю, что мы постучим в эту дверь не позднее середины следующего века, и когда сделаем это, то выяснится, что всё выглядит совсем не так, как представляют себе ученые из DeepMind.

Но наука прекрасна тем, что вы должны доказывать свою работу, это DeepMind и делает прямо сейчас. И у компании есть все возможности продемонстрировать мне и другим скептикам, как мы ошибаемся.

Я искренне надеюсь, что это удастся.

Сообщение Впечатляющий способ фальсификации: почему ИИ пока совсем не интеллект появились сначала на Идеономика – Умные о главном.