Даже эксперты, создающие ИИ, не знают, что будет дальше. Возможно ли вообще появление общего искусственного интеллекта? Будет ли масштабирование продолжаться? Потребуются ли нам огромные вычислительные центры для создания ИИ, или мы сможем сделать это всего лишь с 25 ваттами, как в нашем мозге? Что будут делать люди по мере того, как ИИ будет становиться умнее? Каким будет будущее экономики, войны или гражданского общества?
Все считают по-разному. У создателей машин столько же разных идей, сколько у наблюдателей, экспертов, других ученых и самых мудрых из нас. Никто не знает наверняка. Есть ощущение, что мы узнаем это в течение следующих трех лет. Для некоторых темпы изменений говорят о том, что если все будет продолжаться в том же духе, то самое позднее к 2029 году прорисуются контуры мира, где ИИ стоит на первом месте. К тому времени мы ответим на вопрос о масштабировании, увидим влияние на занятость и почувствуем ускорение этого процесса в экономике. Или нет.
Это разумный и не абсурдный сценарий. Но я предлагаю альтернативный, который следует учитывать: ИИ продолжит удивлять нас своей сущностью. Поскольку ИИ продолжает быстро развиваться, через 3 года эти вопросы еще не будут решены. К 2029 году мы по-прежнему не будем знать, возможен ли ИИ, мы не сможем сказать, повлияет ли это на занятость, и мы по-прежнему не сможем сказать, стоит ли это огромных инвестиций. Я не имею в виду, что прогресс ИИ застопорится. ИИ продолжает развиваться, но новые технологии не отвечают на старые вопросы, а лишь усугубляют невежество, потому что новое — это новое в новом смысле. Нам нужно изменить представления (и методы оценки) занятости, пересмотреть концепции (и методы измерения) экономики, изменить представление о том, что вообще представляет собой ИИ.
Другими словами, мы переживаем длительный период неопределенности. Не несколько лет, а десятилетие или даже больше. По мере развития ИИ, вместо того чтобы разрешить нашу растерянность, он усугубляет ее. Поэтому в течение следующих 10-15 лет мы будем жить в условиях постоянной, непрерывной и серьезной неопределенности. Это тягостное бремя, потому что люди ненавидят неопределенность больше, чем плохие новости.
Ситуация гораздо сложнее. Искусственный интеллект — лишь одна из составляющих этой грандиозной неопределенности. В следующем десятилетии США продолжат скатываться с вершины своего статуса единой мировой сверхдержавы, в то время как Китай продолжит набирать силу и престиж. Этот сдвиг в сторону дуополии порождает новый мировой порядок, и никто — особенно китайцы и американцы — не знает, как все обернется. Неопределенность вокруг этого сдвига практически безгранична, и тем не менее его неопределенные последствия затронут всех в мире, но особенно США.
Свержение с вековой позиции единственного лидера станет огромным психологическим ударом, и неопределенность того, что последует за этим, тяжело отразится на всех аспектах жизни. Неопределенность новой роли распространяется и на Китай, потому что, мчась вперед со скоростью 1000 миль в час, они понятия не имеют, куда движутся. Неопределенность глобальных отношений и новой национальной идентичности, а также неопределенность индивидуальной ценности и идентичности, связанная с ИИ, повышают общий уровень неопределенности до новых высот. Все это — очень большая головоломка, и она не решится за 3 года. Это будет устойчивая неопределенность.
Ситуация усугубляется. После долгой первой волны подлинной глобализации сейчас наблюдаются водовороты хаоса и поляризации, поскольку страны адаптируются к всемирной иммиграции и безграничному распространению современной культуры, что вызывает хаос в национальной политике и сеет недоверие к истеблишменту. Анархия, дестабилизация, противоречивые действия, удары по государствам, похоже, стали нормой во всех странах мира. Этот дикий хаос отчасти подпитывается новыми технологиями социальных сетей, которые заменили контролируемый подход традиционных СМИ. Новости стали гораздо более изменчивыми, их трудно контролировать, и это еще больше усиливает и без того возросшую неопределенность. Ощущается, что гражданское общество движется на неизведанную территорию почти постоянного временного регулирования.
Кроме того, ИИ заставляет даже самых умеренных людей сомневаться в правдивости прочитанного, увиденного или услышанного. Это реальность или результат работы ИИ? Насколько сильно это было искажено? Кому можно доверять в вопросе о том, что реально? Как мы приходим к согласию относительно истинности чего-либо? Традиционные механизмы доверия были подорваны ИИ, поэтому эта новая технологическая область порождает огромную неопределенность. По мере того, как ИИ становится все более искусным в имитации реальности, эта неопределенность, вероятно, будет продолжать расти еще некоторое время, а не только в течение 3 лет. Индикатор неопределенности сейчас находится в глубокой красной зоне.
Наконец, неоднозначность и неопределенность в отношении ИИ, человеческой идентичности или того, является ли то, что мы видим, реальным или сгенерированным, означают, что мы вступаем в период, когда мы даже не уверены в своих сомнениях. Наша неопределенность настолько глубока и устойчива, но при этом неуловима, что у нас будет длительная неопределенность относительно того, действительно ли мы не уверены. Мы можем иметь серьезные разногласия о том, что знаем, и о том, чего не знаем. В модели «Неизвестных неизвестных» Рамсфельда мы столкнемся с неопределенными неопределенностями. И они будут преобладать, по крайней мере, в течение десятилетия или даже дольше.
В итоге мы получаем модель X, многофакторную неопределенность, каскад неопределенности, повсеместное отсутствие уверенности в будущем в эпоху неопределенности.
Учитывая присущую этой эпохе непредсказуемость, каковы могут быть некоторые признаки того, что мы в ней находимся? Они могут выглядеть так: через 5 лет: 1) Среди ведущих исследователей ИИ возникают громкие разногласия по поводу того, существует ли уже общий искусственный интеллект. 2) Авторитетные экономисты не могут определить, увеличилась или уменьшилась производительность труда. 3) Снижается доверие общественности к медиаплатформам и устоявшимся институтам. 4) США и Китай не могут определиться, являются ли они союзниками или противниками. 5) Наблюдаются неоднозначные всплески уровня занятости в оба направления. 6) Повышается уровень тревожности в медицинской сфере. 7) Важные судебные решения оставляют столько же вопросов, сколько и ответов. 8) Обязательства (брак, работа) откладываются еще на более поздний срок. 9) Инвестирование и распределение капитала становятся дороже. 10) Нигилизм получает уважение.
При создании сценария очень важно задать себе вопрос: что может предотвратить его развитие? Возможно, нет одной единственной силы, способной устранить эту затянувшуюся неопределенность, но, возможно, это сочетание нескольких факторов. Если бы искусственный общий интеллект появился без сомнений через 3 года, и Китай захватил бы Тайвань, несмотря на действия США, и если бы компании нашли способ закрепить доверие к СМИ и обеспечить надежность, тогда, возможно, эта затянувшаяся неопределенность могла бы прекратиться.
Второй вопрос, который следует задать себе, — что нам делать, если мы окажемся в подобной ситуации? Наиболее эффективный ответ на эту многоуровневую, устойчивую неопределенность — не стремиться к недостижимой стабильности, а развивать радикальную адаптивность и гибкость. Откажитесь от надежного прогноза того, что произойдет дальше. Вместо этого разработайте множество сценариев развития событий и постарайтесь в каждом из них максимизировать свои возможности. Цели следует рассматривать как одноразовые гипотезы, которые можно отбросить и заменить более подходящими концепциями в будущем. Вы ошибетесь в 19 из 20 своих ожиданий, но по крайней мере одно из них позволит вам двигаться дальше. Принимайте решения не на основе того, «правильны» ли они, а на основе того, дают ли они вам больше возможностей в будущем.
В нашу эпоху неопределенности уверенность станет губительной. В наше время больше неудач будет происходить из-за чрезмерной самоуверенности, чем из-за сомнений. Ключ к успеху — не зацикливаться на одном варианте. Нужно научиться одновременно рассматривать множество противоречивых возможностей. (Чтобы не поддаться последним модным прихотям, эта радикальная адаптивность должна основываться на непоколебимом наборе неизменных добродетелей, таких банальных, как честность, или таких изящных как щедрость.) Стратегия процветания в условиях длительной неопределенности должна заключаться в постоянной, гибкой перенастройке.
Короче говоря, в наш век неопределенности нужно научиться менять свое мнение.
В этой ситуации мы сталкиваемся не с временным туманом, а с фундаментальным изменением природы познания. Повсеместная, измеримая неопределенность во всех основных областях человеческой деятельности снижает уровень истины и достоверности, на который мы обычно опираемся. Когда неизвестное затмевает известное, и все границы постоянно перерисовываются, мы перестаем доверять какой-либо карте. Неполнота и противоречивость вокруг нас проникают в самые глубины души, так что мы сами чувствуем себя неполноценными и противоречивыми. Естественная реакция — всесторонний скептицизм.
Я не предсказываю такое будущее и очень надеюсь, что оно не сбудется. Но кажется, что это возможно, и есть свидетельства того, что мы уже переживаем некоторые этапы этого сценария. Если мы склоняемся к этому направлению, нам следует внимательно изучить его и, возможно, дать ему название: Эпоха Неопределенности.
Сообщение Кевин Келли: нас ждет новая эпоха неопределенности появились сначала на Идеономика – Умные о главном.