По мере того как искусственный интеллект все глубже проникает в повседневную жизнь, растет и беспокойство по этому поводу. Наибольшую тревогу вызывают опасения, что искусственный интеллект может выйти из-под контроля и уничтожить хозяев-людей.
Однако за призывами приостановить развитие ИИ стоит целый ряд более ощутимых социальных проблем. Среди них риски, которые ИИ представляет для частной жизни и достоинства людей, а также неизбежный факт, что, поскольку алгоритмы в основе искусственного интеллекта разработаны людьми, он проявляет предвзятость, как и многие из нас. Если добавить к этому отсутствие открытости в вопросе, кто и как разрабатывает ИИ, то становится понятно, почему сегодня мы чаще обсуждаем риски использования ИИ, а не его потенциал.
Но мои исследования как психолога, изучающего, как люди принимают решения, приводят меня к мысли, что все эти риски омрачаются еще более губительной, хотя и практически невидимой угрозой. Когда речь идет о способности людей принимать обдуманные решения, ИИ может еще больше навредить развитию этого качества.
Принятие обдуманных решений
Процесс принятия обдуманных решений включает в себя три разумных шага, начиная с понимания задачи или проблемы, с которой вы столкнулись. Спросите себя, что вам нужно знать и что нужно сделать, чтобы принять решение, которое впоследствии вы сможете убедительно и уверенно отстаивать?
Ответы на эти вопросы зависят от активного поиска информации, которая как заполняет пробелы в знаниях, так и опровергает прежние убеждения и предположения. Фактически, именно эта информация о контрфактах — альтернативных возможностях, которые появляются, когда люди проверяют определенные предположения, — в конечном итоге поможет вам защитить решение, если оно подвергнется критике.
Второй шаг — поиск и изучение сразу нескольких вариантов. Хотите улучшить качество жизни? Неважно, за кого вы голосуете, на какую работу соглашаетесь или какие вещи покупаете, всегда есть не только одна дорога, которая приведет к этому. Продуманный и обоснованный выбор обладает характерной чертой: вы тратите усилия на активное изучение и оценку хотя бы нескольких вероятных вариантов, причем честным способом, когда вы готовы пойти на компромисс между плюсами и минусами.
Третий шаг — готовность отложить принятие решения до того момента, когда вы проделаете всю необходимую умственную работу. Не секрет, что завершение процесса — это приятное чувство, потому что оно означает, что вы оставили трудное или важное решение в прошлом. Тем не менее цена преждевременного решения может быть гораздо выше, чем время, потраченное на предварительную подготовку. Если не верите, просто подумайте о тех случаях, когда вы позволяли чувствам руководить, а потом сожалели о том, что не нашли времени подумать немного лучше.
Когда решает ИИ
Ни один из этих трех шагов не является ужасно сложным. Но для большинства они также не являются чем-то само собой разумеющимся. Принятие продуманных и обоснованных решений требует практики и самодисциплины. И вот тут-то и проявляется скрытый вред, которому подвергает людей ИИ: большая часть его «мышления» скрыта, мы видим ответы, лишенные контекста и обдуманности. Хуже того, ИИ лишает людей возможности самостоятельно практиковаться в процессе принятия продуманных и обоснованных решений.
Подумайте, как мы подходим к принятию многих важных решений сегодня. Известно, что люди подвержены широкому спектру предубеждений, потому что мы склонны к экономному расходованию умственной энергии. Эта бережливость приводит к тому, что людям нравится, когда за них принимают, казалось бы, хорошие или надежные решения. Помимо этого, мы — социальные существа, которые склонны ценить безопасность и признание со стороны общества больше, чем собственную автономию.
Добавьте к этому искусственный интеллект, и в результате получится опасная петля обратной связи: данные алгоритмов ИИ состоят из предвзятых решений людей, которые также отражают давление конформизма, а не мудрость критического мышления. Но поскольку людям нравится, когда за них принимают решения, они склонны принимать эти плохие решения и переходить к следующему. В итоге ни мы, ни ИИ не становимся мудрее.
Быть внимательным в эпоху искусственного интеллекта
Было бы ошибочно утверждать, что ИИ не принесет обществу никакой пользы. Скорее всего, он принесет пользу, особенно в таких областях, как кибербезопасность, здравоохранение и финансы, где требуется быстро и регулярно анализировать сложные модели и огромные объемы данных. Однако большинство повседневных решений не требуют такой аналитической мощности.
Но независимо от собственных желаний, многие из нас уже получают советы от ИИ, пользуются результатами его деятельности в самых разных сферах, от развлечений и путешествий до учебы, здравоохранения и финансов. А разработчики упорно трудятся над созданием ИИ нового поколения, который сможет автоматизировать еще больше повседневных решений. И это, на мой взгляд, опасно.
В мире, где алгоритмы социальных сетей уже влияют на мнение людей, мы рискуем оказаться в еще более опасном положении, если позволим искусственному интеллекту достичь такого уровня развития, когда он сможет принимать всевозможные решения от нашего имени. На самом деле, мы обязаны противостоять очаровательной легкости ИИ и вернуть себе право владеть истинной привилегией (и обязанностями) быть человеком: уметь думать и выбирать самостоятельно. Мы будем чувствовать себя лучше и, что важно, станем лучше, если сможем.
Сообщение Иллюзия самостоятельного выбора: в чем опасность ИИ для важнейшего навыка человека появились сначала на Идеономика – Умные о главном.