Какая таблетка – красная или синяя? Этот знаменитый вопрос о выборе между миром реальности и тотальной симуляции еще недавно был совершенно фантастическим. Но современные нейротехнологии вполне могут сделать его реальным уже в недалеком будущем – они вплотную подошли к тому, чтобы расшифровывать и кодировать деятельность мозга. Это внушает не только большие надежды, особенно в области медицины, но и большие опасения, в первую очередь – сможет ли человек в итоге остаться хозяином самому себе. Что, по мнению ученых, нужно сделать уже сегодня, чтобы завтра не оказаться в мире Матрицы?
Даже с внешней стороны прогресс нейротехнологий – прежде всего, интерфейсов мозг–компьютер (brain–computer interface, BCI) – выглядит впечатляюще. Так, только за период с 2010 по 2020 год, по данным исследовательской компании NeuroTech Analytics, объем инвестиций в этот сектор увеличился более чем в 20 раз, достигнув около 7 миллиардов долларов в год. Данной темой занимаются порядка 1200 компаний. Значительна и государственная поддержка в отдельных странах – к примеру, американская президентская инициатива BRAIN, направленная на всестороннее исследование мозга с помощью новейших нейротехнологий, ежегодно получает десятки миллиардов долларов.
Но результаты исследований впечатляют еще больше. Так, в 2004 году Мэтью Нэгл, парализованный в результате ножевого ранения, стал первым человеком, у которого с помощью системы BCI, имплантированной в моторную кору мозга, была частично восстановлена функциональность. Только с помощью мыслей он научился управлять курсором на экране, используя его для разных действий, а также сжимать и разжимать роботизированную руку. В 2011 году исследователи из Университета Дьюка продемонстрировали BCI, который позволял обезьяне не только управлять виртуальной рукой, но и с помощью стимуляции соматосенсорной коры мозга получать обратную связь – чувствовать предметы, к которым она «прикасалась». В 2012 году парализованная женщина смогла выпить кофе с помощью роботизированный руки, которой управляла через BCI исключительно силой мысли.
Параллельно изучались возможности BCI и для расшифровки визуальных образов. В 2008 году команда Джека Галланта, нейробиолога из Калифорнийского университета в Беркли, используя данные фМРТ-сканирования, измеряющего активность мозга через оценку гемодинамики в различных его областях, смогла точно определить, какое конкретно изображение из большого набора видел участник исследования. В статье, опубликованной в журнале Nature, ученые прокомментировали это так: «Наши результаты показывают, что изображение, которое видит человек, вскоре можно будет реконструировать только на основе измерений активности мозга». В 2011 году группа под руководством Синдзи Нишимото, сотрудника лаборатории Галланта, успешно реконструировала видеоролики на основе записей фМРТ-сканирования участников. А через год команда Юкиясу Камитани расшифровала визуальное содержание снов.
Но особенно впечатляют последние результаты по расшифровке мыслей. В 2021 году сотрудники лаборатории Техасского университета в Остине – информатик Джерри Тан и нейробиолог Александр Хут – смогли прочитать их с помощью семантического декодера. И хотя компьютер воспроизводил мысли участников достаточно спутано и грамматически неточно, но сам факт потрясал – устройство не только улавливало суть, но и точно «читало» отдельные слова. Это стало результатом десятилетней работы по созданию BCI, который с помощью GPT1 генерировал текст на основе фМРТ-сканирования мозга. Год спустя ученые тестировали устройство, не требовавшее внешних стимулов: участникам достаточно было представить в уме сюжет, а декодер выдавал его несколько расплывчатое, но узнаваемое описание. По словам Хута, оба эксперимента указывали на то, что полученные компьютерные расшифровки были «действительно похожи на мысли».
Естественно, что перспективы медицинского применения таких нейротехнологий воодушевляют. Многим людям с крайне ограниченными возможностями здоровья – парализованным из-за травмы или болезни, страдающим тяжелыми формами эпилепсии, нейродегенеративными патологиями, слепотой и т. п. – они дают шанс значительно улучшить качество жизни: снова общаться с близкими, частично двигаться и видеть.
Но у «возможности заглянуть в мозг» есть и обратная сторона – то, что Рафаэль Юсте, нейробиолог из Колумбийского университета, назвал «утратой ментальной конфиденциальности». Примечательно, что опасения по поводу негативного сценария использования нейротехнологий в будущем – например, способности машин читать мысли людей, изменять идентичность и препятствовать свободе воли – высказывают не только писатели-антиутописты, но и сами ученые, и довольно давно.
Так, Юсте с коллегами, проводя над мышами опыты по включению и выключению с помощью оптогенетики определенных цепей в мозге, обнаружил, что в него можно имплантировать искусственные изображения, просто активируя клетки, участвующие в зрительном восприятии. Чуть позже исследователи из Массачусетского технологического института, используя ту же технологию, показали возможность имплантации ложных воспоминаний. По словам Юсте, управляя определенными цепями мозга мыши, ученые оказались в состоянии манипулировать почти всеми аспектами ее жизни – поведением, эмоциями, восприятием, воспоминаниями. И это заставило его задуматься: «Мозг мыши и человека работает одинаково, и всё, что мы можем сделать с мышью сегодня, мы можем сделать с человеком завтра».
Сходная противоречивая реакция на собственные открытия возникла и у Александра Хута. С одной стороны, радовало создание декодера и его перспективность как средства коммуникации. С другой стороны – возникла тревога о возможности использования этой технологии в духе антиутопической полиции мыслей, принудительных допросов и пр. Это «было первое, чего мы испугались», говорит он, вспоминая те неприятные вопросы, которые задавал самому себе: «Как мы собираемся рассказать об этом людям? Что они подумают? Неужели нас посчитают создателями чего-то ужасного?».
Опасения ученых вызывала не только обнаруженная ими уязвимость мозга к внешним манипуляциям, но также почти полное игнорирование этических и социальных последствий этих открытий. По словам Юсте, участвовавшего в запуске инициативы BRAIN, в ее рамках «с этической стороны не предпринималось никаких усилий». Хотя, считает он, то, как общество отреагирует на этические последствия нейротехнологий сегодня, окажет глубокое влияние на мир завтра, поскольку эти технологии «могут привести к изменению человеческого вида».
Для ряда исследователей эти опасения стали поводом начать разрабатывать этические принципы использования технологий BCI. Рафаэль Юсте и Сара Геринг, биоэтик из Вашингтонского университета, после неудачных попыток обсуждать данную проблему в специальном комитете при инициативе BRAIN решили заняться этим самостоятельно. Пригласив осенью 2017 года в Колумбийский университет около 30 экспертов в области нейротехнологий, искусственного интеллекта, медицинской этики и права (в том числе из стран, где уже появились собственные версии инициативы BRAIN), они пришли к выводу, что это проблема прав человека и должна регулироваться именно с этой точки зрения.
Именно тогда, по словам Юсте, был придуман термин «нейроправа» и сформулированы четыре основных этических принципа, расширенные им позже до пяти и ставшие основой нейроправ, предполагавших:
— право на неприкосновенность частной жизни, которое гарантировало бы, что данные о мозге будут храниться в тайне, а их использование, продажа и коммерческая передача будут строго регулироваться;
— право на личную идентичность, которое установило бы границы для технологий, способных разрушить самоощущение человека;
— право на справедливый доступ к ментальному совершенствованию, что обеспечило бы равный доступ к нейротехнологиям для улучшения психического состояния;
— право на защиту от предвзятости при разработке алгоритмов нейротехнологий;
— право на свободу воли, которое защитило бы свободу действий индивида от манипуляций со стороны внешних нейротехнологий.
Знакомство с этими размышлениями о нейроправах помогло Александру Хуту в период его этической рефлексии по поводу собственного открытия. Полагая, что технология семантического декодера может рано или поздно выйти из-под контроля, он вместе с Джерри Таном пришел к выводу, что некоторые практики должны быть полностью запрещены, например, расшифровка мыслей в состоянии покоя участника или без его ведома. Кроме того, исследователи сошлись во мнении, что технология не должна использоваться в правовой системе или любой другой ситуации, где ошибки декодирования могут иметь реальные последствия. И в целом ее следует применять лишь тогда, когда расшифрованные мысли могут быть проверены их обладателем.
Но главная этическая проблема декодера, созданного Хутом и Таном, заключалась в его неинвазивности. Не требуя хирургического вмешательства, он, с одной стороны, оказался свободен от строгих норм, контролирующих медицинскую сферу, а с другой – в перспективе был более доступен для коммерческого использования. Для измерения гемодинамики в коре головного мозга вместо фМРТ могла применяться фБИКС (функциональная ближняя инфракрасная спектроскопия, fNIRS), при этом результат декодирования, по словам Хута, «не становился намного хуже». Несмотря на то, что сейчас техника исследовательского уровня для фМРТ и фБИКС очень дорога, во втором случае это не огромный стационарный аппарат, а гораздо более компактное устройство. И, поскольку данная технология постоянно развивается, Хут считает вполне вероятным появление доступной носимой гарнитуры фБИКС, которую можно будет использовать с семантическим декодером.
Но острые этические вопросы могут вызвать даже сравнительно примитивные мобильные гарнитуры BCI, например, основанные на электроэнцефалографии (ЭЭГ). Так, несколько лет назад South China Morning Post опубликовала информацию об использовании на китайских предприятиях подобных устройств («нейрокепки»), чтобы отслеживать у рабочих эмоциональное состояние и уровень стресса, при этом, естественно, цели заявлялись благие – повышение безопасности и производительности. Стоит отметить, что это нововведение вызвало у сотрудников «дискомфорт и сопротивление».
Однако проблема не только в принуждении, но и в том, что ученые лишь начинают понимать, как информация кодируется в данных мозга. Даже необработанные данные ЭЭГ содержат огромное количество информации о психическом состоянии, которую в будущем смогут извлечь более мощные алгоритмы декодирования. И, позволяя компаниям ее собирать, никто не знает, что именно там содержится. По словам Джерри Тана, «крайне важно, чтобы компании открыто говорили о том, что они собираются делать с данными о мозге, и принимали меры для обеспечения их тщательной защиты».
Подобное требование неслучайно. По словам Юсте, анализ пользовательских соглашений 30 нейротехнологических компаний, проведенный Neurorights Foundation, показал, что все они заявляют о праве собственности на данные пользователей и о праве продавать эти данные третьим лицам. Это одно из свидетельств в пользу того, что только этической рефлексии о нейроправах недостаточно – необходимо их законодательное закрепление, обеспечивающее «защиту от потенциального неправильного использования и злоупотребления нейротехнологиями».
Примечательно, что первой страной, законодательно закрепившей нейроправа, стала Чили: в 2021 году конгресс принял соответствующую поправку к конституции. Это явилось результатом усилий Рафаэля Юсте и чилийского сенатора Гвидо Жирарди, причем закон был принят единогласно, что для страны с сильной политической поляризацией оказалось выдающимся событием.
Однако, несмотря на столь обнадеживающее начало, Юсте и Жирарди осознавали недостаточность законодательных барьеров только на национальном уровне. По мнению Жирарди, технологии будущего способны легко пересекать границы государств и развиваться слишком быстро, тогда как демократии работают медленно и на принятие законов уходят годы. Поэтому соучредители Neurorights Foundation (в их числе сам Рафаэль Юсте, а также юрист-международник в области прав человека Джаред Генсер) предприняли усилия, чтобы привлечь к проблеме нейроправ максимально широкие круги – от ООН и региональных организаций до национальных правительств, технологических компаний, ученых и общественности. Столь широкий охват, по словам Генсера, возможно, выглядит «безумием или грандиозностью», но в глобальном масштабе «очень мало людей знают о том, как обстоят дела, куда всё идет и что необходимо».
И эти усилия принесли определенные плоды. В 2021 году в докладе генсека ООН Антониу Гутерриша прозвучал призыв «обновить или уточнить применение правозащитных рамок и стандартов для решения пограничных проблем», таких как «нейротехнологии». Однако обновление международного законодательства в области прав человека – сложный процесс. Более того, и у самих инициаторов пока нет единого мнения, как сделать это более эффективно – создать Международное агентство, которое бы регулировало усилия в области нейротехнологий на основе отдельно принятой конвенции (это позиция Юсте) или расширить толкование существующего международного законодательства в области прав человека, включив туда и нейроправа (позиция Генсера).
В любом случае, считает Юсте, эту работу нужно делать сейчас и на нее есть не так много времени, потому что будущее наступает слишком быстро, а утрата возможности быть хозяевами собственным мыслям фундаментальна и необратима: «Если мы потеряем нашу ментальную конфиденциальность, что нам еще останется терять? Мы потеряем суть того, кто мы есть».
Сообщение Даже не думай: почему несвобода мыслей может стать буквальной появились сначала на Идеономика – Умные о главном.
