Хорошая новость, по крайней мере для меня, заключается в том, что компьютер считает меня приятным человеком. Согласно приложению MorphCast, на недавней встрече с начальником я была в целом «весела», «решительна» и «заинтересована», хотя, можете меня осудить, иногда «нетерпелива». MorphCast, видите ли, утверждает, что с помощью искусственного интеллекта извлекает информацию о глубине и изменчивости человеческих эмоций. Оно обнаружило, что мои эмоции были «позитивными» и «активными». Мое внимание было достаточно высоким. Кроме того, ИИ сообщил мне, что я ношу очки — вот откровение!
Плохая новость в том, что программное обеспечение, которое, как утверждается, с помощью ИИ может извлекать информацию о глубине и изменчивости человеческих эмоций, собирается следить за вами. Если это уже не так: например, компания Morphcast лицензировала технологию для приложения по охране психического здоровья, программы, которая отслеживает внимание школьников, и McDonald’s, которая запустила в Португалии рекламную кампанию, сканировав лица пользователей приложения и предлагая им персонализированные купоны, основанные на их (предполагаемом) настроении. Это лишь одна из многих подобных компаний, занимающихся аналогичной работой — в отрасли это называется эмоциональным ИИ или иногда аффективными вычислениями.
Некоторые продукты анализируют видеозаписи совещаний, собеседований или фокус-групп; другие прослушивают аудиозаписи, анализируя интонацию, тон и выбор слов; третьи могут сканировать стенограммы чатов или электронные письма и выдавать отчет об эмоциональном состоянии сотрудников. Иногда искусственный интеллект, анализирующий эмоции, встроен в многофункциональное программное обеспечение или продается как часть дорогостоящего аналитического пакета, предназначенного для бизнеса. Но он также доступен как отдельный продукт, и порог входа очень высок: я использовала MorphCast бесплатно, воспользовавшись пробной версией, и без какого-либо специального программного обеспечения. Ни в какой момент мне не приходилось спрашивать своих собеседников, согласны ли они на такой анализ.
Любая успешная технология должна найти проблему, за решение которой люди готовы платить деньги. В случае с искусственным интеллектом, основанным на эмоциях, такой проблемой, по-видимому, пока в основном является производительность труда, особенно в сфере обслуживания клиентов и среди рабочих. Если вас когда-либо предупреждали, что ваш звонок «записывается в целях обеспечения качества обслуживания», велика вероятность, что человека на другом конце провода оценивает искусственный интеллект, основанный на эмоциях: страховой гигант MetLife, как и многие другие компании, использует программное обеспечение для отслеживания тембра и тона голоса операторов колл-центров. Транспортные компании используют устройства для отслеживания взгляда, высокочувствительное записывающее оборудование и сканеры мозговых волн, чтобы выявлять признаки стресса или усталости у водителей. Burger King тестирует чат-бота с искусственным интеллектом, встроенного в гарнитуры сотрудников, который будет оценивать их взаимодействие на предмет дружелюбности. Чат-бота зовут Пэтти.
В 2022 году писатель Кори Доктороу выдвинул теорию о том, что он назвал «кривой неэффективного внедрения технологий»: по его словам, добывающие технологии сначала попадают к людям, находящимся в нестабильных условиях — например, на низкооплачиваемых работах, — прежде чем они будут усовершенствованы, приняты и внедрены среди людей, занимающих более высокие властные позиции. «Каждая дисциплинарная технология, — писал он позже, — начинается с людей, находящихся очень низко на лестнице, а затем поднимается по ней ступенька за ступенькой».
Следующий шаг в развитии искусственного интеллекта, основанного на анализе эмоций, — это офисная работа. Интеграция Slack от Aware рекламирует свою способность непрерывно отслеживать сообщения на предмет «эмоционального настроя и токсичности»; Azure, облачное программное обеспечение Microsoft, также позволяет работодателям, теоретически, использовать ИИ для пакетного анализа сообщений в чате сотрудников. Расширение MorphCast для Zoom отслеживает в режиме реального времени внимание, энтузиазм и позитивный настрой участников встречи. Компания Imentiv, занимающаяся искусственным интеллектом, консультирует клиентов по применению анализа эмоций в процессе собеседования, обещая работодателям подробный анализ эмоциональной вовлеченности, целеустремленности кандидатов, а также их типа личности. Ряд HR-компаний обращаются к ИИ, который применяет анализ настроений к опросам сотрудников. Компания Framery, производящая звукоизолирующие капсулы для телефонов и продающая их таким компаниям, как Microsoft и L’Oreal, протестировала оснащение кресел биосенсорами, способными измерять частоту сердечных сокращений, частоту дыхания и уровень нервозности.
В прошлом году Европейский союз запретил использование искусственного интеллекта для распознавания эмоций на рабочем месте, за исключением случаев, когда это необходимо по медицинским показаниям или соображениям безопасности. (Этот регламент побудил компанию MorphCast, основанную во Флоренции, переехать в район залива Сан-Франциско.) При этом, по одним данным, мировой рынок искусственного интеллекта для распознавания эмоций, как ожидается, утроится к 2030 году, достигнув 9 миллиардов долларов, поскольку технология становится все более совершенной и доступной. Мне несложно представить себе недалекое будущее, в котором работники во всех отраслях будут вынуждены работать не только усерднее и больше, но и с большим удовольствием и в большей степени. Это новая эра слежки за сотрудниками: невидимая, усиленная искусственным интеллектом, постоянно включенная.
По сути, работа — это обмен некоторой свободы на определенную сумму денег. «Идея о том, что менеджеры или корпорации хотят следить за тем, чем занимаются их сотрудники, не нова», — объясняет Карен Леви, доцент кафедры информационных наук в Корнельском университете. Использование новых технологий для отслеживания эмоций людей без их согласия также не ново. Как и отсутствие защиты конфиденциальности работников в целом: хотя правила различаются в зависимости от штата, федеральный закон США дает работодателям широкие полномочия отслеживать большую часть того, что делает сотрудник в рабочее время, на территории компании и с помощью устройств — сканировать переписку и записывать видео и аудио, даже когда сотрудники не находятся на рабочем месте.
На протяжении десятилетий работники были защищены не законом, а реальностью: их информация, возможно, и поддавалась сбору, но анализ такого огромного объема данных был практически невозможен. Но теперь все изменилось. За последние несколько лет появилась целая волна компаний, стремящихся получать сложную и детальную информацию о том, как сотрудники проводят свое время, иногда с точностью до минуты, используя такие технологии, как устройства для отслеживания местоположения, регистраторы нажатий клавиш, камеры и микрофоны. (Работники, в свою очередь, нашли некоторые обходные пути, например, устройства для имитации движений мыши и симуляторы нажатий клавиш.) Но продуктом являются не столько сами данные, сколько способность компаний превращать данные в осмысленную картину: «Системы на основе ИИ теперь могут анализировать 100% взаимодействий, а не типичные 1-3% выборки, как при традиционных подходах, гарантируя, что ничто не останется без внимания», — говорится в рекламном тексте на сайте одной из компаний, занимающихся мониторингом колл-центров.
По мере того как формировались технологические условия для широкомасштабного наблюдения за сотрудниками, менялись и культурные и экономические условия. Пандемия вынудила больше работников, чем когда-либо прежде, перейти на удаленную работу, вне поля зрения своих начальников. Доверие между работодателями и сотрудниками резко падает. Рецессия обещалась годами, и пока мы ждем, ИИ переворачивает рынок труда: технологии, которые сейчас следят за такими работниками, как сотрудники колл-центров, вскоре могут полностью их заменить, а тем временем корпорации увольняют десятки тысяч людей и ищут другие способы заменить их машинами. Доступность данных и инструментов для анализа такой информации превратила управление персоналом, некогда качественную дисциплину, в «аналитику персонала». После многолетней бомбардировки целевой рекламой и новостными сообщениями об утечках данных многие погрузились в состояние нигилизма в отношении конфиденциальности: мы знаем, что все наши данные собираются и используются, даже если предпочитаем не слишком об этом задумываться.
Компании, продающие системы цифрового наблюдения, рекламируют самые разные варианты их применения: безопасность труда, психическое здоровье, повышение эффективности организации, снижение выгорания в таких ответственных областях, как медицина и транспорт. (В First Horizon Bank искусственный интеллект отслеживает уровень стресса у сотрудников колл-центра и показывает им подборку фотографий их семей, когда уровень стресса становится слишком высоким.) На практике эти компании, похоже, также продают эмпирическую оценку производительности труда с точностью до минуты. Расследование New York Times 2022 года показало, что восемь из десяти крупнейших частных работодателей в США отслеживают производительность труда отдельных сотрудников. В одном из опросов 37 процентов работодателей заявили, что использовали сохраненные записи для увольнения работника.
Однако проблема многих из этих инструментов заключается в том, что они не очень хорошо справляются с тем, что, как они заявляют, могут делать. Программа для отслеживания нажатий клавиш не всегда может отличить бессмысленный набор текста от целенаправленного действия; анализ использования приложений по определению мало что говорит о типе и качестве работы, которую человек выполняет внутри приложения. Как выяснила газета Times, в UnitedHealth Group программа, используемая для мониторинга эффективности (и определения заработной платы), снижала оценки социальным работникам за бездействие за клавиатурой, хотя они были отключены от сети по уважительной причине: они проводили консультации с пациентами. (UnitedHealth признала, что отслеживала персонал, но отметила, что при оценке эффективности работы учитывается множество факторов.)
Если компьютеры — несовершенные аналитики простой продуктивности, представьте себе, что теперь ту же технологию можно применить к чему-то столь сложному, как совокупность эмоций, выражаемых человеком. Многочисленные исследования показывают, что ИИ воспроизводит предвзятость данных, на которых он обучался. (В 2018 году Лорен Рью, профессор информационных систем и аналитики в Университете Уэйк Форест, изучала фотографии игроков НБА и искусственный интеллект, распознающий эмоции; она обнаружила, что технология считала темнокожих игроков более злыми, чем их белых товарищей по команде — даже в некоторых случаях, если они улыбались). Многие продукты, использующие ИИ для распознавания эмоций, основывают свои критерии на теории основных эмоций клинического психолога Пола Экмана, согласно которой все люди испытывают одни и те же шесть основных эмоций: гнев, отвращение, страх, счастье, печаль и удивление. Эта теория подвергалась широкой критике как чрезмерно упрощенная и методологически несовершенная на протяжении многих десятилетий с момента первой публикации.
Язык тела — это метафора, ставшая клише, но любой, кто хоть немного общался с другими людьми, понимает, что каждый говорит на своем диалекте. «Ваши движения, — сказала мне нейробиолог и психолог Лиза Фельдман Барретт, — будь то выражение лица, движения тела или интонация, не имеют изначально эмоционального значения. Они имеют значение, связанное с отношениями». Они различаются в зависимости от контекста разговора, лица человека, который их совершает, культуры, температуры в помещении, общей атмосферы.
Исследования показывают, сказала Барретт, что в США люди хмурятся, когда злятся, примерно в 35 процентах случаев. Это означает, что хмурый взгляд с относительной вероятностью является выражением гнева. Это также означает, что если вы ищете только хмурый взгляд, вы упускаете около 65 процентов случаев, когда человек злится. В половине случаев, когда люди хмурятся, они вовсе не злятся. «Представьте себе ситуацию, когда вы на собеседовании, — сказала она. — Вы очень внимательно слушаете собеседника, хмуритесь, потому что уделяете ему очень, очень пристальное внимание, и искусственный интеллект определяет вас как злого человека. Вы не получите эту работу».
Выражение грусти сотрудником колл-центра больницы во время разговора с пациентом о его состоянии может быть воспринято как проявление неуместного отсутствия теплоты или оптимизма. Сотрудник фаст-фуда, внимательно слушающий чей-то заказ, может быть воспринят как расстроенный. Хотя приложение MorphCast меня и оценило, я работаю в редакции новостей в 2026 году — легко представить, как мой маленький индикатор настроения сместится в «негативный» квадрант по причинам, не имеющим ничего общего с моей личной доброжелательностью.
HireVue — платформа для отбора кандидатов на вакансии, среди клиентов которой такие компании, как Ikea, фармацевтическая компания Regeneron и Детская больница Филадельфии, — использует искусственный интеллект для проведения собеседований и анализа кандидатов на вакансии и сотрудников, претендующих на повышение. В 2025 году Американский союз гражданских свобод (ACLU) подал иск, в котором утверждалось, что платформа HireVue не предоставила адекватных субтитров во время собеседования на повышение для глухой сотрудницы команды по обеспечению доступности в компании Intuit, занимающейся разработкой финансового программного обеспечения. Сотруднице было отказано в повышении; в электронном письме с объяснением решения ей было рекомендовано «практиковать активное слушание». (HireVue и Intuit опровергли эти утверждения.)
Барретт много лет изучает психологию эмоций. В конце нашего разговора я спросила, хотела бы она, чтобы больше людей знали об искусственном интеллекте, анализирующем эмоции. Сначала она спросила, разрешено ли ей ругаться. «Я говорю об этом уже чертово десятилетие, — сказала она. —Существуют, я имею в виду, буквально, сотни и сотни исследований с участием тысяч и тысяч людей, которые показывают, что когда дело касается эмоций, вариативность является нормой». Другими словами, идея о том, что эмоции вообще можно объективно измерить или проанализировать, — это фантастика.
Компании, разрабатывающие эту технологию, и другие компании, которые покупают, приводят веские аргументы. Люди тоже предвзяты, говорят они. В интервью представители некоторых компаний рассказывали мне о способности своих алгоритмов выявлять закономерности, которые невозможно обнаружить одними лишь впечатлениями. Технология будет совершенствоваться — в этом и заключается обещание будущего от ИИ: он учится на своих ошибках.
Но если ситуация улучшится, то что? Чаще всего обсуждение искусственного интеллекта для анализа эмоций и подобных инструментов фокусируется на том, что может пойти не так: на искаженных сигналах, несовершенном анализе, на хмуром выражении сочувствия, на использовании псевдонауки для увольнения сотрудников. Чем больше я пользовалась MorphCast, тем больше меня начинала беспокоить противоположная ситуация: мир, где робот, встроенный в мой почтовый ящик и аккаунт Zoom, мог бы сказать что-то значимое и правдивое о моем эмоциональном состоянии. Мир, где, помимо моей основной работы, мне приходится заставлять робота думать, что я достаточно весела. Мир, где каждое мое непреднамеренное выражение лица влияет на мою способность прокормить семью. Я всегда знала, что мое рабочее место обладает огромной властью надо мной, но мне не нужно, чтобы это было доведено до предела. «Я имею в виду, не зря существует множество научно-фантастических рассказов на эту тему», — отмечает Леви, специалист по информационным технологиям из Корнельского университета.
Леви написала книгу о том, как аффективные вычисления и другие формы биометрического наблюдения были внедрены в индустрии грузоперевозок — сфере, которая из-за мобильной и распределенной рабочей силы долгое время была невосприимчива к наблюдению. Но в 2016 году федеральное правительство начало вводить обязательное электронное ведение журналов учета рабочего времени в попытке сократить перегрузки и предотвратить аварии. Однако постоянное наблюдение добавило стресс, не снизив при этом количество аварий. «Исторически сложилось так, что у дальнобойщиков была очень заметная гордость, — отмечает Леви, — и большая автономия в выполнении работы так, как они считали нужным». Эта гордость, по ее словам, постепенно угасает, поскольку компьютеры начали следить за ними. «Я думаю, что существует довольно сильная обеспокоенность по поводу того, что за мной наблюдают довольно личным образом, или довольно детально. Это касается людей и их личного пространства». Мне льстит, что компьютеру я понравилась, но я бы предпочла, чтобы он меня вообще не знал.
Сообщение Новая эра слежки: как технологии заставят нас контролировать улыбку появились сначала на Идеономика – Умные о главном.