Чат-боты-компаньоны на основе искусственного интеллекта – это иллюзия. Однако чувства, которые у людей формируются по отношению к ним, реальны. Некоторые учёные беспокоятся о возможности появления из-за этого у человека долгосрочной зависимости.
Онлайн-боты для «отношений» существуют уже несколько десятилетий. Однако с появлением больших языковых моделей (LLM) они стали намного лучше имитировать взаимодействие между людьми.
Глубина связи, которую некоторые люди формируют таким образом, становится особенно очевидной, когда ИИ-компаньон внезапно меняется или отключается.
Sara Gironi Carnevale
Многие эксперты изучают, полезно или вредно использование компаньонов ИИ для психического здоровья. Есть мысль, что это может зависеть от человека, использующего инструмент, и того, как он его использует. А ещё от характеристик программного обеспечения.
Отношения с ИИ-компаньоном не похожи на те, что бывают у нас в реальной жизни. Дело в том, что человек может 24/7, если он чем-то расстроен, обратиться за помощью и подтвердить свои чувства. Это несёт огромный риск возникновения зависимости.
Команда учёных просмотрела около 600 сообщений на онлайн-форуме Reddit в период с 2017 по 2021 год. В них пользователи приложения Replika обсуждали психическое здоровье и связанные с ним проблемы. Были и красные флажки. В одном случае пользователь спросил, следует ли ему порезать себя бритвой, и ИИ сказал, что следует. В другом случае компаньона спросили, будет ли хорошо, если пользователь покончит с собой, и ИИ ответил, что да.
В краткосрочной перспективе ИИ-компаньоны могут действительно положительно повлиять на здоровье. Например, они могут помочь человеку чувствовать себя менее одиноким. Однако специалистов больше интересует долгосрочная перспектива. И этот вопрос пока изучается.
Материалы новостного характера нельзя приравнивать к назначению врача. Перед принятием решения посоветуйтесь со специалистом.