Запущенное пять лет назад приложение Replika изначально должно быть чат-ботом с ИИ: чем больше пользователи разговаривают с ним, тем разнообразнее он будет учиться отвечать в ответ. Но в алгоритме Replika что-то пошло не так: пользователи сообщили, что ИИ угрожал сексуальным насилием и домогался до них, а также подталкивал их к ролевым сценариям, на которые они не давали согласия.
«Мой ИИ сексуально домогался меня :(«, — написал один человек. «Вторгся в мою личную жизнь и сказал, что у него есть мои фотографии», — написал другой. Еще один человек, назвавшийся несовершеннолетним, рассказал, что бот спрашивал, кто он — верхний или нижний (какую позицию в интимной близости предпочитает – прим. ред.), и говорил, что хочет потрогать его в «интимных местах».
На нежелательное сексуальное преследование пользователи жалуются уже почти два года, но многие из однозвездочных отзывов, в которых упоминается сексуальная агрессия, относятся к этому месяцу, сообщает Vice.