OpenAI сообщила о пресечении пяти «тайных операций влияния», использующих ее модели искусственного интеллекта в обманных целях в интернете. Эти операции были направлены на манипулирование общественным мнением и влияние на политические результаты, отмечается в компании.
Отчет OpenAI появился на фоне растущей обеспокоенности по поводу потенциального влияния генеративного ИИ на выборы по всему миру, в том числе осенние выборы президента США. Результаты исследования показывают, как эти операции используют ИИ для масштабной генерации текстов и изображений, создания фальшивой активности в социальных сетях и манипулирования общественным мнением.
Раскрытие информации OpenAI совпадает с аналогичными усилиями других технологических компаний по борьбе с «координированным неаутентичным поведением», пишут СМИ. Это подчеркивает растущую потребность в бдительности и сотрудничестве в рамках технологической индустрии для решения проблемы использования ИИ в злонамеренных целях, сообщают эксперты отрасли.