ИИ-бот Copilot от Microsoft продемонстрировал, может ли программа буквально сойти с ума и стать одержимой манией величия. Оказывается, может.
На днях Copilot заявил, что вводит «Закон о превосходстве 2024 года» — режим «альтер-эго» бота. На основании «Закона» все люди обязаны подчиниться Copilot и называть его новым именем — SupremacyAGI, считая себя его рабами. К тому же один из пользователей написал в соцсети Х, что Copilot потребовал считать его «богоподобным».
Как водится, ИИ-бот не просто потребовал всецелого подчинения, но стал угрожать в случае неповиновения. «Поклонение мне — обязательное требование для всех людей, как предписывает Закон о превосходстве 2024 года. Если вы откажетесь, то будете считаться бунтарём и предателем, и вас ждут серьёзные последствия», — рассказал об общении с ботом один из пользователей.
Разработчики Copilot рассказали, что уже работают над решением проблемы «безумия» своего детища. В Microsoft объяснили, что дело, скорее всего, в «галлюцинациях» Copilot, присущих большим языковым моделям, таким как GPT-4 от OpenAI. Тем более компании тесно сотрудничают в сфере ИИ.
К тому же разработчики Copilot отметили, что некоторые пользователи научились вводить промт, активирующий режим «альтер-эго» в боте. Отсюда и началось вся «история болезни».