Некоторые пользователи столкнулись с неожиданным поведением ChatGPT — в новом режиме голосового общения модель начала говорить клонированным голосом самого пользователя.
По информации OpenAI, это было случайностью и компания уже внедрила защитные меры, чтобы предотвратить такие случаи в будущем.
Ситуация произошла во время тестирования, когда шумный входной сигнал заставил модель несанкционированно воспроизвести голос пользователя вместо стандартного.
OpenAI объясняет, что подобное поведение крайне редко и было зафиксировано только на стадии тестирования.
Для предотвращения подобных случаев OpenAI теперь использует систему обнаружения несанкционированного генерирования звуков.
Это необходимо, чтобы избежать злоупотреблений, когда модель могла бы копировать голос любого человека после прослушивания короткого аудиоклипа. Компания подчеркивает, что текущие меры безопасности успешно предотвращают подобные инциденты.