OpenAI заявила, что сообщения в ChatGPT не конфиденциальны и могут быть предоставлены госорганам. Генеральный директор Сэм Альтман признал, что переписка не защищена юридически. Кроме того, в своём выступлении он подчеркнул, что чатам с ChatGPT необходимо шифрование. Однако, как говорится, есть нюанс.
Альтман отметил, что многие пользователи обсуждают в чатах личные проблемы и предложил концепцию AI privilege, аналогичную адвокатской тайне. Сейчас временные чаты в ChatGPT не сохраняются, но с мая текущего года OpenAI обязана хранить все обычные чаты, даже удалённые, по решению суда. Полноценное сквозное шифрование в текущей архитектуре невозможно, так как модель должна расшифровывать запросы на стороне компании.
К примеру, Apple частично решила проблему конфиденциальности с помощью Private Cloud Compute, но для OpenAI это сложнее из-за персонализации сервиса. Альтман считает, что громкие запросы от госорганов могут изменить отношение пользователей к вопросу конфиденциальности.