Недавно OpenAI изменила политику использования чат-бота ChatGPT, согласно которой чат-бот не будет консультировать пользователей по вопросам медицины и юриспруденции. Это произошло после череды скандалов, связанных с дачей ИИ советов о здоровье, которые не имеют ничего общего с медициной, но имели серьёзные последствия для людей. Подобные ситуации возникали в при юридических проблемах.
Однако выяснилось, что на деле что функциональность нейросети остаётся неизменной, несмотря на официальные сообщения в соцсетях. Ситуацию прокомментировал глава отдела ИИ в OpenAI Каран Сингхал, который заявил, что ChatGPT никогда не был разработан для замены профессиональных консультаций и будет продолжать помогать пользователям с юридической и медицинской информацией.
Хотя на ресурсе опубликована обновлённая политика, вступившая в силу 29 октября, запрещающая ChatGPT предоставлять специализированные консультации, для которых требуются профессиональные знания и соответствующая лицензия, тем более без надлежащего участия эксперта. Эта политика отражает предыдущие рекомендации, в которых уже говрилось об опасности предоставления специализированных консультаций без профессиональной проверки и раскрытия ограничений ИИ.
Общественные активисты в США уже ополчились на OpenAI и считают, что компания публично лжёт, манипулируя пользователями.