OpenAI сообщила о создании комитета по безопасности и защите и начала обучение новой модели искусственного интеллекта (ИИ), которая заменит систему GPT-4, на которой работает ее чат-бот ChatGPT. Стартап из Сан-Франциско заявил в своем блоге, что комитет будет консультировать полный состав правления по «важным решениям в области безопасности» для проектов и операций.
Комитет по безопасности появился во время ожесточенных дебатов вокруг безопасности ИИ в компании, которая оказалась под большим вниманием после ухода исследователя Яна Лейке, который поднял критику против OpenAI за то, что безопасность «отодвинута на второй план».
OpenAI заявила, что «недавно начала обучение своей следующей модели» и что ее модели ИИ являются лидерами в отрасли по возможностям и безопасности. Комитет по безопасности заполнен внутренними сотрудниками компании, включая CEO Сэма Альтмана и председателя Брета Тейлора, и четырех экспертов по техническим и политическим вопросам OpenAI.