Представитель OpenAI Якуб Пачоцки, директор по разработке передовых моделей ИИ заявил, что возможности моделей генерировать знания самостоятельно является ключевым моментом для сферы бизнеса и научных исследований. И эксперименты подтверждают соответствующие функции.
Пачоцки утверждает, что модели рассуждений двигаются в направлении автономного создания знаний, хотя эти способы рассуждения отличаются от мышления человека. Они основаны на двухэтапном процессе обучения, включающем предварительное обучение «без надзора» для построения внутренней карты реальности с поглощением колоссальных объёмов данных и обучение с подкреплением для превращения этой основы в полезный инструмент — обучение задачам с конкретным результатом.
По мнению эксперта, предварительное обучение и обучение с подкреплением необходимо рассматривать в тесной взаимосвязи, и его работа направлена на объединение этих этапов.