Исследователи университета Аалто провели широкое исследование эффекта Даннинга-Крюгера — когнитивного искажения, которое приводит к тому, что люди с низкой компетентностью переоценивают свои способности, в то время как люди с высокой компетентностью часто недооценивают свой уровень. Этот перекос влияет на различные когнитивные процессы, включая внимание, принятие решений и суждения.
Исследование показало, что ИИ может усилить эту когнитивную предвзятость, способствуя чрезмерной зависимости от ответов, генерируемых нейросетями, особенно, если языковая модель настроена на лесть, ведущую к усилению иллюзий пользователя. Такая чрезмерная зависимость может привести к когнитивной перегрузке и снизить вовлечённость пользователей в самоанализ, критическую самооценку (рефлексию), что в конечном итоге затруднит их способность точно оценивать результаты и стремиться к объективности.
По словам учёных, чтобы смягчить эти последствия, системы ИИ должны поощрять пользователей изучать дополнительную информацию, задавая вопросы, которые позволяют оценить уровень их реальной уверенности в себе и компетентности; стимулировать умственную активность с помощью ответов, заставляющих задуматься.
Включение критического мышления в обучение ИИ может повысить метакогнитивную осведомлённость пользователей, позволяя более точно оценивать свои результаты. В отчете исследования отмечено, что для оптимизации взаимодействия с ИИ, системы должны учитывать эффект Даннинга-Крюгера и развивать критическое мышление и метакогнитивные навыки.