ИИ оказался стимулом самоуверенности даже у людей с низкой самооценкой

Исследование показало, что ИИ может усилить эту когнитивную предвзятость, способствуя чрезмерной зависимости от ответов, генерируемых нейросетями, особенно, если языковая модель настроена на лесть, ведущую к усилению иллюзий пользователя. Такая чрезмерная зависимость может привести к когнитивной перегрузке и снизить вовлечённость пользователей в самоанализ, критическую самооценку (рефлексию), что в конечном итоге затруднит их способность точно оценивать результаты и стремиться к объективности.

По словам учёных, чтобы смягчить эти последствия, системы ИИ должны поощрять пользователей изучать дополнительную информацию, задавая вопросы, которые позволяют оценить уровень их реальной уверенности в себе и компетентности; стимулировать умственную активность с помощью ответов, заставляющих задуматься.

Включение критического мышления в обучение ИИ может повысить метакогнитивную осведомлённость пользователей, позволяя более точно оценивать свои результаты. В отчете исследования отмечено, что для оптимизации взаимодействия с ИИ, системы должны учитывать эффект Даннинга-Крюгера и развивать критическое мышление и метакогнитивные навыки.