Новое исследование ученых из MIT и лаборатории искусственного интеллекта Принстона, опубликованное через arXiv, подтверждает количественными данными то, что многие из нас тайно подозревали. Люди не только недооценивают, насколько часто они полагаются на ИИ, но и значительно переоценивают выгоды, которые получают от него. Исследователи называют это «иллюзией повышения эффективности» — когнитивной ловушкой, которая может изменить наше представление о реальном вкладе ИИ в производительность.
Числа за иллюзией
Исследование, озаглавленное «Иллюзия повышения эффективности: люди недооценивают скорость использования ИИ и переоценивают его преимущества при выполнении простых задач», включало три предварительно зарегистрированных эксперимента с общим числом участников 2 691 человек. Задачи были намеренно простыми: арифметика, проверка орфографии — те виды работы, которые большинство людей могут выполнять без особых усилий.
Участники постоянно считали, что ИИ экономит им значительное время и усилия при выполнении этих простых задач, даже когда реальные выгоды были незначительными. В одном из смоделированных анализов использование функции копирования и вставки с ИИ сократило среднее время выполнения с 102,0 секунды до 66,2 секунды. Участники воспринимали выгоду как намного большую, чем эта реальная разница в 35 секунд. Их субъективное ощущение повышения эффективности превысило реальные достижения, создав искажённую картину полезности ИИ, которая затем влияла на их будущие решения о том, когда применять его.
Проблема обратной связи
Исследователи выявили обратную связь, при которой первоначальное доверие к ИИ для простых задач способствовало дальнейшему доверию, что углубляло ошибочные представления о производительности. Каждый раз, когда участник использовал ИИ и чувствовал, что он помог, он становился более склонным обращаться к нему снова. Не потому что этому подтверждение, а потому что ощущение эффективности стало самоусиливающимся.
Исследователи также обнаружили систематическое завышение показателей использования ИИ участниками. Люди не просто преувеличивали преимущества — они также недооценивали, насколько часто они обращались к ИИ изначально, что делает петлю обратной связи еще труднее разорвать.
Парадокс производительности, пересмотренный
Что добавляют исследования MIT и Принстона, так это поведенческое объяснение части этого разрыва. Если отдельные пользователи систематически завышают преимущества ИИ при выполнении рутинных задач, то совокупные данные о производительности могут никогда не соответствовать совокупному энтузиазму. Выгоды кажутся реальными на индивидуальном уровне, но они не полностью проявляются в цифрах.