Люди знают, что ИИ ошибается, но контроль, возможно, не является хорошим решением.Автор статьи, источник: AIBase
Недавно опубликованное исследование, проведенное «Вашингтон пост», вывело на первый план вопрос о разрушительном влиянии ИИ на память. Профессор Массачусетского технологического института, лаборатория медиа Патти Мейс и ее команда показали 200 участникам 24 повседневных фотографии — свадьбы, уличные пейзажи, забеги.
После короткого перерыва часть участников снова смотрела на оригинальное изображение, а другая часть видела версию, измененную ИИ: выражение лиц было изменено, в сцену намеренно внесли военных или добавили явления изменения климата. Тест памяти, последовавший за этим, поразил саму Мес: те, кто видел подделанные изображения, значительно чаще формировали ложные воспоминания, и что еще более страшно — они были еще более уверены в этих ложных воспоминаниях. «Все это крайне опасно», — сделала она такой вывод.
Это явление не является изолированным. Когнитивные эксперименты, проведенные по поводу политических событий, уголовных дел и даже новых фильмов, показали, что изображения и диалоги, созданные ИИ, могут впаять в память детали, которых никогда не было, заставляя людей уверенно «вспоминать» вымышленные сцены — кто-то «помнит», что смотрел ремейк «Матрицы» с Уиллом Смитом, а кто-то «вспоминает» политический скандал, которого никогда не существовало. После просмотра видео преступления участники, прошедшие опрос через AI-чат-бота, продемонстрировали в три раза больше ложных воспоминаний, чем контрольная группа.
Способности переданы на аутсорсинг, память и интеллект сократились
Чем скрытнее, чем «забыть», так это «не хотеть помнить». В другом эксперименте Меса, который пока проходит рецензирование, 54 участника написали эссе в стиле SAT: одна группа писала вручную, другая — с использованием Google, третья — с помощью ChatGPT, при этом электроэнцефалография одновременно фиксировала мозговую активность. Результаты были ярко выражены: у тех, кто писал самостоятельно, соединения между различными областями мозга были наиболее сильными и обширными, а у пользователей ChatGPT — наименее; когда их попросили воспроизвести свои эссе, люди, полагавшиеся на ИИ, почти не могли вспомнить, что написали. Память укрепляется благодаря вниманию, субъективным усилиям и извлечению информации — именно эти когнитивные процессы генеративный ИИ исключает.
Нав и Сяо из Уортонской школы бизнеса Пенсильванского университета и Королевского колледжа Лондона называют эту тенденцию «деградацией навыков»: люди постепенно перестают развивать способности, которые могут выполнять машины, и «мышление становится опциональным». Доказательства уже появляются в профессиональных областях — исследование 2025 года, опубликованное в поджурнале The Lancet, наблюдало за 19 опытными врачами в течение 1500 колоноскопий и обнаружило, что после регулярного использования ИИ их способность самостоятельно выявлять предраковые изменения снизилась примерно на 20%. Опасения в отношении детей еще более фундаментальны: их ключевые когнитивные способности еще не сформировались, а они уже могут передавать мыслительные процессы на аутсорсинг, лишая себя с самого начала возможности развивать критическое мышление.
На ежегодной конференции по этике ИИ в Мальмё, Швеция, учёные неоднократно задавали вопрос: что произойдёт, когда ИИ вмешивается в память? Сим из Университета Джорджа Тауна провела эксперимент с анимацией столкновения на 331 человеке: одна группа читала точные аннотации ИИ, другая — аннотации с намеренно искажёнными метками; точность составила около 84% и 45% соответственно — даже при предварительном предупреждении «это написано ИИ» обман всё равно сработал. Она раскрыла жестокий парадокс: мы полагаемся на «человеческую проверку», чтобы компенсировать ошибки машин, но ИИ сначала переписывает память, на основе которой люди делают выводы — эта защита может полностью потерять эффективность. «Все знают, что ИИ ошибается, но контроль, возможно, не является хорошим решением». Когда компании спешат внедрить ИИ в полицейские видеорегистраторы и системы оформления медицинских карт в больницах, этот тревожный звонок звучит как нельзя кстати.