Люди добре знають, що ШІ робить помилки, але нагляд може бути не найкращим рішенням.Автор статті, джерело: AIBase
Недавній огляд досліджень, проведений «Вашингтон пост», вивів на перший план ерозію пам’яті через ШІ. Професор Мітської лабораторії засобів масової інформації Патті Мейс і її команда спочатку показали 200 учасникам 24 повсякденні фотографії — весілля, вуличні пейзажі, перегони.
Після короткої перерви частина людей знову переглянула оригінальне зображення, а інша частина побачила версію, змінену штучним інтелектом: обличчя змінили виразом, до картинки насильно вставили військових або додали явища зміни клімату. Тест пам’яті, що слідував, здивував саму Мес: люди, що бачили фальшиві зображення, значно частіше розвивали хибні спогади, і ще більш тривожно те, що вони були ще впевненішими у цих хибних спогадах. «Це дуже небезпечно», — зробила вона такий висновок.
Це явище не є ізольованим. Дослідження, спрямовані на вивчення сприйняття політичних подій, кримінальних справ та навіть нових фільмів, поступово показують, що зображення та діалоги, створені ШІ, можуть «зварити» в мозок деталі, які ніколи не відбувалися, змушуючи людей переконано «спогадувати» вигадані сцени — хтось «пам’ятає», що бачив перезняття «Матриці» з Віллом Смітом у головній ролі, а хтось — «пам’ятає» політичний скандал, який ніколи не відбувався. Після перегляду відео з злочином учасники, яких опитував ШІ-чат-бот, продемонстрували втричі більше хибних спогадів, ніж контрольна група.
Здібності виведені на аутсорсинг, пам’ять та когнітивні здібності скоротилися
Що є прихованішим за «запам’ятати неправильно» — це «не хочеться пам’ятати». У ще одному експерименті Меса, який зараз перебуває на рецензуванні, 54 учасники писали есе у стилі SAT: одна група писала від руки, друга — з використанням Google, третя — з використанням ChatGPT, при цьому електроди на голові синхронно реєстрували мозкову активність. Результати були виразними — у тих, хто писав самостійно, з’єднання між різними областями мозку були найсильнішими та найширшими, а у тих, хто використовував ChatGPT, — найслабшими; коли їх пізніше попросили відтворити свої есе, ті, хто залежав від ШІ, майже не змогли згадати, що написали. Пам’ять підсилюється завдяки увазі, суб’єктивним зусиллям та витягуванню інформації, а генеративний ШІ саме цю частину мозкової роботи виключає.
Наф з Університету Пенсильванії, школа Вартон, і Сяо з Королівського коледжу в Лондоні назвали цю тенденцію «деградацією навичок»: люди поступово перестають розвивати здібності, які можуть виконувати машини, і «мислення стає варіантом». Докази вже з’являються в професійних галузях — дослідження 2025 року, опубліковане в піджурналі The Lancet, спостерігало за 19 досвідченими лікарями під час майже 1500 колоноскопій і виявило, що після регулярного використання ШІ їхня здатність самостійно виявляти передракові зміни знизилася приблизно на 20%. Турботи щодо дітей ще глибші: їхні основні когнітивні здібності ще не сформувалися, а вони вже можуть передавати розумову роботу іншим, не отримуючи взагалі практики критичного мислення.
На щорічній конференції з етики ШІ у Мальме, Швеція, вчені неодноразово запитували: що станеться, коли ШІ втручається в пам’ять? Сім з Університету Джорджії провела експеримент з анімацією зіткнення з 331 учасником: одна група читала точний висновок ШІ, інша — навмисно неправильний висновок; точність склала приблизно 84% та 45% відповідно — навіть після попереднього попередження «це написано ШІ» обман продовжував діяти. Вона розкрила жорстокий парадокс: ми сподіваємося, що «людський контроль» врятує від помилок машини, але ШІ спочатку змінив пам’ять, яку люди використовують для оцінки, і ця захисна лінія може зруйнуватися з самого коріння. «Всі знають, що ШІ робить помилки, але нагляд може бути не найкращим рішенням». Коли компанії спішать вбудовувати ШІ в поліцейські камери та системи обробки медичних карток, цей попереджувальний дзвінок надходить саме вчасно.