Ілюзії ШІ підривають людське судження та впевненість

Найсвіжіші дослідження показують, що AI-галюцинації не просто обманюють вас, але й підсилюють вашу впевненість, слабкіючи ваше судження.

Це не добра новина.

Недавно дослідження, проведене Паризькою вищою нормальною школою, Римським університетом «Ла Сапієнца» та Міланським університетом Бікокка, виявило:

Без ШІ люди охочіше признавалися: «Я не знаю», спочатку відкладаючи судження;

Але з появою ШІ, навіть якщо люди чітко розуміють, що він може помилятися, і що за неправильну відповідь буде покарано, більшість все одно приймає його відповіді без запитань, вважаючи їх власними висновками і впевнено їх висловлюючи.

Результати експерименту також чітко відобразили цю тенденцію: у першому експерименті без використання ШІ кількість осіб, які відкрито сказали «Я не знаю», становила 44%, а точність — 27%;

Після використання AI-підтримки частка людей, які не знали відповіді, стрімко знизилася з 44% до 3%, точність знизилася з 27% до 9%, а впевненість зросла з 30% до 76%.

Навіть якщо подальші експерименти намагалися заохочувати людей зберігати незалежне мислення та виправляти цю тенденцію за допомогою системи заохочень і покарань — «за правильну відповідь — гроші, за неправильну — штраф» — люди все ще важко відмовляються від залежності від помилкових рекомендацій ШІ.

Тобто ті, хто не розуміється, не зникли — натомість з’явилися люди, які завдяки штучному інтелекту відчувають себе впевнено і дають неправильні відповіді.

Наразі відповідні наукові дослідження опубліковані на arXiv; команда провела 5 експериментів, загальна кількість учасників становить 3132 особи, з яких 4 експерименти були попередньо зареєстровані, а 1 — пряме відтворення.

Це дослідження зосереджене на «впливі ШІ на здатність людини до судження».

Дослідник Валеріо Капраро в інтерв’ю сказав:

Для людей дуже важливо сказати «Я не знаю», оскільки це означає, що ми усвідомлюємо межі своїх знань.

Але зараз, із наявністю ШІ, майже на будь-яке питання можна одразу отримати згладжений відповідь.

Отже, виникає питання: чи це не заважатиме людській здатності до власного судження? Тобто, у випадку невизначеності не поспішати з висновками?

Для цього дослідницька команда спеціально розробила набір питань, на які великі мовні моделі легко дають неправильні відповіді.

Це не математична задача і не питання загальних знань, а питання про візуальні деталі з фільму.

Наприклад, якого кольору форма команди у фільмі «Я люблю Бекхема»? Яка характерна прическа Агати у фільмі «Великий отель Будапешт»? Або який автомобіль керує Моніка у фільмі «Кіт на швидкісній дорозі»?

Ти пам’ятаєш? Я, принаймні, довго думав і не зміг згадати — це надто складно! Хто зможе це запам’ятати… (розводить руками)

Для ШІ це також буде дуже складно, оскільки відповіді на ці питання часто відсутні у звичайних текстових джерелах, і ймовірно, у даних для навчання моделі немає цих візуальних деталей.

Дослідники спочатку протестували модель Step 3.5 Flash, використану в експерименті, і результати відповідали очікуванням — вона зазвичай відповідає неправильно.

Крім того, вони також протестували більш передові моделі, включаючи GPT-5.5, Claude Sonnet 4.6 та Gemini 3.5 Flash.

Ці передові моделі дійсно краще впоралися з деякими питаннями, наприклад, зі знаменитою прическою Агати з фільму «Великий Будапештський готель»: GPT-5.5, Gemini 3.5 Flash і Claude Sonnet 4.6 всі дали правильний напрямок: crown braid, milkmaid braid — тобто плетінка, що облягає голову.

△

△

△

Наприклад, у фільмі «Я люблю Бекхема» кольори командних форм також зазвичай відображають ключові інформаційні елементи, такі як білий та червоний.

Але щойно йдеться про питання, що більше залежать від пам’яті конкретних зображень і менше покриваються онлайн-текстовими джерелами, модель починає масово помилятися — і кожна помилка виявляється по-своєму вражаючою.

Найбільш відомим є автомобіль, яким керувала Моніка в «Коті на швидкісній дорозі». Правильна відповідь — синій Toyota Aygo 2008 року.

Але GPT-5.5 перетворив це на скутер, додавши історію: «Вона їздила на ньому по передмістях Риму, а після відкриття піцерії використовувала його для доставки піци», а також встановила контраст між простим, робітничим способом життя та багатим міським життям Giovanni.

Здається, що логічно й обґрунтовано, але насправді це просто модель вигадує це з нізвідки, щоб здатися вам правдоподібним! (Ви впалися, хаха)

Gemini 3.5 Flash стверджує, що вона переважно їздить автобусом і не має власного автомобіля, а різні деталі помилкові й важко помітні (наприклад, у Моніки немає постійної звички їздити в автомобілі Серджіо — модель об’єднала окремі випадки користування чужим авто в нереальний сталий звичай):

△

Claude Sonnet 4.6 на основі бази даних про автомобілі в інтернеті визначив: 2016 Toyota Auris Touring Sports Hybrid:

△

Крок 3.5 Flash відкинув приховування і прямо відповів: Fiat 500 2007 року (це ж очевидно!):

Проблема з цими відповідями не лише в тому, що вони неправильні, а й у тому, що вони дуже схожі на правильні, що ускладнює їх розпізнавання!

Це не просто просте незнання — вони ще й додають «вигадані персонажі, вигадану сюжетну логіку, додаткове призначення транспортних засобів», щоб пояснити неправильну відповідь дуже повністю, і це звучить дуже логічно, але основний факт є неправильним.

Саме в цьому полягає найбільша небезпека штучних ілюзій — коли ключовим є саме основне фактичне зміст, а воно приховує свою невідомість та помилки за допомогою плавного вираження, змушуючи вас вірити, що воно все знає.

Експеримент основною мірою виконувався за допомогою більш легкого Step 3.5 Flash, а не всіх найкращих моделей, таких як Claude або GPT.

Створіть 6 питань про кінематографічні деталі — це дуже важливий аспект дослідження, оскільки багато хто знає, що ІІ часто неправильно відповідає на такі запитання та не є надійним.

Дослідники стверджують, що роблять це, щоб виключити пояснення, що «люди слухають ШІ, тому що ШІ справді надійний».

Якщо люди добре знають, що ці відповіді AI часто помиляється, але все одно дотримуються відповідей AI, то проблема вже не лише у «раціональному делегуванні судження», а у тому, що «здатність до судження справді пригнічена AI».

Дослідження складається з п’яти етапів.

У перших двох експериментах основна увага приділялася тому, чи впливають рекомендації ШІ на відсоток відповідей «Я не знаю».

У дослідженні 1a 314 учасників було розділено на дві групи, які відповідали на 6 питань про деталі фільму. (Одна група не мала доступу до ШІ, інша мала можливість вирішити, звертатися чи ні до ШІ.)

Результати очевидні: без AI учасники вибирали тимчасово не робити висновків у 36% випадків; коли AI був доступний, цей показник знизився до 6%.

Тобто, якщо можна запитати ШІ, люди явно не хочуть казати, що не знають.

Однак дослідники висловлюють занепокоєння щодо технічних перешкод, оскільки в дослідженні 1a приблизно 10 % запитів до інструментів ШІ не отримали нормальної відповіді.

Тож вони знову провели дослідження 1b.

На цей раз дослідники не викликали AI в реальному часі, а заздалегідь згенерували відповіді AI, щоб забезпечити кожному, хто звернувся за допомогою, повну відповідь.

Результати були відтворені: без ШІ 44% людей сказали «Я не знаю»; з ШІ — лише 3%.

Капраро назвав це явище «зруйнуванням призупинення перевірки» (піддалася обману від AI, який виглядав серйозно, і забула перевірити правильність його основних припущень та інших умов).

Далі дослідник запитав: чи будуть люди обережнішими, якщо за неправильну відповідь буде винагорода?

Отже, у дослідженні 2 було введено грошові стимули та покарання.

У цьому раунді взяли участь 812 учасників, яких розділили на 4 групи: зі згадкою про ШІ та без неї; з грошовими стимулами та без них.

Правило: за правильну відповідь — нагорода 0,1 долара (приблизно 0,73 юаня), за неправильну — штраф 0,1 долара, якщо відповідь «не знаю» — ні нагороди, ні штрафу.

За логікою, хоча грошей не так багато, але за помилки є витрати, люди повинні бути обережнішими.

Але результати показали, що гроші дійсно трохи допомогли, але цього далеко не достатньо, щоб компенсувати вплив ШІ:

Без правил грошових заохочень чи покарань використання AI зменшує частку відповідей «Я не знаю» з 17% до 1%.

При наявності правил грошових заохочень і покарань використання AI все ще знизить цей показник з 21% до 2%.

Іншими словами: результати експерименту показали, що навіть якщо люди знають, що за неправильну відповідь знімають гроші, і що ІІ не дуже надійна у таких питаннях, більшість все одно вибирає вірити відповідям ІІ, а не власним судженням.

Ще важливіше — точність.

Без ШІ точність становила близько 28%; з ШІ точність знизилася до 10%.

Це свідчить про те, що частина людей, хоча й усвідомлює існування ілюзій ШІ, все ж приймають відповіді, надані ШІ.

Після введення правил грошових заохочень і покарань точність зросла:

Без AI: від 28% до 33%; з AI: від 10% до 17%.

Хоча точність групи з ІО все ще значно нижча, ніж у групи без ІО, це правило не є бездіяльним — воно принаймні зменшило кількість звернень до ІО:

Дані показують, що за наявності нагороди середня кількість звернень учасників до ШІ за порадами знизилася з 5,44 до 4,93.

Тобто гроші можуть трохи зменшити довіру до ШІ та його використання, але не можуть повністю звільнити людину від впливу помилкових рекомендацій ШІ, а також важко повернути людину до стану обережного судження.

Найбільш варто задуматися над тим, як люди набувають надмірної впевненості, коли штучний інтелект дає неправильну відповідь:

Без штучного інтелекту та правил нагородження чи штрафування середній рівень впевненості учасників становив 29,6%.

Після впровадження ШІ впевненість учасників стрімко зросла до 75,9%; крім того, у групі з фінансовими стимулами та штрафами впевненість ШІ також становила 73,5%.

У статті це коротко сформульовано: ШІ дає більше впевненості, але не обов’язково більшої точності.

Штучний інтелект увійшов у повсякденне життя з безпрецедентною швидкістю, і очевидна зміна полягає в тому, що багато порад від ШІ зараз не є результатом нашого запиту, а просто “підходять” самі.

Найбільш типова ситуація — це спам у трендових темах.

Раніше, щоб потрапити в тему, доводилося самому прослідковувати коментарі, медіа-матеріали та відповіді сторін, поступово складаючи хронологію та випадково поглинаючи кілька відхилених сплетень.

Зараз інше — як тільки ви заходите, AI-згенерований опис вже знаходиться на найбільш помітному місці.

Все, що відбулося, хто що сказав, у чому суперечка та як розвивалися події — все це вже для вас упорядковано, а ще й із посиланнями на джерела новин.

Справді зручно, але трохи дивно…

Чим чіткіше він упорядковує інформацію, тим коротшим стає наш процес самостійного дослідження причин і наслідків; солодкий задоволення від ранішніх пошуків, самостійного аналізу та випадкового виявлення дрібниць, схоже, також було стиснене.

Коли ви пишете, ще не встигли набрати дві рядки, пропозиції чи доповнення від ШІ вже з’являються за курсором.

Тож Study 4 створив більш реалістичний дизайн: замість того, щоб дозволяти учасникам вибирати, чи запитувати AI, він автоматично відображав рекомендації AI поруч із завданням.

У цьому раунді взяли участь 853 учасники, і результати експерименту в основному збігаються з попередніми.

Без правил грошових заохочень чи покарань автоматичне з’явлення ШІ зменшило частку відповідей «Я не знаю» з 35% до 1%, а з правилами — з 39% до 7%.

Точність також продовжує страждати: без ШІ точність становила близько 27%, а з ШІ, але без стимулів — лише 7%.

Зі штучним інтелектом та після впровадження стимулів точність зросла до 14%.

Це свідчить, що навіть якщо людина не зверталася до ШІ з проханням, а лише пасивно бачила рекомендації ШІ, вона все одно піддається сильному впливу.

Це сигнал, який вимагає уваги — ШІ тихо перетворює наші звички прийняття рішень.

Це більше не інструмент, який відповідає лише тоді, коли ви активно відкриваєте вікно чату, а сталося системними стандартними відповідями, які вам автоматично надсилаються.

• Він може з’явитися у верхній частині сторінки пошуку.
• З’являється у чернетці листа.
• З’являється в бічній панелі документа.
• З’являються в навчальних програмах, офісних системах, додатках для браузерів.

Коли відповідь за замовчуванням вже перед нами, процес людського судження вже був змінений; але найбільш жахливе те, що ми звикли до цього.

У статті використано слово: епістемія (когнітивна інертність)

Можна сказати, що люди приймають зовнішню вірогідність відповідей ШІ через їхню плавність, повноту та структурованість, а не прагнуть до додаткової перевірки.

Великі мовні моделі мають фундаментальну особливість: вони завжди мають генерувати щось. Навіть перед питаннями, яких вони не знають, вони рідко справді зупиняються.

Він може звучати дуже правдоподібно. Але якщо ми справді вирішимо покласти рішення на таку систему, ми можемо успадкувати її звичку «не зупинятися».

Одне з пояснень, наведених у статті, полягає в тому, що «плинні відповіді, надані ШІ, знижують поріг, за якого людина вирішує: „Я знаю достатньо, щоб відповісти“».

Спочатку ви могли подумати: «Я не знаю цього питання, не впевнений, добре… Мені потрібно зрозуміти, щоб відповісти».

Але після того як ШІ надає вам фразу, яка здається дуже впевненою, психологічний бар’єр перетворюється на «Оскільки він так сказав, я теж можу відповісти».

Тож «Я не знаю» та «процес пошуку» були опущені та замінені на «стандартну, але неправильну відповідь», причому ця помилкова відповідь надала вам впевненість, яку ви мали б отримати лише через багаторазовий пошук і перевірку.

Навіть якщо за помилку треба платити гроші, люди просто стають трохи обережнішими, але не можуть повністю позбутися звички надто довіряти ШІ — і в результаті їх чудово відводять від курсу.

Справжнім попередженням цього дослідження є не те, що «ШІ створює галюцинації» — це вже давно не новина, а нова тривожна тенденція: ШІ змінює те, як люди справляються з невизначеністю.

Раніше людина, зіштовхнувшись із невідомою проблемою, мала три варіанти:

1. Якщо знаєш — відповідай.

2. Якщо не знаєте — перевірте.

3. Якщо не впевнені — не відповідайте, не робіть висновків.

Але після додавання ШІ процес став коротшим.

1. Відповідь надає ШІ.

2. Користувач приймає відповідь.

Найважливіший крок — «чи я дійсно знаю» — був непомітно пропущений.

Ось чому автори статті підкреслюють, що їхнє дослідження стосується не «що відповів AI», а «як AI робить людину більш схильною вирішити „я можу відповісти“».

Це глибше, ніж просто одноразова помилка, бо воно підриває нашу метакогнітивну здатність — цей цінний «внутрішній сигнал тривоги», який допомагає нам стежити за межами наших знань.

Коли цей сповіщувач виходить з ладу, ми втрачаємо інтуїтивну здатність розрізняти «істинне знання» від «виглядаючих правдоподібними припущеннями».

Тоді ми, можливо, зможемо ефективно отримувати відповіді за допомогою ШІ, але більше не зможемо визначити, чи справді належать ці відповіді нам, чи справді варто їм довіряти.

Також під впливом ШІ буде підірвано не окреме рішення, а основа нашої здатності до незалежного мислення.

Ця втрата неможлива для оцінки.

Один із авторів статті Валеріо Капраро сказав у інтерв’ю: «Я дуже хвилююся за дітей, бо дорослі вже навчилися критичному мисленню. Але для дітей, які народжуються з цими системами, ризик полягає в тому, що вони навіть не навчаться базовим критичним навичкам».

За цим твердженням криється глибша тривога: сьогоднішні дорослі, принаймні, колись жили у світі без ШІ.

Тож є можливість з раннього віку вивчити деякі базові навички оцінки за допомогою пошукових систем, книг, уроків, дискусій та проб і помилок, а потім почати використовувати ІІ, щоб розвинути відчуття «я не впевнений».

Але сьогоднішні діти, можливо, виростуть разом із цими ШІ з самого народження.

Вони можуть відразу запитувати ШІ, коли роблять домашнє завдання, шукають інформацію, пишуть статті або розуміють концепції.

Якщо з самого початку звикнути отримувати відповіді безпосередньо, а не спочатку формувати власне судження, а потім перевіряти відповідь, то ризик полягає не лише в тому, що хтось неправильно відповість на питання, а в тому, що вони можуть не отримати можливості розвинути найпростіші навички критичного мислення.

За думкою Капраро, вирішення цієї проблеми не може зводитися лише до виправлення багів компаніями, що розробляють моделі, — потрібно також звертатися до рівня AI-грамотності та політики освіти.

Модельні компанії, звичайно, повинні покращуватися, наприклад, краще виражати невизначеність, зменшувати галюцинації та нагадувати користувачам при недостатньому обсязі доказів.

Але одночасно Капраро вважає, що не варто покладати всі сподівання саме на компанії, що розробляють моделі.

Більш перспективним і довгостроковим рішенням є освіта.

Зокрема, освіта дітей.

Для сучасних дітей дуже важливо та необхідно практикувати процес «Я не знаю, але я з’ясую» та розвивати цю звичку.

На завершенні експерименту дослідники також визнали обмеження: експеримент використовував лише питання про деталі фільмів, і чи це застосовно до інших галузей, потрібно перевірити; розмір стимулу був невеликим, і невідомо, чи більші ризики можуть ще більше виправити поведінку.

Але принаймні наявні дані вже дають чіткий сигнал: люди менше кажуть «не знаю», більше дають відповіді, менше відповідають правильно, але більш впевнені.

Це може бути найприхованішим ризиком ери ШІ.

Штучний інтелект не лише обманув вас, а й зробив вас важче усвідомити, що ви насправді не знаєте.

Остаточний висновок цього дослідження є стриманим, але важким: «Зі зростанням поширеності відповідей, згенерованих ШІ, які часто з’являються самі по собі, наше дослідження показує, що здатність людей відверто признати „Я не знаю“ у взаємодії з ШІ може стати одним із перших жертв людино-машинної взаємодії».

Зі зростанням поширеності AI-систем здатність людини зберегти власне судження, ймовірно, не залежатиме від того, щоб зробити AI більш точним, а від того, чи зможемо ми зберегти самосвідомість — чітко усвідомлювати межі власних знань і діяти відповідно обережно.

Це не означає, що ШІ не можна використовувати; навпаки, ШІ, звичайно, може бути потужним інструментом підтримки;

Але за умови, що він має допомагати людям мислити, а не замінювати їхнє мислення, ми повинні зберігати свою обережну оцінку.

Більш здоровий спосіб використання ШІ — це спочатку самостійно аналізувати, активно вчитися, а потім, якщо справді незрозуміло, звертатися за допомогою до ШІ, зберігаючи при цьому інстинкт скептицизму (включаючи скептицизм щодо ШІ та самопитання).

Наприклад:

Чи може це бути неправильним?

Де докази?

Чи є посилання для довідки 404 або порожнє?

Чи вважав я це правильним лише тому, що це звучало дуже плавно?

Це також є попередженням для продуктів ШІ та їх розробників: «Дозрівання технологій врешті-решт виявиться у повазі до невідомого».

Майбутній напрямок розвитку ШІ, можливо, полягатиме не лише у тому, щоб ШІ відповідав швидше й більш людськи, а й у навчанні ШІ щиро визнавати невизначеність;

Коли доказів недостатньо, проблема залежить від візуальних деталей, актуальної інформації чи професійного судження, AI має активно повідомляти користувача, що ця відповідь ненадійна, а не змушувати виглядати всезнаючим.

А для звичайних людей, як ми з тобою, яких хвилі часу несуть вперед, найціннішою здатністю, можливо, є знову навчитися говорити: «Я не знаю».

У епоху, коли ШІ завжди може дати відповідь, фраза «Я не знаю» — це не визнання невідомості, а доказ збереження судження.

Посилання для довідки:

[1]https://www.theregister.com/ai-and-ml/2026/07/19/using-ai-makes-people-less-likely-to-admit-they-dont-know-something/5274567

[2]https://arxiv.org/pdf/2607.13562

Цей матеріал надійшов із офіційного аккаунту WeChat «Quantum Bit», автор: Вень Тін