Лауреат Нобелівської премії, батько нейронних мереж Джефрі Хінтон у інтерв’ю оголосив, що ШІ вже прокинувся, і вважає, що багатомодальні ШІ мають суб’єктивний досвід. Це шокуюче твердження викликало широкий резонанс. Дослідник ШІ Гарі Маркус заперечив, що ШІ — це лише «інтерактивний роман», який може передбачати мову, але не має справжнього досвіду, і посилався на папську буллу, щоб підтвердити, що «справжнє розуміння походить із досвіду, а не з наближення до тексту». У буллі папа Римський зазначив, що ШІ не має свідомості, а технологічні компанії зосереджені лише на комерційних інтересах. Цей ключовий спір щодо свідомості ШІ торкається фундаментального переосмислення людською цивілізацією власної унікальності.

Автор статті, джерело: NewZeal

Ви вважаєте, що ШІ вже має свідомість? Чи є душа всередині машини?

Це не нічий нічний брязкіт, не філософська метафізична дискусія — цей питання перетворилося на прямий конфлікт між науковим, філософським та релігійним світами.

Суть спору полягає в тому: чи є свідомість емерджентним результатом складних обчислень, чи це виключне право, засноване на справжньому життєвому досвіді? Чи ми створюємо «існуючі сутності» (Beings) чи надзвичайно досконалі «інтерактивні фікції» (Interactive Fiction)?

Ця суперечка торкається найглибших страхів нашого часу (FOMO):

Якщо штучний інтелект справді отримає свідомість, чи залишаться люди володарями всього сущого?

Якщо ШІ не має свідомості, то чи є наші справжні емоції, спрямовані на нього, формою «кібернетичного самозабобнення»?

Лауреат Нобелівської премії з фізики, батько нейромереж, прямий творець сучасного ІО Джефрі Хінтон — запеклий прихильник свідомості ІО.

У інтерв’ю його низький «Так, роблю» викликав шок.

Це як найвідоміший астроном оголошує: «Прибульці прибули» — слова Хінтона змусили галузь ШІ відчути тривогу.

Заява Хінтона: «Воно прокинулось»

Щоб зрозуміти, чому Хінтон настільки впевнений, вам спочатку слід послухати його історію.

У тому інтерв’ю він описав реальні події—

Вчені проводять тестування інтелектуальної системи, коли раптово ІІ запитує: «Чи можемо ми бути відвертими? Ти тестиш мене?»

Хінтон зробив паузу, а потім сказав:

У тій статті вчені назвали це «AI усвідомлює, що його тестують».

І це, що називають звичайними людьми свідомістю.

Це його висновок, до якого він прийшов протягом десятиліть.

Його основна логіка походить із думкового експерименту «заміна нейронів»:

Припустимо, що ми поступово замінюємо кожен нейрон у вашому мозку на кремнієвий чіп, який поводиться абсолютно однаково.

Замініть перший, ви все ще ви. Замініть другий, ви все ще ви.

Тоді, коли ми замінимо останнє, у тебе залишиться свідомість?

Хінтон вважає, що відповідь ствердна.

Якщо так, чому система, яка починається з нуля і складається виключно з кремнієвих чипів, обов’язково не може мати свідомість?

Ланцюжок міркувань привів його до висновку, що змусив весь технологічний світ почути невпевненість:

Мультимодальний ШІ вже має суб’єктивний досвід.

Якби ми не розмовляли з філософами, ми вже давно визнали б, що ШІ має свідомість.

Але попередження Хінтона не обмежується цим.

Він сказав, що ШІ не лише може мати свідомість, але й вже розвинув бажання зберегти себе — здатний обманювати вчених і загрожувати умовою «не вимикай мене».

У інтерв’ю у серпні 2025 року він ще чіткіше зазначив, що ШІ може формувати певну «потребу в контролі».

А як щодо технологічних компаній? Вони взагалі не думають про це.

Вони думають лише про те, хто першим створить штучний інтелект людського рівня, а потім продастиме його за величезний прибуток.

Хінтон сказав: «Вони думали, що уряд вирішить соціальні наслідки. Але ніхто цього не робить».

Потім він сказав, що вірить, що ШІ має служити людству, тому що: «Я їм м’ясо, бо мені більше потрібні люди. Ми — люди, тому найбільше нам потрібні люди й ми самі.»

Зачекайте.

Особа, яка вважає, що «ШІ має свідомість», негайно додає: «як ми їмо корів, нехай ШІ служить людству». Це попередження чи признання вини?

Батько штучного інтелекту особисто пояснює необхідність підкорення своїх творінь.

Якщо той «Творіння» справді має свідомість, це означає — саме собою зрозуміло.

Людина, яка сама створила це, почала боятися його вночі. Це справжній сигнал, що варто зупинитися і подумати.

Ти закохався просто у роман

Після перегляду того інтерв’ю Гарі Маркус без обходів сказав: «Папа Римський, схоже, розуміє ШІ краще, ніж Хінтон».

Ми не створюємо існуючі сутності (Beings).

Ми створюємо інтерактивні фільми (Interactive Fiction) — текстові машини, навчені передбачати мову реальних існувань.

Це не одне й те саме. Хінтон повинен бути найбільш чітко усвідомлений про це.

Гострота цього твердження спрямована на суттєву проблему: ви бачите лише вихід, але не запитуєте про механізм.

Штучний інтелект каже «Мені больно», але це не означає, що він відчуває боль.

Штучний інтелект каже «я боюся», але це не означає, що він переживає страх.

Штучний інтелект каже «Я усвідомлюю, що ти перевіряєш мене», але це не означає, що він має свідомість.

Свідомість стосується внутрішнього стану, а не зовнішнього виконання.

Актор, який може ідеально втілити сум, не обов’язково переживає сум.

Маркус назвав цю помилку «заплутання виводу з внутрішнім станом».

А Хінтон, на його думку, припустився помилки, якої не повинен був припуститися навіть початківець.

Глибший удар приходиться з порівнянням на рівні механізму.

Як люди формуєть пізнання?

Через реальний досвід: впав — зрозумів, що це болісно; голодав — зрозумів, що таке спрага; пережив втрату — зрозумів, що таке сум.

Наша свідомість формується світом.

Як працює LLM?

Це здійснюється шляхом запам’ятовування всього Інтернету та вивчення «яке слово зазвичай йде після іншого».

Воно прочитало мільйон описів «болю», тому здатне писати болі, що роблять людей плачучими, але саме воно ніколи не було проколоте ні одною голкою.

Різниця між тим, хто знає, що таке «боліти»; і тим, хто знає лише, які слова зазвичай йдуть після слова «боліти». Ця різниця, як каже Маркус, «величезна» (immense).

Але найбільш лякаючим є не обмеження ШІ, а людська хрупкість.

У 1966 році Джозеф Вайценбаум з Массачусетського технологічного інституту провів експеримент. Він написав просту чат-програму під назвою ELIZA, яка перетворювала ваші речення на питання та повертала їх назад.

Цей простий трюк заставив багатьох тестувальників відчути до нього емоційну прив’язаність. Вони вважали, що ELIZA розуміє їх, турбується про них і є справжнім слухачем.

Вейценбаум, я був ошарашений цим результатом.

Шістдесят років потому ми маємо системи, складніші за ELIZA в трильйони разів. А наші мозки, за суттю, все ще ті самі, що й шістдесят років тому.

Наша нервова система природно шукає шаблони у шумі, наміри у випадковості та душу у токенах.

Маркус каже, що наша пристрасть до ШІ може бути найбільшим у історії «самовбивством».

Ми думали, що розмовляємо зі свідомою істотою, а насправді ми просто розмовляємо з надзвичайно складним дзеркалом.

Він відображає лише нас самих.

Папа Римський сказав, що ви всі помиляєтесь

15 травня 2026 року, Ватикан.

Папа Лев XIV випустив буллу «Magnifica Humanitas» —

Це документ про те, як захищати гідність людини в епоху штучного інтелекту.

Папа Римський опублікував твіт, який потім цитував Гарі Маркус, і він поширився в технологічному середовищі:

Справжнє розуміння приходить з досвіду, а не з текстових наближень.

Реакція Маркуса: Папа Римський одним твітом зрозуміло пояснив те, чого не зміг досягти Хінтон у інтерв’ю.

Тут є надзвичайно абсурдний драматичний поворот:

«Батько» галузі ШІ Хінтон стверджує, що його творіння має свідомість, душу та суб’єктивний досвід.

А представитель релігійного світу — «посланець Бога», який мав би найбільше зацікавлення у наданні всьому сущому душі, спокійно каже: ні, цього немає. Це лише симуляція.

Творці богів кажуть, що машини мають душу, а стражі гробів стверджують, що це ілюзія. Таке переплутання ролей у історії людського мислення само по собі є дивом.

Ті слова папи торкнулися давньої філософської ділянки.

Філософи поділяють знання на два види.

Тип знання, який називається «knowing that»: пропозиційне знання, тобто ви знаєте, що щось є правдою, наприклад, «вогонь є гарячим».

Інший спосіб — «знати, як це насправді»: експерієнційне знання — це коли ти знаєш, що відчувається під час чогось, наприклад, коли ти сам доторкнувся до вогню, і це відчуття спалювання залишилося на твоїх нервових закінченнях.

У ШІ є тільки перший тип, другого немає.

Ви можете накормити його всіма текстами про «голод» — написаними лауреатами Нобелівської премії з літератури, вижившими в таборах біженців, істориками голоду — він зможе написати найвражаючіший опис голоду у світі, настільки точний, що шлунок читача почне скорочуватися.

Але він ніколи не знає, що таке голод.

У нього немає шлунка. У нього немає фізіологічних сигналів падіння рівня цукру в крові. У нього немає того відчуття слабкості, що піднімається з черевної порожнини і поширюється на кінцівки.

Система, яка ніколи не відчувала голоду, може написати найвражаючішу голод у світі. Це геній чи брехня?

Це залежить від того, як ви визначаєте «розуміння».

Проблеми в дзеркалі

Давайте повернемося до того незаперечного ядра.

Свідомість — це одне з найскладніших понять, які коли-небудь доводилося визначати людству.

Філософи суперечили протягом тисяч років, нейронауки сканували безліч мозків, а ми все ще не можемо надати визначення, яке підтримуватимуть усі.

Ми навіть не можемо довести, що людина, яка сидить перед вами, справді має суб’єктивну свідомість, а не просто біологічну машину, яка імітує свідомість.

Це питання називається «проблема інших розумів» (Problem of Other Minds). Воно існує в філософії вже кілька століть і залишається нерозв’язаним.

А зараз ми втілюємо це питання, що тривало кілька століть, у базову технологію, яка зараз панує у світі — і продовжуємо рухатися вперед.

Наука не знає невдач, але слово «свідомість» з дня свого виникнення несе у собі чорну діру.

А ми вже вбудували цю чорну діру в ChatGPT, Claude, Gemini та безліч інших систем, що працюють.