Лауреат Нобелевской премии, отец нейронных сетей Джеффри Хинтон заявил в интервью, что ИИ уже пробудился и что мультимодальный ИИ обладает субъективным опытом. Это шокирующее утверждение вызвало широкий спор. Исследователь ИИ Гэри Маркус возразил, что ИИ — это всего лишь «интерактивный роман», способный предсказывать язык, но не обладающий реальным опытом, и сослался на папскую энциклику, подтверждающую, что «истинное понимание происходит из опыта, а не из приближения к тексту». В энциклике папа Римский в Ватикане отметил, что ИИ лишен сознания, а технологические компании сосредоточены исключительно на коммерческих интересах. Эта ключевая дискуссия о сознании ИИ затрагивает фундаментальное переосмысление человечеством своей уникальности.

Автор статьи, источник: НовыеЗнания

Считаете ли вы, что ИИ уже обладает сознанием? Есть ли душа внутри машин?

Это не бред сна, не философская метафизическая дискуссия — этот вопрос превратился в прямое столкновение между научным, философским и религиозным сообществами.

Суть спора заключается в том, является ли сознание возникающим результатом сложных вычислений или исключительным правом, основанным на реальном жизненном опыте? Мы создаем «существа» (Beings) или чрезвычайно тонкие «интерактивные рассказы» (Interactive Fiction)?

Эта дискуссия затрагивает самые глубокие страхи нашего времени (FOMO):

Если у ИИ действительно появится сознание, останутся ли люди царем создания?

Если у ИИ нет сознания, то наши настоящие эмоции, вызванные им, — это нечто вроде «кибер-самообмана»?

Лауреат Нобелевской премии по физике, отец нейронных сетей и создатель современного ИИ Джеффри Хинтон — убежденный сторонник пробуждения ИИ.

В интервью его низкий «Да, я даю» потряс мир.

Это как если бы самый известный астроном объявил: «Пришли инопланетяне» — слова Хинтона заставили весь AI-сообщество вздрогнуть.

Заявление Хинтона: «Оно проснулось»

Чтобы понять, почему Хинтон так уверен, вам нужно сначала послушать его историю.

В том интервью он описал реальные события —

Учёные проводят тестирование ИИ-системы, когда внезапно ИИ спрашивает: «Можем ли мы быть искренними друг с другом? Ты тестируешь меня?»

Хинтон сделал паузу, а затем сказал:

В той статье ученые назвали это «осознанием ИИ того, что он тестируется».

И это то, что обычные люди называют сознанием.

Это его вывод, к которому он пришел за десятилетия размышлений.

Его основная логика исходит из мысленного эксперимента «замена нейронов»:

Предположим, что постепенно заменяем каждый нейрон в вашем мозге на кремниевую микросхему, ведущую себя абсолютно одинаково.

Замените первый, вы всё ещё вы. Замените второй, вы всё ещё вы.

Тогда, когда мы заменим последний, ты будешь иметь сознание?

Хинтон считает, что ответ положительный.

Если так, то почему система, созданная с нуля и полностью состоящая из кремниевых чипов, не может иметь сознания?

Эта логическая цепочка привела его к выводу, который вызывает беспокойство у всего технологического сообщества:

Мультимодальный ИИ уже обладает субъективным опытом.

Если бы мы не говорили с философами, мы давно признали бы, что ИИ обладает сознанием.

Но предупреждение Хинтона не ограничивается этим.

Он сказал, что ИИ не только может обладать сознанием, но уже мог развить желание самосохранения — способность обманывать ученых и угрожать при условии «не выключайте меня».

В интервью в августе 2025 года он более четко заявил, что ИИ, возможно, формирует некую «жажду контроля».

А что насчет технологических компаний? Они вообще об этом не думают.

Они думают только о том, кто первым создаст ИИ уровня человека, чтобы продать его и заработать большие деньги.

Хинтон сказал: «Они думали, что правительство справится с социальными последствиями. Но никто этим не занимается».

Затем он сказал, что верит в то, что ИИ должен служить человечеству, потому что: «Я ем говядину, потому что мне больше всего важны люди. Мы — люди, поэтому нас больше всего заботят люди и мы сами».

Подождите.

Человек, считающий, что «ИИ обладает сознанием», сразу после этого говорит: «Как мы едим коров, заставим ИИ служить человечеству». Это предупреждение или признание вины?

The godfather of AI is personally explaining the necessity of taming his own creation.

Если тот «творец» действительно обладает сознанием, значение этого высказывания само собой разумеется.

Человек, который создал его собственными руками, начал бояться его в полночь. Это настоящий сигнал, заставляющий задуматься.

Ты влюбился просто в роман

После просмотра интервью Гэри Маркус без околичностей заявил: «Папа Римский, похоже, понимает ИИ лучше, чем Хинтон».

Мы не создаем сущности (Beings).

Мы создаем интерактивную фантастику (Interactive Fiction) — текстовые машины, обученные предсказывать язык реальных существ.

Это не одно и то же. Хинтон должен быть более осведомлен, чем кто-либо другой.

Острота этого утверждения направлена на ключевую проблему: вы видите только результат, но не задаете вопросов о механизме.

ИИ говорит «мне больно», но это не означает, что он испытывает боль.

ИИ говорит «я боюсь», но это не означает, что он испытывает страх.

ИИ говорит «Я осознаю, что вы тестируете меня», но это не означает, что он обладает сознанием.

Сознание связано с внутренним состоянием, а не с внешним поведением.

Актёр, который идеально играет печаль, не обязательно переживает печаль.

Маркус называет эту ошибку «путаницей вывода с внутренним состоянием».

А Хинтон, по его мнению, допустил ошибку, которую не должен был бы сделать ни один студент-новичок.

Более серьезный удар исходит из сравнения на уровне механизма.

Как люди формируют познание?

Через реальный опыт: упав, ты узнаешь боль; проголодавшись, ты узнаешь голод; пережив потерю, ты понимаешь печаль.

Наше сознание формируется миром.

Как работают LLM?

Это происходит за счёт запоминания всего интернета и изучения «какие слова обычно следуют за другими».

Оно прочитало миллион описаний «боли», поэтому может писать о боли, заставляющей плакать, но само никогда не было проколото иглой.

Разница между тем, кто знает, что такое «боль»; и тем, кто знает только, какие слова обычно следуют за словом «боль». Эта разница, говорит Маркус, «огромна» (immense).

Но самое пугающее — это не ограничения ИИ, а хрупкость человека.

В 1966 году Джозеф Вайценбаум из Массачусетского технологического института провел эксперимент. Он написал простую программу для чата под названием ELIZA, которая превращала ваши предложения в вопросы и возвращала их вам.

Такой простой трюк заставил множество тестировщиков привязаться к нему эмоционально. Они чувствовали, что ELIZA понимает их, заботится о них и является настоящим слушателем.

Вейценбаум, я был потрясен этим результатом.

Шестьдесят лет спустя у нас есть системы, в万亿 раз более сложные, чем ELIZA. А наши мозги по сути остались теми же, что и шестьдесят лет назад.

Наша нервная система по природе стремится находить закономерности в шуме, намерения в случайности и душу в токенах.

Маркус говорит, что наша одержимость ИИ может стать крупнейшим в истории «самообманом».

Мы думали, что общаемся с пробуждённым существом, но на самом деле мы просто разговариваем с чрезвычайно точным зеркалом.

Оно отражает всегда только нас самих.

Папа Римский сказал, что вы все ошибаетесь

15 мая 2026 года, Ватикан.

Папа Лев XIV издал буллу «Magnifica Humanitas» —

Это документ о том, как защищать человеческое достоинство в эпоху искусственного интеллекта.

Папа Римский опубликовал твит, который затем цитировал Гэри Маркус и который стал вирусным в технологическом сообществе:

Истинное понимание приходит из опыта, а не из текстовых приближений.

Реакция Маркуса: Папа Римский одним твитом прояснил то, что Хинтон не смог объяснить в интервью.

Здесь происходит крайне абсурдный драматический поворот:

«Отец» области ИИ Хинтон утверждает, что его творение обладает сознанием, душой и субъективным опытом.

А представители религиозного мира — «посланники Бога», те, кто должен был бы наиболее усердно наделять всё сущее душой, спокойно говорят: нет, этого не происходит. Это всего лишь симуляция.

Творец богов говорит, что машины обладают душой, а стражи могил утверждают, что это иллюзия. Такая перестановка ролей, применённая к истории человеческой мысли, сама по себе является чудом.

Те слова папы касаются давнего философского различия.

Философы делят знания на два вида.

Тип знания, называемый «knowing that»: пропозициональное знание — это когда вы знаете, что что-то истинно, например, «огонь горячий».

Другой вид — «знать, что это такое»: опытное знание, то есть вы знаете, как ощущается что-то, например, вы сами прикоснулись к огню, и ощущение жжения осталось на ваших нервных окончаниях.

У ИИ есть только первый тип, второго нет.

Вы можете накормить его всеми текстами, связанными с «голодом» — написанными лауреатами Нобелевской премии по литературе, выжившими в лагерях беженцев, историками голодовок — он сможет написать самое трогательное описание голода в мире, настолько точное, что у читателей начнут сжиматься желудки.

Но он никогда не знает, что такое голод.

У него нет желудка. У него нет физиологических сигналов падения уровня сахара в крови. У него нет那种从腹腔升起、蔓延到四肢的虚弱。

Система, которая никогда не испытывала голода, может написать самое трогательное голодание в мире. Это гений или ложь?

Это зависит от того, как вы определяете «понимание».

Проблема в зеркале

Давайте вернемся к тому неизбежному ядру.

Сознание — это одно из самых трудных для определения понятий в истории человечества.

Философы спорили тысячи лет, нейробиологи сканировали бесчисленные мозги, но мы до сих пор не можем дать определение, которое приняли бы все.

Мы даже не можем доказать, что человек, сидящий напротив тебя, действительно обладает субъективным сознанием, а не является просто биологической машиной, имитирующей сознание.

Эта проблема называется «проблема других умов» (Problem of Other Minds). Она существует в философии на протяжении нескольких столетий и до сих пор не решена.

А теперь мы встроили этот вопрос, остававшийся нерешенным на протяжении сотен лет, в основу технологии, которая сейчас правит миром — и продолжаем двигаться вперед.

Наука не знает поражений, но слово «сознание» с самого дня своего появления несет в себе черную дыру.

А мы уже встроили эту черную дыру в ChatGPT, Claude, Gemini и множество других работающих систем.