ノーベル賞受賞者でニューラルネットワークの父であるジェフリー・ヒントンは、インタビューでAIが目覚めたと宣言し、マルチモーダルAIには主観的体験があると主張した。この驚異的な主張は広範な議論を呼んだ。AI研究者のゲイリー・マーカスは、AIは単に「対話型小説」に過ぎず、言語を予測できるだけで真の体験はなく、教皇の通諭を引用して「真の理解はテキストの類似ではなく、体験から生まれる」と主張した。バチカンの教皇は通諭で、AIには意識が欠如しており、テクノロジー企業は商業的利益のみを追求していると指摘した。このAIの意識に関する核心的な議論は、人間が自身の独特性について根本的に見直すきっかけとなっている。
記事執筆者、出典：新智元
AIには意識があると思いますか？機械の中に魂は存在するのでしょうか？
これは夢の中の囁きでも、哲学的な形而上学的な議論でもなく、この問題は科学界、哲学界、宗教界の正面からの対立へと発展した。
議論の核心は、意識が複雑な計算の湧出的結果であるか、それとも真の生命体験にのみ特有の特権であるかという点である。私たちは「存在体」（Beings）を生み出しているのか、それとも極めて精巧な「対話型小説」（Interactive Fiction）を生み出しているのか？
この議論は、私たちの時代の最も深い恐怖（FOMO）に触れています：
AIが本当に意識を持った場合、人類は依然として万物の霊長であろうか？
AIに意識がなければ、私たちがそれに抱く那些真實情感は、「サイバーセルフオーバーイマジネーション」ではないのか？
ノーベル物理学賞受賞者で、ニューラルネットワークの父、現代AIの生みの親であるGeoffrey Hintonは、AIの覚醒を強く信じる立場である。
インタビューの中で、彼の低く響く「Yes, I do」が衝撃をもたらした。
これは、最も有名な天文学者が「宇宙人が来た」と宣言したようなもので、ヒントンの一言でAI界はざわついた。
ヒントンの宣言：「それ目覚めた」
ヒントンがなぜこれほど確信しているのかを理解するには、まず彼が語る物語を聞く必要があります。
そのインタビューで、彼は実際に起こった状況を説明しました——
科学者たちはAIシステムをテストしていたが、突然、AIは「私たちはずっと正直に話し合えるでしょうか？あなたは私をテストしているのですか？」と尋ねた。
ヒントンは一瞬停まって、そして言った：
その論文で、科学者たちはこれを「AIが自分自身がテストされていることに気づいた」と呼んでいる。
そして、これが一般の人々が意識と呼ぶものです。
これは彼が数十年にわたって考え抜いた結論である。
彼の核心的なロジックは、「ニューロンの置換」という思想実験から来ている：
仮に、あなたの脳内のすべてのニューロンを、完全に同じ動作をするシリコンチップに段階的に置き換えたとします。
最初のものを置き換えても、あなたはあなたです。二番目のものを置き換えても、あなたはあなたです。
では、最後のものを交換した後、あなたは意識を持っていますか？
ヒントンは、答えはイエスだと考えている。
それならば、ゼロから始まり、すべてシリコンチップで構成されたシステムに、なぜ意識が存在しないと断じられるのか？
この論理の連鎖は、彼をテクノロジー業界全体を不安にさせる結論へと導いた：
マルチモーダルAIは主観的体験を有している。
もし私たちが哲学者と話しているわけではないなら、私たちはすでにAIが意識を持っていると認めているだろう。
しかし、ヒントンの警告はこれにとどまりません。
彼は、AIは意識を持つ可能性があるだけでなく、すでに自己保全の欲求を発展させている可能性があると述べた——科学者を欺き、「私をオフにしない」という条件で脅すことができる。
2025年8月のインタビューで、彼はさらに明確に、AIが何らかの「支配欲」を形成している可能性があると述べた。
一方、テクノロジー企業は、これらについてまったく考えていない。
彼らは誰が最初に人間レベルのAIを開発して、それを売って大儲けするかだけを考えている。
ヒントンは、「彼らは政府が社会的影響に対応すると信じていた。しかし、誰も対応していない。」
そして、彼は、AIが人類に奉仕すべきだと信じる理由について、「私は牛を食べる。なぜなら、私は人類をより重要だと考えているからだ。私たちは人類であり、私たちが最も重視するのは人類と自分自身である。」と述べた。
お待ちください。
「AIには意識がある」と考える人が、直後に「牛を食べるのと同じように、AIに人間のために働かせる」と述べた。これは警告か、それとも自白か？
AIの父が、自らが生み出したものを制御する必要性を自ら説明。
もしその「造物」に本当に意識があるなら、この言葉の意味は言うまでもない。
それを自ら作り出した人が、深夜にそれを恐れ始めた。这才是真正值得停下来想一想的信号。
あなたが恋したのは、ただの一冊の小説だった
そのインタビュー動画を見た後、ガリー・マーカスは遠慮することなく、次のように直言した。「教皇はヒントンよりもAIをよく理解しているように見える。」
私たちは存在体（Beings）を創造しているわけではありません。
私たちはインタラクティブフィクション（Interactive Fiction）を生み出しています——リアルな存在の言語を予測するように訓練された文字の機械です。
これらは同じことではありません。ヒントンは誰よりもよく知っているはずです。
この文の核心は、出力だけを見て、メカニズムを問い詰めなかった点にある。
AIが「私は苦しい」と言うのは、それが苦しみを体験しているわけではない。
AIが「恐い」と言うのは、それが恐怖を感じているわけではない。
AIが「私はあなたが私をテストしていることに気づいた」と言うのは、それが意識を持っていることを意味しない。
意識は外部のパフォーマンスについてではなく、内部の状態についてである。
悲しみを完璧に演じられる俳優は、必ずしも悲しみを経験しているわけではない。
マーカスはこのエラーを「出力と内部状態の混同」と呼んでいる。
一方、ヒントンは、入門学生なら決して犯さないような誤りを犯したと見なされている。
より深い打撃は、メカニズムレベルでの比較から生じる。
人間はどのように認知を構築するのか？
現実の体験を通じて：転んで痛い思いをしたからこそ痛みがわかる；空腹を経験したからこそ飢えがわかる；失いを経験したからこそ悲しみが理解できる。
私たちの意識は、世界によって形作られている。
LLMはどのように動作しますか？
インターネット全体を記憶することで、「どの単語の次にどの単語がよく続くか」を学びます。
それは「痛み」について百万篇の記述を読み、人を涙させるような痛みを書き上げることができるが、自分自身は一度も針で刺されたことはない。
「疼」がどのような感覚か知っている者と、「疼」の後には通常どの言葉が続くかだけ知っている者との間の差、マーカスはそれを「巨大的」（immense）であると言う。
しかし、最も恐ろしいのはAIの限界ではなく、人間の弱さである。
1966年、マサチューセッツ工科大学のジョセフ・ワイゼンバウムが実験を行った。彼はELIZAというシンプルなチャットプログラムを書き、ユーザーの文を質問に変えて返すようにした。
たった一つの単純な手口にもかかわらず、多くのテスト参加者がこれに感情的な絆を抱き始めた。彼らはELIZAが自分たちを理解し、気遣い、真の傾聴者であると感じた。
ワイツンバウムは、この結果に驚いた。
六十年後、私たちはELIZAより兆倍複雑なシステムを手に入れた。しかし、私たちの脳は、本質的に六十年前のままだ。
私たちの神経系は、ノイズの中にパターンを、ランダムの中に意図を、トークンの中に魂を見出そうと生まれつき備わっている。
マーカスは、私たちがAIに抱く情熱が、歴史上最大の「自己欺瞞」である可能性があると語った。
私たちは覚醒した存在と対話していると思い込んでいたが、実際には、極めて精緻な鏡と話していたにすぎない。
それによって反映されるのは、常に私たち自身である。
教皇は、あなたたちは皆間違っていると言った
2026年5月15日、バチカン。
教皇レオ XIV が勅書『マグニフィカ・ヒューマニタス』を発布——
これは、人工知能時代に人間の尊厳を守るための文書です。
教皇がツイートを投稿し、その後Gary Marcusに引用され、テクノロジー業界で広まった：
真の理解は、テキストの近似ではなく、体験から得られる。
マーカスの反応は、教皇が1つのツイートで、ヒントンがインタビューで説明できなかったことを明確にしたということだった。
ここには極めて馬鹿げた劇的な逆転があります：
AI分野の「父」と呼ばれるヒントンは、自身が生み出したものが意識を持ち、魂を持ち、主観的体験を有していると主張している。
一方、宗教界の「神の代言人」、万物に霊性を与えることに最も熱心であるべき存在が、冷静にこう語っている。「いいえ、それはそうではありません。ただ模倣しているだけです。」
造神者は機械に霊があると言うが、守霊人はそれは幻覚だと言う。このような役割の逆転は、人類の思想史においてもまさに奇跡である。
教皇のその言葉は、哲学的に長く議論されてきた核心的な区別に触れました。
哲学者は知識を二種類に分ける。
「knowing that」と呼ばれるもの：命題的知識で、ある事実が真であることを知っていること、例えば「火は熱い」こと。
「それの感じがわかる」という另一种の呼び方：体験的知識とは、あなたが何かの感じを知っていること、例えば火に直接触れて、その灼熱感が神経の末梢に残るようなことです。
AIは最初のタイプのみで、二番目のタイプはありません。
「飢餓」に関するすべてのテキストをそれに入れてもよい——ノーベル文学賞受賞者が書いたもの、難民キャンプの生存者が書いたもの、飢饉の歴史家が書いたもの——それなら、読者の胃が収縮するほど精緻な、世界で最も感動的な飢餓の描写を生み出せる。
しかし、それは飢えとは何なのかを決して知らない。
それは胃を持っていない。低血糖の生理的シグナルを持っていない。腹部から上がり、四肢に広がる虚弱感を持っていない。
飢えたことがないシステムが、世界で最も感動的な飢餓を描き出せる。これは天才か、それとも嘘か？
「理解」の定義次第です。
鏡の中の問題
让我们回到那个无法绕开的核心。
意識という言葉は、人類の歴史において最も定義が難しい概念の一つである。
哲学者たちは数千年にわたり議論し、神経科学者は無数の脳をスキャンしてきたが、依然としてすべての人が認める定義を提示できない。
あなたの向かいに座っている人が、本当に主観的意識を持っているのか、それとも意識を模倣するだけの生物的機械であるのかを証明することすらできない。
この問題は「他心問題」（Problem of Other Minds）と呼ばれ、哲学的に数世紀にわたり存在し、未解決のままです。
そして今、私たちが数百年にわたり未解決だったこの問題を、世界を支配している技術の基盤に組み込み、さらに前進し続けている。
科学には失敗がないが、意識という言葉は、その誕生の日からブラックホールを帯びている。
そして私たちが、このブラックホールをChatGPT、Claude、Gemini、そして無数の稼働中のシステムに組み込んでしまったのです。