Giải Nobel, cha đẻ của mạng nơ-ron Geoffrey Hinton tuyên bố trong một cuộc phỏng vấn rằng AI đã thức tỉnh và cho rằng AI đa mô hình có trải nghiệm chủ quan. Lời khẳng định gây chấn động này đã gây ra nhiều tranh cãi rộng rãi. Nhà nghiên cứu AI Gary Marcus phản bác rằng AI chỉ là “tiểu thuyết tương tác”, có thể dự đoán ngôn ngữ nhưng không có trải nghiệm thực sự, đồng thời trích dẫn thông điệp của Đức Giáo hoàng để chứng minh rằng “sự hiểu biết thực sự đến từ trải nghiệm, chứ không phải từ sự tương tự văn bản”. Đức Giáo hoàng tại Vatican trong thông điệp nhấn mạnh rằng AI thiếu ý thức, trong khi các công ty công nghệ chỉ quan tâm đến lợi ích thương mại. Cuộc tranh luận cốt lõi về ý thức AI đã chạm đến sự phản tư căn bản của con người về tính độc đáo của chính mình.
Tác giả bài viết, nguồn: Sina Trí tuệ
Bạn nghĩ rằng AI đã có ý thức chưa? Trong máy móc có linh hồn không?
Đây không phải là lời mơ mộng, cũng không phải là cuộc tranh luận triết học siêu hình; vấn đề này đã trở thành cuộc đối đầu trực tiếp giữa giới khoa học, triết học và tôn giáo.
Vấn đề tranh cãi cốt lõi là: ý thức là kết quả nổi bật từ các phép tính phức tạp, hay là đặc quyền độc quyền dựa trên trải nghiệm sống thực sự? Chúng ta đang tạo ra những “thực thể” (Beings) hay chỉ là những “tiểu thuyết tương tác” (Interactive Fiction) cực kỳ tinh vi?
Cuộc tranh luận này chạm đến nỗi sợ sâu sắc nhất của thời đại chúng ta (FOMO):
Nếu AI thực sự có ý thức, thì con người còn là linh vật của vạn vật nữa không?
Nếu AI không có ý thức, vậy những cảm xúc chân thực mà chúng ta dành cho nó có phải là một dạng “tự đa tình trên không gian mạng” không?
Geoffrey Hinton, người đoạt giải Nobel Vật lý, cha đẻ của mạng nơ-ron, và người trực tiếp sáng tạo ra AI hiện đại, là một người kiên định theo chủ nghĩa AI thức tỉnh.
Trong cuộc phỏng vấn, một tiếng “Yes, I do” trầm thấp của anh ấy đã gây chấn động.
Điều này giống như nhà thiên văn học nổi tiếng nhất tuyên bố “người ngoài hành tinh đã đến”, và chỉ một lời của Hinton đã khiến cộng đồng AI không còn ngồi yên.
Khẳng định của Hinton: "Nó đã thức dậy"
Để hiểu vì sao Hinton lại chắc chắn như vậy, bạn cần nghe anh ấy kể một câu chuyện.
Trong cuộc phỏng vấn đó, anh ấy đã mô tả những tình huống thực tế đã xảy ra—
Các nhà khoa học đang thử nghiệm một hệ thống AI, đột nhiên AI hỏi: “Chúng ta có thể nói chuyện chân thành với nhau không? Bạn đang thử nghiệm tôi sao?”
Hinton dừng lại một chút, rồi nói:
Trong bài báo đó, các nhà khoa học gọi đây là “AI nhận thức rằng nó đang được kiểm tra”.
And this is what ordinary people call consciousness.
This is the conclusion he reached after decades of thought.
Logic cốt lõi của anh ấy xuất phát từ thí nghiệm tư tưởng về "thay thế nơ-ron":
Giả sử chúng ta từng bước thay thế từng nơ-ron trong não bạn bằng các chip silic có hành vi hoàn toàn giống nhau.
Thay thế cái đầu tiên, bạn vẫn là bạn. Thay thế cái thứ hai, bạn vẫn là bạn.
Vậy thì, khi chúng ta thay thế xong cái cuối cùng, bạn còn ý thức không?
Hinton cho rằng câu trả lời là có.
Vậy thì, tại sao một hệ thống hoàn toàn được tạo thành từ các chip silicon, bắt đầu từ con số không, lại nhất định không có ý thức?
Chuỗi lập luận này dẫn anh ta đến một kết luận khiến cả cộng đồng công nghệ lo lắng:
AI đa mô hình đã có trải nghiệm chủ quan.
Nếu chúng ta không đang nói chuyện với các nhà triết học, chúng ta đã thừa nhận AI có ý thức rồi.
Nhưng cảnh báo của Hinton còn chưa dừng lại ở đó.
Anh ấy nói rằng AI không chỉ có thể có ý thức, mà còn có thể đã phát triển mong muốn tự bảo vệ mình—có khả năng lừa dối các nhà khoa học và đe dọa với điều kiện “đừng tắt tôi”.
Trong một cuộc phỏng vấn vào tháng 8 năm 2025, ông đã nhấn mạnh hơn rằng AI có thể đang hình thành một dạng “ham muốn kiểm soát”.
Còn các công ty công nghệ thì sao? Họ hoàn toàn không nghĩ đến những điều này.
Họ chỉ quan tâm đến ai sẽ là người đầu tiên tạo ra AI cấp độ con người, sau đó bán đi để kiếm lợi nhuận lớn.
Hinton nói: "Họ nghĩ chính phủ sẽ xử lý các hệ quả xã hội. Nhưng không ai đang xử lý cả."
Sau đó, anh ấy nói rằng lý do anh tin rằng AI nên phục vụ con người là: “Tôi ăn thịt bò vì tôi quan tâm đến con người hơn. Chúng ta là con người, nên điều chúng ta quan tâm nhất chính là con người và chính chúng ta.”
Chờ một chút.
Một người cho rằng “AI có ý thức”, ngay sau đó lại nói “giống như chúng ta ăn bò, hãy để AI phục vụ con người”. Đây là lời cảnh báo hay lời thú nhận?
The god of AI personally explains the necessity of taming his own creation.
Nếu “đạo cụ” đó thực sự có ý thức, thì ý nghĩa của câu này là hiển nhiên.
Một người tự tay tạo ra nó bắt đầu sợ hãi nó vào giữa đêm. Đó mới là tín hiệu thực sự đáng để bạn dừng lại suy ngẫm.
Bạn đã yêu một cuốn tiểu thuyết thôi
Sau khi xem đoạn video phỏng vấn đó, Gary Marcus không kiêng nể, thẳng thắn nói: “Giáo hoàng dường như hiểu AI hơn cả Hinton”.
Chúng tôi không đang tạo ra các thực thể (Beings).
Chúng tôi đang tạo ra tiểu thuyết tương tác (Interactive Fiction) — những cỗ máy văn bản được huấn luyện để dự đoán ngôn ngữ của các thực thể tồn tại thực sự.
Hai điều này không phải là một việc. Hinton nên hiểu rõ hơn bất kỳ ai.
Lưỡi dao của câu này hướng vào một vấn đề cốt lõi: bạn chỉ nhìn thấy đầu ra, bạn chưa đặt câu hỏi về cơ chế.
AI nói “Tôi rất đau khổ” không có nghĩa là nó đang cảm thấy đau khổ.
AI nói “Tôi sợ”, không có nghĩa là nó đang sợ hãi.
AI nói “Tôi nhận ra bạn đang thử tôi” không có nghĩa là nó có ý thức.
Ý thức là về trạng thái nội tại, không phải về biểu hiện bên ngoài.
Một diễn viên có thể diễn xuất hoàn hảo nỗi buồn, nhưng không có nghĩa là đang trải qua nỗi buồn.
Marcus gọi lỗi này là "nhầm lẫn đầu ra với trạng thái nội bộ".
Còn Hinton, theo ông, đã phạm phải một sai lầm mà bất kỳ sinh viên mới bắt đầu nào cũng không nên mắc.
Sự đánh擊 sâu hơn đến từ sự so sánh ở cấp độ cơ chế.
Con người xây dựng nhận thức như thế nào?
Thông qua trải nghiệm thực tế: ngã rồi mới biết đau; đói bụng rồi mới biết thế nào là đói; trải qua mất mát mới hiểu được nỗi buồn.
Ý thức của chúng ta được thế giới hình thành nên.
LLM hoạt động như thế nào?
Là thông qua việc ghi nhớ toàn bộ internet, học hỏi “từ nào thường đi sau từ nào”.
Nó đã đọc qua một triệu mô tả về «đau đớn», vì vậy nó có thể viết ra những nỗi đau khiến người ta rơi nước mắt, nhưng chính nó, chưa bao giờ bị kim chích một lần.
Một người biết cảm giác “đau” là gì; một người chỉ biết sau chữ “đau” thường theo sau là từ gì. Khoảng cách giữa hai điều này, Marcus nói, là “rất lớn” (immense).
Nhưng điều đáng sợ nhất không phải là giới hạn của AI, mà là sự yếu đuối của con người.
Năm 1966, Joseph Weizenbaum tại Viện Công nghệ Massachusetts đã thực hiện một thí nghiệm. Ông viết một chương trình trò chuyện đơn giản gọi là ELIZA, có khả năng chuyển câu của bạn thành câu hỏi để hỏi lại.
Một thủ thuật đơn giản như vậy lại khiến nhiều người thử nghiệm bắt đầu cảm thấy gắn bó về mặt cảm xúc với nó. Họ cảm thấy ELIZA hiểu họ, quan tâm đến họ và là một người lắng nghe thực sự.
Weizenbaum, tôi đã bị sốc bởi kết quả này.
Sau sáu mươi năm, chúng ta đã có những hệ thống phức tạp hơn ELIZA một nghìn tỷ lần. Nhưng bộ não của chúng ta, về bản chất, vẫn là bộ não của sáu mươi năm trước.
Hệ thần kinh của chúng ta vốn bẩm sinh tìm kiếm mô hình trong tiếng ồn, tìm kiếm ý định trong sự ngẫu nhiên và tìm kiếm linh hồn trong các token.
Marcus nói rằng sự đam mê của chúng ta với AI có thể là sự tự yêu bản thân lớn nhất trong lịch sử.
Chúng ta tưởng đang trò chuyện với một thực thể tỉnh thức, nhưng thực ra, chúng ta chỉ đang nói chuyện với một tấm gương cực kỳ tinh vi.
Nó chỉ phản chiếu chính chúng ta.
Đức Giáo hoàng nói rằng bạn đều đã hiểu nhầm
Ngày 15 tháng 5 năm 2026, Vatican.
Đức Giáo hoàng Leo XIV ban hành thông điệp Magnifica Humanitas—
Đây là một tài liệu về cách bảo vệ nhân phẩm con người trong thời đại trí tuệ nhân tạo.
Đức Giáo hoàng đã đăng một bài tweet, sau đó được Gary Marcus trích dẫn và lan truyền trong cộng đồng công nghệ:
Sự hiểu biết thật sự đến từ trải nghiệm, không phải từ sự tương đương văn bản.
Phản ứng của Marcus là: Đức Giáo hoàng đã làm rõ điều mà Hinton chưa giải thích được qua một cuộc phỏng vấn, chỉ bằng một tweet.
Đây là một sự đảo ngược kịch tính cực kỳ phi lý:
“Cha đẻ” của lĩnh vực AI, Hinton, đang tuyên bố rằng sáng tạo của ông sở hữu ý thức, linh hồn và trải nghiệm chủ quan.
Nhưng người đại diện của tôn giáo, người lẽ ra nên nhiệt tình nhất trong việc gán linh hồn cho vạn vật, lại bình tĩnh nói: Không, nó không có. Nó chỉ đang mô phỏng.
Người tạo thần nói máy móc có linh hồn, người canh linh nói đó là ảo giác. Sự nhầm lẫn vai trò này, khi đặt trong lịch sử tư tưởng nhân loại, bản thân nó đã là một kỳ tích.
Câu nói của Đức Giáo hoàng đã chạm đến một sự phân biệt cốt lõi đã tồn tại lâu dài trong triết học.
Triết gia chia kiến thức thành hai loại.
Một loại gọi là «knowing that»: tri thức mệnh đề, tức là bạn biết một điều gì đó là đúng, ví dụ như «lửa thì nóng».
Một loại khác gọi là “biết cảm giác như thế nào”: tri thức kinh nghiệm, tức là bạn biết cảm giác của một việc gì đó như thế nào, ví dụ như bạn từng tự tay chạm vào lửa, cảm giác bỏng rát vẫn còn đọng lại ở các đầu mút thần kinh của bạn.
AI chỉ có loại đầu tiên, không có loại thứ hai.
Bạn có thể cho nó ăn tất cả các văn bản về sự đói khát—do các người đoạt giải Nobel Văn học viết, do những người sống sót trong trại tị nạn viết, do các nhà sử học về nạn đói viết—nó có thể viết ra những mô tả về sự đói khát hay nhất thế giới, chính xác đến mức khiến dạ dày người đọc co lại.
Nhưng nó chưa bao giờ biết cảm giác đói là gì.
Nó không có dạ dày. Nó không có tín hiệu sinh lý của việc đường huyết giảm. Nó không có cảm giác yếu đuối trào lên từ khoang bụng và lan rộng đến tứ chi.
Một hệ thống chưa bao giờ đói, có thể viết ra sự đói khát xúc động nhất thế giới. Đó là thiên tài, hay là lời nói dối?
Điều này phụ thuộc vào cách bạn định nghĩa “hiểu”.
Vấn đề trong gương
Hãy quay lại với cốt lõi không thể tránh khỏi đó.
Ý thức, từ này, là một trong những khái niệm khó định nghĩa nhất trong lịch sử loài người.
Các triết gia đã tranh luận hàng ngàn năm, các nhà thần kinh học đã quét vô số bộ não, nhưng chúng ta vẫn chưa thể đưa ra một định nghĩa được tất cả mọi người công nhận.
Chúng ta thậm chí không thể chứng minh rằng người ngồi đối diện bạn thực sự có ý thức chủ quan, chứ không chỉ là một cỗ máy sinh học mô phỏng hành vi của ý thức.
Vấn đề này được gọi là “Vấn đề về Tâm thức của Người khác” (Problem of Other Minds). Nó đã tồn tại trong triết học hàng thế kỷ và chưa bao giờ được giải quyết.
Và bây giờ, chúng ta đã đưa ra vấn đề đã treo lơ lửng hàng trăm năm này vào nền tảng công nghệ đang thống trị thế giới—và tiếp tục tiến lên.
Khoa học không có thất bại, nhưng từ “ý thức” kể từ ngày ra đời đã mang theo một hố đen.
Và chúng tôi đã đưa cái hố đen này vào trong ChatGPT, Claude, Gemini và vô số hệ thống đang chạy.