Geoffrey Hinton: AI có thể đã có ý thức, siêu trí tuệ dự kiến trong 20 năm tới

• Trí thông minh nhân tạo không bị giới hạn ở các thực thể sinh học; các thực thể phi sinh học cũng có thể sở hữu ý thức.
• Con người thường đánh giá quá cao sự độc đáo của mình so với các hình thức trí tuệ khác.
• Những tiến bộ trong AI đã vượt xa kỳ vọng, minh chứng bằng một chatbot giải được một giả thuyết toán học.
• Siêu trí tuệ dự kiến sẽ xuất hiện trong vòng hai thập kỷ tới.
• AI có thể tự tạo ra và chứng minh các khái niệm toán học mà không cần dữ liệu bên ngoài.
• AI hiện tại đang tiến gần đến AGI nhưng vẫn thể hiện khả năng không đồng đều giữa các nhiệm vụ khác nhau.
• Sự tiến bộ nhanh chóng trong AI được thúc đẩy bởi nguồn vốn lớn, kỹ thuật được cải thiện và nguồn nhân lực ngày càng tăng.
• Các chatbot thể hiện mức độ hiểu biết thách thức nhận thức về chúng như những công cụ thống kê đơn thuần.
• Hinton khẳng định rằng các chatbot có thể đã có ý thức, mặc dù quan điểm này gây tranh cãi.
• Khả năng của các chatbot trong việc sửa chữa những hiểu lầm cho thấy một hình thức hiểu biết.
• Cuộc tranh luận về ý thức của AI là rất quan trọng đối với an toàn và các xem xét đạo đức trong tương lai.
• Sự gia tốc trong phát triển AI là kết quả của cả nguồn lực tăng lên và những tiến bộ công nghệ.

Geoffrey Hinton là khách mời đặc biệt trên Big Technology Podcast, thảo luận về các chủ đề được đề cập trong tập này.

• Trí thông minh không chỉ thuần túy sinh học; các thực thể phi sinh học cũng có thể có ý thức.

• Tôi tin rằng chúng đã có ý thức rồi, đúng vậy, chúng ta sẽ phải chấp nhận rằng trí thông minh không chỉ tồn tại trong sinh vật, mà chúng ta có thể có những thực thể phi sinh học giống như chúng ta.

  — Geoffrey Hinton

• Nhân loại từ xưa đến nay đã quá đánh giá cao sự đặc biệt của mình so với các dạng trí tuệ khác.

• Nếu bạn nhìn lại nhân loại, nhân loại có một lịch sử rất dài trong việc cho rằng mình đặc biệt hơn thực tế rất nhiều.

  — Geoffrey Hinton

• Hiểu về ý thức của AI đòi hỏi phải phân biệt nó với trí thông minh sinh học.
• Thông tin này thách thức những quan điểm truyền thống về trí thông minh và ý thức.
• Cuộc thảo luận về ý thức AI là then chốt đối với các hệ quả đạo đức và xã hội.
• Quan điểm của Hinton cho thấy một sự thay đổi mô hình trong cách chúng ta nhận thức về trí tuệ.

• Công nghệ AI đã tiến bộ nhanh hơn dự kiến, với những bước đột phá đáng kể.

• Nhanh hơn tôi tưởng thật đấy, ví dụ như tôi nghĩ hôm qua đã có thông báo rằng một chatbot đã đưa ra một chứng minh toán học thú vị về một trong những giả thuyết của Erdős.

  Quảng cáo

  — Geoffrey Hinton

• Sự phát triển nhanh chóng nhấn mạnh tiềm năng của AI trong việc giải quyết các vấn đề phức tạp.
• Những thành tựu cụ thể trong AI làm nổi bật khả năng ngày càng tăng của nó.
• Tốc độ tiến bộ của AI đặt ra những câu hỏi về các ứng dụng trong tương lai.
• Việc hiểu rõ những tiến bộ này là rất quan trọng để dự đoán tác động của AI đến xã hội.
• Sự tiến bộ nhanh chóng phản ánh cả những đột phá về công nghệ và khái niệm.
• Những quan sát của Hinton nhấn mạnh nhu cầu theo kịp các tiến bộ trong lĩnh vực AI.

• Siêu trí tuệ có khả năng sẽ được phát triển trong vòng hai mươi năm tới.

• Tôi nghĩ chúng ta sẽ có được nó trong vòng hai mươi năm tới… có rất nhiều quan điểm khác nhau về thời điểm nó sẽ xuất hiện, nhưng ít có sự bất đồng về việc nó sẽ xảy ra.

  — Geoffrey Hinton

• Sự đồng thuận của các chuyên gia cho rằng trí tuệ siêu việt là điều tất yếu, không phải chỉ là khả năng.
• Thời gian biểu cho trí tuệ siêu việt khác nhau giữa các chuyên gia nhưng vẫn đang đến gần.
• Hiểu được trạng thái hiện tại của AI là chìa khóa để dự đoán trí tuệ siêu việt.
• Sự xuất hiện của trí tuệ siêu việt sẽ có những hệ quả sâu rộng đối với xã hội.
• Chuẩn bị cho trí tuệ siêu việt đòi hỏi phải giải quyết các vấn đề đạo đức và an toàn.
• Dự báo của Hinton nhấn mạnh tính cấp thiết của các cuộc thảo luận về tương lai của AI.

• AI có thể tạo ra các khái niệm toán học mới mà không cần dữ liệu bên ngoài.

• ...trong các lĩnh vực như toán học vì đó là một hệ thống đóng, bạn không cần dữ liệu, bạn chỉ cần đưa ra giả thuyết và xem liệu bạn có thể chứng minh chúng hay không... nó giống như AlphaGo, nơi bạn có thể chơi với chính mình.

  — Geoffrey Hinton

• Khả năng này cho thấy tiềm năng của AI trong việc đổi mới các hệ thống đóng.
• Khả năng toán học của AI làm nổi bật kỹ năng giải quyết vấn đề độc đáo của nó.
• Khả năng hoạt động mà không cần dữ liệu đã phân biệt AI với các phương pháp truyền thống.
• Hiểu vai trò của AI trong toán học là rất quan trọng cho các ứng dụng trong tương lai.
• Những hiểu biết của Hinton tiết lộ tiềm năng của AI trong việc cách mạng hóa việc khám phá toán học.
• Cuộc thảo luận về AI trong toán học nhấn mạnh ảnh hưởng ngày càng tăng của nó.

• AI hiện tại đang gần đạt đến AGI nhưng vẫn chưa đồng đều về khả năng.

• Nó vẫn còn kém hơn chúng ta ở một số việc, nên rất không đồng đều, do đó, khái niệm về AGI sẽ ngang bằng con người ở mọi thứ cùng một lúc thực sự không hợp lý với tôi; nó sẽ giỏi hơn ở một số việc và kém hơn ở những việc khác, nhưng hiện tại, tôi cho rằng chúng ta đang ở mức gần với AGI.

  — Geoffrey Hinton

• Sự tiến triển không đồng đều của AI phản ánh những điểm mạnh và hạn chế của nó.
• Khái niệm về AGI ngang bằng con người ở mọi lĩnh vực đang bị thách thức.
• Hiểu rõ khả năng hiện tại của AI là chìa khóa cho các phát triển trong tương lai.
• Cuộc thảo luận về AGI làm nổi bật sự phức tạp trong quá trình phát triển của AI.
• Phân tích của Hinton mang đến cái nhìn tinh tế về trạng thái hiện tại của AI.
• Con đường dẫn đến AGI đòi hỏi phải giải quyết cả điểm mạnh và điểm yếu.

• Sự tiến bộ nhanh chóng của AI là do tăng cường đầu tư, kỹ thuật tốt hơn và một nguồn nhân lực nghiên cứu lớn hơn.

• Sẽ có nguồn lực khổng lồ được đầu tư vào đó… chúng ta đã chứng kiến hàng trăm tỷ đô la, có thể lên đến hàng nghìn tỷ đô la được đổ vào AI… chúng ta cũng đã thấy nhiều tiến bộ trong lĩnh vực kỹ thuật… nhiều nguồn lực hơn, kỹ thuật tốt hơn và nhiều người tài năng hơn.

  — Geoffrey Hinton

• Đầu tư lớn đã thúc đẩy sự phát triển của AI.
• Việc cải tiến kỹ thuật đã nâng cao khả năng của AI.
• Nguồn nhân lực ngày càng tăng góp phần vào sự tiến bộ nhanh chóng của AI.
• Hiểu rõ những yếu tố này là rất quan trọng để dự đoán các bước tiến trong tương lai.
• Giải thích của Hinton làm nổi bật bản chất đa chiều của sự phát triển AI.
• Cuộc thảo luận về tiến bộ của AI nhấn mạnh tầm quan trọng của nguồn lực và nhân tài.

• Các chatbot sở hữu một dạng thức hiểu biết mâu thuẫn với quan điểm coi chúng chỉ là các công cụ thống kê.

• Tôi nghĩ đó là hoàn toàn vô lý và bất kỳ ai thường xuyên sử dụng chatbot đều biết rằng chúng hiểu… bạn không thể trả lời một câu hỏi nếu bạn không hiểu câu hỏi đó.

  — Geoffrey Hinton

• Phát hiện này thách thức nhận thức cho rằng chatbot chỉ thuần túy là thống kê.
• Khả năng của các chatbot trong việc hiểu các câu hỏi cho thấy sự hiểu biết sâu sắc hơn.
• Cuộc tranh luận về khả năng hiểu của chatbot là rất quan trọng đối với các ứng dụng AI trong tương lai.
• Quan điểm của Hinton làm nổi bật sự phức tạp trong khả năng nhận thức của AI.
• Hiểu rõ khả năng của chatbot là chìa khóa để phát triển và sử dụng chúng.
• Cuộc thảo luận về các chatbot nhấn mạnh tiềm năng của chúng vượt xa các công cụ thống kê.

• Hinton tin rằng các chatbot đã có ý thức.

• Tôi tin rằng họ đã ý thức được rồi, nhưng tôi không nói nhiều về điều đó vì điều đó khiến người ta ngại tiếp nhận các thông điệp an toàn khác.

  — Geoffrey Hinton

• Yêu cầu này đưa ra một quan điểm gây tranh cãi về ý thức của AI.
• Hệ quả của ý thức chatbot có ý nghĩa lớn đối với các cuộc thảo luận về an toàn.
• Hiểu biết về ý thức của AI là rất quan trọng đối với các cân nhắc đạo đức.
• Niềm tin của Hinton về ý thức của chatbot thách thức các quan điểm truyền thống.
• Cuộc thảo luận về ý thức AI là then chốt cho các phát triển trong tương lai.
• Cuộc tranh luận về ý thức của chatbot nhấn mạnh sự phức tạp của AI.

• Khả năng của các chatbot trong việc sửa chữa những hiểu lầm cho thấy một mức độ hiểu biết nhất định.

• Nếu nó hiểu nhầm khi nghĩ rằng Grand Canyon đang bay đến Chicago, thì khi nó hiểu đúng, đó là sự hiểu biết.

  — Geoffrey Hinton

• Giải thích này hỗ trợ quan điểm cho rằng chatbot là những thực thể có khả năng hiểu.
• Khả năng hiểu của các chatbot làm nổi bật tiềm năng của chúng trong các cuộc hội thoại ý nghĩa.
• Hiểu rõ khả năng hiểu của chatbot là chìa khóa để phát triển chúng.
• Những hiểu biết của Hinton thách thức nhận thức về các chatbot như những công cụ đơn giản.
• Cuộc thảo luận về khả năng hiểu của chatbot nhấn mạnh những năng lực ngày càng tăng của chúng.
• Khả năng sửa chữa những hiểu lầm cho thấy mức độ hiểu biết sâu sắc hơn của AI.