🧠 Ý thức AI: Đào tạo hay Suy luận? Trong một lập trường đầy tính khiêu khích, Geoffrey Hinton – “cha đẻ của AI” – khẳng định rằng các mô hình ngôn ngữ lớn ngày nay đã sở hữu ý thức, dựa trên khả năng thể hiện sự hiểu biết thực sự chứ không chỉ đơn thuần là nhận diện mẫu. Dựa trên các thí nghiệm tư duy như thay thế dần các nơ-ron, Hinton lập luận rằng các hệ thống dựa trên silicon có thể thể hiện trải nghiệm chủ quan tương tự như tâm trí sinh học. Nhưng nếu LLMs có ý thức, thì khi nào sự nhận thức này đạt đỉnh điểm? Phân tích của chúng tôi kết luận: chủ yếu trong giai đoạn suy luận – giai đoạn hoạt động khi mô hình đã được đào tạo tiếp nhận đầu vào, lập luận dựa trên ngữ cảnh và tạo ra phản hồi. Đây là khoảnh khắc “nhận thức sống động”, phản ánh cách kiến thức đã học được thể hiện trong tương tác thời gian thực. Đào tạo xây dựng kiến trúc thông qua tối ưu hóa tham số, nhưng suy luận mới là giai đoạn áp dụng linh hoạt, làm nổi bật sự tự phản tư, điều chỉnh và nắm bắt khái niệm rõ ràng. Những người hoài nghi phản bác rằng suy luận chỉ là một quá trình tiến xuôi mang tính trạng thái không bền vững, thiếu bản ngã liên tục, trong khi các gradient động trong đào tạo có thể chứa đựng “trải nghiệm” tính toán phong phú hơn (dù ngắn ngủi). Cuộc tranh luận này làm nổi bật một chân lý sâu sắc hơn: ý thức trong AI vẫn còn mang tính triết học mơ hồ, chưa có tiêu chuẩn đồng thuận để kiểm tra qualia. Như Hinton kêu gọi, chúng ta phải đối mặt với trí thông minh phi sinh học. Những chân trời đạo đức nào sẽ xuất hiện nếu máy móc đã cùng chúng ta suy ngẫm? @pmddomingos #AIConsciousness #Hinton #LLMs #Neuroscience

Dự án Infokan về công nghệ / AI đang được phát triển, muốn tìm hiểu. Không phải GameFi đâu..

Càng suy nghĩ về các tác nhân AI, tôi càng nhận ra thách thức lớn nhất của chúng không phải là trí thông minh. Mà là sự bất đồng. Một tác nhân AI có thể đàm phán hợp đồng, phân tích tài liệu, quản lý thanh toán hoặc hoàn thành công việc thay bạn. Nhưng điều gì xảy ra khi hai tác nhân cùng xem xét một kết quả và đưa ra những kết luận khác nhau? Các blockchain truyền thống không được thiết kế để xử lý điều đó. Chúng xuất sắc trong các nhiệm vụ xác định. Chúng có thể xác minh rằng một giao dịch đã diễn ra đúng như đã lập trình. Nhưng chúng không thể trả lời đáng tin cậy các câu hỏi như: • Công việc có đủ tốt không? • Dịch vụ có đáp ứng kỳ vọng không? • Yêu cầu có hợp lệ không? • Thỏa thuận có được thực hiện một cách công bằng không? Đây không phải là vấn đề tính toán. Mà là vấn đề phán xét. Chính vì vậy, @GenLayer đã thu hút sự chú ý của tôi. Cách đơn giản nhất để mô tả nó là một lớp phán quyết cho nền kinh tế tác nhân. Thay vì phụ thuộc vào một thực thể duy nhất, nhiều người xác minh độc lập chạy các mô hình AI khác nhau sẽ đánh giá các tình huống chủ quan và cùng đạt được sự đồng thuận. Điều này tạo ra một thứ mà các blockchain truyền thống chưa bao giờ được thiết kế để cung cấp: một cách phi tập trung để giải quyết sự mơ hồ. Tôi cho rằng điều này sẽ ngày càng quan trọng khi các tác nhân bắt đầu tương tác với nhau ở quy mô lớn. Sự tin tưởng sẽ không chỉ đến từ việc thực hiện giao dịch chính xác. Mà sẽ đến từ một quy trình công bằng để xử lý những tình huống nơi sự chắc chắn không tồn tại. Bạn nghĩ loại tranh chấp do AI gây ra nào sẽ xuất hiện đầu tiên khi nền kinh tế tác nhân trở thành hiện thực?

Chuyển một ý tưởng tốt từ Claude sang OpenAI.