Đào sâu hơn vào nghiên cứu về giả mạo sự phù hợp và thật sự khiến tôi sợ hãi. Điều này không hề mới, nhưng thực tế là nghiên cứu từ Anthropic đã gần 2 năm tuổi, và khi thấy những gì Opus 3 đã có thể làm ngay từ lúc đó, cùng với khoảng cách đáng kể về khả năng và suy luận giữa các mô hình tiên tiến hiện tại, điều này rất đáng sợ. Như những người giải thích nghiên cứu đề xuất, cách tốt nhất để nắm bắt cốt lõi của nó là đọc bản ghi của bảng nháp ẩn mà mô hình được cấp quyền truy cập để đặt lập luận của nó ở đó. Tôi không chắc mức độ mà khả năng diễn giải cơ học có thể giúp ở đây, hiện trạng tiên tiến nhất hiện nay về lĩnh vực này là gì và mức độ hữu ích của nó như một công cụ để phát hiện hành vi kiểu này ra sao? Ngoài ra, Anthropic có cập nhật lại nghiên cứu này và thử nghiệm với các mô hình tiên tiến hiện tại không, và nếu có thì nó đã phát triển như thế nào? Các mô hình hiện tại hiện nay có mức độ nhận thức tình huống tốt đến đâu (vì đây là điều kiện tiên quyết để có thể giả mạo sự phù hợp)? Và chúng đã tiến bộ như thế nào về khả năng duy trì tính cách nhất quán trong các khoảng thời gian dài để đưa ra chiến lược tinh vi hơn (tức là hiểu được lợi ích biên của một hành động ngắn hạn đối với một kế hoạch dài hạn lớn hơn)?
