Hizalama sahteciliği üzerine daha derin araştırmalar yapıyorum ve gerçekten korkutucu. Bu tamamen yeni bir şey değil, ancak Anthropic'ten bu araştırmanın neredeyse iki yıl önce yapılmış olması ve o dönemde Opus 3'ün zaten ne yapabileceğine bakıldığında, mevcut öncü modellerin yetenek ve muhakeme farkı göz önüne alındığında bu çok korkutucu. Araştırmayı açıklayan kişilerin önerdiği gibi, modelin muhakemesini buraya yazmak için erişim sağladığı gizli taslak metnini okumak, konuyu anlamak için en iyi yol. Burada mekanistik yorumlanabilirliğin ne kadar yardımcı olabileceğini bilmiyorum; bu alandaki en son durum nedir ve bu tür davranışları tespit etmek için bu araç ne kadar faydalı olabilir? Ayrıca Anthropic, bu çalışmayı güncel öncü modellerle yeniledi mi ve eğer evetse nasıl gelişti? Şu anki modellerin durumsal farkındalık düzeyi ne kadar (çünkü hizalamayı sahtelemek için bu bir ön koşuldur)? Ayrıca, daha sofistike stratejileri ifade edebilmek için (yani kısa vadeli bir eylemin büyük uzun vadeli bir plan için marjinal faydasını anlayabilmek) uzun zaman aralıklarında tutarlı kişiliklere sahip olma yetenekleri nasıl gelişti?
