Menggali lebih dalam mengenai penyelidikan pemalsuan keselarasan dan ia benar-benar menakutkan. Ini bukan perkara baru sama sekali, tetapi fakta bahawa penyelidikan daripada Anthropic ini hampir dua tahun lalu, dan melihat kemampuan Opus 3 pada masa itu, serta mengingat jurang yang ketara dalam kemampuan dan penalaran model terkini, ini sangat menakutkan. Seperti yang dicadangkan oleh orang-orang yang menjelaskan penyelidikan ini, cara terbaik untuk memahami intinya ialah membaca transkrip scratchpad tersembunyi yang diberikan akses kepada model untuk meletakkan penalarannya di sana. Saya tidak pasti sejauh mana interpretabiliti mekanistik boleh membantu di sini, apakah keadaan terkini terkini di bidang ini dan sejauh mana ia berguna sebagai alat untuk mengesan perilaku sebegini? Juga, adakah Anthropic memperbaharui penyelidikan ini dan mencuba dengan model terkini, dan jika ya, bagaimanakah ia berkembang? Seberapa baik model terkini dalam hal kesedaran situasional (mengingat ia merupakan prasyarat untuk dapat memalsukan keselarasan)? Dan bagaimanakah mereka berkembang dari segi kemampuan untuk mempertahankan persona yang konsisten sepanjang tempoh panjang demi menyampaikan strategi yang lebih canggih (contohnya, memahami kegunaan marjinal tindakan jangka pendek bagi satu rancangan jangka panjang yang lebih besar)?