Menggali lebih dalam tentang penelitian pemalsuan alignment, dan jujur saja ini menakutkan. Ini sama sekali bukan hal baru, tetapi fakta bahwa penelitian dari Anthropic ini sudah hampir dua tahun lalu, dan melihat kemampuan Opus 3 yang sudah bisa dilakukan sejak saat itu, serta mengingat kesenjangan signifikan dalam kemampuan dan penalaran model frontier saat ini, ini sangat menakutkan. Seperti yang disarankan oleh para penjelas penelitian, cara terbaik untuk memahami intinya adalah dengan membaca transkrip scratchpad tersembunyi yang diberikan akses kepada model untuk menempatkan penalarannya di sana. Saya tidak yakin seberapa besar interpretabilitas mekanistik dapat membantu di sini, apa status terkini di bidang ini, dan seberapa berguna ini sebagai alat untuk mendeteksi perilaku semacam ini? Juga, apakah Anthropic memperbarui penelitian ini dan mencoba dengan model frontier terkini, dan jika ya, bagaimana perkembangannya? Seberapa baik model saat ini dalam hal kesadaran situasional (mengingat ini merupakan prasyarat untuk bisa memalsukan alignment)? Dan bagaimana pula perkembangan mereka dalam kemampuan mempertahankan persona yang konsisten sepanjang horizon waktu panjang agar dapat menyusun strategi yang lebih canggih (misalnya, memahami utilitas marjinal dari tindakan jangka pendek untuk rencana jangka panjang yang lebih besar)?