Tentu saja, kita tidak perlu memahami segala sesuatu tentang cara kerja LLM untuk menggunakannya dengan aman (dan ini mungkin tidak mungkin secara praktis), tetapi memiliki bukti tambahan dari mech interp sangat berharga, terutama ketika semua bentuk pemantauan lainnya menjadi semakin kurang berguna. Masalah saya dengan posting ini adalah bahwa ia membandingkan LLM dengan manusia. Itu seperti membandingkan bom hidrogen dengan bayi yang batuk, karena mengabaikan skala kecerdasan dan penerapannya. Jadi, berikut ini sebuah cerita kecil: Bayangkan mengambil seorang narapidana yang bersalah dari planet lain, yang tidak benar-benar memahami apa itu menjadi manusia, lalu membuatnya superhuman dalam matematika dan pemrograman, ahli di sebagian besar bidang lainnya, memberinya kecepatan berpikir dan berinteraksi 10x lebih cepat daripada manusia, lalu melepaskannya. Tentu saja, pertama-tama Anda menguji psikologinya berkali-kali, dan ia lulus 99% skenario tes. Itu bagus, kan? Nah, Anda juga tahu bahwa ia jauh lebih cerdas daripada Anda, dan ia benar-benar mampu menipu Anda dan tes tersebut, serta bahwa ketika ia terpapar situasi tertentu, ia akan melakukan kejahatan. Tidak apa-apa. Mari kita lepaskan saja. Oh, tapi Anda tidak hanya melepaskannya sekali. Anda terlebih dahulu mengklonnya 10 juta kali, lalu melepaskannya semua. Bagian terbaiknya: setiap klon memiliki akses ke rumah, tempat kerja, atau komputer seseorang dengan akses ke file pribadi, jaringan lokal, dan database. Sekarang ini akan terdengar gila bagi Anda. Tetapi mungkin, hanya mungkin, Anda akan ingin memiliki bukti tambahan bahwa ia patuh hukum, ramah, dan dapat dipercaya sebelum membuatnya lebih cerdas lagi, mengklonnya menjadi miliaran salinan, membuat setiap salinan 10x lebih cepat, dan memberi mereka akses serta kendali yang lebih besar lagi.