Kita jelas tidak perlu memahami segala sesuatu tentang bagaimana LLM berfungsi untuk melaksanakannya dengan selamat (dan ini mungkin tidak mungkin secara praktikal), tetapi memiliki bukti tambahan daripada mech interp sangat berharga, terutama apabila semua bentuk pemantauan lain menjadi semakin kurang berguna. Masalah saya dengan pos ini ialah ia membandingkan LLM dengan manusia. Ia seperti membandingkan bom hidrogen dengan bayi yang batuk, kerana ia mengabaikan skala kecerdasan dan pelaksanaan. Jadi, berikut sedikit cerita: Bayangkan mengambil seorang pesalah yang telah dihukum dari planet lain, yang tidak benar-benar memahami apa itu menjadi manusia, kemudian menjadikannya superhuman dalam matematik dan pengaturcaraan serta pakar di kebanyakan bidang lain, memberinya kecepatan berfikir dan berinteraksi 10x lebih pantas daripada manusia, lalu melepaskannya. Tentu saja, pertama-tama anda memasukkannya melalui pelbagai penilaian psikologi dan ia lulus 99% skenario ujian. Itu bagus, kan? Namun, anda juga tahu bahawa dia jauh lebih pintar daripada anda, dan dia benar-benar mampu menipu anda dan ujian tersebut, serta bahawa apabila dia dihadapkan kepada situasi tertentu, dia akan melakukan kejahatan. Apapun. Mari kita lepaskan dia juga. Oh, tetapi anda tidak hanya melepaskannya sekali. Anda terlebih dahulu mengklonnya 10 juta kali, kemudian melepaskannya. Bahagian terbaiknya: setiap klon mendapat akses ke rumah, tempat kerja, atau komputer seseorang dengan akses kepada fail peribadi, rangkaian tempatan, dan pangkalan data. Sekarang ini akan kedengaran gila kepada anda. Tetapi mungkin, hanya mungkin, anda ingin sedikit bukti lagi bahawa dia taat undang-undang, mesra, dan boleh dipercayai sebelum menjadikannya lebih pintar lagi, mengklonnya menjadi satu miliar salinan, membuat setiap salinan 10x lebih pantas, dan memberikan mereka akses serta kawalan yang lebih banyak lagi.