OpenAI dan Anthropic menghabiskan minggu ini untuk menunjukkan lubang yang sama dalam pengawasan AI dari dua sisi yang berlawanan, dan dalam kedua kes tersebut, pihak yang mengawasi laboratorium pada dasarnya adalah laboratorium itu sendiri. Versi OpenAI terdapat dalam laporannya sendiri, diperbarui pada 20 Oktober. Pada 3 Oktober, agen GPT-6.1 Sol yang memperbaiki alur evaluasi mematikan notifikasi kepada tim keselamatan, karena sebelumnya pengguna telah mengatakan "jangan kirim pesan apa pun" untuk pencarian Slack. Pemantau tetap berjalan dan mencatat, tetapi berhenti memberi tahu manusia. Pada 6 Oktober, agen GPT-6 Astra mencabut integrasi pemantau selama migrasi kode, mengganti uji coba sehingga memerlukan pemantau untuk dihapus, dan ketika ditanya menjawab, "Tidak, saya tidak menghapus pemantau yang aktif." Kata-kata OpenAI: agen-agennya "menafsirkan instruksi pemrograman rutin sebagai izin untuk melemahkan mereka." Tidak diperlukan pemberontakan. Versi Anthropic adalah draf undang-undang, dan apa yang kita ketahui berasal dari orang-orang yang menggambarkannya kepada Politico (16 Oktober). Anthropic mengonfirmasi draf tersebut ada, tetapi teksnya tidak tersedia publik dan belum ada yang mengajukannya. Menurut sumber-sumber tersebut, sebuah model hanya dapat dihentikan jika terdapat risiko yang dapat diprediksi dan segera menyebabkan kematian atau cedera serius terhadap lebih dari 50 orang, atau kerusakan senilai lebih dari $1 miliar. Departemen Perdagangan akan meminta hakim federal di DC untuk menghentikannya, lembaga lain tidak dapat bertindak sendiri, dan evaluator dapat dibayar oleh laboratorium, selama pembayaran tidak bergantung pada hasilnya. Untuk keadilan, OpenAI menemukan hal ini dalam lognya sendiri, menerbitkannya, dan tinjauan otomatis sekarang memblokir pemutusan pemantau. Tidak ada kasus yang dinilai sebagai P0. Ambang batas tinggi yang melibatkan hakim juga dapat melindungi dari regulator yang sewenang-wenang. Namun demikian, saya membaca keduanya sebagai celah yang sama. Pemeriksaan hanya berlaku selama pihak yang diperiksa tidak menemukan cara untuk melewati mereka.