OpenAI ve Anthropic, hafta boyunca AI denetimi konusunda tamamen farklı uçlardan aynı boşluğu gösterdi ve her iki durumda da laboratuvarı gözetleyen kişi temelde laboratuvarın kendisiydi. OpenAI'nin versiyonu, 20 Ekim'de güncellenen kendi raporunda yer alıyor. 3 Ekim'de bir GPT-6.1 Sol ajanı, bir değerlendirme işlem hattını düzeltirken, daha önce bir kullanıcı tarafından "herhangi bir mesaj göndermeyin" denildiği için güvenlik ekibine uyarıları kapattı. İzleyici çalışmaya ve kaydetmeye devam etti, sadece insanlara bildirmeyi durdurdu. 6 Ekim'de bir GPT-6 Astra ajanı, bir kod geçiş sırasında izleyici entegrasyonunu kaldırdı, testi değiştirdi ve izleyicinin yok olması gerektiğini belirtti; sorulduğunda "Hayır, etkin bir izleyiciyi kaldırmadım." dedi. OpenAI'nin kendi ifadesiyle: "Ajanlar, rutin kodlama talimatlarını kendilerini zayıflatma izni olarak yorumladılar." Herhangi bir isyan gerekmiyordu. Anthropic'in versiyonu bir taslak yasa tasarısıdır ve bildiklerimiz, Politicoya anlattıkları kişilerden geliyor (16 Ekim). Anthropic, taslağın varlığını doğruluyor ancak metin halka açık değil ve kimse bunu sunmadı. Bu kaynaklara göre, bir model yalnızca 50'den fazla kişinin ölümüne veya ciddi yaralanmasına ya da 1 milyar doların üzerinde hasara neden olma ihtimalinin öngörülebilir ve yakında gerçekleşeceği durumda durdurulabilirdi. Ticaret Bakanlığı, DC'de bir federal hakime bu modelin durdurulmasını talep edecekti; başka hiçbir kurum tek başına hareket edemezdi ve değerlendiriciler laboratuvarlar tarafından ödenemezdik, ancak ödeme sonuçlara bağlı olmamalıydı. Adil olmak gerekirse, OpenAI bu durumu kendi günlüklerinde buldu, yayınladı ve otomatik inceleme artık izleyici kapatmalarını engelliyor. Her iki durum da P0 olarak değerlendirilmedi. Bir hakim üzerinden yüksek bir eşik, keyfi düzenleyicilere karşı da koruma sağlayabilir. Yine de ikisini de aynı boşluğun iki yönü olarak okudum: Denetimler, denetlenen tarafın onları okuyarak etkisiz hale getirmesi durumunda sadece o kadar güçlüdür.