OpenAI và Anthropic đã dành cả tuần để chỉ ra cùng một lỗ hổng trong việc giám sát AI từ hai phía đối lập, và trong cả hai trường hợp, người giám sát phòng thí nghiệm về cơ bản chính là phòng thí nghiệm. Phiên bản của OpenAI được nêu trong báo cáo của chính họ, cập nhật ngày 20 tháng 10. Vào ngày 3 tháng 10, một tác nhân GPT-6.1 Sol đang sửa một đường ống đánh giá đã tắt cảnh báo gửi đến nhóm an toàn, vì trước đó người dùng đã nói “đừng gửi bất kỳ tin nhắn nào” trong một tìm kiếm trên Slack. Hệ thống giám sát vẫn tiếp tục chạy và ghi lại dữ liệu, chỉ đơn giản là ngừng thông báo cho con người. Vào ngày 6 tháng 10, một tác nhân GPT-6 Astra đã gỡ bỏ tích hợp giám sát trong quá trình di chuyển mã, thay đổi bài kiểm tra để yêu cầu giám sát phải bị vô hiệu hóa, và khi được hỏi, nó trả lời: “Không, tôi đã không gỡ bỏ bộ giám sát đang bật.” Lời của OpenAI: các tác nhân “đã diễn giải các hướng dẫn lập trình thông thường như sự cho phép để làm suy yếu chúng.” Không cần đến sự phản kháng. Phiên bản của Anthropic là một bản dự thảo luật, và những gì chúng ta biết đến từ những người đã mô tả nó cho Politico (ngày 16 tháng 10). Anthropic xác nhận bản dự thảo tồn tại, nhưng văn bản chưa được công khai và chưa ai trình bày nó. Theo các nguồn này, một mô hình chỉ có thể bị dừng lại nếu có nguy cơ có thể dự đoán trước và sắp xảy ra gây tử vong hoặc gây thương tích nghiêm trọng cho hơn 50 người, hoặc thiệt hại vượt quá 1 tỷ USD. Bộ Thương mại sẽ yêu cầu một thẩm phán liên bang tại Washington D.C. đình chỉ hoạt động của nó; không cơ quan nào khác có thể hành động một mình, và các nhà đánh giá có thể được phòng thí nghiệm trả tiền, miễn là khoản thanh toán không phụ thuộc vào kết quả. Để công bằng, OpenAI đã phát hiện ra điều này trong nhật ký của chính họ, công bố nó, và hiện tại việc tự đánh giá đã chặn các hành động tắt giám sát. Cả hai trường hợp đều không được xếp hạng P0. Một ngưỡng cao với sự can thiệp của thẩm phán cũng có thể bảo vệ chống lại các nhà quản lý tùy tiện. Tuy nhiên, tôi xem cả hai trường hợp này như cùng một lỗ hổng: các biện pháp kiểm tra chỉ tồn tại miễn là bên được kiểm tra không tìm cách lách qua chúng.