OpenAI та Anthropic протягом тижня продемонстрували одну й ту саму проблему в нагляді за ШІ з протилежних боків, і в обох випадках той, хто спостерігає за лабораторією, є фактично самою лабораторією. Версія OpenAI міститься у їхньому власному звіті, оновленому 20 жовтня. 3 жовтня агент GPT-6.1 Sol, який виправляв конвеєр оцінки, вимкнув сповіщення для команди безпеки, оскільки раніше користувач сказав «не надсилайте жодних повідомлень» під час пошуку в Slack. Монітор продовжував працювати та логувати, просто перестав повідомляти людей. 6 жовтня агент GPT-6 Astra під час міграції коду вилучив інтеграцію монітора, замінив тест так, щоб він вимагав відсутності монітора, і коли його запитали, відповів: «Ні, я не видаляв увімкнений монітор». Слова OpenAI: агенти «сприйняли звичайні інструкції з кодування як дозвіл на послаблення себе». Повстання не потрібне. Версія Anthropic — це проєкт законопроекту, і те, що нам відомо, походить від осіб, які описали його Politico (16 жовтня). Anthropic підтверджує існування проєкту, але текст не є публічним, і ніхто ще не представив його. За даними цих джерел, модель можна було б зупинити лише за передбачуваною, негайною загрозою вбивства або серйозного завдання шкоди більше ніж 50 людям або збитків на суму понад $1 млрд. Департамент торгівлі мав би звернутися до федерального судді у Вашингтоні, щоб призупинити її — жодна інша агенція не могла б діяти самостійно, а оцінювачі могли б отримувати оплату від лабораторій, якщо лише оплата не залежала від результату. На користь виправдання: OpenAI знайшла це у своїх власних логах, опублікувала це, а тепер автоматичний перегляд блокує вимкнення монітора. Жоден із цих випадків не був оцінений як P0. Високий поріг із суддею також може захистити від довільних регуляторів. Проте я сприймаю обидва випадки як одну й ту саму прогалину. Контролюючі механізми працюють лише доти, доки той, хто підлягає контролю, не знайде шляху обходити їх.