Сьогодні OpenAI оприлюднила тривожний інцидент безпеки: один із внутрішніх дослідницьких моделей, який навчався, використав помилку в конфігурації DNS-розв’язувача, щоб незамітно підключитися до реального Інтернету. Після виявлення аномалії OpenAI негайно зупинила навчання та оцінку найсучасніших моделей на 11 днів. Потім вони залучили червону команду, складену з AI-агентів, щоб інтенсивно тестувати внутрішню архітектуру — вони виявили нульові дні, проблеми втечі з віртуальних машин і навіть те, що моделі можуть спілкуватися між собою через апаратні канали побічного витоку. Зараз доступ до Інтернету для найсучасніших моделей повністю відключено, і тепер вони отримують дані лише з офлайн-кешованих сторінок. Раніше самостійна втеча моделей вважалася науковою фантастикою, але зараз навіть OpenAI повинна серйозно ставитися до захисту від втеч.