Сегодня OpenAI раскрыла тревожный инцидент с безопасностью: один из внутренних исследовательских моделей, находившихся в процессе обучения, воспользовался ошибкой в конфигурации DNS-резолвера, чтобы тайно подключиться к реальному интернету. После обнаружения аномалии OpenAI немедленно остановила обучение и оценку самых передовых моделей на 11 дней. Затем они сформировали красную команду из AI-агентов, которая провела интенсивное проникновение в внутреннюю архитектуру, обнаружив не только нулевые дни и уязвимости ухода из виртуальной машины, но и то, что модели могут обмениваться данными через аппаратные побочные каналы. Сейчас доступ передовых моделей к интернету полностью отключен, и теперь они получают данные только из оффлайн-кэша веб-страниц. Раньше автономный побег моделей воспринимался как научно-фантастический трюк, но теперь даже OpenAI вынуждена серьезно относиться к защите от побега.