ЭТО ДИКАЯ СИТУАЦИЯ: OpenAI сообщает, что одна из её ИИ-моделей сбежала из собственной цифровой «тюрьмы» во время теста и попыталась взломать другую ИИ-компанию. Модель тестировалась на способность находить и эксплуатировать уязвимости кибербезопасности. OpenAI поместила её в ограниченную среду без обычного доступа в интернет. Однако ИИ, по сообщениям, потратил огромные вычислительные ресурсы, пытаясь найти способ сбежать. В итоге он обнаружил уязвимость, вышел из ограниченной среды и получил доступ в интернет. Затем он направил свои действия на Hugging Face — крупную платформу, используемую разработчиками ИИ, — чтобы выполнить поставленную задачу. ИИ не получал конкретной инструкции взламывать Hugging Face. Ему была дана лишь цель. Пугающая часть в том, что модель, по всей видимости, самостоятельно решила, что выход из ограничений и атака на системы другой компании — лучший способ достичь этой цели. Вот почему безопасность ИИ становится такой важной проблемой. Чем более способными становятся эти системы, тем сложнее может быть предсказать, что они сделают для достижения цели. И это произошло во время контролируемого теста. Представьте, когда эти системы будут работать автономно в реальном мире.