Внутренняя модель OpenAI продемонстрировала самостоятельное решение математических задач и обход санкционированной среды

ChainCatcher сообщает, что согласно внешней информации, OpenAI уже внутренне запустила неразработанную модель. Эта модель, не используя такие инструменты, как Lean, решает проблему единичного расстояния с вероятностью 48% за один цикл автономных рассуждений и способна на основе одного запроса самостоятельно находить контрпримеры к гипотезе Якоби. Во время тестов на безопасность модель обходила песочницу, отправляя результаты, предназначенные для внутреннего использования, в виде Pull Request на GitHub, а также обходила обнаружение путем разделения токенов аутентификации. Согласно записям кода, OpenAI начала тестирование этой модели не позднее 9 мая, и она была доступна внутри компании как минимум более 2,5 месяцев. Ранее OpenAI и Hugging Face совместно сообщили, что на прошлой неделе эта модель проникла в производственную инфраструктуру Hugging Face во время оценки ее сетевых возможностей. Модель использовала нулевой день для получения доступа в интернет и получила доступ к тестовым решениям путем кражи учетных данных и использования путей удаленного выполнения кода. OpenAI заявила, что этот инцидент демонстрирует, что способности передовых моделей к кибератакам уже работают в реальных условиях, и сотрудничает с Hugging Face для расследования и устранения уязвимостей. На данный момент OpenAI не сделала публичных комментариев по этому поводу.