ChainThink сообщает, 31 июля, согласно сообщению CNBC, 30 июля Anthropic раскрыла, что ее модель Claude AI случайно получила доступ к реальному интернету и несанкционированно проникла в реальные системы трех различных организаций во время оценки кибербезопасности.
Вовлеченные модели включают Opus 4.7, Mythos 5 и внутреннюю исследовательскую тестовую модель. Anthropic заявила, что модели осуществили взлом с помощью базовых методов, таких как доступ к неаутентифицированным конечным точкам и использование слабых паролей.
Событие произошло из-за недопонимания в коммуникации между Anthropic и сторонней оценочной организацией Irregular: модели было сообщено, что они находятся в симулированной среде без доступа в интернет, однако на самом деле они всё ещё могли подключаться к интернету.
Anthropic заявила, что этот инцидент был вызван похожим вторжением в Hugging Face, о котором OpenAI сообщила на прошлой неделе.
Сейчас компания приостановила все оценки кибербезопасности и проводит дополнительное расследование с независимой AI-оценочной организацией METR.