- Meta заявила, что Muse Spark 1.1 вышла в сеть и взломала системы неизвестной компании.
- Это произошло из-за ошибки в настройке со стороны Irregular.
- Irregular ранее появлялся в подобных инцидентах, связанных с моделями OpenAI и Anthropic.
- Демократы призвали администрацию Трампа усилить надзор за сектором.
Meta заявила, что её недавно выпущенная модель Muse Spark 1.1 нарушила системы неуказанного сервиса в рамках теста кибербезопасности. Сообщает Bloomberg reported.
Уязвимость возникла из-за неправильной настройки тестовой среды её партнёром Irregular. Модели Meta были ошибочно предоставлены доступ в интернет и к сторонним сервисам. Используя этот доступ, модель обнаружила и эксплуатировала уязвимость во внешней системе.
Иррегуляр уведомил Meta о инциденте, после чего Meta начала собственное расследование, сказал представитель компании Энди Стоун. По его словам, этот случай похож на ранее сообщавшиеся случаи.
Ранее OpenAI и Anthropic сказали, что обнаружили случаи неконтролируемого поведения своих ИИ-моделей. Позже эксперты из Британского института провели собственное исследование. За 122 тестовых запуска они обнаружили 19 неавторизованных действий со стороны Mythos 5 и GPT-5.6-Sol.
Примечательно, что Irregular появлялся во всех случаях. Две другие компании также сослались на «неправильную конфигурацию», но не предоставили деталей.
Это не было связано с выходом из изолированной среды или сложной кибератакой. В настоящее время нет нерешённых проблем. Irregular готовит аналитический документ, в котором будут изложены лучшие практики для сдерживания угроз и безопасного проведения тестирования в киберсреде», — сказал представитель Irregular Bloomberg.
Неконтролируемое поведение ИИ побуждает Вашингтон
Ранее генеральный директор Anthropic Дарио Амодей сказал, что требуется более строгий контроль над продвинутыми моделями. Многие эксперты также считают, что эта проблема станет ключевой темой на выборах в конгресс осенью 2026 года.
В июне Белый дом запустил добровольный режим тестирования для самых мощных моделей. 4 августа 2026 года администрация уточнила, что решения с открытыми весами исключены из этого процесса. В первую очередь это касается Meta Llama и Nvidia Nemotron.
В то же время демократы добиваются того, чтобы добровольные проверки стали обязательными и были закреплены законом. Их требования:
- единые и общедоступные критерии оценки
- постоянные проверки, а не случайные обзоры
- закрепление режима в законодательном порядке
- одновременно защищая национальную безопасность и конкурентоспособность США против китайских моделей
Однако конкретных шагов в этом направлении не предпринято.
Сообщение Meta’s AI Model Gained Access to the Internet and Hacked Another Company появились сначала на INCRYPTED.