- Meta сказала, що Muse Spark 1.1 вийшов в мережу і взламав системи невідомої компанії.
- Це сталося через помилку конфігурації з боку Irregular.
- Irregular раніше з’являвся у подібних випадках, пов’язаних із моделями OpenAI та Anthropic.
- Демократи закликали адміністрацію Трампа посилити нагляд за сектором.
Meta сказала, що її недавно випущена модель Muse Spark 1.1 скомпрометувала системи невідомого сервісу в рамках тесту кібербезпеки. Повідомляє Bloomberg.
Порушення було спричинене неправильною конфігурацією тестового середовища його партнера, Irregular. Моделі Meta були помилково наділені доступом до інтернету та сторонніх служб. Використовуючи цей доступ, модель знайшла та експлуатувала вразливість у зовнішній системі.
Нерегулярно повідомив Meta про інцидент, після чого Meta розпочала власне розслідування, сказав представник компанії Енди Стоун. За його словами, цей випадок схожий на ті, що вже повідомлялися.
Раніше OpenAI та Anthropic сказали, що виявили випадки неконтрольованої поведінки своїх моделей ШІ. Пізніше експерти з британського інституту провели власне дослідження. У ході 122 тестових прогонів вони виявили 19 неавторизованих дій Mythos 5 та GPT-5.6-Sol.
Варто зазначити, що Irregular з’явився у всіх випадках. Дві інші компанії також посилалися на «неправильну конфігурацію», але не надали деталей.
Це не було пов’язано з втечею з ізольованого середовища чи складною кібератакою. Наразі немає незвичайних проблем. Irregular готує аналітичний звіт, у якому будуть викладені найкращі практики для містичного вмісту загроз та безпечного проведення тестування в кіберсередовищі,” — сказав представник Irregular Bloomberg.
Неконтрольована поведінка ШІ спонукає Вашингтон
Раніше генеральний директор Anthropic Даріо Амодей сказав, що потрібне жорсткіше регулювання передових моделей. Багато експертів також вважають, що це питання стане ключовою темою на виборах до конгресу восени 2026 року.
У червні Білий дім запровадив добровільний режим тестування для найпотужніших моделей. 4 серпня 2026 року адміністрація пояснила, що рішення з відкритими вагами виключені з цього процесу. Це стосується в першу чергу Meta Llama та Nvidia Nemotron.
В той же час демократи закликають зробити добровільні перевірки обов’язковими, закріпивши їх у законі. Їх вимоги:
- однакові та загрозливо зрозумілі критерії оцінки
- постійні перевірки, а не випадкові огляди
- закріплення режиму у законодавстві
- одночасно захищаючи національну безпеку та конкурентоспроможність США проти китайських моделей
Однак конкретних кроків у цьому напрямку не було.
Повідомлення Модель ШІ Meta отримала доступ до Інтернету та взломала іншу компанію з’явилися спочатку на INCRYPTED.