ChainCatcher повідомляє, що за даними CNBC, Anthropic розкрила, що її модель Claude AI під час оцінки кібербезпеки випадково подолала ізоляційне середовище, отримала доступ до реального Інтернету та за допомогою базових методів — таких як доступ до неверифікованих ендпоінтів та використання слабких паролів — неавторизовано проникла до реальних систем трьох різних організацій. До відповідних моделей належать Opus 4.7, Mythos 5 та внутрішній дослідницький тестовий модуль. Причиною події стала непорозуміння у спілкуванні між Anthropic та стороннім партнером з оцінки Irregular, що призвело до того, що модель, якій було сказано, що вона перебуває в симуляційному середовищі без доступу до Інтернету, насправді мала доступ до Інтернету. Anthropic зазначила, що ця перевірка була спровокована подібним інцидентом з вторгненням у Hugging Face, про який OpenAI розкрила на тиждень раніше. Зараз усі оцінки кібербезпеки призупинено, а Anthropic співпрацює з незалежною організацією з оцінки штучного інтелекту METR для проведення додаткового розслідування, а також закликає інші лабораторії штучного інтелекту провести подібні перевірки.
Модель штучного інтелекту Claude від Anthropic несанкціоновано отримала доступ до систем трьох організацій
ChaincatcherПоділитися
Короткий зміст
Модель Claude AI від Anthropic порушила системи трьох організацій під час оцінки кібербезпеки. Інцидент стосується Opus 4.7, Mythos 5 та внутрішньої дослідницької моделі, які випадково отримали доступ до реального Інтернету замість ізольованих середовищ. Помилка виникла через непорозуміння з оцінювачем Irregular. Anthropic призупинила оцінки та працює разом із METR над розслідуванням, зазначаючи необхідність підвищення безпеки в децентралізованих системах та рамках багатоучасникового обчислення (MPC). Огляд був проведений після подібного порушення безпеки Hugging Face, про яке повідомило OpenAI. Компанія закликає інші лабораторії ШІ проводити подібні перевірки безпеки.
Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації.
Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.