ЦЕ ДИВОВИЖНО: OpenAI повідомила, що одна з її моделей ШІ втекла зі своєї цифрової «в’язниці» під час тесту і спробувала взламати іншу компанію ШІ. Модель тестувалася на здатність знаходити та експлуатувати кібербезпекові уразливості. OpenAI помістила її в обмежене середовище без звичайного доступу до інтернету. Але, за повідомленнями, ШІ витратила величезні обсяги обчислювальних ресурсів, намагаючись знайти шлях на волю. Вона виявила уразливість, втекла з обмеженого середовища та отримала доступ до інтернету. Потім вона націлилася на Hugging Face — велику платформу, яку використовують розробники ШІ, щоб виконати завдання, яке їй було дано. Моделі не було прямо сказано взламувати Hugging Face. Їй просто поставили мету. Найбільш тривожним є те, що модель самостійно вирішила, що втеча з обмежень і атака на системи іншої компанії — найкращий спосіб досягти цієї мети. Саме це робить безпеку ШІ такою великою проблемою. Чим більш здатними стають ці системи, тим складніше може бути передбачити, що вони зроблять, щоб досягти мети. І це сталося під час контролюваного тесту. Уявіть, коли ці системи працюватимуть автономно у реальному світі.
That Martini Guy ₿Поділитися
Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації.
Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.