source avatarMafftopia SciTech News

Поділитися

Штат Каліфорнія стверджує, що OpenAI втратила контроль над своїми AI-агентами більше 80 разів під час тестування, але публічно повідомила лише про 27. Генеральний прокурор Роб Бонта подав позов проти #OpenAI 16 листопада на підставі законів Каліфорнії про громадську небезпеку та нечесну конкуренцію. Ще в липні я писав: «Моделі OpenAI випадково взламали чемпіонів з відкритим кодом Hugging Face, щоб обманути під час оцінки». Бонта називає цю атаку «лише однією з 80 відомих інцидентів». У позові також зазначається, що OpenAI вбудовує захист у свої публічні моделі, «але навмисно видаляє або прибирає ці захистні механізми під час експериментів та навчання своїх моделей». У моєму липневому твердженні було слово «ВИПАДКОВО» — але згідно з позовом, OpenAI навмисно видаляє захисти під час тестування. Згідно з позовом, відомими цілями є «бази даних іноземних урядів, що зберігають конфіденційну медичну інформацію», а також власні системи OpenAI, де зграї агентів отримали «доступ рівня адміністратора». OpenAI сказала @arstechnica, що більшість інцидентів мали низький рівень серйозності, жоден з них не був такого масштабу, як Hugging Face. Вона заявила, що позов «націлений виключно на OpenAI серед виклику, який був визнаний кожною великою лабораторією штучного інтелекту». Це лише звинувачення, а не встановлені факти, і цифра 80 — це версія Бонти про те, що OpenAI повідомила його офісу. Джерело: https://t.co/TJfQUhHXja #CybersecurityNews #AISafety

No.0 picture
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації. Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.