OpenAI описала, як вони зупиняють власні дослідницькі моделі. Це називається Control Room. Кожне дослідницьке завдання, що виконує агентне висновування, повинно зареєструватися з ідентифікатором завдання, прив’язаним до схваленого випадку безпеки. Двигун висновування перевіряє Control Room перед кожним запитом. Якщо завдання було зупинено, двигун просто відмовляє, навіть якщо код завдання продовжує виконуватися. Вони кажуть, що через 35 секунд після прийняття рішення вивід повністю припиняється. І якщо сам Control Room відключається, все зупиняється (замикається на аварійний випадок). Для масштабу: згідно з їхнім звітом про інцидент у вересні, виявлене навчання було зупинене через 2,5 години після того, як хтось почав розглядати сповіщення, і воно «не зупинилося автоматично, як очікувалося». Отже, аварійний вимикач — це перевірка дозволу перед кожним запитом, яку завдання не може обійти. Нічого складного. Усі, хто запускає агентні цикли у продакшні, мають засіб зупинки, який не є Ctrl+C.
Sad CreatorПоділитися
Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації.
Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.