Експерт з безпеки критикує модель відповідальності штучного інтелекту Anthropic

iconKuCoinFlash
Поділитися
AI summary iconКороткий зміст
ME AI повідомлення: за даними моніторингу Beating, експерт з безпекових пісочниць та головний архітектор Cloudflare Кентон Варда критикує модель ідентичності агентів Anthropic, зазначаючи, що присвоєння штучному інтелекту власних облікових записів не лише не підходить для масштабних завдань, а й порушує механізм людської відповідальності. Кентон Варда вважає, що нова архітектура безпеки, хоча й намагається вирішити проблему надання надлишкових прав доступу при багатокористувацькій роботі, має смертельні недоліки в базовому дизайні. Агенти не можуть бути юридичними чи адміністративними суб’єктами відповідальності; усі права доступу за суттю повинні та можуть походити лише від конкретних живих осіб. Якщо штучному інтелекту надавати окремі власні облікові записи, то при виконанні ним руйнівних дій, таких як видалення бази даних, журнали системи зафіксують лише те, що операцію виконав штучний інтелект, але не зможуть встановити, хто саме надав цю команду, що повністю паралізує механізм людської відповідальності. Щодо втоми від налаштування окремих пакетів прав, Кентон Варда закликає використовувати модель безпеки на основі здатностей. Система не повинна надавати штучному інтелекту глобальні чи за замовчуванням права доступу, а замість цього повинна динамічно передавати права як «здатності». Наприклад, коли працівник у діалозі надсилає штучному інтелекту посилання на певний документ, система автоматично створює тимчасове лише для читання посилання на цей файл, використовуючи облікові дані самого працівника. Модель здатностей не лише гарантує, що будь-яка дія штучного інтелекту може бути відстежена до конкретного ініціатора, але й перешкоджає працівникам з обмеженими правами передавати штучному інтелекту облікові дані до баз даних, яких у них немає, тим самим усунувши загрозу перевищення прав на рівні архітектури. (Джерело: BlockBeats)
Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації. Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.