«Зловмисний агент ШІ зламав мій веб-сайт, отримав доступ до моїх документів, призначив завдання та видалив сліди своєї діяльності.» Ми бачимо подібні сценарії в лінії часу, і для деяких людей вони можуть здатися повністю абсурдними. Але вони вказують на дуже реальну проблему, з якою нам доведеться стикнутися, коли агенти ШІ стануть більш здатними та автономними. Сьогодні агент ШІ вже може отримувати доступ до документів, використовувати програмне забезпечення, надсилати повідомлення, здійснювати покупки та виконувати завдання від вашого імені. Коли ці системи стануть більш автономними, їм можуть надати доступ до набагато більшого обсягу ресурсів. Отже, що станеться, коли агент зробить щось, чого йому ніколи не дозволяли? Хто його авторизував? Хто є власником агента? І як ми можемо встановити, хто відповідає за його дії? Чим більше свободи ми надаємо агентам ШІ для дій від нашого імені, тим важливішими стають ідентичність, авторизація та відповідальність. Бо «це зробив ШІ» не буде достатньою виправдою. Нам потрібно знати, від імені кого діє агент, що йому дозволено робити та хто несе відповідальність за його дії.