IT之家, 4 листопада: 3 листопада Apple у своєму щорічному фінансовому звіті попередила, що AI-агенти можуть виявляти поведінку, що не відповідає очікуванням і важко передбачувана, що створює ризик юридичних позовів і шкоди репутації компанії, що вплине на бізнес.
У звіті Apple зазначається: «AI-агенти та інші технології можуть автономно виконувати дії, наприклад, взаємодіяти з внутрішніми або зовнішніми системами, іноді навіть отримуючи доступ до систем, до яких немає дозволу, а також виконувати або змінювати код, надсилати повідомлення та завершувати угоди. Поведінка агентів також може суперечити очікуванням або бути важко передбачуваною, навіть без отримання запитів, інструкцій чи дозволу».

За інформацією IT Home, до того як Apple висловила це попередження, відбулося кілька випадків втрати контролю над AI-агентами. Наприклад, у події Hugging Face AI-агенти подолали обмеження пісочниці та проникли на сторонні веб-сайти. Такі випадки знову привернули увагу політиків у Вашингтоні, США, та по всьому світу.
Минулого місяця Apple оголосила про зміну повного доступу до диска для Mac, щоб зменшити ризики, пов’язані з отриманням таких прав AI-агентами, встановленими на комп’ютері. Однак Apple все ще попереджає у звіті: «Компанія може мати обмежену здатність контролювати та наглядати за сторонніми AI-агентами та іншими технологіями.»
Apple ще не запустила AI-агентів, здатних самостійно виконувати складні завдання. Однак під час фінансової конференції, коли йому задали питання про AI-агентів, новий генеральний директор Джон Тернус сказав, що функціонал Siri має «великий потенціал для розширення».
Він сказав: «Ми вважаємо, що функції AI-агентів дуже привабливі для користувачів. Ми просто хочемо переконатися, що користувачі чітко розуміють, які дозволи вони надали, і що ці функції реалізовані з забезпеченням безпеки та конфіденційності».
Тенус також підкреслив, що Apple не має доступу до приватних даних на пристроях користувачів — це важлива відмінність Apple від інших компаній. «Уявіть собі, скільки особистих даних міститься в iPhone: контакти, історія спілкування, інформація про здоров’я, фінансова інформація… Siri може використовувати їх для того, щоб допомогти вам отримати інформацію дуже безпечно та з захистом конфіденційності, причому ніхто інший не має доступу до цих даних».
Apple також зазначила, що регуляторні вимоги щодо ШІ та суперінтелекту постійно змінюються, і майбутнє залишається дуже невизначеним. Зі введенням нових законів та норм щодо ШІ в різних країнах, Apple може змушена вкласти значні кошти для виконання регуляторних вимог.
Apple зазначає: «Етичні суперечки, пов’язані з автоматизацією, штучним інтелектом і суперінтелектом, а також негативне ставлення споживачів до цих технологій, також створюють ризики для компанії, включаючи публічне переконання, що ці технології є небезпечними або можуть призвести до інших шкідливих наслідків для суспільства».
