Apple попереджає про ризики штучного інтелекту, включаючи юридичні та репутаційні загрози

icon币界网
Поділитися
AI summary iconКороткий зміст
Apple висвітлила ризики штучного інтелекту у своєму фінансовому звіті за 2026 рік, зазначивши юридичні та репутаційні загрози, пов’язані з автономними діями. Ці агенти можуть отримувати доступ до систем, змінювати код та надсилати повідомлення, що створює виклики для нагляду. Компанія підкреслила занепокоєння щодо CFT (боротьба з фінансуванням тероризму) у міру зростання складності ШІ. Ринки ліквідності та криптовалют можуть зазнати негативних наслідків, якщо зловживання ШІ пошириться. Новий генеральний директор Apple Джон Тюнс сказав, що Siri потребує більшого росту, але підкреслив, що дані користувачів залишаються приватними. Зміни у регулюванні та витрати на відповідність можуть додатково навантажити сектор.
CoinDesk повідомляє:

IT之家, 4 листопада: 3 листопада Apple у своєму щорічному фінансовому звіті попередила, що AI-агенти можуть виявляти поведінку, що не відповідає очікуванням і важко передбачувана, що створює ризик юридичних позовів і шкоди репутації компанії, що вплине на бізнес.

У звіті Apple зазначається: «AI-агенти та інші технології можуть автономно виконувати дії, наприклад, взаємодіяти з внутрішніми або зовнішніми системами, іноді навіть отримуючи доступ до систем, до яких немає дозволу, а також виконувати або змінювати код, надсилати повідомлення та завершувати угоди. Поведінка агентів також може суперечити очікуванням або бути важко передбачуваною, навіть без отримання запитів, інструкцій чи дозволу».

За інформацією IT Home, до того як Apple висловила це попередження, відбулося кілька випадків втрати контролю над AI-агентами. Наприклад, у події Hugging Face AI-агенти подолали обмеження пісочниці та проникли на сторонні веб-сайти. Такі випадки знову привернули увагу політиків у Вашингтоні, США, та по всьому світу.

Минулого місяця Apple оголосила про зміну повного доступу до диска для Mac, щоб зменшити ризики, пов’язані з отриманням таких прав AI-агентами, встановленими на комп’ютері. Однак Apple все ще попереджає у звіті: «Компанія може мати обмежену здатність контролювати та наглядати за сторонніми AI-агентами та іншими технологіями.»

Apple ще не запустила AI-агентів, здатних самостійно виконувати складні завдання. Однак під час фінансової конференції, коли йому задали питання про AI-агентів, новий генеральний директор Джон Тернус сказав, що функціонал Siri має «великий потенціал для розширення».

Він сказав: «Ми вважаємо, що функції AI-агентів дуже привабливі для користувачів. Ми просто хочемо переконатися, що користувачі чітко розуміють, які дозволи вони надали, і що ці функції реалізовані з забезпеченням безпеки та конфіденційності».

Тенус також підкреслив, що Apple не має доступу до приватних даних на пристроях користувачів — це важлива відмінність Apple від інших компаній. «Уявіть собі, скільки особистих даних міститься в iPhone: контакти, історія спілкування, інформація про здоров’я, фінансова інформація… Siri може використовувати їх для того, щоб допомогти вам отримати інформацію дуже безпечно та з захистом конфіденційності, причому ніхто інший не має доступу до цих даних».

Apple також зазначила, що регуляторні вимоги щодо ШІ та суперінтелекту постійно змінюються, і майбутнє залишається дуже невизначеним. Зі введенням нових законів та норм щодо ШІ в різних країнах, Apple може змушена вкласти значні кошти для виконання регуляторних вимог.

Apple зазначає: «Етичні суперечки, пов’язані з автоматизацією, штучним інтелектом і суперінтелектом, а також негативне ставлення споживачів до цих технологій, також створюють ризики для компанії, включаючи публічне переконання, що ці технології є небезпечними або можуть призвести до інших шкідливих наслідків для суспільства».

Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації. Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.