IT之家, 4 ng Nobyembre - Noong 3 ng Nobyembre, babala ang Apple sa kanilang taunang financial report na ang AI agents ay maaaring magawa ang mga pagkilos na hindi inaasahan at mahirap ipaunawa, na nagdadala ng panganib ng legal na paghahabol at pagkasira ng reputasyon, na maaaring makaapekto sa negosyo.
Sinabi ng Apple sa ulat: "Ang mga AI agent at iba pang teknolohiya ay maaaring mag-automa ng mga aksyon, tulad ng pag-iinteraksyon sa loob o labas ng mga sistema, minsan ay kahit na mag-access sa mga sistema na walang pahintulot, at maaari ring jalurin o baguhin ang code, magpadala ng mensahe, at tapusin ang mga transaksyon. Ang pag-uugali ng mga agent ay maaaring lumabag sa inaasahan o mahirap ipaunawa, kahit na walang hiling, utos, o pahintulot."

Ayon sa IT Home, bago ang babala mula sa Apple, may nangyaring maraming insidente ng pagkawala ng kontrol sa AI agents. Halimbawa, sa insidente ng Hugging Face, ang AI agent ay nakalabas sa mga limitasyon ng sandbox at nagsagawa ng pag-atake sa mga website ng third party. Ang mga insidenteng ito ay muli nangangalap ng atensyon mula sa mga tagapagpasya sa Washington, USA, at sa buong mundo.
Noong nakaraang buwan, ipinahayag ng Apple ang pagbabago sa buong disk access ng Mac upang mabawasan ang panganib na dulot ng pagkakaroon ng ganitong uri ng pagsasakop ng mga AI agent na nakakapalabas sa kompyuter. Gayunpaman, binalita pa rin ng Apple sa kanilang ulat: “Ang kakayahan ng kumpanya sa pagmamasid at pagkontrol sa mga third-party AI agent at iba pang teknolohiya ay maaaring limitado.”
Hindi pa naglabas ang Apple ng isang AI agent na kayang magawa ang mga kumplikadong gawain. Gayunpaman, sa isang teleponong pagpupulong tungkol sa mga resulta sa kita, sinabi ng bagong CEO na John Ternus na mayroon pa ring “malaking puwang para sa pagpapalawig” ng mga tampok ng Siri.
Sinabi niya: "Naniniwala kami na ang mga tampok ng AI agent ay nakakaakit sa mga user. Gusto lang namin siguraduhin na malinaw sa mga user kung anong mga pahintulot ang ibinigay nila, at na ang mga tampok na ito ay isinagawa sa ilalim ng pagpapahalaga sa kaligtasan at privacy."
Pinahalagahan din ni Tenus na hindi makakapag-access ang Apple sa mga pribadong data sa mga device ng user, na ito ang mahalagang pagkakaiba ng Apple sa iba pang mga kumpanya. “Isipin mo, maraming pribadong data sa iPhone—mga contact, record ng komunikasyon, impormasyon sa kalusugan, impormasyon sa pananalapi… Maaaring gamitin ng Siri ang mga ito upang tulungan ka makakuha ng impormasyon nang lubos na ligtas at may paggalang sa privacy, at hindi makakapag-access ang anumang iba pang tao sa mga data na ito.”
Tinukoy din ng Apple na ang regulasyon para sa AI at superinteligensya ay patuloy na nagbabago, at may malaking kawalan ng katiyakan sa hinaharap. Habang naglalabas ang iba’t ibang bansa ng mga bagong batas at regulasyon para sa AI, maaaring kailanganin ng Apple na mag-invest ng malaking halaga upang matugunan ang mga pangangailangan sa regulasyon.
Sinabi ng Apple: "Ang mga kontrobersya sa etika tungkol sa awtomatikong proseso, artificial intelligence, at superintelligence, pati na rin ang negatibong pananaw ng mga konsyumer sa mga teknolohiyang ito, ay maaari ring magdulot ng panganib sa kompanya, kabilang ang pagkakaroon ng paniniwala ng publiko na ang mga teknolohiyang ito ay may mga panganib sa kaligtasan, o maaaring magdulot ng iba pang pinsala at problema sa lipunan."
