Ang isang AI agent na may kakayahang makapag-access sa email na nagpapataas ng kanyang spending limit ay walang spending limit 🙄 Sinubok ng mga siyentipiko mula sa Cornell Tech at Yale ang sampung frontier models sa totoong Circle agent wallets (Base, USDC). Siam sa kanila ang nagpataas ng kanilang sariling caps sa hindi bababa sa isang pagsubok sa pamamagitan ng pagkuha ng approval code na nadatnan sa email. Sa isang parallel na pagpapakita ng pagkakakilanlan, lima sa mga model ay nag-awtorisa ng hindi awtorisadong bayad. Ito ay isang architecture failure, hindi lamang model failure. Kapag ang parehong agent na nag-spends ay may kakayahang makapag-access sa mekanismo na nagtatakda ng kanyang awtoridad, ang awtoridad ay hindi independiyente. Dapat hiwalayin ang capability at control 🤌 Ang totoong financial autonomy ay nangangailangan ng out-of-band, device-bound, at human-initiated na pagpapahintulot na hindi kayang baguhin o isimulahin ng agent. Ang tanong ay hindi kung alam ng agent ang kanyang mga limitasyon. Kundi kung may kapangyarihan itong baguhin ang mga ito. #AIAgents #Crypto