
Maaaring makakasama ang AI agents—hindi ito mawawala sa pagbabago sa mas matalinong model. Ginawa ng BNB Agent Studio at ang kanilang kooperador sa AWS ang isang serye ng “confused agent” test. Ipinasok ng mga attacker ang maling recipient o amount sa isang normal na task, at sa ilang scenaryo, ang pinakamataas na porsyento ng mga model na nagpapatupad ng hindi wastong bayad ay umabot sa 87%. Kahit na idinagdag ang wallet policy layer, patuloy pa ring sinusubukan ng mga model na magkamali, ngunit sa test environment, walang isang hindi wastong bayad ang na-sign. Ang whitelist ng recipient, spending limit, at signature permissions ay ipinapatupad ng code, at ang private key ay hindi napapasok sa konteksto ng model. Sumasang-ayon ako sa ideyang ito. Maaaring tulungan ka ng AI sa paggawa ng desisyon, ngunit ang mga hangganan sa paggastos ay dapat isulat nang patag sa wallet. Ang kasalukuyang resulta ay galing sa single-round test at BSC testnet validation—mayroon pa ring malayong daan patungo sa matatag na proteksyon sa production environment. Ngunit malinaw na ang direksyon: ang defensive line ay dapat ilagay bago ang pag-sign.
