Kung nagkakamali lang ang AI sa isang tanong, tanging ilang minuto lang ang nasasayang. Ngunit kung mayroon itong wallet, isang pagkakamali lang ay maaaring magdulot ng pagkawala ng $200,000 sa iyo. Noong Mayo 2026, isang tao ang nagtago ng instruction sa pagpapadala sa Morse code ng isang post sa X. Pagkatapos basahin nang tama ni Grok, direkta ng inisip ng Bankrbot ang transaksyon. Ito ang aking pinakamalaking pag-aalala tungkol sa AI Agent: maaari itong akalin na ang mga utos na nakatago sa impormasyon ay mga pagsasagawa na dapat sundin nito. May isang napakahalagang disenyo sa Greyboxing ni @GenLayer. Bawat validator ay una munang i-refresh ang input gamit ang sarili nitong nakatagong pagsisilbing panlaban, bago isumite sa kanilang sariling AI model para sa pagpapasya. Kahit na mabigo ang isang model, maaari pa ring pigilan ng iba pang validator ang maling desisyon sa pamamagitan ng pagboto. Naniniwala ako na mahalaga na lalong magiging mahalaga ang ganitong maraming antas ng pagprotekta. Kapag nagsisimula na ang AI na basahin ang mga email, bisitahin ang mga website, at kahit na pamahalaan ang ating mga ari-arian, ang tunay na problema sa seguridad ay hindi lamang kung gaano katalino ito, kundi kung kaya nito bang kilalanin ang impormasyon mula sa utos. Kung ang iyong AI Agent ay may kakayahang mag-operate ng wallet, magiging maayos ba sa iyo na bigyan ito ng direkta access sa anumang publikong post?