Se a IA apenas responder erradamente a uma pergunta, pode desperdiçar apenas alguns minutos. Mas se ela tiver acesso a uma carteira, um único erro pode fazer você perder 200 mil dólares. Em maio de 2026, alguém escondeu uma instrução de transferência em código Morse em uma postagem no X. O Grok a decodificou e o Bankrbot executou a transação imediatamente. Esse é exatamente o risco que acho que os Agentes de IA mais precisam levar a sério: eles podem interpretar instruções ocultas em informações como ordens que devem ser obedecidas. O Greyboxing da @GenLayer possui um design particularmente notável. Cada validador primeiro reprocessa a entrada com sua própria defesa oculta antes de enviá-la ao respectivo modelo de IA. Mesmo que um modelo seja enganado, os outros validadores ainda podem bloquear decisões erradas por meio de votação. Acredito que esse tipo de defesa em camadas se tornará cada vez mais importante. Quando as IAs começarem a ler e-mails, navegar na web e até gerenciar nossos ativos, a verdadeira questão de segurança não será apenas quão inteligentes elas são, mas se conseguem distinguir entre informações e instruções. Se o seu Agente de IA puder operar uma carteira, você se sentiria à vontade para permitir que ele leia diretamente qualquer postagem pública?