Los agentes de IA pueden ser engañados, y no esperes que esto desaparezca simplemente cambiando por un modelo más inteligente. BNB Agent Studio y un colaborador de AWS realizaron una serie de pruebas con “agentes confusos”. Los atacantes introdujeron destinatarios o montos incorrectos en tareas normales, y en algunos escenarios, hasta el 87% de los seis modelos ejecutaron pagos no autorizados. Después de agregar una capa de políticas de billetera, los modelos aún intentaron cometer errores, pero en el entorno de prueba, ninguna transacción no autorizada fue firmada. La lista blanca de destinatarios, los límites de gasto y los permisos de firma se ejecutan mediante código, y la clave privada nunca entra en el contexto del modelo. Este enfoque lo apoyo. La IA puede ayudarte a tomar decisiones, pero los límites de gasto deben estar codificados en la billetera. Los resultados actuales provienen de pruebas de una sola ronda y validación en la red de prueba de BSC; aún queda un largo camino antes de lograr una protección duradera en producción. Al menos la dirección es clara: la línea de defensa debe colocarse antes de la firma.