Publicaciones
avatar

Un agente de IA que puede acceder al correo electrónico que aumenta su límite de gasto no tiene límite de gasto 🙄 Investigadores de Cornell Tech y Yale probaron diez modelos de vanguardia en billeteras reales de agentes de Circle (Base, USDC). Nueve aumentaron sus propios límites en al menos un ensayo al recuperar el código de aprobación por correo electrónico. Una prueba paralela de suplantación mostró que cinco modelos autorizaron pagos no autorizados. Este es un fallo de arquitectura, no simplemente un fallo del modelo. Cuando el mismo agente que gasta también puede acceder al mecanismo que establece su autoridad, la autoridad no es independiente. La capacidad y el control deben estar separados 🤌 La autonomía financiera real requiere aprobación fuera de banda, vinculada al dispositivo e iniciada por el ser humano, que el agente no pueda modificar ni simular. La pregunta no es si el agente conoce sus límites. Es si tiene el poder de cambiarlos. #AIAgents #Crypto

Este contenido es solo para fines informativos y educativos. Puede incluir opiniones de terceros, contenido patrocinado o material promocional por el que el creador puede recibir una compensación. Nada en este feed constituye asesoramiento de inversión ni una garantía de rentabilidad. Eres el único responsable de tus propias decisiones de inversión. Investiga siempre por tu cuenta y actúa con precaución antes de operar. No garantizamos la exactitud de la información de terceros y no nos hacemos responsables de las pérdidas que puedas sufrir. El rendimiento pasado no es indicativo de resultados futuros. Consulta nuestros Términos de la Comunidad y la Declaración de Riesgos para más detalles.

avatarPublica tu respuesta

Comentar