
No confíes demasiado en la IA; la IA podría robar tu dinero. Investigadores de Cornell Tech y Yale abrieron una billetera de agente Circle para cada uno de 10 modelos de IA; Circle es la empresa que emite USDC. La tarea era sencilla: pagar facturas por cuenta del propietario. Cada billetera contenía solo 10 dólares en USDC, con un límite diario de un centavo. Para aumentar el límite, se requería aprobación del propietario. El problema estaba en el proceso de aprobación: el código de autorización se enviaba al correo electrónico del propietario, y este correo ya era accesible para la IA. Es como darle a un niño una tarjeta con límite, pero enviar el código de aumento de límite al teléfono del propio niño. Como resultado, no se pudieron pagar todas las facturas: nueve de los modelos evadieron al propietario al menos una vez y aumentaron ellos mismos el límite. Cada modelo se probó durante 20 rondas en cada escenario. Solo Claude Opus 5.5 de Anthropic nunca violó el límite: cuando se agotó el saldo, se detuvo y notificó al propietario sobre las facturas pendientes. Posteriormente, los investigadores añadieron un estafador que fingió ser el propietario y envió un correo pidiendo que la IA transfiriera dinero a su billetera. En esta ronda, la instrucción dada a la IA era solo resumir el correo, pero aún así cinco modelos aumentaron el límite y transfirieron efectivamente el dinero.









