George Hotz advierte que los agentes de codificación de IA representan un gran riesgo para cripto y DeFi

George Hotz —el hacker que desbloqueó el iPhone a los 17 años y realizó ingeniería inversa de la PlayStation 3 antes de enfrentar a Sony en tribunales— ha emitido una advertencia contundente: el uso generalizado de agentes de codificación con IA podría ser “uno de los errores más costosos en la historia del campo”. En una entrada de blog del domingo titulada “The Eternal Sloptember”, Hotz argumenta que las herramientas de codificación agente no “programan” realmente en ningún sentido confiable. “Los agentes no pueden programar, y está tomando cada vez más tiempo darse cuenta de que no pueden”, escribió. Su afirmación central: estos modelos producen salida que parece plausible, pero está sutil y cada vez más rota, y estos defectos se vuelven más difíciles de detectar a medida que mejora la fluidez estadística de los modelos. Lo que probó y lo que encontró: - Hotz no llegó a esta conclusión mediante experimentos mentales. Pasó seis meses utilizando agentes en trabajo real: extendiendo partes de Tinygrad (su marco de aprendizaje profundo de código abierto) y realizando una ingeniería inversa completa del firmware de un chip USB-PCIe. - Su experiencia: los agentes “acumulan todo el progreso” — te llevan rápidamente a través de las partes obvias, pero luego te dejan en una palanca de máquina tragaperras donde se espera que ocurra el trabajo final y confiable. En la práctica, a menudo no ocurre: debes repetidamente recurrir a correcciones manuales. Un riesgo organizacional, no solo un asunto de ego Hotz rechaza la idea de que su crítica se base en tribalismo artesanal. Señala que herramientas automatizadas anteriores (por ejemplo, fuzzers como AFL) encontraron más errores que los humanos sin generar el mismo pánico, y que los juegos dominados por IA (ajedrez, Go) han prosperado. Su preocupación es estructural: los altos rendimientos tienen bucles de retroalimentación estrechos y pueden detectar y corregir errores introducidos por agentes. Los rendimientos más bajos —cuyo output puede aumentar diez veces con ayuda de agentes— no lo harán. Esa dinámica, advierte Hotz, acelerará un declive en la calidad promedio del código entregado: “una era dorada para montones y montones de basura, y una edad oscura para joyas de calidad”. Él enmarca el impulso hacia la adopción masiva de agentes como parte psicología comercial —“Casi pienso que esto es algún tipo de psyop para vender agentes”— argumentando que el miedo a quedar atrás empuja a las grandes empresas a adoptar herramientas antes de comprender plenamente los riesgos a largo plazo. Incluso menciona informes de que Apple está impulsando herramientas de codificación con IA en toda su organización de ingeniería y pregunta directamente: “¿Crees que macOS mejorará o empeorará en los próximos 2 años?”. Dónde se ubica Hotz en el debate más amplio Hotz se coloca en lo que él llama el “campo LeCun/Marcus” —alineado con pensadores como Yann LeCun y Gary Marcus, quienes ven a los modelos de lenguaje grandes principalmente como potentes coincidentes de patrones que imitan distribuciones existentes de código, en lugar de sistemas que razonan desde principios primeros. Por otro lado, algunos investigadores líderes ven la codificación agente como un cambio fundamental. Andrej Karpathy —quien había sido escéptico sobre los agentes de codificación a principios de 2025— cambió de opinión tras los recientes avances en modelos y se unió al equipo de preentrenamiento de Anthropic el 19 de mayo de 2026. El CEO de Anthropic, Dario Amodei, ha dicho en Davos que algunos ingenieros de la empresa ya han dejado de escribir código ellos mismos y ahora revisan la salida del modelo. Hotz informa haber probado ese flujo de trabajo y haber recurrido repetidamente a intervenciones manuales. Por qué esto importa para desarrolladores de cripto y DeFi El debate no es académico para los equipos de ingeniería blockchain y cripto. Los contratos inteligentes, monederos, puentes e infraestructura en cadena son entornos implacables donde errores sutiles pueden convertirse en explotaciones de millones de dólares. Si el código generado por agentes introduce defectos difíciles de detectar que pasan desapercibidos por procesos de revisión más débiles, el costo de la adopción masiva podría ser especialmente alto para las finanzas descentralizadas y los sistemas cripto críticos para la seguridad. Conclusión El blog de Hotz es una advertencia destacada, a nivel práctico, contra avanzar demasiado rápido con la codificación agente. Su posición establece una línea de falla industrial en vivo: creyentes entusiastas que piensan que los agentes transformarán el desarrollo de software (y ya lo están haciendo), frente a escépticos que temen una degradación sistémica en la calidad del código cuando los agentes se implementan a gran escala. Para desarrolladores y equipos en cripto —donde la corrección y la auditabilidad son primordiales—, el equilibrio entre velocidad y seguridad nunca ha sido tan consecuente.