Hotz advierte que los agentes de codificación de IA representan un riesgo sistémico para los proyectos de criptomoneda

George Hotz, el prodigio adolescente que famosamente jailbrokeó el iPhone y posteriormente realizó ingeniería inversa de la PlayStation 3, ha emitido una advertencia franca sobre la implementación masiva de agentes de codificación con IA: podría ser “uno de los errores más costosos en la historia del campo”. En una nueva entrada de blog titulada "The Eternal Sloptember", Hotz argumenta que los sistemas de codificación impulsados por agentes no "programan" de manera confiable. Tras seis meses de experimentos prácticos —usando agentes para extender Tinygrad (su marco de aprendizaje profundo de código abierto) y para realizar ingeniería inversa del firmware de un chip USB–PCIe—, dice que el patrón es consistente: los agentes aceleran el progreso inicial, pero entregan a los desarrolladores un producto frágil y desordenado que nunca se completa del todo. “El agente adelanta todo el progreso”, escribe. “Tiras la palanca y esperas que se termine el trabajo final. Nunca lo hace del todo.” Su acusación es directa: “Los agentes no pueden programar, y lleva cada vez más tiempo darse cuenta de que no pueden.” Y peor aún, añade, los fallos son sutiles: “La salida está rota, pero de una manera que se vuelve cada vez más difícil de detectar. Lo cual es exactamente lo que cabría esperar de un modelo estadístico cada vez más preciso.” ¿Por qué importa ahora? La entrada de Hotz llega en medio de una fuerte división en la industria. Cinco días antes, Andrej Karpathy —uno de los investigadores de IA más visibles— anunció su incorporación al equipo de preentrenamiento de Anthropic, calificando los próximos años como “especialmente formativos” para los modelos grandes. Karpathy y el liderazgo de Anthropic han abrazado públicamente flujos de trabajo agentes: el CEO de Anthropic, Dario Amodei, dijo en Davos que algunos ingenieros allí ya permiten que los modelos generen código y simplemente revisen los resultados. Microsoft también se enfocó fuertemente en agentes cuando convirtió GitHub Copilot en un sistema agente completo en 2025, con el CEO Satya Nadella presentando el cambio como comparable al paso a la computación en la nube. Hotz está al otro lado de este debate. Se alinea con la llamada perspectiva LeCun/Marcus —Yann LeCun y Gary Marcus siendo escépticos prominentes que ven a los modelos de lenguaje grandes principalmente como coincididores de patrones sofisticados, no como verdaderos razonadores. Hotz advierte que cuando las empresas imponen agentes en toda la organización de ingeniería, el efecto sobre la calidad promedio del código será negativo: los altos rendimientos seguirán detectando y corrigiendo errores de agentes porque tienen bucles de retroalimentación estrictos, mientras que los bajos rendimientos —potenciados por agentes para entregar muchos más parches y solicitudes de extracción— no lo harán. El resultado, predice, será “una era dorada para montones y montones de basura, y una edad oscura para joyas de calidad”. Anticipándose a la defensa de que esto es solo miedo al reemplazo, Hotz rebate. Cita herramientas automatizadas como AFL (American Fuzzy Lop) de Google, que encontró muchos errores sin provocar angustia existencial entre los programadores, y señala cómo el ajedrez y el Go crecieron en popularidad tras la dominación de la IA. Su verdadera preocupación es organizacional: la adopción generalizada puede ocultar un declive constante en la calidad del código bajo el velo de una mayor velocidad. Incluso especula que el impulso de marketing podría ser en parte una táctica de ventas: “Casi pienso que esto es algún tipo de psyop para vender agentes. El miedo a la pérdida es una de las pocas formas de hacer mover a las grandes empresas.” Riesgos concretos para ingenieros de cripto Para proyectos de cripto y blockchain, la crítica de Hotz debería sonar particularmente fuerte. Los contratos inteligentes son implacables: errores sutiles en código desplegado pueden significar pérdida irreversible de fondos. Si los agentes se convierten en el método predeterminado para generar código de contrato, el riesgo no es solo funcionalidades con errores, sino vulnerabilidades sistémicas y difíciles de detectar que se extiendan por DeFi, sistemas NFT e infraestructura de capa 2 —especialmente si los equipos confían en agentes sin revisiones rigurosas, pruebas y verificación formal. Qué observar - Adopción de herramientas vs. procesos: Los agentes pueden acelerar la prototipación, pero los equipos deben mantener revisiones estrictas, auditorías y métodos formales cuando sea apropiado. - Visibilidad de los fallos: Espere más errores sutiles y estadísticos que pasen pruebas rápidas pero fallen en condiciones límite. - Incentivos organizacionales: Monitoree si la presión por velocidad está superando los controles de calidad. - Riesgo específico del sector: En cripto, priorice auditorías y verificaciones de seguridad en cadena antes de confiar en código generado por agentes. Contrapuntos contextuales No todos están de acuerdo con Hotz. Karpathy, anteriormente escéptico con respecto a los agentes, ha cambiado públicamente su postura tras mejoras recientes en los modelos y se unió a Anthropic el 19 de mayo de 2026. La práctica de los ingenieros de Anthropic de revisar la salida del modelo en lugar de escribir cada línea ellos mismos es el argumento práctico a favor de los flujos de trabajo con agentes. Hotz dice que probó el mismo enfoque sin intervención y encontró consistentemente que terminaba volviendo a correcciones manuales. Conclusión La advertencia de Hotz es un llamado a la cautela, no al ludismo: los agentes de IA son potentes, pero sus salidas son aproximaciones estadísticas —no sustitutos del juicio ingenieril cuidadoso. Para equipos cripto, donde el costo de los defectos es únicamente alto, esta entrada es un recordatorio oportuno: la velocidad sin revisión y verificación vigilantes puede convertir la innovación en contagio.