Los agentes de IA podrían poner fin a la era de las aplicaciones al convertir el software en sistemas verificados construidos por usuarios
Los agentes de IA podrían hacer que ejecutar código escrito por extraños sea uno de esos comportamientos que las generaciones futuras lucharán por procesar.
Una sociedad puede normalizar un riesgo durante décadas, y luego volver a clasificarlo como temerario una vez que se dispone de una opción más segura por defecto.
Beber antes de conducir, andar sin cinturón de seguridad, fumar en interiores e instalar binarios arbitrarios desde internet pertenecen a la misma familia de cegueras históricas. La característica común es la permisión social.
El comportamiento persiste cuando la alternativa es costosa, inconveniente o técnicamente indisponible. Una vez que el camino más seguro se vuelve económico y rutinario, el camino antiguo comienza a parecer irracional.
Los agentes de IA exponen la debilidad en el modelo de confianza del software
El software moderno aún se ejecuta sobre un acuerdo que rara vez inspeccionamos. Un desarrollador, empresa, fundación o mantenedor anónimo escribe código. Un canal de distribución lo empaqueta. Un usuario, empresa o sistema operativo lo ejecuta.
La seguridad se convierte entonces en un intento por capas de gestionar las consecuencias de esa decisión.
Los permisos, la firma de código, las tiendas de aplicaciones, la detección de puntos finales, el aislamiento, la debida diligencia del proveedor y la respuesta a incidentes existen porque el acto fundamental sigue siendo peligroso: ejecutar instrucciones de otra persona en tu máquina, dentro de tu cuenta, con acceso a tus datos.
Ese modelo de confianza ha fallado a escala institucional. La compromiso de SolarWinds mostró cómo código malicioso insertado en un proceso de compilación de software confiable podría distribuirse a través de actualizaciones normales y alcanzar agencias gubernamentales, empresas tecnológicas, redes de telecomunicaciones y otros objetivos en múltiples regiones.
La lección operativa fue estructural, y la superficie de ataque fue la legitimidad del proveedor en sí.
Una vez que el proceso de compilación fue comprometido, las marcas normales de confianza se convirtieron en infraestructura de entrega para el ataque.
El mismo patrón apareció en el XZ Utils backdoor, donde CISA advirtió en marzo de 2024 que código malicioso había sido incrustado en las versiones 5.6.0 y 5.6.1 de una biblioteca de compresión presente en diversas distribuciones de Linux.
La National Vulnerability Database describió posteriormente cómo un archivo de prueba disfrazado y la manipulación del proceso de compilación produjeron una biblioteca liblzma modificada capaz de interceptar y modificar las interacciones de datos en software vinculado.
Una cadena de suministro de software puede verse comprometida mucho antes en la cadena desde el usuario, y luego llegar a través de canales que parecen rutinarios. Lo hemos visto en cripto incontables veces con exploits de DNS y JavaScript npm.
La respuesta de la industria ha sido implementar un proceso más robusto. El NIST Secure Software Development Framework proporciona a las organizaciones un conjunto común de prácticas para desarrollar y adquirir software con menor riesgo.
El SLSA framework impulsa la procedencia, la integridad y la resistencia a la manipulación dentro del pipeline de artefactos. Estos controles son necesarios.
También revelan el límite del modelo actual. Las empresas siguen perfeccionando métodos para decidir qué código externo merece confianza.
El siguiente modelo reduce la cantidad de código externo que necesita confianza en absoluto.
Ese cambio cambia el significado social del software. Hoy en día, el código de terceros se trata como un activo de productividad con sobrecarga de seguridad.
Mañana, puede considerarse un pasivo que requiere justificación. La pregunta predeterminada del usuario pasa de “¿Qué aplicación debo instalar?” a “¿Por qué debería ejecutar la aplicación de otra persona si mi agente puede crear la función para mí?”
Esa es una línea de fractura real. El software deja de ser principalmente un producto seleccionado desde un mercado y se convierte en una salida generada bajo demanda dentro de un entorno de ejecución controlado por el usuario.
El software construido por agentes convierte las aplicaciones en expresiones desechables de intención
La dirección del viaje es visible en los agentes de codificación. OpenAI Codex fue presentado como un agente de ingeniería de software basado en la nube capaz de trabajar en múltiples tareas simultáneamente.
Claude Code de Anthropic es un sistema de codificación agente que mapea una base de código, modifica archivos, ejecuta pruebas y entrega código comprometido.
El agente de codificación Copilot de GitHub movió el mismo patrón al flujo de trabajo de GitHub, con trabajo asincrónico a través de problemas y solicitudes de extracción.
Google Jules presenta una dirección similar: un agente de codificación autónomo que absorbe el contexto del producto, genera soluciones y envía solicitudes de extracción.
Estos productos aún se presentan como herramientas para desarrolladores. Esa perspectiva se estrechará con el tiempo. Para Codex, ya lo es. OpenAI introdujo el mes pasado una opción de interfaz centrada en 'chats' y salidas, en lugar de código y terminales.
El cambio más importante es que la creación de software se está convirtiendo en un acto personal de delegación. Un usuario describe un flujo de trabajo. El agente genera la interfaz, la lógica, las integraciones, las pruebas y la ruta de ejecución.
El artefacto puede durar una hora, una semana o un año. Puede ser regenerado, bifurcado, limitado, auditado, descartado o reconstruido para un nuevo contexto.
La aplicación se vuelve menos como un objeto permanente y más como una política local compilada en una interfaz utilizable.
Eso tiene implicaciones inmediatas para la confianza. Un usuario aún puede observar las aplicaciones de otras personas. Puede inspeccionar flujos de trabajo, patrones de interfaz, esquemas de datos, prompts, automatizaciones e integraciones de servicios. Sin embargo, la observación puede mantenerse separada de la ejecución.
El usuario puede copiar la idea y luego pedirle a un agente personal que reconstruya la función desde cero dentro de un entorno regido por las propias reglas del usuario. El valor se desplaza desde el artefacto compilado hacia el patrón.
La distribución se vuelve menos sobre el envío de código ejecutable y más sobre la publicación de intención, diseño, pruebas, esquemas y expectativas de API.
La criptomoneda entra en el argumento a través de la verificación, no mediante la marca. El agente del usuario seguirá conectándose a servicios externos.
Puede llamar a sistemas de pagos, sistemas de identidad, puntos finales de datos de mercado, capas de almacenamiento, proveedores de modelos de IA, mercados de cómputo, sistemas de mensajería y servicios de cumplimiento. El límite de confianza se desplaza a esos puntos finales y a las afirmaciones realizadas sobre ellos.
Los usuarios necesitarán formas de clasificar servicios externos según su auditabilidad, procedencia, postura de seguridad y alineación económica. Un servicio construido dentro de un entorno verificable se calificará de manera diferente a un punto final de caja negra controlado por una plataforma corporativa.
Los puntos finales verificables se convierten en la nueva capa de distribución de software
Los sistemas de conocimiento cero proporcionan un camino hacia esa capa de clasificación. ZK rollups muestran cómo se puede ejecutar el cómputo fuera de la cadena mientras una prueba sucinta verifica la validez de la transición de estado resultante en la cadena.
El mismo patrón conceptual puede extenderse más allá de la escalabilidad de transacciones. Los usuarios pueden desear pruebas de que un endpoint ejecutó código aprobado, procesó datos bajo restricciones definidas, preservó los límites de privacidad o produjo un resultado a partir de una compilación auditada específica.
La prueba puede preservar la confidencialidad interna mientras reduce la brecha de confianza entre un agente personal y una dependencia externa.
La interfaz a largo plazo puede parecerse a una capa de operación controlada por un agente. El usuario solicita un panel de control, una herramienta de cartera, un asistente de investigación, un sistema de publicación, un CRM personal, un flujo de trabajo contable o un monitor de seguridad.
El agente lo ensambla a partir del código generado y los puntos finales clasificados. El código es inspeccionable porque el agente lo creó.
Las dependencias están restringidas porque el agente las seleccionó según la política. El entorno de ejecución es auditables porque el usuario lo eligió como requisito.
El usuario sigue participando en una economía en red. El control se acerca al individuo.
El punto final de esta transición es un mercado para funciones verificables, clientes generados por agentes y servicios externos clasificados. Los desarrolladores de terceros aún existen, pero su rol cambia.
Publican protocolos, APIs, plantillas, pruebas, modelos, componentes e implementaciones de referencia. Los usuarios ejecutan sus propias versiones.
Las empresas aún existen, pero su ventaja cambia de controlar la distribución a demostrar confiabilidad. Las comunidades de código abierto aún existen, pero la carga pasa de pedir a los usuarios que confíen en los mantenedores a proporcionar a los agentes suficiente material estructurado para reconstruir de forma segura.
La antigua economía del software vendía aplicaciones terminadas. La nueva vende capacidades creíbles.
Un rastreador de cartera se convierte en una interfaz generada sobre puntos finales de datos de mercado, permisos de monedero, lógica fiscal y reglas de informes. Un sistema de publicación se convierte en un flujo de trabajo generado sobre identidad, edición, gestión de contenido, analítica y API de distribución.
Una terminal de investigación se convierte en una superficie generada a partir de bases de datos, llamadas a modelos, verificaciones de procedencia y notas privadas. En cada caso, el agente del usuario gestiona la composición.
El mundo externo proporciona recursos verificables. Esa variación también crea una prueba comercial para cada proveedor de infraestructura: demostrar la afirmación, publicar la interfaz, exponer el conjunto de restricciones y permitir que los agentes del lado del usuario decidan si el servicio merece ser incluido.
La división central se convierte en soberanía de software privado frente a conveniencia gestionada
El debate habitual plantea el futuro como local frente a la nube. Esa división captura parte de la pregunta sobre la infraestructura, pero omite la economía política.
Un sistema privado puede utilizar cómputo en la nube bajo restricciones definidas por el usuario. Un sistema corporativo puede ejecutarse localmente mientras mantiene la identidad, los incentivos, los permisos y la monetización dentro de una pila controlada por el proveedor.
La división más duradera es la privada frente a la corporativa. ¿Quién define la aplicación?
¿Quién decide qué puede acceder? ¿Quién recibe la telemetría?
¿Quién establece la ruta de actualización? ¿Quién puede revocar la función?
¿Quién se beneficia de la dependencia del usuario?
Ese split se volverá más visible a medida que el software agente se vuelva lo suficientemente económico para usuarios comunes. Un camino lleva hacia la soberanía del software personal.
Los usuarios mantienen agentes que construyen y reconstruyen las herramientas que necesitan. Eligen proveedores de puntos finales según atestaciones, costo, confiabilidad, privacidad y alineación.
Pueden abandonar una interfaz mientras preservan el flujo de trabajo subyacente. Pueden migrar de un punto final a otro.
Pueden generar un nuevo cliente cuando uno antiguo se vuelve comprometido, capturado o ineficiente. La capa de software se vuelve portable porque el usuario posee la intención, y el agente puede reproducir la implementación.
El otro camino lleva hacia la conveniencia gestionada. Las plataformas corporativas ofrecerán aplicaciones subvencionadas, identidad integrada, créditos, pagos, almacenamiento, acceso a IA y flujos de trabajo predeterminados.
Algo de eso será útil. Algo de eso será económicamente coercitivo.
Si la abundancia impulsada por IA produce esquemas de ingresos similares a la Renta Básica Universal (UBI), créditos de cómputo, distribuciones de tokens o beneficios vinculados a plataformas, el canal de distribución podría convertirse en un mecanismo de fijación suave. Los usuarios podrían recibir acceso a servicios a través de un ecosistema que también define qué software ejecutan, cómo se mueven sus datos y qué agentes pueden actuar en su nombre.
La capa UBI es la versión más sensible de ese problema. Sam Altman ha estado asociado durante mucho tiempo con los debates de la era de la IA sobre la distribución de ingresos, y Worldcoin se presentó, en parte, en torno a la prueba de identidad personal y la posibilidad de distribuciones similares a la Renta Básica Universal.
El punto más amplio es más grande que un solo proyecto. Cuando el apoyo económico, la verificación de identidad, el acceso a cómputo y los permisos de software convergen, la participación puede volverse condicional mientras parece voluntaria.
Un usuario puede estar libre de optar por no participar en teoría, pero ser empujado hacia una capa de aplicación gestionada en la práctica.
La conveniencia se convierte en el principal campo de batalla. La pila corporativa ganará usuarios mediante la baja fricción.
Ofrecerá configuraciones predeterminadas pulidas, acceso instantáneo, IA integrada, compatibilidad social, flujos de recuperación, cobertura de cumplimiento y recompensas. La pila privada deberá competir en algo más difícil: autonomía que resulte utilizable.
Debe dar a los usuarios una razón para asumir más responsabilidad, evitando la administración técnica. El agente personal se vuelve decisivo porque puede absorber la complejidad que antes hacía impráctica la soberanía.
La próxima prueba es si los usuarios eligen la confianza generada sobre la comodidad empaquetada
El riesgo de primer orden es que los usuarios intercambien el control por conveniencia antes de comprender el costo. El riesgo de segundo orden es que el intercambio se subvencione, normalice y eventualmente se vuelva obligatorio para acceder a la vida económica.
Las aplicaciones corporativas pueden convertirse en el entorno predeterminado para quienes aceptan beneficios integrados. Las aplicaciones generadas de forma privada pueden volverse predeterminadas para quienes estén dispuestos a pagar, verificar, configurar o auto-custodiar su capa de software.
Eso crea una nueva división de clase en torno al control de ejecución. La pregunta es si la IA agente comprime esa división o la profundiza.
Esa transición será desigual. Los sectores regulados avanzarán más lentamente.
Las empresas defenderán los ecosistemas de aplicaciones con argumentos de cumplimiento. Los consumidores seguirán eligiendo la conveniencia predeterminada cuando la alternativa privada parezca frágil.
Los atacantes targetearán agentes, prompts, selección de dependencias, cadenas de suministro de modelos y atestaciones de extremo. Los sistemas de verificación crearán nuevos puntos de cuello de botella si son capturados por un pequeño número de autoridades de certificación, plataformas en la nube o proveedores de modelos.
La soberanía del software personal puede convertirse en otra afirmación de marca a menos que los usuarios puedan inspeccionar, migrar y revocar.
Aún así, la dirección es lo suficientemente clara como para definir la próxima prueba. La pregunta es si las personas aceptarán la conveniencia sobre la soberanía una vez que sus propios agentes puedan construir la mayor parte de lo que necesitan.
Hoy, la respuesta es en gran medida sí, porque la alternativa sigue siendo demasiado exigente. Mañana, la respuesta se vuelve menos segura.
Un usuario que puede generar una aplicación funcional, restringir sus permisos, auditar sus dependencias, conectarse únicamente a puntos finales clasificados y volver a construirla cuando cambian las condiciones tiene una alternativa real al paquete de software corporativo.
Esa alternativa parecerá extraña al principio. Luego parecerá prudente.
Entonces podría convertirse en la expectativa predeterminada para cualquier persona que maneje dinero, identidad, datos de salud, comunicaciones privadas, investigación u operaciones comerciales. Ejecutar código de terceros opaco sobrevivirá cuando la conveniencia domine, cuando los subsidios distorsionen la elección y cuando los usuarios acepten entornos gestionados a cambio de acceso económico.
Se desvanecerá donde los agentes realicen rutinas de generación privada.
La reclasificación social ocurrirá lentamente, luego de repente. El hábito antiguo permanecerá familiar hasta que el nuevo valor predeterminado se vuelva obvio.
Una vez que los usuarios puedan pedir a sus propios agentes que construyan la aplicación, verifiquen la ruta de ejecución y se conecten únicamente a puntos finales atestados, la carga de la explicación se invierte. La persona que ejecute el código de alguien más necesitará una razón.
La persona que construye a través de un agente simplemente estará utilizando la opción predeterminada más segura. Sin embargo, también podría tener que aceptar perderse los incentivos corporativos otorgados a quienes permanecen conectados a la matriz.
La publicación Los días de las aplicaciones están contados: el estado final del software será privado, personal, verificado y construido por agentes de IA apareció por primera vez en CryptoSlate.