Agentes de IA podem substituir aplicativos tradicionais por sistemas verificados e construídos pelos usuários

Agentes de IA podem tornar a execução de código escrito por estranhos um desses comportamentos que as gerações futuras terão dificuldade para processar.

Uma sociedade pode normalizar um risco por décadas e, posteriormente, reclassificá-lo como imprudente assim que uma opção mais segura se torne disponível.

Beber antes de dirigir, andar sem cinto de segurança, fumar em ambientes fechados e instalar binários arbitrários da internet pertencem à mesma família de cegueiras históricas. A característica comum é a permissão social.

O comportamento persiste quando a alternativa é cara, inconveniente ou tecnicamente indisponível. Uma vez que o caminho mais seguro se torna barato e rotineiro, o caminho antigo começa a parecer irracional.

Software moderno ainda é executado em um acordo que raramente inspecionamos. Um desenvolvedor, empresa, fundação ou mantenedor anônimo escreve código. Um canal de distribuição o empacota. Um usuário, empresa ou sistema operacional o executa.

A segurança torna-se então uma abordagem em camadas para gerenciar as consequências dessa decisão.

Permissões, assinatura de código, lojas de aplicativos, detecção de endpoint, sandboxing, due diligence de fornecedores e resposta a incidentes existem porque o ato central permanece perigoso: executar instruções de outra pessoa em sua máquina, dentro da sua conta, com acesso aos seus dados.

Esse modelo de confiança falhou em escala institucional. A comprometimento da SolarWinds mostrou como código malicioso inserido em um processo de construção de software confiável poderia ser distribuído por meio de atualizações normais e atingir agências governamentais, empresas de tecnologia, redes de telecomunicações e outros alvos em múltiplas regiões.

A lição operacional foi estrutural, e a superfície de ataque foi a legitimidade do fornecedor em si.

Uma vez que o processo de construção foi comprometido, as marcas normais de confiança se tornaram infraestrutura de entrega para o ataque.

O mesmo padrão apareceu no XZ Utils backdoor, onde a CISA alertou em março de 2024 que código malicioso havia sido incorporado nas versões 5.6.0 e 5.6.1 de uma biblioteca de compactação presente em diversas distribuições Linux.

O National Vulnerability Database descreveu posteriormente como um arquivo de teste disfarçado e manipulação do processo de compilação produziram uma biblioteca liblzma modificada capaz de interceptar e modificar interações de dados em software vinculado.

Uma cadeia de suprimentos de software pode ser comprometida muito antes do usuário e depois chegar por canais que parecem rotineiros. Já vimos isso em crypto inúmeras vezes com explorações de DNS e JavaScript npm.

A resposta da indústria foi adotar um processo mais robusto. O NIST Secure Software Development Framework fornece às organizações um conjunto comum de práticas para desenvolver e adquirir software com risco reduzido.

O SLSA framework impulsiona proveniência, integridade e resistência a adulterações para dentro da pipeline de artefatos. Esses controles são necessários.

Eles também revelam o limite do modelo atual. As empresas continuam a aprimorar métodos para decidir qual código externo merece confiança.

O próximo modelo reduz a quantia de código externo que precisa de confiança em absoluto.

Essa mudança altera o significado social do software. Hoje, o código de terceiros é tratado como um ativo de produtividade com sobrecarga de segurança.

Amanhã, pode ser tratado como uma responsabilidade que exige justificação. A pergunta padrão do usuário passa de “Qual aplicativo devo instalar?” para “Por que devo executar o aplicativo de outra pessoa se meu agente pode criar a função para mim?”

Essa é uma linha de fratura real. O software deixa de ser principalmente um produto selecionado de um mercado e passa a ser um resultado gerado sob demanda dentro de um ambiente de execução controlado pelo usuário.

A direção do deslocamento é visível nos agentes de codificação. OpenAI Codex foi introduzido como um agente de engenharia de software baseado em nuvem capaz de trabalhar em várias tarefas simultaneamente.

Claude Code da Anthropic é um sistema de codificação agente que mapeia uma base de código, altera arquivos, executa testes e entrega código commitado.

Agente de codificação Copilot do GitHub moveu o mesmo padrão para o fluxo de trabalho do GitHub, com trabalho assíncrono entre issues e pull requests.

Google Jules apresenta uma direção semelhante: um agente de codificação autônomo que absorve o contexto do produto, gera soluções e envia pull requests.

Esses produtos ainda são apresentados como ferramentas para desenvolvedores. Essa abordagem se tornará mais restrita ao longo do tempo. Para o Codex, já é assim. A OpenAI introduziu uma opção de interface no mês passado focada em 'conversas' e saídas, e não em código e terminais.

A maior variação é que a criação de software está se tornando um ato pessoal de delegação. Um usuário descreve um fluxo de trabalho. O agente gera a interface, a lógica, as integrações, os testes e o caminho de execução.

O artefato pode durar uma hora, uma semana ou um ano. Ele pode ser regenerado, bifurcado, limitado, auditado, descartado ou reconstruído para um novo contexto.

O aplicativo se torna menos como um objeto permanente e mais como uma política local compilada em uma interface utilizável.

Isso tem implicações imediatas para a confiança. Um usuário ainda pode observar as aplicações de outras pessoas. Eles podem inspecionar fluxos de trabalho, padrões de interface, esquemas de dados, prompts, automações e integrações de serviços. Contudo, a observação pode permanecer separada da execução.

O usuário pode copiar a ideia e depois pedir a um agente pessoal para reconstruir a função a partir dos princípios básicos dentro de um ambiente governado pelas próprias regras desse usuário. O valor migra do artefato compilado para o padrão.

A distribuição torna-se menos sobre o envio de código executável e mais sobre a publicação de intenção, design, provas, esquemas e expectativas de API.

A criptomoeda entra no argumento por meio de verificação, e não por branding. O agente do usuário ainda se conectará a serviços externos.

Pode chamar sistemas de pagamento, sistemas de identidade, endpoints de dados de mercado, camadas de armazenamento, provedores de modelos de IA, mercados de computação, sistemas de mensagens e serviços de conformidade. O limite de confiança se desloca para esses endpoints e as afirmações feitas sobre eles.

Os usuários precisarão de maneiras de classificar serviços externos com base em auditabilidade, procedência, postura de segurança e alinhamento econômico. Um serviço construído em um ambiente verificável será pontuado de forma diferente de um ponto final em caixa preta controlado por uma plataforma corporativa.

Sistemas de conhecimento zero fornecem um caminho para essa camada de classificação. ZK rollups mostram como a computação pode ser executada off-chain enquanto uma prova sucinta verifica a validade da transição de estado resultante on-chain.

O mesmo padrão conceitual pode se estender além da escalabilidade de transações. Os usuários podem querer provas de que um endpoint executou código aprovado, processou dados sob restrições definidas, preservou limites de privacidade ou produziu um resultado a partir de uma compilação específica auditada.

A prova pode preservar a confidencialidade interna enquanto reduz a lacuna de confiança entre um agente pessoal e uma dependência externa.

A interface de longo prazo pode se assemelhar a uma camada operacional controlada por agente. O usuário solicita um painel, uma ferramenta de portfólio, um assistente de pesquisa, um sistema de publicação, um CRM pessoal, um fluxo de trabalho contábil ou um monitor de segurança.

O agente o monta a partir do código gerado e dos endpoints classificados. O código é inspecionável porque o agente o criou.

As dependências são limitadas porque o agente as selecionou conforme a política. O ambiente de execução é auditável porque o usuário escolheu isso como um requisito.

O usuário ainda participa de uma economia em rede. O controle se aproxima do indivíduo.

O ponto final dessa transição é um mercado para funções verificáveis, clientes gerados por agentes e serviços externos classificados. Desenvolvedores de terceiros ainda existem, mas seu papel muda.

Eles publicam protocolos, APIs, modelos, provas, modelos, componentes e implementações de referência. Os usuários executam suas próprias versões.

Empresas ainda existem, mas sua vantagem passa de controlar a distribuição para provar confiabilidade. Comunidades de código aberto ainda existem, mas a carga passa de pedir aos usuários que confiem nos mantenedores para fornecer aos agentes material estruturado suficiente para reconstruir com segurança.

A antiga economia de software vendia aplicativos prontos. A nova vende capacidades críveis.

Um rastreador de carteira se torna uma interface gerada sobre endpoints de dados de mercado, permissões de carteira, lógica tributária e regras de relatório. Um sistema de publicação se torna um fluxo de trabalho gerado sobre APIs de identidade, edição, gerenciamento de conteúdo, análise e distribuição.

Um terminal de pesquisa torna-se uma superfície gerada a partir de bancos de dados, chamadas de modelos, verificações de proveniência e notas privadas. Em cada caso, o agente do usuário gerencia a composição.

O mundo externo fornece recursos verificáveis. Essa variação também cria um teste comercial para cada provedor de infraestrutura: comprove a afirmação, publique a interface, exponha o conjunto de restrições e permita que agentes do lado do usuário decidam se o serviço merece inclusão.

O debate habitual apresenta o futuro como local versus nuvem. Essa divisão captura parte da questão da infraestrutura, mas ignora a economia política.

Um sistema privado pode usar computação em nuvem sob restrições definidas pelo usuário. Um sistema corporativo pode ser executado localmente, ainda assim mantendo identidade, incentivos, permissões e monetização dentro de uma pilha controlada pelo fornecedor.

A divisão mais duradoura é entre privado e corporativo. Quem define o aplicativo?

Quem decide o que ele pode acessar? Quem recebe os dados de telemetria?

Quem define o caminho de atualização? Quem pode revogar a função?

Quem se beneficia da dependência do usuário?

Essa divisão se tornará mais visível à medida que o software agente se tornar barato o suficiente para usuários comuns. Um caminho leva em direção à soberania de software pessoal.

Os usuários mantêm agentes que criam e recriam as ferramentas de que precisam. Eles escolhem provedores de endpoint com base em atestações, custo, confiabilidade, privacidade e alinhamento.

Eles podem abandonar uma interface preservando o fluxo de trabalho subjacente. Eles podem migrar de um ponto final para outro.

Eles podem gerar um novo cliente quando um antigo se torna comprometido, capturado ou ineficiente. A camada de software se torna portátil porque o usuário possui a intenção, e o agente pode reproduzir a implementação.

O outro caminho leva à conveniência gerenciada. Plataformas corporativas oferecerão aplicativos subsidiados, identidade integrada, créditos, pagamentos, armazenamento, acesso à IA e fluxos de trabalho padrão.

Alguns disso serão úteis. Alguns serão economicamente coercitivos.

Se a abundância impulsionada por IA produzir esquemas de renda adjacentes ao UBI público ou privado, créditos de computação, distribuições de tokens ou benefícios vinculados à plataforma, o canal de distribuição pode se tornar um mecanismo de bloqueio suave. Os usuários podem receber acesso a serviços por meio de um ecossistema que também define quais softwares eles executam, como seus dados se movem e quais agentes podem agir em seu nome.

A camada UBI é a versão mais sensível desse problema. Sam Altman está associado há muito tempo aos debates da era da IA sobre distribuição de renda, e Worldcoin foi apresentado, em parte, em torno da prova de identidade e da possibilidade de distribuições semelhantes à UBI.

O ponto mais amplo é maior do que um único projeto. Quando suporte econômico, verificação de identidade, acesso à computação e permissões de software se convergem, a participação pode tornar-se condicional, parecendo voluntária.

Um usuário pode estar livre para optar por não participar em teoria, mas ser pressionado a adotar uma camada de aplicativo gerenciada na prática.

A conveniência torna-se o principal campo de batalha. A pilha corporativa vencerá usuários por meio de baixa fricção.

Ela oferecerá padrões aprimorados, acesso imediato, IA integrada, compatibilidade social, fluxos de recuperação, cobertura de conformidade e recompensas. A pilha privada precisará competir em algo mais difícil: autonomia que pareça utilizável.

Deve oferecer aos usuários um motivo para assumir mais responsabilidade, evitando a administração técnica. O agente pessoal torna-se decisivo porque pode absorver a complexidade que anteriormente tornava a soberania impraticável.

O risco de primeira ordem é que os usuários troquem controle por conveniência antes de entenderem o custo. O risco de segunda ordem é que essa troca se torne subsidiada, normalizada e, eventualmente, obrigatória para o acesso à vida econômica.

Aplicativos corporativos podem se tornar o ambiente padrão para aqueles que aceitam benefícios agrupados. Aplicativos gerados privadamente podem se tornar o padrão para aqueles dispostos a pagar, verificar, configurar ou autocontrolar sua camada de software.

Isso cria uma nova divisão de classe em torno do controle de execução. A questão é se a IA agente comprime ou aprofunda essa divisão.

Essa transição será desigual. Os setores regulamentados se moverão mais lentamente.

As empresas defenderão ecossistemas de aplicativos com argumentos de conformidade. Os consumidores continuarão a escolher a conveniência padrão quando a alternativa privada parecer frágil.

Atacantes visarão agentes, prompts, seleção de dependências, cadeias de suprimento de modelos e atestações de endpoint. Sistemas de verificação criarão novos pontos de estrangulamento se forem capturados por um pequeno número de autoridades de certificação, plataformas em nuvem ou fornecedores de modelos.

A soberania de software pessoal pode se tornar apenas mais uma afirmação de marca, a menos que os usuários possam inspecionar, migrar e revogar.

Ainda assim, a direção é clara o suficiente para definir o próximo teste. A questão é se as pessoas aceitarão conveniência em vez de soberania uma vez que seus próprios agentes puderem construir a maior parte do que precisam.

Hoje, a resposta é em grande parte sim, porque a alternativa continua sendo muito exigente. Amanhã, a resposta torna-se menos certa.

Um usuário que pode gerar um aplicativo funcional, restringir suas permissões, auditar suas dependências, conectar-se apenas a endpoints classificados e reconstruí-lo quando as condições mudarem tem uma alternativa real ao pacote de software corporativo.

Essa alternativa parecerá estranha no início. Depois, parecerá prudente.

Então pode se tornar a expectativa padrão para qualquer pessoa que lide com dinheiro, identidade, dados de saúde, comunicações privadas, pesquisas ou operações comerciais. Executar código de terceiros opaco sobreviverá quando a conveniência dominar, quando subsídios distorcerem a escolha e quando os usuários aceitarem ambientes gerenciados em troca de acesso econômico.

Ela desaparecerá onde os agentes fazem a rotina de geração privada.

A reclassificação social acontecerá lentamente, depois de repente. O antigo hábito permanecerá familiar até que o novo padrão se torne óbvio.

Uma vez que os usuários puderem pedir aos seus próprios agentes para construir a aplicação, verificar o caminho de execução e conectar-se apenas a endpoints atestados, a carga da explicação se inverte. A pessoa que executa o código de outra pessoa precisará de uma razão.

A pessoa que constrói por meio de um agente simplesmente estará usando o padrão mais seguro. No entanto, ela também pode precisar aceitar perder incentivos corporativos concedidos aos que permanecem conectados à matriz.

A post App days are numbered: The end state of software will be private, personal, verified, and AI agent-built apareceu primeiro em CryptoSlate.