Comentários da mídia estrangeira sugerem que o debate em torno dos agentes de programação baseados em IA está mudando de “se podem aumentar a eficiência” para “se irão comprometer a qualidade do software”. O hacker George Hotz, conhecido por ter quebrado o jailbreak do primeiro iPhone e do PlayStation 3, publicou recentemente um artigo afirmando que a adoção em larga escala dessas ferramentas pela indústria de software pode se tornar um erro extremamente caro para o setor.
Após seis meses de teste prático, emissão de julgamento negativo
Hotz afirmou que não está apenas criticando de fora. Nos últimos seis meses, ele vem utilizando agentes de IA em projetos reais, incluindo parte do desenvolvimento do framework de aprendizado profundo de código aberto tinygrad e uma engenharia reversa completa do firmware de um chip USB-PCIe.
Ele concluiu que esse tipo de ferramenta geralmente apresenta progresso rápido no início, mas fica cada vez mais difícil concluir nas fases finais. À primeira vista, as saídas do modelo parecem cada vez mais adequadas, mas os problemas reais são mais difíceis de serem detectados a tempo. Segundo ele, os desenvolvedores ainda precisam consertar os resultados manualmente com frequência.
A divergência não está na eficiência, mas em quem arcará com os custos
O artigo argumenta que o verdadeiro risco não é apenas se uma única saída está errada, mas se o controle de qualidade a nível organizacional falhará. O julgamento central de Hotz é que engenheiros mais qualificados geralmente ainda conseguem entender o código gerado, identificar vulnerabilidades e decidir quando confiar na ferramenta; porém, engenheiros menos qualificados podem não possuir a mesma capacidade de verificação.
Se o último grupo usar um agente para ampliar a produção por vários fatores em relação ao passado, a eficiência aparente da equipe pode aumentar, mas a qualidade média do código diminuirá mais rapidamente, e essa queda será ocultada pelo maior volume de commits. Hotz alerta que a indústria pode enfrentar uma grande quantidade de código que “parece funcionar, mas está repleto de problemas”.
Em contraste marcante com Karpathy
Pouco antes da publicação deste artigo, o pesquisador de IA Andrej Karpathy juntou-se à equipe de pré-treinamento da Anthropic. O relatório menciona que a atitude de Karpathy em relação a agentes de IA mudou este ano, considerando que os novos modelos alteraram significativamente a forma de desenvolvimento de software.
O CEO da Anthropic, Dario Amodei, também afirmou anteriormente que alguns engenheiros da empresa reduziram a proporção de código escrito manualmente, passando a utilizar modelos para gerar código, que é posteriormente revisado por humanos. Hotz, por outro lado, teve uma experiência oposta: ele tentou um processo semelhante, mas acabou tendo que corrigir quase sempre manualmente.
Com o "vibe coding" se tornando rapidamente popular no último ano, as principais empresas de IA passaram a considerar a programação baseada em agentes como uma direção estratégica. A Microsoft já levou o GitHub Copilot a um sistema mais completamente agentizado e descreveu essa mudança como uma transição de nível de plataforma.
Hotz acredita que a questão não é se os programadores se preocupam em ser substituídos, mas se as empresas impulsionarão ferramentas muito rapidamente sob pressão competitiva. Ele mencionou especificamente que, se grandes empresas implementarem uniformemente ferramentas de codificação por IA em toda a equipe de engenharia, a qualidade do software nos próximos dois anos não necessariamente melhorará.