Anthropic alerta que a IA pode eventualmente criar seus próprios sucessores

• A Anthropic diz que o Claude agora escreve grande parte do código usado para desenvolver seus próprios sistemas de IA, aumentando a produtividade.
• A empresa afirma que as capacidades de IA estão crescendo mais rapidamente, com a complexidade das tarefas dobrando aproximadamente a cada quatro meses.
• Anthropic alerta que a IA pode eventualmente ajudar a criar IA melhores, tornando a supervisão e a segurança mais desafiadoras.

A empresa de inteligência artificial Anthropic afirma que a IA está melhorando tão rapidamente que já está começando a ajudar a criar os próximos sistemas de IA. A empresa alerta que isso pode, eventualmente, tornar mais difícil para os humanos manterem o controle sobre o desenvolvimento da IA.

Em um novo artigo de pesquisa, a Anthropic discutiu a possibilidade de “autoaperfeiçoamento recursivo”. Trata-se de uma situação em que sistemas de IA projetam, constroem e treinam sistemas de IA mais avançados com muito pouca intervenção humana.

A empresa enfatizou que isso ainda não aconteceu e pode nunca acontecer. No entanto, acredita que governos, reguladores e empresas de tecnologia devem começar a se preparar agora.

“Não chegamos lá ainda, e a autoaprimoramento recursivo não é inevitável. Mas pode ocorrer mais cedo do que a maioria das instituições está preparada,” disse a Anthropic.

A Anthropic afirma que seu modelo de IA Claude se tornou muito mais do que um assistente básico de codificação.

A empresa descreveu como as ferramentas de IA evoluíram. Inicialmente, engenheiros escreviam código eles mesmos. Depois, chatbots ajudaram com pequenas tarefas de codificação. Em seguida, surgiram agentes de codificação por IA que podiam editar arquivos e gerenciar projetos sozinhos.

Hoje, agentes de IA podem escrever e executar código, concluir tarefas de forma independente e até atribuir trabalho a outros agentes de IA. Segundo a Anthropic, o próximo passo são sistemas de IA que ajudam ativamente a construir e treinar modelos de IA futuros.

A empresa revelou que o Claude agora escreve a maioria do código usado para desenvolver os próprios sistemas de IA da Anthropic. Como resultado, os desenvolvedores são muito mais produtivos. A Anthropic afirma que o engenheiro médio agora produz cerca de oito vezes mais código por dia do que em 2024.

Relacionado: Presidente da Anthropic diz que o aumento dos custos de treinamento de IA está impulsionando planos de IPO

A Anthropic afirma que testes públicos e sua pesquisa interna mostram que as capacidades da IA estão melhorando rapidamente. A empresa afirma que o comprimento e a complexidade das tarefas que a IA pode completar com confiabilidade estão dobrando aproximadamente a cada quatro meses. Anteriormente, essa taxa de crescimento estava mais próxima de cada sete meses.

A Anthropic apontou para o progresso de seus modelos Claude como exemplo. Em março de 2024, o Claude Opus 3 conseguia realizar tarefas de engenharia de software que levariam um humano cerca de quatro minutos. Um ano depois, o Claude Sonnet 3.7 poderia concluir tarefas que exigem cerca de 90 minutos de trabalho humano.

Até 2026, o Claude Opus 4.6 teria capacidade de realizar tarefas equivalentes a aproximadamente 12 horas de esforço humano.

As habilidades de pesquisa do Claude também melhoraram. Em um projeto interno, agentes impulsionados pelo Claude resolveram quase todos os desafios de pesquisa principais.

A Anthropic também relatou que a taxa de sucesso do Claude em tarefas de codificação difíceis atingiu 76% em maio de 2026, uma melhora significativa em comparação com seis meses antes.

A Anthropic delineou três possíveis caminhos para o desenvolvimento da IA. O primeiro é uma desaceleração, na qual o progresso se torna mais difícil de ser alcançado ao longo do tempo.

O segundo é um futuro em que a IA continua a aumentar a produtividade, enquanto os humanos permanecem no controle das decisões importantes e da supervisão.

O terceiro e mais dramático cenário é aquele em que sistemas de IA começam a criar seus próprios sucessores, levando a um progresso muito mais rápido.

Com base na evidência atual, a Anthropic acredita que o segundo cenário é o mais provável. No entanto, a empresa afirma que ainda há incerteza sobre quão rapidamente as capacidades da IA poderão avançar.

A Anthropic afirma que os humanos ainda possuem forças importantes, incluindo julgamento, pensamento estratégico e a decisão sobre quais problemas valem a pena resolver. No entanto, a empresa argumenta que o maior desafio pode em breve ser a supervisão humana, e não o próprio desenvolvimento de IA.

À medida que os sistemas de IA se tornam mais capazes, pode se tornar cada vez mais difícil para as pessoas revisar, verificar e monitorar com segurança seu trabalho.

Por isso, a Anthropic sugere que governos e principais empresas de IA devem ter planos para temporariamente desacelerar o desenvolvimento dos sistemas de IA mais avançados se o progresso começar a ocorrer mais rapidamente do que a sociedade pode gerenciar com segurança.

A empresa observou que qualquer desaceleração significativa provavelmente exigiria cooperação internacional. Se apenas uma empresa interromper o desenvolvimento, concorrentes poderiam continuar avançando, reduzindo a eficácia da medida de segurança.

Por enquanto, a Anthropic afirma que a autoaprimoração recursiva permanece uma possibilidade, não uma certeza. Mas à medida que o Claude desempenha um papel cada vez maior na construção de futuros sistemas de IA, a empresa acredita que discussões sobre governança, supervisão e segurança da IA devem começar o mais cedo possível.

Relacionado: Is AI Killing Bitcoin? Why Capital Is Rotating to AI Tech Now