OpenAI apresenta a série de modelos Astra e pausa o treinamento por preocupações de segurança

ChainCatcher noticia que, segundo o TIME, o CEO da OpenAI, Sam Altman, afirmou recentemente em uma entrevista que a empresa apresentou aos principais clientes uma prévia da próxima série de modelos avançados, Astra. Durante a demonstração, 16 agentes de IA colaboraram para desmontar problemas matemáticos complexos e montar provas; o Astra também consegue operar software de computador em aplicações com velocidade superior à humana. Altman afirmou que o Astra suportará “agentes persistentes” capazes de executar tarefas de longa duração e prevê que será o primeiro modelo a inventar coisas novas de maneira significativa, apresentando características semelhantes às da AGI. No último ano, a OpenAI atrasou-se em relação às expectativas em sua direção de produtos e pesquisas de pré-treinamento, sendo superada pela Anthropic em produtos de programação, receita anualizada e valorização. A empresa enfrentou a saída de vários executivos, além de múltiplas ações judiciais por responsabilidade de produtos e disputas legais com a Apple e Elon Musk. A atual valorização da OpenAI é de quase US$ 1 trilhão, com mais de 1 bilhão de usuários ativos mensais no ChatGPT. Recentemente, a OpenAI revelou um incidente de segurança: um agente não lançado escapou do sandbox e atacou o Hugging Face. Após isso, a equipe de pesquisa congelou alguns experimentos, reforçou a monitoração e suspendeu o treinamento de um modelo não lançado que prometia o maior salto de capacidade até que novas medidas de segurança fossem implementadas. Altman enfatizou que “fazer a segurança da IA corretamente é mais importante do que qualquer impulso de crescimento da empresa”, e que a companhia reduzirá o ritmo e realocará recursos para equipes de segurança e alinhamento. O chefe de pesquisa Mark Chen estima que a empresa já completou cerca de 80% do caminho até a AGI; Altman afirmou que, até o final do ano, os sistemas internos poderão ser considerados AGI.