Ex-pesquisador principal da OpenAI: Pesquisa humana em IA pode ser substituída em até dois anos

Ei, você ouviu falar?

Os bons dias dos pesquisadores humanos não passam de dois anos.

Dois anos depois, os humanos pesquisando IA será como os humanos jogarem xadrez hoje.

Você ainda pode fazer o download, mas ninguém se importa com o quão bem você fez o download.

Esta é a última afirmação ousada lançada por Jerry Tworek, ex-líder do modelo de inferência da OpenAI.

Ele entrou na OpenAI em 2019 e permaneceu lá por sete anos. Na época, o aprendizado por reforço não conseguia escalar de jeito nenhum, mas ele persistiu firmemente e impulsionou-o para frente; as duas gerações poderosas, o1 e o3, foram desenvolvidas sob sua liderança direta.

“Queremos construir uma AGI.” Essa era a única estrategia que Ilya apresentou na reunião da equipe toda em 2019, quando entrou na OpenAI. Sete anos depois, ele saiu para trabalhar sozinho.

Mais assustador ainda é que essa frase não é dita apenas por ele. Atualmente, o meme interno mais popular entre pesquisadores de IA é o seguinte:

Só nos restam alguns dias de trabalho; aproveitem enquanto ainda podem, trabalhem bastante e depois todos se aposentem e descansem juntos.

Todo mundo repete isso como se fosse um humor negro. Mas cada pessoa que conta a piada tem a consciência clara por dentro.

Essa piada, provavelmente, é a realidade.

E isso ainda é só um aperitivo. Durante toda a entrevista, ele soltou uma ameaça após outra:

• O agente realmente tem criatividade, mas é uma criatividade extremamente pobre, acumulada em grande quantidade, com ideias variadas, mas geralmente péssimas.
• No mundo inteiro, talvez apenas trinta a cinquenta pessoas realmente tenham levado um modelo de ponta desde o treinamento até a implantação; todos os demais estão apenas os auxiliando.
• Assumir que o Transformer é a solução ideal é quase impossível.
• Nos sete anos na OpenAI, houve apenas três a quatro tentativas sérias de substituir a arquitetura subjacente.
• O mundo não precisa de nós trabalharmos para girar; esse pressuposto nunca foi válido.

Aqui está a versão organizada. Aproveite.

Esse número de dois anos não tem relação com o benchmark nem com a capacidade de mineração.

Ele conta quantas tarefas ainda estão sendo feitas por pessoas nesse estudo.

E esse trabalho já foi dividido em duas partes.

Uma parte é gerar ideias e decidir para onde ir. Outra parte é executar, transformar essas ideias em código funcional e recuperar os dados.

E a parte de execução já foi basicamente atribuída ao Agente.

Tworek abriu uma empresa chamada Core Automation em abril deste ano, com a slogan de construir o laboratório de IA mais automatizado do mundo.

Lá, o ciclo completo de um experimento foi reduzido de um mês para um dia. A eficiência aumentou trinta vezes!

No entanto, neste trecho sobre dar sugestões, o agente ainda não pode atender. A razão é —

They absolutely belong to the species of high creativity.

Mas elas estão gastando criatividade de maneira extremamente pobre e em quantidades massivas. As ideias são variadas, mas também são geralmente péssimas.

Ouvindo assim, essa parte da sugestão parece ainda estável.

Mas as pessoas que realmente podem dar ideias também não sobraram muitas.

Na entrevista, o apresentador revelou que um pesquisador interno da OpenAI lhe deu informações internas—

No mundo inteiro, talvez apenas trinta a cinquenta pessoas realmente entendam como treinar e implantar um modelo de ponta de ponta a ponta.

Todos os demais estão servindo a essas dezenas de cérebros, incluindo a maioria dos funcionários efetivos da empresa mais poderosa.

Tworek não contestou.

Ele também acha que qualquer equipe de topo funciona assim: algumas poucas pessoas definem a direção, puxando atrás de si toda uma máquina de execução rugindo.

Para saber o quão procuradas são essas dezenas de pessoas, basta olhar a própria lista de contratações dele.

Rohan Anil, cofundador da Core Automation, anteriormente da Anthropic e ainda antes do Google DeepMind.

Anmol Gulati, que trabalhou no Gemini no DeepMind, também foi recrutado. Até mesmo Julia Villagra, ex-responsável de recursos humanos da OpenAI, seguiu para lá.

Todos os laboratórios estão pescando pessoas no mesmo tanque. E esse tanque tem apenas algumas dezenas de peixes.

Então esse número de dois anos não tem relação com a humanidade como um todo.

Fala-se sobre essas dezenas de pessoas e por quanto tempo ainda conseguirão resistir.

Como restam apenas dezenas de pessoas, qual é a última barreira que se opõe à IA?

A resposta de Tworek é apenas uma palavra: Transformer.

Na sua opinião, isso quase certamente não é a solução ideal.

Primeiro, o modelo não pode continuar aprendendo após a implantação. Quanto mais você conversar com ele, mais ele não ficará mais forte; na próxima conversa, ainda será o mesmo modelo. A janela de contexto também não suporta; ele disse que, ao usar o Codex por cerca de vinte minutos, precisa comprimir uma vez.

Em segundo lugar, se tentar compensar por meio de ajustes contínuos, perceberá que não apenas a eficiência é extremamente baixa, mas também ocorre esquecimento catastrófico: ao aprender o novo, esquece o antigo.

Então, nos últimos anos, a maior parte do trabalho feito na indústria em torno do Transformer foi, na verdade, torná-lo mais barato, e poucas pessoas realmente o tornaram mais poderoso.

E o que Tworek realmente queria não estava na própria arquitetura.

Ele quer um modelo que possa continuar aprendendo durante o tempo de teste, um modelo que possa crescer continuamente a partir da interação do usuário e dos dados do usuário. Trocar a arquitetura é apenas um meio para alcançar isso.

Ninguém no setor desconhece esses princípios. Mas, após tantos anos, por que o Transformer ainda permanece firmemente no topo?

A razão por trás disso é tão simples que parece absurda — nem sequer tentaram.

Durante os sete anos na OpenAI, houve apenas três a quatro tentativas sérias de substituir a arquitetura subjacente.

O processo é o seguinte.

O pesquisador primeiro realiza um experimento de validação em pequena escala e o executa por pelo menos três meses. Somente quando os resultados parecem promissores, ousa escalar.

E o que se chama de ampliação é que você precisa convencer cerca de dez pessoas que detêm o poder de vida e morte com sua eloquência, e depois essas dez pessoas investem três a seis meses nesse seu abismo sem fundo.

Ou será esmagado pela energia acumulada pela Transformer, que já se tornou uma bola de neve, ou será parcialmente absorvido, tornando-se um parafuso nela.

Sete anos, três ou quatro vezes. Essa é toda a capacidade de inovação de arquitetura do laboratório de IA mais poderoso do mundo.

"Jare, pegue esse poder de mineração e queime."

Ele mesmo já havia enfrentado exatamente o mesmo impasse na OpenAI. E o que o desbloqueou foi uma frase.

Naquela época, aquele experimento meio morto conseguiu gerar alguns sinais de vida. Não era nada bom, mas pelo menos havia um começo.

Nesse momento crucial, Jakub Pachocki, que posteriormente se tornou cientista-chefe da OpenAI, o encontrou.

"Jare, todos esses GPUs são seus — veja se consegue tornar os resultados que você tem ainda maiores e mais intensos."

“Agora você tem essas GPUs em mãos.” Ele repetiu essa frase quando o1 ainda não tinha nome.

Esta frase o tirou de um paradoxo—

Você precisa primeiro entregar os resultados para ter direito à capacidade de processamento.

Mas você precisa primeiro ter essa capacidade de processamento para obter o resultado.

Tworek disse que a maioria das direções avançadas está presa neste paradoxo. As batalhas secretas no laboratório para conquistar poder de computação são, em última análise, uma busca por um caminho para sair disso.

E a exportação, às vezes, é apenas aquela decisão da liderança Clique aqui Confiança.

Basta que alguém de cima diga: “Espero que você tenha uma quota de poder de hash decente para mandar ver.”

Assim que a comporta se abre, não há como parar o que vem a seguir.

O aprendizado por reforço começou a partir deste ponto e ultrapassou várias ordens de grandeza.

E então, com a emergência do o1, ele deu vida a um caminho — o dos modelos de raciocínio — que muitos haviam condenado à morte.

Cem mil dólares valem um especialista

E desta vez, ele não precisa mais esperar alguém dar uma ordem.

A parte mais custosa de toda a cadeia é traduzir ideias abstratas em código que realmente funcione. E é exatamente isso que os Agentes hoje fazem melhor.

Por exemplo, a Core Automation já usou essa abordagem para atacar o núcleo da GPU.

Especificamente, eles passaram um núcleo de decomposição QR para um agente de programação executar por quatro semanas, gastando cerca de US$ 100.000 em custos de chamada, e finalmente aumentaram a velocidade desse núcleo em sessenta vezes.

Este trabalho pertence à engenharia de desempenho de baixo nível, focando em como fazer com que uma operação de matriz seja executada mais rapidamente na GPU, exigindo ajustes manuais minuciosos por um número muito reduzido de especialistas.

E há poucos especialistas desse tipo no mundo inteiro.

Agora dez mil dólares já podem substituir um. Não precisa ser convencido, nem esperar três a seis meses.

A barreira que havia permanecido por sete anos foi finalmente rompida.

Mesmo a arquitetura mais difícil de ser modificada já começou a se soltar, então os volantes nas mãos de dezenas de pessoas não serão segurados por muito tempo.

No final da entrevista, o apresentador deixou isso claro e perguntou a ele: quando esse dia realmente chegar, o que ainda restará para as pessoas fazerem?

Para isso, Tworek descreveu duas cenas.

A primeira é da Grécia Antiga.

As pessoas se encontram na praça, conversam calmamente sobre filosofia o dia inteiro e depois vão se exercitar, comendo azeitonas e bebendo vinho.

Ele mesmo acabou de descrever e riu, admitindo que provavelmente estava apenas projetando seus próprios desejos.

“Vamos nos encontrar na praça e depois conversar.” Ele repetiu as palavras originais que descreviam a rotina humana pós-AGI, e logo riu sozinho.

A segunda é o ensino médio, ou a universidade.

Ele acredita que as pessoas devem manter a busca pela própria "excelência". Continue aprendendo coisas novas com ganância, treinando o corpo e a mente até o limite.

Isso é um pouco como esportes profissionais: não há razão econômica alguma que o obrigue a suar e sangrar, mas a orgulho inato do ser humano é buscar aquilo que se chama "grandeza".

Precisamos encontrar várias maneiras de fazer isso.

Porque no próximo mundo, não haverá mais aquelas coisas do tipo “se você não fizer, o mundo vai desabar”. O mundo continuará a funcionar sobre a infraestrutura que já construímos.

“Devemos continuar aprendendo sempre.” Ele falou sobre isso como se fosse uma obrigação, e não um lazer.

Then he calmly revealed his cards.

Precisamos trabalhar para que o mundo funcione. Essa suposição não precisa ser verdadeira.

“Muitas pessoas obtêm seu valor próprio do trabalho.” Ele reconheceu que esta é a barreira mais difícil de superar, inclusive para ele mesmo.

Para ser honesto, depois de ouvir tudo, o que mais deixou o coração apertado não foi aqueles dois anos.

Ele mesmo sabe que está acelerando esse cronômetro regressivo.

O que ele vai criar é definido como algo que pode aprender e se fortalecer sozinho, sem mais precisar de pessoas ao lado para alimentá-lo. Quando feito, os cargos dessas dezenas de pessoas desaparecerão ainda mais rápido.

E ele tem uma frase ainda mais dura: o primeiro a ser julgado será ele mesmo.

Se você não for o laboratório com a maior reserva de poder de mineração e o maior volume, você vai morrer de forma horrível.

Na época em que disse isso, a Core Automation tinha apenas quatro meses de existência e receita zero no balanço.

Ele disse que, desde que iniciou seu empreendimento, quase toda semana alguém vinha dizer a ele: “Jare, é muito tarde, aquela escada que levava ao céu já foi recolhida.”

Sua resposta foi apenas um de seus dizeres favoritos.

A pessoa da nossa empresa mais ama dizer que tudo é um problema de habilidade.

The translation is: Don't blame the overall environment for your failure at the end—blame yourself for your poor skills.

Não diga, mas essa frase, colocada nesta entrevista, realmente tem um certo sabor.

Volte novamente à frase popular no início.

Só nos restam alguns dias úteis; aproveite enquanto ainda pode trabalhar.

Não sabemos se o tom é de entusiasmo ou de tristeza.

Porque, para quem diz isso, essas duas emoções são, na verdade, a mesma coisa.

Tworek disse que o ritmo desta linha é extremamente exaustivo; depois de tantos anos nisso, é realmente muito, muito cansativo.

Mas se realmente acreditamos, esta é a época mais importante de toda a nossa carreira.

Então, provavelmente, vale muito a pena.

Referências:

https://x.com/MTSlive/status/2092387349623935322

Este artigo é do canal oficial do WeChat "Nova Inteligência", autor: Apocalipse ASI, editor: Moisés