MIT CSAIL propõe programação no espaço de pesos; Astra corrige o desempenho matemático do Qwen com ajuste de 0,016% nos pesos

iconMetaEra
Compartilhar
AI summary iconResumo
O MIT CSAIL propôs um novo método chamado "Weight-Space Programming", permitindo que o GPT-6 Astra leia e modifique diretamente os pesos da rede neural. Em um teste de atualização de rede usando o modelo Qwen3.5-0.8B, o Astra aumentou a pontuação MATH-500 de 7,9% para 48,1% ajustando apenas 0,016% dos pesos. O sistema também demonstrou a capacidade de entender e corrigir pesos defeituosos e até construir novas redes. Este desenvolvimento traz novidades no setor de criptomoedas para a integração de IA e blockchain, embora os resultados atualmente se limitem a modelos mais simples.
A equipe do MIT CSAIL propôs o método de “programação no espaço de pesos”, permitindo que o GPT-6 Astra leia e modifique diretamente os pesos da rede neural. No modelo Qwen3.5-0.8B, ajustar apenas 0,016% dos pesos aumentou a pontuação no MATH-500 de 7,9% para 48,1%, corrigindo significativamente problemas de loop de raciocínio. Os experimentos também validaram a capacidade do Astra de compreender pesos, corrigir falhas e gerar redes do zero, mas seu desempenho ainda é limitado a modelos simples e não substitui o treinamento nem gera universalmente modelos complexos.

Autor do artigo, fonte: Big Data Digest

A comunidade de IA saiu com mais uma surpresa!

A equipe do MIT CSAIL propôs um método chamado “Weight-Space Programming”: sem treinamento, sem cálculo de gradientes, o GPT-6 Astra lê e modifica diretamente os pesos da rede neural.

Nos experimentos com o Qwen3.5-0.8B, a Astra melhorou o desempenho do modelo no MATH-500 de 7,9% para 48,1%, no GSM8K de 13,8% para 67,1% e a pontuação de seguimento de instruções IFEval de 21,0% para 62,3%, modificando apenas cerca de 0,016% dos pesos.

Isso significa que os grandes modelos começaram a ter a capacidade de compreender e editar diretamente os parâmetros da rede neural.

Este trabalho foi liderado pelo estudante de doutorado do MIT CSAIL Rikiya Takehi e Jayden Teoh, com colaboradores incluindo Alex Zhang e Omar Khattab. A equipe de pesquisa publicou os resultados relacionados no blog de pesquisa "Sparks of Weight-Space Programming".

I. O que é programação de espaço de peso?

Weights are the core parameters of a neural network, determining how the model processes input information and generates the final output.

O treinamento de modelos tradicionais geralmente exige preparar os dados, calcular a perda e os gradientes, e depois ajustar continuamente os pesos por meio de um otimizador. Todo o processo depende de grande quantidade de computação, e os parâmetros internos do modelo também são difíceis de serem compreendidos diretamente pelos humanos.

A programação de espaço de peso oferece uma abordagem diferente:

Considere os pesos da rede neural como um objeto que pode ser lido, analisado e modificado por grandes modelos.

O modelo geral de grande linguagem avalia diretamente a função da rede, identifica estruturas anômalas e ajusta os parâmetros correspondentes com base no objetivo em linguagem natural.

Neste estudo, a Astra realizou principalmente três tipos de tarefas: 1. ler os pesos, determinar para qual tarefa a rede neural foi treinada; 2. modificar os pesos, corrigir falhas específicas na rede; 3. gerar pesos do zero, construindo pequenas redes com funções específicas.

A equipe de pesquisa primeiro testou a capacidade do Astra de entender os pesos da rede neural.

Na primeira série de experimentos, os pesquisadores treinaram quatro redes neurais pequenas com estruturas idênticas usando PPO para jogar Breakout, Pong, Pac-Man e Freeway.

Astra recebeu todo o peso original, mas não conhecia os nomes dos jogos candidatos nem podia observar o comportamento executando a rede. Finalmente, identificou corretamente qual jogo corresponde a cada uma das quatro redes.

Na segunda série de experimentos, os pesquisadores treinaram três modelos de difusão para gerar círculos, triângulos e quadrados. Astra também, com base apenas nos pesos, conseguiu identificar com sucesso o objetivo de geração de cada modelo.

O terceiro conjunto de experimentos foi expandido para modelos de linguagem. Os pesquisadores treinaram três pequenos Transformers com 7,2 milhões de parâmetros, cada um aprendendo código Python, japonês romanizado e inglês. Mesmo fornecendo apenas os pesos das camadas intermediárias, removendo as camadas de entrada e saída, a Astra ainda conseguiu identificar o tipo de corpus de treinamento e localizar as cabeças de atenção duplicadas na rede.

Esses experimentos indicam que modelos grandes gerais podem não apenas processar texto e código, mas também extrair informações funcionais de redes neurais a partir dos pesos.

Dois: altere apenas o peso de 0,016% para corrigir o loop de inferência

A experiência com Qwen3.5-0.8B é a parte mais destacada deste estudo.

Este modelo tende a entrar em ciclos de raciocínio após ativar o modo de pensamento, repetindo conteúdo semelhante e não conseguindo fornecer uma resposta final a tempo. Nos testes de linha de base, 93% das respostas do MATH-500 atingiram o limite de 32768 tokens.

Astra acessa os pesos do modelo por meio da interface Python e verifica o comportamento do modelo usando problemas dos conjuntos de treinamento GSM8K e MATH, mas não pode usar informações de treinamento ou gradiente, nem acessar o conjunto de teste final.

Após análise, a Astra identificou o problema nas estruturas MLP das camadas 15 e 19 e removeu uma direção relacionada à saída duplicada.

Esta alteração envolveu 131072 pesos, aproximadamente 0,016% do total de pesos do modelo. Após a alteração, a proporção de respostas do MATH-500 que atingiram o limite de tokens caiu de 93% para 33,1%.

Portanto, este aumento no desempenho não foi principalmente devido à injeção de novos conhecimentos matemáticos no modelo, mas sim à correção de falhas que impediam o modelo de realizar raciocínios. Parte das questões que anteriormente não podiam ser resolvidas agora produz respostas completas corretamente.

No entanto, embora o patch final seja pequeno, o processo de análise não é simples. O experimento com melhor desempenho utilizou 50 solicitações de avaliação, 158 conversas e 80 execuções do Python, consumindo 20,3 horas.

III. Escrever pesos de rede neural do zero

A equipe de pesquisa também testou a capacidade do Astra de gerar parâmetros de rede do zero.

No jogo MinAtari Breakout, Seaquest e Asterix, a Astra recebe as regras do jogo, o código-fonte e a arquitetura da rede, mas não pode usar dados de treinamento, função de perda, gradientes ou simulações do ambiente.

A nova rede gerada diretamente superou a rede correspondente treinada por 100 milhões de passos PPO em todos os três jogos.

Em comparação com a rede PPO treinada por 500 milhões de passos, a rede gerada pela Astra obtém aproximadamente 20 vezes mais pontos no Breakout, desempenho semelhante no Asterix e cerca de 60% dos pontos alcançados no Seaquest.

No experimento de Go 9×9, a Astra gerou uma rede com aproximadamente 1,48 milhão de parâmetros. À medida que o número de avaliações diretas permitidas aumentou, o desempenho da rede continuou a melhorar; sob 50 avaliações diretas, ela derrotou uma rede PPO de tamanho equivalente treinada com 20 milhões de partidas.

Esses resultados indicam que os grandes modelos já podem converter diretamente parte da lógica algorítmica em pesos de redes neurais com base na descrição da tarefa.

No entanto, os experimentos relacionados ainda se concentram principalmente em redes simples e de pequeno porte; a extensão a modelos maiores e mais complexos ainda precisa ser verificada.

Para distinguir entre “correção de falhas” e “melhoria de capacidade”, a equipe de pesquisa também realizou experimentos adicionais no Gemma 3 270M.

Gemma 3 270M raramente apresenta ciclos de raciocínio; os principais erros vêm do raciocínio aritmético e algébrico. Astra tentou múltiplas modificações direcionadas, mas o aumento no desempenho do MATH-500 nunca superou cerca de 1 ponto percentual, não sendo possível confirmar uma melhoria estável no modelo.

Isso indica que a programação do espaço de pesos é atualmente mais adequada para tratar falhas de modelo claras e concentradas, como loops anômalos ou comportamentos específicos, mas não pode diretamente aumentar o conhecimento e a capacidade de raciocínio que o modelo originalmente não possui.

Ao mesmo tempo, a Astra falhou em outra experiência em identificar apenas por pesos qual modelo foi treinado com comportamento de flerte, o que também indica que sua compreensão de pesos não é estável e ainda existem limites de tarefa.

Currently, these results are early findings released by the research team and require further independent replication and systematic evaluation.

Se esse método puder ser ampliado ainda mais, ele poderá ser usado para identificar falhas no modelo, remover comportamentos anômalos, melhorar a explicabilidade e até gerar redes específicas com base em necessidades em linguagem natural.

Mas os experimentos atuais ainda não são suficientes para provar que podem substituir o treinamento, nem significam que os grandes modelos já conseguem “construir” outros modelos de forma geral.

O significado mais importante deste estudo é que ele demonstra uma nova forma de interação:

Não apenas gerar texto e código, mas também começar a entender e escrever redes neurais em si.

Fonte:Big Data Digest

Aviso de risco e isenção de responsabilidade

O mercado apresenta riscos; investimentos devem ser feitos com cautela. Este artigo não constitui recomendação de investimento pessoal e não considerou os objetivos de investimento, situação financeira ou necessidades específicas de usuários individuais. Os usuários devem avaliar se quaisquer opiniões, pontos de vista ou conclusões apresentadas neste artigo são adequadas às suas circunstâncias particulares. Investir com base nisso é de responsabilidade exclusiva do usuário.

Aviso legal: as informações nesta página podem ter sido obtidas de terceiros e não refletem necessariamente os pontos de vista ou opiniões da KuCoin. Este conteúdo é fornecido apenas para fins informativos gerais, sem qualquer representação ou garantia de qualquer tipo, nem deve ser interpretado como aconselhamento financeiro ou de investimento. A KuCoin não é responsável por quaisquer erros ou omissões, ou por quaisquer resultados do uso destas informações. Os investimentos em ativos digitais podem ser arriscados. Avalie cuidadosamente os riscos de um produto e a sua tolerância ao risco com base nas suas próprias circunstâncias financeiras. Para mais informações, consulte nossos termos de uso e divulgação de risco.