Uma coisa que me chamou a atenção sobre o ExpRL é que ele expõe uma limitação da forma como atualmente pensamos sobre o progresso da IA. A maioria dos benchmarks mede apenas se o modelo chega à resposta correta. Raramente medem quantas ideias úteis foram exploradas e descartadas ao longo do caminho. A inovação humana muitas vezes surge de tentativas falhas, não de tentativas perfeitas. Um cientista pode testar centenas de hipóteses erradas antes de encontrar a correta. Mas o RL tradicional trata cada caminho falho como igualmente sem valor. O ExpRL sugere que pode haver informações valiosas escondidas dentro dessas falhas. Essa ideia parece importante além dos benchmarks matemáticos. À medida que os agentes de IA se tornam mais capazes, os vencedores podem não ser os modelos que encontram respostas mais rapidamente, mas sim os modelos que aprendem mais com os erros. É também por isso que a verificação importa. Sem maneiras confiáveis de avaliar o raciocínio e os resultados intermediários, não conseguimos distinguir exploração produtiva de pura alucinação. O futuro da IA pode depender menos de gerar respostas e mais de entender quais erros valem a pena aprender. @ritualnet