Estou empolgado em anunciar que ganhei o Hackathon Worldwide Codex x Mollie da @OpenAIDevs em Paris. Mais de 60 construtores, todos trabalhando sozinhos, um dia para entregar.
Desenvolvi o meu em torno de uma única pergunta: quem tem o direito de possuir a inteligência?
A resposta padrão é assustadora. Você entrega seus dados a um punhado de laboratórios, eles treinam o modelo, eles o possuem, e você aluga de volta uma pequena fatia do que seu próprio dado possibilitou. Esse é o acordo em mesa hoje. Eu não aceito isso.
Então criei o Lensemble: uma plataforma de treinamento distribuído, semelhante ao Tapestry, para Modelos Mundiais baseados em JEPA.
O que isso permite: Modelos Mundiais que uma comunidade melhora juntos, mantém soberanos e possui em conjunto.
Duas apostas estão por trás disso.
Primeiro, o paradigma.
Modelos de linguagem preveem o próximo token. Poderosos para texto, um beco sem saída para o mundo físico. Um robô não precisa completar frases automaticamente; ele precisa prever o que acontecerá em seguida no mundo. É isso que a JEPA faz: ela aprende prevendo representações, em vez de pixels ou tokens.
Tenho convicção de que modelos mundiais são o paradigma mais subestimado na IA atualmente e a coisa mais próxima que temos de um momento ChatGPT para robótica.
Segundo, a política.
Suas trajetórias brutas nunca deixam sua máquina. Cada participante treina localmente contra um protocolo compartilhado e envia apenas uma atualização, nunca os dados. Uma rodada federada integra essas atualizações em um único modelo mundial, um modelo baseado no LeWorldModel, e o ganho é medido, não reivindicado: um adaptador de 12 mil parâmetros em uma estrutura congelada, erro de previsão mantido fora reduzido em cerca de 12%, o modelo visivelmente menos surpreso pelo mundo.
Então, o lucro é dividido pelo peso da contribuição, assim as pessoas que melhoraram o modelo possuem uma parte do que ele gera.
Essa é a tese por trás do Project Tapestry, da AI Alliance e do impulso de Yann LeCun por IA de fronteira federada e soberana, levada aos modelos mundiais e à robótica. Chame isso de Tapestry para o mundo físico.
Tudo isso construído sozinho, em um único dia, com o Codex como meu parceiro o tempo todo.
Agradeço ao OpenAI Codex e à Mollie por apoiarem construtores que entregam coisas reais, e a @borvibe e à equipe organizadora pelo espaço e pelo padrão estabelecido.
Inteligência que o mundo melhora e o mundo possui.
Esse é o futuro que quero para meus filhos, e aquele que continuarei construindo.