Estoy encantado de anunciar que gané el Hackathon Mundial @OpenAIDevs Codex x Mollie en París. Más de 60 desarrolladores, cada uno trabajando de forma individual, con un solo día para entregar.
Construí mi proyecto en torno a una sola pregunta: ¿quién tiene derecho a poseer la inteligencia?
La respuesta por defecto es aterradora. Entregas tus datos a unos pocos laboratorios, ellos entrenan el modelo, lo poseen y tú alquilas de vuelta una pequeña porción de lo que tu propio dato hizo posible. Ese es el acuerdo sobre la mesa hoy. No lo acepto.
Así que creé Lensemble: una plataforma de entrenamiento distribuido tipo Tapestry para modelos mundiales basados en JEPA.
¿Qué permite: modelos mundiales que una comunidad mejora juntos, mantiene soberanos y posee en conjunto.
Bajo esto hay dos apuestas.
Primero, el paradigma.
Los modelos de lenguaje predicen el siguiente token. Potentes para texto, un callejón sin salida para el mundo físico. Un robot no necesita completar frases, necesita predecir qué sucederá a continuación en el mundo. Eso es lo que hace JEPA: aprende prediciendo representaciones en lugar de píxeles o tokens.
Estoy convencido de que los modelos mundiales son el paradigma más subestimado en IA actualmente, y lo más cercano que tenemos a un momento ChatGPT para la robótica.
Segundo, la política.
Tus trayectorias crudas nunca abandonan tu máquina. Cada participante entrena localmente contra un protocolo compartido y envía solo una actualización, nunca los datos. Una ronda federada integra esas actualizaciones en un único modelo mundial, un modelo basado en LeWorldModel, y la ganancia se mide, no se reclama: un adaptador de 12k parámetros sobre una estructura congelada, con un error de predicción fuera de muestra reducido aproximadamente un 12%, el modelo notablemente menos sorprendido por el mundo.
Luego, la recompensa se divide según el peso de la contribución, por lo que las personas que mejoraron el modelo poseen una parte de lo que este genera.
Esta es la tesis detrás del Proyecto Tapestry, la Alianza de IA y el impulso de Yann LeCun por una IA fronteriza federada y soberana, llevada a modelos mundiales y robótica. Llámenlo Tapestry para el mundo físico.
Todo ello construido de forma individual, en un solo día, con Codex como mi compañero durante todo el proceso.
Gracias a OpenAI Codex y Mollie por respaldar a los constructores que entregan cosas reales, y a @borvibe y al equipo organizador por el espacio y el estándar que establecieron.
La inteligencia que el mundo mejora, y que el mundo posee.
Ese es el futuro que quiero para mis hijos, y el que seguiré construyendo.
