Principales investigadores en IA exploran el desarrollo de IA impulsado por IA

Cómo hacer que la IA desarrolle por sí misma la próxima generación de IA

Autor del artículo, fuente: El公众号 de WeChat "APPSO"

Si un ingeniero de IA chino tiene habilidades técnicas sólidas, un currículum impresionante y proviene de una institución de élite como la Universidad de Pekín, entonces puede hacer cualquier cosa, pero definitivamente no dejará de trabajar.

Weng Li, quien dejó Thinking Machines Lab afirmando que la salud y la vida son "el alineamiento más importante", ha regresado a OpenAI. Según un portavoz de la empresa, liderará un equipo que acelerará la investigación interna y participará en la exploración de OpenAI sobre la "mejora recursiva automática", es decir, permitir que la IA participe en el entrenamiento y la mejora de sus propios modelos de próxima generación.

No es casualidad que su excompañero, Ilya Sutskever, otro exmiembro clave de OpenAI y fundador de Safe Superintelligence, haya abierto finalmente una grieta en su investigación hermética. Tras obtener un acceso raro a la investigación interna, NVIDIA decidió invertir en SSI y aumentar su capacidad de cómputo en una orden de magnitud con el nuevo sistema Vera Rubin.

NVIDIA está segura de que SSI ha estado avanzando durante los últimos dos años en una nueva dirección de investigación diferente a la ruta actual de modelos grandes. Ilya no proporcionó más detalles, solo dijo: «Tenemos investigaciones que valen la pena escalar».

La curiosidad del público se intensificó aún más, y en las redes sociales apareció un análisis inverso de las pistas públicas, sugiriendo que SSI no buscaba la próxima receta de preentrenamiento más grande, sino una nueva forma de iteración y evolución: hacer que los modelos no se queden estáticos después del entrenamiento, sino que continúen evolucionando y volviéndose más fuertes a través de retroalimentación, experimentación y aprendizaje continuo.

Esta afirmación no ha sido confirmada por SSI, pero es altamente consistente con las posturas anteriores de Ilya. Él ha expresado en múltiples ocasiones que la era de escalar únicamente con más datos y poder de cómputo está acercándose a su límite, y que la IA necesita volver a aprender, como los humanos, a formar comprensiones más profundas con menos experiencia y seguir creciendo a través de la interacción con el entorno.

Estos prominentes expertos en IA, ya bastante reconocidos, parecen estar mirando en la misma dirección: cómo hacer que la IA desarrolle la próxima generación de IA por sí misma.

Cuando se menciona la auto-mejora recursiva, es fácil imaginar una escena de ciencia ficción: la IA de repente toma conciencia de sus propias deficiencias, modifica directamente los pesos de la red neuronal y se despierta diez veces más inteligente que el día anterior.

El punto de partida en la vida real es mucho más sencillo. El desarrollo de IA es inherentemente una línea de producción cíclica: los investigadores leen artículos y registros de experimentos, formulan una hipótesis, modifican el código de entrenamiento, hacen cola para ejecutar experimentos, esperan los resultados, comparan métricas y buscan causas de fallos, luego diseñan el siguiente ciclo.

Los modelos grandes de hoy en día ya pueden participar en muchos de estos procesos: pueden leer repositorios de código, reproducir artículos científicos, escribir scripts de experimentos, llamar a recursos de cómputo para ejecutar pruebas, organizar decenas de resultados, analizar qué parámetro podría estar causando problemas y luego seguir modificando el código. Anteriormente, un equipo necesitaba días para completar un ciclo de trabajo; en el futuro, múltiples agentes podrán probar simultáneamente docenas de rutas y luego presentar los resultados más prometedores para que los humanos los evalúen.

Weng Li publicó en principios de julio un artículo extenso titulado "Harness Engineering for Self-Improvement", que casi anticipó la dirección de investigación que pronto se encargaría. Ella considera que la ruta más realista de auto-mejora en el corto plazo no es que el modelo reescriba directamente el cerebro, sino que la IA primero aprenda a modificar su propio entorno de trabajo: analizar automáticamente los registros de fallos, ajustar la gestión del contexto, la llamada a herramientas y los flujos de trabajo, y luego optimizar este sistema continuamente con nuevos resultados experimentales. Un harness más maduro puede impulsar la investigación automatizada, mientras que modelos más potentes pueden, a su vez, simplificar aún más el harness, creando un ciclo mutuo.

Esto también crea un interesante paralelo entre las dos vías de Weng Li e Ilya: OpenAI parece estar transfiriendo gradualmente sus procesos de investigación actuales a la IA, permitiéndole convertirse primero en un ingeniero de investigación funcional; mientras que SSI podría estar intentando buscar nuevos paradigmas de aprendizaje desde niveles más fundamentales, dotando al modelo de la capacidad de iterar y evolucionar continuamente.

La IA no necesita tener desde el inicio la capacidad de modificar directamente sus propios pesos. Si puede mejorar el proceso de entrenamiento, filtrar datos, diseñar evaluaciones u optimizar el entorno que rodea al modelo, ya está participando en la creación de su sucesor.

El primero avanza desde el ciclo de ingeniería hacia adentro, el segundo avanza desde el mecanismo del modelo hacia afuera, y ambos tienen como objetivo acortar la distancia entre una generación de IA y la siguiente.

Mientras los grandes inversores intentan acelerar sus apuestas en esta ruta, surgió otra voz dentro de la industria.

Esta semana, más de 1100 profesionales de empresas como OpenAI, Anthropic, Google y Meta firmaron una declaración que pide establecer con anticipación tecnologías y herramientas de coordinación para controlar la velocidad del desarrollo automatizado de IA. Entre los participantes se encuentran investigadores senior como Jakub Pachocki, científico principal de OpenAI, Jack Clark y Jared Kaplan, cofundadores de Anthropic, y el propio Ilya.

La petición no pide detener la investigación en IA, ni siquiera niega el valor potencial de la auto-mejora. Lo que preocupa es que, una vez que la IA comience a acelerar significativamente el desarrollo de la IA, el crecimiento de la capacidad pueda superar la velocidad con la que los humanos pueden comprender y controlar los sistemas.

Piénsalo bien: este saltar repetidamente entre aparentes contradicciones proviene del mismo grupo de personas, e incluso de la misma persona. Al mismo tiempo, pueden hacer dos juicios distintos: creen que la investigación automatizada podría ser la clave del próximo gran avance de la IA, y también creen que, una vez que este bucle de retroalimentación funcione realmente, la industria debe tener la capacidad de reducir la velocidad cuando sea necesario.

Una vez que este ciclo se establece, es diferente a lanzar un modelo más potente en el pasado. En el pasado, la velocidad del progreso finalmente estaba limitada por los equipos de investigación humanos. Las personas deben plantear preguntas, organizar experimentos y evaluar resultados, y el avance puede detenerse debido a presupuestos, mano de obra y procesos organizativos.

El objetivo del desarrollo de IA automatizada es eliminar gradualmente estos cuellos de botella. Cuanto más potente sea el modelo, más ayudará al equipo a crear más rápidamente el próximo modelo; este próximo modelo, a su vez, se convertirá en un investigador aún mejor, acortando aún más el tiempo de la próxima ronda de desarrollo.

Por lo tanto, a pesar de parecer dos fuerzas contradictorias, comparten el mismo supuesto: la investigación y desarrollo automatizados con IA están pasando de una idea lejana a un objetivo de ingeniería concreto.

Weng Fan regresa a OpenAI, lo que indica que la auto-mejora recursiva ya ha comenzado a obtener organización y responsables especializados; el hecho de que NVIDIA esté dispuesta a invertir grandes cantidades de dinero y su última capacidad de cómputo tras revisar la investigación secreta de SSI indica que la nueva ruta de aprendizaje al menos ha llegado a una etapa merecedora de validación ampliada.

Los firmantes piden preparar el freno, no porque crean que esta ruta no tendrá éxito, sino precisamente porque comenzaron a considerar seriamente qué sucederá después de que tenga éxito.

La verdadera divergencia no radica en si la IA debería o no ayudar a los humanos en la investigación. La generación de código, la búsqueda de artículos y la automatización de experimentos ya han ingresado a los laboratorios. La cuestión es: cuando la IA evolucione de una herramienta que aumenta la eficiencia de los investigadores a un sistema capaz de proponer soluciones, ejecutar experimentos, evaluar resultados y modificar los procesos siguientes por sí misma, ¿en qué puntos los humanos deben conservar el derecho a tomar decisiones?

Esto implica una serie de cuestiones que deben discutirse: ¿quién establece los objetivos de optimización? ¿Quién determina si un cambio que aparentemente mejora la puntuación compromete los límites de seguridad? ¿Cuándo varios laboratorios están en competencia, ¿qué empresa estaría dispuesta a detener por sí sola una iteración válida? ¿Si el ciclo de desarrollo del modelo realmente se reduce de un año a meses o semanas, ¿podrán aún seguir el ritmo la evaluación externa y el equipo interno de seguridad?

Las empresas de IA ya no solo compiten por crear modelos virales; están compitiendo por un sistema de investigación y desarrollo capaz de generar continuamente modelos más potentes.

Por un lado, investigadores de primer nivel como Ilya y Weng Li buscan nuevas formas de iteración para que la IA participe en su propia evolución; por otro, miles de investigadores de la misma industria exigen preparar con anticipación un mecanismo de desaceleración. Entre ambas posturas, las facciones cambian constantemente y las actitudes no son necesariamente opuestas; todos enfrentan un mismo desafío común: cuando las herramientas de investigación aceleran la propia investigación, ¿quién puede decidir cuándo debe llegar la próxima generación de IA?