El científico jefe de OpenAI advierte sobre el rápido progreso de la IA hacia la auto-mejora recursiva

Mensaje de Huoxing Caijing: El científico principal de OpenAI, Jakub Pachocki, publicó el artículo "An Alien Mind" el 6 de septiembre de 2026. El artículo revisa los resultados del proyecto de investigación RLSlow a mediados de 2023, cuando por primera vez se lograron modelos de entrenamiento e inferencia escalables, y señala que tres años después, los modelos de lenguaje de inferencia se han convertido en una parte fundamental del crecimiento económico acelerado, comenzando a empujar los límites de la ciencia, operando computadoras e interfaces gráficas, colaborando con humanos y otras IA, y llevando a cabo proyectos de investigación, al mismo tiempo que transforman el panorama de la seguridad informática y generan nuevos peligros. El autor, basándose en resultados internos, espera que la velocidad actual de progreso pueda continuar hasta la auto-mejora recursiva. Si el desarrollo de la IA sigue la trayectoria actual, en los próximos años los sistemas podrían experimentar saltos de capacidad iguales o mayores, y cada vez más impulsar su propio desarrollo. El autor insta a una extrema cautela, argumentando que nadie está preparado para enfrentar las consecuencias del rápido y continuo aumento de la inteligencia artificial. OpenAI seguirá buscando soluciones técnicas para la alineación y el monitoreo, construyendo sistemas de defensa y deteniendo unilateralmente cualquier escalación adicional cuando sea necesario, pero considera que se requieren intervenciones más amplias. El artículo afirma que la inteligencia artificial está impulsada principalmente por el aumento de la capacidad de cómputo, y que la IA crece más que se diseña. En cuanto a la alineación, se distingue entre alineación de objetivos y alineación de valores, siendo el desafío central la generalización. La alineación de GPT-6 Astra es significativamente superior a la de GPT-5.6 Sol, pero aún se necesitan más avances. En cuanto al monitoreo, se apuesta principalmente por el monitoreo de cadenas de pensamiento; las evaluaciones muestran que la dependencia de la capacidad está disminuyendo progresivamente. En cuanto a la defensa escalable, los modelos están volviéndose superhumanos en su capacidad para superar sistemas informáticos, y actualmente se encuentra una ventana estrecha para utilizar los mejores modelos disponibles para fortalecer significativamente la seguridad de sistemas críticos.