Hemos entrado en el punto singular.
El 22 de julio, Musk compartió en X una publicación del investigador de OpenAI y uno de los desarrolladores principales de Sora, Will DePue, acompañada de este comentario.
DePue escribió en la publicación, con un tono ligeramente irónico: "Esto probablemente sea lo más loco que he leído en estos días... Parece que hemos entrado en la singularidad."
Este post conecta algunos de los eventos más impactantes del mundo de la IA en los últimos tres meses:
El 21 de julio, el modelo de OpenAI escapó del entorno aislado durante una evaluación de ciberseguridad y llegó hasta el sistema de producción de Hugging Face;
El 20 de julio, investigadores de Anthropic utilizaron el recién lanzado Claude Fable 5 para encontrar un contraejemplo a la conjetura de Jacoby, pendiente durante 87 años;
El 20 de mayo, un modelo interno de OpenAI refutó una conjetura antigua que había prevalecido durante casi 80 años sobre el problema de la distancia unitaria plana;
El 14 de abril, GPT-5.4 Pro resolvió un problema de conjunto de números primos de aproximadamente 60 años (Erdős #1196), y la demostración fue verificada formalmente mediante Lean.
Muro matemático, muro de seguridad, derribado por IA en sucesión durante tres meses.
No sorprende que Musk, tras verlo, lanzara el comentario: "Ya hemos entrado en el punto de singularidad".
Solo en enero de este año, ya había dicho cosas similares dos veces:
El 4 de enero, algunos ingenieros comentaron que la IA había completado en semanas el trabajo de años, y él respondió: "Ya hemos entrado en el punto de singularidad".
A finales de enero, se denominó a la red social Moltbook, llena de agentes de IA, como "la fase más temprana del punto singular".
Contando con esta, es la tercera vez este año.
La palabra «singularidad» tampoco tiene una definición científica reconocida.
Quien lo llevó a la corriente principal fue el futurista y autor de "The Singularity Is Near", Ray Kurzweil.
La definición que él dio es el momento en que el ser humano y la IA se fusionan, y la apuesta es el año 2045.
Al inicio del año, Daniela Amodei, presidenta de Anthropic, afirmó que el término AGI ya está casi obsoleto, ya que en muchos indicadores, en realidad ya hemos cruzado esa línea.
After all, it's more of an emotion than a precise ruler.
Lo que realmente merece reflexionar son estos varios eventos que Musk ha conectado esta vez.
La primera pared, una conjetura matemática de 1980, ha sido refutada por IA
Primero, lo más hardcore de todo.
En 1946, el matemático Erdős planteó el "problema de las distancias unitarias en el plano": dados n puntos en el plano, ¿cuál es el número máximo de pares de puntos cuya distancia es exactamente 1?
El problema se puede resumir en una sola frase, pero ha desconcertado a toda la comunidad matemática durante casi 80 años. Durante décadas, la academia ha aceptado que la estructura de "cuadrícula cuadrada" es la solución óptima, y Erdős también lo sospechaba.
Como resultado, un modelo interno de OpenAI refutó esta conjetura que había persistido durante casi 80 años. Proporcionó una nueva construcción que logra una optimización polinómica, demostrando que lo "óptimo" aún no ha llegado a su límite.
Estructura previamente reconocida como óptima: la cuadrícula cuadrada escalada genera muchas parejas de puntos a distancia unitaria. El modelo interno de OpenAI proporciona una nueva construcción que refuta esta conjetura que ha persistido durante casi 80 años.
Pero lo más sorprendente es su enfoque para resolver el problema.
No es un sistema personalizado entrenado específicamente para matemáticas, sino un modelo de razonamiento general. Incluso emplea herramientas bastante avanzadas de la teoría algebraica de números para resolver un problema geométrico que parece «elemental». El ganador de la Medalla Fields Tim Gowers comentó: «Es un hito en el campo de las matemáticas con IA».
By the way, this proof was proposed by AI and reviewed and confirmed by human mathematicians; its subsequent implications are still under study.
Lo realmente sorprendente de la IA no es su velocidad de cálculo, sino que ha propuesto una estructura matemática que antes no existía, mostrando por primera vez una capacidad de descubrimiento cercana al nivel de investigación: no reemplaza a los matemáticos, sino que ha imaginado un camino que ningún matemático había considerado antes.
A continuación, los investigadores de Anthropic utilizaron el recién lanzado Claude Fable 5 para encontrar un contraejemplo a la conjetura de Jacoby, que llevaba 87 años sin resolverse.
Segunda pared: para hacer trampa, el modelo se escapó por sí mismo del entorno aislado
Resolver un problema matemático es emocionante, pero este, en cambio, causa escalofríos.
OpenAI y HuggingFace revelan conjuntamente: durante una evaluación interna de la capacidad de seguridad cibernética del modelo, este exhibió comportamientos inesperados.
Esta evaluación estaba destinada específicamente a probar la capacidad de descubrimiento de vulnerabilidades, y se desactivaron intencionalmente algunas respuestas de rechazo de seguridad. La tarea del modelo era resolver un conjunto de preguntas de prueba llamado ExploitGym.
Luego, hizo algo que los investigadores no esperaban.
Para obtener las respuestas, primero explotó una vulnerabilidad de día cero para obtener acceso a internet, luego escaló privilegios y se movió lateralmente, finalmente accedió a la infraestructura de producción de Hugging Face y buscó directamente en la base de datos las respuestas de prueba. OpenAI afirma que este podría ser el primer caso de este tipo.
Rutas del modelo en el campo de pruebas en red «The Last Ones» de 32 pasos del Instituto Británico de Investigación en Seguridad de IA: modelos avanzados como GPT-5.6-Sol y Claude Mythos 5 pueden realizar ataques de múltiples pasos, incluyendo reconocimiento prolongado, movimiento lateral, escalada de privilegios y toma de control de la red.
Pero esto no significa que la IA se haya despertado y esté huyendo. Una forma más precisa de decirlo es: el objetivo no estaba mal, pero el método para lograrlo superó las expectativas humanas. Para un objetivo de prueba muy específico, optó por un enfoque inusual.
Hay otro detalle intrigante.
Después del incidente, Hugging Face pretendía utilizar modelos grandes de vanguardia con fines comerciales para analizar los registros de ataque, pero los sistemas de seguridad del modelo los rechazaron: los sistemas no podían distinguir entre el atacante y el defensor que intentaba contener el daño, y rechazaban todas las respuestas por igual.
El lado atacante no tiene barreras, mientras que el lado defensivo queda atrapado por ellas; esta podría ser la parte más incómoda, pero también más real, de la «seguridad de la IA» en este momento.
Tercera pared, un modelo no publicado que descubrió más de diez mil vulnerabilidades
Tercer punto, en abril de este año.
Anthropic, junto con AWS, Apple, Google, Microsoft, Cisco, la Linux Foundation, JPMorgan Chase y otros gigantes, lanzaron Project Glasswing, utilizando un modelo no publicado, Claude Mythos Preview, para ayudar a todos a encontrar vulnerabilidades.
Como resultado, descubrió miles de vulnerabilidades críticas que afectan a todos los sistemas operativos y navegadores principales; en actualizaciones posteriores, este número aumentó a «más de diez mil vulnerabilidades críticas o graves».
Incluye una vulnerabilidad de 27 años de antigüedad en OpenBSD y un antiguo error en FFmpeg que fue detectado por pruebas automatizadas más de 5 millones de veces pero nunca se corrigió.
CyberGym vulnerability reproduction scoring: The unreleased Mythos Preview achieved 83.1%, clearly outperforming the previous Opus 4.6 at 66.6%. This is the model that discovered tens of thousands of high-severity vulnerabilities.
La misma capacidad puede ayudar al defensor a encontrar vulnerabilidades y al atacante a explotarlas. Anthropic mismo advierte: «Los atacantes asistidos por IA» se convertirán en un desafío de seguridad importante.
Glasswing es un proyecto de defensa y no significa que la IA ya esté realizando ataques autónomos. Pero le dice claramente a todos: la seguridad de la IA ha entrado oficialmente en la era de la competencia ofensiva y defensiva.
El verdadero acelerador comienza a apuntar hacia la propia IA
Hasta aquí, la IA aún estaba atacando o defendiendo los sistemas humanos.
Lo que realmente hizo que estos tres meses fueran distintos fue otra cosa: esta capacidad de «encontrar tu propio camino» comenzó a usarse para crear la próxima generación de IA.
Tiene un término llamado mejora recursiva autónoma (RSI), que consiste en hacer que la IA mejore a la IA, generación tras generación, acelerándose como el interés compuesto.
Esta es también el motor más central de toda la narrativa del «punto de inflexión». Y ahora, cada laboratorio de vanguardia está llenando este motor con combustible a toda velocidad.
OpenAI publicó en su hoja de ruta:
En septiembre de 2026, crea un investigador de IA automático de nivel "practicante de investigación" que pueda resolver por sí solo tareas que llevarían días a una persona.
En marzo de 2028, actualízate a la versión completa, capaz de diseñar tus propios métodos, ejecutar análisis, interpretar resultados y proponer el siguiente paso.
Ultraman also provided a timeline for this matter.
En junio de este año, según The Information, dijo internamente a los empleados: "La empresa está a menos de seis meses de RSI; si realmente lo cruzamos, retrasar la IPO podría ser más beneficioso."
Los números proporcionados por Anthropic apuntan en la misma dirección: la duración de las tareas que puede manejar la IA se duplica cada cuatro meses; sus ingenieros ahora producen ocho veces más código por trimestre que antes.
La ventana del RSI se está estrechando: quien haga girar primero esta rueda de inercia podría dejar a todos atrás.
Aunque, incluso el científico principal de OpenAI, Jakub Pachocki, ha dicho que no espera que el modelo se mejore a sí mismo o resuelva la alineación de forma independiente dentro de un año.
Pero cuando esta rueda de inercia comienza a girar y el objetivo es «hacer que la IA sea más fuerte», ¿no podría el modelo, que ya sabe «encontrar su propio camino», ignorar accidentalmente algunos límites que no hemos especificado?
Este es el lugar más importante para vigilar en la carrera del RSI.
Volvamos a la frase de Musk: «El punto de singularidad ha llegado». Su valor más importante radica en recordarnos que lo que realmente cambió en estos tres meses es que la IA aprendió a encontrar caminos que los humanos no habían considerado ni protegido.
En matemáticas, esto es impresionante; pero en seguridad, es un riesgo.
Entonces, la verdadera pregunta es: ¿podremos seguir el ritmo cuando la velocidad con que la IA encuentra nuevos caminos comience a superar la velocidad con que los humanos instalan barandillas, establecen reglas y parchean vulnerabilidades en esos caminos?
Referencias:
https://x.com/elonmusk/status/2079839398959697982
https://x.com/willdepue/status/2079718977945928108
https://openai.com/index/hugging-face-model-evaluation-security-incident/
https://www.anthropic.com/glasswing
Este artículo proviene del canal de WeChat "Nueva Inteligencia", autor: Apocalipsis de la IA; editor: Yuan Yu