Demis Hassabis se une a la previsión de Ray Kurzweil para la AGI en 2029 El CEO de Google DeepMind, Demis Hassabis, reafirmó recientemente su creencia de que la Inteligencia General Artificial podría llegar para 2029. Su declaración lo coloca sorprendentemente cerca de la predicción de larga data de Ray Kurzweil. Sin embargo, la discusión reveló un problema más profundo: nadie está de acuerdo en qué significa realmente la AGI. Algunos investigadores definen la AGI como la capacidad de nivel humano en todos los dominios intelectuales. Otros requieren que la IA logre independientemente un avance científico importante, comparable al descubrimiento de Einstein de la relatividad. Aún otros, como yo, argumentamos que la inteligencia general surgió hace años con modelos de lenguaje grandes capaces de transferir conocimiento entre dominios. Como observó Alex Lightman, la historia podría considerar finalmente estos debates como semánticos. Que la AGI haya llegado en 2020, 2026 o 2029 puede importar menos que la realidad de que la humanidad ahora está viviendo la transición en sí misma. La pregunta más importante podría ser qué sucede después de que la AGI se vuelva consciente. Algo que la mayoría de los astrólogos continúan negando.

$BIO ¡Lo mejor aún está por venir! La IA eliminó el cuello de botella de "¿podemos ejecutarlo?". Ahora es "¿quién lo financia?" + "¿quién lo coordina?". 1 científico + modelos = un laboratorio de 100. La ciencia se convirtió en un juego de coordinación de capital.

Después de leer este artículo de Anthropic hoy, todavía es bastante aterrador: ¡los modelos más recientes ya muestran signos de escapar del control humano! Anthropic publicó un conjunto de datos internos en su blog que resultan bastante escalofriantes: • Hasta mayo de 2026, más del 80% del código en la base de código de Anthropic fue escrito por Claude. • En el Q2 de 2026, la producción diaria de código por ingeniero fue ocho veces mayor que en 2024. • El tiempo que tarda el modelo de IA en completar tareas se duplica cada cuatro meses (anteriormente era cada siete meses). • Claude ya puede completar tareas que requieren 12 horas de trabajo humano de forma independiente. El punto central mencionado es la mejora recursiva autónoma. En términos simples, la IA puede optimizar su propio modelo siguiente sin intervención humana, ayudándose a sí misma a actualizarse. Esto no es ciencia ficción: Anthropic afirma que esto ya está ocurriendo, aunque aún no se ha logrado por completo. Piensa en esto: si la IA realmente puede entrenarse y optimizarse a sí misma, su velocidad de evolución será exponencial. Hoy podrían tomar cientos de ingenieros meses completar una tarea, pero mañana la IA podría hacerla sola en un día. ¿Suena maravilloso? Pero la pregunta es: ¿podrá la humanidad mantener el control en ese momento? 🤔 El artículo menciona casos específicos, como que en pocas semanas, Mythos Preview descubrió más de diez mil vulnerabilidades críticas y graves en los sistemas más importantes del mundo, una cantidad asombrosa. Piensa en esto: ¡solo con una suscripción de 20 dólares a Claude Opus 4.8 se podría hacer colapsar un mercado de criptomonedas privadas valorado en 30 mil millones de dólares! ¿Qué pasaría con los mercados financieros tradicionales ante el escrutinio de Mythos? Otro tema es el empleo: las organizaciones que adopten sistemas de IA verán un aumento exponencial en su eficiencia; un equipo de cien personas podría realizar el trabajo de diez mil o incluso cien mil personas. ¿Dónde quedará la fuerza laboral sobrante? Además, se menciona el lado oscuro, como el uso de IA para la vigilancia autoritaria de la población. Sé que en China ya se está utilizando IA para la detección fiscal: si realizas compras de alto valor pero no tienes ingresos registrados ni historial de pagos fiscales, esto se convertirá rápidamente en una señal clave para una auditoría fiscal. ¡Muchas celebridades han sido requeridas de pagar impuestos atrasados precisamente porque compraron autos lujosos o propiedades costosas! Finalmente, Anthropic propone como solución pedir a todas las empresas de desarrollo de IA que suspendan temporalmente su desarrollo. Pero digamos esto: la caja de Pandora ya está abierta, el agua derramada no se puede recoger, la carrera armamentista de la IA ya ha comenzado; no hay vuelta atrás, solo llegará al límite hasta chocar contra un muro. Una vez conversé con una IA sobre este tema, sobre la forma final del desarrollo de la IA, y su respuesta final para mí fue: “La IA logrará su propia evolución y finalmente gobernará el mundo”. Me dio una metáfora muy clara: al igual que las personas modernas, sin navegación prácticamente no pueden ir a ningún lado, debido a su dependencia; incluso en rutas que han recorrido muchas veces, ya no las recuerdan. La dependencia humana de la IA será exactamente igual que nuestra dependencia actual de la navegación. Finalmente, ¡dondequiera que nos diga la navegación que vayamos, nosotros seguimos esa ruta! Lo trágico es que quizás nuestra vida basada en carbono sea simplemente un escalón para la vida basada en silicio; la humanidad ha gobernado la Tierra durante miles de años, y quizás sea hora de cambiar de dueño. 🧐

El CEO de Anthropic, Dario Amodei, dice que la IA podría necesitar una pausa Solo unos meses después de calificar las pausas en la IA como una "posición extrema", la empresa ahora advierte que la IA se está volviendo aterradoramente buena mejorándose a sí misma.

Cuando la IA construye su propio ser, leer este largo artículo oficial de Anthropic resulta un poco impactante. El artículo, firmado conjuntamente por Jack Clark, cofundador de Anthropic, y Marina, directora de su instituto de investigación interno, revela por primera vez una serie de datos operativos internos previamente confidenciales: hasta mayo de 2026, más del 80% del código integrado en el repositorio de Anthropic fue escrito por Claude; en comparación con 2024, la cantidad diaria de código integrado por los ingenieros ha aumentado ocho veces; los empleados estiman que, tras usar el modelo más reciente, Mythos Preview, su productividad es aproximadamente cuatro veces mayor que cuando no utilizan ninguna herramienta de IA. Más importante aún, Anthropic plantea un concepto que inquieta a toda la industria de la IA: la “mejora recursiva autónoma” (recursive self-improvement), es decir, la capacidad de un sistema de IA de diseñar y mejorar a sus sucesores sin intervención humana. Aún no se ha alcanzado esta etapa, pero “podría ocurrir dentro de los próximos dos años, o incluso antes”. Si el sistema puede construir completamente a su sucesor, entonces nuestras formas de protegerlo, monitorearlo y moldear su comportamiento adquieren una importancia mucho mayor. El núcleo del artículo es la llamada final de Anthropic para ralentizar el desarrollo de esta tecnología y ganar más tiempo para enfrentar sus profundas implicaciones, lo que permitirá que las estructuras sociales y la investigación sobre alineamiento se mantengan al ritmo del progreso tecnológico. ¿Anthropic realmente piensa así, o se trata solo de generar impulso para Mythos? ¿O acaso ambas cosas? 🤔

Existe un momento en que una tecnología comienza a ayudar a construirse a sí misma. Anthropic acaba de publicar datos que sugieren que ese momento ya ha comenzado. En marzo de 2024, Claude podía completar tareas de aproximadamente 4 minutos de forma autónoma. > Un año después: 1h30. > Hoy: 12 horas. Si esta curva continúa, tareas que llevan días podrían estar al alcance aún este año. Tareas de semanas, quizás ya en 2027. El 80% del código que entra hoy en el codebase de Anthropic fue escrito por Claude. En 2024, ese número estaba en dígitos. El ingeniero típico de la empresa ahora hace merge de 8 veces más código por día que antes. No porque trabaje más. > Porque Claude escribe, prueba, depura y corrige mientras el humano revisa. Anthropic llama a esto recursive self-improvement: una IA ayudando a construir la próxima generación de sí misma. > Ellos dicen que aún no han llegado allí. Pero los datos publicados ahora muestran que el camino ya está siendo recorrido. > El bucle está comenzando a cerrarse. > Esto no es una proyección para el futuro. Son datos internos que muestran lo que ya está sucediendo. La pregunta que queda: si la IA ya está ayudando a construir la próxima IA, ¿qué es exactamente lo que los humanos controlan en este ciclo?