El CEO de Microsoft, Satya Nadella, admitió en el podcast 2VC que anteriormente creía que el aumento de las capacidades de IA conduciría naturalmente a avances en la alineación con los valores humanos, pero ahora ha cambiado de opinión. Señaló que, aunque el tamaño de los modelos sigue creciendo, los problemas de alineación se han vuelto más complejos y la controlabilidad no ha mejorado al mismo ritmo que las capacidades. Abogó por considerar la IA como una amenaza interna de seguridad, requiriendo tres líneas de defensa: diseño confiable de sistemas, supervisión humana y procedimientos operativos, y llamó a establecer normas industriales. Esta postura refleja las advertencias de líderes de la industria como Altman y Amodei, destacando que la gobernanza de la IA está pasando de eslóganes a restricciones técnicas y institucionales concretas.Autor y fuente del artículo: AIBase
El CEO de Microsoft, Satya Nadella, ha invertido públicamente su juicio sobre el problema de "alineación" de la IA. En el nuevo episodio del podcast 20VC, el presentador Harry Stebbings le preguntó qué ideas habían cambiado en el último año, y Nadella admitió que anteriormente siempre había creído que cuanto más poderosa fuera la IA, más naturalmente se resolvería el problema de alinear su comportamiento con los valores y objetivos humanos.
De "solución natural" a "más complicado"
Pero la realidad no siguió el guion. Nadella reconoció que el crecimiento continuo del tamaño del modelo y el aumento constante de su capacidad fueron, efectivamente, como él esperaba; sin embargo, "la alineación" —es decir, hacer que el comportamiento de la IA sea coherente— aún no se ha resuelto. Dijo: "Anteriormente siempre creí que el problema de la alineación se resolvería por sí solo. Ya no lo creo así. La alineación podría ser un problema más complejo y de naturaleza diferente."
Lo que se denomina alineación se refiere a si el comportamiento de la IA escucha o no a los humanos y si se ajusta a los objetivos humanos. Cuando los modelos se vuelven tan grandes que incluso sus diseñadores tienen dificultades para predecir completamente sus acciones, el crecimiento de la capacidad se desvincula del crecimiento de la controlabilidad, convirtiéndose en una nueva realidad que Nadella debe enfrentar directamente.
Usar la IA como "traidor interno" para prevenirla
Esta alerta ya tenía señales tempranas. El 10 de octubre, Nadella publicó en la plataforma X una advertencia sobre los riesgos de la IA, abogando por reforzar los controles de seguridad externos. Su recomendación central fue contundente: las empresas deben considerar los modelos de IA como "amenazas internas de seguridad" y asumir, al implementar protecciones, que el modelo ya ha sido comprometido.
Escribió en la publicación que se deben establecer tres líneas de defensa para los modelos cuyo comportamiento no se puede predecir completamente: un diseño de sistema confiable y determinista, control humano y procedimientos operativos mejorados; donde los estándares aún no sean suficientes, se deben establecer rápidamente regulaciones de la industria.
Nadella no es un caso aislado. Sam Altman de OpenAI y Dario Amodei de Anthropic también han alertado sobre las amenazas potenciales de la IA; en julio de este año, más de 1,000 profesionales firmaron una carta abierta advirtiendo que la velocidad con la que avanza la capacidad de la IA podría haber superado ya la capacidad humana para comprenderla o controlarla. Cuando los principales operadores están reduciendo colectivamente su confianza en la idea de que "más poder equivale a más seguridad", la gobernanza de la IA probablemente deba pasar de eslóganes a una ingeniería y estructuras institucionales más sólidas.