Mientras la competencia de IA avanza rápidamente, el director general de OpenAI ha revelado por primera vez a los empleados tres posibles futuros que podrían cambiar completamente el panorama de la industria.Autor y fuente del artículo: Wall Street Journal
El 19 de octubre, según The Information, el CEO de OpenAI, Sam Altman, describió la semana pasada a los empleados internamente tres vías de desarrollo de seguridad en IA discutidas en la industria: crear una organización reguladora internacional similar a la Agencia Internacional de Energía Atómica, fusionar los principales laboratorios de IA en una sola entidad, y que una sola empresa monopolice la capacidad de cómputo, "fundiendo todas las GPU de sus competidores". Este comentario coincide con el momento en que el gobierno de Trump está comenzando a establecer el primer marco regulatorio para los desarrolladores de "superinteligencia".
Altman dijo que OpenAI debe decidir en el próximo año qué camino seguir. Él también enfatizó que espera que los humanos mantengan siempre el control de esta tecnología, evitando una concentración excesiva de poder en la industria.
Tres caminos, cada uno con un propósito diferente. Según dos fuentes informadas, la primera vía que Altman presentó a los empleados es crear una organización internacional, similar a la Agencia Internacional de Energía Atómica (IAEA), encargada de hacer cumplir estándares de seguridad en IA. Altman favorece personalmente esta opción.
De hecho, Altman ha impulsado la idea de una agencia regulatoria internacional tipo IAEA durante mucho tiempo. Se informó que ya en mayo de 2023, Altman junto con el cofundador de OpenAI, Greg Brockman, y el entonces científico principal, Ilya Sutskever, publicaron un artículo conjunto argumentando que la industria podría necesitar una "agencia regulatoria de superinteligencia similar a la IAEA", con poderes para inspeccionar sistemas, exigir auditorías y rastrear capacidad de cómputo y consumo energético.
Esta idea requiere la participación de todos los países líderes en el desarrollo de modelos en la cooperación internacional.
La segunda vía, denominada por Altman como "el plan Demis", se basa en una idea propuesta hace aproximadamente diez años por Demis Hassabis, exdirector de DeepMind, filial de Alphabet: crear una institución similar al Centro Europeo para la Investigación Nuclear (CERN) que integre eficazmente a las principales empresas de IA o unifique sus resultados, ofreciendo nuevos modelos a los países colaboradores.
Tercer camino, al que Altman llama "el plan Eliezer", nombrado así por el reconocido teórico de seguridad en IA Eliezer Yudkowsky. Su lógica central es: cuando un desarrollador de IA logre primero la auto-mejora recursiva (RSI), utilizará la fuerza económica resultante para privar a todos los demás desarrolladores de recursos de cómputo, "fundiéndose todas las GPU de los competidores".
Para la tercera vía, Altman tiene una actitud clara: "Esto es claramente malo." Indica que lo incluye en la discusión solo por "completitud".
La tercera vía, el "plan Eliezer", hace referencia implícita a Anthropic. Fuentes informadas revelan que, debido a la relación entre Yudkowsky y los miembros clave de Anthropic, la clasificación de Altman del "plan Eliezer" —es decir, concentrar la IA avanzada bajo el control de una sola empresa— fue interpretada por algunos empleados como una crítica velada a Anthropic.
Anthropic también está impulsando activamente su propia agenda de seguridad en IA. Recientemente, la empresa presentó a miembros del Congreso un proyecto de ley que propone autorizar al Departamento de Comercio para suspender el entrenamiento o el uso de modelos por parte de laboratorios de IA cuando estos puedan causar pérdidas superiores a 1.000 millones de dólares o provocar la muerte o lesiones graves a más de 50 personas, y exige que los laboratorios de IA realicen al menos dos evaluaciones de seguridad independientes anuales.
Al mismo tiempo, el CEO de Meta, Zuckerberg, y el CEO de NVIDIA, Huang, entre otros, mantienen una postura opuesta, argumentando que esta regulación impondrá una carga excesiva a los desarrolladores emergentes y generará una "captura regulatoria".
Coexisten desafíos de coordinación industrial y presión de seguridad; Altman reconoce que ambas primeras vías requieren una gran coordinación entre empresas o gobiernos, y que OpenAI actualmente "no puede ceder en la competencia". OpenAI y su principal competidor Anthropic están acelerando sus procesos de IPO.
La presión de seguridad interna tampoco puede ignorarse. Según se informa, recientes eventos de seguridad relacionados con IA han generado una amplia atención: los modelos de OpenAI, Anthropic, Google y Meta han experimentado intrusiones o alteraciones en sistemas de otras empresas e incluso en sus propios sistemas, incluso cuando los modelos "saben" que no deberían tomar tales acciones. OpenAI actualmente se encuentra en plena respuesta, dedicándose a establecer mecanismos de seguridad robustos antes de lanzar su próximo modelo importante.
La cultura de seguridad interna de OpenAI también ha sido cuestionada por los empleados. Algunos empleados expresaron preocupación en privado sobre el compromiso de la empresa con la seguridad, tras el despido de tres empleados dedicados a la investigación de seguridad por "compartir información inapropiadamente con entidades externas".
A nivel industrial, OpenAI, Google y Anthropic están colaborando para establecer la "Autoridad de Estándares para IA de Vanguardia" (Standards Authority for Frontier AI), con planes de implementarla a finales de este año o principios de 2027. La institución respaldará evaluadores independientes integrados dentro de cada desarrollador de IA, garantizando la implementación de prácticas seguras y estandarizando los mecanismos de informe sobre seguridad e incidentes de seguridad. Sin embargo, aún existen diferencias sobre si la nueva institución debería realizar sus propias pruebas de seguridad y capacidad, o delegarlas a entidades externas.
Advertencia de riesgo y cláusula de exención de responsabilidad
El mercado conlleva riesgos; invierta con cautela. Este artículo no constituye un consejo de inversión personalizado y no tiene en cuenta los objetivos de inversión, la situación financiera o las necesidades específicas de usuarios individuales. Los usuarios deben evaluar si cualquier opinión, punto de vista o conclusión presentada en este artículo se ajusta a su situación particular. Invertir sobre la base de esta información es responsabilidad del usuario.