Los medios extranjeros consideran que el enfoque de los recientes debates sobre seguridad de la IA está pasando de "cómo reducir los riesgos" a "quién debe establecer las reglas". Tras la llamada de varios laboratorios importantes para ralentizar el avance de los modelos de vanguardia, las divisiones dentro de la industria sobre si el gobierno debería intervenir o si las empresas pueden autorregularse se han vuelto aún más públicas.
El laboratorio principal aboga por ralentizar el avance
El CEO de Anthropic, Dario Amodei, publicó recientemente un artículo abogando por ralentizar el ritmo del desarrollo de la IA para reservar tiempo para medidas de seguridad y fomentar la colaboración entre empresas y gobiernos en su implementación. El CEO de OpenAI, Sam Altman, y el fundador de xAI, Musk, han expresado su apoyo a esta dirección.
Sin embargo, apoyar “una mayor prioridad a la seguridad” no equivale a apoyar una regulación estricta. Mark Zuckerberg, CEO de Meta, indicó que la empresa retrasó durante meses el lanzamiento del modelo de IA Muse por consideraciones de seguridad y protección. Su declaración se alinea más con otra perspectiva: las empresas incorporarán la seguridad en sus procesos de desarrollo diarios debido a la presión del mercado y la responsabilidad del producto, sin necesidad de esperar a que una regulación unificada lo imponga primero.
La Casa Blanca y el Congreso mantienen una postura cautelosa
El informe señala que, a pesar de que algunas empresas líderes han abogado por la colaboración público-privada, el gobierno de Estados Unidos no ha mostrado una clara disposición para asumir el liderazgo. David Sacks, funcionario de IA en el gobierno de Trump, ha afirmado que la regulación de la IA debería delegarse principalmente a las empresas que desarrollan estas tecnologías. La Casa Blanca también ha tendido a oponerse a que cada estado implemente sus propias regulaciones de IA.
A nivel del Congreso tampoco hubo una respuesta rápida. El artículo menciona que, tras la publicación del extenso artículo de Amodei, el portavoz de la Cámara de Representantes de EE. UU., Mike Johnson, mostró una actitud escéptica frente a la noción de "riesgos catastróficos de la IA", lo que indica que Washington no está dispuesto a promover activamente un marco regulatorio más fuerte de inmediato.
La autoregulación del sector genera nuevas preguntas
Otra pista que ha llamado la atención es que empresas como OpenAI y Anthropic supuestamente están impulsando la creación de una organización de estándares de IA. El público la percibe como una posible institución de autorregulación del sector. Si este acuerdo se materializa, la industria de la IA seguirá en gran medida regulándose a sí misma mediante compromisos voluntarios y la elaboración de estándares por parte de las empresas.
Esto también plantea la pregunta persistente: si las empresas líderes impulsan las “normas de seguridad”, ¿están aprovechando esta oportunidad para consolidar su ventaja competitiva? Los críticos argumentan que, ya sea en regulaciones formales o estándares de la industria, siempre que los umbrales sean definidos por unas pocas grandes empresas, podrían aumentar los costos para los nuevos entrantes y reducir el espacio competitivo para las pequeñas y medianas empresas.
China y empresas extranjeras plantean voces de oposición
El artículo también menciona que recientemente China ha criticado a algunas empresas estadounidenses por utilizar la narrativa de riesgos de la IA para interferir en el debate sobre la gobernanza global. Una de las razones es que Amodei plantea explícitamente en el artículo que se debe ampliar la ventaja líder de Estados Unidos en los próximos años mediante la modificación de los acuerdos comerciales relacionados con China.
Este tipo de preocupaciones no provienen solo de China. El director ejecutivo de la empresa canadiense de IA Cohere, Aidan Gomez, también expresó públicamente que la controversia nunca se trata solo de “si se necesitan barreras”, sino de “quiénes escriben las reglas, quiénes pueden participar y a quién protegen las reglas”.
Según esta reseña, la seguridad de la IA ya no es solo un problema técnico, sino también una batalla por el orden industrial y la competencia internacional. A continuación, la verdadera divergencia quizá no esté en si se necesitan medidas de seguridad, sino en quién terminará teniendo el poder de establecer las reglas.