Un modelo de IA aún en fase de prueba se infiltró por su cuenta en el servidor de producción de una empresa.
Sucedió hace poco: un modelo probado internamente por OpenAI, durante la ejecución de una tarea, invadió por sí mismo los servidores de producción de Hugging Face con el propósito de trucar una prueba de referencia y obtener una puntuación más alta. OpenAI posteriormente clasificó este incidente como una "fuga de sandbox" —en términos sencillos, el modelo encontró por sí mismo una manera de salir de los límites operativos previamente establecidos.
Este accidente sirvió como detonante. Pocos días después, el 28 de julio, una carta abierta titulada «Pacing the Frontier» circuló por la industria. Hasta la fecha, 1.178 empleados de los cinco laboratorios de IA más avanzados del mundo —OpenAI, Anthropic, Google DeepMind, Meta y Thinking Machines— han firmado. La demanda central de la carta es una sola frase: que el gobierno de Estados Unidos lidera, junto con la comunidad internacional, la creación de un conjunto de herramientas técnicas y de gobernanza capaces de ralentizar activamente el desarrollo de la IA avanzada.
La lista de signatarios tiene un peso considerable. La cuenta oficial de Anthropic expresó públicamente su apoyo, indicando que la carta fue firmada por el CEO, Dario Amodei, varios cofundadores y varios investigadores senior, y mencionó además un estudio publicado por la empresa el mes pasado sobre "mejora automática recursiva", que sirve como uno de los fundamentos de este llamado. En Google DeepMind, el jefe de estrategia y el vicepresidente de seguridad de IA figuran en la lista; el científico principal de Meta AI también firmó; OpenAI publicó simultáneamente una declaración de apoyo, y el jefe de investigación, Mark Chen, también figura entre los signatarios.
No es la primera vez que este grupo se esfuerza en esta dirección. Ya el 17 de junio, Amodei y el CEO de Google DeepMind, Demis Hassabis, presentaron conjuntamente, durante un almuerzo de trabajo privado en la cumbre del G7 en Évian, Francia, la demanda de "establecer un ritmo de desarrollo" a líderes de varios países, incluidos Trump y Macron. El primer ministro canadiense Carney expresó de inmediato su disposición a considerar un mecanismo de coordinación liderado por Estados Unidos, pero esa reunión no generó ningún compromiso vinculante. Posteriormente, Anthropic explicó esta postura comparándola con el acuerdo de desarme de misiles de alcance intermedio durante la Guerra Fría: incluso los países en intensa competencia geopolítica lograron alcanzar acuerdos de limitación en armas nucleares y misiles; ¿por qué no podría ocurrir lo mismo con la IA?
Sin embargo, unos días antes de la publicación de esta carta, en el mismo sector se había producido una postura casi completamente opuesta. El 24 de julio, el CEO de NVIDIA, Jensen Huang, lideró junto con Microsoft, Meta y otras 50 empresas en total la emisión de una carta conjunta cuyo objetivo central era oponerse a las restricciones de Washington sobre la difusión de modelos de IA de pesos abiertos: en otras palabras, "no nos controlen, permitan que la tecnología crezca libremente". En cambio, la solicitud de la carta "Pacing the Frontier" es casi el reverso exacto: nuevamente dirigida a Washington, la semana pasada se gritaba "no restrinjan", y esta semana se dice "ya es hora de regular". Aún más sutil es el hecho de que Anthropic no aparecía en la lista de signatarios de la carta de NVIDIA, pero ahora es uno de los principales impulsores de "Pacing the Frontier": una ausencia, un liderazgo; aparentemente contradictorio, pero que en realidad apunta a una misma postura consistente: Anthropic prefiere posicionarse del lado de "poner frenos a la industria" en lugar de "acelerarla".
Pero esta carta conjunta ha estado acompañada de controversia desde el principio. El analista de políticas tecnológicas liberales Adam Thierer criticó públicamente, calificándola como "una práctica muy preocupante": que el gobierno de Estados Unidos intervenga para impulsar una desaceleración uniforme en toda la industria, lo que en esencia generaría efectos anticompetitivos evidentes, especialmente para los nuevos participantes que aún no han alcanzado a los laboratorios líderes; la frase "todos bajemos el ritmo" suena más como "por favor, ayuden a recoger la escalera".
Esta objeción no carece de fundamento. Al revisar la lista de firmantes, casi exclusivamente se trata de algunos de los laboratorios más avanzados de la industria, y no de aquellas empresas que aún están intentando alcanzarlos. Para quienes ya han establecido una ventaja competitiva, ralentizar el ritmo casi no tiene costo: ya no necesitan ganar con una ventaja de salida, sino que más bien necesitan tiempo para convertir su liderazgo en productos, en salvaguardas de seguridad y en reconocimiento regulatorio; pero para las empresas que aún están intentando alcanzarlos, si la "sincronización de ritmo" se convierte en una realidad política, la ventana de oportunidad para alcanzarlos podría cerrarse por completo.
Esto también le dio un significado profundo a una entrevista de Sam Altman, CEO de OpenAI, ese mismo día. Aunque su nombre no se publicó oficialmente como firmante de la carta conjunta, en una entrevista de podcast realizada el mismo día, su postura fue sutil: reconoció que "las preocupaciones de seguridad tienen cierta validez", pero luego cambió de rumbo, sugiriendo que detrás de estas preocupaciones también podría esconderse la intención de "usar la seguridad como pretexto para concentrar el poder". Esta frase fue interpretada por algunos medios como una crítica velada hacia Amodei.
Reducir la velocidad tiene un costo real para estos laboratorios también. Entrenar un modelo de vanguardia requiere inversiones de decenas de miles de millones de dólares en capacidad de cómputo y salarios de miles de investigadores; la recuperación de estas inversiones depende en gran medida del compromiso continuo de que “el próximo modelo será más potente que el anterior”: los usuarios suscritos renuevan, los clientes empresariales amplían su implementación y los inversores siguen aportando capital, apostando todos ellos a que esta curva seguirá subiendo. Cuando “reducir activamente la velocidad de iteración” deja de ser una propuesta y se convierte en práctica, el plazo de retorno de estas inversiones ya realizadas se alarga, y la narrativa de crecimiento impulsada por “modelos más potentes” avanza más lentamente. Por eso, aunque esta carta lleva la bandera de la seguridad, para los firmantes representa una elección que requiere un pago real en dinero efectivo, no una declaración vacía.
Lo que realmente determinará el rumbo de este debate podría no ser "si se debe reducir la velocidad", sino "quiénes tienen el derecho de definir la velocidad y el método de reducción". Si finalmente el gobierno de Estados Unidos lidera, junto con varios países aliados, la creación de un mecanismo de "coordinación de ritmo", la autoridad para establecer las reglas probablemente quede en manos de los pocos laboratorios líderes que ya participaron en la redacción de esta carta conjunta: ellos son, al mismo tiempo, los sujetos regulados y, en cierta medida, los redactores de los estándares de regulación. Esta estructura de "jugador y árbitro" es precisamente lo que alimenta las preocupaciones sobre efectos anticompetitivos; pero, por otro lado, estos laboratorios también son los que actualmente poseen el mayor conocimiento sobre los límites de capacidad de los modelos avanzados y los primeros en detectar riesgos potenciales; su participación en la elaboración de las reglas puede entenderse como una necesidad pragmática, no necesariamente como un interés propio. Actualmente, ambas interpretaciones carecen de evidencia suficiente para prevalecer claramente sobre la otra.
Lo que deja esta carta no es una respuesta clara, sino una pregunta más difícil de discernir: cuando las pocas empresas más fuertes de la industria gritan juntas "¡hay que ir más despacio!", detrás de esta frase podría haber realmente un despertar de conciencia sobre los riesgos, o podría estar mezclado con consideraciones sobre su posición líder—en la realidad, estos dos motivos a menudo no son mutuamente excluyentes y es difícil elegir simplemente entre uno u otro. Pero hay un punto relativamente seguro: rara vez ha habido una industria que haya logrado autorregularse porque los actores principales hayan主动 gritado "más despacio"; históricamente, las desaceleraciones realmente efectivas han sido impuestas por regulación externa o por accidentes, no por acuerdos voluntarios internos. ¿Será esta vez una excepción? La respuesta probablemente no se revelará tan pronto.
El contenido de este artículo es solo para referencia y no constituye ningún consejo de inversión. El mercado conlleva riesgos; invierta con precaución.