El tesorero de la Ciudad de Nueva York, Mark Levine, está intensificando sus críticas al planeado IPO de Anthropic, argumentando que su estructura de gobierno otorga a los fundadores y a una confianza independiente un control desproporcionado, mientras limita la influencia de los accionistas sobre una empresa que desarrolla tecnología de IA potencialmente peligrosa.
“Estamos viendo una tendencia muy preocupante de desempoderamiento de los accionistas y todo el equilibrio de poder inclinándose hacia la administración,” dijo Levine, quien, entre sus funciones, supervisa los cinco fondos de pensiones públicos de la ciudad, en una entrevista con Bloomberg.
El modelo de gobernanza de Anthropic otorga a sus siete cofundadores un poder de voto significativo a través de una Founder LLC, mientras que una Fideicomiso Independiente de Beneficio a Largo Plazo tiene la autoridad para elegir y remover a la mayoría de los miembros de la junta de la empresa. Este acuerdo tiene como objetivo proteger la capacidad del desarrollador de IA para priorizar consideraciones de seguridad por encima de los retornos financieros a corto plazo.
Bajo la estructura descrita en su presentación de IPO, la junta directiva de Anthropic determinará cómo medir el progreso de la empresa hacia su misión de beneficio público. La empresa también advirtió que no puede garantizar que cumplirá con ese propósito ni que entregará los beneficios esperados de operar como una corporación de beneficio público.
Los comentarios surgen después de que Levine pidiera a Anthropic que pospusiera su OPI, argumentando que la empresa debería priorizar medidas de seguridad y mayor transparencia antes de buscar una OPI que podría valorarla en aproximadamente $2 billones.
En un ensayo del 12 de septiembre, el CEO de Anthropic, Dario Amodei, advirtió que las capacidades de la IA podrían superar la capacidad de la sociedad para controlarlas y pidió ralentizar el ritmo del desarrollo. Esas preocupaciones también se reflejan en el proyecto de presentación de IPO de Anthropic, que supuestamente advierte que la IA avanzada podría representar “riesgos catastróficos o existenciales para la humanidad”.
El S-1 de Anthropic dedica casi 100 páginas a los factores de riesgo, considerablemente más que las aproximadamente 64 páginas que describen su negocio.
Tras la carta, el contralor dijo que mantenía conversaciones con Amodei, pero no reveló más información sobre las conversaciones.
La salida a bolsa de SpaceX ofrece una advertencia para Anthropic
La oferta pública inicial de SpaceX generó preocupaciones similares sobre su estructura de gobierno. Antes de la oferta, Levine y otros inversores institucionales se opusieron a las disposiciones que se esperaba dejaran a Elon Musk con aproximadamente el 79% del poder de voto, a pesar de poseer alrededor del 42% de la equidad. Musk también actúa como CEO, director tecnológico y presidente de la junta.
Aunque otorgar control significativo a los fundadores ha sido durante mucho tiempo común entre las startups de tecnología, Levine dijo que los acuerdos de gobernanza en SpaceX y Anthropic representan un cambio más pronunciado.
"Pero lo que vimos en SpaceX, y ahora lo que estamos viendo en Anthropic, realmente está en un nivel completamente nuevo", dijo Levine a Bloomberg.
A pesar de sus reservas, Levine dijo que los fondos de pensiones de la Ciudad de Nueva York probablemente obtendrán exposición a Anthropic a través de sus inversiones indexadas, al igual que lo hicieron con SpaceX.