O controlador da cidade de Nova York, Mark Levine, está intensificando suas críticas ao planejado IPO da Anthropic, argumentando que sua estrutura de governança concede aos fundadores e a um fundo independente controle desproporcional, limitando a influência dos acionistas sobre uma empresa que desenvolve tecnologia de IA potencialmente perigosa.
“Estamos observando uma tendência muito preocupante de desempoderamento dos acionistas e todo o equilíbrio de poder se inclinando em direção à administração,” disse Levine, que, entre suas funções, supervisiona os cinco fundos de pensão públicos da cidade, em entrevista à Bloomberg.
O modelo de governança da Anthropic concede aos seus sete co-fundadores poder de voto significativo por meio de uma Founder LLC, enquanto um Fundo Independente de Benefício de Longo Prazo detém autoridade para eleger e remover a maioria do conselho da empresa. O arranjo tem como objetivo proteger a capacidade do desenvolvedor de IA de priorizar considerações de segurança em relação aos retornos financeiros de curto prazo.
Sob a estrutura descrita em seu arquivo de IPO, o conselho da Anthropic determinará como medir o progresso da empresa em direção à sua missão de benefício público. A empresa também alertou que não pode garantir que cumprirá esse propósito ou entregará os benefícios esperados de operar como uma corporação de benefício público.
Os comentários surgiram após Levine pedir que a Anthropic adie seu IPO, argumentando que a empresa deveria priorizar medidas de segurança e maior transparência antes de buscar um IPO que poderia valorizá-la em aproximadamente US$ 2 trilhões.
Em um ensaio de 12 de setembro, o CEO da Anthropic, Dario Amodei, alertou que as capacidades da IA podem ultrapassar a capacidade da sociedade de controlá-las e pediu que se reduza o ritmo do desenvolvimento. Essas preocupações também estão refletidas no projeto de registro de IPO da Anthropic, que supostamente alerta que a IA avançada pode representar “riscos catastróficos ou existenciais para a humanidade”.
O S-1 da Anthropic dedica quase 100 páginas a fatores de risco, substancialmente mais do que as cerca de 64 páginas que descrevem seu negócio.
Após a carta, o controlador disse que estava em negociações com Amodei, mas não revelou mais informações sobre as conversas.
O IPO da SpaceX fornece um aviso para a Anthropic
O IPO da SpaceX levantou preocupações semelhantes sobre sua estrutura de governança. Antes da oferta, Levine e outros investidores institucionais se opuseram a cláusulas que deveriam deixar Elon Musk com aproximadamente 79% do poder de voto, apesar de detentar cerca de 42% da equidade. Musk também atua como CEO, diretor de tecnologia e presidente do conselho.
Embora conceder controle significativo aos fundadores tenha sido por muito tempo comum entre startups de tecnologia, Levine disse que os arranjos de governança na SpaceX e na Anthropic representam uma mudança mais acentuada.
“Mas o que vimos na SpaceX, e agora o que estamos vendo na Anthropic, está realmente em um nível totalmente novo”, disse Levine ao Bloomberg.
Apesar de suas reservas, Levine disse que os fundos de pensão da cidade de Nova York provavelmente terão exposição à Anthropic por meio de seus investimentos em índice, assim como fizeram com a SpaceX.