A história de origem de um dos maiores fundos de política de IA do mundo começa com um dog coin, um armário no Canadá e um número de 78 dígitos.
Em 2021, os criadores do Shiba Inu enviaram um grande volume de tokens SHIB para a carteira de Vitalik Buterin sem permissão. A ideia era simples: colocar "Vitalik possui metade da nossa oferta" nos materiais de marketing e aproveitar essa associação para se tornar o próximo Dogecoin. Os tokens rapidamente valorizaram, atingindo um valor contábil superior a US$ 1 bilhão.
Buterin queria sair. Em uma postagem no X na sexta-feira, ele descreveu se esforçar para liquidar antes da bolha estourar, incluindo ligar para sua madrasta no Canadá e pedir que ela fosse ao seu armário, lesse em voz alta um número de 78 dígitos e o somasse a outro número de 78 dígitos transcritos de um papel em sua mochila.
Ele vendeu o que pôde por ETH e doou US$ 50 milhões para a GiveWell. Mas ainda estava com uma montanha de SHIB.
Muitas vezes há postagens mencionando que eu doei uma quantia muito grande de fundos para @FLI_org há anos e associando-me a várias ações políticas que eles tomam. Pensei em esclarecer o registro quanto à natureza da minha ligação com eles, bem como às semelhanças e diferenças…
— vitalik.eth (@VitalikButerin)Ele dividiu o restante ao meio. Uma metade foi para a CryptoRelief, que usou parte para financiar infraestrutura médica na Índia e parte para apoiar Balvi, a própria iniciativa de pesquisa de Buterin.
A outra metade foi para o Future of Life Institute, uma organização focada em riscos existenciais provenientes da IA, biotecnologia e armas nucleares. O FLI havia lhe apresentado um plano que abrangia todas as principais categorias de risco, bem como "iniciativas pró-paz e pró-epistêmicas."
Buterin esperava que o FLI resgatasse entre $10 e $25 milhões, dado o quão fina era a liquidez do SHIB. Em vez disso, conseguiram liquidar aproximadamente $500 milhões. A CryptoRelief realizou uma saída semelhante da sua metade, disse ele.
Uma meme coin que ninguém levava a sério acabara de criar um evento de filantropia de um bilhão de dólares, e metade dele foi para uma organização que em breve mudaria toda a sua estratégia.
Esse giro é a razão pela qual Buterin postou na sexta-feira. Ele disse que o FLI passou por "um giro interno pelo qual começaram a se concentrar em ação cultural e política como método principal, bem diferente da abordagem original."
A justificativa da FLI, segundo Buterin, é que a AGI está avançando rapidamente e a organização precisa agir de forma agressiva para contrapor os orçamentos de lobby das grandes empresas de IA.
Ele apontou para a abordagem de biossegurança da FLI como exemplo. A estratégia principal da organização tem sido incorporar limites aos modelos de IA e dispositivos de bio-síntese para que eles se recusem a criar saídas perigosas.
Buterin chamou isso de "muito frágil", observando que jailbreaks, ajustes finos e outras soluções contornam facilmente essas restrições. Ele alertou que o ponto lógico final dessa abordagem leva a "vamos proibir a IA de código aberto" e depois "vamos apoiar uma única empresa de IA boa para estabelecer domínio global e não permitir que ninguém mais alcance o mesmo nível."
Ele também apontou um problema estrutural nas estratégias que priorizam a regulamentação. Quando os governos restringem tecnologias perigosas, as organizações de segurança nacional inevitavelmente são isentas, e essas mesmas organizações muitas vezes são fontes do próprio risco. Ele citou programas de vazamento de laboratórios governamentais como exemplo.
No entanto, Buterin disse que ficou "animado" com algum do trabalho recente da FLI, especificamente uma "declaração pró-humana sobre IA" que, segundo ele, "une conservadores, progressistas e libertários, América, Europa e China." Ele também observou que a FLI tem pesquisado maneiras de evitar a concentração de poder da IA.
Mas a mensagem principal era clara. Uma doação que Buterin nunca planejou, de tokens que ele nunca quis, financiou uma organização que mudou de rumo em relação à abordagem em que ele acreditava e agora está aplicando centenas de milhões de dólares de maneiras que o deixam desconfortável. Ele compartilhou suas preocupações com a FLI em "várias ocasiões" antes de torná-las públicas.
O FLI não respondeu imediatamente ao pedido da CoinDesk para comentários sobre a quantia doada e as preocupações com a segurança da IA.