L'histoire de l'origine de l'un des plus grands fonds de campagne pour la régulation de l'IA au monde commence avec une monnaie canine, un placard au Canada et un nombre à 78 chiffres.
En 2021, les créateurs de Shiba Inu ont envoyé une énorme quantité de jetons SHIB au wallet de Vitalik Buterin sans demander leur avis. L'idée était simple : afficher « Vitalik possède la moitié de notre offre » dans les documents de marketing et tirer parti de cette association pour devenir le prochain Dogecoin. Les jetons ont rapidement augmenté en valeur, atteignant une valeur comptable de plus d'1 milliard de dollars.
Buterin voulait sortir. Dans un message sur X vendredi, il a décrit comment il s'est dépêché de liquider avant l'éclatement de la bulle, y compris en appelant sa belle-mère au Canada pour lui demander d'aller dans son placard, de lire un nombre de 78 chiffres, et de l'ajouter à un autre nombre de 78 chiffres transcrit depuis un papier dans son sac à dos.
Il a vendu ce qu'il pouvait contre de l'ETH et a fait un don de 50 millions de dollars à GiveWell. Mais il conservait encore une montagne de SHIB.
Il y a souvent des publications mentionnant que j’ai fait un don d’un montant très important à @FLI_org il y a plusieurs années et liant mes actions à diverses décisions politiques qu’ils prennent. Je souhaitais clarifier la nature de mon lien avec eux, ainsi que les similitudes et différences…
— vitalik.eth (@VitalikButerin)Il a divisé le reste en deux. La moitié a été versée à CryptoRelief, qui a utilisé une partie pour financer des infrastructures médicales en Inde et une autre partie pour soutenir Balvi, l'initiative de recherche personnelle de Buterin.
L'autre moitié a été versée à l'Institut pour l'avenir de la vie, une organisation axée sur les risques existentiels liés à l'IA, à la biotechnologie et aux armes nucléaires. FLI lui avait présenté une feuille de route couvrant toutes les principales catégories de risques, ainsi que des « initiatives pro-paix et pro-épistémiques ».
Buterin s'attendait à ce que FLI retire entre 10 et 25 millions de dollars, compte tenu de la faible liquidité de SHIB. Au lieu de cela, ils ont réussi à liquider environ 500 millions de dollars. CryptoRelief a réalisé une sortie similaire de sa moitié, a-t-il dit.
Une pièce memecoins que personne ne prenait au sérieux venait de créer un événement de bienfaisance d'un milliard de dollars, et la moitié de celui-ci a été versée à une organisation qui allait bientôt réorienter toute sa stratégie.
Ce pivot est la raison pour laquelle Buterin a publié vendredi. Il a déclaré que FLI avait subi « un pivot interne par lequel ils ont commencé à se concentrer sur l'action culturelle et politique comme méthode principale, très différente de l'approche originale ».
La justification de FLI, selon Buterin, est que l'IA générale progresse rapidement et que l'organisation doit agir avec détermination pour contrer les budgets de lobbying des grandes entreprises d'IA.
Il a cité l'approche de FLI en matière de biosécurité comme exemple. La stratégie principale de l'organisation consiste à intégrer des garde-fous dans les modèles d'IA et les dispositifs de bio-synthèse afin qu'ils refusent de produire des résultats dangereux.
Buterin a qualifié cela de « très fragile », soulignant que les jailbreaks, le fine-tuning et autres contournements rendent ces restrictions faciles à contourner. Il a averti que le point logique de cette approche mène à « interdisons l'IA open-source » puis « soutenons une seule entreprise d'IA bienveillante pour établir une domination mondiale et n'autorisons personne d'autre à atteindre le même niveau ».
Il a également souligné un problème structurel lié aux stratégies axées sur la réglementation en premier. Lorsque les gouvernements restreignent les technologies dangereuses, les organisations de sécurité nationale sont inévitablement exemptées, et ces mêmes organisations sont souvent à l'origine du risque lui-même. Il a cité les programmes de fuites de laboratoires gouvernementaux en exemple.
Cependant, Buterin a déclaré qu'il avait été "réconforté" par certains des travaux récents de la FLI, notamment une "déclaration pro-humaine sur l'IA" qui, selon lui, "unit conservateurs, progressistes et libertaires, l'Amérique, l'Europe et la Chine." Il a également souligné que la FLI étudiait des moyens d'éviter la concentration du pouvoir liée à l'IA.
Mais le message fondamental était clair : une donation que Buterin n'avait jamais prévue, provenant de jetons qu'il ne voulait pas, a financé une organisation qui s'est éloignée de l'approche qu'il croyait, et qui déplore maintenant des centaines de millions de dollars de manière qui le rend mal à l'aise. Il a partagé ses préoccupations avec FLI à « plusieurs reprises » avant de le rendre public.
FLI n'a pas répondu immédiatement à la demande de commentaire de CoinDesk concernant le montant donné et les préoccupations liées à la sécurité de l'IA.