La historia de origen de uno de los mayores fondos de campaña de políticas de IA del mundo comienza con una moneda de perro, un armario en Canadá y un número de 78 dígitos.
En 2021, los creadores de Shiba Inu enviaron una gran cantidad de tokens SHIB al monedero de Vitalik Buterin sin pedir permiso. La idea era sencilla: colocar "Vitalik posee la mitad de nuestra oferta" en los materiales de marketing y aprovechar esa asociación para convertirse en el próximo Dogecoin. Los tokens aumentaron rápidamente su valor, alcanzando un valor contable de más de $1 mil millones.
Buterin quería salir. En una publicación en X el viernes, describió cómo se apresuró a liquidar antes de que la burbuja estallara, incluyendo llamar a su madrastra en Canadá y pedirle que entrara en su armario, leyera en voz alta un número de 78 dígitos y lo sumara a otro número de 78 dígitos transcritos de un papel en su mochila.
Vendió lo que pudo por ETH y donó 50 millones de dólares a GiveWell. Pero aún tenía una montaña de SHIB.
A menudo hay publicaciones que mencionan que doné una cantidad muy grande de fondos a @FLI_org hace años y las vinculan con diversas acciones políticas que ellos llevan a cabo. Pensé que aclararía el registro tanto sobre la naturaleza de mi conexión con ellos, como sobre las similitudes y diferencias…
— vitalik.eth (@VitalikButerin)Él dividió el resto a la mitad. Una mitad fue a CryptoRelief, que utilizó parte para financiar infraestructura médica en la India y parte para apoyar a Balvi, la propia iniciativa de investigación de Buterin.
La otra mitad fue para el Future of Life Institute, una organización enfocada en riesgos existenciales provenientes de la IA, la biotecnología y las armas nucleares. FLI le había presentado una hoja de ruta que cubría todas las categorías de riesgo principales, así como "iniciativas pro-paz y pro-epistémicas".
Buterin esperaba que FLI retirara entre $10 y $25 millones, dado lo limitada que era la liquidez de SHIB. En cambio, lograron liquidar aproximadamente $500 millones. CryptoRelief llevó a cabo una salida similar de su mitad, dijo.
Una moneda meme que nadie tomaba en serio acababa de crear un evento de filantropía de mil millones de dólares, y la mitad de ello fue a una organización que pronto cambiaría toda su estrategia.
Ese giro es la razón por la que Buterin publicó el viernes. Dijo que FLI sufrió "un giro interno mediante el cual comenzaron a centrarse en la acción cultural y política como método principal, muy diferente al enfoque original."
La justificación de FLI, según Buterin, es que la AGI avanza rápidamente y que la organización necesita actuar con agresividad para contrarrestar los presupuestos de cabildeo de las grandes empresas de IA.
Señaló el enfoque de seguridad biológica de FLI como ejemplo. La estrategia principal de la organización ha sido integrar límites de seguridad en modelos de IA y dispositivos de bio-síntesis para que se nieguen a generar salidas peligrosas.
Buterin llamó a esto "muy frágil", señalando que los jailbreaks, el ajuste fino y otras soluciones alternativas hacen que tales restricciones sean fáciles de eludir. Advertió que el punto lógico final de ese enfoque lleva a "prohíbamos la IA de código abierto" y luego "apoyemos a una sola empresa de IA de buenos para establecer dominio global y no permitamos que nadie más alcance el mismo nivel".
También señaló un problema estructural con las estrategias que priorizan la regulación. Cuando los gobiernos restringen tecnologías peligrosas, las organizaciones de seguridad nacional inevitablemente quedan exentas, y esas mismas organizaciones a menudo son una fuente del propio riesgo. Citó como ejemplo los programas de fuga de laboratorios gubernamentales.
Sin embargo, Buterin dijo que se ha sentido "animado" por algunos de los trabajos recientes de FLI, específicamente una "declaración prohumana sobre la IA" que, según él, "une a conservadores, progresistas y libertarios, América, Europa y China". También señaló que FLI ha estado investigando formas de evitar la concentración de poder derivada de la IA.
Pero el mensaje principal era claro. Una donación que Buterin nunca planeó, de tokens que nunca quiso, financió una organización que cambió de rumbo respecto al enfoque en el que él creía, y ahora está desplegando cientos de millones de dólares de maneras que le incomodan. Compartió sus preocupaciones con FLI en "varias ocasiones" antes de hacerlo público.
FLI no respondió inmediatamente a la solicitud de CoinDesk para comentarios sobre la cantidad donada y las preocupaciones sobre la seguridad de la IA.