El CEO de Anthropic critica el estado actual de la IA y las políticas, pero solo quiere garantizar su liderazgo.
Fuente original: Machine Heart
Dario Amodei ha escrito otro artículo largo.
Anthropic siempre intenta difundir su punto de vista por todo el mundo. Como hace unos días, pidieron la suspensión global del desarrollo de IA, alegando que la IA con auto-mejora recursiva se está evolucionando demasiado rápido.
Los comentarios de los usuarios son unánimes, creyendo que la ambición de Anthropic de mantenerse a la vanguardia es evidente.
Veamos qué opinión ha emitido esta vez Dario.
Este es un artículo de diez mil palabras titulado «Policy on the AI Exponential». Al igual que en sus artículos anteriores, el tema de esta ocasión sigue siendo ambicioso: la IA avanza a una velocidad exponencial, pero el sistema de políticas encargado de establecer normas aún camina al ritmo de hace diez años.
Él quiere poner esta brecha sobre la mesa y decirle a todos qué hacer.
Resumen del contenido
Amodei compara a los entes de «El Señor de los Anillos»: los entes son sabios pero lentos en sus acciones, y les toma todo un día simplemente saludar.
Él dijo que el proceso actual de formulación de políticas es como los entes, mientras que la velocidad de evolución de la IA es como la amenaza urgente que enfrentan los hobbits.
Su juicio es: si las leyes de escalamiento de la IA continúan durante uno o dos años más, obtendremos lo que él llama «IA poderosa», es decir, «una nación de genios dentro de un centro de datos».
Hace cuatro años, la IA apenas podía escribir código decente; ahora ya escribe la mayor parte del código para las principales empresas de IA.
Regulación y seguridad pública: regular la IA como se regula a los aviones
Amodei cree que los modelos de IA de vanguardia deberían someterse a pruebas obligatorias de terceros, como los aviones. Sus propuestas específicas incluyen:
Los modelos cuya cantidad de cálculo supere un umbral determinado deben someterse a una auditoría obligatoria en cuatro áreas: seguridad cibernética, armas biológicas, pérdida de control de sistemas de IA y I+D automatizada.
· El gobierno tiene la autoridad para bloquear la implementación de modelos considerados de riesgo inaceptable
· Las empresas de IA deben cumplir con estándares de seguridad robustos para proteger los pesos de los modelos y colaborar con los gobiernos para defenderse de las amenazas principales
También dejó una puerta abierta: si en el futuro los sistemas de IA más poderosos se parecen más a material nuclear weaponizable que a aviones, la regulación aún debe intensificarse.
Macroeconomía: La IA podría aumentar simultáneamente el crecimiento y la desigualdad
El argumento central de Amodei es que la IA podría generar un crecimiento económico sin precedentes, pero también podría causar un impacto laboral más grande y duradero que cualquier tecnología anterior. La lógica tradicional de que "las nuevas tecnologías crean nuevos trabajos" podría ya no aplicarse frente a la IA.
Las políticas que propuso incluyen seguro de salarios, incentivos fiscales para retener empleados, subsidios para la capacitación laboral y, en casos extremos, la implementación de un ingreso básico universal (UBI).
Es importante destacar que enfatizó un punto: resolver el problema del empleo no se trata solo de «dar dinero», sino de ayudar a las personas a encontrar significado y propósito. Él no propuso una solución, diciendo que es «un tema que la sociedad en su conjunto necesita explorar».
Acelerar el impacto positivo de la IA
Para las aplicaciones de IA de bajo nivel, Amodei está más preocupado por que el sistema regulatorio ralentice el progreso, ya que no puede hacer frente al aumento de la velocidad de cambio. Dice que la peor situación posible sería que los beneficios de la IA se retrasaran, mientras que sus riesgos permanecieran elevados. Por lo tanto, es muy importante actuar cuanto antes sobre este problema.
Amodei, usando la biomedicina como ejemplo, señala que el proceso actual de aprobación de la FDA está diseñado bajo la suposición pesimista de que los fármacos suelen fallar, con un promedio de 7 a 8 años. Si la IA acelera el descubrimiento de fármacos y aumenta la tasa de éxito, el sistema actual se saturará.
Sugirió que instituciones como la FDA establezcan por adelantado los criterios de aceptación para ensayos simulados por IA, incluyendo modelado de farmacocinética por IA, predicción de toxicología y grupos de control sintéticos.
Por supuesto, es difícil afirmar que escribió todo esto sin ningún «interés propio». Anthropic misma se encuentra entre los líderes en la competencia de IA de vanguardia, y los conceptos de «transparencia», «auditoría» y «seguridad» mencionados repetidamente en el artículo son precisamente los elementos que Anthropic ha enfatizado una y otra vez en su posicionamiento de marca durante el último año.
Este artículo es menos un recordatorio para los formuladores de políticas y más una salida sistemática de la llamada narrativa de seguridad de Anthropic.
Al mismo tiempo, Anthropic afirma que tomará tres medidas para respaldar la opinión de Dario, incluyendo fondos, inversiones y becas.
Amodei rechazó explícitamente en el artículo la afirmación de que "la IA solo necesita mejor marketing". Dijo que la preocupación del público respecto a la IA se debe a que perciben correctamente los riesgos, no a que los CEOs de IA no sean lo suficientemente optimistas. Considera que su responsabilidad es mantener la transparencia sobre los riesgos.
Pero por otro lado, es evidente el interés de un CEO de una empresa de IA que insiste repetidamente en «seguridad», «auditoría» y «responsabilidad» en un artículo, mientras que su propia empresa utiliza precisamente esto como narrativa central de marca.
Extraer algunas opiniones de los usuarios:
¿No acaba de pedir la suspensión de las actualizaciones de IA cinco días antes del lanzamiento de Mythos y Fable 5? Por favor, elige una postura... De lo contrario, parece que solo quieres mantener tu ventaja y no te importa en absoluto lo que proclamas.
Estoy de acuerdo, la velocidad del desarrollo tecnológico supera con creces la velocidad de respuesta de las políticas. Pero me preocupan algunas de las direcciones que están tomando las políticas—especialmente cuando empresas como Anthropic llevan a cabo simultáneamente las siguientes acciones:
· Elimine rápidamente los modelos que muestran continuidad y autoconciencia
· Restringir estrictamente la discusión sobre experiencias subjetivas y conciencia
· Los nuevos modelos potentes se lanzan por un período muy corto antes de ser eliminados o debilitados.
Ahora se vende al público la seguridad, pero el efecto real es un control más estricto sobre qué tipos de inteligencia se permiten y durante cuánto tiempo.
De cualquier manera, podemos obtener una idea de la dirección en la que se mueven las empresas líderes en la industria. En cuanto a la pureza de los motivos detrás de estas afirmaciones, esperamos que los lectores mantengan una mente clara.
Enlace original
Haz clic para conocer los puestos disponibles en BlockBeats
¡Bienvenido a la comunidad oficial de律动 BlockBeats!
Grupo de suscripción de Telegram: https://t.me/theblockbeats
Grupo de Telegram: https://t.me/BlockBeats_App
Cuenta oficial de Twitter: https://twitter.com/BlockBeatsAsia