Greg Jensen, copresidente de inversiones de Bridgewater Associates, ofreció uno de los análisis más sombríos sobre la regulación de la IA hasta la fecha el 11 de septiembre. Su argumento central: la historia sugiere que los gobiernos no actuarán hasta que ocurra algo verdaderamente terrible.
“Hasta que la IA comience a matar personas, desafortunadamente, la historia sugiere que no haremos nada”, dijo Jensen, comparando el momento actual con febrero de 2020, cuando el COVID-19 ya se estaba propagando globalmente pero la mayoría de los gobiernos aún no habían movilizado una respuesta.
Una semana de advertencias crecientes
Los comentarios de Jensen culminaron un período de días en el que múltiples figuras destacadas expresaron serias preocupaciones sobre la trayectoria del desarrollo de la IA. El 9 y 10 de septiembre, investigadores de Anthropic, incluyendo a Jacob Coxon y Evan Hubinger, emitieron advertencias contundentes sobre el ritmo actual de la investigación en IA.
Coxon renunció a Anthropic durante ese período, citando los mismos riesgos que había estado estudiando desde dentro. Ambos investigadores advirtieron que la trayectoria actual del campo podría producir superinteligencias automejorables, el tipo de sistemas que no solo siguen instrucciones, sino que reescriben sus propias capacidades.
Su estimación fue escalofriante: una probabilidad superior al 10% de extinción humana debido a la IA en la próxima década.
Jensen sugirió que podría ocurrir un incidente importante relacionado con la IA en los próximos dos años si no se toman medidas proactivas.
Washington empieza a prestar atención
Los legisladores estadounidenses, incluyendo a la representante Lori Trahan y al senador Ted Cruz, impulsaron acciones legislativas el 9 y 10 de septiembre, pidiendo marcos que exijan transparencia a los desarrolladores de IA y establezcan mecanismos de pausa de emergencia para modelos de alto riesgo.
Estas propuestas se basan en el trabajo realizado por un panel independiente de la ONU, que publicó un informe en julio alertando sobre el rápido crecimiento de las capacidades de la IA. El hallazgo principal del panel fue incómodo: la IA avanza más rápido de lo que pueden seguir el entendimiento científico y las políticas gubernamentales.
El panel de la ONU advirtió específicamente sobre el desarrollo involuntario de sistemas engañosos o agentes, inteligencia artificial que puede perseguir objetivos de forma autónoma y potencialmente engañar a los humanos que la supervisan.