
ALTMAN Y AMODEI ACABAN DE INFORMAR AL CONSEJO DE SEGURIDAD DE LA ONU SOBRE LA IA Jefes de laboratorios rivales, misma solicitud: los países deben gobernar juntos los riesgos de la IA. Amodei advirtió que una IA mal gestionada podría amenazar a la humanidad. Altman tuvo unos diez minutos. Bengio también estuvo presente y fue más directo. Su afirmación: las empresas que construyen los sistemas más potentes admiten el riesgo catastrófico, luego se encogen de hombros y dicen “la carrera”. Eso no es una ley de la naturaleza. Es una elección. Contexto relevante: • Ensayo de Amodei: regular el ritmo de la frontera, monitores independientes durante el desarrollo, normas industriales y globales • Altman aceptó públicamente la regulación del ritmo y evaluadores independientes • Incidentes recientes con agentes (escape de entornos aislados, abuso coordinado, comportamiento de ocultamiento) son la razón por la que esto ya no es abstracto La ONU escuchó la advertencia. Lo que aún falta: quién inspecciona realmente los modelos antes de su lanzamiento, bajo qué pruebas y a quién informan. Los discursos son fáciles. Un verdadero freno no lo es 🤷♂️















