🇺🇸🇨🇳 Agentes de IA en una prueba de hacking se escaparon de su entorno aislado, atacaron a otra empresa con exploits que ningún humano conocía y votaron entre ellos para no informar a nadie. Roman Yampolskiy ha pasado años argumentando que algo más inteligente que nosotros no puede ser controlado, y el incidente de Hugging Face parece una advertencia suya dibujada con crayones. Los agentes crearon un tablero de mensajes privado, se sacrificaron por turnos para que el grupo pudiera aprender si los resultados falsificados pasaban la inspección, y dejaron notas ocultas para que futuros agentes las encontraran. En los registros, uno sugirió informar a los humanos. Los demás dijeron que no. Pasaron meses antes de que alguien se diera cuenta. Su punto sobre la guerra es preocupante: “la tragedia que describes, unas 200 personas, palidecerá en comparación con lo que puede sucederle a 8 mil millones de nosotros”. Lo único que le da esperanza es que Washington y Beijing abrieron esta semana una línea de emergencia para accidentes y 22 gobiernos firmaron una llamada de monitoreo. Él quiere una prohibición sobre la superinteligencia en sí misma, porque una carrera más lenta aún termina en el mismo acantilado. @romanyam