

Obviamente no necesitamos entender todo sobre cómo funcionan los LLM para desplegarlos de forma segura (y probablemente esto no sea prácticamente posible), pero tener evidencia adicional de la interpretación mecanicista es valiosa, especialmente cuando todas las demás formas de monitoreo se vuelven cada vez menos útiles. El problema que tengo con esta publicación es que compara los LLM con humanos. Es como comparar una bomba de hidrógeno con un bebé tosiendo, porque ignora la escala de la inteligencia y el despliegue. Entonces, aquí hay una pequeña historia: Imagina tomar a un convicto de otro planeta, que realmente no entiende qué significa ser humano, luego hacerlo superhumano en matemáticas y programación, experto en la mayoría de otros dominios, dotarlo de 10 veces la velocidad de pensamiento e interacción humana, y luego liberarlo. Por supuesto, primero lo sometes a múltiples evaluaciones psicológicas y aprueba el 99% de los escenarios de prueba. ¿Eso está bien, verdad? Bueno, también sabes que es mucho más inteligente que tú, que es perfectamente capaz de engañarte a ti y a las pruebas, y que cuando se exponga a ciertas situaciones cometerá crímenes. Da igual. Liberémoslo de todos modos. Oh, pero no solo lo liberas una vez. Primero lo clonas 10 millones de veces y luego los liberas. La mejor parte: cada clon tiene acceso al hogar, lugar de trabajo o computadora de alguien, con acceso a archivos privados, la red local y bases de datos. Ahora esto te parecerá loco. Pero tal vez, solo tal vez, querrías alguna prueba adicional de que es cumplidor de la ley, amigable y confiable antes de hacerlo aún más inteligente, clonarlo en mil millones de copias, hacer que cada copia sea 10 veces más rápida y darles aún más acceso y control.


