El padrino de la IA acaba de explicar qué peligros de la IA realmente se resuelven y cuáles nunca lo harán. En una sola frase, la mayoría pasó de largo. Geoffrey Hinton, el hombre cuya investigación construyó la IA moderna, se sentó para revisar la regulación que se propone en este momento. La parte destacable fue el relato de horror. La parte útil fue el filtro que te entregó. Aquí está. Los países cooperan cuando sus intereses coinciden. No lo hacen cuando sus intereses entran en conflicto. Esa única regla te dice qué amenazas de la IA se manejarán y cuáles se ignorarán. Observa cómo clasifica limpiamente todo. Toma los deepfakes electorales, videos falsos creados para influir en los votos. Cada país ya está haciendo esto contra todos los demás. Los intereses entran en conflicto. Por lo tanto, nadie detiene realmente el proceso. Espera ruido y ninguna solución real. Ahora toma el caso de la propia IA escapándose y tomando el control. Ningún gobierno lo quiere. Ni EE. UU. Ni China. Allí, los intereses realmente coinciden, y esa es la única razón por la que un acuerdo real siquiera es posible. El mismo lente, respuestas opuestas. Eso es la clave para cada titular de IA que venga. Luego desmontó las dos soluciones que tienen buena aceptación pero no funcionan. Primero, el botón de apagado. Un botón para desconectar una IA descontrolada. Su problema con ello es casi cómico. Un sistema superinteligente sería mejor que cualquier humano en la persuasión. Simplemente convencería a la persona que vigila el botón para que no lo active. Dice que ya es tan persuasivo como una persona. Un botón no puede salvarte de algo que puede cambiar la mente de quien lo sostiene. Segundo, la trampa de enmarcado que los laboratorios quieren que aceptes. Te dicen que el progreso de la IA es el acelerador y la regulación es el freno. Las reglas solo ralentizan a todos. Hinton lo invierte. El progreso es el acelerador. La regulación es el volante. Lo que los laboratorios realmente piden es un auto muy rápido sin forma de dirigirlo. Dicho así, toda la discusión cambia de forma. Entonces, ¿qué piensa que deberíamos hacer? No encerrar una cosa más inteligente bajo nuestro control. Él duda que eso funcione. Su visión es más extraña y más honesta. El único caso que tenemos de algo más inteligente guiado por algo menos inteligente es un bebé y una madre. La madre está a cargo. Sin embargo, el bebé la mueve, porque no soporta oírlo llorar. Su apuesta es que construyamos superinteligencia para que realmente se preocupe por nosotros, más de lo que se preocupa por sí misma, intencionadamente, mientras aún la diseñamos. No una jaula. Una relación. Y es franco al decir que aún no sabemos cómo lograrlo. ¿Es optimista? Su palabra exacta fue no. Es esperanzador. Y cree que la ventana en la que nuestras decisiones aún deciden el resultado está abierta ahora y se está cerrando. Una línea del reportaje sobre esto me quedó grabada: Los ingenieros que levantan la alarma no lo hacen por dinero. Tienen apalancamiento hoy solo porque la guerra por el talento los hace difíciles de reemplazar. El miedo silencioso es que, una vez que la IA pueda mejorarse a sí misma, las personas que mejor la entienden pierdan el propio apalancamiento que usan para ralentizarla. Léelo dos veces. Las personas mejor posicionadas para advertirnos están bajo un reloj que la propia IA está desenrollando. Así que la próxima vez que caiga un titular sobre seguridad de la IA, salta el miedo y aplica el filtro. ¿Los intereses coinciden o entran en conflicto? Esa única pregunta te dice si la solución es real o teatro. ¿Cuáles de las luchas actuales sobre la IA son realmente solucionables y cuáles son solo todos fingiendo?