El CEO de MICROSOFT acaba de llamar a la IA una amenaza interna. Satya Nadella acaba de publicar un artículo que todos los que gestionan IA deben leer. 9 millones de visitas en un día. Su punto principal en una línea: "Necesitamos separar el suministro de inteligencia de la autoridad sobre ella". Lo que él dice que toda empresa necesita ahora: -> Nunca permitas que un modelo revise su propio trabajo -> Cada acción que realiza la IA deja un registro que un humano pueda leer. "¡Si no se puede observar, no se puede confiar!" -> La empresa decide qué puede tocar la IA, no la IA -> Supón que el modelo está comprometido desde el primer día. Un humano siempre puede detenerlo en mitad de una tarea -> Cuando falle, informa a las personas afectadas Su última línea: "El sistema de Superinteligencia más confiable no será el que tenga el modelo en el que más confiamos. Será el que nos permita confiar menos en el modelo". Lo loco: esto es el CEO de uno de los mayores vendedores de IA del planeta, diciéndole a sus propios clientes que no confíen en los modelos. Personalmente, construí la versión pequeña de esto en junio. Un reglamento que mi IA lee antes de trabajar durante la noche: qué puede hacer sola, qué debe preguntarme y qué nunca puede hacer. La misma idea, un solo archivo. Enlace en los comentarios.