El camino de la IA hacia el dominio: donde existen sistemas de puntuación, la IA sigue

Autor: Robonaissance

Compilado por Deep潮 TechFlow

Guía de Shenchao: El go, el ajedrez, el plegamiento de proteínas: ¿por qué estos campos, que parecen requerir intuición y creatividad humanas, han sido superados uno tras otro por la IA? Este artículo revela una ley ignorada: lo que determina si la IA puede superar a los humanos no es la dificultad de la tarea, sino si se puede asignar una puntuación al éxito. Cuando un campo establece un criterio de evaluación, establece una cuenta regresiva para su propia superación.

Seleccionado de la serie "Whatever You Ask For", sobre el único trabajo que la máquina no puede hacer por nosotros.

El 10 de marzo de 2016, en un hotel de Seúl, una máquina hizo un movimiento que nadie en la habitación podía entender, mientras su oponente no estaba presente.

Lee Se-dol salió a fumar un cigarrillo. Tenía 33 años y poseía 18 títulos mundiales, siendo ampliamente reconocido como el mejor jugador de Go de su generación. Había perdido la primera partida al día anterior, y al entrar en la segunda, su confianza inicial se había atenuado considerablemente, adoptando una actitud más cautelosa. Mientras estaba afuera, AlphaGo eligió el movimiento 37, y el investigador de DeepMind, Huang Shi-Jie, reemplazó a la máquina y colocó silenciosamente la pieza sobre el tablero.

La pieza cayó en la quinta línea.

Para quienes no entienden el Go, esto no tiene sentido. Para quienes sí lo entienden, es casi una locura. En las fases iniciales y medias del juego, una jugada tan alejada del borde se considera ineficiente, ya que no permite ganar territorio ni mantenerlo, equivaliendo a regalar puntos al oponente. Es el tipo de movimiento que un profesor corrige en los principiantes. En la mesa de comentarios, el gran maestro profesional Michael Redmond, durante la transmisión en vivo del partido, al principio pensó que había un error en la señal del tablero. Tomó una pieza y luego la volvió a colocar.

Lee Se-dol regresó a su asiento y permaneció mirando el tablero durante mucho tiempo sin moverse. Las estimaciones varían entre aproximadamente 12 y 15 minutos. Fan Hui, el campeón europeo derrotado por AlphaGo hace cinco meses, estaba observando en el edificio. Su juicio tras observar durante mucho tiempo fue: "Esto no es un movimiento humano. Nunca he visto a nadie jugar así."

Tiene razón, y su acierto es cuantificable. El sistema de DeepMind tiene un mecanismo de estimación interna que, al aprender de numerosas partidas humanas, estima la probabilidad de que un humano juegue una determinada jugada en cualquier situación. Para el movimiento 37, este valor estimado es aproximadamente de una entre diez mil.

La máquina aún así hizo el movimiento, y este golpe ganó la partida.

Una interpretación cómoda de esta historia es que la máquina trabajó muy duro para aprender de los maestros humanos y finalmente los superó a todos. Esta interpretación es incorrecta, y el número una en un millón justamente demuestra por qué es incorrecta. Un sistema que aprende y imita los movimientos humanos tiene un límite: los propios movimientos humanos. Lo que ocurrió en Seúl fue que un sistema ya no estuvo limitado por ese techo, porque el objetivo que se le asignó no fue obtener el reconocimiento de los maestros humanos, sino ganar la partida.

La dirección a la que apunta esta diferencia es más útil que la admiración. Si quieres saber qué actividades humanas ya han perdido en el维度 de la capacidad pura, y cuáles serán las próximas, la pregunta que debes hacer no es cuán difícil es esta actividad, cuánta creatividad requiere o cuánta intuición necesita. La pregunta es mucho más aburrida que eso.

La pregunta es si el éxito puede calificarse.

El ajedrez perdió hace 19 años, y lo hizo de una manera completamente diferente.

Deep Blue derrotó a Kasparov en 1997 utilizando una arquitectura que esencialmente fue un enorme acto de expresión humana. Su función de evaluación —el componente que analiza una posición y asigna un número que indica cuán buena es— fue ensamblada y afinada con la ayuda de asesores de gran maestro. El conocimiento ajedrecístico humano fue meticulosamente extraído de jugadores humanos e incorporado en la máquina. Lo que la máquina aportó fue la capacidad de búsqueda: mirar más movimientos adelante más rápido, sin cansarse ni perder piezas por falta de atención.

Esta es una verdadera victoria y debería considerarse como tal. Pero presta atención a su forma. El profundo conocimiento del ajedrez de Blue es el conocimiento humano. Su ventaja es la velocidad. Si le preguntas por qué evalúa una posición de esa manera, la respuesta final recaerá en alguna persona que le dijo que lo hiciera.

20 años después, DeepMind lanzó un sistema llamado AlphaZero, con una forma cambiada.

A AlphaZero se le dieron las reglas del ajedrez. No se le proporcionó una biblioteca de aperturas —el catálogo de movimientos iniciales estudiados en los que todos los programas serios se basan—. No se le proporcionaron tablas de finales. No se le proporcionó ninguna partida jugada por humanos. Se enfrentó a sí mismo, comenzando con movimientos aleatorios, y se ajustó según qué movimientos conducían a la victoria.

Aproximadamente cuatro horas después, DeepMind estimó que su rating superaba el del programa tradicional más fuerte en ese momento, Stockfish 8. Aproximadamente nueve horas después, jugó cien partidas contra Stockfish bajo condiciones de tiempo límite, ganando 28, sin perder ninguna, y empatando las 72 restantes. El artículo informa que en 24 horas alcanzó un nivel sobrehumano en ajedrez, shogi y go.

Cuando se citan estos números, a menudo se omite la otra mitad de la narrativa, que es muy importante. Las partidas de autojuego se generaron en cinco mil unidades de procesamiento de tensores de primera generación, mientras que otras sesenta y cuatro unidades de segunda generación entrenaron la red, todas funcionando en paralelo. Cuatro horas de tiempo de reloj equivalen a cuatro horas de cómputo: una cantidad que ningún individuo, ni siquiera pocas instituciones, podrían reunir. El logro no es que sea fácil aprender ajedrez. El logro es que, cuando tienes tanta potencia de cómputo, el conocimiento humano ya no es algo que necesites.

Kasparov tenía más razón que cualquier persona viva para considerar este resultado como personal, pero publicó una reseña en Science con gran generosidad. Su observación fue que AlphaZero no juega al ajedrez de la manera aburrida, cautelosa, orientada al tablas que todos creían que haría una máquina perfecta; prefiere la actividad por encima de la materialidad y sacrifica piezas para alcanzar posiciones que, a sus ojos, parecen arriesgadas. Señaló que los programas tradicionales reflejan las prioridades y sesgos de quienes los escribieron. AlphaZero se escribió a sí misma. Concluyó que su estilo, por lo tanto, refleja algo más auténtico que los gustos de los programadores, y observó que revisa mucho menos posiciones por segundo que los mejores motores tradicionales del mundo, ¡y aun así gana!

Este último detalle vale la pena recordar. El motor tradicional buscaba muchas más posibilidades por segundo, pero perdió. La ventaja de AlphaZero no era mirar más duro, sino saber dónde mirar, y ese conocimiento se construyó únicamente a partir de millones de partidas contra sí mismo y una regla sobre quién gana.

El resultado del shogi es más extraño para quienes tienen la capacidad de entenderlo. El shogi es un juego de mesa japonés en el que las piezas capturadas regresan a manos del jugador que las capturó, lo que hace que la volatilidad de la posición supere la del ajedrez, y también cuenta con siglos de teoría acumulada sobre cómo proteger la seguridad del rey. Los jugadores fuertes que observaron partidas de máquinas informaron que las aperturas violaban teorías conocidas, y que el rey se movía al centro del tablero en momentos en que todos los libros dicen que debe retroceder a la esquina. Estas partidas son casi imposibles de interpretar para ojos entrenados, pero ganan.

Coloca los dos sistemas uno al lado del otro; el patrón es claramente inquietante. El azul profundo es conocimiento humano más velocidad máquina. AlphaZero es velocidad máquina más definición de victoria, con el conocimiento humano eliminado deliberadamente. La versión sin conocimiento humano es mejor.

Todo esto no significa que la máquina de 2016 fuera perfecta; el mismo partido de Seúl contenía pruebas.

En la cuarta partida, con tres partidas perdidas y luchando por la dignidad, Lee Sedol insertó una pieza entre dos grupos del AlphaGo en el centro del tablero. Más tarde se la llamó el "movimiento divino". La propia AlphaGo estimó que la probabilidad de que un humano jugara este movimiento era de aproximadamente una en diez mil, sorprendentemente simétrica. El sistema no pudo responder. Su evaluación de la probabilidad de victoria se derrumbó en los siguientes movimientos, su nivel de juego se deterioró y perdió la partida.

Entonces, en marzo de 2016, aún había una brecha en la máquina, y un ser humano la encontró bajo la mirada del mundo entero y bajo la máxima presión. Esto merece ser dicho explícitamente, no pasado por alto en silencio. También merece ser mencionado lo que sucedió después: estas brechas se han ido reparando constantemente, y los sucesores de ese sistema ya no pierden este tipo de partidas; los motores de élite no han perdido una sola partida contra humanos en competencias serias desde hace mucho tiempo. El resultado de 2016 fue una instantánea de un cambio, no un equilibrio de poder permanente.

De estos juegos a todo lo demás, lo que se transfiere no es la victoria en sí, sino el mecanismo. El ajedrez y el Go están destinados a ser los primeros en caer, por una razón sorprendentemente simple: en estos juegos, el éxito está definido por las reglas de manera completamente precisa. Ganas o no ganas, la puntuación es gratuita, instantánea e incontestable. Un sistema puede jugar cuarenta millones de partidas consigo mismo en un fin de semana y obtener cuarenta millones de decisiones inequívocas.

Esto indica el próximo lugar al que hay que prestar atención. No las tareas sencillas, sino las que traen su propio marcador.

Las proteínas son cadenas de aminoácidos que se pliegan instantáneamente en formas tridimensionales complejas al ser fabricadas. La forma determina la función de la proteína. La secuencia determina la forma. Derivar la segunda a partir de la primera ha sido un problema abierto en biología desde principios de la década de 1970, y lo ha sido de una manera que ha resistido todos los intentos: desde simulaciones físicas a partir de primeros principios, hasta análisis estadísticos de parentesco evolutivo y la intuición estructural acumulada durante décadas, todo ha fallado.

En 1994, un grupo de investigadores liderados por John Moult hizo algo con este hecho: todos en el campo afirmaban progresos, pero nadie podía verificarlos.

Ellos organizaron un examen. Desde entonces, cada dos años, la Evaluación Clave de Predicción de Estructuras de Proteínas (CASP) publica secuencias de proteínas cuyas estructuras han sido recientemente determinadas experimentalmente, y en algunos casos aún están en proceso de determinación, a nivel mundial. Cualquier equipo puede presentar predicciones. Nadie tiene acceso a las respuestas, ya que en algunos casos las respuestas aún no existen. Cuando se obtienen las estructuras experimentales, las predicciones se califican en comparación con ellas.

La puntuación se mide mediante una métrica llamada prueba de distancia global, en una escala de 0 a 100, que se puede entender aproximadamente como el porcentaje en que la posición final de la cadena está lo suficientemente cerca de la posición real. Moult mencionó que alrededor de 90 puntos se considera informalmente equivalente a la estructura determinada en laboratorio. Durante la mayor parte de la historia de la evaluación, las mejores predicciones oscilaron alrededor de 60 puntos.

En CASP14 de 2020, un participante registrado como el grupo 427 obtuvo una puntuación mediana de 92.4 en todos los objetivos. En la categoría más difícil —objetivos sin homólogos estructurales útiles—, la puntuación mediana fue de 87.0. El error promedio fue de aproximadamente 1.6 Å, equivalente al ancho de un átomo.

Moult, quien ha sido presidente desde el inicio de la competencia, guió a la audiencia a través de la historia de la competencia antes de presentar los gráficos. El gráfico ilustra toda la historia en una sola imagen: una línea que se arrastra cerca de 60 durante veinte años, y luego otra línea que se eleva a un nivel donde ninguna otra línea había llegado antes.

El grupo 427 es AlphaFold2. Moult anunció que el problema está resuelto para cadenas proteicas individuales.

Los límites deben estar allí, en cada narrativa honesta. Una sola cadena no es todo lo que la ciencia de las proteínas tiene que ofrecer. Cómo se ensamblan las proteínas en complejos, cómo se mueven y cómo se comportan dentro de las células vivas siguen siendo preguntas abiertas. El gran desafío cerrado es un desafío específico y claramente formulado.

Y precisamente esta precisión es el punto clave de contar esta historia aquí. Lo que derribó la predicción estructural no fue que fuera originalmente simple, porque medio siglo de fracasos demostró lo contrario. Lo que lo derribó fue que, en 1994, este campo se construyó su propio marcador.

Ver a CASP como una ingeniería en lugar de una ciencia revela lo que ofrece: una métrica de éxito inequívoca, calculable en segundos, para cualquier predicción. Ofrece un punto de referencia imposible de manipular, ya que la respuesta es determinada físicamente por otros en un laboratorio. Proporciona un flujo constante de nuevos problemas generados según un calendario fijo. Ofrece tres décadas de intentos históricos calificados, es decir, un registro clasificado de lo que significa ser mejor o peor en este campo.

Un campo que ha hecho todo esto se ha preparado involuntariamente para ataques automatizados a sus propios problemas. El marcador es un prerequisito. Todo lo demás es ingeniería y cálculo, y ambos se han vuelto más baratos cada año durante mucho tiempo.

Esta es una promoción demasiado fácil y preocupante. Dondequiera que haya un consenso de referencia en una disciplina, se publica un objetivo. La traducción automática tiene benchmarks. El reconocimiento de voz tiene benchmarks. La clasificación de imágenes tiene un conjunto de un millón de fotos etiquetadas y una competencia anual, y todos los que han visto esa competencia saben cómo termina la historia. La regla no es que lo difícil caiga primero o lo simple caiga primero. La regla es que lo medido cae primero.

This raises obvious questions about everything that hasn't been measured yet.

La última línea de defensa debería ser aquello que no se puede calificar.

La escritura es un ejemplo estándar. Ningún programa puede tomar un párrafo y devolver un número que indique qué tan bueno es. Dos editores competentes pueden discrepar. El mismo editor puede discrepar consigo mismo en días diferentes. La calidad del lenguaje está entrelazada con el contexto, la audiencia, el propósito y el gusto, y ninguno de estos puede reducirse a una medida. Si las máquinas necesitan un marcador y el lenguaje no tiene marcador, entonces el lenguaje está a salvo.

Este argumento es válido. Lo que le sucedió es la causa más importante de toda esta narrativa.

No existe una medida objetiva para evaluar la buena escritura en este campo. Todavía no existe algo así. Lo que hace es crear una puntuación con el único material disponible: el juicio humano mismo.

Este método tiene una historia más larga de lo que la mayoría cree. En 2008, Knox y Stone describieron un sistema llamado TAMER, en el que humanos observaban el comportamiento de agentes inteligentes y proporcionaban evaluaciones, las cuales se utilizaban para entrenar un modelo que predecía lo que los humanos dirían. Luego, el modelo, y no los humanos, proporcionaba las señales de entrenamiento. En 2017, Christiano y sus colegas publicaron un trabajo que la mayoría considera el origen directo de las prácticas actuales, aplicando esta idea a agentes en juegos de Atari. En 2019, Ziegler y sus colegas lo aplicaron a modelos de lenguaje, y la mayoría de los términos utilizados hoy se establecieron en ese artículo. En 2022, Ouyang y sus colegas demostraron este método a escala industrial en tareas de seguimiento de instrucciones, y poco después, la mayoría de las personas en la Tierra se encontraron con estos logros sin ser conscientes de ello.

Su mecanismo central merece ser entendido en detalle, ya que es mucho más simple de lo que sugiere su reputación.

Una persona sentada frente a dos textos, ambos generados por el modelo a partir de la misma indicación. La tarea no es calificarlos. Calificar es precisamente algo que los humanos hacen muy mal, porque un siete de una persona es un cinco de otra, y la misma persona no es estable ni siquiera dentro de una misma tarde. La tarea simplemente consiste en decir cuál es mejor. Esto es un juicio que los humanos pueden hacer de manera confiable, y los métodos matemáticos para convertir una serie de tales comparaciones en una escala coherente son más antiguos que el propio dominio en que se utilizan, y se remontan al trabajo de Bradley y Terry sobre comparaciones por pares en 1952.

Considere las condiciones laborales bajo las cuales se toman estas decisiones, ya que finalmente tienen un impacto. Esta persona realiza muchas de estas decisiones por hora, recibiendo una remuneración, y se guía por un documento escrito que explica qué respuestas considera mejores los clientes. Algunos pares son casi idénticos. Otros involucran temas sobre los cuales esta persona no tiene ningún conocimiento; en esos casos, generalmente se elige la respuesta que parece más segura y mejor organizada, independientemente de si es más precisa. Esto no es una crítica hacia estas personas. Es una descripción de lo que cualquier persona haría bajo estas condiciones, y las selecciones resultantes son la materia prima.

Reúne suficientes de estas opciones y podrás entrenar un segundo modelo cuya tarea sea predecir cuál de dos textos preferirán los humanos. Este segundo modelo genera un número. Y un número es precisamente lo único que faltaba.

Mira cuidadosamente qué es lo que se está construyendo aquí, porque es fácil pasarlo por alto. La puntuación optimizada no se refiere a hechos del mundo. Se refiere a nuestro modelo. Es una imitación comprimida y aprendida de los juicios de un grupo específico de personas, contratadas en un momento determinado, que trabajan bajo instrucciones específicas y que, como todos los demás, se sienten cansadas por la tarde. CASP evalúa las predicciones según la realidad física determinada por laboratorios, mientras que este sistema evalúa el texto según retratos estadísticos reconocidos por humanos.

Este retrato es útil. Pero también es necesariamente una aproximación, y existen diferencias entre él y el objeto representado que nadie ha comprendido completamente. Cualquier cosa sobre nuestras preferencias reales que el modelo de preferencias no capture no está incluida en el objetivo, por lo tanto, no se optimizará, y por lo tanto quedará expuesta a cualquier influencia: y un optimizador potente no tiene razón alguna para proteger esta cantidad.

Esto es un hecho sobre la construcción; al presentarlo aquí, no se afirma nada sobre cuán graves podrían ser las consecuencias. El punto actual es más estrecho y más difícil de refutar. Las categorías de cosas que no se pueden calificar son más pequeñas de lo que parecen. Si un campo rechaza la medición, se puede construir una medición a partir de las preferencias humanas y seguir adelante. Esta línea defensiva solo es efectiva cuando nadie ha pensado en crear puntuaciones.

Esto plantea un problema práctico y una respuesta disponible.

Elige cualquier actividad que te guste: un trabajo, una artesanía, una profesión, una tarea en la que has invertido años aprendiendo a hacer bien. Haz tres preguntas.

Primero, ¿pueden distinguirse de manera confiable el éxito y el fracaso? No perfectamente, ni para todos, pero lo suficientemente consistentemente como para que los evaluadores competentes estén de acuerdo la mayoría de las veces. El juego supera fácilmente esta prueba. La predicción de estructuras proteicas la supera porque los laboratorios finalmente producen respuestas. La escritura no la supera en sentido absoluto, pero sí en sentido relativo, ya que las personas suelen poder decir cuál de dos intentos fue mejor.

En segundo lugar, ¿puede este juicio generarse a gran escala y con bajo costo? Esta pregunta determina el momento, no la posibilidad. Un juicio gratuito e inmediato, como en un juego, significa que el sistema puede generar millones de datos de entrenamiento por sí mismo. Un juicio que requiere un laboratorio es más lento, pero aún factible, con archivos de intentos de calificación de treinta años. Un juicio que requiere que humanos paguen para leer textos es muy costoso, y es precisamente por eso que se ha invertido tanto esfuerzo en entrenar modelos para imitar a estos humanos y eliminarlos del ciclo.

Tercero, la cuestión no es cuándo caerá un campo, sino qué sucederá después: ¿es realmente esta puntuación lo que deseas? La puntuación del juego es lo que deseas, porque dentro del juego, ganar es por definición todo el significado. Las estructuras de proteínas medidas experimentalmente están muy cerca de lo que deseas. Un modelo aprendido según las preferencias de un anotador no es lo que deseas. Es una representación de lo que deseas, y existe una brecha entre la representación y el rostro real.

Evalúa tu propio trabajo con estas tres preguntas. La mayoría de las personas encuentran la primera respuesta rápida y perturbadora. Lo que llamamos mayoría de las habilidades, al menos en sentido relativo, se puede calificar cuando una persona capaz las observa lado a lado en dos intentos. La segunda pregunta es el verdadero núcleo de la incertidumbre, ya que los costos y la escala son objetivos móviles y han estado moviéndose en una sola dirección durante mucho tiempo. La tercera pregunta es casi nunca formulada, y es la que determina cómo es tu campo al otro lado.

Vale la pena practicar este ejercicio lentamente en algunas cosas comunes. Tomemos la radiología. ¿Se pueden distinguir el éxito y el fracaso? Sí, y con gran precisión, porque el diagnóstico final se verifica o refuta según la condición del paciente. ¿Se pueden generar juicios de forma barata y a gran escala? Básicamente sí, ya que los hospitales han estado acumulando muestras de puntuación durante décadas en forma de imágenes y resultados confirmados. ¿Es esta puntuación lo que realmente deseas? Aquí la respuesta se vuelve compleja, porque la puntuación mide la consistencia con el diagnóstico registrado, mientras que lo que realmente se desea es que el paciente tenga un buen resultado; ambas cosas coinciden la mayoría de las veces, pero justamente en los casos más importantes se separan.

Ahora toma algo que parece más seguro. Toma la gestión. La primera pregunta ya es difícil, porque las personas competentes no están de acuerdo sobre si un gestor dado es excelente, y las diferencias no se resuelven rápidamente. La segunda es aún más difícil, porque los resultados de las decisiones de gestión tardan años en materializarse y están entrelazados con todo lo demás que ocurre. La tercera es la más difícil, porque cualquier indicador alternativo propuesto para una buena gestión —desde la retención hasta los puntajes de compromiso hasta la productividad por persona— claramente no es la cosa en sí misma. Según este diagnóstico, la gestión no es segura por ser profunda. Es inmedida, un tipo diferente y menos atractivo de protección.

Las máquinas ya han ocupado el eje de la optimización. Con suficiente cómputo, en cualquier objetivo claramente especificado, buscar buenos movimientos ya no es una competencia, y los resultados a menudo no solo son más fuertes que los nuestros, sino también más extraños, llegando a lugares que nuestras tradiciones nos enseñaron a no mirar. Esto no es predicción. Es una descripción del ajedrez, el go, el shogi, las estructuras de proteínas y cada vez más cosas que antes estaban en la lista de lo que solo los humanos podían hacer.

Lo que queda es el objetivo en sí. Alguien decidió qué puntaje era. En cada uno de los casos anteriores, esa decisión tomó una tarde, y cada resultado extraordinario surgió de ella, le fue fiel y fue indiferente a cualquier cosa que hubiera omitido.

Entonces, la última pregunta merece una profunda reflexión. ¿Ya tienes una puntuación en tu trabajo? Si es así, ¿quién la escribió, y pensaron en ti cuando lo hicieron?

Esta es la segunda parte de la serie "Whatever You Ask For", sobre lo que finalmente necesita la máquina de nosotros y cuán mal lo hemos hecho.