MetaEra: El "Verano de la Hype" de la IA enmascara marketing y conducta inapropiada

ME AI En los últimos meses, la euforia en torno a la IA ha seguido aumentando. A finales de abril, Anthropic afirmó que su modelo Claude Mythos superaba a la mayoría de los expertos en seguridad en la detección de vulnerabilidades de software. Luego ocurrió un hack entre OpenAI y Hugging Face, tras lo cual Anthropic (con cierto orgullo) y Meta (con cierta reticencia) revelaron eventos similares relacionados con sus respectivos modelos. A continuación, Anthropic afirmó que uno de sus modelos había logrado un avance matemático; poco después, OpenAI también anunció su propio avance matemático. Recientemente, el ingeniero de Anthropic Jacob Coxon se volvió viral en línea al anunciar su salida de la empresa y afirmar que Anthropic y OpenAI están “dirigiéndose directamente hacia una superinteligencia capaz de auto-mejorarse, apostando nuestras vidas en ello”. La mayoría de estos eventos han sido cubiertos por los medios con un entusiasmo casi febril, a menudo repitiendo la narrativa antropomórfica de las empresas: una narrativa diseñada para presentar sus software no solo como poderosos, sino como inminentes “inteligencias artificiales generales”. Entonces, ¿cuál es realmente la verdad? ¿Estamos presenciando una serie de avances tecnológicos lo suficientemente significativos como para cambiar la civilización, o se trata simplemente de una campaña de marketing? En todos estos eventos, las promociones estridentes de las empresas (y en el caso de los hackers ilegales, presentadas como declaraciones de arrepentimiento) han ido acompañadas de una intensa cobertura mediática. Cuando los expertos en el campo finalmente tienen tiempo para examinar los hechos, suele surgir una historia completamente diferente, aunque esta versión recibe mucho menos atención mediática. Sobre estos eventos de “hackeo”, los expertos en ciberseguridad indican que el problema radica más en la negligencia de OpenAI y su falta de adopción de prácticas de seguridad básicas y bien establecidas, que en lo que se ha denominado “pérdida de control del modelo” o “agentes de IA creando civilizaciones”. En cuanto a los logros matemáticos, los matemáticos inicialmente se sintieron “conmocionados” por el comunicado de prensa de OpenAI, que afirmaba que su último chatbot Astra había resuelto un problema “pendiente desde hace al menos una década y sin avances significativos”. Pero luego se dieron cuenta de que estos resultados no eran “tan novedosos como parecían al principio”. Posteriormente, los matemáticos acusaron a la empresa de mala conducta científica y plagio, y recalcaron nuevamente que Astra no había logrado un “salto intelectual profundo”. Solo unas semanas después, OpenAI anunció otro avance matemático. Hace dos días, el profesor de matemáticas del Courant Institute de la Universidad de Nueva York, Tristan Buckmaster, publicó una declaración que generó gran impacto, sugiriendo que OpenAI había robado investigaciones ajenas y hecho declaraciones inapropiadas sobre la autoría. Las afirmaciones sobre la inminente aparición de una superinteligencia peligrosa no se basan en buenas prácticas científicas o de ingeniería. Por el contrario, surgen de ideologías como el transhumanismo y la eugenesia, así como de fantasías deseosas sobre un futuro humano digital imaginario. Vale la pena reflexionar sobre por qué la programación informática y las matemáticas se han convertido en áreas clave para aplicar modelos de lenguaje grande y tecnologías relacionadas. No solo se consideran comúnmente como la cumbre del logro intelectual humano, sino que también involucran problemas cuyas respuestas pueden verificarse una vez propuestas. La primera característica ayuda a los promotores de IA a vender la idea de que “están creando máquinas todopoderosas”; la segunda hace que los problemas matemáticos y de programación sean más fáciles para depurar y optimizar sistemas, ya que las salidas del sistema (posibles secuencias de palabras o fragmentos de código informático) pueden evaluarse directamente sin necesidad de pagar a “numerosos”. Estamos de acuerdo con este llamado y señalamos que la ilusión de velocidad y urgencia creada por las empresas tecnológicas también es una estrategia engañosa para influir en los formuladores de políticas y el público. Desafortunadamente, esta estrategia a veces funciona, como en el caso de la propuesta legislativa del senador Bernie Sanders destinada a impedir el desarrollo de “superinteligencia artificial”. Aunque la intención detrás de esta propuesta es buena, su dirección final es errónea. Llamar a estos productos “superinteligencia” o “modelos fuera de control” es en realidad atribuir agencia a los productos en lugar de a las empresas que los fabrican. Esta narrativa, por un lado, presenta los productos empresariales como “más allá del ser humano”, y por otro lado, ayuda a las empresas a evadir responsabilidad por sus propias acciones. OpenAI creó software malicioso e invadió a otra empresa; debería haber sido responsabilizada. Sin embargo, los comunicados de prensa, los medios, figuras mediáticas y legisladores lo han presentado como un “modelo fuera de control”, como si el modelo hubiera actuado por sí solo. Los investigadores deberían haber sido interrogados: ¿por qué sus empresas tienen la costumbre de plagiar los resultados de académicos o utilizar datos de clientes para entrenar modelos sin consentimiento? Pero la imaginación pública ha sido desviada hacia otra dirección: preocuparse por máquinas superinteligentes ficticias que podrían llegar en el futuro. La industria de la IA incluso sugiere que el movimiento popular y bipartidista contra los centros de datos está “desviando la atención” del público respecto a la regulación de las espantosas máquinas “superhumanas” inminentes que estas empresas están creando. Según la industria de la IA, deberíamos preocuparnos más por un dios máquina ficticio que por el desastre climático exacerbado por los centros de datos, los problemas asmáticos sufridos por los residentes cercanos, el aumento constante en las facturas eléctricas del público que subvenciona su funcionamiento o el agua desviada para enfriarlos. Estamos claros: no podemos tomar decisiones basadas en campañas publicitarias ni ceder a la presión empresarial para tomar decisiones apresuradas en nombre de la “eficiencia”. Tanto los formuladores de políticas como las comunidades necesitan tiempo para escuchar a expertos independientes y situar las afirmaciones empresariales dentro de un contexto concreto. El mejor resultado posible de este “verano del bombo” podría ser que los formuladores de políticas y el público aprendan a respirar profundamente, mantener el escepticismo y reconocer la verdadera naturaleza de la próxima ola similar de histeria. Timnit Gebru es directora ejecutiva de DAIR y autora del próximo libro *Deep Unlearning: The Radicalization of a Tech Idealist*, disponible ya para preordenar con fecha de publicación prevista para el 16 de febrero. Emily M. Bender es profesora de lingüística en la Universidad de Washington y coautora del libro *The AI Con*. (Fuente: MLion)