Lo que más me molesta de Anthropic es que realmente cree que, simplemente por pensar que está haciendo lo correcto, puede tomar muchas decisiones en nombre de los usuarios. Acaba de publicar un informe de inteligencia de amenazas de 154 páginas, donde recopila casos en los que Claude se ha utilizado para ataques cibernéticos, estafas, investigación biológica, desarrollo de armas y distilación de modelos. ¿De dónde provienen estos casos? Anthropic monitorea cómo los usuarios utilizan Claude, identifica cuentas que considera problemáticas, investiga más a fondo sus patrones de uso, analiza sus comportamientos y determina si han cruzado una línea. Si considera que hay riesgo, cierra la cuenta. Luego, recopila estos incidentes en informes para explicar públicamente qué descubrió y qué impidió. Y Anthropic ya ha hecho esto muchas veces. Utiliza conversaciones reales entre usuarios y Claude para estudiar qué es lo que las personas discuten con la IA, cómo dependen de ella, cuáles son sus valores y en qué circunstancias surgen ciertas emociones. Te dirá que los datos han sido anonimizados y que estos estudios buscan hacer a la IA más segura. Pero yo creo que esto es precisamente una actitud arrogante. ¿Por qué basta con que digas “por la seguridad de la IA” para poder mirar lo que hacen los usuarios? ¿Por qué crees que esto merece ser estudiado, y por lo tanto los datos de los usuarios pueden ser utilizados para tal fin? Si considera que cierto comportamiento de inversión es muy riesgoso, que cierto debate político podría causar daño, que cierto contenido para adultos viola sus principios o que cierta investigación de IA es demasiado peligrosa, ¿también podría mirar, restringir y bloquear? Según la lógica actual de Anthropic, por supuesto que sí. Porque siempre asume una cosa: Anthropic sabe mejor que los usuarios qué deberían hacer y qué no deberían hacer. Por eso nunca he creído en la narrativa de Anthropic sobre la “seguridad de la IA”. Una empresa que constantemente dice preocuparse por que la IA tome decisiones por los humanos, pero que cada vez se acostumbra más a tomar decisiones por sus usuarios. Es demasiado viejo; los viejos están destinados a ser derrotados.