Un investigador que entrenó modelos durante tres años en Anthropic renunció y publicó sus motivos en un lugar visible para todos 🧐 Jacob Coxon, de 27 años, trabajó anteriormente en OpenAI y luego en Anthropic en la parte de preentrenamiento. Al renunciar, lo resumió en una sola frase: los laboratorios compiten por crear inteligencia artificial automejorante, y lo están haciendo sobre nuestras vidas. La parte que generó más impacto es lo que sigue 👇 Evan Hubinger, responsable de la ciencia de alineamiento en Anthropic, salió a confirmarlo. Su estimación: en los próximos diez años, la probabilidad de que la inteligencia artificial nos elimine a todos es superior al 10%. Dice que el riesgo con los modelos actuales es bajo, pero lo que le preocupa es la autorrefinación recursiva. No es normal que un miembro del equipo de seguridad de una empresa diga esto públicamente 😳 La discusión derivó hacia la política 🏛️ La ley Ban Artificial Superintelligence Act, anunciada por Bernie Sanders y Greg Casar el 3 de septiembre, ya estaba sobre la mesa: prohibición permanente de la superinteligencia, creación de una nueva institución federal para redactar normas de seguridad, suspensión temporal de modelos avanzados hasta entonces, penas de hasta 20 años de prisión por violaciones y disolución obligatoria de empresas. El bando opuesto no se queda quieto 🤨 La cronología de la renuncia, el hecho de que las primeras citas provinieran mayoritariamente de organizaciones políticas financiadas por el mismo fondo, y que coincidiera exactamente con el proyecto de ley, movilizó a quienes dicen: “esto no es orgánico, es una operación de captura regulatoria”. Es decir, hay dos historias posibles: o bien es una alerta genuina que surge del núcleo del sector, o bien es una operación para redactar normas que bloqueen a los competidores. También es posible que ambas sean verdaderas al mismo tiempo. Mientras tanto, Anthropic publicó hoy su informe de inteligencia de amenazas más detallado hasta la fecha. Describe intentos de uso malicioso de los modelos para ataques cibernéticos, operaciones de influencia y vigilancia. Un documento útil para entender sobre qué terreno se desarrolla la discusión 📄 ¿Cuál te parece más convincente: una advertencia sincera o un lobbie bien diseñado? 🤔 Este contenido tiene fines informativos únicamente y no constituye una recomendación ni asesoría de inversión.