Investigador de Anthropic renuncia y advierte que la IA podría perder control para 2027

Noticia de Huoxing Finance: Jacob Coxon, investigador de Anthropic, anunció su renuncia y planea abandonar la industria de la IA. Durante los últimos tres años, trabajó en investigación de preentrenamiento en OpenAI y luego en Anthropic. Señaló que ninguna de las dos empresas ha avanzado la IA de manera responsable, sino que compiten para crear superinteligencias capaces de seguir mejorando sus propias capacidades, "apostando nuestras vidas". Coxon pasó de OpenAI a Anthropic este año precisamente porque esta última parecía dar más prioridad a la seguridad de los modelos. Reconoce que el trabajo de seguridad en Anthropic es serio, pero cree que mientras las empresas sigan compitiendo por ser las primeras en desarrollar la AGI (IA general capaz de superar a los humanos en múltiples tareas), los compromisos en seguridad serán inevitables, y la autoregulación de una sola empresa no puede resolver el problema. Su evaluación de ambas empresas es: muchos dentro de OpenAI aún no comprenden plenamente la magnitud de este riesgo; Anthropic conoce el riesgo, pero considera que los demás no son confiables, por lo que debe ser la primera en lograrlo. Coxon afirmó que algunos profesionales de la IA son mucho más pesimistas en privado que en público, e incluso temen que la IA pueda destruir a la humanidad antes de que termine esta década. Él mismo estima que, en el escenario más extremo, la IA podría descontrolarse a finales del próximo año, por lo que tales decisiones no deberían quedar únicamente en manos de los ingenieros internos de unas pocas empresas.