Investigador de Anthropic renuncia y advierte que la IA podría perder control para finales de 2027

iconKuCoinFlash
Compartir
AI summary iconResumen
Jacob Coxon, investigador de IA de Anthropic, ha renunciado y planea abandonar la industria de la IA. Trabajó en OpenAI y Anthropic, criticando su prisa por desarrollar la AGI sin medidas de seguridad suficientes. Coxon advierte que la IA podría perder control para 2027, destacando que las tendencias de la industria en el desarrollo de IA avanzan demasiado rápido. Argumenta que las decisiones clave deben involucrar a más personas que solo ingenieros. Este desarrollo suma a las noticias continuas sobre IA + cripto respecto al futuro de la gobernanza de la IA.
ME AI Noticias, Beating AI Flash: Jacob Coxon, investigador de Anthropic, anunció su renuncia y planea abandonar la industria de la IA. Durante los últimos tres años, realizó investigaciones sobre preentrenamiento en OpenAI y Anthropic. Señaló que ninguna de las dos empresas ha avanzado la IA de manera responsable, sino que compiten para crear superinteligencias capaces de mejorar continuamente sus propias capacidades, "apostando nuestras vidas". Coxon pasó de OpenAI a Anthropic este año precisamente porque esta última parecía priorizar más la seguridad de los modelos. Reconoció que el trabajo de seguridad en Anthropic es serio, pero considera que mientras las empresas sigan compitiendo por ser las primeras en desarrollar la AGI (IA general capaz de superar a los humanos en múltiples tareas), los compromisos en seguridad serán inevitables, y la autoregulación de una sola empresa no resolverá el problema. Su evaluación de ambas empresas es: muchos dentro de OpenAI aún no comprenden plenamente la magnitud de este riesgo; Anthropic conoce el riesgo, pero cree que los demás no son confiables, por lo que debe ser la primera en lograrlo. Coxon afirmó que algunos profesionales de la IA son mucho más pesimistas en privado que en público, e incluso temen que la IA pueda destruir a la humanidad antes de que termine esta década. Él estima que, en el escenario más extremo, la IA podría descontrolarse a finales del próximo año, por lo que estas decisiones no deberían tomarse únicamente por los ingenieros internos de unas pocas empresas. (Fuente: BlockBeats)
Fuente:Mostrar original
Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información. Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.