Noticia de Huoxing Finance: El CEO de OpenAI, Altman, presentó a los empleados la semana pasada tres enfoques para desarrollar superinteligencias artificiales de forma segura. El primero consiste en crear una organización reguladora global, similar a la Agencia Internacional de Energía Atómica, que inspeccione modelos avanzados y audite medidas de seguridad. Fuentes informadas indican que Altman favorece esta vía. El segundo imita al CERN, donde los principales laboratorios de IA se fusionarían en una sola organización o colaborarían a través de una institución unificada en lugar de competir individualmente. El tercero es el más extremo, al que él llama el "plan Eliezer": una empresa de IA lograría primero una mejora recursiva autónoma y luego controlaría la capacidad de cómputo mediante su dominio económico abrumador, impidiendo que otros desarrolladores la sigan. Altman describió esta idea como "derretir las GPU de todas las demás empresas", pero señaló que este plan es muy malo y solo se mencionó para cubrir todas las posibilidades. La noción de "derretir las GPU" proviene del investigador en seguridad de IA Eliezer Yudkowsky, quien en 2021 propuso un experimento mental en el que una superinteligencia artificial crea nanomáquinas capaces de replicarse para derretir las GPU globales, aclarando que esto era solo un ejemplo extremo para ilustrar la magnitud de la intervención necesaria, no una propuesta para implementarlo. OpenAI ya había propuesto en 2023 la creación de una "Agencia Internacional de la IA", y el director de Google DeepMind, Hassabis, también ha abogado por un "CERN de la IA". Actualmente, OpenAI, Google y Anthropic planean establecer una organización conjunta para estándares de seguridad a finales de este año o principios del próximo, pero difieren en la asignación de responsabilidades para las pruebas de seguridad de los modelos. Altman desea establecer límites de velocidad para el desarrollo de IA, pero también ha indicado que OpenAI actualmente no puede ceder su ventaja competitiva a sus rivales.
El CEO de OpenAI propone tres caminos para el desarrollo seguro de la superinteligencia artificial
MarsBitCompartir
Resumen
El CEO de OpenAI, Sam Altman, presentó la semana pasada a su equipo tres estrategias para el desarrollo seguro de una superinteligencia artificial. Una opción es crear un organismo regulador global similar a la AIEA para auditar medidas de seguridad y alinearse con los protocolos CFT. Una segunda idea sugiere fusionar los principales laboratorios de IA en una entidad similar al CERN. La tercera, el "Plan Eliezer", implicaría que una sola empresa logre la auto-mejora y domine el poder computacional, aunque Altman la descartó. OpenAI, Google y Anthropic buscan lanzar un grupo de estándares de seguridad a finales de 2026, pero persisten disputas sobre las pruebas de modelos, incluyendo la protección de activos refugio.
Fuente:Mostrar original
Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información.
Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.