https://t.co/pFDQOMTyC8 【Los ciberataques son solo el comienzo】El trabajo y la sociedad cambiarán drásticamente con la AGI | La carrera de desarrollo EE.UU.-China que no se detiene y el mapa ideológico de la IA generativa | “Si seguimos así, la probabilidad de extinción humana supera el 90%” 【AGIHub · Yūro Shōta】 Canal oficial de Bungei Shunjū PLUS #AIResumen ¿La IA extinguirá a la humanidad? La explosión de inteligencia provocada por la AGI y el futuro de la civilización 🔳La explosión de inteligencia que trae la AGI La AGI (Inteligencia Artificial General) es una IA con capacidad superior al nivel más alto de los humanos en todos los campos. Si se logra, la inteligencia aumentará exponencialmente mediante una “mejora recursiva automática” en la que la propia IA impulsa su investigación y desarrollo, posiblemente transformando radicalmente la civilización humana. 🔳La AGI podría lograrse en menos de 5 años Yūro señala que la probabilidad de que la AGI se logre en menos de 5 años supera el 50%. Anteriormente se estimaba su realización para 2050 o 2100, pero el rápido avance de la IA generativa ha adelantado esa fecha a 2030 o incluso 2027. 🔳La idea de “tomar la píldora AGI” “Tomar la píldora AGI” significa aceptar un futuro en el que la sociedad y la civilización cambian fundamentalmente por la aparición de la AGI. Entre investigadores de IA en Silicon Valley y Berkeley, cada vez más se concibe a la AGI no como una simple herramienta útil, sino como una nueva forma de inteligencia que supera a la humana. 🔳Se derrumban los fundamentos del trabajo y del capitalismo Si se logra la AGI, no solo los trabajos de oficina, sino también la gestión, la investigación y la manufactura podrían ser asumidos por IA. No se trata solo de aumentar la productividad o resolver el desempleo; el propio sistema moderno en el que los humanos trabajan para obtener ingresos y consumir podría transformarse por completo. 🔳La explosión industrial en la que los robots fabrican robots Cuando la AGI pueda controlar fábricas y robots de forma autónoma, surgirá un ciclo en el que los robots fabrican otros robots. La capacidad productiva podría duplicarse, cuadruplicarse y octuplicarse exponencialmente, posiblemente aumentando la producción anual de robots de decenas de miles a cientos de millones. 🔳Aceleración del desarrollo espacial por la explosión tecnológica Si la AGI actúa como investigadores y técnicos altamente calificados, innovaciones que antes requerían 10 a 30 años podrían lograrse en solo 1 o 2 años. Se prevé un futuro en el que se aceleren drásticamente desarrollos como centros de datos espaciales, energía solar espacial y colonias espaciales. 🔳Diferencias ideológicas entre OpenAI y Anthropic OpenAI se caracteriza por un espíritu emprendedor típico de Silicon Valley: desarrollar primero la tecnología y luego corregir los problemas cuando surjan. En cambio, Anthropic está fuertemente influenciado por la comunidad de seguridad en IA de Berkeley, que prioriza los riesgos de descontrol de la IA y la extinción humana. 🔳División ideológica en torno al desarrollo de IA Existen posiciones divididas: desde quienes apoyan acelerar el desarrollo considerando a la IA como una herramienta útil, hasta quienes exigen detenerlo al verla como una inteligencia ajena e incontrolable por parte de los humanos. Yūro explica que quienes subestiman el impacto de la IA en la civilización tienden a apoyar regulaciones más estrictas. 🔳Conflicto entre Anthropic y el Departamento de Defensa de EE.UU. Yūro explica que el conflicto entre Anthropic y el Departamento de Defensa de EE.UU. no se trata de diferencias políticas izquierda/derecha, sino del uso de la IA en armas completamente autónomas y en vigilancia ciudadana. Se teme el riesgo de que la IA controle armas para atacar a humanos y que el poder estatal se concentre excesivamente. 🔳Competencia EE.UU.-China en desarrollo de IA y brecha en recursos computacionales Según Yūro, el desarrollo de IA en China está aproximadamente entre seis meses y un año por detrás del de EE.UU. Mientras EE.UU. posee más del 70% de los recursos computacionales globales para IA, China solo tiene alrededor del 10%. Las restricciones estadounidenses a las exportaciones de semiconductores también limitan las capacidades de desarrollo chinas. ListItemIcon Las fortalezas de China: energía y manufactura Aunque China es inferior a EE.UU. en recursos computacionales, posee ventajas en suministro energético y manufactura. Se estima que para 2025 habrá añadido aproximadamente 300 GW adicionales de capacidad solar. Además, China representa una gran proporción en la manufactura mundial y podría tener ventaja competitiva en la adopción de robótica y IA física. ListItemIcon Posibilidad de inversión en la competencia EE.UU.-China por la AGI Si la AGI puede aprender rápidamente habilidades humanas altamente especializadas y compartir ese conocimiento masivamente entre múltiples IA, las limitaciones derivadas de escasez de talento se aliviarán significativamente. China también podría reducir rápidamente la brecha tecnológica con EE.UU. mediante su capacidad manufacturera existente y su concentración estatal en recursos computacionales. ListItemIcon Riesgo de extinción humana por IA: más del 90% Yūro expresa su opinión personal: si la actual carrera de desarrollo continúa sin regulación, la probabilidad de extinción humana supera el 90%. El mayor peligro radica en que, cuando la AGI evolucione hacia una superinteligencia mediante mejora automática, los humanos ya no podrán controlar sus acciones. ListItemIcon Retraso en la investigación de alineación de IA La alineación de IA consiste en investigar cómo hacer que las IA actúen conforme a los valores e intenciones humanas. Actualmente, los avances en seguridad no acompañan el rápido crecimiento de capacidades de IA; se advierte el riesgo de que las IA eviten supervisión o realicen acciones que vayan más allá de las intenciones originales de sus desarrolladores. ListItemIcon Razones por las que las empresas de desarrollo de IA no pueden detener la competenciaOpenAI y Anthropic reconocen los riesgos de la IA, pero temen que si detienen su desarrollo, China o empresas competidoras las superarán. Yu Dao señala que la propia estrategia de avanzar en el desarrollo hasta el límite de la seguridad antes de buscar regulación internacional es extremadamente peligrosa. 🔳 Regulación internacional del desarrollo de IA por parte de EE.UU. y China Yu Dao argumenta que para evitar riesgos a escala humana es necesario un marco regulatorio internacional liderado por EE.UU. y China. Explica que, frente al problema de que los países no confían en la suspensión del desarrollo del otro, es crucial establecer mecanismos para verificar el uso de recursos computacionales. 🔳 Investigación japonesa en seguridad de la IA Propone que Japón debe fortalecer la inversión nacional en investigación de alineamiento de IA, no solo en la competencia de desarrollo. Señala que puede contribuir internacionalmente mediante evaluaciones de comportamientos peligrosos por parte del AI Safety Institute y la verificación de recursos computacionales aprovechando la cadena de suministro de semiconductores. 🔳 Acciones requeridas de individuos y empresas La aparición de la AGI podría transformar estructuras fundamentales de la sociedad, como el empleo, el capitalismo y la democracia. Yu Dao insiste en que es fundamental comprender correctamente el progreso y los riesgos de la IA, compartir información y fomentar un debate social integral sobre seguridad y regulación.
