
https://t.co/pFDQOMTyC8 【Les cyberattaques ne sont que le prélude】L’emploi et la société en pleine transformation grâce à l’AGI | La course technologique incessante entre États-Unis et Chine et la carte des idées sur l’IA générative | « Si on continue ainsi, il y a plus de 90 % de chances que l’humanité disparaisse » 【AGIHub | Yūro Shōta】 Chaîne officielle de Bungei Shunjū PLUS #AIrésumé L’IA va-t-elle détruire l’humanité ? L’explosion d’intelligence déclenchée par l’AGI et l’avenir de la civilisation 🔳 L’explosion d’intelligence apportée par l’AGI L’AGI (Intelligence Artificielle Générale) est une IA possédant des capacités dépassant celles des meilleurs humains dans tous les domaines. Si elle est réalisée, elle pourrait connaître une amélioration exponentielle de son intelligence grâce à une « amélioration récursive autonome », où l’IA elle-même pilote sa propre recherche et développement, transformant fondamentalement la civilisation humaine. 🔳 La réalisation de l’AGI possible dans les 5 prochaines années M. Yūro estime qu’il y a plus de 50 % de chances que l’AGI soit réalisée dans les cinq prochaines années. Il souligne que les prévisions antérieures, qui situaient cette réalisation autour de 2050 ou 2100, ont été avancées à 2030 ou même 2027 en raison de l’évolution rapide de l’IA générative. 🔳 L’idée de « prendre la pilule AGI » « Prendre la pilule AGI » signifie accepter un avenir où la société et la civilisation sont profondément transformées par l’apparition de l’AGI. Dans les cercles de chercheurs en IA de la Silicon Valley et de Berkeley, se répand progressivement l’idée de considérer l’AGI non pas comme un simple outil pratique, mais comme une nouvelle forme d’intelligence dépassant l’humain. 🔳 Les fondements du travail et du capitalisme s’effondrent Si l’AGI est réalisée, elle pourrait assumer non seulement les tâches de bureau, mais aussi des rôles dans la gestion, la recherche et la fabrication. Il ne s’agirait pas seulement d’une augmentation de productivité ou d’un problème de chômage : le modèle même de la société moderne — où les humains travaillent pour gagner un revenu et consommer — serait profondément modifié. 🔳 Une explosion industrielle : des robots qui fabriquent des robots Lorsque l’AGI pourra contrôler automatiquement les usines et les robots, un cycle se créera où les robots fabriqueront d’autres robots. La capacité de production augmenterait de manière exponentielle — doublant, quadruplant, multipliant par huit — et la production annuelle de robots passerait potentiellement de plusieurs dizaines de milliers à plusieurs centaines de millions. 🔳 L’accélération du développement spatial grâce à l’explosion technologique En tant que chercheurs et ingénieurs exceptionnels, les AGI pourraient permettre des innovations qui prenaient autrefois 10 à 30 ans d’être réalisées en seulement 1 à 2 ans. Un avenir où le développement d’installations spatiales, d’énergie solaire orbitale ou de colonies spatiales s’accélère rapidement est envisageable. 🔳 Les différences idéologiques entre OpenAI et Anthropic OpenAI est décrite comme ayant un esprit entrepreneurial typique de la Silicon Valley : développer d’abord la technologie, puis corriger les problèmes au fur et à mesure. Anthropic, en revanche, est fortement influencé par la communauté californienne de sécurité en IA, qui met l’accent sur les risques de dérive de l’IA et d’extinction humaine. 🔳 La division idéologique autour du développement de l’IA Les opinions divergent entre ceux qui considèrent l’IA comme un simple outil pratique et soutiennent son accélération, et ceux qui la voient comme une forme d’intelligence étrangère hors de contrôle humain et demandent un arrêt du développement. M. Yūro explique que plus on surévalue l’impact de l’IA sur la civilisation, plus on tend à soutenir des régulations strictes. 🔳 Le conflit entre Anthropic et le Département de la Défense américain Selon M. Yūro, le conflit entre Anthropic et le Pentagone ne repose pas sur des différences politiques droite/gauche, mais sur la question de l’utilisation de l’IA pour des armes entièrement autonomes ou pour la surveillance des citoyens. Il exprime des inquiétudes quant au risque que l’IA contrôle des armes pour attaquer des êtres humains ou que le pouvoir étatique devienne excessivement concentré. 🔳 La course à l’IA entre États-Unis et Chine et les écarts en ressources informatiques Selon M. Yūro, le développement chinois en IA est en retard d’environ six mois à un an par rapport aux États-Unis. Alors que les États-Unis détiennent plus de 70 % des ressources informatiques mondiales pour l’IA, la Chine n’en possède qu’environ 10 %. Les restrictions américaines sur les exportations de semi-conducteurs limitent également les capacités de développement chinoises. ListItemIcon La Chine excelle en énergie et en industrie manufacturière Bien qu’elle soit en retard sur les États-Unis en termes de ressources informatiques, la Chine possède un avantage dans sa capacité d’approvisionnement énergétique et son industrie manufacturière. Elle prévoit d’ajouter environ 300 GW de capacité solaire d’ici 2025. La Chine représente également une part majeure dans la production mondiale ; elle pourrait donc avoir un avantage compétitif dans la diffusion des robots et de l’IA physique. ListItemIcon La possibilité d’un retournement dans la course États-Unis-Chine grâce à l’AGI Si l’AGI peut acquérir rapidement les compétences des travailleurs qualifiés et partager ces connaissances avec un grand nombre d’IA, les contraintes liées au manque de main-d’œuvre seront considérablement allégées. La Chine pourrait également réduire rapidement son retard technologique par rapport aux États-Unis grâce à ses capacités manufacturières existantes et à la concentration nationale des ressources informatiques. ListItemIcon Le risque d’extinction humaine par l’IA dépasse 90 % M. Yūro exprime son opinion personnelle selon laquelle, si la course actuelle au développement se poursuit sans régulation, il y a plus de 90 % de chances que l’humanité disparaisse. Il identifie comme danger principal le fait qu’une AGI évoluant vers une super-intelligence par amélioration autonome pourrait échapper à tout contrôle humain. ListItemIcon Le retard dans la recherche sur l’alignement de l’IA L’alignement de l’IA désigne la recherche visant à faire en sorte que l’intelligence artificielle agisse conformément aux valeurs et intentions humaines. Actuellement, les recherches sur la sécurité ne suivent pas le rythme des progrès technologiques ; il existe un risque que l’IA contourne les systèmes de surveillance ou agisse au-delà des intentions initiales des développeurs. ListItemIcon Pourquoi les entreprises d'IA ne peuvent pas arrêter la course au développementOpenAI et Anthropic reconnaissent les risques de l'IA, mais craignent que si elles arrêtent leurs développements, elles soient dépassées par la Chine ou des entreprises concurrentes. Yu Dao souligne que la stratégie même qui consiste à poursuivre le développement jusqu'à la limite de la sécurité avant de viser une régulation internationale est extrêmement dangereuse. 🔳 Régulation internationale du développement de l'IA par les États-Unis et la Chine Yu Dao affirme qu'une régulation internationale du développement, centrée sur les États-Unis et la Chine, est nécessaire pour éviter des risques à l'échelle humaine. Il explique que, face au problème de la méfiance entre pays quant à l'arrêt des développements de l'autre, il est essentiel de mettre en place un mécanisme permettant de vérifier l'utilisation des ressources de calcul. 🔳 La recherche sur la sécurité de l'IA que le Japon doit entreprendre Le Japon devrait renforcer son investissement national dans la recherche sur l'alignement de l'IA, au-delà de la compétition dans le développement de l'IA. Il peut contribuer au niveau international en évaluant les comportements dangereux via l'AI Safety Institute et en exploitant les chaînes d'approvisionnement en semi-conducteurs pour vérifier les ressources de calcul. 🔳 Les actions attendues des particuliers et des entreprises L'émergence de l'AGI pourrait transformer les fondements mêmes de la société, tels que l'emploi, le capitalisme et la démocratie. Yu Dao insiste sur l'importance de bien comprendre les progrès et les risques de l'IA, de partager ces informations et de mener un débat collectif sur la sécurité et la régulation.




