Selon Fortune, Lila Ibrahim, chef officier de la préparation à l'IA chez Google DeepMind, a déclaré lors d'une interview que la probabilité que l'IA entraîne l'extinction de l'humanité « n'est pas nulle » et a souligné qu'il est « responsable » de discuter, à ce stade, des risques existentiels liés à l'IA. Ibrahim avait signé en 2023, avec Sam Altman d'OpenAI et Dario Amodei d'Anthropic, une déclaration du « Center for AI Safety » qui assimilait les risques d'extinction par l'IA à ceux d'une guerre nucléaire. Concernant les prédictions optimistes telles que celles de Musk selon lesquelles « l'argent perdra son sens d'ici 2036 » ou de Bezos affirmant que « d'ici 2045, des millions de personnes vivront dans l'espace », Ibrahim a clairement exprimé son désaccord, affirmant que « la vitesse de développement de l'IA est trop rapide pour que quiconque puisse prédire avec précision sa forme future ». Elle a déclaré qu'il fallait se concentrer moins sur des scénarios futurs imaginaires et davantage sur la manière d'utiliser l'IA comme un outil pour résoudre des problèmes réels tels que les événements météorologiques extrêmes et les déchets industriels, tout en veillant à ce que les bénéfices technologiques ne profitent pas uniquement à quelques entreprises technologiques qui contrôlent l'IA. En ce qui concerne les risques d'extinction par l'IA, Geoffrey Hinton, considéré comme le père de l'IA, avait précédemment estimé une probabilité de 10 % à 20 % d'extinction humaine dans les trente prochaines années, tandis qu'Amodei a estimé la probabilité d'un avenir « extrêmement mauvais » à environ 25 %.
Chef de l'IA de Google DeepMind : Le risque que l'IA cause l'extinction humaine « n'est pas nul »
TechFlowPartager
Résumé
La gestion des risques reste une priorité absolue, alors que Lila Ibrahim, directrice principale de la préparation à l’IA chez Google DeepMind, a averti que le risque que l’IA cause l’extinction humaine « n’est pas nul ». Elle a appelé à une approche responsable du développement de l’IA, en comparant ses dangers potentiels à ceux d’une guerre nucléaire. Ibrahim a critiqué les prévisions excessivement optimistes d’Elon Musk et de Jeff Bezos, affirmant que l’IA évolue trop rapidement pour permettre des prédictions fiables. Elle a souligné l’importance d’utiliser l’IA pour résoudre des problèmes concrets comme les conditions météorologiques extrêmes et les déchets industriels. Le rapport risque-récompense doit guider le déploiement de l’IA, a-t-elle dit, afin d’assurer des bénéfices plus larges au-delà des grandes entreprises technologiques.
Source:Afficher l'original
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations.
Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.