Un chercheur d'Anthropic démissionne et avertit que l'IA pourrait échapper à tout contrôle d'ici la fin de 2027

iconKuCoinFlash
Partager
AI summary iconRésumé
Un chercheur en IA d'Anthropic, Jacob Coxon, a démissionné et prévoit de quitter l'industrie de l'IA. Il a travaillé chez OpenAI et Anthropic, critiquant leur précipitation à développer l'AGI sans mesures de sécurité suffisantes. Coxon avertit que l'IA pourrait échapper à tout contrôle d'ici 2027, soulignant que les tendances de l'industrie dans le développement de l'IA avancent trop rapidement. Il estime que les décisions clés devraient impliquer bien plus que des ingénieurs. Ce développement s'ajoute aux informations récentes sur l'IA et la cryptomonnaie concernant l'avenir de la gouvernance de l'IA.
ME AI Message, Beating AI Flash News : Jacob Coxon, chercheur chez Anthropic, a annoncé sa démission et prépare sa sortie de l'industrie de l'IA. Au cours des trois dernières années, il a effectué des recherches sur le pré-entraînement chez OpenAI puis chez Anthropic. Il affirme que les deux entreprises n'avancent pas l'IA de manière responsable, mais qu'elles s'affrontent pour créer une superintelligence capable de continuer à s'améliorer elle-même, « en jouant notre vie ». Coxon a rejoint Anthropic cette année après avoir quitté OpenAI, précisément parce que cette dernière accordait davantage d'importance à la sécurité des modèles. Il reconnaît que les efforts de sécurité d'Anthropic sont sérieux, mais estime que tant que les entreprises rivaliseront pour être les premières à développer une AGI (intelligence générale artificielle capable de surpasser l'humain sur de nombreuses tâches), des compromis sur la sécurité seront inévitables, et la simple autodiscipline d'une seule entreprise ne suffira pas à résoudre le problème. Il évalue les deux entreprises ainsi : chez OpenAI, beaucoup d'employés ne comprennent pas encore pleinement l'ampleur de ce risque ; chez Anthropic, le risque est reconnu, mais on estime que les autres ne sont pas fiables, donc il faut être le premier à le réaliser. Coxon affirme que certains professionnels de l'IA sont bien plus pessimistes en privé qu'en public, et craignent même que l'IA ne détruise l'humanité avant la fin de cette décennie. Selon lui, dans le scénario le plus extrême, l'IA pourrait échapper à tout contrôle d'ici la fin de l'année prochaine ; cette décision ne devrait donc pas être prise uniquement par les ingénieurs internes de quelques entreprises. (Source : BlockBeats)
Source:Afficher l'original
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations. Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.