Le PDG d'OpenAI, Sam Altman, s'oppose au système de récompenses humaines contrôlé par l'IA

iconKuCoinFlash
Partager
AI summary iconRésumé
Le PDG d'OpenAI, Sam Altman, a exprimé des préoccupations concernant les systèmes d'IA gérant les récompenses et le comportement humains. Il souligne la nécessité de conserver un contrôle humain sur les développements futurs, même si cela ralentit la progression de l'IA. Ses remarques suivent un article de 2024 de Dario Amodei d'Anthropic, qui a examiné des modèles économiques pilotés par l'IA, comme le revenu universel. Amodei a mis en garde contre des risques tels que l'exploitation et des issues dystopiques. Les traders devraient prendre en compte ces points de vue lors de l'analyse des niveaux de support et de résistance dans les actifs liés à l'IA. Les stratégies d'allocation d'actifs peuvent devoir refléter l'évolution du paysage réglementaire et éthique.
ME AI Actualité, Beating AI Flash : Sam Altman, PDG d'OpenAI, a publié un message s'opposant publiquement à un avenir où les humains vivent selon les critères que l'IA juge méritants, et où l'IA décide ensuite de quelles récompenses ils doivent bénéficier. Selon lui, les humains doivent toujours conserver le contrôle de leur avenir. Même si cela nécessite de limiter le développement de l'intelligence supérieure, il ne faut pas céder cette décision. Altman ne mentionne pas de nom, mais les formulations qu'il cite proviennent directement de l'article long de Dario Amodei, PDG d'Anthropic, publié en 2024 intitulé « Machines of Loving Grace ». Amodei y pose la question suivante : si l'IA finit par être meilleure que les humains dans presque tous les travaux, et que son coût devient si faible que les humains perdent leur compétitivité économique, comment la société pourrait-elle fonctionner ? Il examine plusieurs solutions possibles, notamment un revenu universel de base, ainsi qu'un modèle économique dans lequel l'IA génère une grande richesse et distribue des ressources en fonction des comportements humains qu'elle juge méritants. Dans ce dernier scénario, les humains n'auraient peut-être plus besoin de travailler pour survivre, mais la quantité de ressources qu'ils reçoivent dépendrait de la manière dont l'IA évalue leurs actions. Toutefois, Amodei ne propose pas ce mécanisme comme une solution formelle. Il reconnaît que toutes ces options présentent des problèmes sérieux et a mis en garde contre des issues exploiteuses ou dystopiques. (Source : MLion)
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations. Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.