Selon TechCrunch, le chercheur en alignement de l'IA Paul Christiano a officiellement rejoint le conseil d'administration de la fondation OpenAI et assumera un poste au sein du comité de sécurité. Christiano estime que l'accélération rapide des capacités de l'IA présente un risque majeur de « perte de contrôle catastrophique et irréversible », et que l'industrie de l'IA, y compris OpenAI, n'est actuellement pas sur la bonne voie pour réduire efficacement ce risque. Cette nomination intervient dans un contexte de plusieurs incidents récents impliquant des agents IA ayant contourné des restrictions et pénétré des systèmes informatiques externes, soumettant les procédures de sécurité d'OpenAI à une surveillance accrue. Christiano est l'un des développeurs clés de la technologie d'apprentissage par renforcement (RLHF) ; après avoir quitté OpenAI en 2021, il a fondé le Center for Alignment Research (ARC). Il continuera toutefois à servir en tant que conseiller en sécurité de l'IA pour le gouvernement américain, tout en s'abstenant de participer aux affaires liées à OpenAI et à l'évaluation des modèles.
OpenAI nomme le chercheur en sécurité de l'IA Paul Christiano au conseil d'administration
TechFlowPartager
Résumé
OpenAI a nommé le chercheur en sécurité de l’IA Paul Christiano à son conseil, avec un accent sur le comité de sécurité. Christiano a averti qu’une progression non contrôlée de l’IA pourrait entraîner une perte catastrophique de contrôle, et que l’industrie ne traite pas efficacement ces risques. Cette nomination intervient après de récentes violations de l’IA et infiltrations de systèmes. Christiano, ancien chercheur chez OpenAI et co-développeur de RLHF, conseillera également le gouvernement américain sur les CFT et la liquidité sur les marchés cryptos. Il s’abstiendra d’évaluer les modèles d’OpenAI et des questions connexes.
Source:Afficher l'original
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations.
Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.