Les responsables de la sécurité d'OpenAI rejoignent la fondation alors que les appels à une préparation urgente face à l'IA se multiplient

iconKuCoinFlash
Partager
Share IconShare IconShare IconShare IconShare IconShare IconCopy
AI summary iconRésumé

expand icon
Actualités IA + crypto : l'ancien responsable sécurité d'OpenAI, Yo Shavit, a rejoint la OpenAI Foundation pour travailler sur le projet « AI Resilience » sous la direction du cofondateur Wojciech Zaremba. Une semaine plus tôt, l'ancienne chef de cabinet du CTO, Bianca Martin, a également rejoint la fondation. Les deux avaient précédemment dirigé les efforts de sécurité au sein de la branche commerciale d'OpenAI. Shavit a souligné l'urgence de se préparer à une IA superintelligente. Cette organisation à but non lucratif devient un centre clé pour la recherche sur la sécurité, alors qu'OpenAI restructure son équipe sécurité. Cette annonce de projet met en lumière une attention croissante portée à la préparation face à l'IA.
ME AI Message, selon la surveillance de Beating, Yo Shavit, ancien responsable des politiques de sécurité avancée en IA d'OpenAI, a annoncé sa démission pour rejoindre à temps plein l'organisation à but non lucratif mère, la fondation OpenAI, où il participera au projet « Résilience de l'IA » dirigé par le cofondateur Wojciech Zaremba. Une semaine avant l'annonce de Shavit, Bianca Martin, ancienne chef de cabinet du CTO d'OpenAI, avait déjà annoncé son passage à temps plein au sein de la fondation. Shavit a exprimé un sentiment d'urgence extrême lors de son départ, affirmant qu'il reste très peu de temps avant l'arrivée de l'IA superintelligente et que de nombreux travaux de préparation doivent être réalisés immédiatement, appelant à un transfert rapide de davantage de talents en sécurité. Ces deux cadres clés, qui ont successivement rejoint la fondation, ont longtemps dirigé les activités de sécurité et de gouvernance au sein de l'entité commerciale d'OpenAI. Shavit était responsable des politiques de sécurité avancée en IA, tandis que Martin avait été chef de cabinet du CTO et spécialiste des risques liés aux technologies émergentes au sein de l'équipe préparation à l'AGI. En tant qu'employée expérimentée ayant rejoint l'entreprise en 2019, Martin a dirigé la rédaction du premier manuel tactique de déploiement et a contribué à la mise en place du programme d'accès pour les chercheurs accompagnant GPT-3, posant ainsi les bases des futures équipes de red teaming d'OpenAI. Face à la perte continue et au remaniement de l'équipe sécurité, l'organisation mère à but non lucratif, dotée de ressources financières importantes, devient le nouveau centre d'excellence pour la recherche en sécurité. (Source : BlockBeats)
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations. Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.