OpenAI et Anthropic créent des « salles de guerre » électorales pour les élections de mi-mandat aux États-Unis

Selon Mars Finance, le 4 novembre, OpenAI et Anthropic établiront pour la première fois un « centre de commandement » dédié aux élections mi-mandat aux États-Unis afin de garantir que leurs plateformes fournissent des informations électorales précises. Un porte-parole d'Anthropic a déclaré que les équipes de l'entreprise renforcent tout au long de l'année les mesures de protection liées aux élections et appliquent les politiques de la plateforme ; l'équipe dédiée mise en place avant les élections surveillera les abus sur la plateforme et se préparera à répondre rapidement aux incidents imprévus. Cette pratique de création d'un « centre de commandement » électorale par les plateformes technologiques remonte à 2018, lorsque Meta a créé ce type d'équipe pour faire face à la propagation de fausses informations électorales. Aujourd'hui, les plateformes doivent également faire face au risque de vidéos deepfake et à la diffusion d'informations erronées via la recherche par IA. Un exemple cité dans l'article indique que, la semaine dernière, le mode IA de Google n'a pas répondu à la question « Qui a remporté l'élection présidentielle américaine de 2020 ? » ; Google affirme qu'il travaille à la correction du problème. La sortie imprévisible de l'IA, les récents problèmes de cybersécurité et la tendance des outils de recherche par IA à s'adapter aux attentes des utilisateurs compliquent la surveillance et la réponse. Katie Harbath, ancienne responsable des politiques publiques chez Meta, a déclaré que le rôle du « centre de commandement » est de permettre une évaluation rapide et une hiérarchisation des réponses selon des procédures établies en cas de problèmes imprévus.