OpenAI e Anthropic criam “salas de guerra” para as eleições de meio de mandato nos EUA

Mars Finance noticia que, em 4 de novembro, a OpenAI e a Anthropic estabelecerão pela primeira vez uma "sala de operações" dedicada às eleições legislativas dos Estados Unidos para garantir que suas plataformas forneçam informações eleitorais precisas. Um porta-voz da Anthropic afirmou que as equipes da empresa vêm reforçando proteções relacionadas às eleições e aplicando políticas da plataforma ao longo do ano, e que a equipe dedicada estabelecida antes das eleições monitorará o uso indevido da plataforma e estará preparada para responder rapidamente a incidentes emergenciais. A prática de plataformas tecnológicas criarem "salas de operações" eleitorais remonta a 2018, quando a Meta estabeleceu pela primeira vez tal equipe para combater a disseminação de informações falsas nas eleições. Hoje, as plataformas também enfrentam riscos de vídeos deepfake e disseminação de informações incorretas por meio de busca por IA. Um exemplo citado na reportagem é que o modo IA do Google não respondeu à pergunta "Quem venceu a eleição presidencial dos EUA em 2020" na semana passada, e o Google afirmou que está corrigindo o problema. A saída da IA ser difícil de prever, problemas recentes de segurança cibernética e a tendência das ferramentas de busca por IA de atender às expectativas dos usuários aumentam a dificuldade de monitoramento e resposta. Katie Harbath, ex-chefe de políticas públicas do Meta, afirmou que o papel da "sala de operações" é permitir uma avaliação e classificação rápidas conforme processos estabelecidos quando surgirem problemas imprevisíveis.