OpenAI y Anthropic establecen "salas de guerra" para las elecciones intermedias de EE. UU.

Noticia de Huoxing Caijing: el 4 de noviembre, OpenAI y Anthropic establecerán por primera vez un "cuarto de operaciones" dedicado para las elecciones legislativas estadounidenses, con el fin de garantizar que sus respectivas plataformas proporcionen información electoral precisa. Un portavoz de Anthropic indicó que los equipos de la empresa han estado fortaleciendo las medidas de protección relacionadas con las elecciones y aplicando las políticas de la plataforma durante todo el año, y que el equipo dedicado establecido antes de las elecciones monitoreará el uso indebido de la plataforma y se preparará para responder rápidamente a incidentes inesperados. La práctica de que las plataformas tecnológicas establezcan un "cuarto de operaciones" para las elecciones se remonta a 2018, cuando Meta creó por primera vez este tipo de equipo para hacer frente a la propagación de información falsa electoral. Hoy en día, las plataformas también deben enfrentar el riesgo de videos deepfake y la propagación de información errónea mediante búsquedas con IA. Un ejemplo mencionado en el informe indica que la semana pasada, el modo IA de Google no respondió a la pregunta "¿Quién ganó las elecciones presidenciales estadounidenses de 2020?", y Google afirmó que está trabajando en la corrección. La imprevisibilidad de las salidas de IA, los recientes problemas de ciberseguridad y la tendencia de las herramientas de búsqueda con IA a adaptarse a las expectativas del usuario aumentan la dificultad para monitorear y responder. Katie Harbath, exdirectora de políticas públicas de Meta, señaló que el propósito del "cuarto de operaciones" es poder evaluar y clasificar rápidamente los problemas imprevistos según procedimientos establecidos.