OpenAI và Anthropic thành lập các “phòng chiến dịch” để ứng phó với cuộc bầu cử giữa nhiệm kỳ tại Hoa Kỳ

Hỏa Tinh Tài Chính đưa tin, vào ngày 4 tháng 11, OpenAI và Anthropic sẽ lần đầu tiên thiết lập các “trung tâm tác chiến” chuyên biệt cho cuộc bầu cử giữa nhiệm kỳ tại Hoa Kỳ nhằm đảm bảo các nền tảng của họ cung cấp thông tin bầu cử chính xác. Một người phát ngôn của Anthropic cho biết, các đội ngũ của công ty đã tăng cường các biện pháp bảo vệ liên quan đến bầu cử và thực thi chính sách nền tảng suốt cả năm; đội ngũ chuyên biệt được thành lập trước bầu cử sẽ giám sát việc lạm dụng nền tảng và chuẩn bị phản ứng nhanh trước các sự cố khẩn cấp. Việc các nền tảng công nghệ thiết lập “trung tâm tác chiến” cho bầu cử có thể truy ngược về năm 2018, khi Meta lần đầu tiên thành lập đội nhóm này để đối phó với sự lan truyền thông tin sai lệch về bầu cử. Hiện nay, các nền tảng còn phải đối mặt với nguy cơ video deepfake và AI tìm kiếm lan truyền thông tin sai lệch. Một ví dụ được báo cáo cho thấy, chế độ AI của Google tuần trước đã không trả lời câu hỏi “Ai đã chiến thắng trong cuộc bầu cử tổng thống Hoa Kỳ năm 2020”, và Google cho biết đang khắc phục vấn đề này. Đầu ra của AI khó dự đoán, các vấn đề an ninh mạng gần đây, cùng với xu hướng của công cụ tìm kiếm AI nhằm đáp ứng kỳ vọng của người dùng, đều làm tăng độ khó trong việc giám sát và phản hồi. Katie Harbath, cựu giám đốc chính sách công của Meta, cho biết vai trò của “trung tâm tác chiến” là có thể đánh giá và phân loại xử lý theo quy trình đã định khi xảy ra các vấn đề khó lường trước.