إدارة الفضاء السيبراني في الصين تقمع المحتوى العنيف والغير قانوني المُنشأ بالذكاء الاصطناعي

كشف Beating AI عن أن مكتب الإنترنت الوطني الصيني أطلق مؤخرًا المرحلة الثانية من حملة "صافية: مكافحة الفوضى في تطبيقات الذكاء الاصطناعي"، والتي تركز على معالجة قضايا استخدام الذكاء الاصطناعي لإنشاء ونشر معلومات كاذبة، ومحتوى عنيف أو غير لائق، وانتحال الهوية أو التقليد، وانتهاك حقوق القُصّر. حتى الآن، تم تنظيف ما مجموعه 5.61 مليون رسالة غير قانونية أو غير متوافقة، وحظر أكثر من 49 ألف حساب، ومعالجة أكثر من 2400 موقع إلكتروني وتطبيق غير متوافق. في مجال إدارة محتوى الذكاء الاصطناعي، عززت منصات مثل Douyin و Kuaishou و Weibo و Tencent و Baidu و Bilibili و Xiaohongshu و Zhihu و Douban و Taobao قدراتها على التعرف متعدد الوسائط، ووسعّت ديناميكيًا قواعد بيانات الوجوه والبصمات الصوتية والعينات غير المسموح بها، وعززت إجراءات معالجة الحسابات والمحتوى غير المتوافق، مع نشر 46 إعلانًا إداريًا متنوعًا. في الوقت نفسه، تشدد منصات الذكاء الاصطناعي مثل DouBao و YuanBao و Qwen و Wenxin Yiyan على مراجعة المواد الأولية، وتقيّد بشدة إخراج المحتوى غير المسموح به، وتعزز متطلبات التعرف على المحتوى المُنشأ والمُدمج بالذكاء الاصطناعي؛ بينما تعزز متاجر التطبيقات مثل Huawei و Xiaomi و OPPO و vivo معايير دخول المطورين ومراجعة نشر التطبيقات، مع إجراء فحوصات عشوائية وإعادة اختبار للتطبيقات الحالية. خلال الحملة، أعلنت السلطات المعنية عن عدة حالات نموذجية، تشمل استخدام الذكاء الاصطناعي لـ"تعديل" كلاسيكيات أدبية، وإنشاء معلومات كاذبة عن كوارث أو نقاط ساخنة اجتماعية، وانتحال شخصيات عامة عبر تغيير الوجه والصوت بالذكاء الاصطناعي، وإنتاج كميات كبيرة من المحتوى العنيف أو غير اللائق، واستخدام الذكاء الاصطناعي لإنشاء معلومات تنتهك حقوق القُصّر، واستخدام برامج "إدارة" الذكاء الاصطناعي لأغراض التأثير عبر جيوش الإنترنت. وسيتخذ المسؤولون إجراءات قانونية ضد منتجات وتطبيقات الذكاء الاصطناعي غير المتوافقة، تشمل التحذير والغرامات وإزالة التطبيقات أو إغلاقها.