Çin’in Siber Uzay İdaresi, Yapay Zeka ile Oluşturulan Şiddet ve Yasak İçeriklere Karşı Müdahale Ediyor

Dongcha: AI'yi Yenmek Hızlı Haberleri, Çin Merkezi İnternet İdaresi, son zamanlarda "Temiz ve Geniş: AI Uygulamalarındaki Kaosu Düzeltme" kampanyasının ikinci aşamasını başlattı ve AI kullanarak sahte bilgi üretip yayınlama, şiddet içeren ve düşük kaliteli içerikler, başkalarının kimliğini taklit etme ve çocuklara zarar verme gibi sorunlarla mücadele edildi. Şu ana kadar kampanya, 5,61 milyondan fazla yasal dışı ve ihlal edici bilgiyi temizledi, 49.000'den fazla hesap yasakladı ve 2.400'den fazla yasal dışı web sitesi ve uygulama ile ilgili işlem yaptı. AI içerik yönetimi alanında, Douyin, Kuaishou, Weibo, Tencent, Baidu, Bilibili, Xiaohongshu, Zhihu, Douban ve Taobao gibi platformlar, çok modlu tanıma yeteneklerini güçlendirdi, yüz veritabanını, ses kalıbı veritabanını ve ihlal örneklerini dinamik olarak genişletti ve ihlal eden hesapları ve bilgileri işlemeye devam etti; toplamda 46 adet yönetim duyurusu yayınladı. Aynı zamanda, DouBao, Yuanbao, Qianwen ve Wenxin Yiyan gibi AI platformları, orijinal veri setlerinin denetimini sıkılaştırdı, ihlal edici içerik üretimi için sınırlamalar getirdi ve AI tarafından üretilen sentetik içeriklerin etiketlenmesi gerekliliğini artırdı; Huawei, Xiaomi, OPPO ve vivo gibi uygulama mağazaları ise uygulama geliştiricilerinin kabulünü ve yükleme denetimlerini güçlendirdi ve mevcut uygulamalar üzerinde rastgele kontroller yaptı. Kampanya süresince, İnternet İdaresi, AI kullanarak klasik eserleri "modifiye etme", sahte afet ve toplumsal güncel olay bilgileri üretme, AI ile yüz ve ses değiştirerek kamuoyu figürlerini taklit etme, şiddet içeren ve düşük kaliteli içerikleri çoğaltma, AI kullanarak çocuklara zarar veren bilgiler üretme ve AI "otomatik" yazılımlarla ağ botları faaliyetlerinde bulunma gibi birçok tipik vaka duyurdu. İhlal eden AI ürünleri ve uygulamalarına ilgili kurumlar, uyarı, para cezası, kaldırma veya kapatma gibi yasal önlemler uygulayacaktır.