中國網信辦打擊人工智能生成的暴力與非法內容

iconKuCoinFlash
分享
AI summary icon精華摘要
中國網信辦已加強「清朗」AI治理行動,打擊AI平台生成的非法內容。第二階段共移除超過561萬起違規內容,暫停49,000個帳戶,並處理超過2,400個不合规網站與應用程式。豆包、元寶、通義千問和文心一言等平台已強化內容管控。主要科技公司亦正加強對AI生成內容的標註及開發者審核,以應對風險資產轉向與監管重點的變化。流動性與加密貨幣市場仍對宏觀監管動向高度敏感。
ME AI 消息,動察 Beating AI 快訊,中國中央網信辦近期開展「清朗·整治 AI 應用亂象」專項行動第二階段,重點整治利用 AI 生成發布虛假資訊、暴力低俗內容、假冒仿冒他人及侵害未成年人權益等問題。截至目前,專項行動已累計清理違法違規資訊 561 萬餘條,查處賬號 4.9 萬餘個,處置違規網站、應用程式等 2400 個餘。 在 AI 內容治理方面,抖音、快手、微博、騰訊、百度、哔哩哔哩、小紅書、知乎、豆瓣、淘寶等平台進一步強化多模態識別能力,動態擴充人臉庫、聲紋庫及違規樣本庫,並加大違規賬號和資訊處置力度,累計發布各類治理公告 46 期。 同時,豆包、元寶、千問、文心一言等 AI 平台嚴把原始語料審核關,嚴格限制違規內容輸出,並強化 AI 生成合成內容標識要求;華為、小米、OPPO、vivo 等應用商店則加強 App 開發者準入和上架審核,對在架應用開展抽檢複測。 專項行動期間,網信部門還通報多起典型案例,包括利用 AI「魔改」經典名著、生成虛假災害及社會熱點資訊、AI 換臉換聲假冒公眾人物、批量製作暴力低俗內容、利用 AI 生成侵害未成年人權益的資訊,以及使用 AI「托管」軟體從事網絡水軍活動等。對於違規 AI 產品和應用,相關部門將依法採取警告、罰款、下架或關閉等措施。(來源:BlockBeats)
免責聲明:本頁面資訊可能來自第三方,不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用,不構成任何形式的陳述或保證,也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏,或因使用該資訊而導致的任何結果不承擔任何責任。 虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息,請參閱我們的使用條款風險披露