中国のネット空間管理局、AI生成の暴力的および違法なコンテンツを摘発

動察 Beating AI ニュース速報：中国中央ネット情報弁公室はこのほど、「清朗・AIアプリの混乱を整理する」特別行動の第2段階を開始し、AIを用いた虚偽情報の生成・配信、暴力的で低俗なコンテンツ、他人のなりすまし、未成年者の権益侵害などの問題に重点的に取り組んでいます。これまでに、この特別行動は合計で561万件以上の違法・違反情報を削除し、4万9,000件以上のアカウントを処分し、2,400件以上の違法ウェブサイトやアプリケーションを対処しました。 AIコンテンツの管理において、抖音、快手、微博、騰訊、百度、哔哩哔哩、小紅書、知乎、豆瓣、淘宝などのプラットフォームは、マルチモーダル認識能力をさらに強化し、顔画像データベース、音紋データベース、違反サンプルデータベースを動的に拡充するとともに、違反アカウントおよび情報の処分を強化し、これまでに合計46回の管理公告を発表しています。 また、豆包、元宝、千問、文心一言などのAIプラットフォームは、元データの審査を厳格に実施し、違反コンテンツの出力を厳しく制限し、AI生成・合成コンテンツの明示要件を強化しています。一方、華為、小米、OPPO、vivoなどのアプリストアは、アプリ開発者の参入および掲載審査を強化し、既に掲載されているアプリに対して抽出検査と再評価を実施しています。 特別行動期間中、ネット情報部門は複数の代表的な事例を公表しました。これらには、AIを用いて古典文学を「改変」すること、虚偽の災害や社会的ホットトピック情報を生成すること、AIによる顔・声の交換で公人をなりすますこと、暴力的で低俗なコンテンツを大量に作成すること、AIを用いて未成年者の権益を侵害する情報を生成すること、およびAI「タスク管理」ソフトウェアを利用してネット水軍活動を行うことなどが含まれます。違法なAI製品およびアプリについては、関係当局が警告、罰金、削除または停止などの措置を法的に講じます。