Администрация киберпространства Китая борется с насилием и незаконным контентом, созданным с помощью ИИ

Beating AI Новости: В последнее время Китайское управление по сетевой безопасности провело второй этап специальной кампании «Чистая сеть: борьба с хаосом в применении ИИ», сосредоточившись на борьбе с использованием ИИ для создания и распространения ложной информации, жестокого и непристойного контента, подделки и имитации личностей, а также нарушения прав несовершеннолетних. На данный момент в рамках кампании было удалено более 5,61 миллиона нарушительных сообщений, заблокировано более 49 000 аккаунтов и устранено более 2400 нарушительных веб-сайтов и приложений. В области управления контентом ИИ платформы, такие как Douyin, Kuaishou, Weibo, Tencent, Baidu, Bilibili, Xiaohongshu, Zhihu, Douban и Taobao, усилили свои возможности мультимодального распознавания, динамически расширили базы данных лиц, голосовых отпечатков и примеров нарушений, а также усилили меры по блокировке нарушительных аккаунтов и сообщений, опубликовав в общей сложности 46 объявлений о мерах по контролю. В то же время платформы ИИ, такие как DouBao, Yuanbao, Qwen и Wenxin Yiyan, ужесточили проверку исходных данных, строго ограничили вывод нарушительного контента и усилили требования к маркировке сгенерированного ИИ контента; магазины приложений Huawei, Xiaomi, OPPO и vivo усилили контроль за допуском разработчиков и проверкой приложений перед публикацией, а также провели выборочные повторные проверки уже доступных приложений. В ходе кампании органы по сетевой безопасности также опубликовали несколько типичных случаев нарушений, включая «модификацию» классических литературных произведений с помощью ИИ, создание ложной информации о катастрофах и социальных трендах, использование ИИ для замены лиц и голосов с целью имитации публичных личностей, массовое создание жестокого и непристойного контента, генерацию информации, нарушающей права несовершеннолетних с помощью ИИ, а также использование ИИ-«управляемых» программ для участия в сетевых армиях троллей. В отношении нарушительных продуктов и приложений ИИ соответствующие органы примут в соответствии с законом меры, такие как предупреждение, штраф, удаление или закрытие.