A verdadeira adoção da IA pelo público não depende de quanto conteúdo ela pode gerar, mas sim se a sociedade confia no conteúdo que ela gera.

Autor e fonte do artigo: ME News



TL;DR

• O Escritório Central de Assuntos da Internet iniciou a segunda fase da campanha especial "Limpo · Combate ao Caos nas Aplicações de IA", focando na regulamentação de problemas como geração de informações falsas por IA, conteúdo obsceno e violento, imitação de identidade de terceiros e violação dos direitos das crianças e adolescentes. Até o momento, foram removidas mais de 5,61 milhões de informações ilegais e não autorizadas, 49 mil contas foram punidas e mais de 2.400 sites e aplicativos ilegais foram tratados.
• Plataformas de IA como Doubao, Yuanbao, Qianwen e Wenxin Yiyan estão aprimorando a revisão de dados de treinamento, filtros de segurança do modelo e mecanismos de identificação de conteúdo gerado; o objetivo principal não é limitar a capacidade da IA, mas reduzir o risco de uso indevido da tecnologia.
• A governança de IA está passando de “remover conteúdo inadequado” para “controlar o processo de geração de conteúdo”, com treinamento de modelos, fontes de dados, etapas de geração e cadeias de disseminação se tornando focos regulatórios.
• A competição comercial na IA generativa futuramente não só competirá em parâmetros de modelo e experiência do produto, mas também em capacidades de segurança, conformidade e confiança a longo prazo.
• A verdadeira adoção da IA pelo público não depende de quanto conteúdo ela pode gerar, mas sim se a sociedade confia no conteúdo que ela gera.

A velocidade do desenvolvimento da inteligência artificial está constantemente atualizando a percepção do público sobre os limites da tecnologia.

Há alguns anos, as pessoas discutiam IA, focando mais nos parâmetros do modelo, na escala de poder de computação, na qualidade das respostas e nos cenários de comercialização. Quem tinha o modelo maior e maior capacidade de raciocínio parecia ter a vantagem para vencer o futuro.

Mas, após a entrada na fase de aplicação em larga escala da IA generativa, uma questão mais realista começou a surgir: se a IA pode gerar em segundos um texto, uma imagem, um som ou até um conjunto inteiro de informações aparentemente reais, quem garante que esses conteúdos não se tornarão novas ferramentas para criar desinformação, manipular a opinião pública e violar direitos?

Este não é um problema distante.

O Escritório Central de Assuntos de Rede recentemente iniciou a segunda fase da campanha especial "Limpo · Combate ao Caos nas Aplicações de IA", voltada especificamente para gerenciar esse risco real. Esta campanha foca na regulamentação de problemas graves, como a utilização de IA para criar e divulgar informações falsas, propagar conteúdo violento e obsceno, imitar ou falsificar terceiros e violar os direitos das crianças e adolescentes. Até o momento, a campanha eliminou mais de 5,61 milhões de informações ilegais e não autorizadas, suspendeu mais de 49.000 contas e lidou com mais de 2.400 sites e aplicativos ilegais.

Por trás desses números, não está um problema com a tecnologia de IA, mas sim um desafio de governança que toda indústria em rápido desenvolvimento deve enfrentar ao entrar em sua fase de maturidade.

Qualquer tecnologia que altere a forma como a sociedade opera não se limita apenas à melhoria de eficiência.

A internet trouxe liberdade de fluxo de informações, mas também a propagação de informações falsas; pagamentos móveis transformaram a experiência financeira e deram origem a novos modelos de fraude; vídeos curtos reduziram a barreira para a produção de conteúdo, mas criaram um ambiente competitivo voltado para o tráfego.

A IA também é assim.

Ele pode aumentar a eficiência produtiva e também amplificar infrações de baixo custo.

Antes, criar um artigo falso ou um vídeo forjado exigia um grande esforço humano. Hoje, a IA reduziu a barreira para a produção de conteúdo, permitindo que usuários comuns tenham capacidades de geração próximas às de equipes profissionais. Sem mecanismos de governança adequados, os benefícios tecnológicos podem ser explorados por poucos para causar caos.

Portanto, a governança de IA não é frear a inovação, mas sim adicionar sistemas de segurança em uma estrada de desenvolvimento acelerado.

Muitas pessoas podem se perguntar: a IA não deveria ser o mais aberta possível? Por que cada vez mais produtos de IA estão começando a restringir o conteúdo gerado?

A essência desta questão é como entender os limites de responsabilidade dos produtos de inteligência artificial.

Os softwares tradicionais geralmente fornecem apenas ferramentas, mas a IA generativa não é uma simples ferramenta. Ela participa do processo de produção de conteúdo e até influencia diretamente a percepção do usuário.

Quando os usuários fazem perguntas à IA, o conteúdo gerado pelo modelo pode influenciar decisões de investimento, escolhas de saúde, aprendizado educacional e até a percepção de eventos públicos. Portanto, plataformas de IA não podem se concentrar apenas em “se conseguem gerar”, mas também devem considerar “o que geram”, “por que geram” e “quais impactos causam após a geração”.

Plataformas como Doubao, Yuanbao, Qwen e Wenxin Yiyan estão reforçando a governança de conteúdo, na verdade estabelecendo um novo sistema de segurança para produtos de IA. Segundo comunicado do departamento de rede e informação, as plataformas relacionadas estão realizando inspeções rigorosas sobre o conteúdo original, intensificando a filtragem de conteúdo inadequado e reforçando os requisitos de identificação de conteúdo gerado e sintetizado por IA, reduzindo desde a fonte o risco de geração e disseminação de informações ilegais ou não autorizadas. (Administração Estatal de Regulação de Mercado)

Isso significa que a governança de IA já não é mais apenas um “tratamento pós-evento” da era da internet tradicional.

No passado, as plataformas enfrentavam conteúdo inadequado principalmente por meio de detecção, remoção e bloqueio.

Mas a era da IA é diferente.

Se o problema ocorrer durante a geração, apenas remover o conteúdo divulgado não é suficiente. Pois a IA pode continuar gerando novas variantes, e o mesmo conteúdo em violação pode reaparecer com uma expressão diferente.

Portanto, a governança deve ser antecipada.

Desde os dados de treinamento até o controle das capacidades do modelo e, em seguida, à moderação de conteúdo gerado pelo usuário, forma-se uma cadeia completa.

Em resumo, os futuros produtos de IA excelentes não apenas responderão perguntas com maior precisão, mas também saberão quais perguntas não podem ser respondidas, quais conteúdos não podem ser gerados e em quais cenários é essencial alertar os usuários sobre riscos.

É por isso que a capacidade de segurança da IA está se tornando parte da competitividade do produto.

No entanto, a governança de IA não é simplesmente estabelecer um muro de "proibição de geração".

Se as restrições forem excessivas, os produtos de IA podem perder valor.

Se as restrições forem insuficientes, pode haver risco.

Este é um jogo prolongado sobre fronteiras.

Por exemplo, um usuário deseja que a IA o ajude a criar um romance que envolva elementos como guerra, crime e conflito — isso constitui conteúdo em violação?

Um pesquisador deseja que a IA analise como distinguir entre vulnerabilidades de segurança cibernética e ataques maliciosos.

Um entusiasta da história deseja que a IA adapte obras clássicas; como determinar se se trata de uma criação legítima ou de uma paródia vulgar?

Essas questões demonstram que a governança de IA não pode depender de filtragem simples por palavras-chave.

Uma governança verdadeiramente eficaz exige compreensão do contexto.

É por isso que a plataforma continua a aprimorar sua capacidade de reconhecimento multimodal, expandindo dinamicamente a biblioteca de rostos, a biblioteca de impressões vocais e a biblioteca de amostras de violação. Plataformas como Douyin, Kuaishou, Weibo, Tencent, Baidu, Bilibili, Xiaohongshu, Zhihu, Douban e Taobao estão aprimorando suas capacidades de reconhecimento e tratamento de conteúdo por meio de tecnologias e já publicaram 46 avisos relacionados à governança. (Administração Estatal de Mercado)

A futura competição em segurança de IA provavelmente será semelhante ao campo da condução autônoma.

Um sistema verdadeiramente avançado não proíbe completamente a circulação de automóveis, mas sim ajuda os veículos a trafegar com segurança em ambientes complexos.

A IA também é assim.

IA madura, não é um sistema incapaz de fazer nada, mas sim um que encontra o equilíbrio entre capacidades abertas e controle de riscos.

Alguns dos casos divulgados nesta campanha especial também demonstram novas formas de uso indevido da IA.

Um dos problemas típicos é o uso de IA para realizar adaptações de baixa qualidade de obras clássicas.

No passado, embora a produção de conteúdo online apresentasse qualidade precária, os custos de produção ainda limitavam a escala.

Após a aparição da IA, a geração em massa tornou-se possível.

Alguns perfis utilizam IA para “modificar” obras clássicas como “A Romance of the Three Kingdoms” e “Journey to the West”, alterando personagens e criando enredos excêntricos para atrair tráfego. Embora esses conteúdos pareçam apenas entretenimento, sua disseminação prolongada e em grande escala pode afetar a compreensão pública sobre conteúdos culturais e também esgotar o ecossistema de conteúdos de qualidade.

Outra questão é a geração de informações falsas por IA.

Antes, criar uma imagem falsa ou um vídeo falso exigia um alto nível técnico.

Agora, a IA generativa reduziu a barreira de entrada.

Cenas falsas de desastres, tendências sociais falsas e golpes de marketing com avatares digitais de IA podem explorar a assimetria de informação do público para gerar impacto. Os casos relatados neste comunicado do departamento de assuntos da internet incluem o uso de IA para gerar imagens falsas de desastres, fabricar informações sobre tendências sociais e realizar campanhas enganosas por meio de avatares digitais.

Mais digno de atenção é a troca de rosto e voz por IA.

Som e rosto são importantes critérios humanos para identificação.

Quando a IA puder simular a voz, expressões e até os hábitos comportamentais de uma pessoa, os sistemas de confiança de identidade enfrentam novos desafios.

This involves not only public figures but also ordinary users.

Hoje, uma foto ou amostra de voz de uma pessoa podem se tornar fontes de dados mal utilizadas.

Portanto, a proteção de dados na era da IA não se trata apenas de evitar vazamentos de informações, mas também de impedir que a identidade pessoal seja replicada digitalmente.

Nos últimos anos, a indústria chinesa de IA cresceu rapidamente.

Da pesquisa em grandes modelos até assistentes inteligentes, e depois para aplicações em produtividade, educação, comércio eletrônico, busca e outros cenários, a IA está passando da fase de demonstração técnica para a fase de aplicação prática.

Mas quanto mais próximo do usuário comum, mais importante se torna a segurança.

Uma empresa pode aceitar que o modelo às vezes responda incorretamente, mas tem dificuldade em aceitar que o modelo constantemente crie informações falsas.

Um usuário pode aceitar que a IA tenha limitações, mas tem dificuldade em aceitar que a IA ajude a criar golpes.

Portanto, a competição futura na indústria de IA não será apenas uma competição tecnológica.

O tamanho dos parâmetros é importante, a capacidade algorítmica é importante, mas a confiança também é importante.

Por que a indústria financeira dá tanta importância à conformidade?

Porque produtos financeiros conectam fundos.

Por que o setor de saúde dá tanta importância à segurança?

Porque as decisões médicas afetam vidas.

E a IA está gradualmente conectando conhecimento, informações e decisões.

It also requires building a foundation of trust.

Do ponto de vista deste ângulo, a ação de regulamentação da CAC desta vez não visa o desenvolvimento da IA, mas sim impulsionar a indústria de IA para uma fase de desenvolvimento mais madura. A regulamentação define limites claros, as plataformas aprimoram suas capacidades e os usuários aumentam seu entendimento, resultando finalmente em um ecossistema mais saudável.

A história do desenvolvimento tecnológico prova repetidamente que uma indústria realmente amadurece não quando consegue criar quantos milagres, mas quando consegue resolver quantos problemas.

AI já provou sua criatividade.

Ele pode ajudar as pessoas a escrever, programar e aprender, além de impulsionar as empresas a aumentar a eficiência.

Mas na próxima fase, a IA precisa provar outra coisa: se merece confiança.

Plataformas como DouBao, YuanBao, QianWen e Wenxin Yiyan estão reforçando restrições a conteúdo inadequado, essencialmente respondendo a uma questão-chave:

Quando a inteligência artificial possui cada vez mais capacidade criativa, ela também possui consciência de responsabilidade proporcional a essa capacidade?

A decisão determina não apenas a direção de desenvolvimento de alguns produtos de IA, mas também se todo o setor poderá entrar em um ciclo de desenvolvimento estável e duradouro.

O futuro da inteligência artificial não pertence aos sistemas que apenas geram mais conteúdo, mas aos que conseguem encontrar um equilíbrio entre criatividade, segurança e valor social.

A verdadeira grande tecnologia nunca é porque é capaz de tudo, mas porque sabe o que não pode fazer e por que não pode fazer.

1. Escritório da Comissão Central de Segurança Cibernética e Informação: “O Escritório Central de Cibersegurança aprofunda a segunda fase da campanha especial ‘Limpar e Regular o Caos nas Aplicações de IA’”, 2 de setembro de 2026.
2. Escritório Central de Segurança Cibernética e Informação: “O Escritório Central de Cibersegurança e Informação coordena a campanha especial ‘Limpo · Combater o Caos nas Aplicações de IA’”, 30 de abril de 2026.
3. Regulamento Provisório sobre a Gestão de Serviços de Inteligência Artificial Generativa, Escritório Nacional de Informação da Internet e outros departamentos, 2023.
4. Método de Identificação de Conteúdos Gerados e Sintetizados por Inteligência Artificial, Escritório Nacional de Informação da Internet e outros departamentos, 2025.
5. Russell, Stuart & Norvig, Peter. Artificial Intelligence: A Modern Approach. Pearson.
6. Shneiderman, Ben. IA Centrada no Ser Humano. Oxford University Press.