Substack lança ferramenta de detecção de IA para ajudar os leitores a avaliar a autenticidade do conteúdo

Autor: Chris Best

Tradução: Deep潮 TechFlow

Leitura destacada da Shenchao: Até 40% do conteúdo nas redes sociais já é gerado por IA, mas os leitores muitas vezes não sabem. A Substack acredita que esse "Claudefishing" (fingir ser escrita humana) está minando a confiança entre leitores e autores, ameaçando os meios de subsistência dos criadores de conteúdo. Sua abordagem é: deixar que os leitores decidam por si mesmos, em vez de o plataforma decidir por você.

Agora está cada vez mais difícil distinguir o que é conteúdo verdadeiro na internet.

Essa questão é relativamente leve no Substack, e queremos mantê-la assim. Como primeiro passo, hoje lançamos, em parceria com o Pangram, uma funcionalidade no aplicativo Substack. Futuramente, você poderá escanear textos para ver quanto deles provavelmente foi escrito à mão e quanto foi feito com auxílio de IA. Explicarei mais detalhes posteriormente, mas primeiro vou explicar por que isso é importante.

Segundo estimativas da Pangram, a proporção de texto gerado por IA em certas plataformas está aumentando, chegando a 40%. Essa é uma mudança enorme. Muitas pessoas reclamam que seus feeds estão cheios de conteúdo sem alma. Algumas nem percebem que estão lendo algo criado por ninguém.

O problema central não está no uso de IA pelas pessoas, nem na qualidade das saídas da IA. Nem todo conteúdo criado com IA é lixo, nem todo lixo é criado por IA. O problema surge quando as expectativas do leitor não correspondem à realidade, especialmente quando eles, sem saber, dedicam sua atenção a conteúdo que não tem nenhum pensamento humano por trás. Isso é Claudefishing.

Freddie deBoer disse:

Eu me envolvo com a arte criada por humanos porque sei que há uma pessoa por trás disso — exatamente o que estou procurando: outras pessoas, mostrando-me, por meio da arte, o que escondem dentro de si mesmas. Enganar-me nesse processo é apenas uma fraude.

Nós nos importamos com esse problema no Substack porque ele toca o núcleo do nosso trabalho: construir motores econômicos para a cultura. Isso significa ajudar pessoas reais — aquelas que pensam, sentem, observam, discutem, experimentam, refletem, lutam, aconselham e se importam — a ganhar dinheiro com o trabalho em que acreditam. Essa rede é construída sobre confiança entre pessoas, e é por isso que funciona.

Quando conteúdo sem autoria humana ocupa a parte da internet que deveria pertencer aos seres humanos, ele polui o espaço público, dificultando a descoberta e a escuta das vozes humanas. Quando os leitores são forçados a duvidar se o que estão lendo é autêntico, isso mina a confiança na identidade do autor e ameaça os meios de subsistência dos escritores — incluindo aqueles que usam ferramentas de IA com reflexão para criar obras em que acreditam. Plataformas que recompensam conteúdo falso desencadearão uma corrida ao fundo do poço.

Este é um campo emergente, e não afirmamos ter todas as respostas. Mas uma coisa que realmente sabemos é que não queremos esperar até que seu aplicativo Substack se torne um LinkedIn para começar a aprender e avançar. Por isso, primeiro lançamos algumas novas ferramentas, na esperança de aumentar a transparência e estabelecer uma base para receber seu feedback.

Estamos colaborando com a ferramenta líder de detecção de IA, Pangram. Você poderá escanear notas, respostas, comentários e postagens para ver a estimativa de quanto texto é escrito manualmente ou auxiliado por IA. Isso se aplicará a textos com mais de 100 palavras publicados a partir de hoje, e os resultados da análise serão exibidos apenas para quem solicitar visualização.

Imagem: Interface da ferramenta de detecção de IA da Substack em parceria com a Pangram, mostrando a proporção de texto escrito por humanos e auxiliado por IA. Fonte: Substack

Observe que o Pangram pode detectar apenas se um texto foi produzido com IA, mas não pode avaliar o quanto esforço humano foi investido na criação nem se ferramentas de IA foram usadas como fonte. Ele não é perfeito, mas estudos independentes mostram que ele consegue detectar textos gerados por IA com alta precisão. Acreditamos que é benéfico que as pessoas usem essas ferramentas para ajudar em suas decisões.

Também lançamos ferramentas para criadores, incluindo a funcionalidade de adicionar uma declaração "Como criei isto", onde você pode explicar seu processo e definir expectativas para os leitores. Você pode executar o Pangram em seus rascunhos antes de publicar, além de denunciar e remover quaisquer resultados de varredura que considere incorretos sobre suas obras.

Esses recursos já estão disponíveis na web e no iOS, e em breve também serão lançados no Android. Este é apenas o início. Com base no feedback e no interesse, estamos considerando as seguintes ferramentas:

Defina suas preferências sobre conteúdo de IA para sua comunidade na regra de resposta.

Oferecer aos criadores mais maneiras de expressar o valor pessoal que fornecem, seja por meio de escrita humana ou uso reflexivo de IA

Permita que os leitores escolham definir suas preferências sobre quais conteúdos devem ser recomendados para eles.

À medida que a IA acelera esses problemas, continue a aprimorar nossos sistemas para combater spam, bots e diversos tipos de golpes

Não nos opomos ao uso de IA para auxiliar o trabalho; acreditamos que as pessoas devem ter liberdade para escolher quais ferramentas usar para se expressar. Alguns usuários na plataforma são maximalistas da escrita humana, enquanto outros exploram abertamente as fronteiras das ferramentas de IA, prestando atenção aos detalhes para criar o conteúdo que apoiam. Sempre usamos IA no Substack para escrever software, realizar pesquisas e construir funcionalidades de produtos, como recortes e traduções.

Mas as pessoas devem saber o que estão recebendo. Por exemplo, você pode não se importar de ler uma análise perspicaz de alguém que depende fortemente de IA para apresentar resultados de pesquisa, mas só quer gastar tempo interagindo com respostas escritas à mão por humanos. De qualquer forma, você deve ter a escolha.

Estamos todos juntos entrando neste novo mundo estranho, e não conseguimos pensar em uma maneira melhor de descobrir as novas ferramentas e novas normas sociais de que precisamos do que por meio de um debate aberto. Queremos ouvir sua opinião: como o Substack pode ajudar a apoiar a criação humana valiosa na era da IA? Quando o uso da IA é Claudefishing? Quando é bom?

Mesmo que a IA se torne quão poderosa for, a perspectiva humana é um elemento fundamental da cultura, e isso sempre será verdade. Na verdade, quanto mais você espera que essas ferramentas se aprimorem continuamente, mais importante se torna compreender a origem do conteúdo que você está lendo. Claude tem muitas vantagens! Mas quando quero a opinião do Claude, pergunto diretamente ao Claude.