Substack lança ferramenta de detecção de conteúdo por IA para aumentar a transparência

Agora está cada vez mais difícil distinguir o que é conteúdo verdadeiro na internet.

Essa questão é relativamente leve no Substack, e queremos mantê-la assim. Como primeiro passo, hoje lançamos, em parceria com o Pangram, uma funcionalidade no aplicativo Substack. Futuramente, você poderá escanear textos para ver quanto deles provavelmente foi escrito à mão e quanto foi feito com auxílio de IA. Explicarei mais detalhes posteriormente, mas primeiro vou explicar por que isso é importante.

Segundo estimativas da Pangram, a proporção de texto gerado por IA em certas plataformas está aumentando, chegando a 40%. Essa é uma mudança enorme. Muitas pessoas reclamam que seus feeds estão cheios de conteúdo sem alma. Alguns nem percebem que estão lendo algo criado por ninguém.

O problema central não está no fato de as pessoas usarem IA, nem na qualidade das saídas da IA. Nem todo conteúdo criado com IA é lixo, nem todo lixo é criado por IA. O problema surge quando as expectativas do leitor não correspondem à realidade, especialmente quando eles, sem saber, dedicam sua atenção a conteúdo que não tem nenhum pensamento humano por trás. Isso é Claudefishing.

Freddie deBoer disse isso:

Eu me envolvo com a arte criada por humanos porque sei que há uma pessoa por trás dela — exatamente o que estou procurando: outras pessoas, mostrando-me, por meio da arte, o que escondem dentro de si mesmas. Enganar-me nesse processo seria apenas uma fraude.

Nós nos importamos com esse problema no Substack porque ele toca o núcleo do nosso trabalho: construir motores econômicos para a cultura. Isso significa ajudar pessoas reais — aquelas que pensam, sentem, observam, discutem, experimentam, refletem, lutam, aconselham e se importam — a ganhar dinheiro com o trabalho em que acreditam. Essa rede é construída sobre confiança entre pessoas, e é por isso que funciona.

Quando conteúdo sem autoria humana ocupa a parte da internet que deveria pertencer aos seres humanos, ele polui o espaço público, dificultando a descoberta e a escuta das vozes humanas. Quando os leitores são forçados a duvidar se o que estão lendo é autêntico, isso mina a confiança na autoria e ameaça os meios de subsistência dos escritores — incluindo aqueles que usam ferramentas de IA com reflexão para criar obras em que acreditam. Plataformas que recompensam conteúdo falso desencadearão uma corrida ao fundo do poço.

Este é um campo emergente, e não afirmamos ter todas as respostas. Mas uma coisa que realmente sabemos é que não queremos esperar até que seu aplicativo Substack se torne um LinkedIn para começar a aprender e progredir. Por isso, primeiro lançamos algumas novas ferramentas, na esperança de aumentar a transparência e estabelecer uma base para receber seu feedback.

Estamos colaborando com a ferramenta líder de detecção de IA, Pangram. Você poderá escanear notas, respostas, comentários e postagens para ver a estimativa de quanto texto é escrito manualmente ou auxiliado por IA. Isso se aplicará a textos com mais de 100 palavras publicados a partir de hoje, e os resultados da análise serão exibidos apenas para quem solicitar visualização.

Observe que o Pangram só pode detectar se o texto foi produzido com IA, mas não pode avaliar o quanto esforço humano foi investido na criação nem se ferramentas de IA foram usadas como fonte. Ele não é perfeito, mas estudos independentes mostram que ele consegue detectar textos gerados por IA com alta precisão. Acreditamos que é benéfico que as pessoas usem essas ferramentas para ajudá-las a tomar decisões.

Também lançamos ferramentas para criadores, incluindo a funcionalidade de adicionar uma declaração "Como criei isto", onde você pode explicar seu processo e definir expectativas para os leitores. Você pode executar o Pangram em rascunhos antes da publicação e também pode denunciar e remover quaisquer resultados de varredura que considerar incorretos sobre suas obras.

Esses recursos já estão disponíveis na web e no iOS, e em breve também serão lançados no Android. Este é apenas o começo. Com base no feedback e no interesse, estamos considerando as seguintes ferramentas:

Defina suas preferências sobre conteúdo de IA para sua comunidade na regra de resposta.

Oferecer aos criadores mais maneiras de expressar o valor pessoal que fornecem, seja por meio de escrita humana ou uso reflexivo de IA

Permita que os leitores escolham definir suas preferências sobre quais conteúdos devem ser recomendados para eles.

Com a aceleração desses problemas pela IA, continue aprimorando nossos sistemas para combater spam, bots e diversos tipos de golpes.

Não nos opomos ao uso de IA para auxiliar o trabalho; acreditamos que as pessoas devem ter liberdade para escolher quais ferramentas usar para se expressar. Alguns usuários na plataforma são maximalistas da escrita humana, enquanto outros exploram abertamente as fronteiras das ferramentas de IA, prestando atenção aos detalhes para criar os conteúdos que apoiam. Sempre utilizamos IA no Substack para escrever software, realizar pesquisas e construir funcionalidades de produtos, como recortes e traduções.

Mas as pessoas devem saber o que estão recebendo. Por exemplo, você pode não se importar em ler uma análise perspicaz de alguém que depende fortemente de IA para apresentar resultados de pesquisa, mas só quer gastar tempo interagindo com respostas escritas manualmente por humanos. De qualquer forma, você deve ter a escolha.

Estamos todos juntos entrando neste novo mundo estranho, e não conseguimos imaginar uma maneira melhor de descobrir as novas ferramentas e novas normas sociais de que precisamos do que por meio de um debate aberto. Queremos ouvir sua opinião: como o Substack pode ajudar a apoiar a criação humana valiosa na era da IA? Quando o uso da IA é Claudefishing? Quando é bom?

Mesmo que a IA se torne quão poderosa for, a perspectiva humana é um elemento fundamental da cultura, e isso sempre será assim. Na verdade, quanto mais você espera que essas ferramentas melhorem continuamente, mais importante se torna compreender a origem do conteúdo que você está lendo. Claude tem muitas vantagens! Mas quando quero a opinião do Claude, pergunto diretamente ao Claude.

Autor: Chris Best; Tradução: DeepChao TechFlow; Imagem: Interface da ferramenta de detecção de IA em parceria com o Substack e o Pangram, mostrando a proporção de texto escrito por humanos e auxiliado por IA. Fonte: Substack