A linha entre a escrita humana e a geração artificial está se confundindo rapidamente. Substack acabou de fazer um movimento para ajudá-lo a perceber a diferença. A plataforma anunciou um novo recurso que permite procurar conteúdo gerado por IA diretamente no aplicativo e na web. É alimentado por um mecanismo de detecção de uma empresa chamada Pangram. Esta ferramenta agora fica dentro de postagens, notas, respostas e até comentários do Substack.
A lógica por trás da atualização é bastante simples. Nem tudo que a IA escreve é lixo. Nem toda escrita de baixo esforço vem de uma máquina. Mas os leitores merecem saber no que estão investindo seu tempo. Se você clicar em um artigo esperando uma voz humana, parecerá errado quando você perceber que é apenas ruído algorítmico. Essa incompatibilidade é o problema que Substack deseja corrigir.
Como usar o recurso de detecção de IA
Você não precisa de um novo aplicativo para que isso funcione. A ferramenta está disponível agora na web e no aplicativo iOS. Os usuários do Android terão que esperar um pouco mais. Para usá-lo, basta procurar o menu de três pontos “…” em qualquer postagem. Toque nele. Selecione “Verificar texto AI”. Um pequeno pop-up aparece instantaneamente. Ele mostra um detalhamento percentual: quanto é provavelmente gerado por IA, quanto é assistido por IA e quanto é puramente humano.
Existem regras para isso. O texto deve ser longo o suficiente. Se você estiver vendo um trecho com menos de 100 palavras, a ferramenta o desligará. São necessários mais dados para dar uma leitura. Há também uma restrição de cronograma. Somente o conteúdo publicado depois das 11h30 (horário do Pacífico) do dia 21 de julho é elegível. Tente digitalizar uma postagem mais antiga e você verá um pop-up informando que ela não é elegível. A Substack está sendo cautelosa quanto à precisão histórica dessa métrica.
Por que a Substack se preocupa com a procedência
Chris Best, o cofundador e CEO, deixou isso claro na postagem do blog de anúncio. A questão é o engano. Quando um leitor passa vinte minutos em um ensaio, apenas para não encontrar nenhum pensamento humano por trás dele, a confiança se quebra. A plataforma está tentando preservar essa confiança.
Vale ressaltar que a detecção depende da iniciativa do usuário. O Pangram só verifica o texto se você solicitar. A bola está na quadra do leitor. Você tem que querer saber a verdade. A ferramenta também tem limites. Ele não pode ver se um humano usou IA para pesquisa de fundo antes de pegar uma caneta (ou teclado). Ele sinaliza apenas a estrutura final do texto.
Best até adicionou uma nota pessoal em suas próprias postagens por meio da ferramenta. “Ainda estou descobrindo tudo isso”, escreveu ele. “Enquanto isso, essas palavras são minhas, para o bem ou para o mal.” Uma admissão sincera. Ele quer transparência, mesmo que a ciência da detecção ainda seja jovem.
Recursos para autores e escritores
Não é apenas um gadget voltado para o leitor. Os escritores também ganham ferramentas. Os autores agora podem adicionar uma declaração personalizada explicando seu processo de redação. Se você usou IA, diga isso. Se não, esclareça isso também. Esta nota aparece quando alguém executa a ferramenta de detecção no seu trabalho.
Os autores também têm poder. Se você acredita que o Pangram rotulou incorretamente seu trabalho, você mesmo pode executar a detecção e enviar um relatório. Você pode contestar a descoberta. Você pode até remover totalmente o sinalizador de detecção de IA desativando o recurso em seu conteúdo. É sua escolha manter o rótulo visível, independentemente do que o algoritmo diz.
Como isso realmente funciona nos bastidores? Pangram usa uma rede neural classificadora. Ele é treinado para distinguir padrões humanos de padrões de IA. Para evitar preconceitos, eles treinaram o modelo em textos de autoria humana publicados antes de 2021. Isso foi antes de a IA generativa inundar a Internet. Isso garante que a linha de base para “humano” seja pura. Ele mantém as amostras geradas por IA fora dos dados de treinamento, o que evita falsos positivos posteriormente.
O panorama geral da escrita online
Estamos vivendo um momento em que o volume de texto de IA está explodindo. Um estudo recente da empresa de marketing digital Graphito afirma que os artigos online escritos principalmente por IA agora são iguais aos escritos por humanos. A paisagem está mudando rapidamente.
Várias publicações enfrentaram reações adversas por confiar na IA. Alguns desses artigos estavam cheios de alucinações e erros. Outros foram atribuídos a autores falsos criados pela IA. Isso cria uma espiral de confusão. Os leitores param de saber quem é real.
Substack vê isso chegando. Eles estão considerando mais recursos. Imagine filtrar seu feed para mostrar apenas conteúdo escrito por humanos. Você pode definir preferências para excluir totalmente a IA. Best diz que está ouvindo o feedback dos usuários. Se você deseja pureza, a ferramenta poderá em breve fornecê-la a você.
Mas, por enquanto, você tem que fazer o trabalho braçal. Você tem que tocar nesse menu. Você tem que digitalizar. A ferramenta é um começo. Não é um equilíbrio perfeito. É um sinal no ruído. Será que vai pegar tudo? Provavelmente não. Mas faz a pergunta certa: quem está realmente falando com você? A resposta é importante.
