La frontière entre l’écriture humaine et la génération artificielle s’estompe rapidement. Substack vient de faire un geste pour vous aider à faire la différence. La plateforme a annoncé une nouvelle fonctionnalité qui vous permet de rechercher du contenu généré par l’IA directement dans l’application et sur le Web. Il est alimenté par un moteur de détection d’une société appelée Pangram. Cet outil se trouve désormais dans les publications, les notes, les réponses et même les commentaires de Substack.
La logique derrière la mise à jour est assez simple. Tout ce que l’IA écrit n’est pas forcément une connerie. Toutes les écritures nécessitant peu d’effort ne proviennent pas d’une machine. Mais les lecteurs méritent de savoir dans quoi ils investissent leur temps. Si vous cliquez sur un article en attendant une voix humaine, vous vous sentirez mal lorsque vous réaliserez qu’il ne s’agit que d’un bruit algorithmique. Cette inadéquation est le problème que Substack veut résoudre.
Comment utiliser la fonction de détection de l’IA
Vous n’avez pas besoin d’une nouvelle application pour que cela fonctionne. L’outil est actuellement disponible sur le Web et dans l’application iOS. Les utilisateurs d’Android devront attendre encore un peu. Pour l’utiliser, il vous suffit de rechercher le menu à trois points “…” sur n’importe quel message donné. Appuyez dessus. Sélectionnez “Rechercher le texte AI”. Une petite fenêtre contextuelle apparaît instantanément. Il montre une répartition en pourcentage : quelle part est probablement générée par l’IA, quelle part est assistée par l’IA et quelle part est purement humaine.
Il y a des règles à cela. Le texte doit être suffisamment long. Si vous consultez un extrait de moins de 100 mots, l’outil vous arrête. Il a besoin de plus de données pour donner une lecture. Il existe également une restriction temporelle. Seul le contenu publié après 11 h 30 (heure du Pacifique) le 21 juillet est éligible. Essayez de numériser une publication plus ancienne et vous obtiendrez une fenêtre contextuelle vous indiquant qu’elle n’est pas éligible. Substack fait preuve de prudence quant à la précision historique avec cette métrique.
Pourquoi Substack se soucie de la provenance
Chris Best, co-fondateur et PDG, l’a clairement exprimé dans le billet de blog d’annonce. Le problème est la tromperie. Lorsqu’un lecteur passe vingt minutes sur un essai, pour ne trouver aucune pensée humaine derrière, la confiance se brise. La plateforme essaie de préserver cette confiance.
Il convient de noter que la détection repose sur l’initiative de l’utilisateur. Pangram scanne le texte uniquement si vous le lui demandez. La balle est dans le camp du lecteur. Il faut vouloir connaître la vérité. L’outil a aussi des limites. Il ne peut pas voir si un humain a utilisé l’IA pour des recherches de fond avant de prendre un stylo (ou un clavier). Il marque uniquement la structure finale du texte.
Best a même ajouté une note personnelle sur ses propres publications via l’outil. “Je suis encore en train de comprendre tout cela”, a-t-il écrit. “En attendant, ces mots sont de moi, pour le meilleur ou pour le pire.” Un aveu franc. Il veut de la transparence, même si la science de la détection est encore jeune.
Fonctionnalités pour les auteurs et les écrivains
Ce n’est pas seulement un gadget destiné au lecteur. Les écrivains disposent également d’outils. Les auteurs peuvent désormais ajouter une déclaration personnalisée expliquant leur processus d’écriture. Si vous avez utilisé l’IA, dites-le. Si ce n’est pas le cas, clarifiez-le également. Cette note apparaît lorsque quelqu’un exécute l’outil de détection sur votre travail.
Les auteurs ont aussi du pouvoir. Si vous pensez que Pangram a mal étiqueté votre travail, vous pouvez exécuter la détection vous-même et soumettre un rapport. Vous pouvez contester la conclusion. Vous pouvez même supprimer entièrement l’indicateur de détection de l’IA en désactivant la fonctionnalité sur votre contenu. C’est à vous de choisir de garder ou non l’étiquette visible, indépendamment de ce que dit l’algorithme.
Concrètement, comment ça marche sous le capot ? Pangram utilise un réseau neuronal classificateur. Il est formé pour distinguer les modèles humains des modèles IA. Pour éviter les biais, ils ont formé le modèle sur des textes rédigés par des humains et publiés avant 2021. C’était avant que l’IA générative n’inonde Internet. Cela garantit que la base de référence pour « humain » est pure. Il conserve les échantillons générés par l’IA hors des données d’entraînement, ce qui évite les faux positifs ultérieurement.
Vue d’ensemble de l’écriture en ligne
Nous vivons à une époque où le volume de textes sur l’IA explose. Une étude récente de la société de marketing numérique Graphito affirme que les articles en ligne rédigés principalement par l’IA sont désormais équivalents à ceux rédigés par des humains. Le paysage évolue rapidement.
Plusieurs publications ont été confrontées à des réactions négatives en raison de leur confiance dans l’IA. Certains de ces articles étaient remplis d’hallucinations et d’erreurs. D’autres ont été attribués à de faux auteurs créés par l’IA. Cela crée une spirale de confusion. Les lecteurs ne savent plus qui est réel.
Substack voit cela venir. Ils envisagent davantage de fonctionnalités. Imaginez filtrer votre flux pour afficher uniquement le contenu écrit par des humains. Vous pouvez définir des préférences pour exclure complètement l’IA. Best dit qu’ils écoutent les commentaires des utilisateurs. Si vous voulez de la pureté, l’outil pourrait bientôt vous la donner.
Mais pour l’instant, vous devez faire les démarches. Vous devez appuyer sur ce menu. Il faut scanner. Cet outil est un début. Ce n’est pas un équilibre parfait. C’est un signal dans le bruit. Est-ce que ça va tout attraper ? Probablement pas. Mais il pose la bonne question : qui vous parle réellement ? La réponse compte.
