De grens tussen menselijk schrijven en kunstmatige generatie vervaagt snel. Substack heeft zojuist een stap gezet om u te helpen het verschil te zien. Het platform heeft een nieuwe functie aangekondigd waarmee u rechtstreeks in de app en op internet naar door AI gegenereerde inhoud kunt scannen. Het wordt aangedreven door een detectie-engine van een bedrijf genaamd Pangram. Deze tool bevindt zich nu in Substack-berichten, notities, antwoorden en zelfs opmerkingen.
De logica achter de update is eenvoudig genoeg. Niet alles wat AI schrijft is onzin. Niet al het schrijven met weinig inspanning komt van een machine. Maar lezers verdienen het om te weten waar ze hun tijd in investeren. Als je op een artikel klikt en een menselijke stem verwacht, voelt het verkeerd als je beseft dat het alleen maar algoritmische ruis is. Die mismatch is het probleem dat Substack wil oplossen.
Hoe de AI-detectiefunctie te gebruiken
Je hebt geen nieuwe app nodig om dit werkend te krijgen. De tool is nu live op internet en in de iOS-app. Android-gebruikers zullen nog wat langer moeten wachten. Om het te gebruiken, zoek je eenvoudigweg naar het menu met drie stippen “…” in een bepaald bericht. Tik erop. Selecteer ‘Scannen naar AI-tekst’. Er verschijnt onmiddellijk een kleine pop-up. Het toont een uitsplitsing in procenten: hoeveel wordt waarschijnlijk door AI gegenereerd, hoeveel wordt door AI ondersteund en hoeveel is puur menselijk.
Hier zijn regels voor. De tekst moet lang genoeg zijn. Als u naar een fragment kijkt dat korter is dan 100 woorden, wordt u door de tool afgesloten. Er zijn meer gegevens nodig om een meting te kunnen doen. Er is ook een tijdlijnbeperking. Alleen inhoud die na 21 juli 11.30 uur Pacific op 21 juli wordt gepubliceerd, komt in aanmerking. Probeer een ouder bericht te scannen en je krijgt een pop-up waarin staat dat het niet in aanmerking komt. Substack is voorzichtig met de historische nauwkeurigheid van deze statistiek.
Waarom Substack om de herkomst geeft
Chris Best, de mede-oprichter en CEO, heeft het duidelijk in de aankondigingsblogpost gezegd. Het probleem is bedrog. Wanneer een lezer twintig minuten aan een essay besteedt en er vervolgens geen enkele menselijke gedachte achter ontdekt, breekt het vertrouwen. Het platform probeert dat vertrouwen te behouden.
Het is vermeldenswaard dat de detectie afhankelijk is van het initiatief van de gebruiker. Pangram scant alleen tekst als u daarom vraagt. De bal ligt in het kamp van de lezer. Je moet de waarheid willen weten. De tool heeft ook beperkingen. Het kan niet zien of een mens AI heeft gebruikt voor achtergrondonderzoek voordat hij een pen (of toetsenbord) oppakte. Het markeert alleen de uiteindelijke tekststructuur.
Best voegde via de tool zelfs een persoonlijke noot toe aan zijn eigen berichten. “Ik ben dit allemaal nog aan het uitzoeken”, schreef hij. ‘Intussen zijn deze woorden de mijne, ten goede of ten kwade.’ Een openhartige bekentenis. Hij wil transparantie, ook al is de detectiewetenschap nog jong.
Functies voor auteurs en schrijvers
Het is niet alleen een gadget dat op de lezer gericht is. Schrijvers krijgen ook hulpmiddelen. Auteurs kunnen nu een aangepaste verklaring toevoegen waarin hun schrijfproces wordt uitgelegd. Als je AI hebt gebruikt, zeg dat dan. Als je dat niet hebt gedaan, verduidelijk dat dan ook. Deze opmerking verschijnt wanneer iemand de detectietool op uw werk uitvoert.
Auteurs hebben ook macht. Als u denkt dat Pangram uw werk verkeerd heeft gelabeld, kunt u de detectie zelf uitvoeren en een rapport indienen. U kunt de bevinding betwisten. U kunt de AI-detectievlag zelfs volledig verwijderen door de functie voor uw inhoud uit te schakelen. Het is uw keuze of u het label zichtbaar wilt houden, ongeacht wat het algoritme zegt.
Hoe werkt het eigenlijk onder de motorkap? Pangram maakt gebruik van een neuraal classificatienetwerk. Het is getraind om menselijke patronen te onderscheiden van AI-patronen. Om vooringenomenheid te voorkomen, trainden ze het model op door mensen geschreven tekst die vóór 2021 was gepubliceerd. Dat was voordat generatieve AI het internet overspoelde. Dit zorgt ervoor dat de basislijn voor ‘mens’ zuiver is. Het houdt door AI gegenereerde monsters buiten de trainingsgegevens, wat later valse positieven voorkomt.
Het grotere plaatje van online schrijven
We leven in een moment waarop de hoeveelheid AI-tekst explodeert. Een recent onderzoek van digitaal marketingbedrijf Graphito beweert dat online artikelen die voornamelijk door AI zijn geschreven, nu gelijk zijn aan die die door mensen zijn geschreven. Het landschap verandert snel.
Verschillende publicaties hebben te maken gekregen met terugslag omdat ze op AI vertrouwen. Sommige van deze artikelen waren gevuld met hallucinaties en fouten. Anderen werden toegeschreven aan nep-auteurs gemaakt door AI. Het creëert een verwarringsspiraal. Lezers weten niet meer wie echt is.
Substack ziet dit aankomen. Ze overwegen meer functies. Stel je voor dat je je feed filtert om alleen door mensen geschreven inhoud weer te geven. U kunt voorkeuren instellen om AI volledig uit te sluiten. Best zegt dat ze luisteren naar feedback van gebruikers. Als je zuiverheid wilt, kan de tool je die binnenkort geven.
Maar voorlopig moet je het voorwerk doen. Je moet op dat menu tikken. Je moet scannen. Het instrument is een begin. Het is geen perfecte balans. Het is een signaal in de ruis. Zal het alles vangen? Waarschijnlijk niet. Maar het stelt de juiste vraag: wie praat er eigenlijk tegen je? Het antwoord is belangrijk.
