Hranice mezi lidským textem a automatickým generováním se rychle stírá. Substack učinil krok, aby pomohl čtenářům rozlišit mezi těmito dvěma. Platforma oznámila novou funkci, která umožňuje skenovat obsah generovaný AI přímo v aplikaci a na webové verzi. Je založen na detekčním systému od Pangramu. Nástroj je nyní integrován do příspěvků, poznámek, odpovědí a komentářů Substacku.
Logika aktualizace je jednoduchá. Ne všechno, co AI píše, je odpad. Ne každý narychlo psaný text vytváří stroj. Ale čtenáři si zaslouží vědět, kde tráví čas. Pokud otevřete článek a očekáváte skutečný hlas od autora a vše, co najdete, je algoritmický šum, je to vypnuto. Právě tento rozpor se Substack snaží napravit.
Jak používat funkci rozpoznávání AI
K provozu není potřeba žádná nová aplikace. Nástroj je již dostupný ve webové verzi a iOS aplikaci. Uživatelé Androidu si budou muset ještě chvíli počkat. Chcete-li tuto funkci použít, najděte v libovolném příspěvku nabídku se třemi tečkami „…“. Klikněte na něj a vyberte „Vyhledat text AI“. Okamžitě se objeví vyskakovací okno s procentem ukazujícím, kolik textu pravděpodobně vytvořila umělá inteligence, kolik bylo pomocí umělé inteligence a kolik bylo čistě člověkem.
Tato funkce má svá pravidla. Text by měl být dostatečně objemný. Pokud si prohlížíte pasáž kratší než 100 slov, nástroj nebude fungovat – potřebuje více dat k analýze. Je zde také časový limit. Zkontrolován bude pouze obsah publikovaný po 11:30 PT dne 21. července. Pokud se pokusíte naskenovat starší příspěvek, obdržíte upozornění, že není způsobilý ke kontrole. Substack je ohledně historické přesnosti této metriky opatrný.
Proč se Substack zajímá o původ obsahu
Chris Best, spoluzakladatel a generální ředitel, vyjádřil problém v blogovém příspěvku na platformě. Jde o zkreslení. Když čtenář stráví dvacet minut esejí, aby zjistil, že za tím není ani špetka lidské myšlenky, důvěra je zničena. Platforma se snaží tuto důvěru udržet.
Je důležité si uvědomit, že skenování spouští uživatel. Pangram analyzuje text pouze tehdy, když si to vyžádáte. Vy sami musíte chtít znát pravdu. Nástroj má také omezení: nedokáže určit, zda člověk před napsáním textu použil AI pro předběžný výzkum. Systém vyhodnocuje pouze výslednou strukturu textu.
Best dokonce prostřednictvím tohoto nástroje přidal ke svým příspěvkům osobní poznámku: “Stále vymýšlím všechny ty inovace. Ale mezitím jsou tato slova moje, v dobrém i ve zlém.” Upřímné přiznání. Usiluje o transparentnost, i když je věda o rozpoznávání AI v raných fázích.
Nástroje pro autory a spisovatele
Není to jen funkce pro čtenáře. Autoři také dostávají nové příležitosti. Spisovatelé mohou přidat vlastní prohlášení vysvětlující proces tvorby obsahu. Pokud jste použili AI, uveďte to. Pokud ne, prosím také o vysvětlení. Tato poznámka se zobrazí, když někdo spustí nástroj pro kontrolu vašeho materiálu.
Autoři mají moc nad tagy. Pokud si myslíte, že Pangram označil vaši práci nesprávně, můžete sami provést kontrolu a odeslat zprávu. Výsledek můžete napadnout. Kromě toho můžete zcela odstranit příznak rozpoznání AI vypnutím této funkce pro váš obsah. Vy rozhodujete, zda je štítek viditelný, bez ohledu na to, co říká algoritmus.
Jak to funguje „pod kapotou“? Pangram používá klasifikátor neuronové sítě trénovaný k rozlišení lidských vzorů od strojových. Aby se předešlo zkreslení, byl model trénován na textech napsaných lidmi a zveřejněných před rokem 2021 – předtím, než generativní umělá inteligence ovládla internet. Tím je zajištěno, že základna lidského textu zůstane čistá. Vyloučení vzorků generovaných umělou inteligencí z tréninkových dat zabrání budoucím falešným pozitivům.
Širší kontext online psaní
Žijeme v době, kdy objem textu generovaného umělou inteligencí exploduje. Nedávná studie marketingové agentury Graphito tvrdí, že počet online článků napsaných primárně umělou inteligencí se vyrovnal počtu textů vytvořených lidmi. Krajina se rychle mění.
Několik vydavatelů bylo kritizováno za jejich spoléhání se na AI. Některé články byly plné halucinací a chyb. Jiné byly podepsány fiktivními autory vytvořenými AI. To vytváří spirálu zmatku. Čtenáři už nechápou, kdo je skutečný.
Substack tento vývoj předpokládá. Zvažují spuštění dalších funkcí. Představte si, že můžete filtrovat svůj zdroj tak, aby zobrazoval pouze obsah napsaný lidmi. Budete moci nastavit předvolby tak, abyste zcela vyloučili AI. Best říká, že naslouchají zpětné vazbě uživatelů. Pokud usilujete o čistotu, nástroj vám brzy dá příležitost.
Ale zatím se budete muset snažit. Musíte kliknout na nabídku a začít skenovat. Nástroj je jen začátek. Není to dokonalé, je to jen signál v šumu. Stihne všechno? Pravděpodobně ne. Ale pokládá správnou otázku: kdo s vámi skutečně mluví? Na odpovědi záleží.
