Granica między tekstem ludzkim a generowaniem automatycznym szybko się zaciera. Substack zrobił krok, aby pomóc czytelnikom rozróżnić te dwa elementy. Platforma ogłosiła nową funkcję, która pozwala skanować treści generowane przez sztuczną inteligencję bezpośrednio w aplikacji oraz w wersji internetowej. Opiera się na systemie detekcji firmy Pangram. Narzędzie jest teraz zintegrowane z postami, notatkami, odpowiedziami i komentarzami Substack.
Logika aktualizacji jest prosta. Nie wszystko, co pisze AI, jest śmieciem. Nie cały tekst pisany w pośpiechu jest tworzony przez maszynę. Ale czytelnicy zasługują na to, żeby wiedzieć, gdzie spędzają czas. Jeśli otworzysz artykuł, spodziewając się prawdziwego głosu autora, a znajdziesz jedynie szum algorytmiczny, to się wyłączysz. To właśnie tę rozbieżność stara się skorygować Substack.
Jak korzystać z funkcji rozpoznawania AI
Do działania nie jest wymagana żadna nowa aplikacja. Narzędzie jest już dostępne w wersji webowej oraz aplikacji iOS. Użytkownicy Androida będą musieli poczekać nieco dłużej. Aby skorzystać z tej funkcji, znajdź menu z trzema kropkami „…” w dowolnym poście. Kliknij na niego i wybierz „Skanuj w poszukiwaniu tekstu AI”. Natychmiast pojawi się wyskakujące okienko z wartością procentową pokazującą, jaka część tekstu prawdopodobnie została utworzona przez sztuczną inteligencję, w jakim stopniu była wspomagana przez sztuczną inteligencję, a jaka w całości była dziełem człowieka.
Ta funkcja ma swoje własne zasady. Tekst powinien być wystarczająco obszerny. Jeśli przeglądasz fragment krótszy niż 100 słów, narzędzie nie będzie działać — potrzebuje więcej danych do analizy. Istnieje również limit czasowy. Sprawdzane będą wyłącznie treści opublikowane po godzinie 11:30 czasu pacyficznego 21 lipca. Jeśli spróbujesz zeskanować starszy post, otrzymasz powiadomienie, że nie kwalifikuje się on do sprawdzenia. Substack ostrożnie podchodzi do historycznej dokładności tego wskaźnika.
Dlaczego Substack dba o pochodzenie treści
Chris Best, współzałożyciel i dyrektor generalny, przedstawił problem w poście na blogu na platformie. Jest to kwestia wprowadzenia w błąd. Kiedy czytelnik spędza dwadzieścia minut nad esejem i odkrywa, że nie kryje się za nim ani krzta ludzkiej myśli, zaufanie zostaje zniszczone. Platforma stara się utrzymać to zaufanie.
Należy pamiętać, że skanowanie jest inicjowane przez użytkownika. Pangram analizuje tekst tylko wtedy, gdy o to poprosisz. Sam musisz chcieć poznać prawdę. Narzędzie ma też swoje ograniczenia: nie jest w stanie określić, czy dana osoba przed napisaniem tekstu korzystała z AI do badań wstępnych. System ocenia jedynie ostateczną strukturę tekstu.
Za pomocą tego narzędzia Best nawet dodał osobistą notatkę do swoich postów: „Nadal zastanawiam się nad tymi wszystkimi innowacjami. Ale w międzyczasie te słowa są moje, na dobre i na złe”. Szczere wyznanie. Dąży do przejrzystości, nawet jeśli nauka o rozpoznawaniu sztucznej inteligencji jest na wczesnym etapie.
Narzędzia dla autorów i pisarzy
To nie jest funkcja dostępna tylko dla czytelników. Autorzy dostają także nowe możliwości. Autorzy mogą dodać własne oświadczenie wyjaśniające proces tworzenia treści. Jeśli korzystałeś ze sztucznej inteligencji, zaznacz to. Jeśli nie, proszę również o wyjaśnienie. Ta notatka pojawia się, gdy ktoś uruchamia narzędzie do sprawdzania Twojego materiału.
Autorzy mają władzę nad tagami. Jeśli uważasz, że Pangram błędnie oznaczył Twoją pracę, możesz samodzielnie przeprowadzić recenzję i przesłać raport. Możesz zakwestionować wynik. Co więcej, możesz całkowicie usunąć flagę rozpoznawania AI, wyłączając tę funkcję dla swoich treści. Ty decydujesz, czy etykieta będzie widoczna, niezależnie od tego, co mówi algorytm.
Jak to działa „pod maską”? Pangram wykorzystuje klasyfikator sieci neuronowej przeszkolony do odróżniania wzorców ludzkich od wzorców maszynowych. Aby uniknąć stronniczości, model został przeszkolony na tekstach napisanych przez ludzi i opublikowanych przed 2021 r. – zanim generatywna sztuczna inteligencja przejęła Internet. Dzięki temu baza tekstu ludzkiego pozostaje czysta. Wykluczanie próbek wygenerowanych przez sztuczną inteligencję z danych szkoleniowych zapobiega fałszywym alarmom w przyszłości.
Szerszy kontekst pisania online
Żyjemy w czasach, gdy ilość tekstu generowanego przez sztuczną inteligencję eksploduje. Z niedawnego badania agencji marketingowej Graphito wynika, że liczba artykułów w Internecie napisanych głównie przez sztuczną inteligencję zrównała się z liczbą tekstów stworzonych przez człowieka. Krajobraz szybko się zmienia.
Kilku wydawców skrytykowano za poleganie na sztucznej inteligencji. Niektóre artykuły były pełne halucynacji i błędów. Inne zostały podpisane przez fikcyjnych autorów stworzonych przez sztuczną inteligencję. To tworzy spiralę zamieszania. Czytelnicy nie rozumieją już, kto jest prawdziwy.
Substack przewiduje ten rozwój. Rozważają wprowadzenie dodatkowych funkcji. Wyobraź sobie, że możesz filtrować swój kanał, aby wyświetlać tylko treści napisane przez ludzi. Będziesz mógł ustawić preferencje, aby całkowicie wykluczyć sztuczną inteligencję. Best twierdzi, że słucha opinii użytkowników. Jeśli dążysz do czystości, narzędzie wkrótce da ci taką możliwość.
Ale na razie musisz się postarać. Musisz kliknąć menu i rozpocząć skanowanie. Narzędzie to dopiero początek. To nie jest idealne, to tylko sygnał w szumie. Czy złapie wszystko? Prawdopodobnie nie. Ale zadaje właściwe pytanie: kto tak naprawdę z tobą rozmawia? Odpowiedź ma znaczenie.
