Sociální sítě, kdysi navržené jako nástroje pro komunikaci, jsou stále častěji unášeny umělým obsahem, takže uživatelé se cítí odpojení a izolovaní. Šíření videí, obrázků a deepfakes generovaných umělou inteligencí dramaticky mění online zážitek a vyvolává obavy o důvěru, autenticitu a budoucnost lidské interakce.
Vzestup „AI Garbage“
Nástup generativních nástrojů umělé inteligence, jako je Sora od OpenAI, Veo od Googlu a Midjourney, neuvěřitelně zjednodušil vytváření přesvědčivě realistického, ale zcela vymyšleného obsahu. Tento fenomén přezdívaný „AI nevyžádaná“ odkazuje na masivní příliv nekvalitních, často nesmyslných digitálních materiálů zaplavujících zpravodajské kanály. Od zvířat předvádějících lidské chování až po nemožné žerty, tato videa jsou navržena tak, aby šokovala, pobavila nebo oklamala.
Deepfakes tento problém ještě zhoršují tím, že vytvářejí realistické, ale falešné obrazy veřejných osob. Nejde jen o zábavu; jde o destrukci důvěry ve vizuální média ao to, že je stále obtížnější odlišit skutečnost od fikce.
To je důležité, protože samotný základ sociálních médií – sdílená zkušenost – se hroutí pod tíhou umělosti. Nekonečný proud syntetického obsahu je vyčerpávající, takže je pro uživatele stále obtížnější pochopit, co je skutečné.
Obchod s umělostí
Technické společnosti se zajímají o pokrok v síle AI, a to i za cenu zhoršení uživatelského zážitku. Jak zdůrazňuje Alexios Mantzarlis, ředitel Cornell Tech’s Security, Trust and Security Initiative, tyto platformy upřednostňují zvýšení cen akcií před skutečnou komunikací.
Zaměření na zapojení řízené umělou inteligencí je zvláště patrné na platformách, jako je TikTok, kde algoritmy upřednostňují návykový obsah před smysluplnými interakcemi. I když uživatelé mohou rádi objevovat nová témata, výsledkem je často pocit odpojení od vztahů v reálném životě.
Tento posun není náhodný. Technologické společnosti používají umělou inteligenci k maximalizaci pozornosti uživatelů, i když to znamená obětování autenticity.
Zničení autenticity
Už před AI se sociální média potýkala s nerealistickými standardy a fiktivními osobnostmi. Nyní je problém umocněn schopností vytvořit zcela umělou realitu. Uživatelé se nejen srovnávají s nedosažitelnými ideály, ale také zpochybňují platnost všeho, co vidí online.
“Měli jsme problém s nerealistickými tělesnými očekáváními,” řekl Mantzarlis. “A nyní čelíme světu nerealistických tělesných očekávání.”
Nedůvěra k obsahu generovanému AI je již vysoká. Výzkum společnosti Raptive zjistil, že téměř polovina respondentů instinktivně nedůvěřuje obsahu, o kterém se domnívají, že byl vytvořen umělou inteligencí, a 60 % uvedlo slabší emocionální spojení.
Cesta vpřed: Uživatelská regulace a kontrola
Společnosti sociálních médií začínají zavádět opatření, jako je označování obsahu generovaného umělou inteligencí a zákaz škodlivých deepfakes. Společnost TikTok například testuje ovládací prvky, které uživatelům umožňují omezit vystavení materiálům generovaným umělou inteligencí.
Při absenci silné vládní regulace, která je v současné době brzděna politickými divizemi a průmyslovým lobbingem, však břemeno spočívá na platformách, aby prosadily své vlastní politiky.
Kritickou otázkou je, zda bude toto úsilí dostatečné. Rychlé tempo vývoje umělé inteligence naznačuje, že regulace nebude schopna držet krok.
Budoucnost sociálních médií nakonec závisí na schopnosti obnovit důvěru a autentičnost. Pokud se platformám nepodaří vyřešit narušení reality, riskují, že se stanou irelevantními, protože uživatelé ustoupí ze světa, kde nelze ničemu věřit.
