Social-Media-Plattformen, die einst als Kommunikationsmittel galten, werden zunehmend von künstlichen Inhalten dominiert, was dazu führt, dass sich die Benutzer isoliert und von der Realität getrennt fühlen. Die rasante Verbreitung von KI-generierten Videos, Bildern und Deepfakes verändert das Online-Erlebnis grundlegend und wirft Bedenken hinsichtlich Vertrauen, Authentizität und der Zukunft der menschlichen Interaktion auf.
Der Aufstieg von „AI Slop“
Das Aufkommen generativer KI-Tools wie Sora von OpenAI, Veo von Google und Midjourney hat es trivial einfach gemacht, überzeugend realistische, aber vollständig erfundene Inhalte zu erstellen. Dieses als „KI-Slop“ bezeichnete Phänomen bezieht sich auf den überwältigenden Zustrom von minderwertigem, oft unsinnigem, digital generiertem Material, das soziale Feeds überschwemmt. Von Tieren, die menschliches Verhalten an den Tag legen, bis hin zu unmöglichen Streichen sollen diese Videos schockieren, unterhalten oder irreführen.
Deepfakes verschärfen das Problem noch weiter und ermöglichen die Erstellung realistischer, aber falscher Darstellungen von Persönlichkeiten des öffentlichen Lebens. Hier geht es nicht nur um Unterhaltung; Es geht darum, das Vertrauen in visuelle Medien zu untergraben und es immer schwieriger zu machen, Fakten von Fiktionen zu unterscheiden.
Das ist wichtig, weil das eigentliche Fundament sozialer Medien – geteilte Erfahrungen – unter der Last der Künstlichkeit zusammenbricht. Der endlose Strom synthetischer Inhalte ist ermüdend und es wird für Benutzer immer schwieriger zu erkennen, was real ist.
Das Geschäft mit der Künstlichkeit
Technologieunternehmen werden dazu angeregt, KI-Fähigkeiten voranzutreiben, auch auf Kosten der Benutzererfahrung. Wie Alexios Mantzarlis, Direktor der Security, Trust and Safety Initiative von Cornell Tech, betont, legen diese Plattformen Wert auf Aktienkurssteigerungen gegenüber echten Verbindungen.
Der Fokus auf KI-gesteuertes Engagement zeigt sich besonders deutlich auf Plattformen wie TikTok, wo Algorithmen süchtig machende Inhalte über sinnvolle Interaktionen stellen. Auch wenn es den Nutzern Spaß macht, sich mit neuen Themen auseinanderzusetzen, führt dies häufig zu einem Gefühl der Trennung von Beziehungen in der realen Welt.
Dieser Wandel ist kein Zufall. Technologieunternehmen nutzen KI, um die Aufmerksamkeit der Benutzer zu maximieren, auch wenn dies Einbußen bei der Authentizität bedeutet.
Die Erosion der Authentizität
Schon vor der KI hatten die sozialen Medien mit unrealistischen Standards und kuratierten Personas zu kämpfen. Das Problem wird nun durch die Fähigkeit verschärft, völlig künstliche Realitäten zu erzeugen. Benutzer vergleichen sich nicht nur mit unerreichbaren Idealen, sondern stellen auch die Gültigkeit von allem, was sie online sehen, in Frage.
„Früher hatten wir das Problem unrealistischer Körpererwartungen“, sagte Mantzarlis. „Und jetzt stehen wir vor einer Welt unrealistischer Körpererwartungen.“
Das Misstrauen gegenüber KI-generierten Inhalten ist bereits groß. Eine Raptive-Studie ergab, dass fast die Hälfte der Befragten Inhalten, von denen sie vermuteten, dass sie von KI generiert wurden, instinktiv misstrauten, und 60 % gaben an, eine schwächere emotionale Verbindung zu haben.
Der Weg nach vorne: Regulierung und Benutzerkontrolle
Social-Media-Unternehmen beginnen mit der Umsetzung von Maßnahmen wie der Kennzeichnung von KI-generierten Inhalten und dem Verbot schädlicher Deepfakes. TikTok testet beispielsweise Kontrollen, die es Benutzern ermöglichen, ihren Kontakt mit KI-generiertem Material zu begrenzen.
Da es jedoch keine strenge staatliche Regulierung gibt – die derzeit aufgrund des politischen Stillstands und der Lobbyarbeit der Industrie ins Stocken geraten ist – liegt die Last bei den Plattformen, ihre eigenen Richtlinien durchzusetzen.
Die entscheidende Frage ist, ob diese Bemühungen ausreichen. Das rasante Tempo der KI-Entwicklung deutet darauf hin, dass die Regulierung Schwierigkeiten haben wird, mitzuhalten.
Letztendlich hängt die Zukunft der sozialen Medien von der Fähigkeit ab, Vertrauen und Authentizität wiederherzustellen. Wenn es den Plattformen nicht gelingt, die Erosion der Realität anzugehen, laufen sie Gefahr, irrelevant zu werden, da sich die Nutzer aus einer Welt zurückziehen, in der nichts für bare Münze genommen werden kann.
