Les plateformes de médias sociaux, autrefois considérées comme des outils de connexion, sont de plus en plus dominées par des contenus artificiels, laissant les utilisateurs se sentir isolés et détachés de la réalité. La prolifération rapide des vidéos, des images et des deepfakes générés par l’IA modifie fondamentalement l’expérience en ligne, soulevant des inquiétudes quant à la confiance, à l’authenticité et à l’avenir de l’interaction humaine.
L’essor du “AI Slop”
L’émergence d’outils d’IA générative comme Sora d’OpenAI, Veo de Google et Midjourney a rendu extrêmement facile la création de contenu d’un réalisme convaincant mais entièrement fabriqué. Ce phénomène, surnommé « AI slop », fait référence à l’afflux massif de matériel généré numériquement de mauvaise qualité, souvent insensé, inondant les flux sociaux. Des animaux présentant des comportements humains aux farces impossibles, ces vidéos sont conçues pour choquer, divertir ou induire en erreur.
Les deepfakes aggravent encore le problème, permettant la création de représentations réalistes mais fausses de personnalités publiques. Il ne s’agit pas simplement de divertissement ; il s’agit d’éroder la confiance dans les médias visuels et de rendre de plus en plus difficile la distinction entre les faits et la fiction.
C’est important parce que le fondement même des médias sociaux – l’expérience partagée – s’effondre sous le poids de l’artificialité. Le flux incessant de contenu synthétique est épuisant et il devient de plus en plus difficile pour les utilisateurs de discerner ce qui est réel.
Le business de l’artificialité
Les entreprises technologiques sont incitées à développer les capacités de l’IA, même au détriment de l’expérience utilisateur. Comme le souligne Alexios Mantzarlis, directeur de l’Initiative de sécurité, de confiance et de sûreté de Cornell Tech, ces plateformes donnent la priorité à la croissance du cours des actions plutôt qu’à une véritable connexion.
L’accent mis sur l’engagement basé sur l’IA est particulièrement évident sur des plateformes comme TikTok, où les algorithmes donnent la priorité au contenu addictif plutôt qu’aux interactions significatives. Même si les utilisateurs peuvent apprécier d’être exposés à de nouveaux sujets, il en résulte souvent un sentiment de déconnexion des relations du monde réel.
Ce changement n’est pas accidentel. Les entreprises technologiques exploitent l’IA pour maximiser l’attention des utilisateurs, même si cela signifie sacrifier l’authenticité.
L’érosion de l’authenticité
Avant l’IA, les médias sociaux étaient déjà aux prises avec des normes irréalistes et des personnages sélectionnés. Aujourd’hui, le problème est aggravé par la capacité de générer des réalités entièrement artificielles. Les utilisateurs non seulement se comparent à des idéaux inaccessibles, mais remettent également en question la validité de tout ce qu’ils voient en ligne.
“Avant, nous avions le problème d’attentes irréalistes en matière de corps”, a déclaré Mantzarlis. “Et maintenant, nous sommes confrontés à un monde d’attentes corporelles irréelles.”
La méfiance à l’égard du contenu généré par l’IA est déjà élevée. Une étude Raptive a révélé que près de la moitié des personnes interrogées se méfiaient instinctivement du contenu qu’elles soupçonnaient d’être généré par l’IA, et 60 % ont signalé un lien émotionnel plus faible.
La voie à suivre : réglementation et contrôle des utilisateurs
Les sociétés de médias sociaux commencent à mettre en œuvre des mesures telles que l’étiquetage du contenu généré par l’IA et l’interdiction des deepfakes nuisibles. TikTok, par exemple, teste des contrôles permettant aux utilisateurs de limiter leur exposition au matériel généré par l’IA.
Cependant, en l’absence d’une réglementation gouvernementale solide – qui est actuellement bloquée en raison de l’impasse politique et du lobbying de l’industrie – il incombe aux plateformes de faire appliquer leurs propres politiques.
La question cruciale est de savoir si ces efforts seront suffisants. Le rythme rapide du développement de l’IA suggère que la réglementation aura du mal à suivre.
En fin de compte, l’avenir des médias sociaux dépend de leur capacité à restaurer la confiance et l’authenticité. Si les plateformes ne parviennent pas à remédier à l’érosion de la réalité, elles risquent de perdre leur pertinence à mesure que les utilisateurs se retirent d’un monde où rien ne peut être pris pour argent comptant.
