As plataformas de redes sociais, outrora concebidas como ferramentas de ligação, estão a tornar-se cada vez mais dominadas por conteúdos artificiais, fazendo com que os utilizadores se sintam isolados e desligados da realidade. A rápida proliferação de vídeos, imagens e deepfakes gerados por IA está mudando fundamentalmente a experiência online, levantando preocupações sobre a confiança, a autenticidade e o futuro da interação humana.
A ascensão do “AI Slop”
O surgimento de ferramentas generativas de IA, como Sora da OpenAI, Veo do Google e Midjourney, tornou trivialmente fácil a criação de conteúdo convincentemente realista, mas totalmente fabricado. Este fenômeno, apelidado de “resíduos de IA”, refere-se ao influxo esmagador de material de baixa qualidade, muitas vezes sem sentido, gerado digitalmente, que inunda os feeds sociais. Desde animais exibindo comportamentos humanos até pegadinhas impossíveis, esses vídeos são criados para chocar, entreter ou enganar.
Os deepfakes agravam ainda mais o problema, permitindo a criação de representações realistas, mas falsas, de figuras públicas. Não se trata apenas de entretenimento; trata-se de minar a confiança nos meios visuais e de tornar cada vez mais difícil distinguir factos de ficção.
Isso é importante porque a própria base da mídia social – a experiência compartilhada – está desmoronando sob o peso da artificialidade. O fluxo interminável de conteúdo sintético é exaustivo e está se tornando mais difícil para os usuários discernirem o que é real.
O Negócio da Artificialidade
As empresas de tecnologia são incentivadas a impulsionar os recursos de IA, mesmo às custas da experiência do usuário. Como aponta Alexios Mantzarlis, diretor da Iniciativa de Segurança, Confiança e Proteção da Cornell Tech, essas plataformas estão priorizando o crescimento do preço das ações em vez da conexão genuína.
O foco no envolvimento orientado pela IA é particularmente evidente em plataformas como o TikTok, onde os algoritmos priorizam o conteúdo viciante em detrimento de interações significativas. Embora os usuários possam gostar da exposição a novos tópicos, o resultado geralmente é uma sensação de desconexão dos relacionamentos do mundo real.
Essa mudança não é acidental. As empresas de tecnologia estão aproveitando a IA para maximizar a atenção do usuário, mesmo que isso signifique sacrificar a autenticidade.
A erosão da autenticidade
Antes da IA, as redes sociais já lutavam com padrões irrealistas e personalidades selecionadas. Agora, o problema é agravado pela capacidade de gerar realidades inteiramente artificiais. Os usuários não estão apenas se comparando a ideais inatingíveis, mas também questionando a validade de tudo o que veem online.
“Antes, tínhamos o problema das expectativas corporais irrealistas”, disse Mantzarlis. “E agora estamos enfrentando um mundo de expectativas corporais irreais.”
A desconfiança no conteúdo gerado por IA já é alta. Um estudo da Raptive descobriu que quase metade dos entrevistados desconfiava instintivamente do conteúdo que suspeitavam ser gerado por IA, e 60% relataram uma conexão emocional mais fraca.
O caminho a seguir: regulamentação e controle do usuário
As empresas de mídia social estão começando a implementar medidas como rotular o conteúdo gerado por IA e proibir deepfakes prejudiciais. O TikTok, por exemplo, está testando controles que permitem aos usuários limitar sua exposição a materiais gerados por IA.
No entanto, na ausência de uma regulamentação governamental robusta – que está atualmente paralisada devido ao impasse político e ao lobby da indústria – o fardo recai sobre as plataformas para fazer cumprir as suas próprias políticas.
A questão crítica é se estes esforços serão suficientes. O ritmo rápido do desenvolvimento da IA sugere que a regulamentação terá dificuldade em acompanhar o ritmo.
Em última análise, o futuro das redes sociais depende da capacidade de restaurar a confiança e a autenticidade. Se as plataformas não conseguirem lidar com a erosão da realidade, correm o risco de se tornarem irrelevantes à medida que os utilizadores se retiram de um mundo onde nada pode ser tomado pelo valor nominal.
