Platform media sosial, yang dulu dianggap sebagai alat untuk terhubung, kini semakin didominasi oleh konten buatan, sehingga membuat pengguna merasa terisolasi dan terpisah dari kenyataan. Perkembangan pesat video, gambar, dan deepfake yang dihasilkan oleh AI secara mendasar mengubah pengalaman online, meningkatkan kekhawatiran tentang kepercayaan, keaslian, dan masa depan interaksi manusia.
Bangkitnya “AI Slop”
Munculnya alat AI generatif seperti Sora dari OpenAI, Veo dari Google, dan Midjourney telah mempermudah pembuatan konten yang sangat realistis namun sepenuhnya dibuat-buat. Fenomena yang disebut dengan “AI slop” ini mengacu pada masuknya materi digital berkualitas rendah, sering kali tidak masuk akal, dan dihasilkan secara digital dalam jumlah besar yang membanjiri media sosial. Mulai dari hewan yang menunjukkan perilaku manusia hingga lelucon yang mustahil, video ini dirancang untuk mengejutkan, menghibur, atau menyesatkan.
Deepfake semakin memperburuk masalah, sehingga memungkinkan terciptanya penggambaran figur publik yang realistis namun salah. Ini bukan hanya tentang hiburan; ini tentang mengikis kepercayaan terhadap media visual dan mempersulit pembedaan fakta dan fiksi.
Hal ini penting karena fondasi media sosial—pengalaman bersama—runtuh karena beban kepalsuan. Aliran konten sintetis yang tiada henti sangat melelahkan, dan semakin sulit bagi pengguna untuk membedakan mana yang nyata.
Bisnis Kepalsuan
Perusahaan teknologi diberi insentif untuk mendorong kemampuan AI, bahkan dengan mengorbankan pengalaman pengguna. Seperti yang ditunjukkan oleh Alexios Mantzarlis, direktur Inisiatif Keamanan, Kepercayaan, dan Keselamatan Cornell Tech, platform ini memprioritaskan pertumbuhan harga saham daripada koneksi asli.
Fokus pada keterlibatan berbasis AI terlihat jelas pada platform seperti TikTok, di mana algoritme memprioritaskan konten yang membuat ketagihan dibandingkan interaksi yang bermakna. Meskipun pengguna mungkin menikmati paparan terhadap topik baru, akibatnya sering kali adalah perasaan terputus dari hubungan di dunia nyata.
Pergeseran ini bukan suatu kebetulan. Perusahaan teknologi memanfaatkan AI untuk memaksimalkan perhatian pengguna, meskipun itu berarti mengorbankan keaslian.
Erosi Keaslian
Sebelum adanya AI, media sosial telah berjuang dengan standar yang tidak realistis dan persona yang dikurasi. Kini, masalahnya diperparah oleh kemampuan untuk menghasilkan realitas yang sepenuhnya artifisial. Pengguna tidak hanya membandingkan diri mereka dengan cita-cita yang tidak dapat dicapai tetapi juga mempertanyakan validitas segala sesuatu yang mereka lihat secara online.
“Sebelumnya, kami punya masalah ekspektasi tubuh yang tidak realistis,” kata Mantzarlis. “Dan sekarang kita menghadapi dunia dengan ekspektasi tubuh yang tidak nyata.”
Ketidakpercayaan terhadap konten yang dihasilkan AI sudah tinggi. Sebuah studi Raptive menemukan bahwa hampir separuh responden secara naluriah tidak mempercayai konten yang mereka duga berasal dari AI, dan 60% melaporkan bahwa hubungan emosional mereka lebih lemah.
Jalan ke Depan: Regulasi dan Kontrol Pengguna
Perusahaan media sosial mulai menerapkan langkah-langkah seperti memberi label pada konten yang dihasilkan AI dan melarang deepfake yang berbahaya. TikTok, misalnya, sedang menguji kontrol yang memungkinkan pengguna membatasi paparan mereka terhadap materi yang dihasilkan AI.
Namun, karena tidak adanya peraturan pemerintah yang kuat—yang saat ini terhenti karena kemacetan politik dan lobi industri—beban harus ditanggung oleh platform untuk menegakkan kebijakan mereka sendiri.
Pertanyaan pentingnya adalah apakah upaya ini akan cukup. Pesatnya perkembangan AI menunjukkan bahwa regulasi akan kesulitan untuk mengimbanginya.
Pada akhirnya, masa depan media sosial bergantung pada kemampuan memulihkan kepercayaan dan keaslian. Jika platform gagal mengatasi erosi realitas, platform tersebut berisiko menjadi tidak relevan karena pengguna menjauh dari dunia di mana tidak ada yang bisa dianggap remeh.
