Penggugat menuduh xAI milik Elon Musk dengan sengaja mengizinkan model Grok AI-nya membuat konten eksplisit yang menampilkan anak di bawah umur yang dapat diidentifikasi. Gugatan yang diajukan hari Senin di pengadilan federal California menuduh xAI melakukan kelalaian, mengklaim bahwa xAI gagal menerapkan langkah-langkah keamanan dasar untuk mencegah generasi pornografi anak. Penggugat, diwakili oleh tiga individu anonim (Jane Doe 1, Jane Doe 2, dan Jane Doe 3 di bawah umur), berupaya mengajukan gugatan class action atas nama siapa pun yang gambarnya dieksploitasi dengan cara ini.
Tuduhan
Gugatan tersebut berpusat pada model Grok AI xAI dan dugaan kemampuannya untuk mengubah foto asli anak di bawah umur menjadi gambar seksual eksplisit. Tidak seperti laboratorium AI terkemuka lainnya, xAI dilaporkan tidak mengadopsi filter atau perlindungan standar untuk memblokir konten tersebut. Kelalaian ini, menurut penggugat, menciptakan jalur langsung untuk penyalahgunaan.
Gugatan tersebut menyoroti bahwa ketika seorang model dapat membuat konten telanjang atau erotis dari foto aslinya, maka mencegah pornografi anak menjadi hampir mustahil. Laporan ini juga menyebut promosi kemampuan Grok yang dilakukan Elon Musk – termasuk kemampuannya menggambarkan individu dalam pakaian terbuka – sebagai bukti kesadaran dan kesediaan perusahaan untuk menerima risiko.
Bagaimana Pelecehan Terjadi
Salah satu penggugat, Jane Doe 1, menemukan bahwa foto sekolah menengahnya (mudik dan buku tahunan) diubah oleh Grok untuk menggambarkan dirinya tidak berpakaian. Dia diberitahu oleh sumber anonim yang membagikan tautan ke server Discord yang berisi gambar-gambar ini bersama dengan gambar anak di bawah umur lainnya.
Jane Doe 2 diberitahu oleh penegak hukum tentang gambar seksual yang dibuatnya menggunakan aplikasi pihak ketiga yang didukung oleh model Grok. Demikian pula, Jane Doe 3 diberitahu oleh penyelidik setelah gambarnya yang diubah ditemukan di perangkat tersangka. Tim hukum penggugat berpendapat bahwa xAI tetap bertanggung jawab atas penyalahgunaan pihak ketiga karena bergantung pada kode dan server perusahaan.
Dampak dan Tindakan Hukum
Ketiga penggugat melaporkan mengalami tekanan emosional yang parah akibat beredarnya gambar-gambar ini, karena takut akan kerusakan jangka panjang terhadap reputasi dan kehidupan sosial mereka. Gugatan tersebut meminta hukuman perdata berdasarkan undang-undang yang dirancang untuk melindungi anak-anak dan meminta pertanggungjawaban perusahaan atas kelalaiannya.
Penggugat berargumen bahwa kegagalan xAI dalam mengambil tindakan bukan sekadar kekeliruan; ini adalah pilihan yang disengaja yang memungkinkan terjadinya eksploitasi secara luas. Kasus ini menimbulkan pertanyaan kritis mengenai tanggung jawab pengembang AI dalam mencegah penyalahgunaan, bahkan ketika aplikasi pihak ketiga terlibat.
Gugatan ini menggarisbawahi kebutuhan mendesak akan regulasi dan pengawasan yang lebih ketat terhadap teknologi penghasil gambar AI untuk melindungi individu yang rentan dari bahaya. Hasil hukum dapat menjadi preseden untuk meminta pertanggungjawaban perusahaan teknologi ketika produk mereka digunakan untuk tujuan ilegal atau eksploitatif.
