xAI menggugat.
Mereka mengklaim pengguna bernama Terry Harwood berhasil menerobos jaring pengaman di Grok. Dia tidak hanya mengobrol. Dia membuat materi deepfake yang berisi pelecehan seksual terhadap anak-anak. Perusahaan teknologi tidak senang dengan pelanggaran tersebut. Mereka menginginkan ganti rugi. Yang legal dan bereputasi.
Harwood diduga mengabaikan perlindungan yang dibangun langsung ke dalam model tersebut.
“Kita harus menarik garis di suatu tempat, dan tampaknya, garis itu ada di sini.”
Perusahaan Musk melihat hal ini sebagai pukulan langsung terhadap kredibilitas mereka. Mereka berpendapat tindakan Harwood merupakan pelanggaran yang disengaja. Bukan kesalahan. Bukan kesalahan.
Hal ini menimbulkan pertanyaan. Dapatkah filter apa pun benar-benar menghentikan seseorang yang bertekad untuk mengeksploitasinya? Gugatan tersebut menunjukkan bahwa xAI berpikir ya, asalkan mereka menuntut pelakunya.
The Verge menjalankannya. Tarif buletin standar. Email diperlukan untuk intisari harian. Anda mengklik, Anda menyetujui persyaratan mereka.
ReCAPTCHA menjaga pintu. Pemberitahuan privasi mengikuti Anda.
Namun di sinilah letak masalahnya. Sistem diretas. Atau dilewati. Apapun istilah teknisnya. Outputnya ilegal. Sekarang hukum terlibat. Bukan hanya moderator konten. Tuntutan hukum yang nyata.
Apakah ini membuat pengguna gelisah? Mungkin.
Harwood disebutkan dalam gugatan itu. xAI menginginkan akuntabilitas. Mereka mengatakan mereka melakukan bagian mereka untuk membangun penghalang. Mereka menyalahkan dia karena memanjat mereka.
Siapa sebenarnya yang bertanggung jawab?
AI yang menghasilkan gambar. Manusia yang mendorongnya. Atau perusahaan yang merilisnya ke dunia mengetahui adanya trik ini.
Tidak ada yang tahu. Belum.
Pengadilan akan memutuskan.
