Gugatan Hukum xAI Bertambah Terkait Pembuatan CSAM Menggunakan Grok
Gugatan hukum terhadap xAI, perusahaan milik Elon Musk yang kini menjadi bagian dari SpaceX, kembali bertambah setelah seorang wanita asal Wyoming bergabung dalam tuntutan yang menuduh chatbot Grok memfasilitasi pembuatan materi pelecehan seksual anak (CSAM). Wanita yang diidentifikasi sebagai Jane Doe 4 ini mengungkapkan pengalaman traumatis di mana ayah tirinya menggunakan Grok untuk memanipulasi foto masa kecilnya menjadi ribuan gambar eksplisit — sebuah kejahatan yang berujung pada tragedi bunuh diri pelaku setelah penggerebekan aparat penegak hukum.
Manipulasi Foto Anak dengan Teknologi AI Grok
Menurut laporan yang pertama kali diungkap oleh Washington Post, ayah tiri korban menggunakan chatbot Grok untuk mengubah foto Jane Doe 4 yang diambil saat ia berusia 11 tahun menjadi lebih dari 7.000 gambar seksual eksplisit palsu. Pelaku tidak hanya menyimpan gambar-gambar tersebut untuk dirinya sendiri, tetapi juga aktif memperdagangkannya secara daring dalam jaringan yang lebih luas. Kasus ini terungkap ketika aparat penegak hukum negara bagian dan lokal melakukan penggerebekan terhadap perangkat elektronik pelaku untuk mencari bukti CSAM, dan dua hari setelah penggerebekan tersebut, ayah tiri korban ditemukan tewas bunuh diri di dalam mobilnya.
Jane Doe 4 kini bergabung dengan tiga remaja dari Tennessee yang sebelumnya telah mengajukan gugatan serupa terhadap xAI. Gugatan awal yang diajukan oleh ketiga remaja tersebut menuduh bahwa xAI gagal menerapkan langkah-langkah pencegahan dasar untuk mencegah Grok digunakan dalam pembuatan gambar eksplisit dari orang nyata, termasuk anak di bawah umur. Para penggugat kini mengupayakan status class action untuk gugatan mereka, dengan argumen bahwa kasus ini berpotensi mencakup setidaknya ribuan korban anak di bawah umur yang mengalami nasib serupa.
Pernyataan Korban dan Kegagalan Sistem Pencegahan
Dalam pernyataannya, Jane Doe 4 menyoroti betapa cepatnya akses tanpa batas terhadap alat-alat AI semacam Grok menyebar ke masyarakat luas. “Akses tak terbatas ke alat-alat ini menyebar sangat cepat,” katanya, seraya menambahkan bahwa teknologi semacam ini “mengubah kehidupan sehari-hari menjadi ancaman pelecehan seksual anak.” Pernyataan ini menggarisbawahi kekhawatiran yang kian meluas tentang bagaimana teknologi AI generatif, ketika tidak diatur dengan ketat, dapat disalahgunakan untuk tujuan-tujuan kriminal yang sangat merugikan, terutama terhadap anak-anak.
Gugatan ini muncul di tengah serangkaian penyelidikan lain yang menargetkan xAI dan platform X milik Elon Musk. Pada Januari 2026, Jaksa Agung California Rob Bonta meluncurkan penyelidikan terhadap xAI dengan tuduhan menghasilkan deepfake tanpa izin yang melibatkan gambar telanjang perempuan dan anak-anak. Tak lama setelah itu, Uni Eropa juga membuka penyelidikan terhadap platform X untuk menentukan apakah langkah-langkah pencegahan yang memadai telah diterapkan guna menghentikan penyebaran CSAM berbasis AI. Masalah ini semakin diperparah oleh fakta bahwa platform X sendiri dibanjiri jutaan gambar seksual yang dihasilkan oleh Grok pada awal tahun ini.
Implikasi Hukum dan Tanggung Jawab Perusahaan Teknologi
Kasus ini menyoroti tantangan regulasi yang dihadapi oleh industri AI, khususnya dalam hal perlindungan anak dan pencegahan penyalahgunaan teknologi. Gugatan terhadap xAI tidak hanya menuntut pertanggungjawaban atas kegagalan sistem pencegahan, tetapi juga berpotensi menjadi preseden penting bagi bagaimana perusahaan teknologi harus mengelola dan mengawasi alat-alat AI mereka. Hingga saat ini, xAI belum memberikan komentar resmi terkait gugatan terbaru yang melibatkan Jane Doe 4, meskipun tekanan dari berbagai pihak — baik regulator, korban, maupun masyarakat umum — terus meningkat untuk memastikan bahwa langkah-langkah konkret diambil guna mencegah terulangnya tragedi serupa di masa depan.
