xAI Menghadapi Gugatan Terkait Pelatihan AI Menggunakan Materi CSAM

Startup kecerdasan buatan xAI dilaporkan menghadapi gugatan hukum setelah dituding menggunakan materi pelecehan seksual terhadap anak (CSAM) untuk melatih model AI buatan mereka, Grok. Seperti dilansir dari Detik iNET pada Minggu (30/8/2026), gugatan tersebut dilayangkan oleh seorang korban dengan nama samaran Jane Doe.

Gugatan ini bermula saat korban mendapat pemberitahuan dari Canadian Centre for Child Protection (CCCP) mengenai ditemukannya materi CSAM hasil rekaan AI yang menampilkan dirinya di platform xAI. Doe telah menjadi korban eksploitasi sejak awal tahun 2000-an dan data pengenal digitalnya sudah terdaftar di organisasi pelindung anak seperti NCMEC.

Tindakan tersebut memicu kembali trauma mendalam bagi penggugat. Doe meyakini bahwa Grok telah dilatih menggunakan kumpulan data gambar asli dari masa lalunya maupun konten buatan AI yang dihasilkan di platform tersebut.

Penggugat menegaskan bahwa materi miliknya diduga kuat telah masuk ke dalam kumpulan data yang dipakai perusahaan untuk mengembangkan sistem kecerdasan buatan mereka.

"Karena ketentuan layanan Grok memperlakukan postingan publik di X dan hasil keluaran Grok sendiri sebagai data pelatihan secara default, mengunggah gambar ke publik tidak hanya membuatnya dapat dilihat oleh pengguna lain, tetapi juga memasukkannya secara langsung ke dalam alur kerja yang digunakan xAI untuk melatih dan menyempurnakan modelnya, serta menghasilkan gambar-gambar baru," ungkap gugatan Doe.

Gugatan tersebut juga menyoroti tidak adanya kejelasan dari pihak pengembang terkait penyaringan materi sensitif dan ilegal dalam ketentuan data pelatihan mereka.

"Dikarenakan penghapusan total pengaruh suatu contoh data pelatihan dari model yang sudah terlatih merupakan hal yang sulit secara teknis -- dan bukan sesuatu yang pernah diklaim secara publik telah dilakukan oleh xAI -- maka materi CSAM apa pun yang masuk ke dalam proses pelatihan sebelum penghapusan konten kemungkinan besar tetap memengaruhi hasil keluaran model, bahkan setelah gambar aslinya tidak lagi dapat dilihat oleh publik," tulis gugatan Doe.