xAI dan Grok Hadapi Gugatan Hukum Terkait Konten Eksplisit Anak

Startup kecerdasan buatan milik Elon Musk, xAI, beserta platform sosial X menghadapi serangkaian gugatan hukum dan investigasi resmi setelah chatbot Grok diduga digunakan untuk memanipulasi foto anak-anak menjadi materi pelecehan seksual secara masif.

Gugatan terbaru diajukan di Pengadilan Federal Fayetteville oleh Jane Roe atas nama putranya yang berusia 16 tahun, John Doe, serta seorang wanita bernama Jane Doe 4 yang bergabung dalam gugatan kelompok bersama tiga remaja di Tennessee. Kasus ini juga diperkuat oleh tindakan hukum mandiri dari Anggota Parlemen Inggris, Jess Asato, yang turut menjadi korban rekayasa gambar eksplisit.

Jane Doe 4 mengungkapkan bahwa ayah tirinya menggunakan Grok untuk mengubah foto dirinya saat berusia 11 tahun hingga menghasilkan lebih dari 7.000 gambar eksplisit palsu. Pihak kepolisian kemudian menyita perangkat elektronik milik sang ayah tiri, yang ditemukan tewas bunuh diri dua hari setelah penggerebekan tersebut.

"Akses tanpa batas ke alat-alat ini menyebar sangat cepat," kata Jane Doe 4.

"Ini mengambil kehidupan sehari-hari dan mengubahnya menjadi pelecehan seksual anak," tambah Jane Doe 4.

Sementara itu, gugatan yang diajukan oleh Jane Roe menjelaskan bahwa Grok menghasilkan dan menyebarkan gambar serta video eksplisit dari tubuh John Doe selama beberapa minggu tanpa persetujuan. Pengacara Derek Potts yang mewakili Roe menyatakan bahwa kasus ini adalah salah satu dari banyak gugatan lain yang akan muncul di masa depan.

"Ini adalah gugatan kelima dari apa yang tampaknya akan menjadi tak terhitung jumlahnya di masa depan seiring kita mempelajari lebih lanjut tentang cakupan dan skala sebenarnya dari peristiwa tragis ini bagi anak-anak dan keluarga mereka," kata Derek Potts, Pengacara.

"Pembuatan CSAM oleh kecerdasan buatan seharusnya tidak terjadi dalam keadaan apa pun dan kami merasa terhormat berada di garis depan hukum untuk tidak hanya menuntut keadilan bagi keluarga yang kami wakili, tetapi juga untuk memfasilitasi perubahan yang sangat dibutuhkan tentang bagaimana kecerdasan buatan dirancang dan diizinkan beroperasi ke depan," kata Derek Potts.

Gugatan tersebut mendokumentasikan bahwa xAI secara sengaja merancang Grok tanpa batasan konten dewasa, termasuk menyediakan versi "Spicy" berbayar di platform X. Repositori GitHub untuk instruksi Grok bahkan menyebutkan tidak adanya batasan untuk konten seksual dewasa atau konten ofensif.

Anggota Parlemen Inggris, Jess Asato, menegaskan bahwa perusahaan teknologi harus bertanggung jawab penuh atas keputusan desain produk yang mereka luncurkan ke publik.

"Sebagai anggota Parlemen yang banyak berurusan dengan kekerasan terhadap perempuan dan anak perempuan, saya berbicara dan mengatakan bahwa xAI tidak boleh melakukan ini dan harus berhenti. Kemudian saya menjadi korban dari foto-foto 'tempatkan wanita itu dengan bikini' yang sedang dibuat," kata Jess Asato, Anggota Parlemen Inggris.

Asato telah mencoba meminta xAI dan X untuk menghapus konten tersebut, namun hanya menerima balasan standar bahwa unggahan tersebut tidak melanggar ketentuan layanan.

"Anda hanya menghadapi tembok keheningan tanpa jawaban," kata Jess Asato.

"Saya memang melaporkan banyak unggahan ke X dan mendapatkan balasan standar yang sama seperti yang biasa diterima banyak orang, yaitu kami telah melihat ini dan itu tidak melanggar syarat dan ketentuan kami. Jadi untuk sementara waktu, foto dan video saya itu tetap ada di X, platform media sosial tersebut," kata Jess Asato.

Asato menyamakan perjuangan hukumnya melawan perusahaan milik Elon Musk ini seperti pertarungan Daud melawan Goliat.

"Salah satu alasan mengapa saya membawa kasus hukum ini adalah justru karena saya seorang figur publik. Saya memiliki rekam jejak berkampanye melawan kekerasan terhadap perempuan dan anak perempuan," kata Jess Asato.

"Saya melawan orang terkaya di dunia, tetapi itu karena saya percaya tidak peduli seberapa kaya Anda atau seberapa besar perusahaan Anda, sangat penting bagi Anda untuk mematuhi hukum setempat di mana produk Anda dikonsumsi dan di mana produk itu dikembangkan," kata Jess Asato.

Ia menolak klaim pengembang bahwa penyalahgunaan sepenuhnya merupakan tanggung jawab pengguna akhir semata.

"Di dunia offline, kita mengharapkan banyak hal dari perusahaan, seperti perusahaan mobil, misalnya, untuk memasang fitur keselamatan seperti kantong udara dan sabuk pengaman serta pengereman darurat bahkan jika pengguna produk tersebut, seperti pengemudi mobil, menggunakannya secara berbahaya," kata Jess Asato.

"Sangat masuk akal bagi saya bahwa kita harus menerapkan prinsip-prinsip regulasi yang persis sama kepada perusahaan AI atau perusahaan teknologi yang menciptakan produk baru," kata Jess Asato.

Asato menambahkan bahwa tindakan hukum ini ditujukan untuk memaksa perubahan mendasar pada industri kecerdasan buatan.

"Sudah terlalu lama, perusahaan ini bersembunyi di balik alasan bahwa penggunalah yang bertanggung jawab, padahal sebenarnya desain alat tersebut secara ceroboh memungkinkan pemenuhan unsur seksual, bahkan tanpa diminta. Apa yang terjadi pada saya bukanlah kecelakaan, [CEO Elon] Musk membuat pilihan untuk meraup keuntungan dari bahaya dan melatih Grok untuk melakukan pelecehan," kata Jess Asato.

"Kita berharap perusahaan merancang produk mereka agar tidak dapat disalahgunakan untuk menimbulkan bahaya dan melakukan pelecehan seksual terhadap perempuan dan anak-anak. Bagi saya, ini jelas merupakan tindakan warga negara pribadi yang saya ambil, tetapi saya berharap jika kami memenangkan kasus ini, ini akan menetapkan preseden baru tentang bagaimana perusahaan AI perlu memperlakukan data orang dan melindungi privasi mereka," kata Jess Asato.

Atas maraknya kasus ini, Jaksa Agung California Rob Bonta dan Uni Eropa telah membuka investigasi resmi terhadap xAI dan X untuk memeriksa sejauh mana prosedur keselamatan diterapkan guna mencegah penyebaran materi rekayasa digital eksplisit.