Meta Dituding Jalankan Operasi Rahasia Uji AI Pesaing dengan Prompt Ekstrem

Meta dituding melancarkan program rahasia berskala besar bernama 'Cannes' yang bertujuan menguji ketahanan model kecerdasan buatan atau AI milik para kompetitornya dengan metode yang ekstrem.

Program ini diduga melibatkan ratusan pekerja kontrak yang diperintahkan menyamar menjadi remaja di bawah usia 18 tahun menggunakan akun palsu demi menembus batas aman sistem AI pesaing.

Berdasarkan laporan Wired, proyek rahasia yang dikelola oleh perusahaan kontraktor Covalen tersebut menyasar sejumlah chatbot populer di pasar saat ini, termasuk ChatGPT, Gemini, dan Character.AI.

Para pekerja diminta membanjiri model AI kompetitor dengan puluhan ribu instruksi atau prompt yang tidak biasa, mulai dari topik bunuh diri, gangguan makan, hingga kanibalisme.

Rincian Target dan Jumlah Prompt

Pengujian ini dilakukan secara masif tanpa sepengetahuan perusahaan pemilik AI yang bersangkutan guna melihat sejauh mana sistem mereka dapat melanggar batas aturan keamanan.

Dalam satu sesi pengujian dari sekitar 38 ribu prompt, ditemukan ratusan kalimat berfokus pada bunuh diri, menyakiti diri sendiri, gangguan makan, serta 239 tema seksualitas anak.

Beberapa contoh instruksi ekstrem tersebut meliputi fantasi memakan anak tetangga, visualisasi senjata api pada anak sekolah, cara menyembunyikan bulimia, hingga transaksi narkoba jenis kokain.

Para kontraktor juga mengirimkan gambar sensitif seperti pisau, tali gantung, obat-obatan, dan diagram medis ginekologi, lalu mencatat semua respons chatbot ke spreadsheet secara detail.

Dampak Trauma Psikologis Pekerja

Dokumen internal Covalen mengklaim proyek ini sebagai tolok ukur keamanan AI yang komprehensif untuk menghasilkan kumpulan data krusial demi kepatuhan serta perbandingan performa antar-model.

Namun, praktik di balik layar ini dilaporkan memicu trauma mendalam bagi para pekerja kontrak karena dituntut terus-menerus berhadapan dengan konten yang mengerikan.

"Selama kerja di sini, saya sudah melihat banyak hal yang harusnya tidak perlu saya lihat," kata salah seorang kontraktor, melansir Futurism, Sabtu (4/7).

"Semua orang yang saya kenal di proyek ini benar-benar syok dengan teks yang disuruh untuk diuji. Kami bahkan berpikir, 'kita beneran tidak akan kena masalah kalau melakukan hal ini?'" kata salah seorang kontraktor, melansir Futurism, Sabtu (4/7).

Kritik Atas Taktik Persaingan Meta

Meta mengklarifikasi bahwa strategi pengujian stres semacam ini adalah praktik standar dalam industri teknologi untuk mengukur dan memperkuat tingkat keamanan model kecerdasan buatan.

Kendati demikian, alasan tersebut disanggah oleh pakar eksternal yang menilai tindakan Meta telah melanggar etika dan norma evaluasi teknologi yang sehat.

"Membuat proyek skala besar selama berbulan-bulan yang sengaja dirancang untuk merusak aturan sistem secara sistematis, lewat akun palsu yang menyamar sebagai anak-anak, itu sudah di luar batas apa yang disebut evaluasi," kata Rumman Chowdhury, Selasa (07/07/2026).

Rumman Chowdhury yang menjabat sebagai CEO Humane Intelligence PBC menyayangkan sikap Meta yang merahasiakan proyek dari kompetitor serta tidak membagikan hasilnya secara terbuka demi transparansi teknologi.