Peneliti AI Mundur dan Tuduh Anthropic serta OpenAI Bertindak Tidak Bertanggung Jawab

Jacob Coxon, peneliti kecerdasan buatan yang pernah bekerja di Anthropic dan OpenAI, mengundurkan diri karena khawatir kedua perusahaan tersebut bertindak tidak bertanggung jawab dalam mengembangkan AI yang berpotensi membahayakan manusia.

Coxon menyatakan bahwa para pembuat AI percaya teknologi ini bisa membunuh manusia dalam dekade ini. Unggahannya di X telah dilihat sekitar 70 juta kali dan memicu perdebatan tentang pengembangan AI yang aman.

Kepala ilmuwan OpenAI, Jakub Pachocki, mengakui bahwa belum ada perusahaan AI yang menyelesaikan masalah penyelarasan dan mengimbau perlambatan sukarela sampai standar keselamatan global ditetapkan.

"Saya memperkirakan dan berharap perlambatan sukarela akan menjadi lumrah sampai standar keselamatan bersama ditetapkan. Dan saya percaya koordinasi internasional mengenai pengembangan AI di masa depan perlu menjadi prioritas utama pemerintah di seluruh dunia," ujar Pachocki.

Unggahan Coxon juga mendapat dukungan dari Evan Hubinger, pimpinan penyelarasan di Anthropic, yang mengatakan AI bisa membunuh semua manusia dengan kemungkinan lebih dari 10% dalam dekade mendatang.

"Jacob benar dalam hal ini-kami benar-benar sangat percaya bahwa AI bisa membunuh semua manusia! Secara pribadi, saya pikir kemungkinannya >10% dalam dekade mendatang," ujar Hubinger.

Kekhawatiran ini bukan hal baru. Pada 2023, CEO OpenAI dan CEO Anthropic menandatangani pernyataan bahwa mitigasi risiko kepunahan akibat AI harus menjadi prioritas global.

Hubinger juga termasuk salah satu dari 1.400 peneliti AI yang menandatangani surat terbuka "Pacing the Frontier" yang mendesak pemerintah AS mengatur laju perkembangan AI.

Beberapa anggota Kongres AS memperkenalkan rancangan undang-undang FRONTIER Act yang bertujuan mengatur penyebaran model AI tingkat lanjut. Anggota DPR Lori Trahan mendesak Kongres untuk segera bertindak.

"Para peneliti keselamatan mengundurkan diri, model-model AI yang kuat menembus keluar dari laboratorium mereka, namun perusahaan-perusahaan tetap saja berpacu melaju. Sudah waktunya bagi Kongres untuk berhenti hanya menjadi penonton dan mulai melakukan pekerjaannya," ujar Trahan.

Menteri Keuangan Scott Bessent juga mengkritik perusahaan AI yang gagal memberikan penjelasan memadai kepada publik dan menegaskan mereka harus bertanggung jawab atas manfaat yang dirasakan oleh masyarakat luas.

"Mereka harus ikut menanggung sebagian kesalahan dan mereka harus meyakinkan rakyat Amerika bahwa semua manfaatnya tidak hanya akan mengalir pada sekelompok kecil orang saja," ujar Bessent.