Peneliti AI Mundur Tuding Anthropic dan OpenAI Tidak Bertanggung Jawab

Jacob Coxon, peneliti AI yang pernah bekerja di Anthropic dan OpenAI, mengundurkan diri karena khawatir perusahaan tersebut bertindak tidak bertanggung jawab dalam pengembangan kecerdasan buatan yang dapat membahayakan nyawa manusia, dilansir dari Detik iNET.

Coxon mengatakan bahwa para pembangun AI percaya teknologi ini bisa membunuh manusia dalam dekade ini. Unggahannya di X telah dilihat sekitar 70 juta kali dan memicu perdebatan di Silicon Valley tentang keamanan pengembangan AI.

Ia memperingatkan bahwa sistem AI akan menjadi manusia super yang mampu meretas apa saja, merevolusi bidang apa pun dengan cepat, serta menguasai sumber daya nyata.

Jakub Pachocki, Kepala Ilmuwan OpenAI, menulis blog yang memperingatkan belum ada perusahaan AI yang berhasil menyelesaikan masalah penyelarasan dan pemantauan untuk pengembangan skala besar secara bertanggung jawab.

"Saya memperkirakan dan berharap perlambatan sukarela akan menjadi lumrah sampai standar keselamatan bersama ditetapkan," tulis Pachocki. Ia juga menekankan perlunya koordinasi internasional dalam pengembangan AI.

Coxon juga menyoroti kekhawatiran tentang perbaikan diri rekursif, yaitu sistem AI yang dapat mengembangkan penerusnya tanpa campur tangan manusia.

"Kedua perusahaan tidak bertindak secara bertanggung jawab. Mereka berpacu menuju kecerdasan super yang dapat memperbaiki dirinya sendiri," kata Coxon.

Evan Hubinger, pimpinan penyelarasan di Anthropic, mendukung pandangan tersebut dan menyatakan bahwa AI memang berpotensi membunuh manusia. "Secara pribadi, saya pikir kemungkinannya lebih dari 10% dalam dekade mendatang," ujarnya.

Kekhawatiran tentang risiko AI yang dapat menyebabkan kepunahan manusia sudah muncul sejak 2023, saat sejumlah peneliti dan eksekutif AI menandatangani pernyataan bahwa mitigasi risiko kepunahan akibat AI harus menjadi prioritas global.

Hubinger juga menjadi salah satu dari sekitar 1.400 peneliti yang menandatangani surat terbuka "Pacing the Frontier" yang mendesak pemerintah AS mengatur laju pengembangan AI.

Beberapa anggota Kongres AS mengajukan rancangan undang-undang FRONTIER Act pada Juli untuk mengatur penyebaran model AI tingkat lanjut.

"Para peneliti keselamatan mengundurkan diri, model AI kuat keluar dari laboratorium, namun perusahaan tetap berpacu. Sudah waktunya Kongres melakukan pekerjaannya," kata Lori Trahan, anggota DPR yang mengajukan rancangan tersebut.

Menteri Keuangan Scott Bessent menilai perusahaan AI kurang transparan kepada publik dan harus bertanggung jawab agar manfaat teknologi tidak hanya dinikmati oleh segelintir pihak saja.