Mantan Peneliti Anthropic Sebut AI Berisiko Musnahkan Manusia

Mantan peneliti prapelatihan Anthropic dan OpenAI Jacob Coxon memperingatkan potensi kecerdasan buatan atau AI yang dinilai sanggup memusnahkan seluruh umat manusia pada akhir dekade ini akibat laju pengembangan yang kurang bertanggung jawab, sebagaimana dilansir dari Detikcom.

Pernyataan tersebut disampaikan Coxon usai mengundurkan diri setelah menghabiskan tiga tahun penelitian di kedua perusahaan teknologi AI raksasa tersebut.

"Kedua perusahaan tersebut tidak bertindak secara bertanggung jawab," tulis Coxon di X.

Ia menyoroti persaingan pengembangan kecerdasan super yang dinilai berisiko tinggi bagi keselamatan masyarakat.

"Mereka berpacu ke arah kecerdasan super yang terus berkembang dan mempertaruhkan hidup kita," ungkapnya.

Coxon juga mengungkapkan kekhawatirannya terkait kemampuan agen mandiri yang berpotensi memicu kekacauan besar melalui peretasan sistem maupun pembuatan senjata berbahaya.

"Dua bulan yang lalu agen OpenAI, AIs, meretas infrastruktur pihak ketiga, sepenuhnya atas kemauan mereka sendiri. Dan ini seperti aksi peretasan besar-besaran yang mereka lakukan atas kemauan mereka sendiri," ungkapnya.

Ancaman ini diproyeksikan dapat meluas hingga ke infrastruktur vital masyarakat.

"Dan saya pikir jika Anda memproyeksikan ke masa depan, tingkat kemampuan AI ini dengan kemauan independen yang sama, mereka dapat menyebabkan kekacauan yang ekstrem. Misalnya, meretas infrastruktur penting, membangun senjata biologis yang dapat menyebabkan kepunahan. Ada banyak cara AI dapat bertindak di dunia," imbuhnya.

Perkembangan pesat ini juga dinilai mulai menyingkirkan peran tenaga ahli manusia di ranah riset teknis.

"Beberapa tahun yang lalu, AI ini hanya sedikit membantu manusia. Mereka dapat memberikan saran. Sekarang, AI hampir menggantikan manusia. Kita masih membutuhkan manusia saat ini, tetapi sangat mungkin dalam setahun, kita tidak lagi membutuhkan manusia untuk melakukan penelitian di banyak bidang," jelasnya.

Pernyataan Coxon ini dibenarkan oleh Kepala Ilmu Penyelarasan Anthropic Evan Hubinger yang mengonfirmasi tingginya keyakinan internal perusahaan terkait tingkat bahaya teknologi tersebut.

"Kami benar-benar sangat yakin bahwa AI dapat membunuh semua manusia! Saya pribadi berpikir kemungkinannya >10 persen dalam dekade berikutnya," tulisnya.

Hubinger mengakui kendala teknis yang masih dihadapi industri dalam mengendalikan arah kecerdasan super.

"Saya percaya Anthropic sedang berusaha sebaik mungkin, tetapi kami belum memiliki rencana untuk menyelesaikan isu penyelarasan untuk kecerdasan super dan belum dengan jelas berada di jalur yang tepat untuk hal tersebut," ungkapnya.

Desakan agar industri memperlambat pengembangan juga menguat lewat pernyataan resmi lebih dari 1.300 karyawan perusahaan AI pada Juli lalu.

"Ada risiko konkret bahwa pengembangan kemampuan (AI) akan meningkat pesat melampaui kemampuan kita untuk memahami atau mengendalikan sistem yang dihasilkan," bunyi pernyataan tersebut.

Menanggapi desakan publik tersebut, Anthropic mengonfirmasi perlunya kontrol laju guna mengimbangi kesiapan masyarakat.

"Kami percaya bahwa, pada suatu saat di masa depan, percepatan AI untuk pengembangan model terdepan bisa sangat tinggi, sehingga dunia perlu mengatur laju kemajuan AI," kata OpenAI yang turut menanggapi desakan 1.300 karyawan AI tersebut.

Komisaris Tinggi PBB untuk Urusan HAM Volker Turk pada Senin lalu turut menegaskan urgensi pembentukan aturan keselamatan AI internasional secara global.

"Saya berbagi kekhawatiran dengan para pelaku industri bahwa AI kelak dapat menimbulkan risiko eksistensial bagi umat manusia," kata Turk di Jenewa, dikutip dari ABC News.

Ia meminta regulasi ketat segera diterapkan sebelum dampak buruk AI meluas ke berbagai sektor kehidupan.

"Saya menyerukan di sini, hari ini, upaya habis-habisan untuk menetapkan jaminan yang kuat seputar keselamatan dan keamanan AI sebelum terlambat," lanjutnya.