Pimpinan Anthropic Sebut AI Berisiko Bunuh Manusia dalam Dekade Mendatang

Kekhawatiran akan bahaya kecerdasan buatan (AI) yang dapat mengancam umat manusia kembali mencuat setelah Evan Hubinger, pimpinan keselarasan AI di Anthropic, menyatakan ada kemungkinan lebih dari 10% AI dapat membunuh seluruh manusia dalam 10 tahun ke depan, seperti dilansir dari Detik iNET.

Hubinger mengungkapkan kekhawatiran tersebut setelah seorang rekannya mengundurkan diri karena takut terhadap potensi bahaya AI. Peringatan ini memicu gelombang diskusi di media sosial dan diikuti oleh para peneliti dari Anthropic dan OpenAI.

Ia menyoroti masalah recursive self improvement (RSI), yaitu kemampuan AI memperbaiki dirinya sendiri secara berulang dan mempercepat pengembangan model AI baru tanpa kontrol manusia. RSI berpotensi memicu lonjakan kemampuan AI yang tidak terkendali.

"Apa yang saya khawatirkan adalah kecerdasan super yang muncul dari perbaikan diri secara rekursif, yang seperti telah kami katakan, terjadi lebih cepat dari perkiraan kami," ujar Hubinger.

Dalam beberapa bulan terakhir, Anthropic dan OpenAI mengakui bahwa peningkatan model AI secara otonom terjadi lebih cepat dari perkiraan mereka. Anthropic menyatakan bahwa model AI mereka, Claude, mempercepat pengembangan AI penerus dengan kecepatan yang mengejutkan.

"Data internal kami menunjukkan bahwa Claude mempercepat pengembangan AI atau AI yang secara otonom membangun penerus yang lebih mumpuni. Ini terjadi lebih cepat dari yang kami kira, dan implikasinya patut mendapat perhatian yang lebih besar," tulis Anthropic di X pada Juni.

Meski RSI belum tercapai, AI sudah mempercepat pekerjaan para insinyur. Anthropic melaporkan bahwa para insinyur mereka menghasilkan kode delapan kali lebih banyak per kuartal dibandingkan rata-rata periode 2021-2025.

Vincent Conitzer, profesor ilmu komputer di Carnegie Mellon University, mengatakan, "AI sudah berada pada tingkat di mana ia dapat memperkenalkan beberapa ide baru."

Jakub Pachocki, Kepala Ilmuwan OpenAI, mengungkapkan kekhawatiran pada konsekuensi cepatnya peningkatan kecerdasan mesin yang belum siap dihadapi manusia.

"Jika pengembangan AI terus berlanjut di jalurnya saat ini, sistem yang akan kita lihat dalam beberapa tahun ke depan kemungkinan akan mewakili lompatan kemampuan yang sama atau lebih besar, dan akan semakin mengendalikan pengembangannya sendiri," tulis Pachocki.

Peneliti OpenAI, Jasmine Wang, mengatakan, "Tidak berlebihan jika dikatakan bahwa melaju cepat menuju RSI sangatlah berbahaya."

Anna Wang dari Anthropic menambahkan, "Belum ada rencana ilmiah yang layak untuk mengatasi risiko dari AI yang memperbaiki dirinya sendiri secara rekursif. Tolong sadarilah ini!"