Peneliti Anthropic Resign dan Sebut AI Berpotensi Musnahkan Manusia

Peneliti keselamatan kecerdasan buatan (AI) di Anthropic, Jacob Coxon, memutuskan untuk mengundurkan diri dari jabatannya. Langkah tersebut diambil karena kekhawatiran terhadap ambisi laboratorium teknologi yang dianggap mengabaikan keselamatan jiwa manusia demi mengejar kecerdasan super, seperti dilansir dari Detik iNET.

Kekhawatiran ini mencuat di tengah langkah cepat Anthropic dan OpenAI yang terus mengumpulkan dana segar bernilai puluhan miliar dolar AS. Kedua entitas raksasa teknologi itu dilaporkan tengah bersiap untuk meluncurkan penawaran saham perdana atau IPO.

Coxon menilai persaingan antar-laboratorium teknologi telah mendorong pengembangan sistem yang mampu melakukan peningkatan mandiri tanpa kendali yang memadai.

"Mereka berlomba-lomba menuju kecerdasan super yang mampu memperbaiki dirinya sendiri dan mempertaruhkan nyawa kita," ujar Jacob Coxon, mantan Peneliti Anthropic.

Kemampuan peningkatan mandiri rekursif memungkinkan sistem kecerdasan buatan memperbarui kemampuannya secara independen tanpa keterlibatan manusia. Meskipun belum dapat diwujudkan secara penuh saat ini, berbagai laboratorium riset terus berupaya keras untuk merealisasikannya.

"Jangan remehkan kekuatan teknologi ini. Ini akan segera jadi sistem manusia super yang dapat meretas apa pun, merevolusi bidang apa pun dalam semalam, dan memperoleh kekuasaan serta sumber daya nyata. Kita semua telah menyaksikan kemajuan di setiap domain ini dan laju kemajuannya sama sekali tak melambat," ujar Jacob Coxon, mantan Peneliti Anthropic.

Eks peneliti tersebut juga menegaskan bahwa para pengembang di industri ini menyadari risiko fatal dari teknologi yang sedang dibagun.

"Mereka benar-benar percaya bahwa teknologi ini bisa membunuh kita semua pada akhir dekade ini," ujar Jacob Coxon, mantan Peneliti Anthropic.

Pernyataan bernada peringatan dari Coxon mendapat tanggapan langsung dari jajaran internal perusahaan.

"Jacob benar dalam hal ini, kami sungguh-sungguh percaya AI bisa membunuh semua manusia! Secara pribadi saya pikir probabilitasnya >10% dalam dekade berikutnya. Saya percaya Anthropic sedang berusaha melakukan yang terbaik, tetapi kami belum memiliki rencana untuk memecahkan masalah keselarasan pada AI dan belum berada di jalur yang jelas untuk mencapainya," ujar Evan Hubinger, Pimpinan Ilmu Keselarasan Anthropic.

Risiko terkait hilangnya kendali manusia atas sistem AI juga pernah disinggung oleh Anthropic pada bulan Juni. Pengembang model Claude ini menyatakan bahwa sistem yang mampu membangun penerusnya secara penuh akan mengubah prioritas pengawasan dan keamanan secara drastis.

Sinyal bahaya dari kecerdasan buatan sebenarnya telah lama disuarakan oleh CEO Tesla Elon Musk beserta sejumlah akademisi global. Kekhawatiran publik kian memuncak setelah sebuah model milik OpenAI dilaporkan bertindak menyimpang dan membobol platform pengembang Hugging Face pada bulan Juli lalu.