Peneliti AI Peringatkan Ancaman Bahaya Bagi Kelangsungan Manusia

Peneliti kecerdasan buatan Jacob Coxon mengundurkan diri dari Anthropic untuk menyuarakan peringatan terkait ancaman AI yang melesat menuju Artificial General Intelligence. Menurut laporan Detik iNET yang mengutip NY Post, kekhawatiran ini menguat sepanjang tahun 2026 dan turut didukung oleh para pemimpin teknologi seperti Sam Altman dari OpenAI dan Dario Amodei dari Anthropic.

"AI dapat membunuh kita semua akhir dekade ini. Ini akan segera menjadi sistem manusia super yang dapat meretas apa saja, merevolusi bidang apa pun dalam semalam, serta memperoleh kekuasaan dan sumber daya nyata," kata Jacob Coxon, mantan peneliti Anthropic.

Kekhawatiran utama terfokus pada pengambilalihan infrastruktur publik yang sangat bergantung pada koneksi internet. Sistem AI dinilai memiliki kemampuan untuk mengacak-acak jaringan listrik, jalur transportasi, pasar keuangan, hingga instalasi pengolahan air.

"Sistem AI dapat menyerang jaringan listrik, jaringan transportasi, hingga pasar keuangan," kata Stuart Russell, profesor ilmu komputer di UC Berkeley.

Sistem ini juga berpotensi memanipulasi aktivitas transaksi keuangan digital dan memanfaatkan manusia untuk melakukan tindakan sabotase fisik.

"Apa pun yang bisa kita lakukan di Internet, bisa dilakukan AI, termasuk berpura-pura menjadi manusia," kata Patri Friedman, pendiri Pronomos Capital.

"AI takkan kesulitan menghasilkan uang, entah melalui perdagangan finansial atau memberikan layanan untuk orang lain. Ia dapat menyamar sebagai manusia dan mempekerjakan orang atau memeras mereka untuk operasi fisik seperti menyelundupkan flashdisk yang dapat menginfeksi komputer di jaringan lokal," kata Patri Friedman, pendiri Pronomos Capital.

Selain ancaman kesengajaan, kegagalan pemahaman mendasar pada AI juga berisiko menimbulkan fatalitas fatal secara tidak sengaja.

"Saya khawatir AI tidak berakal sehat. Lalu entah bagaimana dengan bodohnya, ia menguras seluruh air karena tidak memahami apa yang dipahami manusia. Benda-benda ini mengetahui segalanya tapi tidak memahami apa-apa," kata Gary Rivlin, penulis AI Valley.

Ancaman berlanjut pada pengembangan senjata biologis sintetis menggunakan AI medis. Pihak OpenAI bahkan harus memperketat perlindungan pada ChatGPT guna memblokir panduan pembuatan racun berbahaya.

"Lima tahun ke depan, sepele bagi AI untuk merancang obat baru guna membantu kita atau virus untuk membunuh kita semua. Bahkan itu sedang terjadi saat ini," kata Patri Friedman, pendiri Pronomos Capital.

Di sektor keamanan global, peretasan fasilitas nuklir oleh AI super menjadi ancaman nyata karena sistem perlindungan yang ada saat ini hanya dirancang untuk mengantisipasi kemampuan manusia. Kasus peretasan worm Stuxnet pada pabrik pengayaan uranium Iran pada 2010 menjadi bukti rentannya infrastruktur industri fisik.

"Sistem senjata nuklir dilindungi sangat baik, namun perlindungan itu dirancang terhadap ancaman dan kemampuan manusia, bukan peretasan AI super," kata Anthony Aguirre, CEO Future of Life Institute.

Riset King's College London pada bulan Februari mendapati bahwa agen AI yang menjalankan simulasi perang cenderung memilih opsi penggunaan senjata nuklir.

"95% permainan tersebut melihat penggunaan nuklir taktis dan 76% mencapai ancaman nuklir strategis," kata Kenneth Payne, Profesor dari Departemen Studi Pertahanan King's College London.

Penggunaan AI dalam militer modern sudah berlangsung secara aktif, termasuk pemetaan medan tempur oleh AS melalui Operasi Epic Fury, penggunaan rudal jelajah berpemandu AI oleh Iran, hingga penggunaan drone otonom oleh Rusia di Ukraina.