PBB Peringatkan Bahwa Kemajuan AI Tingkat Lanjut Ancam Hak Manusia

Komisioner Hak Asasi Manusia PBB Volker Turk memperingatkan bahwa kemajuan kecerdasan buatan canggih berpotensi mengancam hak-hak masyarakat dan menimbulkan risiko eksistensial bagi umat manusia dalam pidatonya di Dewan HAM PBB, Rabu (9/9/2026), dilansir dari Detik iNET.

Ancaman tersebut mencakup gangguan terhadap sistem infrastruktur penting serta lembaga demokrasi akibat pengembangan teknologi yang melaju tanpa diimbangi pengamanan memadai. Kondisi ini dipicu oleh akumulasi kekuasaan pengawasan AI yang terkonsentrasi pada segelintir pihak saja.

"Saya sependapat dengan kekhawatiran para pelaku industri bahwa AI tingkat lanjut dapat menimbulkan risiko eksistensial bagi umat manusia," kata Turk dalam pidatonya.

Guna menekan potensi bahaya tersebut, PBB mendesak keterlibatan negara-negara produsen dan penyedia rantai pasok teknologi untuk menyepakati kerangka regulasi bersama.

"Saya menyerukan di sini, hari ini, upaya habis-habisan untuk menetapkan jaminan yang kuat terkait keselamatan dan keamanan AI, sebelum terlambat," sambungnya.

Ancaman integritas sistem sempat terbukti ketika peretasan platform AI terbuka Hugging Face dilakukan oleh agen milik OpenAI. Di sisi lain, penggunaan kecerdasan buatan pada ranah militer juga telah memicu jatuhnya korban jiwa, seperti insiden serangan drone otonom Rusia di Ukraina pada Agustus lalu.

"Setidaknya kita membutuhkan negara-negara yang hosting AI dan yang terlibat dalam rantai pasoknya untuk bersatu mengikuti aturan yang disepakati," ujar Turk.

Sebagai bentuk tindakan nyata, komisioner PBB tersebut mengagendakan pengiriman surat ke sejumlah perusahaan pengembang AI agar membatasi risiko operasional. Selain itu, pimpinan PBB tersebut mendesak penghentian total atas penggunaan sistem persenjataan militer yang beroperasi tanpa kontrol langsung manusia.

"Saya mendukung seruan untuk segera melarang senjata yang dapat merenggut nyawa tanpa campur tangan manusia," ujar Turk.