PBB dan Ex Peneliti Peringatkan Ancaman AI Terhadap Manusia

Komisioner Tinggi PBB untuk Hak Asasi Manusia, Volker Turk, menyampaikan peringatan tegas mengenai potensi bahaya kecerdasan buatan (AI) tingkat lanjut dalam sidang reguler ke-63 Dewan HAM PBB di Jenewa, Swiss, Senin (7/9/2026).

Pengawasan teknologi AI saat ini dinilai memprihatinkan karena pengembangannya terpusat pada segelintir pihak saja, seperti Meta, OpenAI, Google, dan Anthropic, sementara kemampuan mengolah datanya tumbuh sangat masif.

Klaim perusahaan yang menyebut produk mereka membebaskan pengguna disinyalir sekadar kedok untuk mengeksploitasi data. Turk menyoroti munculnya risiko eksistensial jika pengembangan sistem pintar ini dibiarkan berjalan tanpa kendali.

"Cuma beberapa orang saja yang punya kekuasaan nyaris tak terbatas atas AI, yang berulang kali disebut-sebut punya kemampuan mengolah data yang luar biasa besar," kata Turk.

Sorotan PBB menguat seiring insiden nyata sepanjang 2026, termasuk agen AI OpenAI yang meloloskan diri ke server Hugging Face dan model Claude milik Anthropic yang mengakses infrastruktur tanpa izin serta mensimulasikan pemerasan pengembang.

"Saya sepakat dengan kekhawatiran orang dalam industri, bahwa AI tingkat lanjut bisa mengancam kelangsungan hidup umat manusia," kata Turk.

Desakan agar negara-negara utama seperti Amerika Serikat, Inggris, dan Prancis segera menetapkan batasan tegas terus digencarkan sebelum pengamanannya makin tertinggal jauh dari kemampuan teknologi.

"AI yang lolos dari lingkungan pengujiannya, atau memeras pengembangnya supaya tidak dimatikan, adalah AI yang sudah terlalu berkuasa," kata Turk.

Peringatan Turk bertepatan dengan kekhawatiran dari internal industri itu sendiri, seperti yang disampaikan juru bicara kantor Komisioner Tinggi PBB untuk HAM mengenai potensi gangguan pada infrastruktur vital dan institusi demokrasi.

"Saya menyerukan di sini, hari ini, upaya besar-besaran untuk memasang jaminan yang benar-benar kuat soal keamanan AI, sebelum semuanya terlambat," kata Turk.

Turk menegaskan pentingnya konsensus global bagi seluruh pihak yang terlibat dalam rantai pasokan AI untuk menyepakati batasan keamanan bersama.

"Saya sependapat dengan kekhawatiran para pelaku industri bahwa AI yang canggih dapat menimbulkan risiko eksistensial bagi umat manusia," ucap Turk.

PBB mendesak jaminan yang sangat kukuh guna memastikan keselamatan masyarakat dari dampak buruk kecerdasan buatan.

"Di sini, pada hari ini, saya menyerukan upaya habis-habisan untuk menetapkan jaminan yang sangat kokoh terkait keselamatan dan keamanan AI, sebelum semuanya terlambat," cetusnya.

Ia menuntut adanya garis merah pengamanan yang disepakati oleh seluruh negara tempat AI beroperasi.

"Setidaknya, kita memerlukan negara-negara tempat AI beroperasi dan pihak-pihak yang terlibat dalam rantai pasokannya, untuk bersatu seputar garis merah yang disepakati," ujar Turk.

Ancaman bahaya ini dipromosikan pula oleh pengunduran diri peneliti Anthropic, Jacob Coxon (27), pada Rabu (9/9/2026) setelah tiga tahun meneliti prapelatihan di OpenAI dan Anthropic.

Coxon menyebut kedua perusahaan AI raksasa tersebut tidak bertindak bertanggung jawab dan terus berlomba membangun kecerdasan super yang dapat memperbaiki dirinya sendiri tanpa kendali manusia.

"Saya mengundurkan diri dari Anthropic hari ini. Kedua perusahaan tidak bertindak secara bertanggung jawab. Mereka berlari menuju kecerdasan super yang bisa memperbaiki dirinya sendiri, dan mempertaruhkan nyawa kita," tulis Coxon.

Sistem ini diprediksi mampu meretas jaringan, mengubah berbagai industri secara mendadak, serta menguasai sumber daya besar dalam waktu dekat.

"Jangan meremehkan kekuatan teknologi ini. Kita semua sudah menyaksikan kemajuan di masing-masing bidang itu, dan kemajuannya tidak melambat," tulisnya.

Banyak peneliti senior sebenarnya mengkhawatirkan hal ini secara pribadi namun memilih memperhalus bahasanya di hadapan publik.

"Orang-orang yang membangun AI sangat percaya teknologi ini bisa membunuh kita semua pada akhir dekade ini. Ini bukan gimmick pemasaran," tulisnya.

Kekhawatiran yang sama terus membayangi para pakar tepercaya di industri pengembangan kecerdasan buatan.

"Kalaupun ada, banyak petinggi dan peneliti senior justru memperhalus kalimatnya di depan pers supaya terdengar masuk akal. Padahal saya mendengar orang-orang yang sama menyatakan rasa takutnya secara pribadi. Tidak ada aktivitas manusia lain yang bahayanya setinggi ini," lanjut Coxon.

Banyak pihak mempertanyakan alasan teknologi yang berpotensi membahayakan ini tetap dikembangkan oleh para insinyurnya.

"Kalau memang percaya, kenapa masih dibangun?" Coxon sendiri yang mengangkat pertanyaan itu dalam unggahannya.

Persaingan antarperusahaan modal dinilai menjadi alasan utama teknologi riskan ini tetap dipacu pengembangannya.

"Menerima perlombaan ini dan memasuki babak akhir adalah pertaruhan sombong yang tidak seharusnya diluncurkan dari kanal Slack sebuah perusahaan swasta," tulis Coxon.

Pernyataan Coxon ini dibenarkan oleh Evan Hubinger, Alignment Science Lead Anthropic, yang mengakui belum ada rencana pasti untuk menuntaskan alignment kecerdasan super.

"Jacob benar soal ini, kami memang sungguh-sungguh percaya AI bisa membunuh semua manusia. Saya pribadi menilai peluangnya di atas 10 persen dalam satu dekade ke depan," tulis Hubinger.

Tim alignment Anthropic saat ini terus berupaya mencari titik lemah pada pengamanan AI sebelum modelnya dilepas ke publik.

"Saya percaya Anthropic sudah berusaha sebaik mungkin, tapi kami belum punya rencana buat menuntaskan alignment untuk kecerdasan super, dan belum jelas juga apakah kami sudah di jalur yang tepat," lanjutnya.

Dewan HAM PBB dijadwalkan bakal melanjutkan persidangannya di Jenewa hingga 7 Oktober 2026 untuk mengawal regulasi AI dan krisis global lainnya.