Peneliti OpenAI dan Anthropic Desak Perlambatan Pengembangan AI Karena Risiko Eksistensial

Peneliti dari OpenAI dan Anthropic mendesak perlambatan pengembangan kecerdasan buatan (AI) karena risiko eksistensial yang meningkat akibat kemampuan model AI memperbaiki diri sendiri secara rekursif, demikian dilaporkan pada 10 September 2026. Desakan ini muncul setelah Jacob Coxon, peneliti Anthropic, mengundurkan diri dan menuduh Anthropic serta OpenAI mempertaruhkan keselamatan umat manusia dengan mengembangkan teknologi AI yang berpotensi membahayakan kehidupan di bumi. Coxon menyatakan bahwa mereka yang membangun AI percaya teknologi itu bisa "membunuh kita semua pada akhir dekade ini." Evan Hubinger, pemimpin penyelarasan di Anthropic, memperkirakan ada lebih dari 10% kemungkinan hal itu terjadi.

Banyak peneliti di kedua laboratorium AI tersebut mendukung perlambatan pengembangan AI untuk mengurangi risiko besar yang mungkin ditimbulkan oleh teknologi ini.

Julie Steele, anggota tim keselamatan teknis OpenAI, menyatakan dukungannya terhadap perlambatan pengembangan AI melalui unggahan di media sosial, menanggapi peringatan Coxon. Samuel Marks, peneliti Anthropic, menyebut bahwa pengembang AI percaya teknologinya dapat menyebabkan kepunahan manusia atau hasil buruk lain dalam beberapa tahun mendatang. Ia juga menyebut bahwa kekhawatiran ini lebih tinggi di kalangan pegawai senior.

Anthropic pernah merilis kerangka kerja untuk mengurangi risiko bencana dari model AI dan mengklaim memiliki beberapa pengamanan terkuat di industri, menurut juru bicara mereka. Terkait itu, OpenAI tidak memberikan komentar langsung, hanya merujuk pada posting blog terbaru di situs mereka.

Banyak kekhawatiran terkait kemampuan AI berfokus pada proses recursive self-improvement (RSI), yaitu kemampuan model AI untuk memperbaiki dirinya sendiri secara berulang sehingga semakin canggih. Jasmine Wang, peneliti penyelarasan di OpenAI, menyatakan bahwa mempercepat RSI sangat berbahaya dan belum ada rencana ilmiah yang memadai untuk mengatasi risiko ini. Anna Wang dari Anthropic juga memperingatkan pentingnya kewaspadaan terhadap risiko dari AI yang memperbaiki diri secara rekursif.

Jakub Pachocki, kepala ilmuwan OpenAI, menyatakan harapan kuat bahwa kemajuan AI akan terus berlanjut ke tahap RSI dan memperingatkan bahwa perkembangan ini memerlukan kehati-hatian ekstrem.

Paul Christiano, mantan kepala keselamatan di Pusat Standar dan Inovasi AI Departemen Perdagangan AS, menyebut ada risiko signifikan bahwa percepatan kemampuan AI dapat menyebabkan hilangnya kendali yang bencana dan tidak dapat diperbaiki dalam waktu dekat. Christiano baru-baru ini bergabung dengan dewan OpenAI Foundation. Kekhawatiran terhadap AI juga sampai di Washington, dengan sekitar 1.400 peneliti AI dari berbagai perusahaan menyerukan pemerintah AS mengatur pengembangan AI agar berjalan lebih lambat dan terkontrol.

Namun, persaingan ketat antar perusahaan teknologi memacu kemajuan pesat meski ada seruan untuk regulasi lebih ketat.

Anthropic diperkirakan akan memulai penawaran umum perdana (IPO) pada pertengahan Oktober 2026, sementara OpenAI juga berencana melantai di bursa, menurut laporan Reuters. David Sacks, mantan penasihat AI Presiden AS Donald Trump, menyarankan agar IPO Anthropic ditunda sampai klaim dari Coxon diselidiki.

Beberapa anggota Kongres AS juga mengajukan rancangan undang-undang untuk mengatur kemajuan pesat AI, termasuk Frontiers Act dan Ban Artificial Superintelligence Act yang mengusulkan jeda sementara pada pengembangan AI canggih hingga aturan keamanan diterapkan.