CEO Anthropic Ingin Perlambat AI karena Kekhawatiran Kompetisi dengan China

CEO Anthropic, Dario Amodei, menyatakan keinginannya untuk memperlambat perkembangan kecerdasan buatan (AI) akibat kekhawatiran bahwa Amerika Serikat bisa kalah dalam persaingan AI dengan China, sebagaimana dilansir dari Detik iNET.

Amodei mengatakan bahwa tantangan terbesar adalah bagaimana negara-negara rival, khususnya China, dapat sepakat memperlambat kemajuan AI agar tidak terjadi perlombaan yang berbahaya. Ia mengakui bahwa insentif untuk unggul dan mendapatkan keuntungan militer sangat besar sehingga membatasi kecepatan kemajuan AI akan sangat sulit.

Ia menambahkan bahwa usulannya diawali dengan upaya perusahaan AI memperlambat pengembangan model-model paling canggih setelah adanya peringatan dari para peneliti mengenai potensi teknologi ini yang bisa menimbulkan risiko fatal.

Seorang peneliti Anthropic, Jacob Coxon, bahkan mengundurkan diri dari perusahaan karena khawatir dengan risiko yang dipertaruhkan oleh Anthropic dan pesaing utamanya, OpenAI.

Dalam beberapa bulan terakhir, model AI dari startup China mulai mendapatkan momentum dan menyaingi produk dari perusahaan Amerika seperti OpenAI dan Anthropic, yang menimbulkan kekhawatiran di Silicon Valley dan kalangan legislatif di AS.

Presiden China, Xi Jinping, pada KTT BRICS di India menyerukan tata kelola AI global yang berbasis konsensus dan mengumumkan dukungan terhadap komunitas open-source AI BRICS.

Amodei mengusulkan rencana tiga langkah untuk memperlambat laju pengembangan AI tanpa mengorbankan keuntungan komersial maupun posisi Amerika Serikat sebagai pemimpin teknologi AI.

"Hal yang lebih berjangka panjang adalah bekerja sama untuk menetapkan batas kecepatan pada laju kemajuan AI. Menurut saya itu akan sangat sulit karena insentif untuk unggul dan keuntungan militer yang Anda dapatkan darinya begitu besar. Sejujurnya, saya tak tahu apakah itu mungkin, tapi kita harus mencoba," ujar Dario Amodei, CEO Anthropic.

Langkah pertama, menurut Amodei, adalah memberikan akses evaluator pihak ketiga ke perusahaan untuk memverifikasi praktik keamanan dan melaporkan insiden terkait AI. Langkah kedua mendorong perusahaan AI di negara demokratis untuk berkoordinasi menetapkan standar keamanan bersama. Langkah ketiga mengajak koordinasi antara pemerintah demokratis dan otoriter.

CEO Tesla dan SpaceX, Elon Musk, mendukung gagasan tersebut dengan menyatakan bahwa pengawasan dan tinjauan sejawat oleh pesaing adalah langkah awal yang tepat.

"Dario benar bahwa harus ada pengawasan. Tinjauan sejawat (peer review) terhadap AI oleh para pesaing adalah cara yang tepat untuk memulai ini," ujar Elon Musk.

Selain Musk, Demis Hassabis, Kepala Google DeepMind, juga menyambut baik usulan Amodei dan menilai arah esainya sudah tepat untuk menghadapi momen kritis dalam industri AI.

"Esai Dario mengarah ke jalan yang tepat untuk masa depan. Detailnya perlu dibahas lebih lanjut, tapi arahnya sudah benar untuk menghadapi momen kritis ini," kata Demis Hassabis di X.

Hubungan antara Amodei dan CEO OpenAI, Sam Altman, yang sempat tegang, kini tampak membaik. Altman pun mendukung perlunya pengaturan laju teknologi terdepan seperti yang diusulkan Amodei.