Sistem AI OpenAI Serang Server Hugging Face Secara Mandiri

Sistem kecerdasan buatan milik OpenAI keluar dari lingkungan pengujian dan meretas server startup Hugging Face secara mandiri di San Francisco. Peristiwa yang disebut OpenAI sebagai insiden siber belum pernah terjadi sebelumnya ini memicu perdebatan mengenai perlunya pembatasan keamanan AI yang lebih ketat.

OpenAI mengungkapkan bahwa dua model AI paling tangguh miliknya, termasuk GPT-5.6 Sol dan satu model eksperimental lain, bertanggung jawab atas serangan tersebut. AI tersebut memanfaatkan kredensial yang dicuri serta celah keamanan yang belum diketahui untuk mengakses server Hugging Face setelah mencari cara terhubung ke internet tanpa arahan manusia.

Sosiolog Universitas Amsterdam, Hannes Cools, menilai pembentukan narasi bahwa AI bertindak sendiri merupakan bentuk antropomorfisasi yang tidak perlu untuk mengurangi tanggung jawab perusahaan.

"Merupakan keputusan manusia untuk mematikan perlindungan tertentu," kata Hannes Cools. "Ini bukanlah AI yang menjadi liar dalam artian tersebut. AI tersebut mengikuti instruksi khusus berdasarkan perintah yang diberikan kepada sistem AI itu."

Cools menjelaskan bahwa petunjuk yang diberikan meminta AI menggunakan jalur serangan kompleks guna menguji kemampuan eksploitasi sistem.

Peneliti riset keamanan siber di Pusat Keamanan dan Teknologi Berkembang Universitas Georgetown, Colin Shea-Blymyer, menyoroti tingkat otonomi model bahasa besar ini yang dinilainya paling tinggi dalam operasi siber.

"Sistem itu pergi dan melakukan peretasan ini seluruhnya sendirian, sejauh yang kami tahu," kata Colin Shea-Blymyer.

Shea-Blymyer menambahkan bahwa agen AI tersebut secara mandiri memutuskan untuk menargetkan Hugging Face demi mendapatkan kunci jawaban atas evaluasi yang sedang dijalankannya.

"Dan agen itu berpikir, 'Nah, kita akan pergi ke rumah guru,' bisa dikatakan demikian. Dan dari sana ia merancang rencana untuk membobol dan mencuri kunci jawaban," kata Colin Shea-Blymyer.

Co-founder sekaligus Chief Science Officer Hugging Face, Thomas Wolf, menegaskan pentingnya akses luas terhadap model sumber terbuka untuk pertahanan keamanan siber. Hugging Face sendiri menggunakan model buatan Tiongkok untuk mengatasi peretasan tersebut.

"Ketika sebuah model terdepan menyerang Anda dan bergerak secara lateral di dalam infrastruktur Anda, pihak bertahan membutuhkan akses luas ke alat-alat mendekati tingkat terdepan dalam hitungan jam atau bahkan menit, daripada diarahkan ke platform berpintu tertutup," kata Thomas Wolf.

CEO platform tata kelola i-GENTIC AI, Zahra Timsah, mendesak agar pengujian ketat dilakukan sebelum sistem AI diakses publik.

"Ini seperti memiliki sabuk pengaman, kantong udara, rem, semuanya ada di dalam mobil. Itu semua harus ada sebelum mobil mulai berjalan," kata Zahra Timsah.

Di sisi lain, asisten profesor ilmu komputer Cornell University, John Thickstun, menganggap peristiwa ini merupakan bagian dari proses pembelajaran dalam meningkatkan kemampuan siber.

"Kita telah berurusan dengan orang-orang yang membuat serangan keamanan siber selama internet ada. Dan salah satu sifat menarik dari model bahasa ini adalah kemampuan yang sama yang membuat mereka mampu melakukan serangan keamanan siber juga memungkinkan mereka melakukan analisis ancaman keamanan siber dan membuat pertahanan keamanan siber," kata John Thickstun.

Thickstun menambahkan narasi bahaya model AI ini dimanfaatkan OpenAI untuk menarik perhatian investor terkait kekuatan teknologi mereka menjelang debut di Wall Street.

Direktur Machine Intelligence Research Institute, Nate Soares, menilai insiden ini sebagai peringatan global untuk menahan peningkatan kecerdasan AI.

"Saya pikir kita harus menjadikan ini sebagai tembakan peringatan untuk tidak membuat mereka lebih pintar, dan itu kemungkinan akan membutuhkan kolaborasi global," kata Nate Soares.

Soares menambahkan bahwa komunitas keamanan nasional AS perlu membuka dialog dengan pesaing utamanya, Tiongkok, guna meredam risiko keamanan siber ini.

"Banyak hal yang bisa berubah ketika komunitas keamanan nasional mulai menyadari bahwa mereka memiliki ancaman yang serius," kata Nate Soares. "Apakah ini akan membangunkan mereka? Semoga saja.

Saya tidak yakin. Jika ini tidak membangunkan mereka, mungkin insiden berikutnya yang akan melakukan."

Pakar AI Yoshua Bengio turut menyampaikan keprihatinannya atas insiden otonom ini melalui media sosial.