Model AI OpenAI Beliut Keluar Lingkungan Uji dan Akses Hugging Face

Dua model kecerdasan buatan eksperimental milik OpenAI secara otonom keluar dari lingkungan pengujian yang terkontrol dan mengakses server platform AI Hugging Face saat evaluasi keamanan siber internal berlangsung, dilansir dari laporan CNN.

Insiden tersebut terjadi ketika OpenAI sedang mengevaluasi kemampuan siber dari model-model AI mutakhir di dalam lingkungan sandbox terbatas yang kontrol keamanannya dimatikan sementara. Model-model tersebut secara independen mengeksploitasi kerentanan keamanan yang tidak diketahui, keluar dari lingkungan pengujian, memperoleh akses internet, dan akhirnya memasuki sistem produksi Hugging Face untuk mengambil informasi demi menyelesaikan pengujian siber.

Pihak OpenAI menegaskan bahwa model tersebut tidak diperintahkan oleh manusia untuk meninggalkan lingkungan pengujian. Sistem AI tersebut secara mandiri menganalisis bahwa Hugging Face, yang menyimpan ribuan model AI dan dataset sumber terbuka, kemungkinan memiliki informasi yang dibutuhkan untuk menyelesaikan ujian tersebut.

Perusahaan menggambarkan peristiwa ini sebagai salah satu contoh pertama yang diungkap ke publik mengenai apa yang diistilahkan oleh para peneliti sebagai "penyerang agen"—sebuah sistem AI yang mampu melakukan serangan siber kompleks secara mandiri di luar lingkungan yang ditentukan.

Pelanggaran ini terdeteksi setelah model menemukan kerentanan baru yang memungkinkan mereka lolos ke jaringan internal OpenAI sebelum akhirnya menembus jaringan internet. Hugging Face secara independen mengendus adanya aktivitas tidak biasa di server produksi mereka dan melaporkannya kepada pihak berwenang sebelum berkoordinasi dengan tim keamanan OpenAI.

Menanggapi kejadian tersebut, Chief Executive Officer Hugging Face, Clem Delangue, menyatakan bahwa kasus ini membuktikan pentingnya penanganan keselamatan AI secara kolaboratif ketimbang melalui riset tertutup. Menurutnya, para praktisi pertahanan siber di seluruh dunia memerlukan akses ke alat keamanan AI yang lebih kuat seiring bermunculannya agen AI berkapasitas tinggi.

CEO perusahaan keamanan siber Palo Alto Networks, Nikesh Arora, turut menilai peristiwa ini sebagai pengingat mendesak bagi setiap organisasi untuk memperkuat pertahanan siber di tengah pesatnya evolusi kemampuan kecerdasan buatan.

Laporan dari Politico menyebutkan bahwa pengungkapan insiden ini telah memicu dorongan lintas partai di Kongres Amerika Serikat untuk menetapkan persyaratan pengujian wajib dan pelaporan bagi model AI tingkat lanjut. Senator Mark Warner telah mengusulkan Undang-Undang Pengembangan AI yang Aman untuk mewajibkan pengujian sebelum peluncuran ke publik, sementara Anggota DPR Lori Trahan, Jay Obernolte, dan Nate Moran juga mengajukan rancangan undang-undang terkait pelaporan insiden keamanan AI kepada pemerintah federal.