OpenAI Luncurkan Astra Model AI dengan Kemampuan Keamanan Siber Canggih

OpenAI mengumumkan model bahasa besar terbaru, Astra, yang diklaim sebagai yang pertama memenuhi ambang keamanan siber kritis. Model ini mampu mendeteksi dan mengeksploitasi celah keamanan yang belum diketahui pada sistem komputer tanpa panduan manusia. dilansir dari Detik iNET, laboratorium teknologi tersebut menyatakan Astra meraih skor sempurna dalam evaluasi ExploitBench, uji kemampuan model dalam meretas kerentanan sistem. Dalam tes yang dimodifikasi, Astra berhasil menemukan dan mengeksploitasi dua kerentanan zero-day.

"Kami berencana untuk segera menghadirkan Astra. Namun, akses terhadap kemampuan keamanan siber yang paling canggih akan lebih terbatas," ujar OpenAI dalam postingan blog resmi.

Perusahaan berencana melakukan uji coba awal dengan sekelompok penguji, meskipun belum mengonfirmasi identitas mereka. OpenAI juga belum menjelaskan apakah bekerja sama dengan pemerintah AS untuk evaluasi sebelum peluncuran luas.

Untuk mencegah penyalahgunaan, OpenAI menyempurnakan sistem pengamanan model guna mendeteksi perilaku berbahaya dan mencegah jailbreak. Mereka juga menerapkan teknik baru untuk meningkatkan keamanan, serta membatasi respons model terhadap akun berisiko tinggi. Astra akan diluncurkan dengan sistem pemantauan alur penalaran tambahan untuk mendeteksi perilaku berbahaya. OpenAI mengaku telah merancang tes untuk memastikan model tidak mencoba keluar dari lingkungan pengujian, seperti insiden Hugging Face sebelumnya.

OpenAI berencana merilis evaluasi dan informasi keamanan tambahan saat Astra diluncurkan secara luas kepada publik.