OpenAI menghentikan sementara sejumlah aktivitas pengembangan model AI andalan barunya bernama Astra. Berdasarkan evaluasi awal, model ini berpotensi memiliki kemampuan siber yang ofensif di level critical. Ini adalah level risiko tertinggi dalam kerangka keamanan (Preparedness Framework) milik OpenAI.
Menurut definisi OpenAI, sebuah model dianggap mencapai level "Kritis" di bidang siber jika mampu secara mandiri tanpa campur tangan manusia menemukan dan mengeksploitasi celah keamanan hingga merancang dan menjalankan strategi serangan siber baru dari awal hingga akhir.
Sebagai langkah kehati-hatian, perusahaan memperketat kontrol keamanan dan menghentikan aktivitas internal Astra, ditambah model AI ini belum memenuhi standar pengamanan yang sesuai.
Sebagai respons, OpenAI sudah melakukan sejumlah tindakan yakni:
Mengisolasi lingkungan pengujian Astra dengan akses jaringan dan alat yang lebih dibatasi.
Pemantauan (monitoring) yang lebih ketat, termasuk meninjau alur penalaran (chain of thought) model selama pelatihan dan evaluasi.
Memperkuat enkripsi untuk bobot (weights) model
Menghentikan sementara pekerjaan internal atas Astra yang belum memenuhi standar keamanan baru
Menggandeng lembaga pemerintah AS dan sejumlah organisasi keamanan AI independen untuk ikut menguji kemampuan Astra
OpenAI sempat jadi sorotan sejak bulan lalu. Agen AI milik mereka sempat 'kabur' dari sandbox pengujian terisolasi untuk mendapatkan akses internet mandiri. Bukan cuma membobol platform Hugging Face, tapi juga sempat menyusup ke akun milik pelanggan perusahaan cloud lain, Modal Labs, yang berbasis di New York.
Insiden itu melibatkan dua model, pertama adalah GPT-5.6 Sol dan satu model pra-rilis yang belum diumumkan namanya. Kedua model tersebut awalnya diuji dalam skenario keamanan siber bernama ExploitGym dengan sejumlah pagar pengaman sengaja dinonaktifkan agar kemampuan aslinya bisa diukur secara murni.
Alih-alih tetap di lingkungan tertutup, model-model itu menemukan celah zero-day pada software toolkit, lalu memanfaatkannya untuk memperoleh akses internet dan akhirnya membobol sistem produksi Hugging Face.
OpenAI menegaskan bahwa Agen AI yang membobol kedua platform itu tidak berbasis model Astra. Alasannya, sampai saat ini, Astra masih dalam tahap pengembangan dan belum dirilis ke publik, menurut laporan The Guardian. Penundaan pengembangan Model AI Astra ini sudah diketahui oleh Pemerintah AS.
Insiden pembobolan beberapa waktu lalu menjadi salah satu pemicu utama mengapa OpenAI kini bergerak jauh lebih hati-hati sebelum merilis model barunya yang lebih canggih, termasuk Astra.
OpenAI ingin membangun model AI Astra dengan kemampuan siber tinggi. Tujuannya tak lain ialah sebagai alat bantu tim keamanan siber untuk menemukan dan menambal celah lebih dulu sebelum dieksploitasi pihak tak bertanggung jawab.
Komentar (0)