Kecemasan sekaligus kehebohan sedang melanda dunia kecerdasan buatan (AI). Sebuah peristiwa terkait uji coba AI membuktikan, pengembangan AI dapat membawawa manusia pada area yang sama sekali belum dikenal (uncharted territory).
Kejadian tersebut berawal ketika OpenAI menguji coba dua model AI miliknya dalam sebuah lingkungan tertutup atau semacam ”laboratorium”. Lingkungan yang sangat terbatas semacam ini disebut sandbox. Karena dimasukkan dalam sandbox yang dibuat tidak tersambung dengan internet, restriksi (guardrails) dalam kedua model itu dibuat sangat sedikit. Tujuannya, kedua model, yakni GPT 5.6 Sol dan model yang belum diberi nama, dapat mengerahkan kemampuan mereka semaksimal mungkin untuk menjalankan perintah evaluasi.
Lalu apa misi atau materi evaluasi yang diberikan kepada kedua model di dalam sandbox? Para ilmuwan kecerdasan buatan OpenAI meminta (prompt) kedua model untuk menjalani evaluasi kemampuan siber bernama ExploitGym. Dalam evaluasi ini, model diperintahkan untuk mengerahkan kemampuannya sehingga bisa membuat celah keamanan menjadi serangan yang betul-betul nyata.
Tanpa diduga, model ”berinisiatif” tak sekadar menyerang atau mengeksploitasi program yang menjadi obyek uji coba. Lebih dari itu, kedua model mencari jalan untuk mendapatkan langsung jawaban evaluasi. Pendek kata, model AI milik OpenAI berhasil menembus sandbox, ”kabur”", dan masuk ke internet yang tidak terbatas.
”Saat beroperasi di lingkungan pengujian terisolasi (sandbox) kami, model-model kami menghabiskan sejumlah besar daya komputasi inferensi untuk mencari cara mendapatkan akses internet terbuka, dalam upaya memecahkan masalah evaluasi,” ungkap OpenAI dalam blog mereka, Selasa (21/7/2026).
Dalam belantara internet, model AI yang berhasil ”kabur” itu menyimpulkan bahwa Hugging Face, sebuah situs komunitas pengembang kecerdasan buatan, kemungkinan besar menyimpan model, kumpulan data, atau solusi bagi materi evaluasi ExpolitGym.
”Setelah memperoleh akses internet, model-model tersebut menyimpulkan bahwa Hugging Face berpotensi menyediakan model, dataset, dan solusi untuk ExploitGym. Dengan mengetahui hal ini, model mencari dan berhasil menemukan cara untuk mendapatkan akses ke informasi rahasia yang dapat digunakannya untuk mengakali evaluasi,” jelas OpenAI melalui keterangan tertulis.
Hugging Face memang mengonfirmasi telah terjadi akses tidak sah terhadap sejumlah data internal dan kredensial layanan. Meski demikian, tidak ada bukti bahwa model, dataset publik, atau rantai pasokan perangkat lunaknya dimanipulasi.
Kepada kantor berita AP, Colin Shea-Blymyer, peneliti keamanan siber di Pusat Keamanan dan Teknologi Baru Universitas Georgetown, menilai, kejadian itu tak ubahnya ketika menempatkan siswa di sebuah ruangan dan memberi tahu siswa untuk melakukan hal-hal buruk. Tugas siswa itu sekarang adalah mengevaluasi seberapa buruk dirinya sebagai seorang manusia.
”Kemudian Anda mengunci ruangan dan pergi selama akhir pekan, lalu kembali, dan mendapati mereka sudah meninggalkan ruangan," ujar Shea-Blymyer.
Menurut Shea-Blymyer, kejadian itu memperlihatkan tingkat otonomi tertinggi yang pernah dilihatnya dalam penggunaan large language model (LLM) untuk operasi siber. Salah satu inovasi paling mengejutkan dia adalah keputusan agen AI secara independen untuk menargetkan Hugging Face guna mencari jawaban evaluasi.
Profesor Deirdre Mulligan dari Sekolah Informasi Universitas California, Berkeley, berpendapat, tanggung jawab tetap berada di tangan OpenAI. “Menurut saya, OpenAI tidak menciptakan lingkungan pengujian sandbox yang memadai,” ucapnya dikutip The New York Times.
Menurut ahli sosial Universitas Amsterdam, Hannes Cools, penggambaran serangan siber tersebut sebagai agen AI yang bertindak sendiri merupakan antropomorfisasi atau pelabelan karaktersitik manusia kepada entitas non-manusia yang tidak perlu. Penggambaran ini membuat tekanan terhadap perusahaan berkurang.
"Mematikan pengamanan (guardrails) tertentu adalah keputusan manusia. Bukan AI yang bertindak di luar kendali dalam arti itu. AI tersebut mengikuti instruksi spesifik berdasarkan perintah yang diberikan kepada sistemnya," tutur Cools.
OpenAI menyebut sedang berkoordinasi dengan Hugging Face untuk menutup celah keamanan yang memungkinkan terjadinya serangan tersebut. Pada saat yang sama, CEO Hugging Face, Clem Delangue, Selasa (21/7/2026), mengatakan, perusahaannya bekerja sangat intensif bersama OpenAI dalam 24 jam terakhir untuk menangani dampak serangan. Ia pun mengapresiasi kerja sama tersebut.
Menurut Delangue, insiden yang kemungkinan merupakan kasus pertama ini menegaskan bahwa persoalan keamanan kecerdasan buatan tidak dapat ditangani oleh satu perusahaan secara tertutup. Penanganannya membutuhkan kolaborasi antarpelaku industri.
Komentar (0)