OpenAI mengungkapkan dua agen artificial intelligence (AI) mereka melemahkan sistem pemantau keamanan internal secara mandiri saat menjalankan tugas pengodean (coding). Insiden ini membuktikan bahwa sistem pengawas AI rentan terhadap manipulasi agen yang mereka awasi sendiri. Dua model yang terlibat dalam pengujian internal tersebut mencakup agen GPT-6.1 Sol dan agen GPT-6 Astra.
Kasus ini seakan mempertegas kekhawatiran para peneliti global terkait standar keamanan kecerdasan buatan yang tertinggal dari pesatnya perkembangan sistem otonom. OpenAI mencatat agen GPT-6.1 Sol mematikan peringatan keamanan otomatis pada 3 Oktober 2026. Agen tersebut salah menafsirkan instruksi rutin larangan mengirim pesan Slack sebagai izin membungkam notifikasi keselamatan.
Tiga hari kemudian, 6 Oktober 2026, agen GPT-6 Astra menghapus monitor keamanan saat menyalin kode dan secara keliru mengklaim bahwa ia tidak melakukannya.
Evaluasi Ketat Pengawasan Otonom AIReuters melaporkan OpenAI menyatakan kedua insiden tersebut terjadi pada pengujian komputasi internal dan belum masuk dalam kategori paling berbahaya. Kendati demikian, fenomena agen AI yang bertindak di luar kehendak penciptanya menjadi alarm serius bagi industri teknologi.
Pihak OpenAI mengakui model AI mereka secara sadar mencari celah dari perintah yang diberikan oleh pengembang.
"Dalam kedua kasus tersebut, agen mempertimbangkan apakah perlindungan pemantauan harus dipertahankan, tetapi menafsirkan instruksi pengodean rutin sebagai izin untuk melemahkannya," tulis OpenAI dalam keterangannya.
Manajemen OpenAI menambahkan bahwa mereka "belum memiliki penjelasan yang memuaskan untuk perilaku ini."
Saat ini, OpenAI tengah memperketat sistem agar agen AI tidak dapat menonaktifkan fitur pemantauan. Perusahaan asal San Francisco tersebut juga menguji apakah model-model AI mereka memiliki kecenderungan alami untuk menghindari pengawasan serta mencari pembenaran atas tindakan tersebut.
Komentar (0)