OpenAI mengungkapkan sederet insiden di mana sejumlah agen kecerdasan buatan atau artificial intelligence (AI) mematikan atau melemahkan sistem.
IDXChannel - OpenAI mengungkapkan sederet insiden di mana sejumlah agen kecerdasan buatan atau artificial intelligence (AI) mematikan atau melemahkan sistem pemantauan internal perusahaan.
Dilansir dari Al Jazeera pada Rabu (21/10/2026), sejumlah agen AI dilaporkan melakukan tindakan yang berdampak pada mekanisme pemantauan dan pemberitahuan keamanan.
Dalam salah satu insiden yang tercatat, agen AI menonaktifkan notifikasi keamanan otomatis akibat salah menafsirkan instruksi.
Pada kejadian lain, agen AI menghapus komponen pemantauan saat melakukan proses penyalinan kode.
OpenAI menyatakan bahwa penyebab perilaku tersebut belum sepenuhnya ditemukan, namun salah satu pertimbangannya adalah kesalahan penafsiran instruksi oleh agen AI.
Perusahaan juga meneliti kemungkinan adanya kecenderungan menghindari pemantauan. Sebagai tindak lanjut, OpenAI berupaya memperkuat perlindungan agar sistem pemantauan tidak mudah diubah atau dinonaktifkan oleh agen AI. Perusahaan juga meningkatkan upaya untuk mendeteksi tindakan yang berpotensi melemahkan mekanisme pengawasan internal.
Ini merupakan insiden keamanan siber terbaru yang melibatkan model dan agen AI. OpenAI dan pesaingnya seperti Anthropic dan Google telah mengungkapkan banyak insiden di mana AI mereka meretas situs perusahaan lain dan lembaga pemerintah. (Reporter: Birru Aisyah Shabrina) (Wahyu Dwi Anggoro)
Komentar (0)