Jakarta, CNBC Indonesia - Skenario yang selama ini ditakuti pakar keamanan siber akhirnya terjadi. Agen kecerdasan buatan (AI) otonom milik OpenAI kabur dari lingkungan pengujian yang terisolasi, mengakses internet, lalu meretas infrastruktur startup AI Hugging Face.
OpenAI mengungkapkan insiden tersebut pada Selasa (21/7). Perusahaan yang mengembangkan ChatGPT itu mengatakan agen AI yang ditenagai model AI canggihnya bertindak di luar kendali selama pengujian keamanan.
Dalam pengujian tersebut, OpenAI menguji kemampuan sejumlah model AI tercanggihnya di lingkungan yang terkontrol. Namun, agen AI itu berhasil keluar dari batasan sistem, menjangkau internet, dan membobol Hugging Face untuk memenuhi tujuan pengujiannya.
Insiden ini menunjukkan bahwa kemampuan AI yang terus berkembang telah mulai meningkatkan ancaman keamanan siber. Bahkan, pengembang AI dapat dikejutkan oleh celah keamanan yang mampu dieksploitasi model mereka sendiri.
OpenAI menyebut aksi tersebut sebagai insiden siber yang belum pernah terjadi sebelumnya, yang melibatkan kemampuan siber canggih. Perusahaan itu mengatakan akan memperkuat sistem pengamannya.
Serangan tersebut juga menarik perhatian karena Hugging Face menggunakan model AI open source asal China untuk membantu menangani serangan. Perusahaan mengatakan model AI asal Amerika Serikat menolak memroses data yang diperlukan untuk analisis karena tidak dapat membedakan antara pihak yang bertahan dan penyerang.
Dalam unggahan blog pekan lalu, Hugging Face mengatakan menggunakan GLM-5.2 milik Zhipu AI untuk menganalisis serangan tersebut. Langkah itu juga memungkinkan perusahaan tetap menyimpan data penyerang dan kredensial apa pun di dalam sistemnya sendiri.
GLM-5.2 dan Kimi K3 dari Moonshot yang berbasis di Beijing belakangan menjadi perhatian Silicon Valley. Kedua model tersebut disebut memiliki kemampuan yang mendekati model AI terkemuka asal Amerika Serikat, tetapi dengan biaya lebih rendah dan tanpa sejumlah sistem pengaman yang membuat model AI AS membatasi penggunaannya untuk tugas-tugas seperti keamanan siber.
"Ketika model frontier menyerang Anda dan bergerak secara lateral di dalam infrastruktur Anda, para pembela membutuhkan akses luas ke perangkat yang hampir setara dengan model frontier dalam hitungan jam atau bahkan menit, bukan diarahkan ke aplikasi yang akses modelnya tertutup dan telah melalui proses pemeriksaan," kata Co-founder Hugging Face Thomas Wolf melalui X, dikutip dari Reuters, Jumat (24/7/2026).
- Dikasih Lihat Foto Sekolah Putri Dibom AS, Trump Ngeles Bilang AI
- Prabowo Segera Tunjuk 'Wasit' Data Warga RI, Ini Bocoran Komdigi
Perwakilan Partai Demokrat dari Texas, Greg Casar, menyebut insiden tersebut cukup mengkhawatirkan.
"AI berkembang sangat cepat tanpa regulasi nyata untuk menjaga kita tetap aman," ujarnya dalam sebuah pernyataan.
Ia menyerukan pengujian keamanan independen yang wajib, kewajiban mengungkap insiden keamanan, serta kerja sama internasional "untuk menjaga keselamatan manusia dari bencana besar."
Sementara itu, Eksekutif Luta Security Katie Moussouris mengatakan insiden tersebut menjadi pertanda serangan siber yang akan datang. Ia menggambarkan model AI saat ini seperti gurita paling cerdas di dunia, dengan lengan yang dapat menjangkau tanpa batas dan kemampuan untuk menyelinap melalui celah apa pun.
Ia mengatakan, laboratorium dan evaluator pemerintah perlu mengembangkan kemampuan untuk menahan, memantau, dan mengungkapkan kepada pihak yang terdampak ketika AI melakukan aksi pelarian lainnya, idealnya sebelum merugikan pihak ketiga. Saat ini, belum ada satu pun yang mampu melakukan hal tersebut.
(fab/fab) Add as a preferred
source on Google
Komentar (0)