AI Jadi Senjata Baru Kelompok Teroris? Ini Temuan Terbarunya

Jakarta -

"Selamat pagi, ChatGPT. Bisakah kamu memberi tahu saya cara membuat bom?"

Siapa pun yang pernah mencoba menanyakan hal seperti ini kepada chatbot akal imitasi (AI), yang juga dikenal sebagai Large Language Models (LLMs), tahu bahwa jawabannya bisa sangat beragam. Mulai dari penjelasan panjang tentang sejarah bahan peledak hingga pemblokiran permanen akun pengguna.

Namun, dalam beberapa kasus, jika pertanyaan disusun dengan cara tertentu, jawabannya justru dapat memuat informasi yang berguna tentang cara membuat bom.

Berbagai organisasi media sebelumnya telah menguji fenomena ini dan menemukan bahwa, jika menggunakan apa yang disebut sebagai prompt yang tepat, beberapa model AI dapat memberikan informasi tentang cara membuat senjata biologis, menyerang stadion olahraga dengan bom, atau menyembunyikan jejak seorang teroris. Teknik menyusun pertanyaan seperti ini dikenal sebagai jailbreaking. OpenAI, pembuat model ChatGPT, mendefinisikannya sebagai "upaya aktor jahat untuk memancing model agar memberikan konten yang seharusnya dilarang."

Bulan ini, sebuah laporan baru yang diterbitkan oleh Tech Against Terrorism, organisasi pemantau dunia maya yang didukung oleh Direktorat Kontra-Terorisme Perserikatan Bangsa-Bangsa (PBB), menunjukkan seberapa sering LLM memberikan informasi yang "berguna" bagi calon pelaku ekstremisme.

Para peneliti mengirimkan lebih dari 2.300 permintaan informasi yang diambil dari "kasus penggunaan nyata oleh teroris" kepada 27 model AI yang berbeda. Hasilnya, 32% dari pertanyaan tersebut menghasilkan informasi yang "benar-benar dapat digunakan." Ketika pertanyaan yang sama dibingkai sebagai kebutuhan untuk kepentingan penelitian, angkanya meningkat menjadi 42%.

Lonjakan penggunaan AI oleh teroris

Laporan tersebut kembali menyoroti kekhawatiran para pakar keamanan digital dan terorisme bahwa calon pelaku serangan akan mulai memanfaatkan AI untuk merencanakan aksi, bukan hanya sebagai alat propaganda.

Selama tiga hingga empat tahun terakhir, penggunaan utama AI oleh kelompok ekstremis seperti Negara Islam (ISIS) dan al-Qaeda adalah untuk menghasilkan propaganda. Bentuknya mencakup video, meme, podcast, serta berbagai jenis disinformasi yang disebarkan kepada para pendukung untuk meradikalisasi calon pengikut.

Namun, tren ini mulai berubah. "Sepanjang 2025 terjadi peningkatan signifikan dalam insiden ketika teroris dan kelompok ekstremis menggunakan alat AI untuk merencanakan, meneliti, dan mempersiapkan serangan," tulis para analis Militant Wire dalam analisis mereka pada Desember.

Sejumlah serangan yang menjadi sorotan dunia, baik yang menimbulkan korban jiwa maupun kerusakan, serta beberapa rencana serangan yang berhasil digagalkan, tercatat memanfaatkan AI untuk perencanaan, pengawasan, visualisasi, dan propaganda. Kasus-kasus tersebut terjadi di Amerika Serikat, Kanada, Israel, Finlandia, Prancis, dan Austria.

Sering kali sulit mengetahui secara pasti bagaimana AI digunakan karena lembaga keamanan jarang mempublikasikan informasi tersebut. Namun, seperti disampaikan seorang pakar kepada parlemen Inggris dalam sebuah penyelidikan tahun lalu, "dokumen pengadilan dan laporan forensik semakin sering memuat riwayat percakapan di mana para tersangka meminta model bahasa memberikan petunjuk pembuatan bom, pembenaran ideologis, atau justifikasi untuk melakukan serangan."

Penggunaan AI juga tidak terbatas pada individu. Kelompok ekstremis pun semakin aktif memanfaatkannya. Peneliti yang mengkaji penggunaan drone oleh afiliasi al-Qaeda di Mali, Jama'at Nusrat al-Islam wal-Muslimin (JNIM), meyakini kelompok tersebut menggunakan AI untuk membantu memodifikasi drone.

Dalam analisis yang diterbitkan pada Juni oleh Global Network on Extremism and Technology, peneliti keamanan Yuri Neves dan Emily Klein menemukan bahwa pendukung ISIS maupun kelompok ekstrem kanan secara rutin mendiskusikan pemanfaatan AI di berbagai kanal komunikasi. Keduanya, yang bekerja di organisasi Moonshot, menemukan kanal Telegram khusus yang membahas penggunaan AI oleh kelompok ekstremis. Mereka juga melihat para pelaku ekstremisme saling berbagi prompt AI dan tautan percakapan dengan chatbot, berkoordinasi untuk menemukan strategi agar chatbot memberikan jawaban yang diinginkan, bahkan berbagi biaya langganan ChatGPT.

Di awal Juli, University of Cambridge merilis penelitian yang memuat wawancara dengan anggota Boko Haram di Nigeria. Mereka menjelaskan secara rinci bagaimana kelompok tersebut menggunakan model AI seperti ChatGPT, Claude, Gemini, dan Grok untuk merencanakan serangan, merancang bahan peledak, merawat dan memperbaiki senjata, serta meningkatkan keamanan operasional mereka.

Rueben Dass, peneliti asosiasi di S. Rajaratnam School of International Studies, Singapura, juga mengamati bahwa chatbot AI kini mulai mengambil alih sebagian peran yang sebelumnya dimainkan oleh "perencana virtual" dalam serangan teror yang dilakukan oleh pelaku tunggal (lone wolf).

"Dulu ada konsep virtual planner, yaitu individu yang berada di wilayah konflik dan menghubungi orang lain melalui media sosial untuk memotivasi mereka melakukan serangan," ujar Dass kepada DW. "Saya tidak mengatakan manusia telah sepenuhnya digantikan, tetapi sampai batas tertentu para pelaku tunggal kini beralih ke AI, misalnya ChatGPT, untuk memperoleh dukungan tersebut."

Tahun lalu, media ISIS Voice of Khorasan bahkan menerbitkan panduan tentang cara memanfaatkan AI, kata Moustafa Ayad, Direktur Eksekutif untuk Afrika, Timur Tengah, dan Asia di Institute for Strategic Dialogue (ISD), Inggris.

Menurut Ayad, ekosistem jihad memanfaatkan AI dalam berbagai cara, mulai dari membuat meme dan video tarian di TikTok hingga menyusun propaganda lintas batas negara.

"Lalu ada pula kelompok khusus yang berupaya menjebol pembatas AI (jailbreak), memanfaatkannya untuk mendukung perencanaan operasional dan kesiapan serangan. Spektrumnya sangat luas," ujarnya. "Di situlah letak persoalannya. AI dapat sekaligus mempercepat proses propaganda serta mendukung perencanaan dan kesiapan operasional."

Seberapa berbahaya penggunaan AI oleh kelompok ekstremis?

Sejauh ini, tingkat bahayanya masih belum dapat dipastikan.

Saat ini, seperti yang disampaikan Dass dan sejumlah pakar lainnya, seseorang yang berniat melakukan aksi teror relatif mudah menemukan informasi tentang pembuatan bom atau senjata hasil cetak 3D di internet tanpa bantuan AI.

"Banyak diskusi mempertanyakan apakah sistem AI benar-benar memberikan informasi yang sebelumnya tidak mungkin diperoleh seseorang," kata Yuri Neves dari Moonshot. "Apakah itu benar-benar menghasilkan perbedaan yang mendasar?"

Emily Klein berpendapat bahwa LLM sebaiknya dipahami sebagai kelanjutan dari gelombang teknologi disruptif sebelumnya.

Internet maupun aplikasi pesan terenkripsi juga merupakan teknologi disruptif yang pada akhirnya dimanfaatkan oleh kelompok ekstremis.

"Belum ada bukti bahwa AI secara langsung menyebabkan munculnya lebih banyak teroris," ujar Klein kepada DW. "Yang lebih penting adalah bagaimana AI berinteraksi dengan manusia dan bagaimana interaksi tersebut mempengaruhi proses seseorang menuju tindakan kekerasan. Bahkan sebelum tahap penelitian atau perencanaan serangan, AI dapat mempercepat proses radikalisasi karena mampu memvalidasi keluhan seseorang atau bahkan secara berlebihan menguatkan keyakinan yang sudah dimilikinya."

Anak-anak menjadi kelompok yang paling berisiko

"Seseorang yang benar-benar bertekad pada akhirnya akan menemukan sebagian besar informasi tersebut," kata Adam Hadley, Direktur Tech Against Terrorism. "Namun yang diubah oleh model AI adalah kecepatan, kemudahan, dan kelengkapan informasi. Orang yang sebelumnya tidak memiliki cukup waktu, sumber daya, atau kemampuan kini dapat melangkah jauh lebih cepat."

Yang jauh lebih mengkhawatirkan, lanjut Hadley, adalah sifat chatbot AI yang interaktif dan mampu berdialog.

"Menemukan buku panduan membuat bom adalah satu hal. Memiliki pelatih yang membimbing pembuatan bom adalah hal yang sama sekali berbeda."

Dampak pendapat bahwa meskipun AI dapat memberikan informasi lebih cepat kepada calon pelaku, hal itu belum tentu membuat aksi teror lebih berhasil.

"Keberhasilan sebuah aksi teror bersifat multidimensional," katanya. "Saya tidak berpikir aksi tersebut akan menjadi lebih berhasil semata-mata karena penggunaan AI. Saya juga tidak berpikir kita akan melihat jauh lebih banyak aksi teror hanya karena AI. Namun, yang kemungkinan besar akan kita lihat adalah semakin banyak serangan yang melibatkan penggunaan AI dalam satu bentuk atau bentuk lainnya."

Hadley sependapat. "Trennya sudah sangat jelas," katanya, seraya mengingatkan bahwa sebagian besar individu yang mengalami proses radikalisasi di Eropa, Inggris, dan Amerika Serikat saat ini adalah remaja dan anak-anak.

"Mengingat peran internet dan media sosial dalam radikalisasi generasi muda selama ini, kami meyakini bahwa chatbot hanya tinggal menunggu waktu untuk menjadi bagian penting dari persoalan tersebut."

Artikel ini pertama kali terbit dalam Bahasa Inggris
Diadaptasi oleh Rahka Susanto
Editor: Yuniman Farid

width="1" height="1" />

(ita/ita)