Langkah hukum yang diambil Freya, anggota grup idola JKT48, dengan melaporkan manipulasi fotonya yang dihasilkan perangkat kecerdasan buatan Grok, membuka kotak pandora kerentanan perempuan di ruang digital. Kasus ini tak sekadar masalah ”foto editan” yang lazim ditemui di masa lalu, tetapi juga manifestasi baru kekerasan seksual.
Penyalahgunaan perangkat akal imitasi (artificial intelligence/AI) seperti Grok untuk menciptakan konten yang merugikan menunjukkan celah besar perlindungan ruang digital, terutama bagi perempuan dan anak. Meski foto itu hasil rekayasa AI, korban kerap mendapat stigma negatif atau penghakiman dari masyarakat.
Salah satu dampak paling menyakitkan bagi korban seperti yang dialami Freya, yakni risiko mengalami double victimisation atau penghakiman ganda. Freya merasa dirugikan karena fitur AI di media sosial X bernama Grok yang digunakan orang tak dikenal.
Akun-akun itu meminta Grok memanipulasi foto Freya untuk memakai bikini, baju karyawan minimarket, hingga pakaian dalam. Tidak nyaman fotonya dimanipulasi, pada awal Februari 2026, Freya melaporkan kepada polisi.
”Langkah Freya melaporkan kasus ini ke polisi adalah tindakan yang tepat dan berani. Secara hukum, ini tak sekadar masalah ’foto editan’, tetapi juga bentuk kekerasan seksual digital,” ucap Guru Besar Fakultas Hukum Universitas Mataram Prof Widodo Dwi Putro, Sabtu (14/3/2026).
Maka, penegakan hukum yang tegas terhadap pelaku sangat diperlukan untuk memberikan efek jera dan melindungi ruang digital agar tetap aman bagi perempuan. Keadilan bagi korban menjadi prioritas utama, bukan sekadar pembuktian teknis teknologi AI.
Fenomena penggunaan kecerdasan buatan atau AI untuk memanipulasi foto perempuan merupakan bentuk nyata kekerasan seksual berbasis elektronik (KSBE). Dalam kacamata hukum, manipulasi foto memakai AI merupakan serangan langsung pada integritas seksual dan otonomi tubuh seseorang.
Langkah Freya melaporkan kasus ini ke polisi adalah tindakan yang tepat dan berani. Secara hukum, ini tak sekadar masalah ’foto editan’, tetapi juga bentuk kekerasan seksual digital.
Jika merujuk pada Pasal 14 UU Nomor 12 Tahun 2022 tentang Tindak Pidana Kekerasan Seksual (UU TPKS), tindakan merekayasa informasi elektronik bermuatan seksual tanpa persetujuan korban adalah tindak pidana.
”Undang Undang TPKS mengakui kekerasan tidak harus bersifat fisik. Manipulasi foto menggunakan AI merupakan serangan terhadap otonomi tubuh dan integritas seksual,” ucap Widodo.
Karena itu, penting bagi warga dan penegak hukum memahami kekerasan tak selalu harus bersifat fisik. ”Teknologi tak boleh jadi celah untuk melanggar batas pribadi seseorang,” ujarnya seraya menambahkan pengeditan foto tanpa izin untuk tujuan seksual merupakan pelanggaran berat hak privasi yang dilindungi konstitusi.
Salah satu tantangan terbesar dalam menangani kasus KSBE adalah dampak psikososial bagi korban. Meski secara teknis sebuah konten terbukti merupakan hasil rekayasa AI atau deepfake, korban tetap dihantui oleh risiko double victimisation atau penghakiman ganda dari masyarakat.
Sentimen negatif sering kali melekat pada korban meski kebenaran teknis telah terungkap. Oleh karena itu, aparat penegak hukum dituntut untuk memiliki perspektif korban yang kuat dalam proses penyidikan.
Maka, penegakan hukum harus memastikan tidak adanya praktik victim blaming—seperti menyalahkan gaya berpakaian atau foto asli korban—karena fokus utama tindak pidana ini adalah pada niat jahat rekayasa konten tersebut.
Penggunaan tool atau perangkat AI seperti Grok untuk menciptakan konten merugikan menunjukkan perlunya regulasi lebih ketat bagi penyedia platform. Secara hukum dan moral, tanggung jawab tidak hanya berhenti pada individu yang menyebarkan konten, tapi juga pada pengembang teknologi.
Karena itu, desakan publik terus menguat akan pentingnya penyedia layanan AI untuk memasang ”pagar pengaman” (safeguards) guna mencegah penyalahgunaan teknologi yang melecehkan orang (terutama) perempuan dan anak-anak.
Selain itu, negara bersama penyedia platform wajib memfasilitasi mekanisme penurunan konten (take down) secara cepat agar materi manipulatif tersebut tidak terus tersebar di internet.
Manipulasi foto yang dihasilkan oleh perangkat AI, seperti yang dialami Friya, hanyalah salah satu dari sekian kasus yang terjadi di Indonesia. Kejahatan seksual digital kian mengancam seiring dengan hadirnya berbagai platform digital dengan berbagai bentuk kecerdasan AI.
Mencuatnya kasus-kasus kekerasan berbasis jender di ranah digital, yang memakai tubuh dan merendahkan martabat perempuan, menunjukkan ”revolusi senyap” tengah berlangsung. Bukan di medan perang dengan senjata api, melainkan di lanskap digital yang kian tak terbatas.
Kecerdasan buatan yang semula digadang-gadang sebagai akselerator peradaban kini menyingkap ”sisi gelap inovasi teknologi dan dehumanisasi perempuan”. Akal imitasi menjadi mesin eksploitasi baru, senjata canggih untuk melanggengkan penindasan berbasis jender.
Kasus manipulasi foto dan video bermuatan seksual menggunakan AI, seperti yang marak terjadi awal 2026, merupakan puncak gunung es dari krisis yang secara sistematis merendahkan martabat perempuan dan anak-anak. Ruang digital Indonesia diguncang oleh penyalahgunaan fitur AI generatif Grok.
Dalam kasus itu, Grok AI digunakan untuk merekayasa foto-foto pribadi perempuan menjadi konten pornografi eksplisit (deepfake pornography). Insiden ini memaksa pemerintah untuk memblokir sementara akses terhadap layanan tersebut.
Namun, pemblokiran ini hanyalah merupakan respons reaktif terhadap masalah yang jauh lebih fundamental. Laporan Perserikatan Bangsa-Bangsa (PBB) bahkan menyoroti paradoks suram, yakni kemajuan teknologi justru berbanding terbalik dengan kemerosotan perlindungan perempuan di seluruh dunia.
Pendiri Indonesia Cyber Security Forum (ICSF), Ardi Sutedja, awal Januari 2026 (Kompas.id, 12 Januari 2026) juga mengungkapkan, kemampuan AI Grok untuk memanipulasi foto menjadi konten vulgar bukan hanya masalah privasi individual, melainkan juga ancaman terhadap stabilitas sosial dan keamanan nasional.
”Bayangkan jika teknologi ini disalahgunakan untuk memanipulasi foto pejabat negara, tokoh agama, atau figur publik lainnya. Dampaknya bisa memicu konflik horizontal, menurunkan kepercayaan publik, hingga destabilisasi politik,” ujarnya.
Prof Widodo, saat dikukuhkan sebagai guru besar dalam orasinya
berjudul ”Revolusi Senyap: Pergeseran Paradigma dari Rule of Law menuju Rule of Algorithm”, menyoroti bagaimana hukum yang berjalan dengan ritme linear tertatih-tatih mengejar teknologi yang melesat secara eksponensial.
Kecepatan dan skala penyebaran konten AI membuat penegakan hukum tradisional kewalahan. Proses hukum yang lambat sering kali tidak mampu memberikan perlindungan dan pemulihan yang cepat bagi korban yang citranya terus dieksploitasi setiap detik di dunia maya.
”Lompatan teknologi ini membawa kita pada sebuah persimpangan krusial yang menentukan masa depan masyarakat di era Rule of Algorithm. Di satu sisi, terdapat visi utopia yang menjanjikan sebuah dunia yang sepenuhnya teratur, efisien, dan bersih dari kelemahan manusiawi seperti korupsi atau emosi,” kata Widodo.
Di sisi lain, bayang-bayang distopia menghantui dengan gambaran ”sangkar besi digital”, di mana manusia kehilangan kedaulatannya di bawah kendali mesin yang tidak bisa dijelaskan. Ketegangan antara janji kemajuan dan risiko penindasan inilah yang menjadi inti dari dialektika hukum digital masa kini.
Maka, penting bagi masyarakat untuk memahami akar masalah tersebut dan harus bergerak melampaui gagasan bahwa teknologi adalah entitas netral. Setidaknya melihat dari perspektif feminis, khususnya konsep techno-patriarchy, bagaimana teknologi kerap mencerminkan dan bahkan memperkuat struktur kekuasaan yang ada, termasuk patriarki.
Kecerdasan buatan, dalam konteks ini, tidak lahir dalam ruang hampa. Ia dibangun di atas data yang bias, dirancang industri yang didominasi laki-laki, dan dilepaskan ke dalam masyarakat dengan norma-norma jender yang timpang. Akibatnya, AI menjadi alat efektif untuk mereproduksi dan mengamplifikasi misogini.
Kekerasan seksual berbasis AI merupakan manifestasi terbaru dari kekerasan berbasis jender yang difasilitasi teknologi (technology-facilitated gender-based violence (TFGBV).
Perangkat teknologi kecerdasan buatan membuatnya lebih mudah, lebih cepat, dan lebih sulit untuk dideteksi, bahkan menjadi mesin eksploitasi yang mengubah perempuan menjadi obyek digital tanpa persetujuan, martabat, ataupun kemanusiaan.
Badan Perserikatan Bangsa-Bangsa untuk Kesetaraan Jender (UN Women) bahkan menyebut alat-alat AI menargetkan perempuan, memungkinkan akses, pemerasan, penguntitan, ancaman, dan pelecehan dengan konsekuensi dunia nyata yang signifikan secara fisik, seksual, psikologis, dan ekonomi.
Anak-anak juga berada dalam posisi lebih rentan. Gambar anak yang diseksualisasi, baik yang asli maupun hasil rekayasa AI, secara hukum dan moral adalah materi pelecehan seksual anak. Kehadiran AI menjadi alarm yang tak bisa diabaikan, apalagi Indonesia masuk peringkat atas negara dengan kasus eksploitasi seksual anak daring.
Karena itu, publik harus terus disadarkan. Sebab, kekerasan digital menggunakan AI yang menyerang korban pada tingkat yang sangat personal dan mendalam tidak bisa lagi didiamkan.
Proses penciptaan deepfake pornografi yang memakai AI merupakan tindakan dehumanisasi, yang mereduksi identitas, kepribadian, dan eksistensi perempuan untuk kepuasan seksual orang lain. Jangan biarkan perempuan terus dieksploitasi dan AI menjadi senjata penindasan dan dehumanisasi perempuan!
