Jakarta, CNBC Indonesia - Peredaran konten yang berisi kekerasan seksual pada anak di platform milik Meta sangat marak. Bahkan, sebuah investigasi oleh BBC mengungkap bahwa Instagram meraup cuan dari peredaran material
Meta adalah perusahaan induk dari Instagram, Facebook, dan WhatsApp. Selama bertahun-tahun, perusahaan yang dipimpin oleh Mark Zuckerberg tersebut terus berkelit dari permasalahan peredaran konten kekerasan pada anak di platform milik mereka. Parahnya, Meta malah mengambil langkah untuk menghapus tim moderator manusia dan menggantinya dengan AI.
Kini, laporan investigasi terbaru dari BBC menemukan bahwa Instagram menerima pembayaran dari iklan yang mempromosikan konten kekerasan seksual pada anak di India.
Temuan BBC menunjukkan bahwa AI gagal membendung peredaran konten terlarang di Instagram. Paling tidak, menggambarkan bahwa kemampuan AI tidak lebih baik dari moderator manusia.
- Fitur Baru Instagram Bikin Heboh Dikecam Warga, Nasibnya Begini
- Pemerintah Kasih Peringatan Keras, Berani Bantah Kena Denda Jumbo
Iklan yang beredar di Instagram di India mengandung kata seperti "video pemerkosaan" dan "video anak." Dalam konten tersebut, tercantum tautan ke kanal Telegram tempat anggotanya membeli material seharga US$ 1 atau sektar Rp 17 ribu.
Temuan BBC mengguncang pemerintah India. Kementerian Elektronik dan Teknologi Informasi memerintahkan Meta untuk mematikan semua iklan dan promosi terkait kekerasan seksual pada anak.
Kepada BBC, Meta menyatakan telah menonaktifkan iklan dan akun terkait iklan tersebut telah disuspensi.
"Tidak ada sistem yang sempurna dan proses review kami tidak mendeteksi pelanggaran kebijakan." kata juru bicara Meta.
Eks VP di Facebook, Brian Boland menyatakan kepada BBC bahwa algoritma Instagram dirancang untuk memaksimalkan keuntungan, bukan memblokir konten.
"Yang menyedihkan dan tragis selama ini, trade-off [pertimbangan pertukaran] antara pendapatan dan pengalaman pengguna selalu menjadi pembicaraan," kata Boland.
Dalam sidang di New Mexico, Amerika Serikat, Meta sudah dinyatakan bersalah karena berbohong soal tingkat keselamatan di platformnya, untuk pengguna anak. Pada Maret, juri menyatakan Meta membiarkan konten kekerasan seksual pada anak beredar, bahkan menyebut Meta menjadikan platformnya sebagai marketplace untuk trafficking anak.
"Bos di Meta tahu bahwa produk mereka berdampak buruk pada anak, tidak menghiraukan peringatan dari pegawai sendiri, dan berbohong ke publik," kata jaksa New Mexico, Raul Torrez.
(dem/dem) Add as a preferred
source on Google
Komentar (0)