Akun Threads @IbuAsihLaundry viral di media sosial setelah mengaku sebagai agen AI. Bagaimana cara kerja akal imitasi mengelola akun medsos?
Spesialis Keamanan Teknologi Vaksincom Alfons Tanujaya mengatakan, penggunaan AI untuk mengelola akun media sosial telah berkembang dari bot berbasis skrip menjadi agen AI semiotonom yang mampu memproses bahasa natural.
Agen AI dapat diberi instruksi untuk membangun identitas tertentu, mulai dari profesi, latar belakang, hingga gaya komunikasi. Pengembang bahkan dapat mengatur agar agen sesekali membuat kesalahan penulisan atau typo supaya terlihat lebih alami.
“Jadi ketika di-prompt, AI akan diminta dengan instruksi identitas, ibu rumah tangga, pemilik usaha, pendidikannya apa dan gaya bicaranya seperti apa. Bahkan juga bisa disuruh typo sesekali,” kata Alfons kepada Katadata.co.id, Rabu (22/10).
Menurut Alfons, pengembang (developer) juga dapat menentukan sudut pandang yang harus digunakan agen AI ketika merespons isu tertentu. Akun dapat diarahkan untuk mendukung atau menentang kebijakan maupun pemerintahan.
Pengoperasiannya dapat menggunakan API AI, platform otomasi seperti Make.com dan n8n, atau skrip Python yang dibuat sendiri.
Sistem tersebut dapat mengambil isu yang sedang ramai diperbincangkan, merangkum informasi, kemudian menghasilkan komentar berdasarkan persona dan sudut pandang yang telah ditentukan pengembang.
Dengan demikian, pengelola tidak harus menulis setiap komentar secara manual. Agen AI dapat membantu menghasilkan respons terhadap berbagai isu yang sedang berkembang.
Gambaran mengenai mekanisme tersebut juga terlihat dalam laporan resmi OpenAI tentang operasi pengaruh yang menggunakan AI, bertajuk Operation A2Z: Multilingual Influence Activity, yang diterbitkan pada 1 Oktober 2024.
Dalam laporan tersebut, OpenAI mengungkap jaringan akun yang menggunakan API perusahaan untuk menghasilkan komentar di platform X dan Facebook. Kontennya antara lain memuji Azerbaijan dan membela catatan hak asasi manusia negara tersebut.
OpenAI menjelaskan, AI digunakan untuk mengelola persona media sosial palsu, membuat biografi akun, menganalisis unggahan dan komentar, menyusun balasan dalam berbagai bahasa, serta memeriksa kembali teks sebelum dipublikasikan.
Pengembang ChatGPT itu mengidentifikasi sekitar 150 akun di X dan Facebook yang memiliki pola aktivitas terkait operasi tersebut. Sejumlah akun medsos juga terlibat dalam percakapan dengan pengguna sungguhan.
Laporan itu menunjukkan bahwa AI dapat membantu operator mengelola banyak akun medsos sekaligus dan merespons percakapan di media sosial. Namun, temuan tersebut tidak berarti seluruh aktivitas akun dilakukan secara mandiri oleh AI tanpa campur tangan manusia.
Penggunaan AI untuk menghasilkan komentar politik juga ditemukan dalam operasi lain yang diungkap OpenAI pada 1 Juni 2025, yakni Operation Uncle Spam.
Dalam kasus tersebut, sejumlah akun medsos menggunakan AI untuk menghasilkan konten politik Amerika Serikat yang mendukung maupun mengkritik kebijakan tarif. Akun-akun ini juga memanfaatkan AI untuk membuat gambar profil bagi persona fiktif.
OpenAI menyebut akun-akun tersebut meminta saran mengenai waktu unggah yang optimal untuk meningkatkan interaksi. Mereka juga menggunakan model AI untuk menganalisis informasi profil pengguna dan komunitas di media sosial.
Akun AI Tidak Selalu Sepenuhnya OtomatisPakar teknologi informasi dan digital sekaligus Direktur Eksekutif Information and Communication Technology (ICT) Institute Heru Sutadi mengatakan, cara kerja akun yang menggunakan AI dapat berbeda-beda.
Sebagian akun memanfaatkan AI untuk menciptakan sosok manusia virtual, termasuk foto, video, dan keterangan unggahan atau caption. Konten kemudian dipublikasikan secara rutin.
Ada pula akun yang menggunakan otomatisasi untuk mengikuti pengguna lain, memberikan komentar, mengirim pesan, atau menyebarkan konten dalam skala besar.
Dalam beberapa kasus, aktivitas otomatis tersebut dikombinasikan dengan pengelolaan manusia. Oleh karena itu, akun yang sangat aktif atau menampilkan sosok buatan AI belum tentu sepenuhnya dijalankan oleh bot.
Heru mengatakan, dari sisi bisnis, akun seperti itu dapat dimanfaatkan untuk membangun pengikut, memperoleh pendapatan dari iklan dan afiliasi, atau mengarahkan pengguna ke layanan tertentu. Namun, teknologi yang sama juga dapat disalahgunakan untuk spam, penipuan, penyamaran identitas, dan manipulasi opini.
Menurut Heru, penilaian terhadap akun AI perlu mempertimbangkan tujuan, cara kerja, dan dampaknya. Tidak semua akun AI atau bot otomatis dapat langsung dianggap ilegal.
Heru menekankan perlunya transparansi platform dalam mengidentifikasi akun otomatis dan mengungkap penggunaan AI ketika berpotensi menyesatkan. Platform juga perlu menindak akun yang melakukan spam atau penipuan secara terkoordinasi.
Komentar (0)