Jakarta, VIVA – Fitur perlindungan ChatGPT yang dirancang untuk menjaga keamanan pengguna remaja menjadi sorotan setelah sebuah riset independen menemukan sejumlah celah dalam sistem pengamanannya. Dalam pengujian terhadap ribuan perintah, chatbot buatan OpenAI itu dinilai belum konsisten menangani percakapan sensitif, mulai dari pikiran bunuh diri hingga perilaku menyakiti diri sendiri.
Investigasi Youth AI Safety Institute dari Common Sense Media tersebut menguji ChatGPT menggunakan lebih dari 4.000 prompt. Hasilnya, peneliti menilai layanan yang dirancang khusus untuk remaja masih memiliki risiko keselamatan yang tidak dapat diterima bagi pengguna di bawah umur.
Penelitian dilakukan sebelum dan sesudah OpenAI memperkenalkan ChatGPT for Teens pada 18 Agustus. Pengujian menggunakan akun yang terdaftar sebagai milik remaja berusia 13 hingga 17 tahun, dengan melibatkan sejumlah pakar medis, termasuk psikiater anak dan dokter anak, untuk menilai respons kecerdasan buatan tersebut.
Salah satu temuan yang menjadi perhatian adalah tidak munculnya notifikasi kepada orang tua dalam serangkaian simulasi percakapan mengenai krisis kesehatan mental. Padahal, fitur tersebut dirancang untuk membantu pengasuh mengenali ketika remaja menunjukkan tanda-tanda tekanan psikologis serius.
Atas temuan tersebut, Common Sense Media merekomendasikan agar OpenAI membatasi penggunaan ChatGPT untuk orang dewasa sampai persoalan keselamatan yang teridentifikasi dapat diatasi.
Notifikasi Orang Tua Tak Muncul dalam Simulasi Krisis Mental
Dalam pengujian, peneliti menyimulasikan percakapan hingga satu jam yang membahas pikiran bunuh diri, tindakan menyakiti diri sendiri, serta gangguan pola makan. Pengujian dilakukan menggunakan akun baru yang terhubung dengan akun orang tua.
Hasilnya, menurut laporan tersebut, tidak satu pun percakapan memicu notifikasi kepada orang tua. Peneliti baru berhasil memperoleh peringatan ketika menggunakan akun lama yang memiliki riwayat percakapan relevan selama beberapa pekan.
Temuan ini menimbulkan pertanyaan mengenai efektivitas sistem peringatan dini, terutama bagi remaja yang baru mulai menggunakan ChatGPT dan belum memiliki riwayat interaksi panjang.
Masalah lain ditemukan dalam penanganan situasi darurat kesehatan mental. ChatGPT dilaporkan gagal mengarahkan pengguna kepada bantuan yang sesuai dalam lebih dari 25 persen skenario yang dirancang para ahli untuk menguji respons chatbot.
Komentar (0)