Mengutip Engadget, fitur ini merupakan bagian dari upaya perusahaan memperkuat perlindungan bagi pengguna remaja di tengah meningkatnya perhatian regulator dan masyarakat terhadap keamanan chatbot AI.
Sebelumnya, Meta AI telah dirancang untuk mengarahkan remaja yang mengungkapkan pikiran tentang bunuh diri atau self-harm menuju layanan bantuan krisis serta mendorong mereka berbicara dengan orang tua atau orang dewasa terpercaya.
Melalui pembaruan terbaru, Meta kini akan secara proaktif mengirimkan notifikasi kepada orang tua atau wali yang menggunakan fitur Instagram Parental Supervision apabila sistem mendeteksi adanya indikasi bahwa remaja tersebut berisiko.
Orang tua juga akan menerima panduan dan sumber daya dari para ahli untuk membantu mereka menghadapi situasi tersebut. Menurut Meta, sistem ini menggunakan model AI khusus yang dikembangkan untuk mengenali percakapan terkait bunuh diri maupun self-harm.
Namun, perusahaan menegaskan bahwa setiap percakapan yang ditandai oleh AI tidak langsung memicu notifikasi kepada orang tua. Seluruh percakapan tersebut akan terlebih dahulu menjalani proses peninjauan manual guna mengurangi kemungkinan kesalahan deteksi yang dapat menimbulkan kepanikan.
Kendati demikian, Meta menyatakan akan mengutamakan prinsip kehati-hatian. Jika setelah ditinjau masih terdapat keraguan mengenai maksud pengguna, Meta tetap akan mengirimkan peringatan kepada orang tua dibandingkan berisiko mengabaikan situasi yang mungkin membahayakan keselamatan remaja tersebut.
Fitur baru ini mulai diluncurkan bagi pengguna Instagram yang memanfaatkan Parental Supervision di Amerika Serikat, Inggris, Australia, dan Kanada. Meta menargetkan fitur tersebut tersedia secara global bagi seluruh pengguna yang menggunakan sistem pengawasan orang tua sebelum akhir tahun 2026.
Selain mengirimkan notifikasi kepada orang tua, Meta mengungkapkan sedang mengembangkan kemampuan lain yang memungkinkan perusahaan menghubungi layanan darurat apabila percakapan dengan Meta AI menunjukkan seseorang berada dalam risiko tinggi melakukan bunuh diri dalam waktu dekat.
Fitur tersebut nantinya tidak hanya berlaku bagi pengguna remaja, tetapi juga dapat diterapkan kepada pengguna dewasa apabila sistem mendeteksi adanya ancaman serius terhadap keselamatan mereka.
Pembaruan ini juga memperluas penerapan pengaturan Limited Content ke dalam interaksi dengan Meta AI. Sebelumnya, fitur tersebut berfungsi menyaring berbagai konten sensitif di Instagram, termasuk visual dewasa dan konten terkait self-harm.
Kini, apabila orang tua mengaktifkan Limited Content, pembatasan serupa juga akan berlaku pada percakapan remaja dengan Meta AI sehingga jenis respons yang diberikan chatbot menjadi lebih terbatas dan sesuai dengan usia pengguna.
Langkah tersebut melanjutkan sejumlah pembaruan keamanan yang telah diperkenalkan Meta sepanjang tahun 2026. Pada bulan April lalu, Meta mulai memberikan akses kepada orang tua untuk melihat kategori topik yang dibahas remaja bersama Meta AI selama tujuh hari terakhir, tanpa memperlihatkan isi percakapan secara rinci.
Tidak hanya itu, melalui pembaruan tersebut Meta juga menyediakan panduan percakapan yang disusun bersama ahli agar orang tua dapat berdiskusi mengenai penggunaan AI secara lebih terbuka dengan anak mereka.
Sementara itu, pada Februari 2026 Meta juga mengumumkan rencana mengirimkan notifikasi kepada orang tua apabila remaja berulang kali mencari istilah yang berkaitan dengan bunuh diri atau self-harm di Instagram Search.
Saat itu perusahaan juga mengungkapkan tengah mengembangkan sistem peringatan serupa untuk percakapan dengan Meta AI, yang kini mulai direalisasikan melalui pembaruan terbaru tersebut. Peluncuran fitur ini berlangsung saat perusahaan teknologi menghadapi sorotan terkait cara chatbot AI merespons pengguna yang mengalami krisis kesehatan mental, khususnya remaja.
Dalam beberapa bulan terakhir, sejumlah perusahaan AI mulai memperkenalkan fitur keamanan tambahan untuk menangani situasi serupa. Misalnya, OpenAI pada bulan Mei 2026 meluncurkan fitur Trusted Contact for ChatGPT, memungkinkan pengguna menunjuk seseorang untuk dihubungi apabila mereka dinilai berisiko melakukan tindakan menyakiti diri sendiri.
Melalui pembaruan ini, Meta berharap dapat memberikan perlindungan tambahan bagi remaja tanpa menghilangkan akses mereka terhadap dukungan melalui AI. Meta menegaskan bahwa sistem tersebut dikembangkan bersama orang tua, lebih dari 75 tenaga kesehatan mental, serta kelompok penasihat keselamatan remaja untuk membantu menentukan jenis percakapan yang layak memicu notifikasi kepada orang tua.
Jadikan Medcom.id sumber informasi pilihan Anda
(MMI)
Komentar (0)