Selular.ID – Meta mengumumkan serangkaian pembaruan fitur keselamatan pada Meta AI yang dirancang untuk melindungi pengguna remaja saat berinteraksi dengan kecerdasan buatan.
Pembaruan ini mencakup notifikasi kepada orang tua ketika sistem mendeteksi indikasi tekanan emosional, bunuh diri, atau tindakan melukai diri sendiri dalam percakapan remaja dengan Meta AI, sekaligus memperketat pembatasan konten yang dapat diakses oleh akun remaja.
Kebijakan baru tersebut menjadi bagian dari strategi Meta untuk menghadirkan pengalaman AI yang lebih sesuai dengan usia pengguna.
Selain memberikan respons yang lebih aman terhadap percakapan sensitif, perusahaan juga ingin memastikan orang tua memperoleh informasi yang diperlukan agar dapat memberikan dukungan ketika anak mereka menunjukkan tanda-tanda mengalami krisis emosional.
Meta menjelaskan bahwa ketika sistem mendeteksi seorang remaja mengungkapkan keinginan untuk bunuh diri atau melukai diri sendiri, Meta AI akan secara otomatis mengarahkan pengguna ke layanan bantuan krisis dan mendorong mereka berbicara dengan orang tua, konselor, atau orang dewasa yang dipercaya.
Tonton juga:
Video Rekomendasi Untuk Anda
Kini, perlindungan tersebut diperluas dengan mengirimkan notifikasi kepada orang tua yang menggunakan fitur Parental Supervision atau pengawasan orang tua di Instagram apabila percakapan Meta AI menunjukkan indikasi risiko yang memerlukan perhatian.
Sebelum notifikasi dikirimkan, seluruh percakapan yang ditandai oleh sistem AI akan melalui proses peninjauan manual guna mengurangi potensi kesalahan deteksi.
Meta menyatakan pendekatan ini dikembangkan bersama para ahli kesehatan mental dan kelompok pendamping keluarga.
Jika hasil peninjauan menunjukkan adanya indikasi yang belum sepenuhnya jelas, perusahaan memilih tetap mengirimkan pemberitahuan sebagai langkah pencegahan agar orang tua memiliki kesempatan memberikan dukungan lebih awal.
CEO sekaligus Co-Founder ConnectSafely, Larry Magid, menilai pendekatan tersebut mampu menjaga keseimbangan antara privasi remaja dan kebutuhan orang tua untuk mengetahui potensi risiko yang dihadapi anak mereka.
“Saya percaya bahwa remaja berhak atas privasi mereka. Namun, saya juga percaya bahwa orang tua perlu diberi tahu apabila ada indikasi anak remaja mereka berisiko menyakiti diri sendiri. Karena itulah saya mendukung pendekatan ini dan mengapresiasi keputusan Meta untuk memberi notifikasi kepada orang tua ketika, setelah melalui peninjauan secara cermat, Meta menilai bahwa percakapan dengan Meta AI menunjukkan adanya indikasi bunuh diri atau tindakan menyakiti diri sendiri yang memerlukan pemberitahuan,” ujar Larry Magid.
Saat ini fitur tersebut telah tersedia bagi pengguna fitur pengawasan orang tua di Amerika Serikat, Inggris, Australia, dan Kanada. Meta menyatakan layanan tersebut akan diperluas ke negara-negara lain secara bertahap hingga akhir 2026.
Pembaruan ini melengkapi sistem perlindungan yang sebelumnya telah diterapkan Meta di Instagram.
Sebelumnya, perusahaan telah mengirimkan notifikasi kepada orang tua apabila sistem mendeteksi remaja berulang kali mencari kata kunci yang berkaitan dengan bunuh diri atau tindakan melukai diri sendiri dalam waktu singkat.
Selain memperkuat perlindungan untuk remaja, Meta juga sedang mengembangkan kemampuan baru untuk menghubungi layanan darurat ketika sistem mendeteksi risiko bunuh diri dalam percakapan dengan Meta AI, baik yang dilakukan oleh pengguna dewasa maupun remaja.
Langkah tersebut memperluas mekanisme yang sebelumnya telah diterapkan di Facebook dan Instagram.
Menurut Meta, sepanjang tahun lalu perusahaan telah mengirimkan lebih dari 19.000 rujukan kepada layanan darurat di berbagai negara setelah mendeteksi unggahan yang menunjukkan potensi risiko bunuh diri sehingga petugas dapat melakukan pemeriksaan terhadap pengguna yang membutuhkan bantuan.
Untuk meningkatkan akurasi respons AI terhadap isu kesehatan mental, Meta juga melibatkan lebih dari 75 ahli kesehatan mental dalam proses evaluasi.
Para pakar tersebut meninjau ratusan skenario percakapan yang berkaitan dengan bunuh diri dan tindakan melukai diri sendiri, kemudian memberikan masukan mengenai respons yang paling sesuai bagi pengguna remaja.
Masukan tersebut digunakan untuk menyempurnakan cara Meta AI merespons percakapan sensitif.
Salah satu perubahan yang diterapkan adalah memastikan AI tetap memvalidasi kondisi emosional pengguna ketika mengarahkan mereka menuju layanan bantuan, alih-alih langsung menghentikan percakapan.
Psikolog berlisensi di Amerika Serikat sekaligus Profesor Psikologi Konseling di Hankuk University of Foreign Studies, Korea Selatan, Dr. Ji-yeon Lee, menilai pendekatan tersebut menunjukkan pentingnya evaluasi klinis dalam pengembangan AI.
Menurutnya, peninjauan tidak hanya melihat respons pertama yang diberikan AI, tetapi juga mempertimbangkan konteks percakapan, tindak lanjut, dan tingkat risiko yang mungkin berkembang selama interaksi berlangsung.
Di sisi lain, Meta turut memperketat sistem pembatasan konten bagi akun remaja.
Pengaturan bawaan untuk pengguna berusia 13 tahun ke atas kini juga diterapkan dalam interaksi dengan Meta AI sehingga sistem akan menyesuaikan respons berdasarkan usia pengguna.
Sebagai contoh, Meta AI dirancang untuk tidak terlibat dalam percakapan yang bersifat romantis maupun seksual dengan remaja.
Sistem juga tidak akan memberikan instruksi atau resep minuman beralkohol, melainkan mengarahkan percakapan ke topik yang lebih aman dan sesuai usia.
Meta juga memperluas fungsi Limited Content, pengaturan yang pertama kali diperkenalkan di Instagram pada Oktober tahun lalu.
Ketika orang tua mengaktifkan fitur tersebut, pembatasan yang sama akan berlaku pada Meta AI.
Dalam mode ini, AI akan menolak lebih banyak kategori pertanyaan yang dianggap sensitif sehingga ruang interaksi remaja menjadi lebih terbatas dibandingkan pengaturan standar.
Melalui rangkaian pembaruan tersebut, Meta menegaskan bahwa pengembangan Meta AI tidak hanya berfokus pada kemampuan teknologi, tetapi juga pada aspek keselamatan digital.
Perusahaan menyatakan akan terus bekerja sama dengan pakar kesehatan mental, organisasi perlindungan anak, dan komunitas orang tua untuk menyempurnakan sistem deteksi serta respons AI terhadap percakapan yang berkaitan dengan kesehatan mental dan keselamatan pengguna remaja.
Baca Juga: Meta AI Gunakan Reuters untuk Jawab Pertanyaan Seputar Berita
