Perkembangan teknologi kecerdasan buatan (AI) membuat interaksi digital semakin dekat dengan kehidupan sehari-hari, termasuk bagi kalangan remaja. Namun, di balik kemudahan tersebut, muncul tantangan baru terkait keamanan dan kesehatan mental pengguna muda.
Untuk menjawab tantangan itu, Meta mengumumkan sejumlah pembaruan perlindungan dalam percakapan remaja dengan Meta AI.
Salah satu fitur utama yang diperkenalkan adalah sistem notifikasi kepada orang tua ketika percakapan Meta AI mendeteksi adanya indikasi tekanan emosional, termasuk pembahasan mengenai bunuh diri atau tindakan melukai diri sendiri.
Melalui fitur pengawasan orang tua di Instagram, Meta akan memberi tahu orang tua apabila percakapan remaja dengan Meta AI menunjukkan potensi risiko terkait perilaku tersebut. Langkah ini dirancang untuk membantu orang tua memberikan dukungan lebih cepat, sekaligus memastikan remaja mendapatkan bantuan yang sesuai.
Meta menjelaskan bahwa ketika seorang remaja menunjukkan tanda-tanda memiliki pikiran untuk bunuh diri atau melukai diri sendiri, Meta AI akan mengarahkan mereka menuju layanan bantuan krisis serta mendorong mereka untuk berbicara dengan orang dewasa yang dipercaya, seperti orang tua, keluarga, atau konselor.
Kini, sistem tersebut juga akan dilengkapi dengan mekanisme peringatan proaktif bagi orang tua berdasarkan indikator yang dikembangkan bersama para ahli kesehatan mental.
“Kami ingin para remaja mendapatkan pengalaman yang sesuai dengan usia mereka saat berinteraksi dengan AI, sekaligus memastikan para orang tua terinformasi jika kami mendeteksi remaja mereka mengalami tekanan emosional,” tulis Meta dalam keterangannya.
Sebelum notifikasi dikirimkan kepada orang tua, percakapan yang ditandai oleh sistem AI akan melalui proses peninjauan manual untuk memastikan konteksnya. Meta mengatakan langkah ini dilakukan untuk meningkatkan akurasi sekaligus menghindari kesimpulan yang keliru.
Meski demikian, Meta mengakui bahwa dalam beberapa situasi sistem dapat memberikan peringatan meskipun risiko belum terlihat secara jelas. Namun, perusahaan memilih pendekatan pencegahan untuk memastikan keselamatan remaja tetap menjadi prioritas.
“Jika maksud dari remaja tersebut masih samar, kami akan memilih untuk mengutamakan tindakan pencegahan dan tetap memberi tahu orang tua. Meskipun ini berarti terkadang kami mengirimkan notifikasi saat tidak ada yang perlu dikhawatirkan, kami merasa ini adalah langkah awal yang tepat,” jelas Meta.
Langkah ini mendapat dukungan dari Larry Magid, CEO dan Co-Founder ConnectSafely, yang menilai pentingnya keseimbangan antara privasi remaja dan keterlibatan orang tua.
“Saya percaya bahwa remaja berhak atas privasi mereka. Namun, saya juga percaya bahwa orang tua perlu diberi tahu apabila ada indikasi anak remaja mereka berisiko menyakiti diri sendiri,” ujar Larry.
Menurutnya, pendekatan Meta dapat menjadi titik tengah antara menjaga privasi pengguna muda sekaligus memastikan orang tua memiliki informasi yang diperlukan untuk memberikan dukungan.
Selain fitur notifikasi untuk orang tua, Meta juga tengah mengembangkan kemampuan baru yang memungkinkan sistem menghubungi layanan darurat apabila mendeteksi risiko bunuh diri yang tinggi dan mendesak dalam percakapan Meta AI.
Kemampuan ini nantinya berlaku bagi pengguna dewasa maupun remaja. Fitur tersebut melengkapi sistem yang sudah diterapkan sebelumnya di Facebook dan Instagram, yaitu ketika Meta mendeteksi unggahan yang menunjukkan risiko bunuh diri.
Meta menyebutkan bahwa sepanjang tahun lalu, perusahaan telah mengirimkan lebih dari 19.000 rujukan kepada layanan penyelamat di berbagai negara untuk membantu memeriksa kondisi pengguna yang berpotensi melakukan bunuh diri.
Baca Juga: Meta Luncurkan Pelatihan AI untuk UMKM Indonesia, Targetkan 150 Pelaku Usaha Tembus Pasar Global
Libatkan Lebih dari 75 Ahli Kesehatan Mental untuk Tingkatkan Respons AI
Untuk memastikan Meta AI dapat memberikan respons yang lebih aman dan sesuai bagi remaja, Meta melibatkan berbagai pakar kesehatan mental dalam proses pengembangan sistem.
Perusahaan bekerja sama dengan AI Wellbeing Expert Council, Suicide and Self-Harm Advisory Group, serta Youth Advisors. Selain itu, lebih dari 75 tenaga medis profesional turut memberikan masukan mengenai bagaimana AI seharusnya merespons percakapan sensitif terkait bunuh diri dan tindakan melukai diri sendiri.
Para ahli tersebut meninjau ratusan contoh percakapan untuk mengevaluasi apakah respons AI sudah sesuai bagi pengguna remaja, termasuk bagaimana AI memberikan validasi emosional dan mengarahkan pengguna menuju bantuan yang tepat.
Dr. Ji-yeon Lee, Psikolog Berlisensi (AS) dan Profesor Psikologi Konseling di Hankuk University of Foreign Studies, Korea Selatan, mengapresiasi proses evaluasi yang dilakukan Meta.
“Saya sangat terkesan dengan ketelitian proses peninjauan klinis yang dilakukan oleh Meta. Peninjauan ini tidak hanya mengevaluasi respons instan terhadap kekhawatiran terkait bunuh diri dan tindakan melukai diri sendiri, tetapi juga memperhatikan konteks percakapan yang lebih luas, tindak lanjut yang tepat, serta berbagai tingkatan risiko yang dapat terjadi,” ujarnya.
Menurutnya, penyempurnaan sistem AI berbasis masukan para ahli menjadi langkah penting untuk menghadirkan pengalaman teknologi yang lebih aman bagi remaja.
Selain sistem deteksi risiko emosional, Meta juga memperluas pengaturan keamanan konten bagi pengguna remaja yang menggunakan Meta AI.
Akun remaja secara otomatis akan menerapkan pengaturan konten sesuai usia 13 tahun ke atas. Dengan pengaturan ini, Meta AI dirancang untuk memberikan respons yang sesuai dengan usia pengguna dan menghindari percakapan yang tidak pantas.
Sebagai contoh, Meta AI tidak akan terlibat dalam percakapan romantis maupun seksual dengan remaja, serta tidak memberikan panduan terkait konsumsi alkohol. Sistem akan mengarahkan pengguna ke topik yang lebih aman.
Meta juga memperluas fitur Limited Content, yang sebelumnya tersedia sebagai opsi pengaturan tambahan di Instagram. Kini, ketika orang tua mengaktifkan fitur tersebut, batasan serupa juga akan diterapkan dalam pengalaman menggunakan Meta AI.
Dengan pengaturan ini, Meta AI akan membatasi kategori percakapan tertentu dan menolak memberikan respons terhadap permintaan yang dianggap kurang sesuai bagi pengguna remaja.
Fitur notifikasi orang tua saat ini telah tersedia bagi pengguna yang memakai pengawasan orang tua di Instagram di Amerika Serikat, Inggris, Australia, dan Kanada. Meta menyatakan fitur tersebut akan diperluas ke seluruh dunia sebelum akhir tahun.
Baca Juga: Dari Meta hingga Starlink, Industri Teknologi Bersatu Lawan Sindikat Scam Internasional
