Libatkan Lebih dari 75 Ahli Kesehatan Mental untuk Tingkatkan Respons AI
Untuk memastikan Meta AI dapat memberikan respons yang lebih aman dan sesuai bagi remaja, Meta melibatkan berbagai pakar kesehatan mental dalam proses pengembangan sistem.
Perusahaan bekerja sama dengan AI Wellbeing Expert Council, Suicide and Self-Harm Advisory Group, serta Youth Advisors. Selain itu, lebih dari 75 tenaga medis profesional turut memberikan masukan mengenai bagaimana AI seharusnya merespons percakapan sensitif terkait bunuh diri dan tindakan melukai diri sendiri.
Para ahli tersebut meninjau ratusan contoh percakapan untuk mengevaluasi apakah respons AI sudah sesuai bagi pengguna remaja, termasuk bagaimana AI memberikan validasi emosional dan mengarahkan pengguna menuju bantuan yang tepat.
Dr. Ji-yeon Lee, Psikolog Berlisensi (AS) dan Profesor Psikologi Konseling di Hankuk University of Foreign Studies, Korea Selatan, mengapresiasi proses evaluasi yang dilakukan Meta.
“Saya sangat terkesan dengan ketelitian proses peninjauan klinis yang dilakukan oleh Meta. Peninjauan ini tidak hanya mengevaluasi respons instan terhadap kekhawatiran terkait bunuh diri dan tindakan melukai diri sendiri, tetapi juga memperhatikan konteks percakapan yang lebih luas, tindak lanjut yang tepat, serta berbagai tingkatan risiko yang dapat terjadi,” ujarnya.
Menurutnya, penyempurnaan sistem AI berbasis masukan para ahli menjadi langkah penting untuk menghadirkan pengalaman teknologi yang lebih aman bagi remaja.
Selain sistem deteksi risiko emosional, Meta juga memperluas pengaturan keamanan konten bagi pengguna remaja yang menggunakan Meta AI.
Akun remaja secara otomatis akan menerapkan pengaturan konten sesuai usia 13 tahun ke atas. Dengan pengaturan ini, Meta AI dirancang untuk memberikan respons yang sesuai dengan usia pengguna dan menghindari percakapan yang tidak pantas.
Sebagai contoh, Meta AI tidak akan terlibat dalam percakapan romantis maupun seksual dengan remaja, serta tidak memberikan panduan terkait konsumsi alkohol. Sistem akan mengarahkan pengguna ke topik yang lebih aman.
Meta juga memperluas fitur Limited Content, yang sebelumnya tersedia sebagai opsi pengaturan tambahan di Instagram. Kini, ketika orang tua mengaktifkan fitur tersebut, batasan serupa juga akan diterapkan dalam pengalaman menggunakan Meta AI.
Dengan pengaturan ini, Meta AI akan membatasi kategori percakapan tertentu dan menolak memberikan respons terhadap permintaan yang dianggap kurang sesuai bagi pengguna remaja.
Fitur notifikasi orang tua saat ini telah tersedia bagi pengguna yang memakai pengawasan orang tua di Instagram di Amerika Serikat, Inggris, Australia, dan Kanada. Meta menyatakan fitur tersebut akan diperluas ke seluruh dunia sebelum akhir tahun.
Baca Juga: Dari Meta hingga Starlink, Industri Teknologi Bersatu Lawan Sindikat Scam Internasional
