Facebook Kembangkan Teknologi AI untuk Cegah Pemilik Akun Bunuh Diri

Selama bertahun-tahun, perusahaan telah memeungkinkan pengguna melaporkan konten bunuh diri untuk ditindaklanjuti tim internal dan kemudian dievaluasi serta diputuskan apakah seseorang harus mendapat dukungan dari hotline pencegahan bunuh diri atau, dalam kasus yang ekstrim, tim hukum Facebook melakukan intervensi.
Aprianto Cahyo Nugroho | 22 Februari 2018 08:53 WIB
Siluet pengguna telepon seluler dengan logo facebook - Ilustrasi/Reuters/ Dado Ruvic

Bisnis.com, JAKARTA – Joseph Gerace, sheriff Chautauqua County, New York, kerap dihadapkan dengan kasus bunuh diri. Di masa kecil, ayah sahabatnya melakukan bunuh diri.

Jadi, ketika Gerace mendengar sebuah panggilan pada Juli lalu dari anggota tim keamanan Facebook di Irlandia ke petugas operator 911 di wilayahnya, ini mengingatkannya pada sesuatu. Perwakilan Facebook tersebut meminta untuk mengingatkan pejabat setempat tentang penduduk yang membutuhkan bantuan segera.

"Ini membantu kami dalam keamanan publik. Kami tidak mengganggu kehidupan pribadi orang. Kami mencoba campur tangan saat ada krisis," ungkap Gerace, yang telah melakukan penegakan hukum selama 39 tahun, seperti dikutip CNBC.

Kasus Chautauqua County, yang pertama kali dilaporkan pada bulan Agustus oleh media setempat, ditiindaklanjuti oleh Facebook karena perusahaan tersebut telah diberitahu bahwa seorang wanita telah memposting ancaman untuk menyakiti dirinya di halaman Facebook-nya.

Selama bertahun-tahun, perusahaan telah memeungkinkan pengguna melaporkan konten bunuh diri untuk ditindaklanjuti tim internal dan kemudian dievaluasi serta diputuskan apakah seseorang harus mendapat dukungan dari hotline pencegahan bunuh diri atau, dalam kasus yang ekstrim, tim hukum Facebook melakukan intervensi.

Algoritma Facebook

Sekitar setahun yang lalu, Facebook menambahkan teknologi yang secara otomatis menandai posting yang mengarah ke rencana bunuh diri untuk kemudian dianalisa. Dan di bulan November 2017, Facebook menunjukkan bukti bahwa sistem baru tersebut telah memberi dampak.

"Bulan lalu, kami telah bekerja dengan responden pertama mengenai lebih dari 100 pemeriksaan berdasarkan laporan yang kami terima melalui upaya deteksi proaktif kami," kata perusahaan tersebut dalam sebuah posting blog pada saat itu.

Facebook saat ini mengatakan bahwa program yang disempurnakan tersebut menandai kasus debgan pemikiran bunuh diri 20 kali lebih banyak untuk pemeriksa konten. Selain itu, pengguna juga menerima dua kali lebih banyak materi mengenai pencegahan bunuh diri dari Facebook.

Perusahaan telah menerapkan sistem yang diperbarui dalam lebih banyak bahasa dan memperbaiki pencegahan bunuh diri di Instagram, meskipun masih dalam tahap pengembangan awal.

Pada hari Rabu (21/2/2018), Facebook memberikan rincian lebih lanjut tentang teknologi yang mendasarinya.

"Kami merasa sangat penting untuk membantu orang secepat mungkin dan sebanyak mungkin," kata Dan Muriello, ahli perangkat lunak di tim belas kasih Facebook, yang dibentuk pada tahun 2015 dan membahas topik-topik seperti perpisahan dan kematian.

Walaupun postingan yang menunjukkan pemikiran bunuh diri sangat jarang, bunuh diri adalah ancaman yang meluas. Ini adalah salah satu dari 10 penyebab kematian di AS, dan merupakan yang kedua terbesar di antara usia 15 dan 34 tahun, menurut Centers for Disease Control and Prevention.

Untuk Facebook, yang memiliki lebih dari 2,1 miliar pengguna aktif bulanan, ada peran yang jelas dalam mengurangi masalah ini.

Facebook telah membangun teknologi kecerdasan buatan (AI) sejak 2013, saat mendirikan laboratorium penelitian AI dan merekrut peneliti terkemuka Yann LeCun untuk memimpinnya. Labolatorium ini telah menciptakan daftar kemampuan baru yang mengesankan, termasuk teknologi yang mengenali objek di foto pengguna, menerjemahkan teks tulisan ke bahasa lain dan mentranskripsikan percakapan di iklan video.

Semua raksasa teknologi, termasuk Amazon, Apple, Google dan Microsoft, telah berinvestasi di AI untuk digunakan di seluruh layanan dan platform mereka. Tapi pencegahan bunuh diri belum menjadi topik hangat di kalangan peneliti AI.

"Saya belum pernah mendengarnya secara eksternal. Kedengarannya sangat menarik bagi saya, saya memiliki kepentingan pribadi dalam hal ini," kata Umut Ozertem, seorang ilmuwan riset Facebook yang sebelumnya mengembangkan AI di Yahoo dan Microsoft.

Ozertem mengatakan bahwa dia kehilangan tiga temannya karena bunuh diri.

Lizzy Donahue, engineer di tim belas kasih mengatakan Facebook telah mengeksplorasi pencegahan bunuh diri lebih dari satu dekade terakhir, dimulai dengan informasi di pusat bantuan jaringan sosial, di mana orang-orang yang membutuhkan dapat mencari informasi.

Langkah selanjutnya untuk Facebook adalah membuat pengguna dapat melaporkan konten terkait bunuh diri kepada perusahaan untuk ditinjau oleh tim terkait.

Itu pada dasarnya, tindakan preventif ini sudah dilakukan oleh Google dan Microsoft saat ini. Misalnya, jika melakukan pencarian dengan frasa "Saya ingin bunuh diri", Google akan menampilkan nomor telepon National Suicide Prevention Lifeline. Sementara itu, Microsoft menunjukkan informasi pusat krisis yang relevan dalam hasil pencarian dan memungkinkan pengguna melaporkan kerusakan diri pada layanan Xbox Live-nya.

Bagi Facebook, ini baru permulaan. Perusahaan sekarang memiliki lebih dari 7.500 staf operasi masyarakat yang mengkaji kasus dugaan kekerasan terhadap diri sendiri, serta isu sensitif lainnya seperti intimidasi dan kekerasan seksual.

"Apa pun yang terkait dengan keamanan, seperti ancaman bunuh diri atau kekerasan terhadap diri sendiri, sebenarnya diprioritaskan," ungkap Monika Bickert, kepala manajemen kebijakan global Facebook.

Tag : facebook
Editor : Mia Chitra Dinisari

Berita Terkait



Berita Terkini Lainnya

Top