by

Komitmen Facebook dan Twitter dalam Tangkal Terorisme dan Ujaran Kebencian

Kabar Damai I Sabtu, 04 September 2021

Jakarta I kabardamai.id I Manajemen Facebook berkomitmen untuk membuat platformnya tetap aman dari terorisme dan individu atau organisasi berbahaya. Hal itu disampaikan oleh Nawab Osman, Head of Counter-Terrorism and Dangerous Organizations, Facebook Asia Pacific dalam temu media virtual, Kamis, 2 September 2021.

Mengutip laporan di laman resmi Facebook, di kuartal pertama 2021 terdapat 9 juta konten terorisme yang diberantas media sosial tersebut secara global. Angkanya menurun di kuartal kedua menjadi 7,1 juta.

Untuk organisasi berbahaya, di kuartal pertama, terdapat 9,8 juta konten yang dihapus, dan menurun menjadi 6,2 juta di kuartal kedua tahun 2021.

Dalam pemaparannya, seperti diwartakan Pusat Media Damai BNPT, Osman mengatakan ada 350 orang di Facebook yang bertugas untuk melawan terorisme dan kebencian terorganisir di platform tersebut.

Osman mengungkap, tim itu terdiri dari mantan akademisi yang ahli di bidang anti-terorisme, mantan jaksa dan penegak hukum, penyidik dan analis, serta insinyur.

Mereka juga bermitra dengan berbagai pakar eksternal secara global dalam bidang terorisme, kekerasan ekstrem, intelijen siber, dan perilaku daring.

Facebook juga menghelat penelitian independen untuk menyesuaikan respons dengan lebih baik. Tim Individu dan organisasi berbahaya adalah bagian dari tim yang lebih luas yang terdiri dari 35 ribu orang di Facebook, yang berfokus pada keselamatan dan keamanan.

“Di bawah kebijakan Individu dan Organisasi Berbahaya, kami tidak mengizinkan organisasi atau individu yang menyatakan misi kekerasan atau terlibat dalam kekerasan untuk berada di Facebook,” ujarnya dikutip dari damailahindonesiaku.com (2/9).

“Kami menilai entitas ini berdasarkan perilaku mereka di ranah online dan offline, dan yang paling signifikan, hubungan mereka dengan kekerasan,” tandas Osman.

Dalam menandai suatu ancaman, Facebook menandai entitas setelah melalui proses ketat yang dipimpin oleh tim spesialis global dan ahli.

Mereka mengatakan, proses penandaan mempertimbangkan baik perilaku di ranah daring dan luring. Mereka juga mempertimbangkan tujuan organisasi serta rekam jejak kekerasan di dunia nyata.

Selain itu, Facebook juga memanfaatkan kecerdasan buatan (articial intelligence/AI) untuk mendeteksi dan menghapus konten yang terkait dengan kelompok teroris dan kebencian terorganisir.

 

97,8% Konten Kebencian Terorganisir Telah Ditindak

Osman menerangkankan, teknologi itu bisa mendeteksi teks yang disematkan dalam gambar dan video untuk membantu memahami konteks penuhnya.

“Dan kami telah membangun teknologi pencocokan media untuk menemukan konten yang identik atau hampir identik dengan foto, video, teks, dan bahkan audio yang telah kami hapus sebelumnya,” beber Osman.

Antara April hingga Juni 2021, 99,7 persen konten terorisme dan 97,8 persen konten kebencian terorganisir yang ditindak, diidentifikasi menggunakan teknologi, seringkali sebelum ada yang melihatnya.

“Jika AI tidak yakin apakah konten melanggar atau tidak, kami perlu memahami bahwa pelaku ini semakin pintar dalam mengakali sistem kami,” kata Osman.

“Jika AI tidak yakin akan gambar atau video tertentu itu melanggar, kami punya reviewer yang punya keahlian yang terkait, maka mereka yang akan memutuskan apakah konten tersebut melanggar standar komunitas atau tidak,” jelasnya lagi.

Beberapa teknik lain yang mereka gunakan untuk memerangi terorisme misalnya secara agresif mengumpulkan propaganda teroris dari kanal-kanal distribusi yang ada.

Facebook juga mencocokan gambar dan video untuk mencegah konten teroris yang telah diketahui di masa mendatang dan penggolongan untuk memahami teks yang mungkin menganjurkan terorisme atau kebencian terorganisir.

Facebook juga mengidentifikasi kelompok organisasi berbahaya dan materi terkait saat menemukan konten teroris yang diketahui serta mengidentifikasi organisasi dan individu berbahaya yang bekerja untuk membuat ulang akun yang sebelumnya dihapus.

Baca Juga: Hindari Propaganda, Facebook, Twitter dan YouTube Blokir Konten Taliban

Hal lainnya yang dilakukan Facebook adalah membagikan informasi di Facebook, Instagram, dan WhatsApp untuk menjaga semua platformnya tetap aman.

Osman menegaskan, kebijakan mereka bukanlah kebijakan yang baru dan sudah ada sekitar 10 tahun meski selalu dilakukan beberapa pembaruan dan penyesuaian.

Ia juga menyatakan mereka tidak pandang bulu dalam menegakkan aturan melawan kelompok ekstrimis.

“Kami sudah menandai beberapa kelompok di seluruh spektrum politik, agama, dan sosial,” pungkas Osman.

 

Twitter Uji Coba Mode Keamanan

Sementara itu, Twitter mulai Rabu waktu setempat (1/9) selama tujuh hari ini tengah menguji coba fitur mode keamanan (safety mode). yang dapat memblokir sementara akun yang berisi konten kasar, seperti komentar penghinaan atau kebencian.

“Saat fitur diaktifkan di menu ‘Pengaturan’ Anda, sistem kami akan menilai kemungkinan interaksi negatif dengan mempertimbangkan konten Tweet dan hubungan antara pembuat Tweet dan penjawab,” kata Manajer Senior Produk Twitter, Jarrod Doherty melalui sebuah tulisan yang diunggah di blog Twitter, dikutip Kamis, 2 September 2021.

Akun yang terdeteksi berbahaya oleh sistem akan diblokir otomatis dan untuk sementara waktu mereka tidak dapat mengikuti akun, melihat Tweet, atau mengirim pesan melalui Direct Message kepada pengguna yang dijadikan sasaran.

Kendati demikian, akun yang sering berinteraksi dengan pengguna tidak akan diblokir otomatis karena sistem teknologi memperhitungkan hubungan yang ada. Pengguna masih dapat menemukan informasi tentang Tweet yang ditandai melalui mode keamanan dan melihat detail akun yang diblokir kapan saja.

Ketika fitur tersebut berakhir dalam tujuh hari, pengguna tetap akan menerima pemberitahuan dari sistem Twitter.

“Kami juga akan secara teratur memantau keakuratan sistem mode keamanan untuk meningkatkan kemampuan deteksi kami,” kata Doherty, dikutip dari mediaindonesia.com (2/9).

Ia mengatakan uji coba ini merupakan salah satu cara Twitter untuk mendukung percakapan yang sehat di platform media sosialnya.

“Tujuan kami adalah untuk melindungi individu yang menerima Tweet dengan lebih baik dengan mengurangi prevalensi dan visibilitas komentar berbahaya,” ujarnya.

Uji coba fitur ini dilakukan pada kelompok kecil umpan balik dengan akun yang mengaktifkan bahasa Inggris di iOS, Android, dan situs Twitter di dekstop.

Perusahaan mengatakan fitur keamanan dikembangkan setelah Twitter melakukan konsultasi dan mendapatkan masukan dari beberapa pihak, seperti para ahli keamanan siber, kesehatan mental, dan hak asasi manusia, termasuk anggota Dewan Kepercayaan dan Keamanan Twitter.

“Pihak terpercaya ini juga berperan penting dalam mengusulkan pemilik akun Twitter untuk bergabung dalam kelompok umpan balik, dengan memprioritaskan orang-orang dari komunitas terpinggirkan dan jurnalis perempuan,” ujarnya.

Doherty menyebut Twitter akan berkomitmen untuk mengakhiri kekerasan berbasis gender di dunia daring dan berpartisipasi dalam diskusi tentang pengalaman perempuan saat menggunakan fitur keamanan. [ ]

 

Editor: Ahmad Nurcholish

 

Comment

Leave a Reply

Your email address will not be published. Required fields are marked *

News Feed