Perang melawan terorisme online

Dalam beberapa dekade terakhir, semakin terlihat jelas bahwa internet dapat digunakan untuk menghubungkan orang, untuk tujuan yang baik maupun yang buruk.

Facebook dan perusahaan media sosial lainnya telah menjadikan upaya untuk meminimalisir cara pelaku kejahatan menggunakan teknologi baru sebagai prioritasnya.

Salah satu tantangan terbesar dalam hal ini adalah kelompok teror yang telah menggunakan internet untuk menyebarkan propaganda dan merekrut orang lain agar bergabung dengan ideologi ekstremis mereka.

Mereka tidak membatasi hanya pada satu layanan media sosial atau mekanisme distribusi online tertentu. Melainkan, mereka mencoba berbagai cara untuk menyampaikan pesan mereka

Meskipun pemerintah, perusahaan dan organisasi nirlaba telah berupaya memerangi propaganda teroris secara online, pertanyaan kompleks yang sama tetap menghantui — yaitu bagaimana mengatasi tantangan global yang bisa dengan mudah meluas melalui berbagai cara di berbagai bagian dari web.

Seringkali analis dan pengamat bertanya kepada kami di Facebook mengapa, dengan basis data kami yang sangat besar dan teknologi canggih yang kami miliki, kami tidak dapat memblokir aktivitas jahat yang menggunakan teknologi.

Kenyataannya adalah kami tidak hanya sekedar membutuhkan teknologi, tapi juga banyak orang untuk melakukan pekerjaan ini. Selain itu, agar lebih efektif dalam menghentikan penyebaran konten teroris di internet, kita perlu bekerjasama dengan pihak lain.

Lebih dari dua tahun yang lalu, kami mulai melakukan pertemuan dengan lebih dari belasan perusahaan teknologi lainnya untuk membahas cara terbaik melawan upaya teroris dalam menggunakan layanan kami. Kami semua menghadapi tantangan yang sama, termasuk bagaimana mengidentifikasi konten teroris yang jumlahnya relatif kecil di situs yang cukup besar, dan bagaimana meninjau konten itu dengan cepat dan akurat dalam banyak bahasa.

Kami menggambarkan bagaimana menghadapi tantangan ini di Facebook. Kami berinvestasi dalam upaya mencegah konten teroris masuk ke dalam situs kami. Namun ketika hal tersebut terjadi, kami berupaya untuk segera menemukan kontennya dan menghapusnya dari platform kami.

Secara historis, kami mengandalkan banyak orang – para peninjau konten kami untuk menilai konten yang berpotensi melanggar kebijakan dan menghapusnya.

Kami mulai menggunakan kecerdasan buatan atau yang lebih dikenal dengan istilah Artificial Intelligence (AI) untuk melengkapi usaha ini.

Dalam upaya kami mencari cara paling efektif, kami menghadapi tantangan sama seperti perusahaan lainnya dalam mengembangkan teknologi yang bisa digunakan pada beragam jenis media.

Misalnya, sebuah solusi yang ada untuk foto tidak akan selalu bisa menjadi solusi untuk video dan teks. Sebuah solusi yang berhasil untuk mengenali ikon teroris dalam sebuah gambar, tidak akan selalu bisa membedakan antara teroris yang membagikan foto untuk melakukan perekrutan dan sebuah organisasi berita maupun organisasi berita yang membagikan foto sejenis untuk mengedukasi publik.

Hari ini kami memiliki informasi terbaru tentang bagaimana hal ini dapat dilakukan. Meskipun masih terlalu dini, namun hasilnya cukup menjanjikan, dan kami berharap AI akan menjadi alat yang lebih penting dalam hal perlindungan dan keamanan di Internet dan di Facebook.

Pada saat yang sama, karena hanya menggunakan AI bukanlah jawabannya, kami senantiasa memperluas kemitraan kami dengan perusahaan teknologi lainnya, pemerintah dan organisasi nirlaba yang memiliki tujuan yang sama dengan kami untuk membasmi terorisme di Internet.

Hasil penggunaan AI dan otomasi lainnya untuk menghentikan penyebaran konten teroris cukup menjanjikan.

Hari ini, 99% konten terkait teror ISIS dan Al Qaeda yang kami hapus dari Facebook merupakan konten yang kami temukan sebelum ada orang di komunitas kami yang melapor kepada kami, dan dalam beberapa kasus, bahkan sebelum konten tersebut diunggah di situs ini.

Kami melakukan hal ini melalui penggunaan sistem otomatis seperti pencocokoan foto dan video dan pembelajaran mesin berbasis teks. Begitu kami menemukan konten teror, kami menghapus 83% salinan postingan dalam waktu satu jam setelah konten itu diunggah.

Menerapkan penggunaan AI untuk kontraterorisme tidaklah sesederhana itu. Tergantung pada tekniknya, Anda perlu mendokumentasikan database dengan hati-hati atau meminta kode data manusia untuk melatih mesin.

Sebuah sistem yang dirancang untuk menemukan konten dari satu kelompok teroris tertentu mungkin tidak akan dapat digunakan untuk kelompok lainnya karena adanya perbedaan bahasa dan gaya dalam propaganda mereka.

Dengan adanya keterbatasan ini, kami berfokus pada teknik kami yang paling inovatif pada kelompok teroris yang menjadi ancaman terbesar secara global, di dunia nyata maupun online. ISIS dan Al Qaeda paling banyak memenuhi definisi ini, jadi kami memprioritaskan alat kami untuk melawan organisasi dan afiliasi mereka.

Kami berharap dari waktu ke waktu kami dapat secara bertanggung jawab dan efektif memperluas penggunaan sistem otomatis ini untuk mendeteksi konten dari organisasi teroris regional juga.

Penggunaan AI dalam melawan terorisme semakin membuahkan hasil, namun pada akhirnya harus diperkuat dengan tinjauan manual dari pada ahli terlatih. Untuk itu, kami memanfaatkan keahlian dari dalam perusahaan dan dari luar, bermitra dengan mereka yang dapat membantu mengatasi ekstremisme di Internet.

Musim panas yang lalu, kami mengumumkan formasi dari Global Internet Forum to Counter Terrorism ( GIFCT) - yang bekerja sama dengan Microsoft, Twitter dan YouTube untuk meresmikan kolaborasi lama kami untuk memerangi penyebaran terorisme dan kekerasan ekstremisme di seluruh platform kami.

Karena kita tahu bahwa teroris akan mencoba berbagai cara untuk menjangkau orang secara online, kami bekerja sama dengan perusahaan teknologi kecil di seluruh dunia untuk berbagi wawasan tentang tren yang kita lihat dari teroris dan apa yang berhasil menghentikannya. GIFCT telah mengumpulkan lebih dari 50 perusahaan teknologi dalam pelatihan selama tiga sesi kerja internasional.

Karya GIFCT mencakup perkembangan dan perluasan database industri bersama “hashes” yang diluncurkan di Forum Internet UE pada bulan Desember 2016.

Kami berbagi dan menerima hashes ini, yang merupakan “sidik jari” unik media digital teroris, dari perusahaan lain untuk membantu mendeteksi percobaan pengunggahan propaganda teroris. Melalui GIFCT, kami juga terlibat dengan pemerintah di seluruh dunia dan secara bersama-sama sedang mempersiapkan penugasan penelitian mengenai bagaimana pemerintah, perusahaan teknologi dan masyarakat sipil dapat melawan radikalisasi secara online.

Seiring dengan meningkatnya kolaborasi industri, kami terus meningkatkan kemampuan spesialis internal kami - termasuk ahli bahasa, akademisi, mantan petugas penegakan hukum dan mantan analis intelijen.

Mereka memiliki keahlian regional mengenai kelompok teroris di seluruh dunia dan juga membantu kami membangun hubungan yang lebih kuat dengan para ahli di luar perusahaan yang dapat membantu kami lebih cepat mengidentifikasi bagaimana kelompok-kelompok teror mengubah cara mereka menggunakan internet.

Misalnya, dalam beberapa bulan terakhir, kami telah memperluas kemitraan kami dengan beberapa organisasi yang memiliki keahlian dalam terorisme global atau intelijen siber untuk membantu kami dalam usaha kami. Mitra-mitra ini - termasuk Flashpoint, Middle East Media Research Institute (MEMRI), SITE Intelligence Group, dan University of Alabama di Birmingham's Computer Forensics Research Lab, untuk menandai Pages, Profil, dan Groups di Facebook yang berpotensi dikaitkan dengan kelompok teroris untuk kami tinjau.

Organisasi-organisasi tersebut juga mengirimkan file foto dan video terkait dengan ISIS dan Al Qaeda yang mereka tempatkan di tempat lain di internet, yang kemudian dapat dijalankan untuk melawan algoritme kami yang memeriksa kecocokan file untuk menghapus atau mencegah unggahan mereka ke Facebook.

Dunia Nyata
Seperti yang telah kami sebutkan sebelumnya, kami akan menjangkau penegak hukum saat kami melihat adanya ancaman yang cukup meyakinkan, termasuk menyediakan tim respon penegakkan hukum yang selalu siap sepanjang waktu untuk merespon permintaan darurat.

Sepanjang tahun lalu, kami telah berhasil mendukung pihak berwenang di seluruh dunia merespons ancaman terorisme, bahkan untuk kasus dimana penegak hukum berhasil mencegah terjadinya serangan dan mara bahaya.

Seiring dengan semakin besarnya komitmen kami untuk memerangi terorisme dengan menggunakan AI, memanfaatkan keahlian manusia dan juga memperkuat kolaborasi yang ada, kami menyadari bahwa kami selalu dapat melakukan hal yang lebih banyak lagi. 

Ditulis oleh Monika Bickert, Head of Global Policy Management, dan Brian Fishman, Head of Counterterrorism Policy, Facebook