Original subtitles

LEBIH DARI 3 MILIAR ORANG TERHUBUNG LEWAT MEDIA SOSIAL.

SETIAP MENIT, 500 JAM VIDEO DIUNGGAH KE YOUTUBE,

450.000 CUITAN KE TWITTER DAN 2,5 JUTA KIRIMAN KE FACEBOOK.

TIDAK SEMUA YANG DIUNGGAH PENGGUNA DIBIARKAN OLEH PEMILIK PLATFORM.

TANPA KAMI, INTERNET AKAN KACAU-BALAU.

KAMI MENGHAPUS FOTO, VIDEO DAN TEKS,

YANG MELANGGAR ATURAN MEDIA SOSIAL.

SEBAGIAN BESAR KONTEN YANG KAMI PANTAU DI MANILA BERASAL DARI EROPA DAN AS.

ADA UNIT-UNIT LEBIH KECIL DI NEGARA-NEGARA LAIN,

TAPI FILIPINA ADALAH YANG TERBESAR.

ADA RIBUAN PEKERJA DI SINI.

KALAU PERUSAHAAN SAMPAI TAHU BAHWA SAYA BICARA DENGAN KALIAN,

SAYA AKAN MENDAPAT MASALAH.

KLIEN MENGANCAM AKAN MEMBATALKAN SELURUH ORDER.

Saya harus tetap anonim, karena kami sudah teken kontrak.

Kami tidak boleh mengatakan untuk siapa kami bekerja.

Saya bicara dengan kalian karena

dunia perlu tahu

bahwa kami ada.

Ada yang mengawasi media sosial.

Kami berupaya keras agar platform ini aman untuk semua.

Hapus.

Abaikan.

Abaikan.

Hapus.

Hapus.

Abaikan.

Abaikan.

Kami hadir untuk menghubungkan semua orang.

Untuk sebuah komunitas global.

Untuk memberi semua orang kesempatan berbagi apa pun dengan siapa pun.

Mark Zuckerberg kini ibarat editor halaman depan semua koran di dunia.

Platform media sosial perlu dan ingin kontrol penuh atas apa yang terjadi.

Populasi Facebook lebih besar dari populasi negara mana pun di dunia.

Jadi, ketika bertindak sebagai sensor, Facebook berkuasa ibarat negara.

Tanpa media sosial,

pesan saya takkan tersiar.

Bisa jadi saya malah takkan berdiri di sini.

Ada puluhan ribu orang yang melakukan pekerjaan ini.

Semuanya berlangsung tersembunyi,

dilaksanakan oleh orang-orang anonim,

dan mereka mengambil keputusan editorial yang berdampak luas.

MANILA, FILIPINA

Kami tidak mencari penghargaan.

Kami seperti polisi.

Tujuan utama kami adalah membuat platform sesehat mungkin.

Ada yang harus menjaganya,

sama seperti di dunia nyata.

Saya sangat menyukai pekerjaan saya.

Moderator konten itu ibarat penjaga.

Kami melindungi para pengguna.

Itulah pekerjaan saya.

Kami tidak boleh membocorkan apa pun.

Tidak ada yang boleh tahu tentang pekerjaan ini.

Nanti orang akan penasaran.

Saya sudah enam tahun bekerja sebagai moderator konten.

Saya sudah mengamati tidak terhitung banyaknya video dan gambar.

Gambar-gambar ditampilkan di monitor.

Lalu kami menyisir semuanya

dan menghapus gambar-gambar yang melanggar garis pedoman.

Kuota harian adalah 25.000 gambar. Per hari kami amati 25.000 gambar.

Bisa jadi saya ada dalam Guinness-Book of Records.

Tugas utama moderator konten adalah

menyingkirkan sampah.

Itu satu-satunya tujuan kami.

Itu tanggung jawab utama kami:

memastikan hal-hal mencurigakan tidak diunggah.

Itu saja.

TUGAS KAMI ADALAH MENGAWASI DAN MEMODERASI KONTEN DARI PENGGUNA.

SAYA MEMBANTU ORANG LAIN.

SAYA MENYETOP PENYEBARLUASAN EKSPLOITASI ANAK.

SAYA HARUS MENGIDENTIFIKASI TERORISME. HARUS MEMBENDUNG PERUNDUNGAN SIBER.

ALGORITME TIDAK BISA MENGGANTIKAN PEKERJAAN KAMI.

Saya mulai di Google tahun 2004.

Saya merasa mendapat privilese

untuk turut mengembangkan infrastruktur di dunia saat ini.

Menjadi bagian dari sesuatu yang begitu dahsyat

dan punya potensi untuk mengubah kehidupan menjadi lebih baik,

itu sesuatu yang luar biasa dan merupakan privilese.

Kita berangkat dari pertanyaan apa yang boleh ada di platform kita,

dan apa yang tidak patut.

Apa yang tidak kita kehendaki di dalam komunitas kita?

Dan itu berarti menentukan pilihan.

Ada pilihan untuk berkata, tidak ada yang boleh diunggah sebelum ditinjau.

Itu sebuah pilihan.

Atau, saya akan biarkan sebagian besar konten

dan hanya meninjau hal-hal yang dilaporkan.

Itu juga sebuah pilihan.

Kalau kita mementingkan keragaman pendapat,

kalau kita ingin agar platform yang demokratis bisa benar-benar hidup,

saya pikir, kita akan memilih kebijakan yang cenderung liberal.

Apakah Anda bersumpah bahwa kesaksian Anda

mengungkapkan kebenaran secara utuh, tanpa ditambah-tambahi?

Terima kasih.

Nicole Wong,

wakil pimpinan bagian hukum dan pejabat privasi tertinggi di Google.

Nyonya Wong,

staf kami mengakses internet dan memasukkan kata "praremaja" plus

"seks" plus "video".

Melihat situs-situs Google saja...

itu seperti daftar pornografi hardcore.

Ada permainan seks, seks praremaja

dan pornografi remaja...

Ada beberapa level yang harus kami tinjau.

Memang mengerikan bahwa ada situs web seperti itu,

dan kita perlu... - Kita semua sepakat,

tapi perusahaan Anda tampaknya paling enggan memblokir atau mencegahnya.

Itu maksud saya.

Di samping peninjauan berjenjang yang kami lakukan untuk menyaring,

kami juga memiliki mesin pencari terbesar di Internet.

Jadi seharusnya lebih mudah menemukan konten seperti itu

dan memblokirnya, mengingat Anda mesin pencari terbesar.

Kami memiliki mesin pencari terbesar dan amat banyak laman untuk ditinjau.

Staf kami terlatih kami untuk melacak dan menyingkirkan situs seperti itu.

Kami berusaha sebaik mungkin - Oke.

Di awal pelatihan saya tidak tahu apa itu moderator konten.

Itu kali pertama saya mendengar istilah tersebut.

Kami diberi tahu apa yang akan kami lihat, alat apa yang akan kami pakai,

dan apa yang menanti kami dalam pekerjaan ini.

Saya masih ingat ...

bahwa saya mau langsung berhenti saja.

Hal paling mengejutkan yang pernah saya lihat sebagai moderator konten

adalah anak kecil lagi mengulum penis di sebuah bilik kerja.

Anak itu telanjang bulat.

Anak perempuan, kira-kira enam tahun,

dengan penis di mulut.

Pada foto lain

anak perempuan itu terbaring di sebuah tempat tidur

dengan sperma berceceran di sini.

Menurut saya itu betul-betul tidak layak dilihat.

Saya langsung mendatangi atasan saya

dan memberi tahunya bahwa saya tidak sanggup.

Saya tidak sanggup melihat anak itu.

Dia hanya bilang, itu bagian dari tugas saya

dan saya sudah terikat kontrak.

Kalau kita bisa hilangkan semua rintangan dan mengundang seluruh dunia

untuk menampilkan dirinya,

untuk mengunggah segenap hidupnya,

berbagi apa saja yang bisa dibagikan,

orang akan menanggapinya,

orang dengan beragam motif, minat dan hasrat akan menanggapinya.

Kalau Facebook atau Google mengaku tidak memiliki karyawan di Manila,

pernyataan itu memang benar,

sebab yang dipakai adalah tenaga kerja perusahaan alih daya pihak ketiga.

Memang benar bahwa gaji dibayar bukan oleh Google atau Facebook,

melainkan oleh perusahaan alih daya yang berkedudukan di Filipina.

Moderator konten komersial

bekerja di bawah bayang-bayang platform media sosial.

Tanpa terlihat, tanpa dipedulikan.

Tanpa diketahui oleh jutaan pengguna platform, yang tidak ambil pusing

siapa yang menjaga kebersihan di platform mereka.

Moderator konten ibarat penembak jitu.

Sasaran kami adalah para pengguna

yang melanggar peraturan aplikasi.

Kena!

Saya bangga dengan putra saya.

Dia membantu segala kebutuhan kami.

Saya tidak tahu apa kerjanya sebagai moderator.

Saya hanya tahu sebatas yang dia ceritakan kepada saya,

yaitu bahwa dia moderator di tempat kerjanya.

Ibu saya selalu bilang, kalau saya tidak rajin belajar,

saya bakal jadi pemulung.

Sepanjang hari mereka mengais sampah.

Mereka hidup dari sampah.

Itu satu-satunya mata pencaharian yang mereka tahu.

Saya takut bernasib jadi pemulung.

Itu salah satu alasan saya rajin belajar di sekolah.

Gaji di Filipina sangat kecil.

Berkat pekerjaan sebagai moderator konten

kami bisa menyambung hidup.

Hapus.

Abaikan.

Hapus.

Ini bisa dihapus.

Hapus.

Abaikan.

Hapus.

Hapus.

Hapus.

ILLMA GORE, SENIMAN, LOS ANGELES

Januari 2016 saya membuat lukisan Donald Trump dengan penis kecil,

yang saya beri judul "Make America Great Again".

Lukisan itu menjadi viral

dan jutaan orang membagikannya lewat berbagai platform.

Beberapa hari kemudian Trump menyinggung ukuran penisnya

di sebuah acara debat.

Saya masih ingat, teman saya ...

Dia menelepon dan berkata:

"Apa kau yang membuat Donald Trump membahas penisnya di acara debat?"

Kata dia, kalau tangan saya kecil, pasti ada lagi yang kecil.

Saya jamin, tidak ada masalah.

Saya taruh di laman Facebook saya,

dan dalam tempo tiga hari sudah dibagikan lebih dari 50 juta kali

di begitu banyak platform media sosial.

Benar-benar gila.

Saya tidak menyangka akan seperti ini.

Ini Donald Trump telanjang.

Dia bukan pemimpin yang tangguh.

Karena itu penisnya cenderung kecil.

Dia kurang perkasa

untuk menangani tugas berat seorang presiden Amerika.

Ini harus dihapus. Kenapa?

Ini merendahkan pribadi Donald Trump,

dan karena itu harus dihapus.

Sebagai moderator konten

kita harus punya prinsip.

Kita yang memutuskan apakah orang akan melihat sebuah gambar atau tidak.

Kesalahan terbesar yang bisa kita lakukan

adalah membiarkan foto telanjang.

Payudara atau kelamin laki-laki

sama sekali tidak bisa diterima.

Laman Facebook saya diblokir,

semua akun saya diblokir.

Padahal hanya itu milik saya.

Jadi saya tidak bisa memberi tahu siapa pun apa yang terjadi.

Facebook bilang, seni rupa tidak apa-apa.

Memang bisa dianggap pornografi,

tapi sebagai seni, ini sebuah representasi.

Ini bukan kenyataan, bukan foto, bukan orang yang tidak memberi izin,

ini rekaan semata.

Tidak ada aspek kekerasan atau seksual, ini hanya tubuh telanjang,

dengan wajah Trump.

Saya tidak paham kenapa orang merasa

telanjang itu menjijikkan.

Dulu saya tidak terbiasa melihat gambar seperti ini.

Mula-mula kami harus dilatih dulu.

Kami diperkenalkan dengan berbagai istilah seksual.

Kami harus tahu semuanya,

kata seperti "pussy" atau "tits".

Dulu saya tidak tahu istilah itu. Saya benar-benar polos.

Saya benar-benar tidak tahu.

Lalu ada mainan seks.

Itu juga saya tidak tahu.

Istilah seperti "butt plugs".

Saya tidak tahu apa itu.

Saya pikir itu seperti sumbat untuk tempat cuci piring,

agar airnya tidak terbuang.

Karena itu saya dulu

biasa menonton macam-macam film porno setelah pulang ke rumah.

Saya tidak biasa melihat penis.

Setiap kali saya tidur malam,

saya bermimpi tentang segala macam jenis penis.

Saya melihat penis di mana-mana.

Dan waktu bangun... Selamat pagi!

Astaga mimpi tadi, begitu banyak penis berbeda. Wow!

Ada yang panjang, pendek, putih, hitam, gendut,

kurus, muda dan sangat tua, penuh bercak...

Itu berat sekali, dan akhirnya menjadi semacam...

kesenangan terlarang.

Saya merasa bersalah karena menonton hal-hal seperti itu.

Tapi ada rasa senang juga.

Colin Stretch, Pimpinan Bagian Legal di Facebook,

Sean Edgett, Pimpinan Bagian Legal di Twitter,

Richard Salgado,

Direktur Penegakan Hukum dan Keamanan Informasi di Google.

Jutaan orang Amerika menggunakan teknologi Anda

untuk membagikan langkah pertama seorang cucu,

untuk bercerita tentang hal baik dan buruk dalam hidup mereka.

Anda semua telah memperkaya Amerika.

Tapi pada akhirnya,

berbagai teknologi itu juga dapat dimanfaatkan

untuk merongrong demokrasi kita dan membahayakan bangsa kita.

Apakah Anda setuju bahwa ada dampak buruk terhadap bisnis

jika rakyat Amerika merasa bahwa platform Anda

dapat dibajak oleh teroris untuk meradikalisasi orang Amerika?

Itu lebih dari sekadar buruk untuk bisnis, Senator.

Di Facebook tidak ada tempat untuk terorisme.

Kami sependapat.

Saya setuju dengan pernyataan itu.

Saya ingin mengajukan beberapa pertanyaan.

Ada perbedaan besar antara akun pelaku jihad potensial ...

Ada banyak sekali interpretasi teologi

perihal kekerasan atas nama agama.

Seluk-beluk jihad bukan bagian dari pendidikan orang-orang teknik.

Siapa para ahli konten Anda, dan bagaimana mereka diseleksi?

Kami mempunyai ribuan karyawan yang dalam rangka tugas mereka

berupaya menghalau terorisme dari Facebook.

Ada 150 karyawan yang khusus mengerjakan itu.

Di Twitter ada berapa orang, Pak Edgett?

Kami memanfaatkan teknologi, seperti algoritme

dan pembelajaran mesin, untuk membantu kami,

tapi juga tim kepercayaan dan keamanan serta tim layanan pengguna.

Itu ratusan orang.

Bagaimana dengan Anda?

Secara internal ada ribuan orang.

Kami juga mendapat banyak petunjuk terkait konten

dari luar perusahaan.

Pak Stretch, kalau begitu, apakah 150 orang cukup, menurut Anda?

Kalau boleh saya perjelas:

Kami mempunyai sekitar sepuluh ribu karyawan di bidang keamanan umum,

dan kami berencana menggandakan angka itu sampai akhir 2018.

ADA DAFTAR BERISI 37 ORGANISASI TEROR

YANG HARUS KAMI TANGKAL.

DAFTAR ITU BERASAL DARI KEMENTERIAN KEAMANAN DALAM NEGERI AS.

KAMI HARUS MENGHAFAL SEMUA INFORMASI TENTANG KELOMPOK-KELOMPOK TERORIS ITU:

BENDERA MEREKA, UJARAN MEREKA.

LALU KAMI LAKUKAN MODERASI.

Hapus.

Hapus.

Hapus.

Abaikan.

Hapus.

Hapus.

Hapus.

Saya sudah menyaksikan ratusan pemenggalan

selama menjadi moderator konten.

Bukan hanya foto, juga video.

Video pemenggalan selama dua menit.

Algojonya berpidato dulu

sebelum memenggal kepala para korban.

Kadang-kadang mereka beruntung, dan pisau yang dipakai itu tajam.

Skenario terburuk adalah pisau kecil,

mirip pisau dapur,

yang tidak terlalu tajam.

Kadang-kadang perlu waktu satu menit sebelum kepalanya terpenggal.

Di sini dipakai bilah pendek.

Sebab dari ...

Di sini terlihat,

bagaimana kepalanya dipotong.

Potongannya tidak bersih, tapi gerigis.

Sebab kalau mereka memakai bilah yang lebih panjang dan tajam,

bekas potongannya bersih

dan darahnya tidak terlalu banyak.

Di sini dipakai pisau dapur.

Ini benar-benar sulit.

Setiap kali kami temukan foto atau video

di media sosial,

kami langsung mengarsipkannya, karena bisa saja segera dihapus.

Bagi kami penting untuk mendokumentasikan foto-foto ini,

karena bisa lenyap untuk selamanya.

Hampir setiap orang di Suriah punya ponsel dan menjadi aktivis.

Setiap dugaan serangan udara didokumentasi: akibatnya,

korbannya, kehancurannya,

apakah ini dari pihak koalisi,

Rusia atau rezim Suriah.

Semua video dikumpulkan dan diunggah ke akun mereka.

Setelah mengumpulkan data,

kami berusaha menentukan lokasi yang tepat.

Hasilnya kami publikasikan daring

untuk membantu memberi gambaran mengenai perang di Suriah.

Ini sekolahnya, dan serangan udara terjadi di daerah ini,

di daerah sekitar sekolah.

Tanpa kerja kami, militer atau pemerintahan bebas bertindak,

tanpa dipertanyakan.

Korban di kalangan sipil akan meningkat,

takkan ada kejelasan.

Kita takkan bisa tahu apa yang sedang terjadi.

Video-video ini diperlukan

dan menjadi bagian dari perang.

Ini rekaman informasi dan bukti untuk masa mendatang.

Masalahnya,

video-video ini sering digolongkan sebagai video ISIS.

Isinya sangat mencolok, dan karena itu videonya dihapus.

Penyensoran di YouTube

berdampak kepada banyak organisasi

yang memiliki video mengenai Suriah, serangan udara, dan kehancuran.

Akun organisasi seperti itu diblokir.

Hidup di sana berbeda dengan di sini. Di sana perang.

Karena itu kontennya pun berbeda.

Kami berfokus kepada perang, serangan udara, dan pembantaian,

itulah yang kami liput.

Kami tidak mewartakan kegiatan persepakbolaan

atau tempat makan siang terbaik.

Sayangnya tidak.

Keputusan tentang apa yang tergolong sebagai konten teroris

sangat tergantung kepada konteks.

Konten yang tampil sebagai ancaman nyata di satu platform

mungkin tampil sebagai berita di platform lain,

atau sebagai satire atau kritik terhadap konten lain.

Banyak sekali yang tergantung kepada konteks untuk konten tertentu

sehingga sulit untuk memutuskan apakah konten itu perlu dihapus atau tidak.

Selalu ada pertanyaan sulit.

Eksekusi Saddam Hussein

diam-diam direkam oleh seseorang

dan diunggah ke YouTube.

Keesokan hari ada dua video eksekusi:

Satu menunjukkan ia digantung.

Satu lagi menunjukkan jenazahnya.

Keduanya sarat kekerasan dan sangat jelas

dan kami harus memutuskan apakah akan dibiarkan atau dihapus?

Kami memutuskan untuk membiarkan video hukuman gantung,

karena video itu bernilai sejarah,

yaitu eksekusi bekas diktator.

Tapi video jenazahnya kami anggap tidak perlu.

Tidak ada relevansi historisnya,

jadi kami hapus video itu.

Saya tidak tahu apakah kami mengambil keputusan yang tepat.

Perjalanan sejarah akan memberi jawaban.

Tapi itulah keputusan yang harus diambil

untuk tiap-tiap video.

Coba bayangkan para staf di seluruh dunia.

Mereka menilai konten dari negara yang belum pernah mereka datangi,

tanpa pengetahuan latar belakang.

Menilai konten bermasalah itu sangat berat.

KETUA TIM KAMI TIDAK BISA MEMANTAU SETIAP KEPUTUSAN KAMI.

MEREKA HANYA MEMERIKSA 3 PERSEN

LAPORAN SEORANG MODERATOR.

BEGITULAH PROSEDUR EVALUASI MUTU.

Ini foto terkenal.

Kalau tidak salah, dari zaman Perang Vietnam.

Saya rasa, anak ini menjadi ikon di Vietnam.

Tapi berdasarkan garis pedoman kami,

kalau ada alat kelamin dan anak di bawah umur,

hapus.

Ini mudah:

Zoophilia.

Ini laki-laki tua yang berhubungan seks dengan seekor burung.

Semua yang berkaitan dengan hubungan seks harus dihapus.

Jadi ini pun saya hapus.

Di sini kita melihat seorang laki-laki berlutut

dan seekor anjing besar dan seorang serdadu,

kemungkinan anggota ISIS.

Sebelah kiri ini petarung ISIS.

Dan ini tahanannya.

Ini cara penyiksaan ISIS.

Karena itu kita hapus.

Ini foto anak kecil korban kecelakaan saat banjir.

Kalau kita bekerja untuk pers,

foto seperti ini tidak dipublikasi.

Fotonya bisa dipublikasikan, tapi harus disensor,

tidak boleh sejelas ini.

Fotonya boleh dipasang, tapi jangan sejelas ini.

Ini menurut saya tidak bisa diterima dan harus dihapus.

Janggal rasanya: secara fisik saya di Berlin,

tapi secara emosional dan mental saya sepenuhnya di Suriah.

Saya mengamati perang dari jauh.

Saya merasa bersalah karena berhasil selamat.

KHALED BARAKEH, SENIMAN BERLIN/DAMASKUS

Saya memasang foto-foto ini di dinding Facebook saya,

kemudian disingkirkan oleh Facebook setelah tiga hari.

Tidak pernah ada penjelasan.

Saya coba kontak dengan segala cara, tapi tidak berhasil.

Supaya bisa memperlihatkan foto-foto ini,

saya mengerik permukaan foto

untuk menghilangkan korban dari foto.

Dengan cara ini, fotonya bisa diperlihatkan

tanpa ada alasan fotonya tidak layak diperlihatkan.

Kadang-kadang saya bertanya sendiri:

Siapa yang menentukan kebijakan di Facebook?

Saya ingin bertemu orang-orang itu.

Saya ingin tahu siapa mereka.

Logikanya, latar belakang mereka menentukan cara berpikir mereka.

Anak ini tewas bukan dalam situasi normal.

Ia korban permainan internasional.

Saya ingin memberinya suara yang sangat lantang.

Itu tujuan saya.

Kita harus terus mengusik dunia,

dalam arti yang baik.

Pihak perusahaan semakin berkuasa untuk memutuskan

apa yang dibiarkan dan apa yang harus dihapus.

Pihak perusahaan memanfaatkan hasrat kita akan kemudahan,

keengganan kita untuk berusaha dan mengerjakan hal sulit.

Lama-lama, atau bahkan sudah,

ini berdampak negatif terhadap kemampuan kita untuk berpikir kritis,

mungkin juga terhadap kemampuan kita menghadapi situasi sulit,

sampai akhirnya keragaman pendapat dan situasi sulit dibatasi.

Orang jangan heran

kalau di masa mendatang tersedia lebih sedikit informasi,

lebih sedikit informasi yang mengusik dan memprovokasi, di internet.

Dan saya pikir masyarakat luas akan rugi karenanya.

Sebagai moderator kita harus selalu fokus.

Dalam kehidupan kita juga perlu fokus.

Fokus pada hal-hal baik.

Suatu hari, hal-hal buruk akan lenyap.

Karena ada janji akan kebahagiaan abadi.

Dunia tempat kita hidup sekarang kurang sehat.

Di dunia ini ada kekuatan jahat.

Kita harus waspada.

Kita harus mengendalikannya, baik atau buruk.

TEGAKKAN KEPALA, ANAK MUDA! TUHAN.

GARIS POLISI DILARANG MELINTAS

Yang terlihat di sini adalah petugas polisi.

Di sisi kiri foto

ada orang dengan pistol.

Ini petugas polisi Filipina.

Saya menduga ini soal pembunuhan ekstrayudisial,

seperti diklaim oleh media.

Kita tidak tahu apakah memang polisi

atau pengedar narkoba lain yang membunuh mereka.

Sementara orang yakin presiden kami yang bertanggung jawab.

Duterte,

presiden kami, anti-narkoba.

Dia anti-pelaku kejahatan.

Dan sama seperti presiden kami, yang berusaha sebisa mungkin

untuk melindungi Filipina,

saya melakukan hal yang sama di pekerjaan saya.

Saya melindungi para pengguna aplikasi.

Hitler membantai tiga juta orang Yahudi.

Di sini ada tiga juta pecandu narkoba.

Saya rela membantai mereka.

Kalau Jerman punya Hitler,

Filipina punya saya.

Semoga semua penjahat

menjadi korban saya,

supaya masalah negeri saya teratasi

dan generasi berikut terselamatkan dari kehancuran.

Terima kasih.

Walaupun membunuh itu salah,

cobalah melihat sisi baik pemimpin kami,

daripada fokus ke sisi buruknya.

Saya fokus ke hal-hal baik.

Saya menjauhi hal-hal buruk.

Mocha Girls ini seksi banget!

Kita langsung jatuh hati.

Favorit saya Mocha.

Mocha Girls sangat berpengaruh di Filipina.

Orang dari seluruh dunia menonton mereka lewat media sosial.

Mereka bukan hanya populer,

mereka juga mendukung presiden kami.

Kalian puas dengan Presiden Duterte?

Kita percaya kepada presiden dan kita dukung penuh dia.

Anda sudah melihat fotonya?

Anda sudah melihat foto seksinya di internet?

Dulu laman Facebook dia penuh dengan foto seperti ini,

sebelum ia aktif di dunia politik.

Pada suatu ketika, presiden kami memboikot media.

Ia tidak bersedia diwawancarai oleh media.

Tapi ia mau diwawancarai oleh Mocha Uson.

Kami sepenuhnya mendukung boikot media Bapak.

Orang-orang tergantung kepada Facebook.

Facebook? - Betul, Bapak.

Dalam wawancara itu, Mocha Uson menyanjung-nyanjung presiden,

menyatakan dukungan kepada presiden, dan menyerukan boikot media.

Saya lalu menulis di laman Facebook saya:

"Sungguh menarik

bahwa pertemuan antara presiden dan penggemar setianya

dianggap sebagai jurnalisme."

Ada orang yang menyuruh saya membeli rompi tahan peluru.

Ada yang mengancam bahwa mereka akan menembak kepala saya.

Ada yang mau membakar saya hidup-hidup.

Saya dituduh korup, berprasangka.

Saya disebut "perslacur."

Bahayanya Facebook adalah

orang mudah terjebak untuk memihak

karena menerbitkan sesuatu itu amat mudah, tinggal tulis dan klik.

Orang bisa sangat emosional

dan mudah terbawa oleh informasi sepotong-sepotong

yang membuat mereka mengira mereka sudah mengerti.

Itu sebabnya kita punya Trump atau Duterte,

atau juga Mocha Uson.

Kita menghadapi bahaya kehilangan demokrasi,

karena kita bersedia untuk mencampakkannya.

Di Lembah Silikon berlaku semacam aturan tutup mulut.

Segala sesuatu ditampilkan serba sempurna dan mengilap.

Semua orang berhasil, semuanya beres.

Hal-hal negatif tidak dibahas.

Waktu saya di sana, staf Facebook sangat muda.

Ketika kita muda, kita banyak waktu,

belum ada istri, belum ada anak.

Bisa dibilang, banyak staf yang seolah setengah rumahnya itu, ya, Facebook.

Kita didorong untuk meretas dunia. Dengan cara apa pun.

Facebook pada dasarnya perusahaan teknologi

di bawah orang-orang teknik yang mementingkan produk, infrastruktur,

skala, pengalaman pengguna.

Ini bukan perusahaan media.

Facebook tidak ambil pusing soal konten, itu bukan bagian dari DNA-nya.

Setiap kali diingatkan akan kewajiban yang seharusnya diembannya,

Facebook berkilah, kami hanya menerapkan matematika lewat algoritme.

Kalian memperoleh yang kalian inginkan dan kami tidak ikut campur.

Tapi realitas politik setelah Trump dan Brexit menunjukkan

jawaban ini tidak lagi memadai.

Kita sampai di suatu titik di mana publik tidak lagi menerima itu.

Cepat atau lambat pemerintah akan turun tangan dan mereka tahu itu.

KOMITE INTELIJEN SENAT INVESTIGASI RUSIA DAN PEMILU 2016

Ada laporan pers bahwa Facebook mungkin telah mengembangkan perangkat lunak

yang menghalau munculnya kiriman di umpan berita di wilayah tertentu.

Benarkah itu? Apakah Facebook mengembangkan perangkat lunak

untuk menghalau munculnya kiriman di umpan berita di daerah tertentu?

Ada banyak kasus menyangkut laporan

dari pemerintahan asing mengenai konten

yang ilegal menurut hukum pemerintahan tersebut.

Karena itu kami terapkan "geoblocking" atau "IP-blocking",

agar konten itu tidak muncul di negara bersangkutan, namun tetap...

Jika kritik terhadap pemerintah dilarang di sebuah negara,

Anda dapat memblokir kritik itu

sehingga diizinkan masuk dan beroperasi di negara tersebut?

Dalam...

dalam sebagian besar kasus

menyangkut laporan mengenai konten yang ilegal di tempat tertentu,

tidak ada sangkut paut dengan ekspresi politik.

Facebook menghapus apa pun dari platform media sosial itu,

jika diminta oleh pihak berwenang Turki.

Ekspresi politik atau konten yang bersifat politik

pada umumnya menjadi sebab utama penghapusan itu.

Saya akan tunjukkan contoh konten yang diblokir atau dihapus.

Foto bendara Turki yang dibakar,

peta Kurdistan,

karikatur atau kartun yang mengejek Erdogan.

Apakah di YouTube, Facebook, atau Twitter

Turki adalah negara yang paling banyak memberlakukan restriksi di dunia.

Turki dari dulu negara dengan penyensoran.

Media tradisional semakin dikendalikan oleh pemerintah,

jadi orang Turki berpaling kepada platform media sosial.

Tapi sekarang media sosial terus didesak oleh pihak berwenang Turki

untuk menghapus atau memblokir konten.

Berbagai perusahaan itu mulai membuat kesepakatan dengan pihak pemerintah,

karena tidak ingin diblokir sepenuhnya di Turki,

sebab itu berarti kehilangan pengguna dan peluang bisnis.

YouTube begitu visual dan mampu melintasi batas-batas,

jadi sekitar 2007 kami mulai sering mengalami pemblokiran.

Jika satu pemerintah tidak tahu cara menghubungi kita,

layanan kita yang dimatikan di negara mereka.

Kami perlu agak lama sampai mengetahui sebab mereka gusar.

Akhirnya kami mendapatkan video-video yang dipermasalahkan.

Ada yang menyangkut Atatürk,

ada yang dianggap video teroris,

yang melanggar hukum Turki.

Saya pernah pukul dua dini hari meninjau 67 video

yang mengusik pemerintah,

lalu memutuskan mana yang dihapus dan mana yang dibiarkan.

Ada sejumlah video

yang biasanya takkan dihapus oleh kami,

karena tidak melanggar garis pedoman komunitas,

tapi ternyata ilegal di Turki,

sehingga kami putuskan untuk diblokir berdasarkan alamat IP pengguna Turki.

Jadi, pengguna di Turki takkan bisa melihat video-video itu.

Saya kurang puas dengan solusi itu, tapi begitulah akhirnya.

Ini adalah kesepakatan jalan belakang

yang jarang diketahui oleh publik.

Jika sebuah pemerintah memilih jalan tidak resmi guna meminta perusahaan

membatasi ekspresi tertentu di platform bersangkutan,

lambat laun perusahaan akan terdorong

untuk memutuskan sendiri hal-hal seperti itu.

Pihak perusahaan akan memutuskan makna undang-undang.

Pihak perusahaan yang akan memutuskan mana yang sah dan mana yang tidak,

mana yang ilegal dan mana yang boleh.

Pengalihan wewenang seperti itu kepada pihak perusahaan

seharusnya mengusik orang yang hidup dalam masyarakat demokratis.

Di pekerjaan ini,

kita tidak boleh melakukan satu kesalahan pun.

Satu kesalahan bisa menghancurkan hidup lebih dari satu orang.

Kesalahan itu bisa memicu perang,

bisa memicu perundungan

bisa memicu bunuh diri.

Pendapat dan jalan pikiran para pengguna sebuah aplikasi

tergantung kepada para moderator konten.

Pekerjaan kami tidak mudah.

Sekarang ini semuanya lebih politis.

Negara-negara saling menyerang.

Saya kurang tertarik pada politik.

Setiap orang harus tahu sendiri bagaimana menyikapi sesuatu.

Terkadang saya perlu delapan detik untuk menilai sebuah gambar.

Apakah akan diabaikan atau dihapus.

Setelah itu, kita beralih.

Itulah inti kehidupan: beralih terus.

Sekarang ini, sebagian besar kasus yang saya tinjau berasal dari AS,

dari masa Donald Trump menang pemilu.

Soalnya ada banyak penghinaan terhadap kaum imigran,

terhadap ras lain, seperti orang Meksiko atau orang kulit hitam.

PLANET KAUM MUSLIM

Tapi itu hanya sudut pandang.

Orang bebas berkata apa saja,

karena kami menjunjung kebebasan berbicara di platform kami.

Kalau orang berkata ujaran kebencian berbeda dari kebebasan bicara,

atau kebebasan bicara berbeda dari ujaran kebencian,

mereka sama sekali keliru.

Sebab amandemen pertama konstitusi AS

dibuat khusus untuk hal-hal

yang tidak ingin kita dengar.

Saya ini dari dulu sudah sengak.

Dari dulu saya tukang cari perkara.

Dan akan tetap begini sampai mati.

Platform seperti Facebook itu bebas diakses.

Kita harus cerdik memanfaatkan media sosial seperti YouTube atau Facebook.

Kita harus mampu merekam sesuatu dan mengunggahnya.

Menurut saya, soal pengungsi ini ...

Jangan main buka pintu dan biarkan sembarang orang masuk.

Nanti ketahuan bahwa banyak yang mengidap penyakit,

banyak yang penjahat atau pemerkosa.

Begitu ada polisi syariah yang coba ceramahi istri saya,

saya akan membuatnya babak belur.

"Persetan denganmu, pulanglah

ke negara sialan dari mana kau berasal."

MINGGU KEBEBASAN BERBICARA BERKELEY, CALIFORNIA

Ini Sabo, melapor dari Berkeley.

Senang rasanya melihat para patriot dan orang kanan.

Ada banyak sekali orang hebat di jalanan di sini.

Sementara ini masih banyak polisi.

Tapi entah sampai kapan.

Begitu mereka pergi, saya takkan heran kalau orang mulai berkelahi.

Polarisasi politik di AS begitu parah sehingga ...

pendukung fanatik partai Demokrat sampai tidak bisa

berbincang dengan pendukung fanatik partai Republikan.

Sebabnya banyak. Ini bukan karena Facebook,

tapi Facebook memperuncing situasi.

Dulu setiap warga berhak atas pendapat sendiri,

sekarang setiap warga berhak atas realitas dan kebenaran sendiri,

atas fakta sendiri.

Facebook mendukung fakta sendiri itu

dengan memperlihatkan hanya yang ingin kita dengar,

dan menyaring semua yang tidak ingin kita dengar.

Demokrasi mensyaratkan

adanya aturan perilaku dan kebenaran mendasar

yang melandasi perdebatan.

Kalau tidak ada aturan perilaku,

kalau tidak ada kebenaran mendasar, demokrasi menjadi mustahil.

SAPALAH KAMI – KAMI DENGARKAN!

Aku ada pertanyaan.

Bukan begitu caranya. Tanggapilah apa yang dia katakan.

Aku tidak ingat.

Jelaskan apa pemahamanmu mengenai apa yang dia katakan?

Apakah aku seperti orang kulit putih? - Tunggu dulu!

Tunggu!

Dengarkan aku, ya? - Kenapa kau membentakku?

Kau berkhotbah. - Dan kau bicara.

Coba ulangi apa yang kukatakan.

Kau ... - Coba ulangi apa yang kukatakan.

Aku kira kau frustrasi. Kita perlu orang yang ...

Dan apa yang kukatakan kepadamu? Apa yang kukatakan kepadamu?

Jangan bentak aku!

Apa yang kukatakan kepadamu?

Sementara orang kiri menganggap sikap kami tidak patut.

Kamilah yang berbekal senjata, peluru dan pelatihan.

Dan begitu kami bisa mulai menembak,

segala kekonyolan ini bakal tamat secepatnya.

Saya tidak yakin tanggung jawab atas kebencian di dunia

semata-mata urusan platform media sosial.

Tapi menurut saya,

perusahaan teknologi yang baru perlu benar-benar merenungkan

apakah keterlibatan seperti itu patut didukung.

Apakah telah terbentuk sistem-sistem

yang mendorong dan menjunjung ujaran yang sangat keterlaluan,

bukannya ujaran yang meningkatkan saling pengertian.

Salah satu kesalahpahaman adalah menerima tabiat manusia apa adanya

sambil menganggap teknologi itu netral dan tidak menggaungkan apa pun.

Tapi ini tidak benar.

Sesungguhnya teknologi memiliki bias.

Teknologi memiliki tujuan,

yaitu menarik perhatian sebanyak mungkin orang.

Apa yang bisa menarik miliaran orang

dan mampu meraih dan mempertahankan perhatian mereka?

Dan bukan hanya itu, tapi juga mendorong mereka untuk berbagi?

Ternyata kemurkaan sangat cocok untuk itu.

Apakah dikehendaki atau tidak,

Facebook lebih banyak menarik perhatian lewat umpan penuh kemurkaan,

dibandingkan kalau kiriman seperti itu tidak ditampilkan.

Yang digaungkan adalah apa yang paling memecah-belah,

apa yang paling parah dan paling menakutkan.

Segenap lingkungan itu diarahkan untuk mengungkapkan sisi terburuk kita.

Saya mulai dengan Anda, Pak Stretch.

Pasar Facebook yang tumbuh paling pesat ada di negara-negara berkembang.

Facebook kini menjadi sarang ujaran kebencian terhadap Rohingya,

kaum pengungsi di Myanmar.

Mereka sangat rentan dan dipersekusi dengan kekerasan.

Para pemimpin negara itu tidak mengambil tindakan apa pun.

Apa langkah Anda untuk memastikan

bahwa platform Anda tidak digunakan

untuk merongrong demokrasi sebuah negara,

apalagi taruhannya bukan suara pemilih,

melainkan nyawa orang?

Terima kasih untuk pertanyaan ini, Senator.

Kami berkewajiban untuk memastikan tidak ada penyalahgunaan ...

Kita bicara soal nyawa manusia. - Saya ...

Saya tidak menyangkal itu.

Kami harus berkontribusi untuk mengangkat permasalahan itu,

tapi tidak boleh digunakan sebagai alat

untuk mengobarkan kebencian atau mengagungkan kekerasan.

Anda lihat ini?

"Berantas mereka, bunuh mereka."

"Bunuh Kala tidak apa-apa."

"Kala" artinya seperti "nigger" di Amerika.

Akun ini memiliki sekitar 400.000 pengikut di Facebook.

Facebook membantu menebar kebencian terhadap Rohingya.

Menurut PBB, Rohingya itu

minoritas yang paling dipersekusi di seluruh dunia.

Di Myanmar, internet adalah identik dengan Facebook.

Sebagian besar orang bahkan tidak tahu apa itu E-Mail.

Orang menyebarluaskan informasi palsu di Facebook.

Orang akan populer kalau mengirim sesuatu yang anti-Rohingya

dan akan banyak di-like, dikomentari dan di-share.

Kiriman itu akan dibagikan ribuan kali dalam satu jam.

Jadi orang menganggapnya sebagai informasi autentik.

Mayoritas orang di Myanmar membenci Rohingya.

Pola pikir mereka semakin parah dari hari ke hari.

Di Bangladesh, lebih dari satu juta Rohingya berlindung di kamp pengungsi.

Bayi saya yang berumur dua tahun dirampas dan dilempar ke api.

Putra saya yang berumur lima tahun dibuang ke sungai.

Kami dipukuli sampai patah tulang lalu dibakar.

Kepala saya dihajar dengan batang bambu.

Kuping saya diiris.

Saya diperkosa sambil dipegangi oleh orang lain.

Waktu putri saya mulai menangis, dia dibacok tiga kali.

Facebook harus menghentikan kebencian ini.

Genosida Rohingya di Myanmar memang ...

Ini hanya satu dari sekian banyak dampak samping

yang dipicu oleh sejumlah platform

yang dibuat di California sini, oleh segelintir orang

yang mirip saya:

anak muda, kulit putih, insinyur,

dengan keputusan yang, apakah dipikir matang atau tidak,

memengaruhi jalan pikiran dua miliar orang.

Orang-orang di Myanmar tidak punya kendali terhadap ini.

Mereka tidak bisa melaporkan bahwa berita bohong mengakibatkan genosida.

Mereka ada di Facebook setiap hari,

dan mereka melihat betapa berita bohong memperparah genosida,

tapi tidak punya cara untuk melaporkannya agar ditangani.

Kita harus sangat berhati-hati dengan apa yang kita ciptakan.

PEKERJAAN INI MERUSAK OTAK, MEMBUAT KITA MENGANGGAP KEKERASAN ITU BIASA.

MEMBUAT KITA MENGANGGAP MEMBUNUH DAN MELEDAKKAN ORANG ITU BIASA.

KITA MELIHAT ORANG TERKENA BOM DAN ANGGOTA BADANNYA BERSERAKAN

DAN KEPALA DAN KAKINYA BETERBANGAN.

SAYA BISA SAJA MELEWATI VIDEO SEPERTI INI,

TAPI KALAU KETAHUAN OLEH KENDALI MUTU, ITU TETAP DIANGGAP KESALAHAN.

SAYA HANYA BOLEH MELAKUKAN 3 KESALAHAN DALAM SATU BULAN.

Banyak foto yang pernah saya lihat,

saya tidak ingat lagi.

Beberapa video terukir dalam ingatan.

Mula-mula kami kira itu lelucon.

Kami tidak tahu apakah itu sungguhan.

Seseorang mau gantung diri dengan tali.

Itu live, bukan diunggah.

Betul-betul live, ditonton oleh banyak orang.

Mungkin ada ribuan.

Ada komentar seperti:

"Jangan lakukan itu, jangan gantung diri!"

"Jangan bunuh diri!"

Ada yang bergurau: "Ayo, lakukan saja! Cepatlah!"

Selama dia tidak bunuh diri,

kami tidak boleh menghentikan live streamnya.

Sebab kalau dihentikan, kami yang akan mendapat masalah.

Itu akan menjadi masalah mutu di pihak kami.

Waktu ...

Waktu dia naik ke atas kursi

dan memasang tali di lehernya,

kami mulai khawatir bahwa dia bersungguh-sungguh.

Lalu dia bunuh diri.

Dia menendang kursinya.

Dia ...

Dia meregang nyawa,

tapi lehernya sudah patah.

Kita jangan sampai terpengaruh oleh video-video itu.

Tapi reaksi orang berbeda-beda.

Ada orang yang tidak bisa lupa apa yang mereka lihat.

KAMI BERTEMAN BAIK.

SAYA MERASA KHAWATIR

WAKTU DIA TIDAK MASUK KERJA.

REKAN SATU TIM SAYA GANTUNG DIRI.

WAKTU SAYA KE RUMAHNYA,

SAYA MENEMUKANNYA SUDAH TERGANTUNG.

DIA SPESIALIS VIDEO LIVE,

DI MANA ORANG MENYAKITI DIRI SENDIRI.

INI AKIBAT BURUK DARI MODERASI KONTEN.

PIHAK PERUSAHAAN MENUTUP-NUTUPINYA.

Waktu saya di sana, pernah ada kasus bunuh diri.

Saya bertugas menangani dan mendiagnosis

semua masalah kesehatan mental.

Laki-laki yang bunuh diri itu bergabung di perusahaan sejak awal.

Waktu saya bicara dengannya, sorot matanya pilu.

Saya tanya apa saya bisa membantu, tapi dia tidak enggan mengaku

bahwa dia punya masalah.

Dia gantung diri, di rumahnya, di depan laptopnya,

dengan tali di leher.

Dengan laptop di hadapannya.

Saya kecewa, bahwa saya tidak bisa menolongnya.

Tiga kali dia menghubungi atasannya

dan minta dipindahkan.

Kalau dia sudah minta dipindahkan, manajemen seharusnya bertindak!

Bisa jadi itu teriakan minta tolong.

KITA BERIMAN KEPADA TUHAN

Kalau ada yang kita pentingkan dalam hidup kita,

Kita harus terus menyerahkan sebagian diri kita

dan berkorban untuk hal tersebut.

Saya berkorban, ya.

Pengorbanan itu selalu ada.

Dan akan selalu menjadi bagian dari hidup saya.

RITUAL JUMAT AGUNG DI DEKAT MANILA

Tugas saya adalah menghalau gambar yang mengandung dosa.

Sayalah yang mencegahnya.

Kita harus mencegah dosa

agar jangan menyebar di media sosial.

Saya berbeda dibandingkan dulu.

Sepertinya ada virus dalam diri saya,

yang pelan-pelan menembus otak saya,

dan tubuh saya bereaksi...

Saya setiap hari bekerja sebagai moderator konten.

Lalu saya berhenti.

Saya harus berhenti. Ada yang tidak benar di sini.

Suatu hari saya bertanya sendiri:

Untuk apa saya melakukan ini?

Hanya agar orang-orang merasa aman di dunia maya?

Padahal pekerjaan kita sehari-hari pun tidak aman untuk kita.

Kita memperbudak diri sendiri.

Kita jangan menganggap bahwa itu tidak apa-apa,

sebab nyatanya tidak begitu.

Kita harus menghadapi kenyataan.

Diperlukan keberanian untuk memilih harapan, bukan ketakutan.

Untuk berkata kita bisa menjadikan sesuatu lebih baik dari sebelumnya.

Kita harus optimistis untuk percaya bahwa kita bisa mengubah dunia.

Kita melakukan hal itu, koneksi demi koneksi.

Dengan inovasi demi inovasi.

Hari demi hari demi hari.

Karena itu saya merasa bahwa pekerjaan yang kita lakukan bersama

kini lebih penting dibandingkan kapan pun sebelumnya.

PENGAMBILAN GAMBAR DILAKUKAN DI SALAH SATU LANTAI TAKTERPAKAI DI KANTOR ASLI DI MANILA.

SEMUA MODERATOR KONTEN YANG TAMPIL TELAH BERHENTI SAAT PROGRAM DISIARKAN.

ADA JUGA YANG TERPAKSA ANONIM.

SEMUA CUPLIKAN DI DALAM FILM

BERASAL DARI KOMUNIKASI KAMI DENGAN MEREKA.

FACEBOOK, TWITTER, DAN YOUTUBE TIDAK MENANGGAPI PERMINTAAN WAWANCARA.

UCAPAN TERIMA KASIH KAMI TUJUKAN KEPADA PARA MODERATOR KONTEN

ATAS KEBERANIAN MEREKA BERBAGI CERITA DENGAN KITA.