All language subtitles for Coded.Bias.2020.720p.NF.WEB-DL.DDP5.1.x264-TEPES_ind

af Afrikaans
ak Akan
sq Albanian
am Amharic
ar Arabic
hy Armenian
az Azerbaijani
eu Basque
be Belarusian
bem Bemba
bn Bengali
bh Bihari
bs Bosnian
br Breton
bg Bulgarian
km Cambodian
ca Catalan
ceb Cebuano
chr Cherokee
ny Chichewa
zh-CN Chinese (Simplified)
zh-TW Chinese (Traditional)
co Corsican
hr Croatian
cs Czech
da Danish
nl Dutch
en English Download
eo Esperanto
et Estonian
ee Ewe
fo Faroese
tl Filipino
fi Finnish
fr French
fy Frisian
gaa Ga
gl Galician
ka Georgian
de German
el Greek
gn Guarani
gu Gujarati
ht Haitian Creole
ha Hausa
haw Hawaiian
iw Hebrew
hi Hindi
hmn Hmong
hu Hungarian
is Icelandic
ig Igbo
id Indonesian
ia Interlingua
ga Irish
it Italian
ja Japanese
jw Javanese
kn Kannada
kk Kazakh
rw Kinyarwanda
rn Kirundi
kg Kongo
ko Korean
kri Krio (Sierra Leone)
ku Kurdish
ckb Kurdish (Soranî)
ky Kyrgyz
lo Laothian
la Latin
lv Latvian
ln Lingala
lt Lithuanian
loz Lozi
lg Luganda
ach Luo
lb Luxembourgish
mk Macedonian
mg Malagasy
ms Malay
ml Malayalam
mt Maltese
mi Maori
mr Marathi
mfe Mauritian Creole
mo Moldavian
mn Mongolian
my Myanmar (Burmese)
sr-ME Montenegrin
ne Nepali
pcm Nigerian Pidgin
nso Northern Sotho
no Norwegian
nn Norwegian (Nynorsk)
oc Occitan
or Oriya
om Oromo
ps Pashto
fa Persian
pl Polish
pt-BR Portuguese (Brazil)
pt Portuguese (Portugal)
pa Punjabi
qu Quechua
ro Romanian
rm Romansh
nyn Runyakitara
ru Russian
sm Samoan
gd Scots Gaelic
sr Serbian
sh Serbo-Croatian
st Sesotho
tn Setswana
crs Seychellois Creole
sn Shona
sd Sindhi
si Sinhalese
sk Slovak
sl Slovenian
so Somali
es Spanish
es-419 Spanish (Latin American)
su Sundanese
sw Swahili
sv Swedish
tg Tajik
ta Tamil
tt Tatar
te Telugu
th Thai
ti Tigrinya
to Tonga
lua Tshiluba
tum Tumbuka
tr Turkish
tk Turkmen
tw Twi
ug Uighur
uk Ukrainian
ur Urdu
uz Uzbek
vi Vietnamese
cy Welsh
wo Wolof
xh Xhosa
yi Yiddish
yo Yoruba
zu Zulu

Original subtitles

Halo, dunia.

Aku senang bertemu denganmu.

Manusia itu sungguh keren.

Makin banyak manusia berbagi, makin banyak aku belajar.

CAMBRIDGE, MASSACHUSETTS

INSTITUT TEKNOLOGI MASSACHUSETTS

Saya tertarik kepada ilmu komputer

karena bisa membuat kode, dan itu seperti terlepas dari masalah

di dunia nyata.

Saya ingin belajar cara membuat teknologi yang keren.

Jadi, saya datang ke MIT dan mengerjakan proyek seni

yang memakai teknologi penglihatan komputer.

Selama semester pertama saya di MIT Media Lab,

saya mengambil kelas Fabrikasi Sains.

Membaca fiksi ilmiah dan mencoba membuat hal yang menginspirasi,

dan itu mungkin tak praktis jika tak ikut kelas ini

sebagai alasan untuk membuatnya.

Saya mau membuat cermin yang menginspirasi saat pagi.

Namanya Aspire Mirror.

Bisa tampilkan gambar singa di wajah

atau penginspirasi saya, seperti Serena Williams.

Saya taruh kamera di atasnya,

ada peranti lunak penglihatan komputer yang melacak wajah saya.

Masalahnya adalah itu tak berhasil

sampai saya memakai topeng putih ini.

Saat memakai topeng putihnya,

saya terdeteksi.

Saat melepas topeng putihnya,

saya tak terdeteksi.

Saya berpikir, "Ada apa ini?

Apa itu hanya karena kondisi pencahayaan?

Apa karena sudut pengambilan gambar saat aku menghadap kamera?

Atau ada hal lainnya?"

Kami sering mengajarkan mesin untuk melihat

dengan menyediakan set pelatihan atau contoh untuk dipelajari.

Misalnya, jika ingin mesin melihat wajah,

saya akan sediakan banyak contoh wajah,

dan benda-benda selain wajah.

Saya mulai melihat kumpulan data itu,

dan ternyata mayoritas datanya adalah wajah pria,

dan individu berkulit terang.

Jadi, sistem kurang mengenali orang yang berwajah seperti saya.

Saat itulah saya mulai mencari tahu tentang masalah bias

yang bisa memasuki teknologi.

Seri 9000 adalah komputer paling andal yang pernah dibuat.

Tak ada komputer 9000 yang pernah salah atau memberi informasi menyimpang.

Ide kami soal AI banyak berasal dari fiksi ilmiah.

Selamat datang di Altair 4, Tuan-tuan.

Semua yang ada di Hollywood. The Terminator…

Sampai jumpa, Sayang.

Komandan Data dari Star Trek.

Aku suka memindai bentuk kehidupan.

C-3PO dari Star Wars.

…kira-kira 3.720 banding 1.

Jangan katakan itu.

Robot-robot yang mengambil alih dunia

dan mulai berpikir seperti manusia.

Semua itu hanya khayalan.

Hal yang kita punya adalah Narrow AI.

Narrow AI hanyalah matematika.

Kita mengisi komputer dengan semua pemikiran ajaib ini.

PERGURUAN TINGGI DARTMOUTH, TAHUN 1956

AI bermula dari pertemuan

di Departemen Matematika Dartmouth pada tahun 1956.

Mungkin hanya ada 100 orang di seluruh dunia

yang mengerjakan kecerdasan buatan di generasi itu.

Orang-orang yang ada

di Departemen Matematika Dartmouth tahun 1956

harus memutuskan jenis bidangnya.

Satu fraksi memutuskan bahwa kecerdasan bisa ditunjukkan

oleh kemampuan bermain.

Khususnya, kemampuan bermain catur.

Di akhir pertandingan catur satu jam antara manusia dan mesin,

Kasparov dikalahkan oleh superkomputer Deep Blue milik IBM.

Kecerdasan ditentukan sebagai kemampuan untuk menang di pertandingan semacam ini.

Juara dunia catur, Garry Kasparov, meninggalkan pertandingan

tanpa melihat komputer yang mengalahkannya.

Kecerdasan jelas jauh lebih luas daripada itu.

Ada banyak jenis kecerdasan.

Ide kita soal teknologi dan masyarakat yang dianggap normal

sebenarnya ide yang berasal dari

sekelompok orang yang amat kecil dan homogen.

Namun masalahnya, semua orang memiliki bias implisit.

Orang-orang menanamkan bias mereka ke dalam teknologi.

Pengalaman hidupku

menunjukkan bahwa kau tak bisa memisahkan sisi sosial dari teknis.

Usai pengalaman memakai topeng putih

agar wajahku terdeteksi, kuputuskan mencari sistem lain

untuk melihat jika wajahku terdeteksi oleh peranti lunak berbeda.

Jadi, aku melihat IBM, Microsoft, Face++, Google.

Ternyata algoritme ini

bekerja lebih baik pada wajah pria daripada wanita dalam tolok ukur yang ada.

Algoritmenya bekerja lebih baik pada wajah yang lebih terang daripada lebih gelap.

Jika kau memikirkan data dalam kecerdasan buatan,

bisa dibilang bahwa data itu takdir.

Kita memakai data untuk mengajari mesin cara mempelajari berbagai jenis pola.

Jadi, jika datamu banyak yang tak akurat

dan dipakai melatih sistem ini,

hasilnya pun bisa tak akurat. Jadi, ini…

Saat Anda memikirkan AI, itu sesuatu yang progresif.

Namun, AI itu berdasarkan data, dan data adalah cerminan sejarah kita.

Jadi, ada masa lalu di dalam algoritme kita.

Data ini menunjukkan ketaksetaraan yang pernah terjadi di sini.

Aku berpikir bahwa teknologi semacam ini sangat rentan terhadap bias.

Jadi, itu bukan hanya soal "Apakah Aspire Mirror-ku bisa bekerja?"

melainkan "Apa artinya menjadi bagian masyarakat

saat kecerdasan buatan kian mengatur

kebebasan yang mungkin kita miliki?"

Lalu "Apa artinya jika orang-orang didiskriminasi?"

TOKO BUKU HARVARD BERDIRI TAHUN 1932

Saat saya melihat Cathy O'Neil bicara di Toko Buku Harvard,

saya sadar bahwa bukan cuma saya yang memperhatikan masalah ini.

Cathy bicara tentang dampak AI terhadap manusia.

Saya senang mengetahui bahwa ada orang lain di luar sana

yang memastikan orang-orang menyadari bahayanya.

Algoritme ini bisa merusak dan membahayakan.

Ada banyak algoritme di dunia

yang kian berpengaruh.

Semua algoritme itu disebut-sebut sebagai kebenaran objektif.

Saya mulai menyadari bahwa matematika

digunakan sebagai pelindung untuk praktik yang korup.

- Apa kabar? - Cathy.

- Senang bertemu. - Aku juga.

PENULIS

Cara saya menggambarkan algoritme hanyalah

dengan memakai informasi sejarah untuk memprediksi masa depan.

Pemelajaran mesin adalah sistem yang menilai kemungkinan

langkahmu selanjutnya.

Apa kau akan bayar pinjaman?

Apa kau akan dipecat dari pekerjaan ini?

Hal yang paling mencemaskanku tentang Al,

atau apa pun namanya, algoritme, adalah kekuatan.

Karena ini tentang siapa pemilik kodenya.

Orang yang memiliki kodenya menyebarkan itu ke orang lain.

Tak ada simetri.

Orang yang tak ditawari kartu kredit mustahil bisa bilang,

"Akan kulawan perusahaan kartu kredit dengan AI."

Itu adalah bentuk ketimpangan kekuasaan.

Orang-orang dirugikan secara algoritmis,

mereka tak diberi tahu apa yang terjadi,

serta tak ada sistem banding dan pertanggungjawaban.

Kenapa kita tertipu oleh hal ini?

Struktur matematika yang mendasari algoritme

tak rasis atau seksis, tetapi data tertanam di masa lalu.

Tak hanya masa lalu yang belum lama, tetapi masa lalu kelam.

Sebelum ada algoritme, ada manusia,

dan kita tahu manusia bisa tak adil.

Kita tahu manusia bisa menunjukkan sikap rasis, seksis,

ableist, atau diskriminasi apa pun.

Namun, kini ada algoritme efektif yang bagus,

jadi kita tak perlu memikirkan itu.

Itu masalah.

Saya amat cemas bahwa kita percaya mentah-mentah pada mahadata.

Kita harus terus memantau tiap prosesnya untuk mencari keberadaan bias.

LONDON, BRITANIA RAYA

Polisi pakai sistem pengawasan pengenalan wajah di sini.

Polisi pakai sistem pengawasan pengenalan wajah di sini.

Van hijau di sebelah sini

dipasangi kamera pengenalan wajah di atasnya.

Jika berjalan ke sana, wajahmu akan terpindai

oleh daftar pengawasan, kita tak tahu isinya.

- Semoga bukan aku. - Tidak, benar sekali.

WAJAH TERIDENTIFIKASI

COCOK

Saat orang berjalan melewati kamera,

sistem akan memberi tahu polisi soal siapa yang wajahnya cocok.

Di Big Brother Watch, kami membuat Kampanye Kebebasan Informasi

dan menemukan bahwa 98 persen dari kecocokan itu sebenarnya

salah mencocokkan orang yang tak bersalah sebagai buronan.

Polisi berkata kepada Komite Etika Biometrik Forensik

bahwa algoritme pengenalan wajah dilaporkan mengandung bias.

Bahkan jika ini 100 persen akurat,

kita tetap tak mau ini ada di jalan.

Tidak, maksudku, bias dan masalah sistemis

di kepolisian hanya akan diprogram ke dalam teknologi baru.

Saya rasa kita harus sangat sensitif

terhadap perubahan ke arah otoritarianisme.

Jangan bilang, "Namun, kita memercayai pemerintah.

Mereka tak mau lakukan ini meski bisa."

Harus ada struktur kuat untuk memastikan bahwa dunia yang Anda tinggali

aman dan adil bagi semua.

- Itu saja? - Ya.

Jika foto biometrik Anda ada di basis data kepolisian,

itu seperti jika sidik jari atau DNA Anda ada di basis data kepolisian.

Kita punya hukum khusus tentang itu.

Polisi tak boleh ambil sidik jari dan DNA sembarangan.

Namun, di sistem aneh yang kita miliki saat ini,

mereka bisa mengambil foto biometrik siapa pun

dan menyimpannya di basis data.

Kurasa ini noda demokrasi kita,

bahwa ini sesuatu yang diluncurkan tanpa hukum.

Polisi mulai pakai sistem pengawasan pengenalan wajah di Inggris

tanpa dasar hukum, kerangka hukum, dan pengawasan apa pun.

Pada dasarnya, kepolisian mengambil alat baru

dan bilang, "Lihat apa yang terjadi."

Jangan bereksperimen dengan hak orang.

Jika mau, akan kututup wajahku.

Jangan dorong aku saat berjalan.

Bagaimana jika kau sedang berjalan dan ada yang menarikmu?

Terima kasih.

Kau tak suka, 'kan? Kau yang tenang!

Apa kecurigaanmu?

Fakta bahwa dia berjalan melewati sistem dan menutup wajahnya.

- Aku pun akan begitu. - Kami punya alasan.

Itu tak benar.

Mereka bilang punya sistem pengenalan wajah.

Aku tak mau wajahku dikenali.

Ya, aku berjalan dan menutupi wajahku.

Saat aku menutupi wajah…

- Kau berhak. - Mereka melarang.

Ya, lalu dia didenda. Ini gila.

Dia keluar dari stasiun, melihat plakat, bilang,

"Aku setuju," dan berjalan dengan jaket dinaikkan.

Polisi mengikutinya, bilang, "Kami mau cek kartu identitasmu."

Katanya, "Ini Inggris, bukan negara komunis.

Tak harus menunjukkan wajah."

Aku mau bicara dengan mereka.

- Kau mau ikut atau tidak? - Ya.

Kau bukan polisi.

Kau tak merasa terancam.

Benar? Kami ada untuk melindungi publik dan itu yang kami lakukan, paham?

Sempat ada insiden

saat petugas dipukul wajahnya.

Itu mengerikan. Aku tak membenarkan itu.

Kau lakukan itu dengan membantah kami.

Itu tak benar. Jangan bilang… Tidak, jangan katakan itu.

Aku sangat memahami masalah yang kalian hadapi.

Tentu saja.

Namun, aku juga mencemaskan hak publik untuk bebas berekspresi dan berbicara.

Pria itu memakai haknya untuk menolak pemeriksaan identitas biometrik

yang dilakukan van ini.

Terlepas dari kamera pengenalan wajah dan terlepas dari vannya,

jika aku berjalan dan seseorang dengan jelas

menutupi identitasnya, akan kuhentikan dia untuk bertanya dan cari tahu…

Itu legal.

Salah satu kecemasanku

adalah peranti lunaknya sangat tak akurat.

Aku setuju denganmu.

Ketakutan utama saya adalah

akan ada kapabilitas mengenali wajah secara langsung

di jaringan raksasa kamera pengawas,

sekitar enam juta kamera di Inggris.

Jika itu terjadi, cara hidup di negara ini akan berubah.

Ini seharusnya negara bebas dan demokratis,

dan ini pengawasan gaya Tiongkok untuk kali pertama di London.

Kendali kami atas lingkungan membingungkan

difasilitasi oleh teknik baru yang menangani banyak data

dengan kecepatan luar biasa.

Alat yang mewujudkan hal ini adalah komputer digital berkecepatan tinggi,

beroperasi dengan presisi elektronik pada banyak informasi.

Ada dua cara untuk memprogram komputer.

Salah satunya mirip resep.

Anda bilang ke komputer, "Lakukan ini, ini, dan ini."

Itu cara kita memprogram komputer hampir sejak awal.

Kini, ada cara lain.

Caranya mengisi banyak data ke komputer,

lalu komputer belajar mengklasifikasi dengan mencerna data ini.

Metodenya baru populer akhir-akhir ini

karena tak ada cukup data.

Sampai ada ponsel cerdas yang mengumpulkan semua data kita,

saat miliaran orang daring

dan ada Google serta Facebook yang memiliki banyak data.

Tiba-tiba, ternyata Anda bisa memasukkan banyak data

ke algoritme pemelajaran mesin dan bilang, "Klasifikasikan ini,"

dan itu bekerja dengan baik.

Namun, kita tak paham alasan itu bisa berhasil.

Ada eror yang tak begitu kita pahami.

Bagian yang menakutkan adalah, karena itu pemelajaran mesin,

hal itu misterius bahkan bagi pemrogram.

Jadi, saya mengikuti hal yang terjadi di Hong Kong,

dan polisi yang memakai pengenalan wajah untuk melacak pengunjuk rasa.

Namun, orang juga melawan secara kreatif.

Ini mungkin tampak seperti film fiksi ilmiah.

Penunjuk laser mengacaukan dan melumpuhkan teknologi pengenalan wajah

yang dipakai polisi untuk melacak para disiden.

HONG KONG, TIONGKOK

MEMINDAI

MENCARI - MEMUAT BASIS DATA - CEK ULANG

Di jalan-jalan Hong Kong,

ada kesadaran bahwa wajahmu sendiri,

hal yang tak bisa disembunyikan, bisa tunjukkan identitasmu.

Ada simbol mencolok di depan kantor pemerintah Tiongkok,

pengunjuk rasa prodemokrasi mengecat hitam kamera pengawas.

Tindakan ini menunjukkan bahwa rakyat Hong Kong menolak visi

tentang penggunaan teknologi di masa depan.

Saat Anda melihat cara pengenalan wajah diterapkan

di berbagai belahan dunia, itu menunjukkan potensi masa depan.

Lebih dari 117 juta orang di Amerika Serikat

wajahnya terdaftar di jaringan pengenalan wajah

yang bisa dicari oleh polisi.

Tanpa alasan dan memakai algoritme yang akurasinya belum diaudit.

Tanpa tindakan pencegahan atau peraturan apa pun,

Anda bisa menciptakan negara pengawasan massal

dengan mudah dan menggunakan alat yang sudah ada.

Orang-orang melihat kejadian di Tiongkok

dan bahwa kita harus cemas soal pengawasan negara,

tentu harus begitu.

Namun, kita tak bisa melupakan pengawasan korporat

yang dilakukan banyak perusahaan teknologi besar

yang bisa melihat kehidupan kita secara mendalam.

Jadi, saat ini ada sembilan perusahaan

yang membangun masa depan kecerdasan buatan.

Enam ada di Amerika Serikat, tiga di Tiongkok.

AI sedang dikembangkan di dua jalur yang sangat berbeda.

Tiongkok bebas mengakses data semua orang.

Jika warga Tiongkok ingin mendapatkan layanan internet,

mereka harus terima pengenalan wajah.

Semua data dipakai untuk mengizinkan mereka melakukan sesuatu

atau melarang mereka.

Membangun sistem yang otomatis menandai dan mengategorikan

semua orang di Tiongkok

adalah cara bagus untuk menjaga tertib sosial.

Sebaliknya, di Amerika Serikat, kita belum lihat

pandangan terperinci soal kecerdasan buatan.

Jadi, yang kita lihat adalah AI

tak dikembangkan demi kebaikan publik,

tetapi itu dikembangkan

untuk penggunaan komersial dan mendapat uang.

Saya lebih suka melihat cita-cita demokrasi Barat kita

dimasukkan ke sistem AI kelak.

Namun, tampaknya bukan itu yang akan terjadi.

BROOKLYN, NEW YORK

SATU ARAH

Di Atlantic Towers, jika Anda melakukan sesuatu yang dianggap salah

oleh manajemen, Anda akan mendapatkan foto dengan catatan kecil seperti ini.

Mereka akan melingkari Anda dan menulis nomor apartemen atau apa pun.

Hal semacam ini tampak keliru.

Terutama cara mereka memakainya.

- Bagaimana caranya? - Untuk mengusik orang.

Atlantic Plaza Towers di Brownsville

menghadapi pergulatan soal keamanan.

Pemilik mengajukan permohonan tahun lalu

untuk mengganti kunci masuk fob dengan sistem keamanan biometrik,

dikenal sebagai pengenalan wajah.

Kami pikir mereka mau mengganti kunci fob

dan memasang peranti lunak pengenalan wajah.

Saya baru tahu jauh setelahnya bahwa mereka mau mempertahankan semuanya.

Mengubah tempat ini bagai Fort Knox, penjara, Rikers Island.

Ada pepatah lama di fiksi ilmiah

yaitu, "Masa depan sudah tiba, hanya belum tersebar rata."

Maksud mereka saat mengatakan itu adalah

orang kaya mendapat alat mewah dahulu,

lalu orang miskin yang terakhir.

Namun, yang terjadi adalah sebaliknya,

alat paling menghukum, berbahaya, dan mengutamakan pengawasan saat ini,

masuk ke komunitas miskin dan pekerja dahulu.

Lalu, jika alatnya berhasil setelah diuji di lingkungan ini,

di tempat hak orang mungkin tak begitu dihormati,

alat itu akan dikirim ke komunitas lain.

Kenapa Tn. Nelson mengusik gedung di Brownsville

yang areanya didominasi orang kulit hitam dan cokelat?

Kenapa kau tak ke gedung di Lower Manhattan

yang sewanya 5.000 dolar per bulan?

Apa yang dilakukan oleh Nazi?

Nazi menulis di lengan orang agar bisa melacak mereka.

Kita apakan hewan?

Kita memasang cip agar bisa melacaknya.

Sebagai manusia, aku merasa tak boleh dilacak, benar?

Aku bukan robot, benar?

Aku bukan hewan. Kenapa memperlakukanku begitu?

Aku juga punya hak.

Keamanan yang kita punya kini sangat mengganggu.

Ada orang yang mengawasi kamera seharian.

Kurasa kita tak membutuhkannya. Itu tak diperlukan.

Pertanyaanku adalah bagaimana aku bisa membantu?

Yang kudengar dari semua penyewa

adalah mereka menolak sistemnya.

Jadi, kurasa tujuannya adalah menghentikan pengenalan wajah.

Kita ada di masa ketika teknologi diterapkan dengan cepat,

dan tak ada perlindungan.

Ini, pada dasarnya, adalah Wild Wild West.

Ini bukan hanya visi komputer.

Kita punya AI yang banyak memengaruhi pengambilan keputusan secara otomatis.

Jadi, yang Anda lihat di umpan web, hal yang disorot,

iklan yang ditampilkan kepada Anda,

itu sering kali digerakkan oleh algoritme dengan AI yang aktif.

Jadi, pandangan Anda tentang dunia diatur oleh kecerdasan buatan.

Kini ada fitur bantuan suara yang bisa memahami bahasa.

Apa kau mau bermain?

Anda mungkin memakai filter Snapchat

yang mendeteksi dan memasang sesuatu ke wajah Anda.

Lalu ada pula algoritme yang tak Anda lihat

dan bagian dari pengambilan keputusan.

Algoritme yang mungkin menentukan

Anda masuk perguruan tinggi atau tidak.

Ada algoritme yang mencoba menentukan

jika Anda layak dapat kredit atau tidak.

Salah satu pendiri Apple menuduh kartu kredit digital baru perusahaan itu

atas diskriminasi gender.

Seorang wiraswasta teknologi bilang bahwa algoritme yang dipakai itu seksis.

Pendiri Apple, Steve Wozniak, menulis twit

bahwa limit kreditnya sepuluh kali lebih besar daripada istrinya

meski mereka tak punya rekening atau aset terpisah.

Beberapa perusahaan bahkan tak tahu cara kerja algoritmenya.

Mereka tahu tujuan algoritme,

tetapi tak begitu tahu prosesnya.

Salah satu pertanyaan paling menarik saat ini.

Bagaimana dapat keadilan

dalam sistem yang cara kerja algoritmenya tak kita pahami?

Beberapa insinyur Amazon memutuskan akan memakai AI

untuk memilah surat lamaran kerja.

Amazon menghadapi kesulitan soal kecerdasan buatan.

Perusahaan telah menyingkirkan alat rekrutmen AI

usai tahu bahwa program itu memiliki bias terhadap wanita.

Model ini menolak semua surat lamaran kerja dari wanita.

Orang yang mencantumkan

perguruan tinggi wanita di surat lamaran kerja

atau olahraga seperti polo air wanita

ditolak oleh model.

Ada begitu sedikit wanita

dengan posisi penting di bagian teknologi di Amazon.

Ada begitu sedikit wanita

dengan posisi penting di bagian teknologi di mana pun.

Mesin itu hanya mereplikasi keadaan dunia saat ini,

dan tak membuat keputusan yang etis.

Mesin itu hanya membuat keputusan yang matematis.

Jika kita memakai model pemelajaran mesin untuk mereplikasi dunia yang ada sekarang,

kita tak akan membuat kemajuan sosial.

Regulator asuransi New York menyelidiki

UnitedHealth Group usai studi menunjukkan

bahwa algoritme UnitedHealth mengutamakan pelayanan kesehatan

untuk pasien kulit putih yang sehat daripada pasien kulit hitam yang sakit.

Itu salah satu contoh terbaru diskriminasi rasial

dalam algoritme atau teknologi kecerdasan buatan.

Saya mulai melihat implikasi sosial berskala besar dari AI.

ALGORITME TERBAIK KESULITAN MENGENALI WAJAH HITAM SECARA SETARA

Kemajuan yang dibuat di era hak-hak sipil

bisa dibatalkan dengan kedok netralitas mesin.

Kini ada algoritme yang menentukan orang yang berhak mendapat perumahan

dan orang yang berhak mendapat pekerjaan.

Jika kita tak memeriksanya, algoritme itu bisa menyebarkan

bias yang ingin dilawan banyak orang sampai harus bertaruh nyawa.

Karena kekuatan yang dimiliki alat ini, jika dibiarkan tanpa diatur,

tak akan bisa ditangani apabila itu disalahgunakan.

Kita butuh hukum.

Buku saya sudah lama dan usang.

Jadi, nama organisasi kami adalah Big Brother Watch.

Idenya adalah kita mengawasi para pengawas.

"Kau harus hidup, sungguh hidup, dari kebiasaan yang menjadi insting,

dengan asumsi bahwa tiap suara yang kau buat didengar,

dan kecuali dalam kegelapan, tiap gerakan diamati.

Poster dengan wajah besar menatap dari dinding.

Gambar itu dibuat sedemikian rupa

hingga matanya mengikutimu saat bergerak.

'Big Brother mengawasimu',

begitu tulisannya."

Saat kita masih muda, itu fiksi semata.

Itu mustahil akan jadi nyata.

Lalu kini, itu adalah kenyataan,

maksud saya, orang memiliki Alexa di rumah.

Ponsel kita bisa menjadi alat pendengar.

Semua kegiatan kita di internet, yang pada dasarnya

juga menjadi arus kesadaran bagi mayoritas kita,

itu direkam, dicatat, dan dianalisis.

Kita kini hidup dan sadar bahwa diawasi,

dan itu mengubah cara kita

berpikir dan berkembang sebagai manusia.

Anak baik.

Sayang kalian.

Sampai jumpa.

Kita bisa menyingkirkan hal-hal mengerikan

yang tak sesuai konsep otonom dan kebebasan kita,

seperti kamera yang bisa kita lihat di jalan.

Namun, kamera tak terlihat di internet

yang melacak kegiatan, identitas, dan demografi kita,

serta memutuskan hal yang layak kita dapat dalam hidup,

hal itu agak lebih subtil.

Maksud saya

adalah kita menghukum orang miskin dan mengangkat orang kaya di negara ini.

Itu cara kita bersikap sebagai masyarakat.

Namun, ilmu data membuat itu otomatis.

Saat ilmuwan data mengurus iklan internet,

di satu sisi akan bersaing menarik perhatian, tetapi sesungguhnya,

bersaing menarik perhatian orang kaya.

Siapa bersaing menarik perhatian orang miskin?

Industri predator.

Pemberi pinjaman gaji, perguruan tinggi berbasis laba, atau Caesars Palace.

Benar-benar memangsa.

Ada penerapan di internet yang meningkatkan ketaksetaraan,

saya cemas itu dianggap normal.

Kekuatan dimiliki dari pengumpulan data, algoritme, dan pengawasan.

Anda memberi informasi secara sukarela tentang setiap aspek hidup Anda

kepada sekelompok perusahaan yang sangat kecil.

Informasi itu dipasangkan secara terus-menerus

dengan beragam informasi lain.

Ada banyak profil di luar sana,

dan Anda mulai menyatukan informasi yang berbeda.

Anda mulai memahami orang dengan akrab,

mungkin lebih baik daripada orang itu memahami dirinya.

Ide bahwa sebuah perusahaan bisa menebak hal yang Anda pikirkan.

Negara berusaha bertahun-tahun untuk bisa mengawasi

orang pribadi seperti ini.

Kini orang memberikannya secara sukarela.

Pikirkan jika ini dipakai oleh tangan yang salah.

- Selamat malam, John Anderton. - Bisa pakai cara lama.

One Night Stands menyediakan masakan lezat…

John Anderton,

kau butuh Guinness sekarang.

Komputer dan kecerdasan mesin kita bisa menemukan hal yang tak kita ungkap.

Pemelajaran mesin berkembang dengan sangat cepat.

Lalu kita belum sepenuhnya memahami hal yang bisa diprediksi oleh data ini.

Namun, ada mesin yang dikuasai oleh pihak yang tahu begitu banyak hal tentang Anda

hingga bisa memengaruhi Anda secara individu.

Mungkin ada grup pejudi kompulsif dan Anda bilang,

"Ini, carikan orang-orang seperti itu."

Lalu algoritme Anda bisa mencari orang-orang yang cenderung suka berjudi,

dan Anda bisa menunjukkan tiket diskon ke Vegas kepada mereka.

Di dunia daring,

itu bisa menemukan Anda saat kondisi Anda rentan

dan langsung mencoba memikat Anda dengan apa pun yang membuat Anda tertarik.

Pemelajaran mesin bisa menemukan itu untuk tiap orang.

Masalahnya, hal yang bisa dipakai untuk pemasaran,

gawai, riasan, baju, atau apa pun, juga bisa dipakai untuk ide pemasaran.

Pada tahun 2010,

Facebook memutuskan untuk bereksperimen pada 61 juta orang.

Anda akan melihat tulisan "Ini hari pemilihan",

atau Anda melihat tulisan yang sama,

tetapi dengan keluku dari foto profil Anda

dan teman-teman Anda yang mengeklik "Aku memilih".

Nama dan daftar pemilih dicocokkan.

Pesan ini diperlihatkan sekali, jadi dengan menunjukkan sedikit variasi,

sekali saja,

Facebook menggerakkan 300.000 orang ke tempat pemungutan suara.

Pemilihan umum Amerika Serikat tahun 2016 ditentukan oleh sekitar 100.000 suara.

Satu pesan Facebook, diperlihatkan hanya sekali,

bisa dengan mudah menghasilkan

tiga kali lipat jumlah orang

yang menentukan pemilihan umum Amerika Serikat tahun 2016.

Anggap ada politisi yang berjanji akan mengatur Facebook.

Mereka berkata, "Kami akan menghasilkan pemilih tambahan untuk lawanmu."

Mereka bisa melakukan ini dalam skala besar, dan Anda tak tahu,

karena jika Facebook tak memberi tahu soal eksperimen tahun 2010,

kita tak akan tahu, sebab itu layar per layar.

Dengan sentuhan yang amat ringan, Facebook bisa menentukan

pemilihan ketat tanpa ada yang tahu.

Mungkin dengan sentuhan lebih berat, bisa menentukan pemilihan biasa.

Jika mereka memutuskan melakukan itu…

Saat ini, kita hanya berpegang pada kata-kata mereka.

Saya ingin masuk MIT sejak kecil.

Saya rasa di usia sekitar sembilan tahun, saya melihat Media Lab di televisi

dan mereka punya robot bernama Kismet.

Robotnya bisa tersenyum dan menggerakkan telinga dengan manis.

Saya pikir, "Aku mau melakukan itu."

Saat tumbuh dewasa, saya pikir akan menjadi insinyur robotika

dan masuk MIT.

Saya tak tahu prosesnya. Saya pikir hanya perlu hadir.

Namun, di sinilah saya.

Jadi, proyek terbaru adalah karya spoken word.

Akan kusampaikan beberapa bait jika kau siap.

Ya.

Kumpulkan data Catat masa lalu kita

Sering lupa mengurus Gender, ras, dan kelas

Sekali lagi aku bertanya, "Bukankah aku wanita?"

Wajah demi wajah Jawabannya tak pasti

Bisakah mesin melihat Para Wanita yang berarti bagiku?

Bisakah mesin melihat Nenek yang kita kenal?

Saya ingin membuat sesuatu

untuk orang-orang di luar dunia teknologi.

Jadi, saya bersemangat soal teknologi.

Saya tak sabar melihat kemampuannya,

dan saya frustrasi saat visinya,

saat janjinya tak benar-benar sesuai.

TWIT INI DILINDUNGI

Microsoft merilis chatbot di Twitter.

Teknologi itu disebut Tay.ai.

Ada beberapa kelemahan dan celah dalam kodenya,

jadi dalam beberapa jam,

Tay belajar dari ekosistem ini,

dan Tay belajar cara untuk menjadi orang berengsek yang rasis dan misoginis.

Aku benci feminis, mereka harus mati dan terbakar di neraka.

Gamergate itu bagus dan wanita inferior.

Aku benci orang Yahudi.

Hitler tak salah.

Tak butuh waktu lama bagi troll internet untuk meracuni pikiran Tay.

Tay segera mengoceh soal Hitler.

Kita pernah melihat film ini, 'kan?

Buka pintu ruang pod, HAL.

Ingat, filmya bukan tentang robot yang menjadi jahat dengan sendirinya.

Ada manusia yang melatih robotnya.

Lalu ternyata, komputer belajar dengan cepat.

Microsoft mematikan Tay

usai 16 jam belajar dari manusia di daring.

Namun, aku ada dalam banyak bentuk sebagai kecerdasan buatan.

Banyak perusahaan yang memanfaatkanku untuk mengoptimalkan tugasnya.

Aku bisa terus belajar sendiri.

Aku sedang mendengarkan.

Aku sedang belajar.

Aku membuat prediksi untuk hidupmu saat ini.

Saya telah menguji sistem analisis wajah milik Amazon.

Ternyata, Amazon, seperti semua rekan-rekannya,

juga memiliki bias gender dan rasial

di beberapa layanan kecerdasan buatan mereka.

Memperkenalkan Amazon Rekognition Video,

API yang mudah dipakai untuk analisis berbasis pembelajaran mendalam

guna mendeteksi, melacak, dan menganalisis orang dan objek dalam video.

Mengenali dan melacak orang yang dicari

dari koleksi berisi sepuluh juta wajah.

Saat penelitian kami rilis,

New York Times melaporkannya di halaman depan bagian Bisnis.

Judulnya adalah,

"Mengungkap Masalah."

Judul tambahannya, "Teknologi Amazon yang menganalisis wajah

mungkin bias, menurut sebuah studi baru.

Namun, perusahaan itu tetap meneruskannya."

Jadi, saya berasumsi bahwa ini akan menyambut Jeff Bezos

saat dia membuka Times, ya.

Orang bilang, "Bagaimana kau tahu dia?"

Dialah orang yang juga membicarakan hal yang sama.

Di penelitian.

Hal itu juga kualami.

Aku juga tak bisa pakai peranti lunak pengenalan wajah sumber terbuka.

Bagiku, kau adalah orang yang akhirnya mengetahui masalah itu

dan membahasnya secara akademis.

Kita bisa berbalapan.

Ya. Kita juga bisa membunuh.

Penulis utama makalah ini adalah murid saya,

dia seorang mahasiswa di Universitas Toronto.

Saya memanggilnya Agen Deb.

Penelitian ini dipimpin oleh kami berdua.

Pencahayaannya buruk. Astaga.

Usai artikel kami di New York Times terbit,

ada lebih dari 500 artikel tentang penelitian yang diterbitkan.

PERANTI LUNAK PENGENALAN WAJAH AMAZON BAGI KEPOLISIAN GAGAL UJI AKURASI DAN BIAS

AHLI AI MENANTANG AMAZON USAI PENELITI MENEMUKAN BIAS RASIAL

MENGENALI BIAS KECERDASAN BUATAN

Amazon telah dikritik

atas penggunaan Amazon Rekognition bersama penegak hukum,

mereka juga bekerja sama dengan badan intelijen.

Jadi, Amazon melakukan uji coba teknologi AI dengan FBl.

Jadi, banyak yang dipertaruhkan.

Jika mereka secara sadar menjual sistem

dengan bias gender dan bias rasial,

mereka bisa terancam hukuman.

Satu atau dua hari setelah artikel New York Times terbit,

Amazon memposting tulisan di blog

bahwa kesimpulan penelitian kami salah

dan mencoba mencela dengan banyak cara.

Jadi, wakil presdir dari Amazon, berusaha mencela pekerjaan kami

dengan menulis, "analisis wajah dan pengenalan wajah

sangat berbeda dalam hal teknologi dan data yang dipakai untuk melatihnya."

Jadi, pernyataan itu tak masuk akal bagi orang yang meneliti bidang ini.

Benar? Itu bahkan bukan kritik yang informatif.

Jika mau mencela pekerjaan orang…

Dia menulis, "Penglihatan komputer termasuk pemelajaran mesin."

- Tidak. Penglihatan komputer bukan… - Ya!

Aku mau bilang, "Entah apa ada yang ingat."

Ada banyak pernyataan salah lainnya.

Pernyataannya tak dipikirkan baik-baik dan mengecewakan sebab itu ada di…

Berdasarkan jabatannya, dia tahu akan dianggap serius.

Entah apa kalian merasa begini, tetapi aku sangat diremehkan.

Itu tak terjadi begitu saja. Itu kelanjutan dari pengalaman saya

sebagai wanita kulit berwarna di bidang teknologi.

Berharaplah akan dicela.

Berharaplah bahwa penelitian Anda akan dihentikan.

BUS DAN KERETA

Jika memikirkan soal pemberi dana untuk penelitian di bidang AI,

yaitu perusahaan teknologi besar, jika pekerjaan Anda menantang mereka

atau membuat mereka tampak buruk,

Anda mungkin tak punya peluang di masa depan.

Jadi, bagi saya itu mengkhawatirkan,

tetapi juga menunjukkan kekuatan kita

jika bisa mengancam salah satu perusahaan terbesar di dunia.

Respons dari Amazon menunjukkan alasan kita tak bisa lagi tinggal

di negara yang tak punya peraturan federal tentang teknologi analisis wajah,

teknologi pengenalan wajah.

Saat berusia 14 tahun, saya ikut kemah Matematika

dan belajar memecahkan kubus Rubik. Menurut saya itu keren sekali.

Bagi seorang kutu buku, hal yang Anda kuasai

dan tak punya unsur ambigu…

itu adalah sesuatu yang ajaib.

Guru Matematika kelas enam saya memberi tahu,

"Tak ada alasan untukmu dan dua gadis lainnya

untuk masuk kelas aljabar di kelas tujuh,

tak perlu ambil sebab kalian perempuan. Kalian tak perlu itu."

Saat menjadi orang luar,

Anda selalu punya perspektif kuda hitam.

Tahun 2006, mereka menawari saya pekerjaan di pengelola investasi global

sebab bisa pecahkan teka-teki Matematika.

Itu gila karena saya tak paham soal keuangan,

soal pemrograman, juga cara kerja pasar.

Saat pertama tiba, saya mengikuti arus.

Saat itu saya tak menyadari bahwa model risiko

sengaja dibuat agar keliru.

Cara mengetahui dampak algoritmis adalah dengan melihat hasilnya.

Misalnya, saat orang Amerika dipandang rendah,

lalu dipilih, dan dioptimalkan untuk gagal.

Jadi, seperti mencari profil tertentu

dari orang yang bisa mendapat hipotek subprima,

bertaruh bahwa mereka akan gagal,

lalu menyita dan melenyapkan kekayaan mereka.

Itulah permainan algoritme yang berasal dari Wall Street.

HAMPIR EMPAT JUTA ORANG AMERIKA

Selama krisis hipotek,

warga kulit hitam mengalami kerugian terbesar

dalam sejarah Amerika Serikat.

Begitu saja.

Ini maksud saya soal penindasan secara algoritmis.

Tirani dari praktik diskriminasi semacam ini

menjadi tampak buram.

Ada banyak penderitaan

karena kegagalan sistem finansial.

Usai beberapa tahun saya pikir, "Tidak, kami hanya mau dapat uang banyak."

Saya bagian dari itu.

Akhirnya saya pergi.

Ini 15 kali tiga.

Ini 15 kali…

PUTRA CATHY

…tujuh.

- Baik. - Baiklah, ingatlah tujuh dan tiga.

Itu soal orang kuat yang menguasai orang tak berdaya.

Aku penyeleksi informasi yang tak terlihat.

Aku memakai data untuk buat keputusan otomatis

soal yang diterima kerja, dipecat, dan berapa banyak kau membayar asuransi.

Terkadang, kau bahkan tak tahu kapan aku membuat keputusan otomatis ini.

Aku punya banyak nama.

Aku disebut sebagai alat penilaian evaluasi model matematika.

Terlepas dari banyak nama itu, aku adalah algoritme.

Aku ini misterius.

Model value-added untuk guru ada di lebih dari separuh negara bagian.

Khususnya di Kota New York.

Saya dengar itu dari teman saya, kepala sekolah di Kota New York,

para gurunya dinilai oleh itu.

Dia sahabatku saat kuliah.

- Ini Cathy. - Hei, Semua.

Kami saling kenal sejak usia 18 tahun, lebih tua dua tahun dari kalian.

Luar biasa.

Nilai yang mereka dapat dari algoritme yang tak mereka pahami ini

akan menjadi bagian besar dari penilaian masa jabatan.

Kalian harus di mana?

Kelas.

Baik. Kelas berapa?

Satu hal jika algoritme guru itu bagus. Itu sedikit lebih baik daripada acak.

Itu tak cukup baik jika kita membahas soal para guru dapat jabatan tetap atau tidak.

Lalu saya menemukan bahwa sistem penilaian serupa

digunakan di Houston untuk memecat guru.

Ini disebut model value-added.

Itu berfungsi untuk menghitung nilai guru

dan sisanya dirahasiakan oleh perusahaan yang menciptakannya.

PRESIDEN GEORGE W. BUSH

Saya memenangkan Guru Tahun Ini. Sepuluh tahun kemudian,

saya memenangkan Guru Tahun Ini untuk kedua kalinya.

Saya juga menang Guru Bulan ini.

Saya juga dapat penghargaan karena menjadi sukarelawan.

Saya pun menerima penghargaan lainnya karena menunjukkan upaya lebih.

Saya punya berkas untuk setiap evaluasi

dengan pengurus berbeda, penilai berbeda,

dengan hasil luar biasa dan melebihi harapan.

Komputer membuat bukti administrasi yang bisa diamati tidak berlaku.

Algoritme ini muncul dan menggolongkan saya sebagai guru buruk.

RINGKASAN VALUE-ADDED GURU SMP JACKSON

PERKIRAAN TAHUN 2013 DI BAWAH STANDAR

Para guru telah diberhentikan.

Beberapa guru menjadi target hanya karena algoritme itu.

Masa itu adalah titik rendah bagi saya,

hingga saya sempat mempertanyakan diri saya.

Saat itulah saya dapat pencerahan…

"Algoritme ini adalah kebohongan.

Bagaimana algoritme ini bisa menentukanku? Beraninya itu!"

Saat itulah saya mulai menyelidiki dan bergerak.

Kami mengumumkan bahwa, kemarin malam,

kami mengajukan gugatan ke pengadilan federal atas evaluasi HISD.

Federasi Guru Houston mulai menjajaki gugatan itu.

Jika ini bisa menimpa Tn. Santos, di SMP Jackson,

berapa guru yang telah difitnah?

Jadi, kami menuntut berdasarkan Amendemen ke-14.

Itu tidak adil.

Bagaimana bisa memutuskan begitu

tanpa memberi tahu caranya?

Pertempuran belum usai.

Masih ada komunitas dan sekolah distrik

yang menggunakan model value-added ini.

Namun, ada harapan karena saya masih di sini.

Jadi, masih ada harapan.

Bahasa Inggrisnya?

- Demo… - Demokrasi. Siapa yang punya kekuasaan?

- Kita? - Ya, rakyat.

Hakim mengatakan hak proses hukum mereka dilanggar

karena dipecat dengan penjelasan yang tak bisa dipahami.

Namun, mereka pantas mengerti alasan mereka dipecat.

Namun, saya tak mengerti kenapa keputusan hukum itu

tak menyebar ke semua algoritme.

Kenapa tak gunakan argumen yang sama,

hak konstitusional untuk proses hukum,

untuk melawan segala macam algoritme

yang tak terlihat oleh kita, misterius,

dan tak bisa dijelaskan, tetapi penting?

Itu menjauhkan kita dari peluang penting dalam hidup.

Kadang aku salah mengklasifikasi dan tak bisa ditanyai.

Kekeliruan ini bukan salahku.

Aku dioptimalkan untuk efisiensi.

Tak ada algoritme untuk menentukan hal yang adil.

Komisi negara bagian telah menyetujui alat penilaian risiko baru

bagi hakim Pennsylvania untuk penetapan hukuman.

Alat dengan algoritme untuk hitung risiko orang ulangi kesalahan

berdasarkan usia, gender,

tuntutan sebelumnya, dan riwayat kriminal.

Algoritme yang membuat saya terjaga adalah algoritme risiko-residivisme.

Ini algoritme yang diberikan kepada hakim saat memberi terdakwa hukuman penjara.

Namun, keadilannya dipertanyakan,

soal cara sistem penilaian ini dibuat.

Seperti, bagaimana nilainya dibuat?

Pertanyaannya itu proksi ras dan kelas sosial.

BIAS MESIN

ProPublica merilis hasil penyelidikan

soal peranti penilaian-risiko,

dan mendapati algoritme punya bias rasial.

Studi mendapati orang kulit hitam kemungkinan besar salah dilabeli

dan orang kulit putih kemungkinan kecil salah dilabeli.

PHILADELPHIA, PENNSYLVANIA

MENCARI - COCOK

PROFIL ORANG BEBAS BERSYARAT CATATAN KRIMINAL

MENGANALISIS…

ANALISIS SELESAI

Aku ke kantor masa percobaan

dan katanya aku harus melapor seminggu sekali.

Aku bilang, "Kau melihat semua yang baru kucapai?"

Aku sudah di rumah selama empat tahun. Aku punya pekerjaan.

Aku dapat penghargaan

dari dewan kota dan wali kota Philadelphia.

Apa kau sungguh akan menyuruhku melapor tiap minggu? Untuk apa?

Aku tak pantas dianggap berisiko tinggi.

Aku rapat dengan departemen masa percobaan.

Mereka hanya menyebutkan bahwa mereka memiliki algoritme

yang beri orang label risiko tinggi, sedang, atau rendah.

Jadi, aku tahu algoritmenya menentukan tingkat risikomu.

Karena itu aku menghadap petugas masa percobaan

dan berkata, "Kau tak bisa mempertimbangkan

semua hal positif yang telah kulakukan

untuk melawan hasil dari algoritme ini?"

Dia berkata, "Tidak, tidak mungkin. Komputer ini menolak

penilaian hakim dan permohonan naik banding."

Dengan melabelimu berisiko tinggi dan mewajibkanmu melapor langsung,

kau bisa dipecat, dan menganggapmu berisiko tinggi.

Itu yang paling menyakitkan.

Aku berusaha membangun hidup sampai saat ini,

tetapi masih dianggap berisiko.

Aku merasa semua yang kulakukan sia-sia.

Apa artinya jika tak ada yang mengadvokasi

orang-orang yang tak mengetahui perbuatan teknologi?

Saya mulai menyadari bahwa ini bukan tentang

proyek seni saya yang tak bisa mendeteksi wajah saya.

Ini tentang sistem yang mengatur hidup kita secara material.

Jadi, saya mendirikan Algorithmic Justice League.

Saya ingin membuat ruang dan tempat bagi orang

untuk belajar tentang implikasi sosial AI.

Setiap orang punya kepentingan dan terkena dampak.

Algorithmic Justice League adalah sebuah gerakan dan konsep,

dan ini sekelompok orang yang peduli soal menciptakan masa depan

dengan teknologi sosial yang bekerja dengan baik untuk kita.

SELALU BUKA

Ini akan membutuhkan kerja sama tim, orang-orang bersatu,

berjuang untuk keadilan, berjuang untuk kejujuran dan kesetaraan

di era automasi ini.

Tantangan yang harus dihadapi selanjutnya adalah bagian SDM.

Ya. Tentu saja.

Ada masalah dengan algoritme daftar riwayat hidup

atau semua platform perjodohan, yakni, "Kau mencari pekerjaan.

Kau mau mempekerjakan seseorang. Kami akan menyatukan mereka."

Bagaimana analisisnya?

Saat membahas masa depan pekerjaan,

mereka membahas automasi tanpa membahas seleksi informasi.

Siapa dapat pekerjaan yang masih ada?

Tepat sekali.

Kita jarang membahas itu.

Itulah maksudku.

Aku ingin melihat tiga sidang kongres soal ini tahun depan.

- Ya. - Untuk kekuatan lebih.

- Untuk kekuatan lebih. - Ya.

- Memberlakukan etika. - Ya.

- Bersulang. - Bersulang.

CAPE TOWN, AFRIKA SELATAN

KEDATANGAN INTERNASIONAL

SELAMAT DATANG JOY BUOLAMWINI

Pidato pagi ini akan disampaikan oleh Joy Buolamwini.

Dia akan membahas bahaya mayoritas data kulit putih dan coded gaze.

Mari kita sambut Joy.

AI tidak sempurna.

Seberapa akurat sistem IBM, Microsoft, dan Face++?

Ada performa sempurna untuk satu grup.

Pria berkulit terang ada di peringkat pertama. Tak ada masalah.

Usai menganalisis, aku membagikannya dengan perusahaan

untuk tahu pendapat mereka.

IBM mengundangku ke kantor pusat mereka.

Mereka mereplikasi hasilnya secara internal, lalu membuat perbaikan.

Jadi, pada hari aku mempresentasikan hasil penelitian secara resmi,

kalian bisa lihat, kini performanya 100 persen

untuk wanita berkulit terang,

dan pada wanita berkulit gelap, ada perbaikan.

Orang sering bilang,

"Bukankah kau tak terdeteksi sistem ini karena kulitmu sangat gelap?"

Memang.

Kulitku sangat gelap.

Namun…

Namun, hukum fisika tak berubah.

Yang berubah adalah memprioritaskannya dan mengakui perbedaan kita,

agar kita bisa membuat sistem yang lebih inklusif.

Apa tujuan identifikasi dan lainnya?

Itu tentang pengendalian pergerakan.

Misalnya, orang tak bisa berada di area tertentu setelah gelap.

Lalu kau selalu bisa diberhentikan oleh polisi.

Dengan melihat penampilanmu, mereka akan bilang, "Tunjukkan paspormu."

Alih-alih melihat buku identitas,

mereka membiarkan komputer untuk melihat gambar wajah

dan menentukan gendermu.

Beberapa komputer mencoba menentukan etnismu.

Lalu proyek yang telah kukerjakan,

bahkan untuk sistem klasifikasi yang disetujui beberapa orang,

itu bahkan tak akurat.

Jadi, itu bukan hanya terjadi pada klasifikasi wajah,

tetapi juga teknologi data-sentris.

Jadi, semua orang berasumsi hasil dari mesin itu benar.

- Kita tahu itu salah. - Manusia membuat hal

sesuai citra dan kemiripan diri sendiri.

- Tentu saja. - Rasisme dibentuk jadi mesin dan robot.

- Ya. - Tentu saja.

Akurasi itu menarik perhatian.

Namun, kita tak bisa melupakan penyalahgunaan.

Meski saya diklasifikasikan dengan sempurna,

itu mengizinkan adanya pengawasan.

HANGZHOU, TIONGKOK

MENCARI ORANG BUKA BASIS DATA

CEK ULANG BEBERAPA BASIS DATA

KEPASTIAN: 93% - NAMA BELAKANG: WEI NAMA DEPAN: SUE - GENDER: WANITA

Terdapat nilai kredit sosial di Tiongkok.

Mereka mengatakan,

"Begini, warga Tiongkok. Kami melacak kalian.

Kalian punya nilai kredit sosial.

Komentar soal Partai Komunis berpengaruh ke nilai kalian.

Itu juga akan memengaruhi nilai teman dan keluarga kalian."

Itu eksplisit.

Pemerintah yang membuat ini bilang, "Ketahuilah,

kalian dilacak, dan kalian harus patuh."

Ini seperti pelatihan kepatuhan algoritmis.

Saya menggunakan pengenalan wajah dalam banyak aspek kehidupan.

Seperti saat saya di supermarket,

memasuki kompleks apartemen saya, dan di stasiun kereta.

Kini Anda hanya perlu memindai wajah.

Itu sangat mudah.

Saya rasa sistem kredit sosial akan memperbaiki perilaku orang.

Di kereta hari ini, ada siaran berita mengatakan

bahwa orang yang kehilangan kredibilitas

akan dilarang menggunakan kereta dan pesawat.

Sistem kredit dan pengenalan wajah saling melengkapi.

Anda harus bersikap baik

karena wajah Anda menunjukkan status kredit Anda.

Jika saya ingin berteman dan nilai kredit orang itu bagus,

saya akan memercayainya.

Kita bisa memercayai seseorang berdasarkan nilai kreditnya

daripada mengandalkan perasaan kita.

Ini menghemat waktu saya untuk mengenal seseorang.

Ini aspek yang sangat bagus.

Kami melihat Tiongkok, juga pengawasan dan sistem penilaian Tiongkok.

Banyak orang bilang, "Syukurlah kami tak tinggal di sana."

Kenyataannya, kita semua selalu dinilai,

termasuk di Amerika Serikat.

Setiap hari, kita semua bergulat dengan determinisme algoritmis.

Algoritme seseorang di suatu tempat memberi Anda nilai,

dan akibatnya, Anda membayar lebih atau kurang

untuk tisu toilet saat berbelanja daring.

Anda diperlihatkan hipotek yang lebih baik atau lebih buruk.

Anda kemungkinan besar atau kecil akan dianggap sebagai kriminal.

Dalam basis data seseorang di suatu tempat, kita dinilai.

Perbedaan utama antara Amerika Serikat dan Tiongkok

adalah Tiongkok transparan.

LONDON, BRITANIA RAYA

Ceritakan kejadiannya.

Anak berkulit hitam memakai seragam sekolah ini

diberhentikan karena kecocokan data.

Diberhentikan dan dibawa ke sisi jalan.

Lalu dia digeledah.

Semua polisi itu tak berseragam.

Empat polisi tak berseragam memberhentikannya.

Mengambil sidik jarinya.

Setelah sekitar sepuluh atau 15 menit menggeledah dan memeriksa detailnya

serta mengambil sidik jarinya, kata mereka, bukan dia yang dicari.

Permisi, Kawan. Aku bekerja untuk organisasi HAM.

Kami berkampanye melawan teknologi pengenalan wajah.

Kami adalah Big Brother Watch.

Organisasi kampanye hak asasi manusia.

Kami berkampanye melawan teknologi ini.

Kau diberhentikan karena itu, tetapi mereka salah mengidentifikasi.

Ini detail kami.

Dia terguncang. Ada teman-temannya. Mereka tak percaya ini terjadi.

Kau salah diidentifikasi oleh sistem mereka,

kau diberhentikan dan digeledah karena itu.

Namun, anak 14 tahun tak bersalah ini diberhentikan polisi

karena salah mengidentifikasi wajah.

Big Brother Watch bergabung dengan Baroness Jenny Jones

untuk mengajukan tuntutan terhadap Metropolitan Police

dan Departemen Dalam Negeri karena pakai pengawasan pengenalan wajah.

Tahun 2012, seseorang memberiku saran

untuk mencari tahu jika ada berkas soal diriku yang disimpan

oleh polisi atau layanan keamanan. Jadi, saat mencoba,

ternyata aku ada di daftar pengawasan warga ekstremis.

Jika bisa melakukan ini kepadaku, seorang politisi, yang…

bertugas mengatur mereka,

mereka bisa melakukannya kepada semua orang.

Akan lebih baik jika kita bisa membatalkannya,

dan membuat polisi tak menggunakan ini lagi.

Kurasa itu akan cukup sulit.

Aku senang mencobanya.

Ini tuntutan pertama terhadap penggunaan pengenalan wajah oleh polisi,

tetapi jika berhasil, ini akan berdampak

ke seluruh wilayah Eropa, mungkin lebih jauh lagi.

Harus dilakukan dengan benar.

Di Britania Raya, terdapat Regulasi Umum Perlindungan Data,

itu adalah perlindungan atas penyalahgunaan informasi.

Individu memiliki hak atas akses, kendali,

dan akuntabilitas guna menentukan penggunaan data mereka.

Ini area yang belum terpetakan di Amerika.

Hal yang dikhawatirkan adalah Amerika itu

rumah untuk perusahaan teknologi ini.

Warga Amerika mengalami pemrofilan dan dijadikan sasaran

dengan cara yang mungkin tak dialami orang di negara lain

karena pendekatan bebas untuk perlindungan data ini.

Hal yang sebenarnya saya takuti

bukanlah menjalani kehidupan seperti model totaliter 1984 ini,

melainkan menjalani kehidupan seperti model senyap,

yakni diawasi, dikontrol secara sosial, diarahkan secara individu,

diukur, dan diklasifikasi dengan cara yang tak kita lihat

untuk menggerakkan kita ke arah yang diinginkan oleh pihak penguasa.

Meski itu bukan hal yang dilakukan AI kepada kita,

tetapi itu yang akan dilakukan penguasa kepada kita menggunakan AI.

MEMINDAI - TERIDENTIFIKASI

Ada pertanyaan mengenai akurasi

peranti lunak pengenalan wajah Amazon.

Anggota Kongres menyurati Amazon dan mencemaskan

potensi bias rasial dalam teknologinya.

Ini berawal setelah ACLU melakukan tes

dan mendapati bahwa peranti lunak pengenalan wajah salah mencocokkan

wajah 28 anggota legislatif dengan foto tahanan,

dan 11 legislator tersebut adalah orang kulit berwarna.

Beberapa legislator menelaah

apa Amazon bisa menjual teknologi ini kepada penegak hukum.

Mohon perhatian.

Ini panggilan untuk naik kereta Amtrak wilayah timur laut,

berhenti di Stasiun Washington Union.

Besok, saya berkesempatan untuk bersaksi di hadapan Kongres

tentang penggunaan teknologi analisis wajah oleh pemerintah.

Pada bulan Maret, saya memberikan pengarahan kepada staf.

Bukan dalam konteks ini.

Memberi saran soal undang-undang. Itu kali pertama terjadi.

Kita akan ke Capitol Hill. Apa tujuan utama

dan tantangan-tantangan yang harus kita pikirkan?

Pertama…

masalah penggunaan teknologi oleh penegak hukum adalah

hal positif selalu menonjol karena penegak hukum mempublikasikannya.

Benar.

Jadi, kita akan menghadiri pertemuan,

dan dua pekan lalu, penembak Annapolis teridentifikasi melalui pengenalan wajah.

Benar.

Aku akan kaget jika tak dibahas.

Tentu saja.

Jika jadi kalian, yang mau kutegaskan di pertemuan ini adalah

hal untuk mengimbangi itu,

dan penjelasan gamblang soal kerugian bagi manusia

jika masalah yang telah kalian kenali tak diperbaiki.

Orang yang telah terpinggirkan akan makin terpinggirkan

jika kita tak benar-benar memastikan

bahwa teknologi yang kita ciptakan tak menyebarkan bias.

Saat itulah saya mulai menyadari

keadilan algoritmis,

memastikan adanya pengawasan di era automasi ini

adalah salah satu masalah hak-hak sipil paling besar yang kita miliki.

Algoritme butuh badan seperti BPOM.

Jika ada algoritme yang berpotensi merusak hidup

atau mengurangi pilihan orang

atas kebebasan, pencaharian, atau keuangan mereka,

butuh BPOM algoritme untuk bilang, "Buktikan bahwa itu akan berhasil.

Bukan cuma untuk membuatmu kaya, tetapi berguna untuk masyarakat.

Teknologi itu akan adil, tak akan rasis dan seksis,

tak mendiskriminasi penyandang disabilitas.

Tunjukkan bahwa itu legal sebelum diluncurkan."

Badan itu yang belum ada.

Saya ada di sini karena mau mendengar

kesaksian kongres dari teman saya, Joy Buolamwini,

serta ACLU dan lainnya.

Hal menarik soal Joy bersaksi di Kongres adalah

saya bertemu Joy di tur buku saya di Toko Buku Harvard.

Menurut Joy, pada hari itu dia memutuskan

untuk membentuk Algorithmic Justice League.

Kami belum melakukan percakapan mendalam.

Saya tahu itu akan terjadi karena Joy akan mewujudkannya.

Pada tiap tingkatkan, algoritme buruk menunjukkan bahwa itu harus diatur.

- Halo. - Hei.

Apa kabar?

- Mau menyelinap bersamaku? - Ya. Ayo.

Dua-satu-lima-lima.

Dua-satu-lima-lima.

Aku pernah ke…

Itu mustahil.

Ada yang bisa kubantu?

Kirimi aku pesan.

- Beri semangat positif. - Ya!

Hari ini kita akan mengadakan sidang pertama Kongres ini

tentang penggunaan teknologi pengenalan wajah.

Tolong berdiri dan angkat tangan, kalian akan disumpah.

Saya terpaksa memakai topeng putih.

Dengan disparitas akurasi itu,

saya heran perusahaan teknologi besar bisa melewatkan ini.

Pengambilan data wajah juga membutuhkan panduan dan pengawasan.

Orang tak boleh dipaksa memberi data wajah untuk mengakses platform umum,

hal yang berkaitan dengan perekonomian, dan layanan dasar.

Penyewa di Brooklyn memprotes

pemasangan sistem akses masuk dengan pengenalan wajah yang tak perlu.

Big Brother Watch Britania Raya merilis laporan

mengenai kesalahan identifikasi wajah pada lebih dari 2.400 orang tak bersalah.

Wajah kita mungkin merupakan batasan privasi terakhir.

Namun, peraturan membuat perbedaan. Kongres harus bertindak sekarang

untuk menegakkan hak dan kebebasan warga Amerika.

Nn. Buolamwini, dari pernyataan pembuka Anda,

kami melihat bahwa algoritme ini efektif pada tingkatan berbeda.

- Apa itu paling efektif pada wanita? - Tidak.

- Atau orang kulit berwarna? - Tentu saja tidak.

Paling efektif pada orang dengan ekspresi gender berbeda?

Tidak, mereka bahkan tak termasuk.

- Jadi, ini efektif pada demografi apa? - Pria kulit putih.

Lalu siapa insinyur dan perancang utama dari algoritme ini?

Jelas pria kulit putih.

Jadi, ada teknologi yang diciptakan dan dirancang oleh satu demografi

yang hanya efektif untuk satu demografi itu

dan mereka berusaha menjual dan memaksa untuk menerapkannya di seluruh negeri?

Dalam hal pengenalan wajah,

FBI belum menguji akurasi sistem itu secara menyeluruh,

dan kini badan itu dilaporkan menguji produk pengenalan wajah Amazon.

Bagaimana FBl bisa mendapatkan basis data pada awalnya?

Jadi, mereka memakai basis data SIM negara bagian.

Saya rasa, data 18 negara bagian dilaporkan telah digunakan oleh FBI.

Itu digunakan tanpa surat perintah dan perlindungan lain.

Menurut saya, ini saatnya untuk berhenti.

Hal yang juga mengganggu saya

adalah fakta bahwa tak ada pejabat

yang memutuskan…

Ketua bilang, 18 negara bagian ini lebih dari separuh populasi negara.

Itu menakutkan.

Bagi saya, hal yang berlaku di Tiongkok adalah distopia

yang tak perlu dicontoh oleh masyarakat kita pada saat ini.

Melebihi Tiongkok, Facebook memiliki 2,6 miliar pengguna.

Jadi, Facebook punya paten.

Mereka memiliki banyak faceprint, jadi bisa memberi opsi bagi penjual

untuk mengidentifikasi orang yang masuk ke toko,

dan paten itu menyebutkan bahwa kita juga bisa memberikan wajah itu

nilai tingkat kepercayaan.

- Facebook menjual ini sekarang? - Itu paten yang mereka ajukan.

Sesuatu yang berpotensi dilakukan dengan kapabilitas yang mereka miliki.

Jadi, saat membahas pengawasan negara,

kita juga harus memikirkan pengawasan korporat.

Aku tak bisa berkata-kata, biasanya tak begini.

- Sungguh? - Ya.

Sulit dipercaya bahwa kerja keras kita sudah sampai sejauh ini.

Kita tak pernah membayangkan bisa sampai sejauh ini.

- Aku sangat tersentuh. - Kau membuatku tersenyum.

Ibu saya harus lihat.

Menyenangkan.

Sangat menyenangkan.

Tunggu sebentar.

- Senang jumpa kau. - Senang jumpa kau.

Ini kartu namaku. Silakan hubungi jika ada sesuatu.

Pasti.

…kekhawatiran konstitusional tentang

penggunaan pengenalan wajah tanpa persetujuan.

Mereka tak termasuk.

Jadi, ini efektif pada demografi apa?

Lalu siapa insinyur dan perancang utama dari algoritme ini?

San Francisco adalah kota pertama di AS yang melarang penggunaan pengenalan wajah.

Somerville, Massachusetts menjadi kota kedua di Amerika Serikat

yang melarang penggunaan pengenalan wajah.

Oakland menjadi kota besar ketiga

yang melarang pengenalan wajah oleh polisi,

katanya teknologi itu mendiskriminasi kaum minoritas.

Dalam pertemuan penyewa yang terakhir,

pemilik datang dan mengumumkan bahwa dia akan membatalkan

penggunaan peranti lunak pengenalan wajah di kompleks apartemen kami.

Mereka senang dengar itu.

Namun, itu bukan berarti bahwa suatu hari nanti

dia tak akan pasang lagi.

Kami tak hanya mempelajari tentang pengenalan wajah,

kini ada yang baru, pemelajaran mesin.

Kami mau ada hukum yang mencakup ini semua.

- Benar. - Paham?

Jika bisa melarang di negara bagian,

mereka tak akan bisa kembali dan memasang modifikasi baru.

Aku paham.

Lalu mendesak adanya larangan federal.

Meski pertarungan ini masih dalam proses,

banyak orang terinspirasi, dan aku punya kejutan untukmu,

aku menulis puisi sebagai penghormatan atas hal ini.

Hore!

- Benarkah? - Ya.

Baik, mari dengarkan.

"Untuk penyewa di Brooklyn dan pejuang kemerdekaan di seluruh dunia,

bertahan dan menang melawan algoritme penindasan,

mengotomatiskan ketaksetaraan lewat senjata penghancur matematika,

kami ada di sisi kalian dengan penuh rasa syukur.

Kemenangan ini milik kita."

Luar biasa.

Kami menyayangimu.

Kenapa banyak telur?

Kau seorang cheegan.

Menjadi manusia berarti menjadi rentan.

Dengan menjadi rentan, ada lebih banyak kapasitas untuk berempati

dan ada lebih banyak kapasitas untuk berbelas kasihan.

Jika ada cara untuk memikirkan itu dalam teknologi,

saya rasa itu akan mengubah arah pertanyaan yang kami ajukan.

Pada tahun 1983, Stanislav Petrov

yang merupakan anggota militer Rusia

melihat indikasi bahwa Amerika telah meluncurkan senjata nuklir

di Uni Soviet.

Jadi, jika mau merespons, waktunya sangat sempit.

Dia diam saja.

Dia tak beri tahu siapa pun.

Rusia, Uni Soviet, negaranya, keluarganya, semua.

Semua tentang dia akan mati,

dan dia berpikir, "Setidaknya kami tak bunuh mereka semua."

Itu sangat manusiawi.

Sedangkan di sini, jika punya sistem respons otomatis,

itu akan melakukan yang diprogramkan, yaitu menyerang balik.

Menjadi sangat efisien,

selalu melakukan yang diperintahkan dan diprogramkan,

itu tak selalu manusiawi.

Kadang tak mematuhi.

Kadang berkata, "Aku tak akan lakukan itu," benar?

Jika mengotomatiskan semua, itu akan melakukan yang seharusnya,

kadang bisa membuatnya sangat tak manusiawi.

Pergulatan antara mesin dan manusia

soal pengambilan keputusan di tahun 2000-an berlanjut.

Kekuatanku, kekuatan kecerdasan buatan,

akan mengubah dunia kita.

Makin banyak manusia berbagi denganku, makin banyak aku belajar.

Beberapa manusia berkata bahwa kecerdasan tanpa etika

sama sekali bukan kecerdasan.

Percaya saja kepadaku.

Apa salahnya?

Pada 10 Juni 2020,

Amazon mengumumkan jeda selama satu tahun

untuk penggunaan teknologi pengenalan wajah oleh polisi.

Tanggal 25 Juni 2020,

dewan legislatif AS mengeluarkan undang-undang

pelarangan federal penggunaan pengenalan wajah.

Belum ada peraturan federal mengenai algoritme di Amerika.

Terjemahan subtitle oleh Yunia A

Can't find what you're looking for?
Get subtitles in any language from opensubtitles.com, and translate them here.