Original subtitles

Dakle, pristali ste razgovarati, ali

želite biti sigurni da vam se lice ne vidi

i tvoj glas se ne može identificirati.

Pobrinut ćemo se da budete zaštićeni na te načine.

Dakle, hakirate ove telefone.

Kakve ste reakcije dobili?

Koji je bio korak koji ste nudili tim vladama?

Što bi prosječan građanin, u bilo kojoj zemlji na

svijetu, trebao znati o ovoj tvrtki i ovoj tehnologiji?

Trebaju li ljudi biti zabrinuti?

Softver Pegasus

je možda najozloglašeniji špijunski softver

u svijetu.

Omogućuje službenicima za

provođenje zakona ili državnim tijelima

potajno provaliti u pametni telefon mete.

I time dobivate pristup fotografijama, videima, porukama...

Pegasus također može daljinski

upravljati mikrofonom i kamerom telefona,

sve bez ikakvih naznaka

da je došlo do hakiranja.

Suradnik New Yorkera Ronan Farrow ima novi

članak o Pegazu i tvrtki koja ga proizvodi.

Dakle, Ronane, počnimo ispočetka.

Što vas je najviše privuklo ovoj priči?

Pa, kao što znate, spetljao sam se s nekom starom školom

taktike privatne istrage, uh, i nadzor.

I o tome smo izvijestili u časopisu.

Radio sam na nizu istraživačkih priča

to je razbjesnilo ljude s mnogo resursa.

Nešto od onoga što su mi dobacili bilo je tradicionalno:

špijuni na terenu prate me okolo.

Ali postojao je i taj digitalni nadzor na koji sam naletio, kao,

ti su špijuni koristili GPS podatke mog telefona da me prate.

Shvatio sam da je krvavi rub nadzora

jesu li ovi digitalni alati,

i da postaju sve moćniji.

Najnapredniji špijunski softver može preokrenuti vaš pametni telefon

u špijunku u džepu.

Može kopirati sve,

vaše fotografije, vaši tekstovi, vaši e-mailovi,

čak i ako koristite šifrirane aplikacije.

Može uključiti vašu kameru, mikrofon,

može vas snimiti, a da to ne znate...

A onda samo... netragom nestati.

Privatne komercijalne špijunske tvrtke

prodaju ove alate uglavnom vladama.

To je industrija u usponu, vrijedna više milijardi dolara.

I vodi se rat

o budućnosti ove tehnologije.

Vidite, da zarazite svoj telefon,

špijunski softver mora proći kroz aplikacije na njemu.

Dakle, tvrtke iz Silicijske doline koje kontroliraju te aplikacije,

oni su u ovoj bitci da se obrane

protiv dolazne digitalne vatre.

U svibnju 2019.

inženjeri WhatsAppa otkrili su sumnjivi kod

skriveni unutar uputa koje se šalju njihovim poslužiteljima

za pokretanje poziva.

U to vrijeme Claudiu Gheorghe

bio odgovoran glavni inženjer

za WhatsApp glasovne i video pozive.

Stvarno si bio na prvim linijama ovog hakiranja.

Što vam je bilo na kocki

dok ste ulazili u ovu krizu?

Osjećao sam se izravno odgovornim, jer

je to proizvod koji sam napravio od nule.

Netko je pronašao rupu u,

u biti, vašem radu, zar ne?

Da, i to je bilo stvarno osobno.

Bio sam stvarno motiviran da to popravim.

I ne samo popraviti. Mislim da je ono što mi je bilo jako

važno, hm, počevši od tog dana, bilo razumijevanje napada.

Dakle, kada postavljate WhatsApp pozive,

postoje rutinske poruke koje idu naprijed-natrag

između korisnika i vaših poslužitelja,

a u jednoj od ovih poruka...

bilo je nešto čudno.

U tom trenutku nije bilo

jasno je li to nešto namjerno.

Međutim, ono što smo na kraju

otkrili zapravo je vrh sante leda.

U kojem je trenutku bilo, na neki način, prvo,

sve ruke na palubi, hitan sastanak o ovome?

Prvi sastanak koji sam imao bio je možda oko 10:00 sati.

sa sigurnosnim timom.

U tom je trenutku sve bilo u

plamenu i u stanju visoke pripravnosti.

Trajalo je nešto više od tjedan dana

za WhatsApp da zakrpi svoje poslužitelje

i izdati ažuriranje za aplikaciju, blokirajući napade.

Zatim su izašli u javnost,

najavljujući da najmanje 1400 korisnika WhatsAppa

bio je na meti komercijalnog špijunskog softvera

izradila izraelska tvrtka NSO Group.

WhatsApp poziva svojih milijardu i pol

korisnika da ažuriraju aplikaciju odmah.

NSO Group je optužena

da je odgovorna za hakiranje.

Oni to niječu.

NSO je najozloglašeniji dobavljač

na rastućem tržištu špijunskog softvera.

Tvrtka kaže da je razvila svoj špijunski softver Pegasus

pomoći vladama u borbi protiv kriminala i terorizma.

Poznato je da je korišten za hvatanje

Meksički narkobos, Joaquin "El Chapo" Guzmán.

No bilo je i godina optužbi

da je Pegasus korišten za ciljanje novinara,

borci za ljudska prava i politički disidenti.

Vlasti i šefovi država su neki

od 50.000 ljudi širom svijeta

kojima su možda hakirani pametni telefoni.

To je prema novom izvješću

od strane 17 medijskih kuća.

Istraga objavljena u nedjelju u Washington Postu

kaže da se špijunski softver u igri zove Pegasus i da ga je

vladama licencirala privatna izraelska tehnološka tvrtka.

Služio je za praćenje i ciljanje

Saudijski novinar Jamal Khashoggi,

koji je bio kritičan

prijestolonasljednika Mohammeda bin Salmana.

Bilo je to u saudijskom konzulatu u Istanbulu

da je Jamal Khashoggi dočekao svoj brutalan kraj.

Zadavljen je čim je ušao u zgradu

od strane tima saudijskih ubojica,

koji mu je zatim raskomadao tijelo.

Jamčim vam da naša

tehnologija nije korištena

na Jamala Khashoggija ili njegovu rodbinu.

U studenom 2021.

Izvještavao sam o svemu tome

i pokušava dobiti odgovore od NSO-a

i njen glavni izvršni direktor Shalev Hulio.

Tada je Bidenova administracija postavila NSO

na crnoj listi Ministarstva trgovine.

Uključivanje NSO-a na crnu listu SAD-a

uvelike otežava posao,

s drugim tvrtkama koje sada možda trebaju dvaput razmisliti

prije poslovanja s njima

zbog straha od kršenja propisa.

Sljedećeg dana nazvao me glasnogovornik NSO-a

i zamolio me da se sastanem sa Shalevom u New Yorku.

Hoćete li imati uključen telefon na sastanku?

- Pokušat ću. pitat ću. - U redu.

- Ovo je moj kolega, Unjin. - Bok.

- Drago mi je. - Bok, drago mi je.

Pozdrav.

U baru sam, Ronane.

Mislio sam da zatvaraš časopis ili tako nešto.

Upravo sam se sastajao sa službenikom Ministarstva pravosuđa.

Ali prekinuo sam intervju ranije, pa...

Pa da od nekog svog svojeglavog

novinara čujete što smjera?

Pa sam razgovarao sa,

uh, Shalevom dva i pol sata.

Vau.

Pričaj mi o razgovoru.

Još uvijek se muče zbog jučerašnje

objave da su na crnoj listi za izvoz.

- I... - Jesu li bili zabrinuti?

Nisu bili toliko zabrinuti zbog

sadržaja svojih odgovora koliko...

Bilo je puno referenci na, znaš,

"Bolje brzo planiraj taj put u Tel Aviv.

Možda ne postojimo kao tvrtka."

Što mislim da je šala.

Ne znam je li njihova krajnja

granica toliko ranjiva, ali mislim

da je to za njih ozbiljan trenutak brige.

Dakle, neka vrsta filozofske slike visoke razine

da on slika je,

“Ovo je tehnologija koja

ionako cvjeta diljem svijeta.

Ako mi to ne radimo, netko drugi će to učiniti."

Dakle, njegov slučaj je nešto poput,

"Hej, svi ti ljudi ovo rade.

Ovo je nova realnost."

Digitalni Divlji zapad.

Da, i on priznaje da postoji

potencijal za zlostavljanje,

ali kaže: "Mi smo, u odnosu na konkurenciju, ti

koji su spremni podvrgnuti se većem ispitivanju

i odgovarati na više pitanja u tisku i biti reguliran."

Oni, od sada, govore da će biti u potpunosti

službeni i dopustiti mi da donesem kamere u Tel Aviv.

To je super. Zvuči kao odličan sastanak.

Sjajno je što ste to učinili.

- Moram ići... - Oh, moraš trčati, točno.

Idi, idi, idi. Hvala vam što ste odvojili vrijeme.

Hvala. Bok.

Izrael je u središtu inovacija u nadzoru.

Postoji niz stručnosti

iz vojnih i obavještajnih službi zemlje

u tehnološke start-upove.

I izraelska država koristi dio te tehnologije,

uključujući i sukob oko palestinskih teritorija.

Prema izvješću Amnesty Internationala

objavljeno u jesen 2021.,

šest palestinskih aktivista za ljudska prava

su im hakirali telefone pomoću Pegasusa.

Član Knesseta Sami Abu Shehadeh

kaže da je to dio duge povijesti nadzora

palestinskih građana.

Tako je prije nekoliko mjeseci objavljeno da

je Pegasus iz NSO grupe pronađen na telefonima

šest palestinskih aktivista za ljudska prava.

Ministar obrane tvrdi...

ovo su bili, uh, predmeti istrage terorizma.

Da, da, da. Dakle Izrael...

nažalost, radi to

za svoje građane.

Uglavnom za arapske Palestince.

Mislim da što-što-što-što Izrael čini tako... važnim

u ovoj industriji uništavanja je da

imaju ogroman laboratorij za rad,

i koriste palestinski narod

napraviti njihove, uh, testove.

Zatim ga prodaju ostatku svijeta.

Izrael kaže da koristi nadzor

za samoobranu i nacionalnu sigurnost.

Počeo sam razgovarati s NSO-om 2019.

Tek 2022

da su pristali pustiti me da malo izvještavam

unutar svog sjedišta u Tel Avivu.

Većina tvrtki koje se bave ovim poslom prilično su tajnovite.

Ali NSO se uvijek udvarao novinarima...

do određene točke.

Bok.

Ronan Farrow.

Uh, imate li zakazano?

Da. Sa NSO.

Otvarali su mi svoja vrata

ali i pokušavajući držati čvrstu uzicu.

Razgovarao bih sa svima, od softverskih inženjera

prodavačima,

i brzo sam shvatio,

NSO-ov tim za odnose s javnošću trebao je biti tu.

hej Ronane.

Dođi, idemo, uh, popiti kavu, čaj.

Mogu slikati usput, ako je to u redu.

- Da. - Tako da mogu pisati o tome,

znaš, za boju.

Želite li steći uvid u iskopine.

To je otmjeni poslovni prostor.

To su vrlo američke tehnološke start up vibre.

- Otmjena kafeterija. - Hvala vam!

Hoćeš kavu? Čaj?

- Što želiš popiti? - Kava zvuči super. Hvala.

Samo sam htio započeti s predstavljanjem našeg tima.

Da! Jako se veselim što ću razgovarati sa svima vama

i čuti o iskustvima na radnoj razini koja imate.

Pa ovo je super. Trebamo li početi?

Zbog čega ste željeli ovaj posao?

Što konkretno mislite da su ljudi pogriješili?

Bili ste uključeni u veze u

kojima je došlo do nekog otkrića,

ili barem sumnja, da je

bilo neprikladnog ciljanja.

Što biste poručili metama te

vrste zlouporabe vaših tehnologija?

Kako-Kako ste se kretali

vrsta moralnih pitanja koja se postavljaju

o vašem radu na tako javan način?

Znate, što se događa u slučaju kada

možda vlada misli da su to kriminalci,

ali vanjski promatrači kažu: "Hej, to su aktivisti"?

Ja sam tip za tehnologiju i ja sam tip za inteligenciju, u redu?

Znam kako izraditi istražne sustave i

sada mogu znati kako to tehnički napraviti

najbolji mogući način. U redu?

Pitanje koje sada postavljate, ovo je za velike dečke.

Velika pitanja.

NSO tvrdi da potencijalni kupci

temeljito su provjereni,

te naglašava da svaku prodaju treba odobriti

od strane izraelskog ministarstva obrane.

Glavni savjetnik Shmuel Sunray

je zadužen za taj proces usklađivanja

i internih istraga

tvrtka kaže da provodi

kada postoji optužba za zlostavljanje.

- Bok. - Bok.

- Drago mi je što ste ovdje. - Da, dobro je biti ovdje.

Zanimljivo je vrijeme biti ovdje.

Suočeni ste s prilično raširenom percepcijom

da se govori o nastojanjima za usklađenost

i interne istrage

je-se smatra nesuštinskim.

Prije svega, napori su doista značajni.

Nažalost, mislim da je jedan od glavnih

problema koji imamo na strani percepcije

je da sav dobar posao koji radimo,

hm, ne može biti objavljen u detaljima.

Mislim, ne može biti... ne možemo dijeliti,

kao, kad diskvalificiramo određenog kupca

zbog due diligence razloga, ili

zatvaramo sustav zbog zlouporabe.

Čak i da smo htjeli, to nam je zabranjeno.

Kao što možete zamisliti tijekom ovog izvještavanja,

Razgovarat ću s nekoliko

meta NSO-ove tehnologije,

od kojih neki, znate, stvarno osjećaju da

je ovo bilo destruktivno u njihovom životu.

Što biste rekli metama

Pegasusa i drugog NSO softvera?

Svatko tko osjeća da je meta,

Stvarno bih ih apelirao

da odu i prođu naš proces.

Mislim da se naš rekord pokazao.

Mi, znate, ne želimo da naša tehnologija

ode i bude korištena na takav način.

A ako je korištena naša tehnologija,

osjećamo se jako loše zbog toga

i dat ćemo sve od sebe kako bismo bili sigurni

da se druge mete neće naći u toj situaciji.

pitao sam Sunray više puta

da mi da detalje o tim istragama

ili dokaz da su zbog toga ugovori otkazani.

On je odbio.

- Da napravimo pauzu za ručak? - Da, da...

U redu, super.

Oh, znači ovo je apartman Shalev.

U redu.

Uvjerio sam Shaleva Hulija, glavnog izvršnog direktora,

za zapisnik za moj članak u New Yorkeru,

ali je odbio izaći pred kameru.

Kad sam ga pritisnuo u vezi s optužbama za zlostavljanje,

također ne bi davao pojedinosti

o internim istragama tvrtke,

pozivajući se na privatnost NSO-ovih klijenata.

I on i Sunray

usporedio svoju tvrtku s trgovcem oružjem,

samo u području koje još nema propise

poput Ženevske konvencije.

Morao sam pronaći neuljepšane snimke

o tome kako NSO stvarno radi.

Jedan od mojih poziva

bio je izraelski novinar, Chaim Levinson.

Kakvo je vaše iskustvo

izvještavanja o NSO-u?

U početku su bili vrlo zatvoreni, nisu

razgovarali s novinarima, "Svi ste protiv nas,

ne razumijete, to je

sigurnosno pitanje," i tako dalje.

Ali u posljednje vrijeme, u zadnjih godinu dana, postali su vrlo prijateljski nastrojeni.

Kupujete li ono što NSO prodaje

novinarima i vladama diljem svijeta?

kada kažu, znate, "Da, bilo je nekih pogrešaka,

ali mi želimo biti, i sada jesmo, dobri momci"?

Mislim da razumiju da su u vrlo, vrlo lošoj PR

situaciji i da prijašnja politika nije funkcionirala.

I sada razmišljaju ako objasne

ljudima što točno rade, pomoći će im.

Ako mene pitate, glavni problem nije PR.

Problem je problem.

NSO može hakirati vaš telefon s tehnologijom bez klika.

A ovo je alat koji, do NSO-a,

samo su vrlo industrijske zemlje imale--

Sjedinjene Države, sigurnosne službe Izraela.

Ali za zemlje poput Angole

nemoguće je razviti takvu tehnologiju.

Nemaju ljudskih resursa za kršenje

Appleovi i Googleovi inženjeri.

Po čemu je NSO poseban?

Spremni su prodati zemljama s velikim

problemima demokracije i ljudskih prava.

Druge tvrtke nisu voljne prodati, a NSO jesu.

Chaim me upoznao s nečim rijetkim...

bivši zaposlenik koji je imao saznanja iz prve ruke

NSO-ovih prodajnih nastojanja i bio je spreman govoriti

bez dopuštenja tvrtke...

ako obećam da ću tajiti njihov identitet.

Postoji li nešto specifično zbog

čega se bojite kako će reagirati

ako su vidjeli tvoje lice i tvoj identitet?

Dakle, recite mi sa svog stajališta zašto

mislite da je važno voditi ovaj razgovor.

Što je najneprihvatljivija stvar koju

ste vidjeli u svom vremenu u tvrtki?

Dakle, prodali ste Pegaz tim različitim vladama?

Unaprijed prodano.

Predstavili ste Pegasus vladama diljem svijeta?

Koji su bili glavni kupci

s kojim ste vidjeli da tvrtka posluje?

Hm, tvrde da ih koristi većina

zapadnoeuropskih zemalja.

Je li to istina?

Hm...

Neki primjeri?

I izvan Europe. Sve primjere koji

su vam bili na neki način značajni

ili te je zbog toga zastao?

Neki Afrikanac? Oman.

Da, da, da.

Kolika je bila cijena ovoga?

Koliko je NSO naplaćivao za Pegasus?

Zna li NSO da neki od

svojih kupaca kojima prodaje

za te visoke cijene karata koje si spomenuo

zlorabe ovu tehnologiju?

Bok, Oded.

Još važnije, kako si?

Da. Kao što možete zamisliti, uh,

Ja-ja ću nazvati sve oko priče.

Hm, mislim da je to bio prilično kratak popis bivših.

Ali, znaš, ako ima nekoga za koga predlažeš da ga dodam na taj popis,

Pozdravljam to.

Da. Oded, znaš, uvijek sam otvorena knjiga o ovim stvarima.

Dugo smo razgovarali o tome.

Bilo mi je jako drago vidjeti da mislim da ste

pametni u poznavanju te veće transparentnosti

je dobra stvar za NSO u ovom trenutku.

Znam da je ovo bilo, nekako,

teško vrijeme s puno kontroverzi.

Svaki put kada imate problem, iznesite ga.

I odgovorit ću iskreno.

U redu.

U redu.

- Bok. - Bok.

Iako je NSO bio oprezan kad govorim

svojim bivšim zaposlenicima,

tvrtka mi je bila voljna dopustiti da govorim

jednom od svojih trenutnih zapadnoeuropskih klijenata.

Zdravo.

Zakasnit će deset minuta.

Upravo je na putu do svog laptopa.

Koliko drugih prodajnih mjesta, uh, ima, uh,

naš prijatelj koji će se upravo pojaviti,

uh, razgovarati na ovaj način?

- Nitko. - Nitko?

Pretpostavljao sam da je on

izvor članka za Wall Street Journal.

Mislim da je i to bila zapadnoeuropska policija.

Imamo nekoliko kupaca iz zapadne Europe,

ali nemamo puno kupaca koji

su voljni razgovarati s novinarima.

Morat ću znati njegovo - njegovo puno ime

i identitet i sve.

Samo za vaše... Ali samo za vaše znanje.

Da. Ne morate se brinuti.

Ako se usmeno slažem da je

izvor neidentificirani pozadinski izvor,

uh, znaš, opisan kao službenik europske obavještajne službe

onda-onda to je, uh, to je osnovno pravilo.

Da, možeš čak reći, znaš,

Zapadnoeuropska agencija za provođenje zakona,

Mislim, što god to neće...

neće iznositi ime države, agencije,

ili, naravno, njegovo ime.

Tal, pridružuje li se?

On se povezuje upravo sada.

U redu, super.

Zdravo!

Hvala ti što radiš ovo.

Cijenim što ste odvojili vrijeme.

Dakle, kada je vaša, uh, agencija prvi put postala klijent NSO-a?

Koliko ste platili softver?

Deseci milijuna eura?

Što je... Što je...

U redu. Razumijem.

I koju ste vrstu proizvoda kupili?

Je li ovo prvenstveno Pegaz?

A za što se softver koristi?

Mislite li da bi to bio skandal

da se pročulo nadaleko

da si koristio Pegasus?

Morate li dobiti nalog za korištenje Pegasusa?

I koliko ste ljudi ciljali, uh,

od 2015., s, uh, Pegasusom?

Otprilike. Otprilike.

U redu. Dakle, um...

Vrlo korisno.

- U redu. Brinuti. - Hvala.

U redu.

Jesmo li se sada svi razišli?

- I oprostite na pogrešci. - O da, vidio sam.

Dakle, dva-dva novinara s kojima je razgovarao.

Sjećate li se kojih?

On je bio izvor Wall Street Journala?

Bio je-- bio je to jedan od Wall Street Journala

a jedna je izraelska TV.

Jedan izraelski. U redu. shvaćam

U redu. Hm, ovo je vrlo korisno znati.

Još jednom hvala svima.

- Uživajte. - U redu. Brinuti.

Ne sumnjam u ove službenike za provođenje zakona

kad mi kažu da vole imati

tako moćan alat za nadzor...

te da ga iskreno žele iskoristiti da uhvate kriminalce u zamku.

Ali postoje dokazi da se Pegasus koristi

u najmanje 45 zemalja.

I uglavnom se događa

pod velom tajne,

bez javnog doprinosa ili nadzora.

Pegaz je možda ispunio obećanje

da se ne može otkriti...

da nije bilo skupine istraživača u Kanadi.

Velika većina onoga što znamo o

zlouporabi NSO-a dolazi od istraživača

u Citizen Labu Sveučilišta u Torontu.

Pronašli su primjere špijunskog softvera

koji se koristi za provođenje nadzora

o disidentima, aktivistima za ljudska

prava i novinarima diljem svijeta.

- Hej! - Ronane, kako si?

- Sjajno je napokon te upoznati. - I meni je drago.

Hvala što ste nas pustili u unutrašnje svetište.

Naravno.

Više od desetljeća,

Ron Deibert i tim iz Citizen Laba

proučavali su dijelove zlonamjernog koda,

poznati kao podvigi,

koji ciljaju na ranjivosti u aplikacijama vašeg telefona

ili operativni sustav za instaliranje špijunskog softvera.

Stvarno smo sretni što imamo ovaj prostor.

Ovo je, uh, laboratorij.

Ovo su prostori u kojima se obavlja većina posla.

shvaćam

Pa što oni rade tamo?

Imamo osobu koja sumnja da je

napadnuta špijunskim softverom.

Ono što će oni raditi je da ih provede kroz

to kako prikupiti podatke koji su nam potrebni

napraviti forenzičku analizu telefona.

Koliko je teško bilo uhvatiti te podvige?

Zato što su mnogi od njih, uključujući

Pegaza, dizajnirani da čiste za sobom.

Sada smo imali sreće uhvatiti špijunski softver

nekoliko različitih dobavljača u divljini,

obično iz ciljeva.

Hm, onaj koji me posebno ističe je

slučaj saudijske aktivistice za prava žena,

čiji je telefon hakiran s Pegasusom.

Zbog čega je ta isprika koju

koriste NSO Group i drugi tako lažna.

Znate, "Ne brinite. Ovdje nema ništa

za vidjeti, jer to prodajemo samo vladama

koristiti za kriminal ili terorizam."

To nije dobar način razmišljanja

o ograničenjima ove vrste tehnologije.

Kako vidite razvoj industrije odavde?

Ako uspijemo, mogli biste zamisliti

mnogo drugačije okruženje za deset godina,

gdje postoje snažni mehanizmi

nadzora i puno više transparentnosti.

To bi bio moj idealan svijet.

Način na koji se stvari

odvijaju me, iskreno, plaši

jer živimo u vremenu u kojem je očito,

dobro dokumentirano demokratsko nazadovanje.

Autoritarne prakse šire se svijetom.

Čvrsto vjerujem da industrija

nadzora, bez obzira kakva jest,

jedan je od glavnih čimbenika koji pridonose tim trendovima.

Puno izvještavanja o opasnostima špijunskog softvera

se usredotočio na način autokrata i diktatora

izvan zapadnog svijeta ga koristiti.

Ali rad Citizen Laba pokazuje

da zapadne demokracije također zlorabe špijunski softver.

Dojavili su mi istragu

dirigirali su u Kataloniji,

regija Španjolske,

gdje su sumnjali da se koristi Pegaz

nadzirati lokalne političare i aktiviste

u masovnoj mjeri.

- Hej! - Bok.

- kako si - Hvala vam što ste došli.

Da! veselim se tome.

Ovdje je također zapanjujuće.

Nisam to u potpunosti očekivao.

Ovdje je rođen Elies Campo.

Radio je u Silicijskoj dolini za WhatsApp i Telegram.

A sada je on istražitelj Citizen Laba

na terenu u Kataloniji.

Nekoliko ljudi iz Katalonije mi je poslalo poruku i reklo:

"Hej, upravo sam primio ovu poruku na WhatsAppu o tome

da sam, uh, bio meta ili hakiran u nekom trenutku,

hm, i ne znam je li to, hm, stvarno ili nije."

Kontaktirao sam svoje bivše kolege u WhatsAppu.

Rekli su mi da ne mogu ništa komunicirati sa mnom zbog

problema s privatnošću, ali bih trebao kontaktirati Citizen Lab

i vidjeti mogu li pomoći. Pa sam se obratio Citizen Labu.

Razgovor je krenuo da su ti slučajevi iz

WhatsAppa vjerojatno samo vrh sante leda, hm,

i da mi... da smo se malo organizirali i imali

nekakvu strategiju, vjerojatno bismo našli više.

Zašto bi ljudi diljem svijeta trebali

mariti za hakiranje koje dokumentirate

ovdje u Kataloniji?

Ovo će biti jedan od prvih slučajeva kada

postoji tako velik i golem broj pogođenih ljudi

i iz velike i različite vrste

kategorija, hm, društva.

Tako da smo imali na meti Parlament Katalonije.

Na meti smo imali vladu Katalonije.

Imali smo odvjetnike na meti.

Imali smo, uh, civilne vođe

org-- kulturnih organizacija Katalonije na meti.

Ovo nije neki budući Orwellov scenarij.

Stvarno... Dogodilo se ovdje.

- To se događa ovdje. - To se događa ovdje.

Citizen Lab sumnja da ljudi u Kataloniji

meta su iz političkih razloga.

Katalonija je poluautonomna regija u Španjolskoj,

s Barcelonom kao glavnim gradom.

Tamo postoji značajan dio stanovništva

koji želi da Katalonija bude neovisna država.

Godine 2017. katalonski su čelnici organizirali referendum

gdje su tražili od birača da odluče

ako bi regija trebala biti neovisna.

Španjolska vlada u Madridu

proglasio referendum nezakonitim

pa čak i pretresli biračka mjesta na dan izbora.

Tenzije su i danas prilično visoke

između Katalonije i Madrida.

A ima i puno katalonskih političara

koji još uvijek favoriziraju neovisnost.

Pridružio sam se Eliesu u Parlamentu Katalonije,

gdje je testirao telefone političara.

Provedi me kroz ono što

radiš i što nalaziš s ovima.

- Da, pa analiziramo uređaj. - Da.

I pokušavamo pronaći tragove

da je postojao zlonamjerni softver

u nekom trenutku u tom-- u tom uređaju.

A kako to činimo kroz neke analize na uređaju.

Ekstrahiramo datoteku i učitavamo

je u oblak, a oblak radi analizu

od, uh, pokušaja pronalaženja tragova.

Što je sljedeće? Dolaze vam saborski zastupnici, zar ne?

Da, europski član Parlamenta

koji je trenutno u Barceloni,

i, uh, njegovo ime je Jordi Sole,

i, uh, razgovarat ćemo s njim

i pogledajte sada njegovu napravu.

Sjajno.

Hola, que tal?

Zdravo. Laura.

Kada izgleda da ste bili zaraženi?

Moram provjeriti, uh, datum.

Ali negdje tog dana imenovan

sam članom Europskog parlamenta.

Kako se osjećate znajući da ste

možda ugroženi na ovaj način?

Pa, osjećam se iznenađeno i ljuto u isto vrijeme... u isto vrijeme.

Uh, i to je, uh, nekako je ironično jer

sljedeći tjedan, u Europskom parlamentu,

glasat ćemo za osnivanje istražnog odbora o Pegazu.

Hm, znači...

to je-to je samo... to je samo ironično

da sam prije nekoliko dana saznao,

kao član Europskog parlamenta,

da sam zaražen Pegazom.

Što je s tobom, Elies?

Što vam prolazi kroz glavu svaki put kad vidite

da se na tom ekranu pojavljuje pozitivan rezultat?

Razmišljam o težini situacije.

Pogotovo ovi slučajevi gdje su

zastupnici u Europskom parlamentu

jer pogađa, uh, 450 milijuna ljudi,

građana, i kršenje njihovih prava.

Hm... Da, svaki put otkrijemo jedan

je-je, hm, slično intenzivan

u smislu shvaćanja, uh,

važnosti toga i težine toga.

Zašto mislite da ste hakirani?

Pa, hakiran sam sigurno jer sam, uh,

za neovisnost.

Tako da sam siguran da ovdje

postoji volja da se drži pod kontrolom

političari koji predstavljaju, uh, volju za

neovisnošću u Kataloniji u nekoliko institucija.

Tražite li neke pravne lijekove?

Mislite li da ćete na neki način podnijeti tužbu?

Branit ću svoja prava do kraja.

Jordi nije bio sam.

Elies je neprestano otkrivao sve više infekcija

na telefone aktivista i odvjetnika i političara.

I također nije bio samo Pegaz.

Ovi testovi su otkrivali dokaze

da su i Katalonci bili na meti

s drugim oblicima špijunskog softvera konkurentskih tvrtki.

Jednog dana Citizen Lab pronašao je dokaz nečeg rijetkog.

Lokalni aktivist bio je zaražen špijunskim softverom

na svom osobnom laptopu

to je još bilo uživo

a usred svog napada.

- Zdravo, Joan. - Bok. Bok.

Sjajno je napokon se osobno upoznati.

Hvala ti što radiš ovo.

Joan Matamala je aktivistica

povezan sa separatističkim političarima.

Njegov laptop bio je zaražen špijunskim softverom

napravila druga izraelska tvrtka Candiru.

Elies je pokušao eksfiltrirati softver

i proučite ga prije nego se samouništi.

Ovdje si, uh, sjedio kad, uh...

kad si saznao za hakiranje?

Radio je tamo kada je primio

poziv da trenutno ima živu infekciju.

I koji je ovo bio datum i vrijeme?

veljače 2021.

Reci mi što si napravio od tamo.

Da. Pa mu je trebalo malo vremena da nabavi tu aluminijsku foliju.

Zamotao je dva računala.

Koji je cilj pakiranja u foliju?

Vi stvarate ono što se zove Faradayev kavez, zar ne?

Omotavanjem i-i stvaranjem Faradayeva kaveza,

uh, mi zapravo štitimo uređaj

od primanja vanjskih uputa

da se softver sam izbriše ili uništi

kako bi, uh, uklonili ili potencijalno uklonili

dokazi da je taj softver bio tamo.

Posebno je važno moći snimiti

softver uživo ili aktivno na računalu

tako da možemo razumjeti kako radi,

uh, kako ugrožava operativni sustav.

Dakle, on je stvarno radio nešto što je

usluga istraživačima ove vrste tehnologija.

Da, njegova je akcija zapravo pomogla

Microsoftu da shvati kako ovaj softver,

Candiru, utjecao je na ovaj operativni sustav.

I nekoliko mjeseci kasnije,

Microsoft je zapravo razvio

zakrpu koja je, uh, riješila ranjivost

da je ovaj, uh, softver zapravo iskorištavao.

Iznenađujuće je da samo limena folija može djelovati.

- Da, to je fizika. - Da, da. Ima smisla.

Malo staniola puno je doprinijelo.

Proliferacija špijunskog softvera diljem svijeta

ostavio je vlade da muče da odgovore.

A to uključuje i Sjedinjene Države.

Iako NSO tvrdi da blokira njihov špijunski softver

od ciljanja američkih telefonskih brojeva,

Zaposlenici američke vlade koji rade u inozemstvu

njihovi strani telefoni su hakirani pomoću Pegasusa.

Apple upozorava najmanje 11 američkih diplomata da

su im iPhone hakirani u posljednjih nekoliko mjeseci.

Hakeri su navodno koristili špijunsku

tehnologiju nazvanu Pegasus.

Ali američka vlada

također je kupac komercijalnog špijunskog softvera,

uključujući Pegaza.

Interni dokumenti do kojih je došao New York Times

otkrivaju da su neki dužnosnici FBI-a pokušali rasporediti

Izraelski alat za hakiranje Pegasus.

Razumijem da ste kupili

program i testirali ga. Je li to točno?

Imali smo ograničenu licencu za testiranje i procjenu.

Testirali smo i procijenili, i to je... to je gotovo.

Nije korišten ni u kakvoj istrazi ni protiv koga.

Prijavljeno je da je NSO također bacao

američke policijske uprave

na softveru sličnom Pegazu

dizajniran za korištenje na tlu SAD-a.

Zakonodavci se bore s obje strane ovoga--

kako zaštititi Amerikance od ovih napada

i kako kontrolirati američku upotrebu ove tehnologije.

Jim Himes je član ljestvice

iz obavještajnog odbora Predstavničkog doma,

koja nadzire američke obavještajne agencije,

uključujući FBI i CIA-u.

- Bok, Ronane. - Hej.

- Kako si? - Puno hvala što radiš ovo.

Da. Drago mi je vidjeti te osobno. Znam da smo razgovarali

telefonom, ali mislim da se nikad nismo osobno sreli.

Što mislite o tome koliko bi američka vlada trebala

imati sposobnosti za kupnju ove vrste tehnologije?

Prije svega, bila bi vrlo ozbiljna pogreška

jednostavno zabraniti kupnju tehnologije.

Trebamo naše stručnjake da znaju što je vani.

Nemam ništa protiv toga da FBI

kupi tehnologiju da bi to razumio.

Zatim dolazi kompliciranije pitanje,

"Želimo li da ga FBI može koristiti?"

Mislite li da je odgovor

zabrana operativne uporabe?

stranog komercijalnog špijunskog softvera od strane američke vlade?

Ne.

Ne, trbušnjaci - apsolutno ne.

Odgovor je, obavite

naporan posao osiguravanja

da je provedba zakona koristi u

skladu s našim građanskim slobodama.

Trenutno ovdje koristimo mnogo apstrakcija.

Imam dvije kćeri.

Što ako je jedna od mojih kćeri oteta?

Želim taj alat. Želim taj alat.

I bilo bi krajnje neodgovorno od mene da kažem,

"Postoji taj nevjerojatan alat

koji bi mogao pasti u ruke Iranaca,

sjevernokorejci, kinezi...

i nećemo dopustiti FBI-u da to koristi."

Dopustit ćemo FBI-u da ga koristi.

Pobrinut ćemo se da ga koriste u kontekstu naših

građanskih sloboda, i, dobro, hoće li biti savršen?

Ne, neće.

To će, s vremena na vrijeme, biti zloupotrijebljeno.

Ali pomisao da ćemo, po prvi put u našoj povijesti, reći

da ćemo svim negativcima dopustiti da imaju tehnologiju

koji nećemo koristiti, hm, to je nov koncept.

I-i kad stvarno dobro razmisliš, uh,

pomalo zastrašujući koncept.

Moralo bi se puno toga promijeniti da bi bio transparentan

i imati proces odobravanja koji ispunjava taj prag.

To nije prostor u kojem sada djelujemo

kada ovu tehnologiju koristi vlada SAD-a.

To je točno. I zato kažem

jedna od hitnih stvari koje bismo trebali-- trebali bismo učiniti,

što bismo trebali činiti, gradi zaštitu oko načina na

koji bi američka policija mogla koristiti ovu tehnologiju.

Što se tiče hakiranja američkih dužnosnika, jesu li

američki dužnosnici u inozemstvu, a možda i općenito,

podložni većem broju napada pomoću ove vrste

tehnologije nego što je javnosti poznato?

Da.

- I-- - Značajno više.

Značajno više.

Jeste li svjesni infekcija ove vrste

koje su se dogodile na tlu SAD-a?

Možda je najbolji način da na to odgovorite

da ova tehnologija ne poznaje granice.

Slučajno ne znam za namjerno

gađanje Amerikanaca na tlu SAD-a.

ja sam također...

Nemam povjerenja da se to nije dogodilo.

Bijela kuća mi je rekla da još uvijek istražuju

kako špijunski softver utječe na nacionalnu sigurnost.

A onda su mi rekli nešto što ću objaviti

po prvi put--

koje je Bidenova administracija planirala

izvršna uredba kojom se zabranjuju vladine agencije

od kupnje ili korištenja

barem neke vrste stranog špijunskog softvera.

Izvještavao sam o tome nekoliko godina,

i stvarno nisam našao nikakve vlade

koji pružaju smislenu transparentnost

o tome kako koriste te alate.

Uh, ovo je-- ovo je Ariella,

osoba za komunikaciju u NSO-u,

šalje mi palac gore da će mi nabaviti...

Reći ću, "Mnogo cijenim."

Ona će mi dati posljednju izjavu koju imaju.

Desetak je zemalja koje se spominju u ovom članku

i svakoj od njih trebalo se obratiti za komentar.

Neki od njih su htjeli komentirati, neki nisu.

Neki su htjeli samo tajno

komentirati, ali ne i zapisnički.

Ima puno toga za žonglirati s ovim, a ja

moram žuriti i ocrtavati ostatak ovog djela.

Avey, jesmo li ovdje?

- Ovdje smo. - Ovdje smo. U redu.

Da.

- Drago mi je vidjeti te. - I tebi.

- Bok. - Jesmo li spremni? U redu, dobro.

- da - U redu.

Avey. Sjajno.

Hm...

U redu.

- Hvala puno. - Hvala.

U redu.

- Jeste li sve zatvorili? - Mmm...

Da, ali, kao, dame se još uvijek igraju.

Četvrtak je, a časopis se zatvara danas.

- Da. - Kao dovršetak.

Da.

- To je to. - Da.

- To je to. - U redu.

Mislim da je-- jako dobro čita.

U redu, samo ćemo proći kroz ovaj lijepi standard.

Znaš što radiš. Idemo.

U svom izvješćivanju suzili ste niz

napada Pegaza na uključene osobe

u katalonskom pokretu za neovisnost u Španjolskoj.

Jeste li uspjeli potvrditi ove hakove

s NSO-om ili španjolskom vladom?

Izvršni direktor NSO grupe, Shalev Hulio,

vrlo je jasno govorio o nekim zemljama

za koje sada znamo da koriste njegovu tehnologiju, uključujući i Španjolsku.

I u tom slučaju, rekao je, znaš,

Španjolska je demokracija.

Uh, ako odluče koristiti ove alate...

- To je na njima. - To je na njima!

A španjolska vlada, sa svoje strane, nije

odgovorila na naše zahtjeve za komentar o tome.

Mislite li da je moguće imati svijet u kojem

takvo što postoji i koristi se odgovorno?

Pa gledamo borbe koje će

diktirati odgovor na to pitanje

igrati odmah.

I jedna od stvari koje razbijamo

po prvi put u ovoj priči je-je da Bijela kuća

aktivno provodi zabranu na razini američke vlade

o kupnji ove vrste komercijalnog špijunskog softvera.

Jer imaju svoje?

Pa, sigurno određene američke agencije imaju svoje.

Ali, znate, u prošlosti su

drugi uredi američke vlade

također su kupili ove vrste alata.

I mislim da postoji sve veće razumijevanje

da je ovo, uh, tehnologija koja ima

nevjerojatno destruktivan trag u

svijetu, i samo se moramo nadati

da neki od tih regulatornih napora

mogu obuzdati njegove najrazornije učinke.

U svojoj posljednjoj istrazi novinar Ronan Farrow

zakopao se u industriju špijunskog softvera.

U novom eksplozivnom izvješću u The New Yorkeru Ronan

Farrow opisuje dvije godine koje je proveo kopajući

u ogromnu industriju špijunskog softvera.

Ronane, prijatelju, ovo je strašna stvar! Hm,

prije svega, samo kratko, za one koji ne znaju

što je to, što je Pegasus i tko ga proizvodi?

Osnovno je da može probiti telefon.

Osjećaj je kao da je mačka izašla iz vreće, zar ne?

Kako to kontrolirati?

Što se tiče vaše točke, nakon što su podaci

eksfiltrirani, šteta je, u određenom smislu, učinjena.

Članak se zove "Kako demokracije

špijuniraju svoje građane" Ronana Farrowa.

Ronane, hvala što si nam se pridružio.

Članak u The New Yorker i rezultati

istrage Citizen Laba koju vodi Elies

imao golem odjek u Španjolskoj

i konačno pomogao rasvijetliti tko stoji iza svega ovoga.

Nakon što je isprva negirao prijavu,

španjolska vlada u Madridu

priznao da je špijunirao neke od Katalonaca.

Šef španjolske obavještajne agencije

je otpušten usred kontroverze.

Skandal se pročuo

kao "CatalanGate."

Na popisu ciljanih pojedinaca

bila Eliesova vlastita obitelj.

Je li tvoja obitelj dobro?

Da, moja obitelj je u redu. Bili su iznenađeni.

Jeste li iznenađeni što su i oni hakirani?

Da. Bio sam na večeri sa svojim roditeljima,

uh, samo nekoliko tjedana prije objave.

Rekao sam ocu: "Objavit ćemo ovo izvješće.

Vjerojatno će imati utjecaja u

Španjolskoj jer je prilično ozbiljno."

I tako smo provjerili njegov telefon, i

nekoliko sati kasnije dobili smo rezultate

i, hm, dobili smo potvrdu.

Sljedeći dan smo testirali moju mamu

i, ovaj, otkrili smo da je i ona bila meta.

Dakle, pratili su te i pokušavali dobiti

tvoju komunikaciju preko tvojih roditelja.

Vjerojatno nisu uspjeli ciljati moj uređaj,

jer imam američki, uh, telefonski broj,

a ciljali su na moju obitelj

in-kako bi pokušao doći do informacija

koje su tražili.

Čime se vaši roditelji bave?

Specijalizirali su se za, uh,

patologiju i, uh, vaskularne bolesti,

i rade na Sveučilištu u Barceloni i bolnicama

u Barceloni, istraživačkim centrima.

Dakle, tko god je imao pristup tim uređajima,

zapravo je imao pristup, uh, potencijalno,

stotine razgovora ili stotine podatkovnih

točaka e-pošte, poruka, fotografija,

pacijenata diljem svijeta.

Ne samo da su imali pristup

kartonu pacijenata njegovih roditelja,

također su potencijalno imali mogućnost snimanja

audio ili video Eliesa

kad god je bio u sobi s telefonima svojih roditelja.

Dakle, Elies je započeo testiranje

ostali telefoni članova njegove obitelji,

uključujući i njegovu sestru.

Uključujući Eliesovu obitelj,

Citizen Lab je otkrio da oko 70 ljudi u Kataloniji

bili su meta špijunskog softvera.

Od objavljivanja tih nalaza u Španjolskoj,

Citizen Lab je dokumentirao korištenje Pegasusa

protiv vladinih službenika u Ujedinjenom Kraljevstvu,

aktivisti u Armeniji,

novinari u Meksiku,

i prodemokratski prosvjednici u Tajlandu.

U ljeto 2022.

Shalev Hulio je odstupio

kao glavni izvršni direktor NSO grupe.

Nastavio je osnivati novi start-up

u prostoru kibernetičke sigurnosti.

U međuvremenu, u ožujku 2023.

slijedila je Bijela kuća

o planovima koje su otkrili u mom članku u New Yorkeru.

Prije samo nekoliko sati,

Predsjednik Biden izdao je izvršnu

naredbu kojom se, po prvi put,

zabranit će našoj vladi korištenje komercijalnog špijunskog

softvera koji predstavlja rizik za našu nacionalnu sigurnost

ili koje su zloupotrijebili strani akteri kako

bi omogućili kršenje ljudskih prava u inozemstvu.

Izvršna uredba zabranila je savezne agencije

od kupnje špijunskog softvera koji su zloupotrijebile druge vlade,

koristi se za ciljanje Amerikanaca,

ili na drugi način ugrozio nacionalnu sigurnost.

Ali to nije opća zabrana

o kupnji svih špijunskih programa.

I zapravo, samo nekoliko dana kasnije,

SAD i 36 drugih zemalja,

uključujući Španjolsku,

objavio je izjavu u kojoj se ocrtava

kako vjeruju da vlade mogu koristiti komercijalni špijunski softver

i dalje poštuju ljudska prava.

Vratio sam se u DC pritisnuti službenike Bidenove administracije

o ovome.

Nathaniel Fick prvi je veleposlanik

za novonastale

Ured za kibernetički prostor i digitalnu politiku.

Što biste željeli da ova

izvršna uredba sadrži, a ne?

Što mislite, koja je meka točka u tome?

Mislim da dio stvarnosti to još ne znamo. Pravo?

Ti-ti-ti nešto napraviš

a ti ga izbaci u svijet.

A svijet je dinamično mjesto.

Naši su protivnici inovativni, pametni i dobro opremljeni.

Stoga ćemo se prilagoditi prema potrebi.

Zapanjen sam činjenicom da sadrži tako malo o

tome što činimo radimo sa špijunskim softverom.

Nema prijedloga, nakon što prodavač

špijunskog softvera prođe provjeru

kroz objektiv ove izvršne naredbe,

kako to izgleda?

Što onda možemo učiniti s tom tehnologijom?

Zašto?

Sjedinjene Države koriste sve alate

nacionalne moći u potrazi za našim interesima,

uh, utemeljeno na našim vrijednostima.

I tako, mi vjerujemo i otvoreno priznajemo da

postoje legitimni organi za provođenje zakona

i korištenje ovih tehnologija u nacionalnoj sigurnosti.

Kružile su brojne zajedničke izjave...

Španjolska je potpisala jednu od ovih izjava.

Očito je da je administracija u Madridu upletena

u jednu od najvećih špijunskih operacija u zemlji

u svojoj zemlji, u svijetu.

Uh, što mislite o tome da su oni potpisnici?

Mislim da je natjerati zemlje

da se javno usklade s načelima

je uvijek dobra stvar.

Čak i ako je licemjerno?

I onda moramo nastaviti držati njihove

noge vatri, baš kao što činimo sami sebe,

kako bismo bili sigurni da živimo u skladu s implementacijom.

Imao sam razgovore sa stranim dužnosnicima koji su rekli,

“Pa, želite da imamo više transparentnosti u vezi ovoga.

Želite da imamo jasnije putove za sudski nadzor

za-za ove-ove vrste alata.

Uh, gdje je to iz Sjedinjenih Država?"

Mislim da je Izvršna uredba izjava da

sve što je bilo prije nije bilo adekvatno.

I-I ovo je vrlo jak pokušaj

da postavi te zaštitne ograde na mjesto.

Moja je percepcija, kopajući po ovom pitanju,

bila da ćemo neizbježno imati prvi veliki skandal

gdje se ovo koristi za skaliranje na američkom tlu.

Mislite li da ide putem većeg domaćeg utjecaja?

Mislim da ne možemo vratiti

tehnološkog duha u bocu.

To je na neki način nesretna stvarnost ovih stvari.

Dakle, jednom kada su vani u svijetu, hm,

svaka podla upotreba koju možemo zamisliti,

vjerojatno ćemo vidjeti.

I tako bismo bili dobro usluženi

razmišljati unaprijed u vremenu,

hm, i predvidjeti takve stvari.

Špijunski softver je tu da ostane.

Industrija i dalje raste.

Postat će sve sofisticiraniji,

nametljiviji,

i lakše se sakriti,

pogotovo dok svjedočimo svitanju nove ere

umjetne inteligencije.

Ovo je još uvijek uglavnom neregulirana kategorija

tehnologije,

onaj koji će uvijek biti zavodljivo koristan

za provođenje zakona

i uvijek predstavljaju prijetnju demokraciji

i ljudska prava.

Tehnologija reorganizira život u svijetu.

Predsjednik Biden voli reći da

smo, na mnogo načina, na prekretnici,

gdje su odluke koje donosimo

sada iu sljedećih nekoliko godina

vjerojatno će oblikovati sljedeća desetljeća.

Komercijalni špijunski softver će se nastaviti

oblikovati sukobe diljem svijeta.

Ostaju pitanja o ulozi ovih alata za nadzor

su igrali u ratu između Izraela i Gaze.

Od Hamasovog napada 7. listopada 2023.

tvrde izvori bliski NSO-u

izraelska vlada koristi Pegasus

pokušati pronaći taoce.

I u Poljskoj su otvorene dodatne istrage

i u Jordanu.

Vlade i zakonodavci

će se boriti da uhvati korak s ovom tehnologijom.

Tehnološke tvrtke će se morati jače boriti

da se brane

naspram prepunog međunarodnog krajolika

nevidljivih protivnika.

Poruka je da neprovjereni špijunski softver

predstavlja rizik za nacionalnu sigurnost

za slobodna društva.

Više običnih civila biva uhvaćeno u zamku,

njihovi najprivatniji podaci ukradeni

i potencijalno iskorišteni.

Bit će više obitelji i zajednica

preokrenut ovim.

Bit će još hitnih potreba

za rad aktivista i istraživača

izvlačeći ovo iz sjene.

Ovo je važno pitanje.

Mislim da će stvari postati gore prije nego što postanu bolje.

Unatoč mjerama koje su poduzete,

industrija će samo nastaviti rasti.

Inače, jedini put prema privatnosti

možda živimo bez naših telefona.