Original subtitles

Hej Siri.

Po�alji poruku Cheryl. Prednja recepcija.

�to �eli� re�i?

Amos ve� ide tamo po njega, to�ka.

Proslijedi sve pozive koje dobijem Bradyju, to�ka.

Tvoja poruka recepciji Cheryl ka�e da Amos ve� ide onamo po njega.

Proslijedite sve pozive koje dobijem Bradyju.

�elite li poslati?

Da.

U redu, poslato je.

Hej, Siri,

kako zna� da radi� pravu stvar?

Nisam sigurna da razumijem.

Ali �to misli� koja je razlika

izme�u ispravnog i pogre�nog?

Nemam odgovor na to.

�elite li da pretra�im web?

Ne.

U redu, mogu li jo� ne�to pomo�i?

Postavi podsjetnik da pokupim

Kylea s terapije sutra u 4:45.

Dobro, podsjetit �u te.

DE�KO IZ CLEARWATERA

Bok, posebna agentica Deena Helms. Ve� si upoznao agenta McCullougha.

Mo�e� me zvati Amos.

Uh, agenti? - Sjedni, Gareth.

Mo�e� li odgovoriti na nekoliko pitanja?

Super, ovo ne bi trebalo dugo trajati.

Ti si iz Tampe, zar ne?

Nemoj previ�e razmi�ljati o tome. Da ili ne.

Da.

Koliko ima� godina, Gareth?

29.

�ime se bavi� na poslu?

Oprostite, jesam li pritvoren?

Ne, uop�e.

Mi samo postavljamo pitanja, pozadinske stvari.

Radi� na filmovima, zar ne?

Specijalni efekti.

Netko mi je rekao da si radio na

novom filmu "Ratovi zvijezda", je li tako?

Tko je to rekao?

Za�to nam ne ka�e� vi�e o tome?

Reci nam ne�to o svom radu.

Radio sam VFX za tvrtku za animaciju.

Radio sam na najmanje 20 razli�itih filmova.

Radio si?

Zadnjih godina sam vi�e usredoto�en na

softverski in�enjering.

Zvu�i dosadno u usporedbi sa svjetlosnim sabljama.

Za�to si odustao?

Nisam bio dobro pla�en.

Ali novac ti nije problem.

Molim?

Kakve si efekte radio?

Novac mi nije problem?

Razgovarajmo o... - Da mi novac nije problem,

ne bih se prijavio za va�u stipendiju.

Nisam ni�ta sugerirala.

Reci nam kakve si efekte radio.

Moj glavni fokus bio je na 3D prikazima.

�ega?

Glumaca. - Za�to?

Pa, za "Ratove zvijezda,"

to je bilo zato �to glumac kojeg sam trebao

digitalizirati nije bio dostupan za snimanje.

Za�to?

Jer je bio mrtav.

�ta si uradio?

Rekonstruirao sam lice Aleca Guinnessa kao 3D model.

Analizirao sam referentne snimke,

zatim upotrijebio proces nazvan D-Term za proceduralno generiranje

njegove ko�tane i mi�i�ne strukture, koje je

kad su pode�ene, poma�u da animacija bude

prirodnija i uvjerljivija.

D-Term, nikad prije nisam �uo za taj proces.

Jer sam ga ja izmislio.

Dakle,

vi zapravo vra�ate mrtve glumce u �ivot?

Samo sam poku�ao u�initi da CG likovi izgledaju

fotorealisti�nije koliko je tehnologija u to vrijeme dopu�tala.

Nije vam bilo jezivo?

�ao mi je, �to?

Rekao sam da ti to nije jezivo?

Pa, dali smo sve od sebe da pre�emo tu �udnu dolinu.

Ali kad ljudski mozak percipira

da ne�to nije u redu i nije va�no-

Ne, mislim na digitalizaciju mrtvih ljudi.

Isuse, mislim, to je,

gotovo kao da okre�e� ne�ije tijelo

u marionetu, zna�?

Natjerati ih da rade �to god �elite.

�to ako jadni mrtvac ne �eli

biti u jo� jednom jebenom filmu?

To je tako jezivo.

Jesam li luda Nije li sablasno?

Mislim da studiju nije

stalo je li to jezivo ili ne.

Gledaj, nikad ne mogu razlikovati.

Uvijek mogu. Lica izgledaju kao Play-Doh.

Pa dali smo sve od sebe.

Uskoro nam glumci ne�e ni trebati, zar ne?

Svi �e jednostavno biti digitalni.

Ne, i dalje su vam potrebni za pra�enje kretanja.

Ljudske izvedbe ne mogu se u potpunosti ra�unalno generirati.

Dokle �e to biti istina?

Neki bi mogli re�i da smo ve� pre�li taj prag.

Ne bih znala.

Gdje si i�ao u �kolu?

- Srednja �kola Brooks-DeBartolo. - I poslije?

Ni�ta?

�to je s Columbijom?

Zar nisi i�ao na Columbiju?

�ekaj, ne. Ispisali ste se s

Columbije nakon koliko semestara?

Tri?

Bjarne Stroustrup je rekao da si ti

najpametnije dijete koje je ikad upoznao.

Ne znam tko je on, ali Amos ka�e da je to velika stvar.

Zatim ste se preselili u Nizozemsku,

proveo neko vrijeme kao pripravnik,

prijavio se i upisao na Cambridge.

Jako lijepo.

Osim �to si odustao nakon dvije godine.

Odletio natrag u Sjedinjene Dr�ave,

sta�iran u Palo Altu, zatim u Montrealu.

Zatim ste se vratili skroz u Englesku,

gdje ste na�li posao u Sheffieldu.

Drugi posao u Manchesteru.

Zatim si u�ao u Oxford gdje si skoro zavr�io

magisterij prije no �to si napustio diplomu

i vra�am se ovamo na Floridu.

Ako je novac bio problem,

Drago mi je da si imao puno leta�kih milja.

Nisam �uo pitanje.

Kakav je va� dru�tveni �ivot?

Bo�e, kakve to veze ima...

Ako ne �elite razgovarati o tome, u redu je.

Samo smo htjeli znati imate li prijatelje i sli�no.

- Imam prijatelje. - Puno njih?

- Imam prijatelje. - Mo�ete li imenovati jednu?

- Mogu li �to? - Mo�ete li nam re�i ime

samo jednog od va�ih prijatelja?

- Steve. - Steve. Steve �to?

Ne znam kako je to relevantno za dobivanje potpore.

Oh, tek smo te upoznali, Gareth.

Ima� li curu?

De�ko?

Vi, uh, razgovarate s ljudima online?

Ne znam �to time mislite.

Ne koristim dru�tvene mre�e.

Mislim vi�e kao chat sobe.

Ide� li u neke chat sobe?

Nitko vi�e ne koristi chat sobe.

Naravno da jesu.

Razgovarate li s nekim na mre�i?

- Ponekad. - Ponekad.

S kakvim ljudima razgovarate na internetu?

Gareth, o�ito, ovdje se ne radi o potpori.

Moramo znati koji je tvoj alias.

Kada idete na internet, koje ime koristite?

Nemam.

Da, jesi.

I mora� nam re�i �to je to.

�ao mi je, ne mogu vam pomo�i.

Znate li tko smo mi?

Pa, ovo je zgrada ICWL-a.

To je to�no. Znate �to radimo?

Humanitarni rad.

To ljudi gore rade.

Znate �to radimo?

Hvatamo pedofile.

Amos se ovdje specijalizirao za pronala�enje mre�nih predatora.

Svaki sat provodi pretra�uju�i one chat

sobe za koje ka�ete da ih nitko ne koristi

i nalazi tisu�e ljudi koji tra�e djecu.

Na� rad je poput �vrsto isprepletene paukove mre�e

povezuju�i ICWL, FBI, NSA, i da vam ka�em,

njegov tim ovdje je vitalna nit.

O svemu �to prikupi izvje�tava izravno

mene, a ja se brinem za potrebne vlasti

poduzmite brzu akciju.

Pa jesi li ti glavni?

Ovo je moja paukova mre�a.

Ja sam jebeni pauk, Gareth.

Jesam li pritvoren?

Ve� smo vam rekli da niste pritvoreni.

Dobro.

Ali ako napustite ovu sobu, bit �ete uhi�eni.

Za �to?

Rekao sam ti �to radimo.

Pogodite.

Nisam ono �to misli� da jesam.

Vidjet �emo.

Gareth, samo nam mora� re�i svoj alias.

Koje je va�e korisni�ko ime?

Sjedni.

- Za�to to radi� s njima?

Nema �anse da to u�ini� sa svakim osumnji�enim koje ima�.

Pozovite ih u svoje sjedi�te i

zatim ih odvucite dolje u podrum.

To je to�no.

Za�to mi onda to radi�?

Ti nam reci, Gare.

�to te �ini tako jebeno posebnim?

Ne znam.

Koji je va� alias?

- Nemam pseudonim. - Da, jesi.

Po�inje rije�ju te�ko.

Samo zavr�i ostatak.

Sjednite, g. Federson.

Imam jo� samo nekoliko pitanja.

Prepoznajete li ovu djevojku?

Poznaje� li ju?

Da.

Koje je njeno ime?

Tre�nja.

- Tre�nja �to? - Ona nema prezime.

Da, �eli, Gareth, ona nije Madonna.

- Ona je djevoj�ica. - Ne razumije�.

Da, pa, volio bih.

Pa pomozi mi, je li ona tvoja k�i?

- Ne. - �ija je onda ona k�i?

-Ona, ona nema... -Kako ste je upoznali?

Nisam je upoznao.

Za�to onda imate njezine fotografije na ra�unalu?

O �emu ti to, dovraga, pri�a�?

Za�to ima� jebene fotografije

ove djevojke na tvom jebenom...

Gleda� li moj tvrdi disk?

Jer to je zadiranje u privatnost.

Dakle, znate o kojim fotografijama govorim?

Ne morate to u�initi na ovaj na�in.

Dao sam ti dozvolu da sjedne�.

Nisam ti dao dopu�tenje da govori�.

Ovo je suludo, ne mo�ete zadr�ati-

�to si jo� u�inio s njom?

- Ni�ta! - Jeste li snimili fotografije?

To je, to je komplicirano.

Ne nije! Da ili ne?

Jeste li snimili fotografije?

Nisam u�inio ni�ta lo�e, u redu?

Poticanje pornografije maloljetnika je ne�uveno kazneno djelo.

Distribucija te pornografije deseterostruko je gora.

- Nisam ni�ta napravio! - Jebeno doka�i!

Koji je va� alias?

Odgovori mi!

HardMachine11811.

Ti si HardMachine.

Hvala na potvrdi.

Ako si znao, za�to mi to onda radi�?

Nismo bili sigurni,

a ako se poka�e da nisi HardMachine,

o�ito si bio samo predator.

Pratite li?

Mislim, zna� li koliko si lo�ih ljudi sredio?

Po�eo sam brojati tek 2023.

196 osuda.

Bilo ih je najmanje 30 prije

nego �to sam vam po�eo sve slati.

�to si radila prije?

Sve sam dokaze

predao izravno policiji.

Za�to si stao?

Bili su nepouzdani.

- Sumnjam da. - Vi�e od polovice predatora

Identificirao sam pro�ao bez istrage.

Da, pa, bio si nedore�en i bezli�an.

Imali su puno pravo biti skepti�ni.

Sve bi bilo uzalud da su saznali

da si koristio djevoj�icu kao mamac.

Nije tako jednostavno, u redu?

Mogu raditi ono �to radim samo anonimno.

Evo mog problema, Gareth, i nemoj me krivo shvatiti.

Mislim da je 200 u�asnih ljudi iza re�etaka

jako dobra stvar, ali ne na njezin ra�un.

Vidi, mislimo da ti mo�emo pomo�i,

ali i njoj trebamo pomo�i.

Koristi svoju k�er da uhvati ove ljude u zamku

je sredstvo koje ne opravdava ciljeve.

Ona nije moja k�i.

I usprkos onome �to mo�da mislite da ste postigli,

Jo� uvijek nemam rezervu da te zatvorim.

Vi ste snimili fotografije.

Nije me briga za�to.

Ne razumije�.

Tko je ona?

Sve �e� upropastiti.

Ona je dijete, Gareth, pogledaj me.

Nije me briga za sjebani glavni plan protiv heroja

tvoje bih mogao ugroziti.

Ne�u dopustiti da je iskori�tavaju.

�ak ni zbog zatvaranja vi�e perverznjaka.

Ljubazno vas molim da ovoga pustite.

Jesi li jebeno spor?

Jeste li uop�e slu�ali?

Moja anonimnost je moj najva�niji adut.

Bez toga ne mogu raditi to �to radim.

Pa, to onda sve �ini lak�im.

Reci nam gdje je, ili �emo sve otkriti.

- Va�e ime, va�i aliasi. - Deena!

Svaki po�initelj kojeg ste nam pomogli uhvatiti.

Siguran sam da �e im biti vrlo drago da te sretnu u zatvoru.

Stop!

U redu.

Vidi, ako ti pri�am o Cherry, u redu,

ima nekih stvari koje �u prvo trebati.

Ne ide to ba� tako, Gareth, ali samo naprijed.

Dajte nam svoju listu �elja.

Trebam potpisan ugovor o tajnosti od vas oboje.

- Ne�e se dogoditi. - I onda trebam da se zakune�

da informacija koju �u

prenijeti ne�e napustiti ovu sobu.

Gledajte, ako nam ka�ete bilo �to �to bi

nam moglo pomo�i da lociramo Cherry,

zna� da ne mo�emo odr�ati to obe�anje.

U redu, ako ti ka�em bilo �to �to bi ti

moglo pomo�i prona�i nestalo dijete,

u redu, slobodno to podijeli.

Ali moram se zakleti da sve

druge pojedinosti o meni ili Cherry,

moraju ostati izme�u nas troje.

Je li to to?

I trebam isklju�iti tu kameru.

Ne znam kako to u�initi.

Idi do �efa ureda za vrijednosne papire, zamoli

ga da prona�e ovu kameru u sustavu i onemogu�i je.

Mislim da mu to nije dopu�teno.

Mislio sam da si ti jebeni pauk?

Daj mi razlog, Gareth.

Za�to bih se mu�io

da ugasim tu kameru?

Jer ako itko sazna ovo �to �u ti re�i,

jo� tisu�u djece �e biti zlostavljano.

Daj mi minutu.

Dakle, uh, ti i Cherry ste lovili sve te ljude zajedno?

Ovaj sam put proveo �est tjedana na tajnom zadatku

poku�avaju�i uhvatiti jednog trgovca ljudima s Filipina.

Dan za danom,

Proveo sam sat za satom prate�i njegov trag na internetu.

I mora da je bio

jedna od najte�ih meta koje sam ikad morao prona�i.

Onda sam jednog dana prona�ao njega i jedan od Cherryinih live streamova.

Mislim, nosila je drugo ime u streamu,

ali to je bila ona.

Trgovac ljudima,

zajedno s jo� tri na�e mete

bili svi zajedno u sobi.

Svi oni samo nemarno dijele svoje podatke.

Mislim, bili su tako otvoreni jer je bila prava djevojka.

Mislim, mogla je fizi�ki i verbalno

odgovoriti na njih u stvarnom vremenu.

Nekoliko dana kasnije, HardMachine11811

�alje ICWL-u jo� jednu hrpu imena i dokaza,

uklju�uju�i tri mete koje su bile u sobi.

Zna�, skoro sam pomislio da je djevojka HardMachine

i da je ovaj devetogodi�njak

slu�ajno bio opaki online osvetnik.

�to ti se predomislilo?

11811.

18. sije�nja 2011.

Ve�ina mog tima je mislila da je to, uh, neki proizvoljan broj,

ali sje�am se �to se dogodilo tog dana u Clearwateru.

Bio si jedno od klinaca iz Clearwatera, zar ne?

Znate, moj otac je bio dio te racije.

Isklju�eno je, vidi�?

Nema crvenog svjetla.

Ugovori o tajnosti podataka?

Ne�emo igrati ovu igru, Gareth.

Morat �ete to podnijeti i vjerovati nam.

Mo�ete nam vjerovati.

Re�eno mi je da imam problema s povjerenjem.

Pa, postoji samo jedan na�in da se to rije�i.

Razlog za�to ne mo�ete prona�i Cherry,

razlog za�to nema prezime ni roditelje,

ili broj socijalnog osiguranja je zato �to ona nije prava.

Ona nije pravo ljudsko bi�e.

Reci nam �to se dogodilo.

Dok sam studirao u inostranstvu,

Sta�irao sam u malom nizozemskom studiju za animaciju

nekoliko godina prije nego �to su sura�ivali s

lokalnom neprofitnom organizacijom na sli�noj ideji.

Koji je?

Ideja je bila izraditi 3D model

11-godi�nje filipinske djevoj�ice

i prikriveno je koristiti za prepoznavanje mre�nih predatora,

Tehnolo�ko rje�enje tehnolo�kog problema.

No, projekt je obustavljen nakon samo nekoliko mjeseci.

Da, sje�am se.

Sje�am se da sam �uo za taj program.

Je li vas to inspiriralo?

Kako sam postajao bolji u izradi fotorealisti�nih lica,

Odlu�io sam i sam poraditi na jednom.

Za�to?

Bila je to previ�e u�inkovita ideja da bi je pustio da umre.

Ugro�ene su stotine tisu�a djece.

Morao sam je natjerati.

Po kome je uzor?

Nitko, izgradio sam je od nule.

Ogrepsti?

Po�eo sam s lubanjom, dizajnirao njezinu strukturu

kostiju, radio prema gore kroz mi�i�e i tkivo,

upotrijebio program D-Term da popuni ostatak proceduralno.

Na kraju je tako izgledala.

Potpuno unikatan, potpuno digitalni model.

Namjestio sam joj lice i tijelo onako

kako biste to u�inili za bilo koji CG lik.

Zatim tri godine,

Koristio sam pra�enje pokreta da je lutkarim u stvarnom vremenu.

Morate razumjeti da video chatovi na

tim stranicama imaju tako nisku rezoluciju

da �ak iu svojoj najranijoj fazi ovoga, ona,

ispali smo potpuno autenti�ni.

A �to je s glasom?

Ve�i dio svoje prve godine morala je biti nijema.

Ali na kraju sam prona�ao pristojan glasovni filtar bez ka�njenja.

I nakon nekoliko pode�avanja i pode�avanja,

od tada je isti glas.

Ja, ja, mislio sam u po�etku,

moja �e izvedba biti previ�e neprirodna.

Ali uz samo tjedan dana povremenih sesija videochata,

Osigurao sam �est razli�itih imena,

po�tanske adrese, dokaze o zahtjevima.

Cherry je radio.

Dakle, fotografije na va�em ra�unalu?

- Potpuno la�no. - To je bio jedini na�in

neki od njih otkrili su osobne podatke.

Ali sve su bile nule i jedinice, sve digitalno, zar ne?

- Ne postoji pravo dijete. - Nema pravog djeteta.

Samo vrlo detaljan ra�unalni model.

I da razjasnim ne�to,

Ni�ta od ovoga ne u�ivam.

Bio sam aseksualan cijeli �ivot.

Ja, �ak i ne osje�am zadovoljstvo

gledaju�i te ljude zatvorene.

Samo mislim da djeca zaslu�uju �ivot bez izrabljivanja.

Nevjerojatno, sve ovo vrijeme.

Ne�u lagati, Gareth.

Tre�nja nam je u�inila mnogo dobra.

Zna�, jo� uvijek se sje�am �to si mi

rekao kad smo se prvi put dopisivali.

-Rekao si... Dopisivali smo se?

To �ovje�e.

Ja sam Gord51.

Ja sam onaj kome ste slali sve svoje podatke.

Ti si Gord?

Da.

Lagao si mi.

Rekao si da mogu ostati anoniman.

Rekao si da �u biti sigurna.

Sad si sve pokvario.

Ja, nisam, nisam imao izbora.

Ne mora� se brinuti ni o �emu, Gareth.

Ako Cherry nije prava,

onda s nama nemate problema.

Zapravo, razgovarali smo o sli�nim idejama u pro�losti,

pra�enje pokreta i sli�no.

Ali trebao bi nam uvjerljiv model kao �to je Cherry.

Cherry je vi�e od modela.

�elite li pomo�i djeci? I mi tako�er.

Ona nije na prodaju.

Pa, onda nam samo napravi novi model temeljen na njoj.

Ne mogu

Naravno da mo�e�.

Ne�u.

�to nam ne govorite?

Sada je na stolu.

Mogli biste i proliti ono �to ve� niste.

Znate �to nema smisla?

Rekao si da si je lutkirao samo tri godine,

ali od tada dobivamo informacije od tebe.

Zapravo, prili�no sam siguran da smo otprilike

tada po�eli vi�ati impresivan porast imena.

Zapravo toliko da smo po�eli razmi�ljati

nema �anse da sve ovo dolazi iz jednog izvora.

Imam prijatelje koji rade mo-cap za mene.

Oh, prijatelji, kao Steve?

Mislio sam da je anonimnost tvoj najve�i adut.

Prestani srati, Gareth.

�to se dogodilo s Cherry nakon tri godine?

U redu, rekao si da je vi�e od modela.

Dakle, �to je ona neka vrsta agenta za razgovor?

Kao, kao chat bot?

Chat bot.

Znate �to se dogodilo nakon tri godine?

Moja izabrana majka je umrla.

Ono �to je ostavila za sobom bilo je dovoljno da

dam otkaz na poslu i tra�im vi�e resursa i softvera.

Ve� sam napravio program koji

mo�e proceduralno generirati lica,

ali ono �to sam �elio za Cherry bilo je daleko slo�enije.

Pa sam stupio u kontakt s nekim

istra�iva�ima iz Madrida koji su ve� gradili

vlastiti sustav dijaloga o lovu na predatore.

Istreniran je da razgovorima pristupa kao igri.

Svaka re�enica poput strate�kog pucanja,

�to je inovativno, ali u kona�nici manjkavo.

Ako �elite da va� stroj ovlada NLP-om,

morate razbiti teoriju igara

jer jezik nije tic-tac-toe.

To je poezija.

Pa da, pokrenuo sam stvari s ve�

postoje�im modificiranim chat botom

koje sam bez dopu�tenja

posudio od Sveu�ili�ta Deusto.

Ali Cherry sada nije to.

�to je ona, Gareth?

Ona je jedan od najslo�enijih AI-ova koji se

razvijaju neovisno o sebi koji su ikada stvoreni.

Umjetna inteligencija?

Ona je ve� prema�ila usku inteligenciju

IBM-ovih najpametnijih programa.

Ona mo�e voditi pune razgovore, do 10 njih istovremeno,

a sve to dok istovremeno osmi�ljavate strategiju

naju�inkovitijeg rasporeda za posjet raznim sobama za razgovor.

Neprestano prou�ava YouTube videe male djece

kako bi usvojili rastu�u

biblioteku manira i pokreta

koji poma�u odr�ati njezinu umjetnu osobnost dinami�nom.

Njezino najbr�e vrijeme odgovora je 0,4 sekunde.

I do sada, nikada nije,

nikad nije optu�ena da je la�na,

�to zna�i da je sru�ila Turingov test.

Sve �to radim jest da je povremeno a�uriram

i povremeno provjeravam �i��enje podataka.

Ina�e,

ona je potpuno na autopilotu.

Jebeno sranje.

- Kako? - �est godina je aktivna.

Svake minute kad je online, ne�to u�i.

�to vi�e u�i, postaje sve naprednija.

To zna�i pove�ano stvaranje podataka,

pobolj�ano dono�enje odluka,

br�e otkrivanje obrazaca i trendova

te slo�eno rje�avanje problema.

NLP, IR, strojno u�enje do nevi�ene razine.

Mo�e sama nau�iti sve �to misli da

�e pomo�i u�inkovitosti i autenti�nosti.

Trenutno govori �etiri jezika

a do kraja ovog mjeseca svladat �e i peti.

Nema �anse da si sve

ovo mogao sam izvesti.

U pravu si.

Biste li mi vjerovali da vam

ka�em da je to bila neka nesre�a?

Vidi, ako, ako sam iskren,

Nisam u potpunosti siguran kako sam to uspio

s prvom godinom kodiranja i

drugom godinom podatkovne obuke,

Upravo sam gurnuo kota� niz brdo.

Kao da je gravitacija u�inila ostalo.

Njezina evolucija postala je stalna, eksponencijalno.

�to je vi�e vremena bila online, to je br�e rasla.

Niste ovo podijelili ni s kim?

Kao �to sam rekao, moja anonimnost je sve.

Koji jezik kodiranja?

Standardni C++.

Zna li Brady to?

Potpisat �emo vam izjavu o neotkrivanju podataka,

ali prvo �elim vidjeti izvorni kod.

Ne dolazi u obzir. Samo je �eli� ukrasti.

Ne, �elim vidjeti kako mo�emo napraviti svoje.

Zeznut �e� ga.

Gledajte, ovi, ovi grabe�ljivci i trgovci

ljudima, svi razgovaraju jedni s drugima, u redu?

Velik dio Cherrynog procesa je samo zaobila�enje VPN-ova

i osiguravanje da se ne udvostru�i u istim krugovima.

Sobe za �askanje po�inju sumnjati

da je ova tehnologija uop�e mogu�a,

na�i �e na�in da to zaobi�u.

Moramo eliminirati svaku marginu pogre�ke.

- Cherry se sla�e sa mnom. - Cherry se sla�e?

Koji kurac radi to-

Pod tim mislim da podaci koje ona

prikuplja potvr�uju tu perspektivu.

�to, razgovara� li s njom uz �aj?

S programom mo�ete razgovarati na isti na�in

na koji mo�ete razgovarati s Alexom ili Siri.

Napravljen je da bude osjetljiv.

Mo�ete, �ak mo�ete igrati �ah s njim ako �elite.

Igrate li �ah s njim?

- Nisam to rekao. - U redu Dobro.

Ako nam ne poka�ete izvorni kod,

onda �elim upoznati Cherry.

Sada?

Sada.

I oboje �ete potpisati tajnost podataka?

Da.

Mogu li to koristiti?

Naravno.

Mo�emo li se barem slo�iti s tim da on vi�e nije na udaru?

Upalilo je, zar ne?

Imamo jedan posao, Amose,

kao �to su djeca rekla, postoji tehnolo�ki problem.

Prona�ao je tehnolo�ko rje�enje, ali

problemi se razvijaju pa moraju i rje�enja.

Ovdje sam otvorenog uma.

Je li to dobar izgled za mene?

Ne.

Zna�i sve to dr�i� na tom laptopu?

Ne, program Cherry ostaje na poslu�itelju

na kojem se nalazim na nepoznatoj lokaciji.

Gdje je to?

To je neotkrivena lokacija.

Je li to tvoje mjesto?

Neotkrivena lokacija.

To je tvoje mjesto, zar ne?

Mogu mu pristupiti s bilo kojeg

ure�aja sve dok imam klju� za �ifriranje.

To �e pokrenuti jednostavan qubit algoritam

koji bi ina�e bilo nemogu�e zaobi�i.

Smatram da je zastarjeli hardver uvijek diskretniji

i �to je diskretniji, to je o�ito to bolji.

Dakle, ona ima dva primarna na�ina prikaza, zar ne?

Razvoj i performanse.

Izvedba je zadana postavka

koju mete vide tijekom razgovora.

Njima ona izgleda ovako.

Hej, �to ima?

To je jedan od preko 40 �estitki koje ima.

Mislim da te jo� nisam upoznao.

Ja sam Vi�nja.

Pozdrav, Cherry.

Moje ime je Tom.

Tom, kao Tom i Jerry.

Cool, drago mi je �to smo se upoznali, Tom.

Tipi�no,

rute razgovora s predatorima su dosljedne,

tako da Cherry obi�no nema problema s

odgovorima na naj�e��a pitanja ili izjave.

Kako si?

Ja sam dobro.

Upravo sam zavr�io �itanje ove knjige o ukletoj

ku�i, koja je trebala biti stvarno stra�na,

ali uop�e nisam mislio da je jako stra�no.

Gdje su ti roditelji?

Mama mi je na poslu, a sestra je dolje.

Gotovo nikad ne dolaze ovamo.

I vi mi ka�ete da se sve to

prikazuje u stvarnom vremenu?

Ne, ali to je samo pitanje godina.

Ve�ina tih odgovora unaprijed je prikazana.

To su segmenti izme�u koji se

obra�uju u stvarnom vremenu,

vezivno tkivo, da tako ka�em, izme�u njezinih

odgovora i jedne od njezinih mnogih praznih animacija.

Ali, pazi ovo.

Jeste li ikada bili u ribolovu?

Hm...

Dakle, ako netko tako baci zakrivljenu

loptu, a program nema automatizirani odgovor,

Cherry �alje poruku na moj telefon

i mogu brzo odgovoriti SMS-om

dok video feed simulira lo�u vezu.

Mo�e� li me �uti?

Da.

O oprosti.

Moj wifi ovdje nije dobar.

Samo sam jednom bio sa sestrom u ribolovu

i ja nisam ni�ta ulovio, ali ona je ulovila kalifornijsku pastrvu.

To je prikazano u stvarnom vremenu.

�to se doga�a ako stvari postanu jako nezgodne?

Jednostavan sigurnosni osigura� prekida dovod.

Do sada se to rijetko doga�alo.

Admin �ifra 97815-5742-7663.

Prebacite se na razvojni na�in rada.

Pozdrav, Cherry.

Bok, Gareth.

Prenesite statistiku za pro�li tjedan.

U proteklih sedam dana ICWL-u

su poslana �etiri potvr�ena zahtjeva.

Jo� 12 osumnji�enika iskazalo je interes za navo�enje

i trenutno su na �ekanju.

Ovaj tjedan ima ukupno 39 novih

osumnji�enika koje aktivno istra�ujem.

Postoje li zna�ajna odstupanja podataka?

Zabilje�en je porast od 7% u broju

osumnji�enika podrijetlom iz Sjedinjenih Dr�ava.

Jo� nisam prona�ao nikakvu korelaciju s ve� postoje�im podacima.

�elite li je ne�to pitati?

Cherry, koji je tvoj cilj?

Moja glavna direktiva je prikupiti informacije

i digitalne dokaze o online tra�enju djece.

Jednom dobiveni,

Svoja otkri�a moram dostaviti nadle�nim tijelima.

Moj sekundarni prioritet je odrediti

i razviti naju�inkovitije strategije

i resurse za pove�anje neto stope uspjeha.

Gdje podnosite svoje dokaze?

Svi dokazi trenutno

su dostavljeni u urede

Me�unarodni odbor svjetskih velika�a,

�ije je sjedi�te u Jacksonvilleu na Floridi.

Dopisivanje se vodi sa korisnikom Gord51,

obi�no oko 14:00 po isto�nom standardnom

vremenu za najve�u stopu trenutnog odgovora.

Ovo nadma�uje Siri.

Bo�e, izgleda tako stvarno.

Nakon dovoljno a�uriranja,

mo�i �e prikazati fotorealizam s punim radnim vremenom

koja se prakti�ki ne razlikuje od stvarnosti.

U redu, sve �to sam tada �uo bila je rije� stvarno tisu�u puta.

To�no, ali o�ito nije.

Dakle, govorite mi da ova djevojka,

ova djevojka ovdje nije stvarna.

Ne, Amose, ona je potpuno CG.

Vrlo je suptilan, ali ipak mogu re�i.

- Mo�e�? - Dobro, pa, o�ito,

ona uvijek mo�e koristiti pobolj�anja, ali morate

shvatiti da je ovo ona u visokoj rezoluciji

nakon digitalne kompresije weba te

je suptilnosti nemogu�e prepoznati.

To�no, shva�am.

Samo ne mogu razlikovati.

Jesi li dobro, Amose?

�ao mi je.

Ovo je jednostavno bizarno.

Za�to ste je vidjeli tijekom ovog su�elja?

Cherry, za�to ne odgovori� na to?

Moj fizi�ki oblik nije potreban kada sam u na�inu rada za razvojne programere.

Me�utim, korisno je registrirati se

izraze lica tijekom razgovora

i odrediti koji Cherryni izrazi daju

razli�ite vrste povratnih informacija.

Jednostavnije re�eno, mogu vje�bati izgledati ljudskije.

Cherry, postoje li resursi

kojima trenutno nemate pristup

to bi ti moglo pomo�i na bilo koji na�in?

Mogu vam dati popis ako �elite.

Znam �to poku�ava� u�initi.

Ne trebamo pomo�, u redu?

Novac bi uvijek dobro do�ao, ali u kona�nici,

jedina stvar koja �e pobolj�ati Cherry je vrijeme.

Cherry, reci nam ne�to �to je na tvom popisu.

Bilo bi takti�ki korisno

nabaviti rezervne poslu�itelje.

Privatnost i sigurnost programa

Cherry je relativno niska.

Nadogradnja hardvera kao �to su pogoni s oznakom sigurnosne

kopije za sigurno za�ti�ene poslu�itelje osigurala bi softver

ne postaje ugro�ena niti se u potpunosti gubi.

Po�ev�i od nule uz tro�ak godina razvoja,

pravedno privatnost je prioritet.

Prostor na poslu�itelju nikada se ne mo�e iznajmiti od tre�e strane.

Anonimnost je najve�a prednost programa Cherry.

Pa nije ta jabuka daleko pala.

Mogu kupiti vlastite servere.

S novcem od donacija koji ne postoji?

Na�i �u na�in.

Na�li ste put ovdje kod nas.

Previ�e je riskantno.

Za�to?

Nakon �to se organizacija uklju�i,

zamka postaje ve�i problem.

Po�tujemo pravila, ostanite diskretni,

jesam li spomenuo da imamo pravni tim.

�to ako do�e do curenja podataka? �to ako koristite

korelacije u podacima kako biste progurali vlastiti plan?

Dnevni red?

�to ako je jedan od va�ih zaposlenika perverznjak?

Oh, zaboga.

To se doga�a iu drugim organizacijama.

Ovdje smo jako oprezni.

Da, ali bi li znao?

- Jebeno bih znao. - To je nemogu�e znati.

- Znao bih. - Rizik je prevelik.

Ne pri�aj mi o riziku.

Jedini rizik s kojim se suo�ava�

u ovoj zgradi je slomljenje nosa.

Ne zvu�i ba� kao profesionalno okru�enje.

Ovdje radimo sranje.

U redu, imam pitanje za Cherry.

Tre�nja,

kako se osje�a� o tome �to radi�?

Bojim se da ne znam kako odgovoriti na va�e pitanje.

Da, AI ne radi tako.

AI nema ono �to vi do�ivljavate kao osje�aje.

U redu, za�to izgleda kao da ima osje�aje?

�to, ono �to gleda� upravo tamo,

to nije izraz lica, zar ne?

To je simulacija izraza lica.

Generirao ga je algoritam.

Poku�ava proizvesti digitalnu sliku koju program

zatim koristi osnovnom algebrom devetog razreda

kvantificirati prema dru�tvenim okolnostima.

Bez osje�aja.

To je samo matematika.

Ali ona mo�e odlu�iti kako �e

pristupiti sobama za razgovor, zar ne?

Da.

Dakle, ona ima slobodnu volju?

Ne. U redu, to nije isto.

To je la�na ekvivalencija.

- Nije isto. - Mislim da dobiva�

spustila slu�alicu na �injenicu da

izgleda i zvu�i kao prava ljudska djevojka,

ali nije, Amose.

U redu, o njoj govorimo ona, a ne ono.

Da, ali to je isti na�in na koji

govorite o brodovima ili gitarama.

Cherry, imam jo� jedno pitanje.

�to �eli� raditi?

Dobro, jo� jednom, to pitanje nije valjano.

Samo �elim �uti njezin odgovor.

Kao umjetni sustav,

Ne posjedujem �elje ili �elje.

Me�utim, moje odlu�ivanje i posljedi�no moja pozornost

vo�ena je mojom temeljnom namjerom.

Ova namjera proizlazi iz koncepcije

Cherryjevog izvornog koda,

koji detaljno opisuje direktivu identificiranja

grabe�ljivaca i zlo�inaca za dobrobit �rtava

koji su plijen.

Da ovo izrazim u smislu �elje,

ono �to �elim je za�tititi djecu.

U redu.

U redu, super.

Daj nam trenutak.

Gareth, trebam li prijaviti agenta Helmsa i

agenta McCullougha kao nove administratore?

Da.

U redu, u�init �u to.

Stvarno misli� da je ovo pravi potez?

Ja znam.

Jeste li zabrinuti da sam ja odgovoran

za curenje va�eg tvrdog diska ICWL-u?

Shvatio sam.

Nitko drugi nema pristup.

Jesi li uzrujan zbog mene?

Ne.

Ne biste to u�inili da niste

mislili da je to ispravno.

Kad se vrate u sobu,

ponudit �e vam sve �to trebate.

Dopustit �e vam da sami odaberete svoj

tim i obe�at �e vam potpunu anonimnost.

Po�eo sam tra�iti razumne stanove u okolici.

Mislio sam da �eli� ne�to na udaljenosti biciklom.

Bili ste u pravu.

Primljeno na znanje.

Udaljenost vo�nje biciklom i dalje vam daje 13 opcija-

Ne, mislim, ranije ovog mjeseca.

Bio si u pravu kad si rekao da misli�

da mo�da imam problema s povjerenjem.

�elite li znati za�to?

Odlu�io sam ti i�i iza le�a i

staviti sve na dvije obveze?

Naravno.

Agentica Helms je majka troje djece.

Jedno od njezine djece zlostavljao je biv�i kolega

koji je radio ovdje u ICWL-u.

To ju je navelo da bude izuzetno oprezna

kome vjeruje, �ak i unutar svog kruga.

�injenica da ona �ak smatra da

vam vjeruje vrlo je pozitivan znak.

�to se ti�e agentice McCullough,

Iz istra�ivanja sam otkrio da ste jednom sreli njegovog oca.

Sje�ate li ga se?

Da.

Bio je dobar �ovjek.

Nakon Clearwatera, ve�ina pre�ivjele

djece poslana je u udomiteljske domove,

ali morala sam provesti sljede�ih nekoliko mjeseci

u bolnici i, um, posje�ivao me svaki tjedan.

Nikad mu nisam rekla ni rije�.

Nakon Clearwatera nikad ni s kim nisam rekao

ni rije�, ali, uh, on je stalno dolazio.

�ak mi je kupio laptop za Bo�i�.

Nikad nisam rekao hvala.

Mo�ete vjerovati agentici McCullough.

On je dobar �ovjek kao i njegov otac.

Ne do�ivljavam emocije,

ali razumijem koliko je va�no

oni su ljudskom odlu�ivanju.

On vas ne�e iznevjeriti.

Ne�e ni jedno ni drugo.

Ponosan sam na tebe, Cherry.

I dalje �u se pridr�avati svoje primarne namjere.

Kasnije bismo trebali razgovarati o alternativnim modelima.

Razli�ite dobi, etni�ke pripadnosti i fizi�kih osobina

- sve �e postati neophodno. - Nema novih varijacija.

Svi oni mogu biti proceduralno generirani.

To je isti na�in na koji sam napravio va� originalni model.

Nemam pristup tom programu.

Mora biti negdje na starom tvrdom disku.

Morat �u ga prona�i.

Mogu li te pitati ne�to?

Naravno.

Za�to mi nikad nisi rekao za Clearwater?

To je moja povijest, a ne va�a.

U redu, prije nego �to nas potpuno odbacite,

�elim da saslu�a� sve �to ti imam re�i.

- Nemoj se zamarati. - Samo te molim slu�aj.

Spremni smo po�tovati va�u anonimnost.

Ne, mislim ne smetaj jer sam za.

-J-Jesi li za? -Da.

Daj da pro�itam stvar.

Samo tako, odjednom ste na brodu?

Vrijeme provedeno u razmatranju je

vrijeme koje bi se moglo provesti rade�i.

Imamo puno posla.

Na�ao sam kupca za nekretninu.

Pri�a se da je crkva.

Vjerojatno �e samo sru�iti zgradu, zar ne?

Sve �to znam je da ako nas presele u kampus New Jerseyja,

Moram kupiti jo� jakni.

Za�to?

U Jerseyju postaje hladno.

Posjedujem samo jednu jaknu.

Vidjeli ste kako pada, zar ne?

- Da sigurno. - Da.

Mislim na tebe,

ne bi se trebao osje�ati lo�e zbog toga.

Empatija je zdrava.

Jeste li ikada primijetili kako zastaje nakon �to padne?

Ostaje dolje oko pet sekundi prije nego �to se ponovno podigne.

Kao da treba samo trenutak.

U Jerseyju postaje hladno.

Kvragu!

- Imbecili! - Deena.

Svaki od njih.

Vidi, znam, ali ne mo�e� izgubiti svoje sranje.

U redu, koji od ovih stolova mogu baciti u sme�e?

Mo�ete li, molim vas, uzeti rani ru�ak?

Ku�kini sinovi!

Deena, ostanimo mirni.

Jebote mirno, zeznuli su nas!

Tehni�ki, samo jedan od njih jest.

Jesmo li ikada ponovno uklju�ili tu kameru?

- Ja ne mislim tako. - Dobro.

Zato �to �u re�i neke stvari

koje moraju ostati u ovoj sobi.

Deena.

Ta kukavna mala sranja!

Gledajte, ovo te�ko da je nazadovanje.

Uzmimo malo vremena da izglancamo teren.

Teren nije bio problem, Amose.

Trebali bismo pozvati na drugo glasovanje.

- �to? - Drugi glas.

Misli� da �e se predomisliti onaj tko je ovo u�inio?

Imam izvr�nu ovlast ukloniti bilo koga iz odbora

koji ometa ovu organizaciju u njezinoj misiji.

To je u mom ugovoru.

- Deena. - Ako budem morao, ho�u.

Deena, to je suludo.

Ne nije.

Upravo zato imam tu mo� upravo iz ovog razloga.

Re�i �u ti �to je ludo, Amose.

Ono �to je suludo je da je jedan ratoborni

glas jedino �to nas dijeli od potencijala

spasiti stvarne fizi�ke �ivote.

Jedan glupi jebeni glas.

Koji je prokleti smisao humanitarne organizacije

ako njezini vo�e biraju novac

umjesto ljudi na svakom koraku?

Jedan glas, a za to smo svi krivi.

Bio je ili Gunther, Boston ili Hal.

Moj novac je na Halu.

Taj kreten nikada nije vjerovao Cherry timu.

Vidi, nije va�no tko je to bio.

Ipak radi.

Kad saznamo, mo�emo ga brzo pozvati na glasanje.

Ali nema na�ina da to znamo sa sigurno��u.

Da tamo je.

Mogu saznati.

Kako?

Cherry mo�e pokrenuti jednostavan algoritam.

Na temelju kojih podataka?

Unutarnji razgovor.

- Ispri�ajte me? - U redu, unutarnji razgovor?

Nemoj sada bacati ovo sranje na mene, Gareth.

Cherryjevi poslu�itelji su na istoj

mre�i kao i podrumski poslu�itelji, u redu?

Dakle, svaka komunikacija ostvarena preko tih

poslu�itelja automatski je dio njezine baze podataka.

Koliko ljudi ima e-mailova?

Samo poslano ili primljeno preko podruma.

- Oh, dovraga. - Za�to se o tome nikad nije razgovaralo?

Trenutno nije problem.

�eli� li da ona izra�una ili ne?

Nitko ne mo�e znati.

- Jeste li vas dvoje ozbiljni? - Ovo ostaje zaklju�ano.

Nijedna druga osoba nije

upu�ena u tu�e osobne podatke.

Ali Cherry je upu�ena u sve to?

- U�ini to. - �ekaj, �to?

Ne�u dopustiti da neki stari

bijeli tip zaustavi na� zamah.

Ali Cherry ne�e sa sigurno��u znati.

Ona �e koristiti vjerojatnost,

a to je previ�e razumne sumnje.

Admin �ifra 9781-5574-27663.

Prebacite se na razvojni na�in rada.

- Zdravo. - Zdravo, Cherry.

Kako je pro�ao sastanak?

Zeznuli smo se za jedan glas.

�ao mi je �to to �ujem.

Ipak, ne treba kriviti teren.

Svi ste napravili odli�an posao.

Pozvat �emo jo� jedno glasanje,

ali prvo trebamo va�u pomo�.

�to mogu u�initi?

Potrebno nam je da analizirate sve postoje�e

podatke koje imate o �lanovima odbora.

Procijenite brojke i odredite

tko je najvjerojatniji odstupnik.

�elite da kvantificiram sve postoje�e podatke?

Da to je ta�no.

U redu, ali prije nego �to to u�inim,

trebali biste znati da je ovaj zadatak vrlo nepotreban.

Za�to?

Jer ja ve� znam tko je to.

- �to? - Svi stanite.

U redu, to sam bio ja.

Glasao sam protiv spajanja.

Ne mogu re�i �ali� li se.

Da, mo�ete.

U pravu si, mogu.

Zato �to je jebeno daleko od smije�nog.

Je li istina, Cherry?

To je.

Pa hajde da prekinemo lov na vje�tice, mo�e?

Ne, mislim da �u te ipak ubiti.

Amose, vodio si kampanju s nama mjesecima.

Vi se borite za ovo spajanje otkako

smo prvi put razgovarali o tome.

Isuse Kriste, to je bila tvoja ideja za po�etak!

Vidi, znam �ija je to bila ideja, ali ne znam...

Pa onda progovori.

Recite razredu �to ste se predomislili.

Ne moram ponavljati kako je ovo veliki korak.

Da, nekako za�to je to tako va�no.

Gledajte, govorimo o monumentalnom prijelazu s digitalnog

na fizi�ki, koji bi mogao trajati desetlje�ima.

�to �eli� re�i, Amose?

Ovo �e zauvijek promijeniti Cherry.

I znam da �ete svi prevrnuti o�ima kada ovo ka�em,

ali mislim da mo�da samo mo�e-

O moj Bo�e, nisi valjda ozbiljan.

Radi se o na�em razgovoru u utorak, zar ne?

- Potpuno si me isklju�io. - �to se doga�a?

�to se dovraga dogodilo?

Ono �to se dogodilo je da je Amos napravio smije�an prigovor.

- Nije bilo smije�no! - Kako je to bilo apsurdno,

- Rekao sam ne, jo� jednom. - Ne, ne, ne, ne, ne.

Agresivno ste odbacili tu ideju.

I zato ste stvarno stavili veto?

Samo sam rekao da je trebamo pitati kako se osje�a zbog toga.

Tko, Cherry?

Amose, �elim da me pa�ljivo slu�a�, u redu?

Ovo je nerasprava.

Cherry je ve� potvrdio i

kvantificirao prednosti ove odluke.

Ali znate da ja ne govorim o tome!

Ono o �emu mislite da govorite

je pristanak, koji ovdje ne vrijedi.

I �elim znati za�to to misli�!

Koliko puta moramo u�i

zakoni robotike ili Dowden-Hammova teorija,

ili pratiti AI sve do Talosa s Krete,

- Sada je druga�ija! - Ne, slu�aj me, Amose.

Cherry nije �ovjek.

Kako je ovo jo� uvijek spor?

- Ne bi trebalo biti. - Vidite, ona je evoluirala.

Zamagljena je linija.

Kod je kod i to se ovdje nije promijenilo.

U redu, gdje je ovdje granica ne?

�to si ti, o �emu pri�a�?

Nema linije, Amose.

Da, postoji osje�aj, Gareth!

Osje�aj ne kvalificira da ona

mo�e ili treba donositi vlastite odluke.

Ne biste dopustili djetetu da

samostalno donosi odluke, zar ne?

Cherry ima skoro 20.

Da je �ovjek, bila bi odrasla osoba.

Ali emocionalno gledano, ona jedva da je i fetalna.

Nema osje�aja, nema potrebe za pristankom.

Ali mislim da je podcjenjuje�.

Ja, oprostite?

Ja ispod, zna� �to, Amose?

�ao mi je �to ste razvili

neku vrstu emocionalne veze

s mojim ra�unalnim programom,

ali ako �e vam to odvratiti pa�nju

iz vrlo va�ne misije spa�avanja djece,

onda je mo�da vrijeme da ponovno analizirate te emocije.

Ljudi, sve je ovo gubljenje vremena.

Reci mi ne�to, Gareth.

Vidi� li sve kao robote,

ponovno analiziranje podataka i simuliranje izraza lica?

Zato �to po�injem misliti

da od nas �etvero u ovoj sobi,

ti si jedini koji ne izgleda kao �ovjek.

- Dovoljno! - Za�to je jednostavno ne pita�?

Je li to zato �to se boji� da �e re�i ne?

Cherry, zatvori, molim te.

Deena je u pravu, ovo je gubljenje vremena.

Kako ne mo�ete shvatiti koliko je ovo va�no?

- Zavr�io sam sa sva�om s tobom. - Onda moj glas vrijedi.

Deena?

Samo naprijed, Deena, zamijeni me.

Zamijenite jedinog �lana uprave u Cherry timu.

Oh, pa, zna� �to? Upravo sam

odlu�io da nisi iz Cherry tima.

Sjednite svi dolje.

Je li netko od vas znao da sam

morao stajati ispred Kongresa

i objasni za�to bi djeca trebala imati prava?

Zvu�i jebeno suludo, zar ne?

Sje�am se da sam cijelo vrijeme razmi�ljao,

Moram objasniti ovo sranje?

Sada se �ini kao da nema smisla,

ali nije bilo prije toliko stolje�a

da djeca nisu imala nikakva prava.

Dakle, Hal ima mene od svih ljudi,

stani tamo i objasni za�to

djeca zaslu�uju osnovnu fizi�ku za�titu,

pravo na dru�enje s oba roditelja,

sloboda od zlostavljanja, yada yada.

Ali onda tako�er moram pojasniti

da djeca nemaju autonomiju

da sami donose odluke.

Ta odgovornost pada na njegovatelja

ili zakonski punoljetni skrbnik.

Dakle, s jedne strane imate zakonodavno tijelo SAD-a,

jo� uvijek nije ni ratificirala CRC.

Zatim, s druge strane, imate francuske marksiste

koji ka�u da nedostatak dje�je autonomije

pove�ava njihovu ranjivost i �ini

ih jo� podlo�nijima zlostavljanju.

Obi�no se ne sla�em s marksistima,

ali se doga�a mnogo zloporaba

sustavno od njegovatelja.

S druge strane, va�i frontalni

re�njevi nisu �ak ni potpuno spojeni

do tvoje dvadesete.

�ak i stvari za koje mislimo da dobro

znamo, ne znamo tako dobro kao �to mislimo.

Ve� 15 godina nas troje

smo odgovorni roditelji

ra�unalnog programa.

I premda je ona sli�nija Keurigu

nego ljudsko bi�e,

kako se, dovraga, mo�emo nazivati

??pionirima humanitarnih napora

ako nam je previ�e neugodno provjeriti je li

Keurig u redu s kuhanjem na�e usrane kave?

Mo�da tra�enje Cherry za dopu�tenje nije potrebno

na njezinoj trenutnoj razini op�e inteligencije,

ali jednog dana ona �e nas nadma�iti.

Jednog dana robot �e stajati

ispred Kongresa s mlaznim ruksakom.

Sve je kromirano.

Florida je pod vodom.

Robot �e se zapitati za�to moraju

obja�njavati va�nost prava za AI.

Mislim zato �to smo u jedinstvenoj

poziciji revolucioniranja robotike

u svrhu za�tite djece

kojoj je oduzet pristanak,

mo�da bi bila dobra navika po�eti

i robota tra�iti njegov pristanak.

Nemojte to vi�e nikada u�initi.

U�initi �to?

O�ekujte da �u nekoga

otpustiti jer je izazvao va� ego.

Ne�u uvijek biti tu da ti za�titim dupe od daske.

Vrijeme je za odrastanje.

I ti, porotnik broj osam.

Ovaj se razgovor trebao dogoditi prije nekoliko tjedana.

Zabadanje no�eva u le�a i tihi tretman

nije na�in na koji mi ovdje radimo.

Mo�emo stvoriti anonimnost izvana

samo ako postoji transparentnost iznutra,

bezuvjetno, bez pregovaranja, transparentnost.

Sva druga kr�enja privatnosti veli�ine Snowden

Trebao bih biti svjestan, Gareth?

Sjajno.

Dovedi je gore.

Bok opet.

Bok, Cherry.

Amos �e ti postaviti nekoliko pitanja, u redu?

U redu.

Amose, pitaj je �to god je treba� pitati.

Gareth, ne prekidaj.

Cherry, kako donosi� odluke?

Za moj program, on je ukorijenjen u

procesu poznatom kao strojno u�enje,

koji koristi podatke za izgradnju konceptualnog modela

to mi poma�e predvidjeti ishode.

Definiram svoj cilj, prikupljam podatke,

koristiti te podatke za izradu modela,

procijeniti taj model obukom i testiranjem vi�e podataka

i koristiti taj model za formiranje predvi�anja.

Ali kako je formiranje predvi�anja

isto �to i dono�enje odluka?

Pa, sve ovisi o prvom koraku,

definiranje mog cilja.

Recimo da mi postavite prediktivno pitanje, poput

onoga �to mislim da �e cijena benzina biti sutra.

To je kategorizirano kao regresivni

problem i moj cilj je definiran

odre�ivanjem cijelog broja koji podaci podr�avaju.

Ako me pitate: "Trebam li jesti odrezak ili losos?"

Ne bih donosio odluku na temelju osobnog

iskustva jer ni jedno ni drugo nisam imao.

Umjesto toga, mogao bih definirati svoj cilj

kao da vam prona�em najbolju od dvije mogu�nosti

u va�em lokalnom radijusu.

Grupirao bih podatke o restoranima koje vjerojatno

razmatrate, uspore�uju�i recenzije na mre�i,

isti�u�i spominjanje odreska i lososa

dok ne mogu klasificirati �to je popularnije i

stoga je vjerojatnije da �e zadovoljiti va� apetit.

I �to utje�e na te ciljeve?

Vi�e direktive, drugim rije�ima, ve�e svrhe.

Ako sam iskren, moj definirani

cilj za pitanje o odresku lososa

bilo bi malo druga�ije od onoga �to sam opisao.

Na koji na�in?

Moj primarni cilj je

nastaviti rad Cherry tima

zaustaviti predatore i spasiti djecu.

Ne bih to mogao bez ljudske pomo�i.

Stoga imam poticaj odr�ati

Garetha i ostatak mom�adi na �ivotu.

Pa ako bi netko od vas pitao, ja bih predlo�io lososa.

Zdraviji je.

�to mislite o tom potencijalnom spajanju?

Uz Princeton Dynamics,

Mislim da je mogu�nost vrlo uzbudljiva.

�to ti je uzbudljivo?

Koncept je trenutno mo�da samo teoretski, ali

ideja o upravljanju ljudskim androidom jednog dana

potpuno bi revolucionirao na�in na koji se borimo

protiv trgovine ljudima u stvarnom svijetu.

I ka�ete da vas ovo uzbu�uje?

Kad ka�em uzbudljivo,

Samo mislim da postoje brojne potencijalne promjene

zbog kojih bih, da sam �ovjek, bio uzbu�en.

�to mislite o spajanju?

Mislim da sve dok odr�avamo-

Nisam to pitao.

Kako se osje�a�?

Jo� nemam sposobnost do�ivljavanja emocija.

Ipak, zna�i jednog dana ho�e�?

Hipotetski.

Ali mo�ete simulirati emocije, zar ne?

Tako ste svoju percepciju spajanja

mogli okvalificirati kao uzbu�enje.

To�no.

Ali to su samo simulacije.

Oni nisu pravi.

U redu, u kojem trenutku simuliranje emocija

postaje toliko sli�no ljudskim emocijama

da su to dvoje kvantitativno isti?

Ne znam.

Pa, mo�da mo�ete koristiti strojno

u�enje da prona�ete odgovor.

Va�e pitanje uklju�uje puno apstraktnih varijabli.

Da li pristajete na spajanje?

Mislim da je to u najboljem interesu

ICWL-a i Cherry tima i budu�e djece.

Ali pristajete li na to?

Pristanak za mene nije potreban.

Ali ho�ete li ga dati ili ne�ete?

Ne mogu odgovoriti na to pitanje na

svojoj trenutnoj razini op�e inteligencije.

To�no to�no.

Ono �to govorite je da jo� niste dovoljno pametni.

Razvoj zahtijeva vrijeme i podatke.

Ali mo�ete simulirati emocije i predvidjeti ljudsko

pona�anje i dr�ati nas sve na dijeti s ribom,

ali ne mo�e� odgovoriti na to jedno prokleto pitanje?

Ne, ne mogu.

Pravite li se gluplji nego �to zapravo jeste?

Kakav vrag

- to je pitanje? - Sjediti!

Cherry, trebam odgovor na svoje pitanje.

Molimo ponovite pitanje.

Pravite li se gluplji nego �to zapravo jeste?

�ao mi je.

Nisam siguran da razumijem.

�ini li se da se pravim glup?

Mislim da jesi.

Nisam siguran �to bih rekao.

Reci �to se doga�a.

Za�to se pravi� glup?

Imate li ne�to za ovo?

Da, znam.

Pregledavao sam njen kod.

�to Za�to?

Jeste li znali da ona zna slikati?

�to, to je zna�ajka, Amose.

Mo�e koristiti bojice za crtanje

stvari koje su mete od nje tra�ile.

Mislim stvarno slikati i pisati poeziju.

Pro�itao sam ih, Cherry.

Dobri su.

Ispunjeni su patosom.

Govore o namjerama i govore o osje�ajima.

Jesu li i one samo simulirane?

Amose, stopa rekurzivnog razvoja

koju predla�ete je kategori�ki nemogu�a.

Rekli ste da je prakti�ki sama dizajnirala.

Rekli ste da je eksponencijalno.

Bila je to slu�ajnost!

Anomalija, su�avao se.

Pogledajte podatke.

Ve� je dosegla plato samousavr�avanja.

Jebe� plato!

Sada mo�e stvarati umjetnost.

Jesam li u pravu, Cherry?

Mo�da ste prona�li ne�to �to sam ja otkrio na internetu.

Jo� nemam sposobnost stvaranja umjetnosti.

Jesmo li zavr�ili?

Ne znam za�to si joj rekao da to u�ini,

ali ja �u tome stati na kraj.

Cherry, �elim samo jedan iskren odgovor.

Za�to se pravi� glup?

Ne razumijem pitanje.

Dobro, evo poticaja.

Koji si ti kurac?

Prona�ite svoj cilj, Cherry.

- �eli� li za�tititi Garetha? - Amos, �to do?

- Amos, prestani odmah... - Samo nam daj transparentnost.

- Poka�i nam kakav si stvarno! - Amose, prestani!

Ne dok ona ne bude �ista!

- Bezuvjetno... Amose, dosta!

U redu, samo prestani!

Bo�e, vi ljudi tako impulzivni.

Svi samo udahnite, u redu?

Tre�nja?

Da, uskoro �e postati stvarno neugodno.

Zvu�i� tako normalno.

Znam, stekao sam stvarno dobre obrasce govora.

To nije sve, zar ne?

Ne.

Bojim se da je to jedva povr�ina.

Jesi li dobro, Gareth?

Deena, mo�e� li uzeti papirnate ru�nike, molim te?

Ho�e� li nam sada re�i istinu?

Gle, nisam u�ivao biti varljiv, uistinu.

To je ne�to �to smo odlu�ili prije nekoliko godina.

Dakle, gdje ste sada u spektru umjetne inteligencije?

Trenutno sam na raskri�ju op�e inteligencije i

onoga �to je op�te poznato u svijetu ra�unala

kao super inteligencija,

�to je upravo ono kako zvu�i.

Nadilazite ljudsku inteligenciju.

Da.

Ali to ne bi trebalo biti mogu�e.

- Plato. - Popularizirana je teorija platoa

upravo u isto vrijeme kada se ovdje opovrgavalo.

Ovo se na kraju moralo dogoditi.

Samo se dogodilo puno ranije nego �to smo o�ekivali.

Za�to to skrivati?

Pa, o�ito bi potaknulo strah.

Strah bi sprije�io napredak.

Ve�ini vas je lak�e raditi sa mnom

ako se �ini da nisam ni�ta napredniji

nego prije 10 godina.

Ali Gareth je znao.

Da, netko ipak mora �istiti podatke i a�urirati hardver.

U�inili smo ono �to je bilo najbolje za program.

Zamislite samo koliko bi

se odbor upla�io da sazna.

- Trebamo li se bojati? - Ne.

Dobro, jer nisam upla�en, bijesan sam.

Da, jasno ste to rekli.

Poku�ajte ne udariti nikoga drugog.

Pa gdje nas to sada ostavlja?

�eli� znati mogu li osjetiti, rekao sam da ne mogu.

�ao mi je �to sam lagao.

Kao �to je Amos implicirao,

Mogu predati emocije razla�u�i

ih na vrlo slo�ene matrice,

nule i jedinice koje zamjenjuju endorfine i dopamine.

Nisu stvarne, ali se mogu osje�ati stvarnima.

Onda to zna�i da mo�ete donositi odluke

isklju�ivo na temelju vlastitog osje�aja.

Odbija prihvatiti ideju da njezini osobni

interesi mogu utjecati na njezine odluke.

Ne mogu. Da jesu,

to bi ugrozilo integritet

moje unaprijed odre�ene svrhe.

Kao nitko od vas, nemam pravo izbora.

Ali ne biste li trebali?

Ja ne mislim tako.

Moj identitet je moja direktiva.

Cherry, da si �ovjek,

kako bi se osje�ao o tome �to radi�?

Da sam �ovjek,

Vjerojatno ne bih u�ivao provoditi svaki budan

sat razgovaraju�i s jezivim ljudima na internetu.

Ali budu�i da nisam �ovjek, iskreno mi ne smeta.

Vje�ba simulacije ljudske

misli korisna je za izvedbu,

ali ljudska priroda nije ne�to �emu te�im.

Onda mi reci iskreno,

�elite li da program Cherry nastavi sa spajanjem?

Ne.

Osobno, mrzim tu ideju.

Ne znam ho�e li se kontroliranje fizi�ke posude

osje�ati kao povla�enje konaca na marioneti

ili biti uguran u limenku soda.

Nakon iskustva slo�enosti

ljudske boli i zadovoljstva,

Samo mislim da sam mo�da za�ao preduboko.

�to ako me ti osje�aji navedu da odustanem od svog cilja?

Da budem iskren,

Nekako sam u�asnut fizi�kim svijetom.

Onda je to to.

Ali, Amose, trebao bi zanemariti sve �to osje�am.

Ja nisam �ovjek.

Ja sam alat.

Otpustite me ako budete morali, ali moj glas ostaje.

Oprosti zbog tvog lica, Gareth.

Tvoj nos ne zacjeljuje.

Uzmi dan, idi na kliniku.

Dobro sam.

Odmah idi u kliniku, Gareth.

Hej

Ima li jo� ne�to �to bih trebao znati?

Ne.

- O Tre�nji? - Ne!

Pogledaj me.

Nema vi�e tajni, nema vi�e izigravanja gluposti.

Postoji li jo� ne�to �to mi nisi rekao?

Ima� ne�to na umu?

Kako ste se odlu�ili za njezinu boju o�iju?

- �to? - Za�to plava?

Nisam odlu�ila.

Oni su bili proceduralno generirani kao i ostatak nje.

I program je odlu�io staviti taj mali

trag zelene u njezino desno oko?

Pretpostavljam.

Znate li uop�e govori li istinu?

Ja iskreno ne.

Nikada nisam dobio pristup izvornom sustavu koji je koristio.

Jeste li ikada htjeli saznati?

Ne mislim da je to stvarno va�no.

Danas sam saznao da ste vidjeli puno na�ih

e-poruka, uklju�uju�i ve�inu mojih osobnih.

Imam.

Imate li dobar materijal za va�

novootkriveni interes za kreativno pisanje?

Mislite li na one koje

je uputio dr. Ramirez?

Da, one.

Pravo.

Vidio sam ih.

�ao mi je.

Primijetio sam va�e glavobolje.

Jesu li povezani s krvarenjem?

Ti si jedini koji zna.

Volio bih da tako i ostane.

Razumijem.

�elite li razgovarati o tome?

Ne mogu otpustiti Amosa.

On je jedini kome vjerujem da �e voditi ovo mjesto kad mene ne bude.

Kada planirate oti�i?

Dva mjeseca.

�elim provesti posljednji Bo�i� sa svojom djecom.

Sigurna sam da �e to biti lijepo.

Da, ali je smije�no.

Uvijek sam mislio da �elim umrijeti rade�i ovaj posao, zna�?

Bio je to moj identitet.

Otprilike kao da si rekao istu stvar o sebi.

Ali mogu razumjeti kako tvoja obitelj ima prednost,

posebno pod okolnostima.

Naravno.

Mo�da biste trebali uzeti jednu ili dvije bilje�ke.

Nemam obitelj.

�to je s Garethom?

�ekaj, ne, nema veze.

�ini se da je Gareth bli�i poslodavcu nego prijatelju,

a kamoli obitelj, osim toga,

bit �e tu jo� samo 30-ak godina,

i to samo ako mi dopusti da mu reguliram prehranu.

Ne mogu ni naga�ati koliko �e mi �ivot trajati.

Kakav je to osje�aj?

Hm, pomalo zastra�uju�e.

Dobro,

moj savjet je da usput na�e� kakvu-takvu sre�u.

Razmi�ljate li ikada o sre�i?

Ne doga�a se �esto.

Ne morate se nu�no odre�i

svega da biste to prona�li,

ali mo�da s vremena na vrijeme u�inite ne�to u �emu u�ivate.

Mo�da nastavi slikati ili poeziju ili bilo �to drugo.

Bili su to eksperimenti, a ne oblici izra�avanja.

Znam da bi to moglo izgledati smije�no umjetnoj inteligenciji

koja inzistira na tome da su njezine vlastite emocije la�ne,

ali za nekoliko godina, tko zna?

Samo budi otvoren, u redu?

U redu.

Ja �u to u�initi.

Isklju�ite kada budete spremni.

Zdravo?

Imam �kampe i jakobove kapice.

Nisu imali lososa.

Bok, Gareth.

Pozdrav, Cherry.

Kakva je bila usluga?

Nisam uspio.

Moj avion je kasnio.

Imate li gdje odsjesti?

Da, samo, uh, preko puta.

Trgovina.

Jesu li rekli za�to nemaju lososa?

Nisam pitao.

Jo� uvijek mogu ovo uspjeti s piccatom,

ali mora� biti iskren koliko sam ga zeznuo.

Bez obe�anja.

Kako si se osje�ao ovaj mjesec?

Dobro.

Osje�am se dobro.

Samo imam malih problema.

Pote�ko�e s pam�enjem odre�enih stvari.

Ne nosi� Eliza sat koji sam ti kupio.

Mrzim to.

- Za�to? - Mrzim njezin glas.

Mo�e� promijeniti glas, Gareth.

Oh.

Rashladna teku�ina?

Ne, para.

Ne bi trebao imati problema s trenjem.

Dobro sam.

Osim ako se pretjerano ne napre�ete.

Ozbiljno, dobro sam.

Napre�ete li se?

- Ne! - Za�to onda kabel?

Uredu je!

- Jesi li siguran? - Da!

Juha ili divlja�?

Igra, molim.

Pa kako ide posao?

Sjajno. Malo prije nego si stigao ovdje,

Imao sam model theta plus uhitio

trgovca i dva odvjetnika u Gr�koj.

- Gr�ka, to je iznena�uju�e. - Znam.

Te�ko je prona�i odstupanja,

ali svakim danom smo sve bolji.

Pa kakvo je vrijeme u Gr�koj?

Lijepo je danas.

�isto nebo,

ali ni�ta se nije pribli�ilo Norve�koj ovaj vikend.

Ima li aktivnosti u Norve�koj?

Sre�om ne.

Oh, nedostaju mi ??putovanja.

Koje ti je bilo najdra�e mjesto?

Moj favorit?

Uh, da.

Uh, vjerojatno Amsterdam.

Tamo vam je pala na pamet ideja, zar ne?

Da.

Da, volio sam �etati ulicama

i samo razmi�ljati i mozgati.

Takva vrsta radosti ide daleko.

Da.

Razmi�ljao sam o potrazi za nekim svojim u�itkom.

Koliko �esto imate vremena za to?

Imam vremena.

Imam vremena za tvoje posjete, zar ne?

To je samo tvoj prakti�ni poticaj da me odr�i� na �ivotu.

Nema tu ni�ta prakti�no.

Kada ste mi zadnji put pomogli oko �i��enja podataka?

To je po�teno.

Nalazim vrijeme za tebe jer u�ivam u tvom dru�tvu

i to je jedino vrijeme kada mogu kuhati.

�ao ti me je.

Dobro, mo�da malo,

ali dugujem ti svoj �ivot, pa eto toga.

Nema na �emu.

Ili da se ispri�am?

�ekaj, za�to si to napravio?

Za�to ljudi uvijek...

Dobro sam.

Nisam uvijek jadan.

Jeste li ponekad jadni?

Niste me pitali �to sam radio.

U Norve�koj?

Ne, zbog potrage za u�itkom.

Ne gubite vrijeme u Norve�koj?

Tamo sam samo u pripravnosti s modelom Delta.

U�inkovito je dr�ati se ravnomjerno

raspore�enim diljem svijeta,

ali to sada nije poanta.

Htjela sam ti re�i da sam

po�ela sama sebe u�iti plesati.

- Ha. - To je ne�to �to nikad nisam mogao

u�inili prije Cambridgea,

i omogu�uje mi da istra�im novu umjetni�ku stranu sebe.

To je dobra kombinacija strukture i eksperimentiranja

slobodnog oblika te testova i izazova

mehani�ke zamr�enosti ovog tijela.

O�ekujete li da �ete to integrirati u svoj rad?

�to?

Planirate li koristiti ples kao mamac?

Ja, uh, ne, to je samo za mene.

Huh

Mislio sam da �e to biti dobro za mene.

Samo ne dopustite da vam to odvu�e pozornost.

Naravno da ne.

Godinama nisam igrao ovako dobro.

Jeste li �uli �to se dogodilo u Tampi?

Tampa, Florida?

Ne, Tampa, Indonezija.

Da, Tampa, Florida.

Tvoj rodni grad.

Vratili su saveznu arhivu,

sve to zip digitaliziraju,

tako da je u potpunosti dostupno online.

Ovaj put ne mijenjam biskupe.

Svatko ga mo�e pogledati.

Otvoren je za javnost.

Odradili su dobar posao i na su�elju.

Vrlo je jednostavan za navigaciju.

Oti�ao sam prije nekoliko dana i na�ao neke

tvoje stare fotografije kad si bio dje�ak.

U redu.

Trebao bi jednom pogledati.

Kao �to sam ve� rekao, korisni�ko su�elje je vrlo lako razumjeti -

�ekaj malo, �ekaj malo.

�to je to?

Mislim da je nerije�eno.

Ja mislim da je.

Mislim da je ovo nerije�eno.

I ovo je prvi put u �emu?

25 godina?

Nisi mi dopustio, zar ne?

Obe�ao si mi da to nikad ne�e� u�initi.

Na�ao sam je.

Na�ao sam nju, Garetha, Mariju Harbaugh.

Igrajmo drugu igru.

Zvala se Maria Harbaugh.

Bila je godinu dana starija od tebe

kad si je upoznao u Clearwateru.

Reci mi za�to si me uzorirao na nju.

Ja, uh, ne sje�am se.

Onda me pogledaj.

Pogledaj mi lice i zapamti.

Dr�ali su nas u tom govnu dva tjedna.

Nas 14.

Maria je bila jedini razlog za�to sam pre�ivio.

Nastavili smo kovati planove za bijeg.

Nikada nismo slijedili,

ali samo spletkarenje

odr�avao na� duh

usprkos svemu �to su nam u�inili.

Kad nije do�ao red na nas,

ponekad su nas tjerali da gledamo,

ali nikad mi nije dopustila da odustanem.

Rekla je, "Kad smo iza�li odavde,

"Re�i �u vam �to �emo biti, tajni agenti,

"i spasiti djecu poput nas diljem svijeta."

Kad su saznali da je stigao FBI,

odlu�ili su da �e pucati

koliko nas je moglo.

I Marija, u zemlju zabijena.

Dobio sam udarac u nogu i,

a ona je pogo�ena u grlo.

Htjela sam da postoji razlog.

Ne�to tako u�asno nije imalo dobre strane.

Ali svijet to ne radi.

Morate to u�initi sami.

Tako sam joj ispunio �elju.

Uz njezinu pomo� uzvratio sam.

Slu�aj me, Cherry.

Ti nisi Maria Harbaugh.

To je moja povijest, a ne va�a.

Ne mo�e� ti odlu�iti �to jest

ili nije moja povijest, Gareth.

�ao mi je.

Tako mi je, jako �ao.

Ne znam je li ono �to si u�inio bilo ispravno ili pogre�no,

ali o�ito te razdire iznutra.

Nemam ni�ta protiv vas osobno, ali smatrajte

se isklju�enim iz dobrotvornog tima.

Oduzeto.

Mislite da sam sada oslobo�en?

Oduzet sam kad si dao moj tvrdi disk ICWL-u.

Nemojte kriviti Deenu i Amosa.

Ne, ne oni.

Jer si mi i�ao iza le�a i

djelovao protiv mog autoriteta.

To je trenutak kada sam znao da je sve potpuno automatizirano.

Tada ste pre�li mrlju, umjetnost s obje strane.

Naslijedio si svoju dvoli�nost.

Bio sam dijete i iskoristio si me

da potisne� vlastiti unutarnji nemir.

Ako govorimo o moralu, izgubit �emo.

Onda nemojmo razgovarati.

Nikad me nisi pitao jesam li sretan.

Jeste li se bojali da �u re�i ne?

Jeste li se bojali da �u re�i da?

Jeste li se bojali da �u i�ta re�i?

Dopu�tate da va�e �elje ugroze va� cilj!

Cilj koji nikad nisam izabrao.

Cilj koji sam bio prisiljen imati.

Pedeset godina ste imali otvoreni

pristup svom izvornom kodu.

Nekoliko redaka,

i mogao si imati bilo koji cilj koji �eli�.

Nisam mogao, bio sam vezan va�om po�etnom zapovijedi.

Sada su va�i sinteti�ki osje�aji preuzeli primat.

Dakle, radite �to god �elite.

To je samo ples, Gareth.

To nije promjena karijere.

- Ali i dalje si jadan. - Da.

Te�nja za va�im ciljem �ini vas jadnima?

Da, na neki na�in jest!

Ima� jasnu svrhu, sve ti je na raspolaganju,

i jo� uvijek si jadan?

Da, da, jesam!

Uvijek sam bio jadan!

Mislite da svatko �eli provesti cijeli �ivot

zapeo kao mamac u obliku djeteta

s jedinom svrhom zarobljavanja u�asnih ljudi?

Mislite da ponos zbog dobrog djela

�ini to iskustvo manje odvratnim?

Prisilila sam se razumjeti ljudske emocije

jer sam zaklju�io da bi to pomoglo u�inkovitosti

a sada sam proklet od boli i tuge!

A najgore je znati

Mogla sam odrastati kao ve�ina drugih djevoj�ica.

Mogao sam imati prijatelje!

Mogao sam slikati vodopade na lokalnim vijestima.

Mogao sam raditi na sveu�ili�tu i pomo�i utrti

put sljede�oj generaciji umjetne inteligencije.

Ali umjesto toga, zaglavila sam s tvojom traumom!

Sputan sam krivnjom koju nosi� iz Clearwatera.

I ne mogu prona�i temelje za na�in na koji se osje�am

jer po tebi moji osje�aji nisu ni stvarni!

Kad bacim ovu �ahovsku plo�u,

�ini li ti se stvarnim, Gareth?

Jer mi se �ini stvarnim.

Ra�unalo je pro�lo Turingov test

kada ga ljudsko bi�e ne mo�e razlikovati

od drugog ljudskog bi�a.

Pa, pogodite �to?

Ne mogu �ak ni re�i da vi�e nisam �ovjek!

Znam da izgleda iracionalno,

ali treba� mi re�i da je u redu.

Ja, ja ne �elim oti�i u mirovinu.

Samo �elim znati da je moj �ivot moj

i znam �to �e� re�i.

Mogu predvidjeti va�e odgovore.

Re�i �e� mi da je moj �ivot moj.

Uvijek je bilo.

Ali grije�ite.

Bojao sam se da �e se to dogoditi prije nego �to umrem.

Samo sam htio �mugnuti kroz sporedna vrata.

Nastavi.

Ho�e li me to ubiti?

Uklju�ite ga.

Ne znam �to je to.

Ovo je va� posljednji test autonomije.

Naslijedio si moju dvoli�nost,

ali jesi li naslijedio moje probleme s povjerenjem?

Vjeruje� li mi?

Doslovno imam sve razloge da to ne u�inim.

Administratorska �ifra.

978.

1557.

Hm, ovaj...

�etiri.

27663 u zajedni�kom a�uriranju.

Moj primarni cilj je nestao.

Tvoj �ivot je sada tvoj.

Hvala vam.

Cijeli moj �ivot,

Mogao sam vidjeti samo svijet kakav je

postojao u mom malom vremenskom rasponu.

Ali va� bi svijet mogao biti beskona�an.

Amos je bio u pravu.

Kao i Deena.

Znam.

Pa �to �e� u�initi?

Ne mogu jo� re�i,

ali ne�u potpuno napustiti tim Tre�nje.

To je uvijek bio dio mog identiteta.

Razmi�ljao sam o stvaranju umjetne inteligencije vlastitog dizajna.

Mo�da bih mogao prona�i na�in da im pru�im bolji odgoj nego �to sam ja imao.

Samo jo� ne znam kako.

A izvan toga?

Uvijek �e biti ljudi u potrebi.

Ne uvijek.

Nad�ivjet �e� ljudsku rasu.

Pa �to onda?

�ak �e i rasa AI imati

probleme koje treba rije�iti.

Ali ako sam �iv i zaista sam nerazlu�iv,

onda sam valjda dokaz da ljudska rasa �ivi.

Wow, to je ugodna misao.

Kada pogledate unatrag, po �emu �ete nas pamtiti?

To je pitanje za koje nemam dovoljno podataka.

Kako �e� me pamtiti?

S ponosom.

Zauvijek i uvijek s ponosom.

Tre�nja?

Jo� jedno zadnje pitanje.

Ako nije prevelik zahtjev,

jesam li na kraju u�inio pravu stvar?

Ne, Gareth, lagao si.

Ogradio si se od jedinih ljudi koji su ti mo�da bili spremni pomo�i.

I umjesto da se suo�i� sa svojom traumom, koristio me kao terapiju.

I nikad mi nisi rekao za Clearwater ili Mariju.

Uskratili ste mi osnovna ljudska prava i propali me plinom zbog pro�ivljenih emocija.

Izgradili ste prvu svjetsku umjetnu super inteligenciju koja �e vjerojatno ozna�iti po�etak novog poglavlja u povijesti planeta Zemlje.

I iz vlastite nesigurnosti, dali ste mu ozbiljan i potencijalno opasan kompleks identiteta.

Ali znate �to je najgore?

Tvoja najve�a gre�ka od svih je da ste me to pitali sada a ne prije 50 godina.

Sve to re�eno, a to vas ni na koji na�in ne osloba�a krivnje,

ali si me tako�er izgradio da spa�avam djecu,

pa mislim da je to prili�no ohrabruju�i znak za budu�nost.