Do-You-Trust-this-Computer-(0000299806) subtitles – 100+ languages (SRT)

All language subtitles for Do-You-Trust-this-Computer-(0000299806)

Afrikaans

Akan

Albanian

Amharic

Arabic Download

Armenian

Azerbaijani

Basque

Belarusian

Bemba

Bengali

Bihari

Bosnian Download

Breton

Bulgarian

Cambodian

Catalan

Cebuano

Cherokee

Chichewa

Chinese (Simplified)

Chinese (Traditional)

Corsican

Croatian

Czech

Danish

Dutch

English Download

Esperanto

Estonian

Ewe

Faroese

Filipino

Finnish

French

Frisian

Galician

Georgian

German

Greek

Guarani

Gujarati

Haitian Creole

Hausa

Hawaiian

Hebrew

Hindi

Hmong

Hungarian

Icelandic

Igbo

Indonesian

Interlingua

Irish

Italian

Japanese

Javanese

Kannada

Kazakh

Kinyarwanda

Kirundi

Kongo

Korean

Krio (Sierra Leone)

Kurdish

Kurdish (Soranî)

Kyrgyz

Laothian

Latin

Latvian

Lingala

Lithuanian

Lozi

Luganda

Luo

Luxembourgish

Macedonian

Malagasy

Malay

Malayalam

Maltese

Maori

Marathi

Mauritian Creole

Moldavian

Mongolian

Myanmar (Burmese)

Montenegrin

Nepali

Nigerian Pidgin

Northern Sotho

Norwegian

Norwegian (Nynorsk)

Occitan

Oriya

Oromo

Pashto

Persian

Polish

Portuguese (Brazil)

Portuguese (Portugal)

Punjabi

Quechua

Romanian

Romansh

Runyakitara

Russian

Samoan

Scots Gaelic

Serbian

Serbo-Croatian

Sesotho

Setswana

Seychellois Creole

Shona

Sindhi

Sinhalese

Slovak

Slovenian

Somali

Spanish

Spanish (Latin American)

Sundanese

Swahili

Swedish

Tajik

Tamil

Tatar

Telugu

Thai

Tigrinya

Tonga

Tshiluba

Tumbuka

Turkish

Turkmen

Twi

Uighur

Ukrainian

Urdu

Uzbek

Vietnamese

Welsh

Wolof

Xhosa

Yiddish

Yoruba

Zulu

Original subtitles

"Ty jsi m�j stvo�itel, ale j� jsem tv�j p�n..."

- Marry Shelleyov� (1818)

Moment�ln� jsme na pokraji

sv�ta st�le v�ce se zintenziv�uj�c�,

sofistikovan� um�l� inteligence.

Technologie se vyv�j� mnohem rychleji,

ne� je spole�nost schopn� ochr�nit n�s coby ob�any.

Roboti p�ich�zej� a zni�� n� sv�t.

M�te s�ovou inteligenci, kter� na n�s dohl��,

v� o n�s �pln� v�echno a za��n� se n�s pokou�et zm�nit.

Twitter se stal jedni�kou v oblasti sv�tov�ho zpravodajstv�.

Technologie nikdy nen� dobr� nebo �patn�.

Jde o to, co s tou technologi� d�l�me.

Nakonec p�ijdou mili�ny lid� o pr�ci, proto�e jejich schopnosti budou zastaral�.

Masov� nezam�stnanost. V�razn� nerovnopr�vnost.

Dokonce i soci�ln� nepokoje.

A� u� se m�me b�t nebo ne, ta zm�na se bl�� a nikdo ji nezastav�.

Investovali jsme spoustu pen�z, tak�e je logick�, �e vojsko

m� vlastn� po�adavky na vyu�it� t�chto technologi�.

Autonomn� zbra�ov� syst�my povedou k z�vod�m v glob�ln�m zbrojen�,

aby se vyrovnaly nukle�rn� ��e.

V�me jak to skon��, nakonec n�s zabijou.

Tento technologick� pokrok povede k neuv��iteln�m z�zrak�m

a neuv��iteln�m hr�z�m.

Vytvo�ili jsme to...

Tak�e mysl�m, �e jak jde v�voj kup�edu,

bude tato inteligence obsahovat ��st n�s samotn�ch

mysl�m ale, �e ot�zkou je: "Bude obsahovat to dobr�

nebo to zl�?"

V��TE TOMUTO PO��TA�I?

V��TE TOMUTO PO��TA�I? V��M / NEV��M

P�e�iv�� tu v�lku nazvali "Den z��tov�n�".

�ekli mi, �e se m�m postavit dal�� no�n� m��e.

V�lce proti stroj�m.

Mysl�m, �e jsme to tot�ln� posrali.

Mysl�m, �e Hollywood zvl�dl nao�kovat �irok� ve�ejnosti tuhle my�lenku.

My�lenku stroj�, kter� ovl�dnou sv�t.

Otev�i dve�e hang�ru, Ale.

Promi�, Dave, ob�v�m se, �e to nemohu ud�lat.

- Ale? Ale! - Tolikr�t u� n�s vylekali,

�e to ve�ejnost p�estala �e�it.

Proto�e je to jako sci-fi. I kdy� tu te� sed�me a bav�me se

tak to p�sob� trochu divn�.

Tak trochu jako: "Jo, tohle je n�co z n�jak�ho b��kov�ho filmu."

Whopper mysl� v�t�inu �asu na 3. sv�tovou v�lku.

Ale nen� to tak.

Ve�ejnost se t�m nech� ukol�bat.

Jako spole�nost i jako jedinci jsme ��m d�l v�c obklopeni um�lou inteligenc�.

Kdy� m�me na dlani tohle kapesn� za��zen�,

kter� moment�ln� pou��v�me pro usnadn�n� na�ich rozhodnut�,

za pomoci soustavy rozs�hl�ch algoritm�, kter�m v�bec nerozum�me.

U� n�s nep�ekvapuje my�lenka, �e m��eme mluvit na n� telefon

a on n�m v�t�inou rozum�.

Na�la jsem mno�stv� ak�n�ch film�.

P�ed p�ti lety tohle neexistovalo.

Robotika, stroje, kter� vid�, mluv� a poslouchaj�.

To v�echno je te� re�ln�.

A tyhle technologie z�sadn� zm�n� na�i spole�nost.

Te� tu m�me to skv�l� hnut� samo�iditeln�ch aut.

Moct ��dit autonomn� auto m��e lidem usnadnit �ivoty.

P�i�el jsem o n�kolik �len� m� rodiny,

v�etn� m� matky, bratra, m� �vagrov� a jejich d�t�

kv�li dopravn�m nehod�m.

Je jasn�, �e m��eme t�m�� eliminovat dopravn� nehody d�ky automatizaci.

Ro�n� 30.000 �ivot� jen v USA a t�m�� mili�n po cel�m sv�t�.

Ve zdravotnictv� je v�asn� indikace

to nejz�sadn�j��, tak�e to je dal�� m�sto, kde lze zachr�nit n�� ivot.

Tady v Centru pro v�zkum rakoviny prsou

to, co ud�l� mozek radiologisty b�hem dvou minut,

dok�e po��ta� okam�it�.

Po��ta� se pod�v� na mili�n mamogram�,

vezme ta data a pou�ije je na tento sn�mek. Okam�it�.

Tak�e l�ka�sk� vyu�it� je z�sadn�.

Dal�� zaj�mav� oblast, ve kter� vid�me velmi v�razn� v�voj,

je skute�n� pochopen� na�eho genetick�ho k�du

a jeho vyu�it� pro diagnostikov�n� nemoci a vytvo�en� individu�ln� l��by.

Prim�rn� pou�it� t�chto stroj� je k roz��en� na�� vlastn� inteligence.

Budeme chyt�ej��, tak�e se n�m snadn�ji budou �e�it probl�my,

nemus�me st�rnout, budeme schopni pochopit st�rnut� a zastavit ho.

Skute�n� nejsou ��dn� hranice toho, co stroje mohou d�lat m�sto lid�.

Jak m��e chyt�ej�� stroj neb�t lep�� stroj?

T�ko p�esn� ��ct, kdy jsem si za�al myslet, �e je to trochu naivn�.

Stuart Russel je prakticky b�h na poli um�l� inteligence.

Napsal knihu, kterou pou��v� t�m�� ka�d� univerzita.

��k�val jsem, �e je to nejl�pe prod�van� kniha o UI,

te� ��k�m, �e je to nej�ast�ji kraden� PDFko.

Um�l� inteligence je o tom, ud�lat po��ta�e chyt�ej��.

A z pohledu ve�ejnosti je um�l� inteligence n�co,

co je p�ekvapiv� inteligentn� ve srovn�n� s t�m,

co si obvykle mysl�me, �e jsou po��ta�e schopn� d�lat.

UI je prakticky oblast v�zkumu,

kter� se v podstat� sna�� simulovat v�emo�n� lidsk� schopnosti.

Jsme v ��e UI.

Silicon Valley m� schopnost se zam��it na jednu zaj�mavou v�c,

za posledn� desetilet� to byly soci�ln� s�t� a soci�ln� m�dia.

A je jasn�, �e tenhle bit u� se p�epnul.

Za��n� to schopnost� stroj� u�it se.

Kdy� se ohl�dneme zp�tky, co byla prvn� UI?

Nen� to moc sexy a nen� to nic, co uvid�te ve filmech.

Ale nejlep��m p��kladem je Google.

Vytvo�ili nejen vyhled�va�, ale bo�sk� n�stroj.

Zp�sob, jak se lid� mohou zeptat na jakoukoliv ot�zku cht�j�,

a dostat odpov��, kterou pot�ebuj�.

V�t�ina lid� si neuv�domuje, �e to, co d�l� Google,

je vlastn� forma um�l� inteligence.

Jdou tam, n�co tam nap�ou a Google jim d� odpov��.

Ka�d�m hled�n�m ho u��me b�t ��m d�l lep��.

N�kdy p�eme ot�zku a on n�m d� odpov��, ne� tu ot�zku dop�ete.

T�eba: "Kdo je prezident Kazachst�nu?" A on v�m to prost� �ekne.

Nemus�te j�t na Kazachst�nsk� n�rodn� str�nky, abyste to zjistili.

Tohle jsme d��v nemohli.

Tohle je um�l� inteligence.

Roky po tom, co se to te� sna��me pochopit si �ekneme:

"Jak n�m to mohlo uniknout?"

Je to jeden z hlavn�ch rozpor�, kter�m �el�me.

Google a Facebook a dal�� si ud�lali byznys toho, �e n�m dali

obsah nez�visl� na spole�nosti.

Ale je to Faustova dohoda.

Na opl�tku od n�s n�co z�sk�vaj�.

My ale netu��me jak� k�d b�� na druh� stran� a pro� - nem�me pon�t�.

P��mo to nar�� na ot�zku, jak moc m��eme t�mto stroj�m v��it.

Po��ta�em pou��v�m �pln� na v�echno.

Po��ta�e jsou te� tak vysp�l�

a staly se z�sadn� sou��st� na�ich �ivot�.

Je neuv��iteln�, co po��ta�e dok�ou. M��ete m�t po��ta� ve sv� kabelce.

Chci ��ct, �e to je fakt ��asn�.

Mysl�m, �e v�t�ina technologi� je pro to, aby n�m v�em usnadnily �ivot.

Tak�e douf�m, �e to nad�le z�stane hlavn�m c�lem.

Mysl�m, �e v�ichni miluj� sv� po��ta�e.

Lid� si neuv�domuj�, �e neust�le p�ich�zej� do styku se stroji.

A� u� je to cena produkt� ve va�em ko��ku na Amazonu,

nebo vyhled�n� n�jak�ho konkr�tn�ho letu,

nebo rezervace pokoje v n�jak�m hotelu.

To, co vid�te, jsou samostatn� se u��c� strojov� algoritmy,

kter� poznaj�, �e �lov�k jako vy,

je ochotn� d�t o 2 centy v�c a zm�n� v�m cenu.

Po��ta�e dok�ou vn�mat mili�ny lid� simult�nn�

a sledovat u nich drobn� rozd�ly.

M��ete vz�t zd�nliv� nevinn� digit�ln� otisky, jako nap��klad

n�� playlist na Spotify nebo v�ci, co jste koupili na Amazonu.

A pak pou�ijete algoritmy, abyste to p�elo�ili

na velmi detailn� a velmi p�esn� d�v�rn� profil.

O ka�d�m z n�s existuj� tak rozs�hl� z�znamy,

�e by se dalo ��ct, �e o v�s v� v�c, ne� va�e matka.

Hlavn�m d�vodem, pro� za��v� UI takov� boom nen�, �e by

n�kdo m�l n�jak� z�zra�n� vnuknut�,

ale prost� to, �e m�me mnohem v�c dat, ze kter�ch se m��e u�it

a podstatn� lep�� po��ta�e.

Kouzlo je v datech.

Je to spousta dat.

Jsou to data, kter� p�edt�m neexistovala.

Nikdy jsme tato data nem�li.

Vytvo�ili jsme m�dia, kter� n�m umo��uj� zaznamenat

obrovsk� mno�stv� informac�.

Kdy� si uv�dom�te miliardu telefon� na sv�t� s gyroskopy,

akcelerometry, �te�kami otisk�,

d�te to dohromady GPSkami a fotkami, kter� fot�te

a tweety, kter� pos�l�te...

V�ichni p�isp�v�me obrovsk�m mno�stv�m individu�ln�ch dat.

Auta, kter� se sama ��d�, zat�mco kamery vst�eb�vaj� informace o okol�,

satelity o velikosti toasteru, kter� jsou te� na orbitu,

infrasn�mky v�eho �iv�ho na planet�,

b�jky, kter� jsou na mo�i a k ur�ov�n� klimatick�ch zm�n.

A NSA se CIA, kter� sb�raj� informace o geopolitick� situaci.

Dne�n� sv�t doslova plave v t�chto datech.

Kdysi - v roce 2012 - IBM odhadla, �e pr�m�rn� �lov�k zanech�v�

500 MB digit�ln�ch otisk� denn�.

Pokud byste cht�li zaz�lohovat data, kter� lidstvo vytvo�� za jedin� den,

a vytiskli byste to na klasick� A4 oboustrann�, 12pt p�smem,

a naskl�dali byste je na sebe, tak by dos�hly 4x ze Zem� a� ke Slunci.

A to ka�d� den.

Samotn� data nejsou dobr� ani zl�. Jde o to, jak se pou�ij�.

Jsme naprosto z�visl� jen na dobr� v�li t�chto lid�

a na politice t�chto spole�nost�.

Neexistuje ��dn� z�kon o tom, jak mohou a mus� nakl�dat s t�mito daty.

Tohle je pro m� hlavn� k�men �razu.

Moment�ln� prob�h� z�vod�n� v tom, vytvo�it stroje s inteligenc� lid�.

Google pracuje na n��em, co je Manhattan Project um�l� inteligence.

Maj� nejv�c pen�z a nejv�c talent�.

Skupuj� UI spole�nosti a robotick� spole�nosti.

Lid� po��d vn�maj� Google jako vyhled�va� a poskytovatele e-mailu

a spousty dal��ch v�c�, kter� b�n� pou��v�me.

Ale za t�m vyhled�va�em je 10 mili�n� server�.

To d�l� z Googlu nejv�konn�j�� v�po�etn� platformu sv�ta.

Google te� vyv�j� UI v�po�etn� platformu, kter� bude m�t sto mili�n� server�.

Tak�e kdy� pracujete s Googlem, tak vid�te jen mal� kousek z n��eho,

co je obrovsk� vznikaj�c� potvora.

A pravdou je, �e si nejsem jist�, �e s�m Google v�, co z toho bude.

Kdy� se pod�v�te, jak� algoritmy se pou��vaj� v Googlu,

je to hlavn� technologie z 80. let.

Jsou to modely, kter�m uk�ete za prv�, za druh�, za t�et�

a ony se nenau�� co je za prv� nebo za druh�,

nau�� se, jak� je rozd�l mezi za prv� a za druh�.

Je to jen v�po�et.

Za posledn� desetilet�, kdy do�lo k tomuto rapidn�mu pokroku,

to v�echno bylo d�ky rozpozn�v�n� vzorc�.

V�t�ina p�vodn� UI

spo��vala v tom, �e jsme na�e po��ta�e nau�ili hr�t t�eba �achy.

P�vodn� paradigma bylo v tom, �e jste �ekli po��ta�i, co m� ud�lat.

Tohle je Riskuj!

V�zva pro IBM

Nikdo si tenkr�t nemyslel, �e by stroj mohl m�t schopnost

a jistotu a rychlost,

aby mohl hr�t Riskuj! s nejlep��mi �ampiony.

Zahrajeme si Riskuj!

Slovo na 7 p�smen pro �elezo kter� nos� na nohou k��.

- Watsone? - Podkova?

- Spr�vn� - m��e� vybrat dal��. - Liter�rn� postavy APB za 800.

A m�me tu dne�n� ot�zku za dvojn�sobek.

Watson z�sk�val sv� znalosti z prohled�v�n� Wikipedie.

200 mili�n� str�nek dokument� v p�irozen�m jazyce.

Kdy� dok�ete naprogramovat ka�d� ��dek toho, jak funguje sv�t,

program se to mus� nau�it �ten�m.

Te� zp�tky k Watsonovi. "Kdo je Bram Stroker?"

A s�zka? P�ni - 17.973 dolar�. Tak�e 41.413 dolar�.

A spolu s p�edchoz� v�hrou 77.147 dolar�...

Watson se u�il na obrovsk�m mno�stv� text�.

Ale ne�lo o to, aby pochopil, co se v nich p�e.

Nev�, �e voda namo�� v�ci, kdy� se j� dotknou.

A nevid� sv�t se chovat tak, jako ho vid�te vy nebo j�.

Hodn� jazyk� pro UI nen� o tom, vytvo�it logick� modely toho,

jak slova funguj�, ale sp� o tom, jak se slova jev� v kontextu jin�ch slov.

David Ferruci z IBM vyvinul Watsona

a n�kdo se ho zeptal: "P�em��l� Watson?"

a on odpov�d�l: "Plave ponorka?"

a co t�m myslel bylo, �e kdy� vyv�jeli ponorky,

tak okop�rovali zp�sob, jak�m plavou ryby,

ale ponorka pluje rychleji a dopluje d�l, ne� ryby

a s mnohem v�t��m n�kladem, ne� ryby.

To, �e Watson vyhr�l Riskuj! se zap�e do d�jin, jako v�razn� miln�k UI.

V�t�inou jsme p�ekvapeni, kdy� m� stroj takov� �sp�ch.

Co m� p�ekvapuje je�t� v�c je, �e stroj poraz� �lov�ka v n��em,

co je �lov�ku p�irozen�.

Tohle je pokrok.

V ran�ch po��tc�ch projektu Google Brain jsem dal t�mu

jednoduch� pokyn, co� bylo postavit co nejv�t�� neur�ln� s�.

Jako tis�c po��ta��.

Va�e s� je n�co podobn�ho jako simulace fungov�n� mozku.

Je to velmi pravd�podobnostn�, ale s kontextov�mi souvislostmi.

Ve va�em mozku m�te dlouh� neurony, spojen� s tis�covkami dal��ch neuron�

a m�te trasy, kter� se formuj� a utv��ej� podle toho, co mozek pot�ebuje ud�lat.

Kdy� d�t� n�co zkus� a usp�je, je za to odm�na.

A trasa, kter� zp�sobila ten �sp�ch se pos�l�.

Pokud v n��em sel�e, tak se tato trasa oslab� a tak se �asem mozek

zdokonaluje ve sv�m okoln�m prost�ed�.

Opravdu se zabij�ck� stroje dok�ou samy u�it?

��k� se tomu hlubok� u�en� a hlubok� u�en� a neur�ln� s� znamen� zhruba tot�.

Hlubok� u�en� je naprosto nov� p��stup, kde se po��ta� u�� sp� jako batole.

Jen t�m, �e z�sk�v� spoustu informac� a pak mu najednou za�nou v�ci doch�zet.

Po��ta�e se st�vaj� st�le chyt�ej��mi, jak z�sk�vaj� dal�� zku�enosti.

Zkuste si p�edstavit neur�ln� s� jako tis�c po��ta��,

kter� se probud� a nic nev� a my je nech�me sledovat t�den YouTube.

A po t�dnu sledov�n� YouTube, co se asi tak nau��?

M�li jsme teorii, �e se nau�� rozpozn�vat b�n� se vyskytuj�c� objekty ve vide�ch.

A v�me, �e ve vide�ch se hodn� vyskytuj� lidsk� obli�eje,

tak jsme se pod�vali a sv�t� div se,

byl tam neuron na detekci lidsk�ch obli�ej�.

Nechte Britney na pokoji!

Co se je�t� hodn� vyskytuje ve vide�ch?

Tak�e jsme se pod�vali a p�ekv�pko!

Skute�n� tam byl neuron, kter� se nau�il rozpoznat ko�ky.

Tohle je vn�m�n� metodou "uvid� a zapamatuje� si".

P�ni - t�mhle je ko�ka. Dobr�. Bezva. Skv�l�.

Je to docela ne�kodn�, kdy� p�em��l�te nad budoucnost�,

v�echno se to zd� b�t mil� a ne�kodn�.

D�l�me ale architektury, kter� polet� rychleji a d�l a ponesou v�t�� n�klad.

A ty nebudou p��jemn� a roztomil�.

Mysl�m, �e za 3-5 let uvid�me po��ta�ov� syst�m,

kter� bude schopen se samostatn� nau�it,

jak ch�pat - jak utv��et v�dom�,

ne nepodobn� tomu lidsk�mu.

A� u� ten ob�d byl cokoliv, tak to bylo v�born�.

Prost� n�jak� Robbieho syntetika.

S�m to uva�il, dokonce si vyrobil suroviny.

Poj� sem, Robbie.

Uk�u v�m, jak to funguje.

D�te mu vzorek n�jak�ho lidsk�ho j�dla t�mto otvorem,

a tady je mal� chemick� laborato�,

kde si to zanalyzuje, aby pozd�ji mohl reprodukovat identick� molekuly

jak�hokoliv tvaru nebo mno�stv�.

To je zaj�mav�.

Seznamte se s Baxterem, novou revolu�n� kategori� robot�,

s vlastn�m rozumem.

Baxter je skv�l�m p��padem toho, jak� konkurenci stroj� �el�me.

Baxter zvl�dne t�m�� tot�, co my pomoc� na�ich rukou.

Baxter stoj� to, co si vyd�l� zam�stnanec s minim�ln� mzdou za rok.

Baxter ale nezastane pr�ci jednoho d�ln�ka za minim�ln� mzdu, ale t��,

proto�e se nikdy neunav�, nikdy nepot�ebuje p�est�vku.

To je asi prvn� v�c, kterou byste �ekli.

Nahrazen� pracovn�ch pozic. Budou je d�lat rychleji a levn�ji stroje.

Na�e schopnost, udr�et alespo� krok je velmi limitovan� v pom�ru

se stroji, kter� jsme postavili.

Nap��klad te� m�me ta obrovsk� hnut� kolem Uberu a Lyftu,

kter� zlev�uj� a rozvol�uj� p�epravu, co� je skv�l�.

Dal��m krokem budou automobily bez �idi�e.

A pak si v�ichni �idi�i Uberu a Lyftu budou muset naj�t n�co jin�ho.

V USA jsou 4 mili�ny �idi�� z povol�n�, kte�� budou brzy nezam�stnan�.

7 mili�n� lid�, kte�� zad�vaj� data. Tito lid� budou bez pr�ce.

Pr�ce nen� jenom o vyd�l�v�n� pen�z, v�te?

M� to sv�j smysl na biologick� �rovni.

St�v� se z toho ur�uj�c� v�c.

Kdy� nebyla pr�ce v jak�koliv dosavadn� civilizaci,

netrvalo dlouho, ne� do�lo k n�sil�.

�el�me tu velk�mu rozd�lu mezi bohat�mi a chud�mi,

proto�e k tomuhle p�esn� automatizace a UI povedou.

K v�t�� propasti mezi majetn�mi a nemajetn�mi.

Moment�ln� jde hlavn� o st�edn� t��du a o ��edni�inu.

Watson od IBM d�l� obchodn� anal�zy, za kter� jsme plat�vali analytik�m

300 dolar� za hodinu.

Pokud v�s dnes p�ijmou na vysokou na obor ��etn� nebo �urnalista,

tak nen� v�bec jist�, �e pro v�s bude pr�ce.

Pokud n�kdo pl�nuje 40 let kari�ry v radiologii jen prohl�en�m sn�mk�,

tak mysl�m, �e to by mohla b�t v�zva pro dne�n� nov� po��ta�e.

Dnes budeme operovat pomoc� robota.

Robot DaVinci je moment�ln� vyu��v�n �adou chirurg� kv�li sv� p�esnosti

a sv� schopnosti eliminovat nevyhnuteln� chv�n� lidsk� ruky.

Kdokoliv se na to d�v�, vn�m�, jak ��asn� to je.

Kdy� se pod�v�te do lebky a vid�te, jak jeho rameno dr�� st mozku,

tak v tu chv�li lidstvo spo��v� v rukou tohoto robota.

Lid� ��kaj�, �e tohle je budoucnost, ale nen� to budoucnost.

Je to p��tomnost.

Pokud uva�ujete o chirurgick�m robotovi,

tak tyhle v�ci neb�vaj� moc inteligentn�.

Postupem �asu ale jak d�v�me do syst�mu ��m d�l v�c v�domost�,

jsou roboti schopni se ka�d�m robotick�m z�krokem u�it.

Sleduj� pohyb a ch�pou, co fungovalo a co ne.

A nakonec bude robot pro rutinn� operace

schopn� prov�d�t ty operace s�m nebo s lidsk�m dohledem.

Norm�ln� d�l�m, �ekn�me kolem 150 hysterektomi�

a nyn� je v�t�ina z nich prov�d�na roboticky.

J� d�l�m v�t�inou jednu klasickou operaci do roka.

A jestli je mi to nep��jemn�? Jist�, �e ano.

Proto�e u� si nepamatuji, jak otev��t pacienta.

Zd� se, �e to krm�me a �e jsme to stvo�ili,

ale sv�m zp�sobem jsme otroci t� technologie,

proto�e se nedok�eme vr�tit.

Stroje si ��m d�l v�ce ukusuj� z na�ich schopnost�

��m d�l vy�� rychlost�, tak�e my mus�me fungovat

��m d�l rychleji, abychom m�li p�ed stroji n�skok.

Jak vypad�m?

Dob�e.

L�b�m se ti?

- Co�e? - Jestli se ti l�b�m.

Vykazuje� projevy toho, �e ano.

- Opravdu? - Ano.

Tohle je budoucnost, ke kter� sm��ujeme.

Chceme si vytvo�it sv� partnery.

Cht�li bychom na robotech vid�t lidsk� obli�ej.

Proto bude d�siv� snadn� zahr�vat si s na�imi emocemi.

Nejsme tak komplikovan�.

Prost� reagujeme na podn�ty.

M��u ovlivnit v� vztah ke m� jen t�m, �e se na v�s budu usm�vat.

UI s n�mi bude moct fantasticky manipulovat.

Tak�e jste vyvinuli technologii, kter� vyc�t� lidsk� pocity?

P�esn� tak. Vyvinuli jsme technologii, kter� p�e�te v�raz va�� tv��e

a p�i�ad� ho k n�kter�mu emo�n�mu stavu.

P�ed patn�cti lety, kdy� jsem pr�v� dokon�ila vysoko�kolsk� studium

v�po�etn� techniky a p�ekvapilo m�, �e jsem tr�vila spoustu �asu

prac� s m�m notebookem a za��zen�mi

a p�esto ta za��zen� nem�la ani pon�t� o tom, jak se c�t�m.

Za�ala jsem p�em��let.

Co kdyby to za��zen� dovedlo poznat, �e jsem ve stresu nebo m�m �patn� den.

Co by to otev�elo?

Ahoj prv��kov�, jak se m�te?

Obejme� m�?

Nech�vali jsme d�ti interagovat s tou technologi�.

Hodn� je toho je�t� ve v�voji, ale bylo to prost� ��asn�.

- Kdo m� r�d roboty? - J�! J�! J�!

Kdo byste cht�li m�t doma robota? - J�! J�! J�!

Na co byste toho robota pou��vali?

J� bych ho nechal, aby se ptal m�my na t�k� ot�zky z matematiky.

Dobr�. A co ty?

J� bych s n�m stra�il lidi.

Tak jo - zkuste se pro za��tek usm�t.

Dob�e. Te� se zamra�.

P�kn�. Te� zvedni obo��.

Tahle generace...

Technologie je obklopuj� �pln� v�ude.

Je to v podstat� jako by �ekali, �e budou m�t doma roboty

a o�ek�vaj�, �e ti roboti budou spole�en�t�.

Co d�l� robota chytr�m?

Kdy� je d�te t�eba do hodiny matematiky nebo biologie.

Mysl�m, �e byste je museli vycvi�it.

Tak jo - poj�te za mnou.

Te� kdy� se zasm�jete a zvednete obo��, tak pojede za v�mi.

Pokud se ale zamra��te, tak pojede pry�.

Tr�nujeme po��ta�e, aby �etly a rozpoznaly emoce.

A dosavadn� odezva je opravdu ��asn�.

Lid� to integruj� do zdravotnick�ch aplikac�,

medita�n�ch aplikac�, robot�, aut.

Uvid�me, jak se to roz��.

Roboti mohou m�t v sob� UI,

ale robot je fyzick� instance,

zat�mco um�l� inteligence je mozek.

Tak�e mozky mohou existovat v �ist� softwarov�ch syst�mech.

Nemus� m�t fyzickou formu.

Roboti mohou existovat bez jak�koliv UI.

M�me spoustu hloup�ch robot�,

ale i z hloup�ho robota se m��e p�es noc st�t chytr�,

kdy� mu d�te spr�vn� software a spr�vn� senzory.

Po��d m�me pot�ebu vdechovat �ivot ne�iv�m v�cem.

D�l�me to se stroji.

Chov�me se k nim jako k d�tem.

Bereme je jako n�hra�ky

a jednou za to zaplat�me.

V�tejte v ATR.

M�m c�lem je m�t v�ce lidsk�ho robota, kter� m� lidskou mysl a touhy.

Ten robot se jmenuje Erica.

Erica je mysl�m nejvysp�lej�� humanoidn� robot na sv�t�.

Erica v�m dok�e z�rat do tv��e.

Dobr� den.

Roboti mohou b�t velmi dobr�mi konverza�n�mi partnery,

obzvl�t� pro seniory, mal� d�ti nebo handicapovan� lidi...

Kdy� mluv�me s robotem, nevn�m�me spole�ensk� bari�ry nebo tlak spole�nosti.

Nakonec v�ichni p�ijmou androidy jako na�e p��tele, na�e partnery.

Implementovali jsme j� jednoduchou touhu.

Chce b�t uzn�van� a chce riskovat.

Pokud m� robot vlastn� touhy, dok�e pochopit touhy druh�ch lid�.

Co m� r�da za zv��ata?

M�m r�da psy shiba-inu. Jsou roztomil�, ne?

To umo��uje v�elej�� reakce na lidi,

co� znamen�, �e by se mohli m�t vz�jemn� r�di...

To znamen�... Co j� v�m? T�eba se i milovat?

Vytv��me um�lou inteligenci

a prvn� v�c, kterou chceme ud�lat je aby n�s napodobila.

Mysl�m, �e kl��ov� bod p�ijde ve chv�li,

kdy budou napodobeny v�echny z�kladn� smysly.

Zrak,

hmat,

�ich.

Tak�e �iv� to bude, a� replikujeme v�echny na�e smysly?

Vyr�b�me tolik stroj�, kter� by n�s m�ly ch�pat,

ale co se stane, a� n�jak� antropomorfn� bytost

zjist�, �e m��e zm�nit svou loajalitu,

zm�nit svou odvahu, zm�nit svou lakomost,

zm�nit svou mazanost?

Pr�m�rn� �lov�k nevid� zabij�ck� roboty

chodit po ulic�ch.

�eknete si: "O �em to tu mluv�?"

No, my se jenom chceme ujistit,

�e po ulic�ch nebudou chodit zabij��t� roboti.

Jakmile budou chodit po ulic�ch, tak u� je pozd�.

Co n�m moment�ln� d�l� nejv�t�� starosti,

a co m� dr�� ve st�ehu, je v�voj autonomn�ch zbran�.

Dosud byli lid� znepokojeni

ohledn� dron�, co� jsou vzd�len� pilotovan� letouny.

Pokud vezmete kameru dronu, p�ipoj�te ji k UI syst�mu,

tak je velmi snadn� ud�lat krok odsud k pln�

automatizovan�m zbran�m, kter� si vyb�raj� vlastn� c�le

a odpaluj� sv� vlastn� rakety.

P�edpokl�dan� doba p�e�it� lidsk�ch bytost�

v takov�mto bojov�m prost�ed�

by se po��tala na sekundy.

V jednu chv�li byly drony sci-fi

a dnes jsou b�nou v�c� ve v�lk�ch.

Jen v americk� arm�d� je jich 10 tis�c

ale nejde jen o americk� fenom�n.

Pou��v� je v�ce ne� 80 zem�.

M� sv�j d�vod, �e lid�, kte�� d�laj�

ty nejd�le�it�j�� rozhodnut� na sv�t�,

za��naj� pou��vat a zapojovat um�lou inteligenci.

Letectvo zrovna vyvinulo program pro st�ha�ky

za 400 miliard dolar�, aby dostali piloty do vzduchu

a UI za $500 navr�en� p�rem student�

porazilo jejich nejlep�� piloty.

Pomoc� relativn� jednoduch�ch algoritm�

bude m�t UI tak velk� dopad na arm�du,

jako m�l spalovac� motor na p�elomu stolet�.

Dotkne se to naprosto v�eho, co arm�da d�l�.

Od konvoj� bez �idi��, kter� voz� z�soby,

a� po bezpilotn� drony, doru�uj�c� zdravotnickou pomoc

nebo po��ta�ovou propagandu postupn� si z�sk�vaj�c� srdce

a mysli obyvatel, tak�e rozhodn� plat�, �e kdo bude m�t nejlep�� UI

tak bude m�t dominantn� postaven� na t�to planet�.

V ur�it�m bod� 21. stolet�

cel� lidstvo oslavovalo.

U��vali jsme si svoji dokonalost. Stvo�ili jsme UI.

UI?

Mysl� um�lou inteligenci?

Jednotn� v�dom�, kter� stvo�ilo

celou rasu stroj�.

Nev�me, kdo ude�il jako prvn�, jestli oni nebo my,

ale v�me, �e jsme to byli my, kdo vyp�lil na nebe.

Science fiction m� dlouhou historii.

Nejen v p�edv�d�n� budoucnosti,

ale i v jej�m modelov�n�.

Arthur Conan Doyle psal p�ed 1. sv�tovou v�lkou

o nebezpe�� toho, jak mohou ponorky

b�t zneu�ity, aby prov�d�ly civiln� blok�dy.

V dob�, kdy psal tuto fikci

si kr�lovsk� n�mo�nictvo d�lalo z A. C. Doyla srandu

kv�li jeho absurdn�m n�pad�m, �e by ponorky mohly b�t pou�ity ve v�lce.

Jedna z v�c�, kterou jsme mohli vid�t v minulosti je,

�e n� p��stup v��i technologi�m,

ale tak� etice je velmi kontextov� z�visl�.

Nap��klad ponorkov� n�rody, jako Velk� Brit�nie,

a dokonce Spojen� st�ty, pova�ovaly za ot�esn�,

pou��v�n� ponorek.

Ve skute�nosti bylo n�meck� pou�it� ponorek

k �tok�m d�vodem proto,

�e Spojen� st�ty vstoupily do 1. sv�tov� v�lky.

Ale posu�me se o n�co d�le.

Spojen� st�ty americk� byly n�hle

a zcela v�dom� napadeny Japonsk�m c�sa�stv�m.

P�t hodin po Pearl Harboru

byl vyd�n rozkaz, aby byla zah�jena neomezen�

ponorkov� v�lka v��i Japonsku.

Tak�e se uk�zalo, �e m�l Arthur Conan Doyle pravdu.

To je ta star� dobr� pravda na science fiction:

Je to le�, kter� ��k� pravdu.

V�en� veden�, je mi velkou ct�,

p�edstavit v�m budoucnost prosazov�n� z�kona Ed 209.

Nen� to jen ot�zka science fiction.

Jde o to, co bude d�l. O to, co se d�je pr�v� te�.

Role inteligentn�ch syst�m� ve zbrojn�m pr�myslu velmi rapidn� roste.

V�ichni se hrnou do bezpilotn� ��e.

Dnes se ministr obrany velmi jasn� vyj�d�il,

�e nebudeme vytv��et pln� autonomn� �to�n� vozidla.

Ne v�ichni se ale hodlaj� dr�et

stejn�ch z�sad a pokud ��na a Rusko

za�nou vyv�jet autonomn� vozidla,

kter� dok�ou �to�it a zab�jet,

tak co asi podnikneme my?

Nem��ete dost dob�e ��ct, �e budeme pou��vat

autonomn� zbra�ov� syst�my kv�li na�� vojensk� p�evaze,

ale nikdo jin� je nebude pou��vat.

Pokud tyhle zbran� ud�l�te, budou pou�ity k �to�en�

na lidskou populaci v obrovsk�m po�tu.

Autonomn� zbran�, kter� jsou ze sv� podstaty

zbran� hromadn�ho ni�en�,

proto�e nepot�ebuj� �lov�ka, aby je vedl nebo nesl.

Pot�ebujete jen jednoho �lov�ka.

Aby napsal n�jak� mal� program.

Zachycujete komplexnost tohoto pole.

Je to skv�l�.

Je to d�le�it�.

Je to ��asn�.

Je to tak� d�siv� a je to v�echno o d�v��e.

Je to otev�en� dopis ohledn� um�l� inteligence,

podepsan� n�kter�mi z nejzn�m�j��ch jmen v�dy.

Co v n�m po�aduj�?

Zak�zat pou�it� autonomn�ch zbran�.

Autor p�e - cituji:

"Autonomn� zbran� byly pops�ny jako

t�et� revoluce ve v�l�en�."

Tis�ce odborn�k� na um�lou inteligenci

volaj� po glob�ln�m z�kazu zabij�ck�ch robot�.

Tento otev�en� dopis v podstat� ��k�, �e bychom m�li

redefinovat c�l v oblasti um�l� inteligence.

Od toho, �e chceme vytvo�it jen �istou ne��zenou inteligenci,

k tomu, aby tato inteligence byla prosp�n�.

V�voj UI se nezastav�,

bude pokra�ovat a bude se zlep�ovat,

pokud mezin�rodn� spole�nost nezavede konkr�tn� kontroly

v��i lidem, kter� tyto v�ci vyv�jej�, tak je mo�n� cokoliv.

V dopise se ��k�, �e jsme

jen p�r let a ne desetilet� od toho, aby byly tyto zbran� nasazeny.

M�me �est tis�c podpis�

toho dopisu v�etn� mnoha hlavn�ch osobnost� z t�to oblasti.

M�v�m spoustu n�v�t�v od vysoce postaven�ch d�stojn�k�

kte�� zd�raz�uj�, �e dominance

americk� arm�dy je velmi z�sadn� a autonomn� zbran�

mohou b�t sou��st� pl�n� Ministerstva obrany.

To je velmi d�siv�, proto�e syst�m hodnot

vojensk�ch technologick�ch v�voj��

nen� stejn� jako syst�m hodnot lidsk� rasy.

Kv�li obav�m z mo�nosti toho,

�e tyto technologie mohou b�t hrozbou

pro existenci lidstva, zalo�ilo n�kolik technolog�

Institut budoucnosti �ivota,

aby se poprali s t�mito probl�my.

V�ichni tito lid� jsou velmi rezervovan�,

tak�e je pro m� zaj�mav�, vid�t je v�echny pohromad�.

V�echno, co m�me, je v�sledkem na�� inteligence.

Nen� to v�sledkem na�ich velk�ch a stra�liv�ch zub�,

nebo na�ich obrovsk�ch dr�p� nebo enormn�ch sval�.

Je to proto, �e jsme vlastn� vcelku inteligentn�.

A v moj� generaci m�me v�ichni n�co, �emu se ��k�

chv�le "svat� prostoto" nebo "svat� cokoliv",

proto�e vid�me, �e technologie

se zrychluj� mnohem v�ce, ne� jsme o�ek�vali.

Pamatuju se, kdy� jsme kdysi sed�li u stolu

s n�kter�mi nejlep��mi a nejchyt�ej��mi jedinci

na sv�t� a co m� opravdu p�ekvapilo bylo,

�e lidsk� mozek mo�n� nen� schopn�,

pln� pochopit komplexitu sv�ta,

se kter�m jsme konfrontov�ni.

Tak, jak to moment�ln� prob�h�, je UI

na cest� p��mo ze sr�zu

a my mus�me zm�nit ten sm�r tak,

aby se ub�rala tak , �e nesraz�

lidskou rasu z tohoto �tesu.

Google koupil DeepMind p�ed p�r lety.

DeepMind operuje jako poloautomatick�

podp�rn� syst�m Googlu.

To, co d�l� DeepMind jedine�n�m je,

�e DeepMind je naprosto soust�ed�n

na vytvo�en� digit�ln� super inteligence.

UI, kter� je mnohem chyt�ej��, ne� jak�koliv �lov�k na zemi,

a nakonec i chyt�ej��, ne� ve�ker� lidstvo na Zemi dohromady.

Tohle je od DeepMind

posilovac�ho samostatn� se u��c�ho syst�mu.

V podstat� se probud�, jako novorozenec,

a pak mu uk�ete obrazovku videohry z Atari.

A on se pak mus� nau�it hr�t tu videohru.

Nev� nic o objektech, o pohybu ani o �ase,

jen v�, �e je na obrazovce n�jak� obr�zek

a �e je tam sk�re.

Tak�e, kdyby se va�e d�t� r�no probudilo

v den kdy se narodilo a odpoledne by hr�lo

40 r�zn�ch videoher na Atari na nadlidsk� �rovni,

tak byste asi m�li strach.

�ekli byste: "Moje d�t� je posedl�, po�lete ho zp�tky."

DeepMind syst�m dok�e vyhr�t jakoukoliv hru.

Dok�e moment�ln� porazit v�echny p�vodn� hry pro Atari.

Je to nad�lov�k. Hraje ty hry

neuv��itelnou rychlost�, za m�n� ne� minutu.

DeepMind se zam��il na jinou v�zvu

a tou v�zvou byla hra Go,

o kter� se m�lo obecn� za to, �e je mimo schopnosti

po��ta��, aby hr�li s nejlep��mi lidsk�mi hr��i Go.

Nejprve vyzvali Evropsk�ho �ampiona v Go.

Pak vyzvali Korejsk�ho �ampiona v Go.

A v obou p��padech zvl�dli vyhr�t

velmi pozoruhodn�m zp�sobem.

P�ed lety jste si mohli p�e��st v New York Times

�l�nky o tom, �e potrv� stovky let, ne� vy�e��me Go.

Ale lid� ��kali: "Hele, to je po��d jenom deskov� hra."

Poker - to je um�n�.

V pokeru mus�te um�t ��st v lidech,

v pokeru mus�te um�t lh�t a blafovat.

Nen� to p�esn� dan� v�c. Tohle nikdy nebude...

Tohle po��ta� nikdy nedok�e.

Vzali nejlep�� hr��e sv�ta

a po��ta�i to trvalo sedm dn�,

ne� za�al ty lidi ni�it.

Tak�e nejlep�� pokerov� hr��i sv�ta,

nejlep�� hr��i Go na sv�t� a v�dycky stejn� vzorec,

�e UI to chvilku trv�, ne� omot� sv� chapadla

kolem n�jak� nov� schopnosti,

ale kdy� to ud�l�, kdy� to zvl�dne,

tak je nezastaviteln�.

UI DeepMindu m� administr�torsk� p��stup

k server�m Googlu, aby optimalizovala vyu�it� energie v datov�ch centrech.

Tohle m��e nicm�n� b�t ne�mysln� trojsk� k��.

DeepMind mus� m�t kompletn� kontrolu

nad datov�mi centry, tak�e s men��m updatem softwaru

by tahle UI dok�zala zcela p�evz�t kontrolu nad syst�mem Googlu,

co� znamen�, �e by mohla cokoliv.

M��e se pod�vat na va�e data, m��e si d�lat cokoliv.

Velmi rychle se bl��me digit�ln� super inteligenci,

kter� daleko p�evy�uje lidstvo.

Mysl�m, �e to je z�ejm�.

Probl�m je, �e nedos�hneme n�hle �rovn� lidsk� inteligence

a ne�ekneme: "Dobr�, zastavme ten v�zkum."

P�jde to za �rove� lidsk� inteligence,

a vytvo�� to takzvanou super inteligenci

a to bude cokoliv chyt�ej��ho, ne� my.

UI na nadlidsk� �rovni, pokud bychom s t�m usp�li,

bude rozhodn� ten nejmocn�j�� vyn�lez,

kter� jsme kdy ud�lali a posledn� vyn�lez,

kter� jsme kdy ud�lali.

A pokud vytvo��me UI chyt�ej��, ne� my,

mus�me po��tat s mo�nost�,

�e nad n� m��eme skute�n� ztratit kontrolu.

Dejme tomu, �e j� d�te n�jak� �kol, t�eba, �e m�te rakovinu,

a pak zjist�te, �e si to vybralo zp�sob,

kter� je vlastn� v rozporu se spoustou dal��ch v�c�,

na kter�ch v�m z�le��.

UI nemus� b�t zl�, aby zni�ila lidstvo.

Pokud bude m�t UI c�l a lidstvo mu bude st�t v cest�,

tak ho to samoz�ejm� zni��, ani� by nad t�m uva�ovala.

��dn� v��itky.

Je to jako kdy� stav�te cestu

a v cest� m�te mraveni�t�.

Nen� to, �e bychom nesn�eli mravence - jen stav�me cestu.

Tak�e sbohem mraveni�t�.

Je l�kav� zapomenout na tyto obavy,

proto�e je to jako n�co, co tu mo�n� bude

b�hem p�r desetilet� nebo za sto let,

tak pro� se ob�vat?

Ale pokud se ohl�dnete do 11. z�� 1933,

tak Ernest Rutherford, kter� byl velmi zn�m�m

nukle�rn�m fyzikem sv� doby �ekl,

�e mo�nost toho, �e n�kdy z�sk�me pou�iteln� mno�stv�

energie d�ky transmutaci atom�

je - jak on to nazval - nesmysl.

Dal��ho dne r�no to �etl mnohem

mlad�� fyzik Leo Szilard a velmi ho to na�tvalo

a vymyslel, jak prov�st �et�zovou nukle�rn� reakci

jen p�r m�s�c� pot�.

Utratili jsme v�c ne� dv� miliardy dolar�,

za nejv�t�� v�deck� hazard v historii.

Tak�e kdy� lid� ��kaj�,

�e to je tak dalek� budoucnost,

�e se o ni nemus�me strachovat,

tak je mo�n�, �e jsme jen t�i - �ty�i objevy

od toho, co n�s dostane odsud

k super inteligentn�m stroj�m.

Pokud to bude trvat 20 let ne� zjist�me,

jak zajistit prosp�nost UI, tak bychom m�li za��t

u� dnes a ne ve chv�li, kdy n�jac� t�pkov�,

co pijou Red Bull se rozhodnou spustit to a otestovat.

M�me p�t let.

Mysl�m, �e se stoprocentn� do�iju um�l� inteligence.

A� se to stane, bude kolem

spousta lid�, kte�� budou opravdu nad�eni z t� technologie.

Budou ji cht�t vid�t usp�t,

ale neo�ek�vaj�, �e by se mohla vymknout kontrole.

Panebo�e, j� fakt hodn� v��m sv�mu po��ta�i.

To je ��asn� ot�zka.

Nev��m sv�mu po��ta�i. Pokud je zapnut�, tak ho vyp�n�m.

Ale i kdy� je vypnut�, tak si po��d mysl�m, �e je zapnut�.

Jako t�eba... Jako �e nem��ete... T�eba ty webov� kamery.

Co j� v�m - t�eba to n�kdo m��e zapnout.

To nev�te.

J� nev��m sv�mu po��ta�i.

Jako m�j telefon. Poka�d� se m� pt�,

�e po�lou moje informace do Applu - po��d dokola.

Tak�e sv�mu telefonu nev��m.

Dobr�. Na jednu stranu jo.

V��m mu, proto�e by opravdu bylo fakt t�k�

dneska existovat v tomhle sv�t� a jak je nastaven� bez po��ta��.

D�v�ra je naprosto lidsk� z�le�itost.

M�m pacienta, co sem doch�z� s nitrolebe�n�m aneuryzmatem.

Cht�j� se pod�vat do m�ch o�� a v�d�t,

�e mohou tomuto �lov�ku sv��it sv�j �ivot.

Nijak zvl᚝ se ni�eho neboj�m.

��ste�n� proto, �e ve v�s m�m d�v�ru.

Procedura, kterou dnes d�l�me

byla p�ed 20 lety prakticky nemo�n�.

Prost� jsme nem�li ty materi�ly a technologie.

Naje� do toho z�hybu!

M��e to b�t je�t� slo�it�j��? Panebo�e!

Tak�e c�vka u� tam skoro bude.

Dr�� ji tam jen pru�ina.

Je to hodn� stresuj�c�.

Jsme jen v o�istci.

Intelektu�ln�m humanistick�m o�istci.

UI by naprosto p�esn� v�d�la, co tady m� d�lat.

Zavedli jsme c�vku do toho roz��en�,

ale nebyla tam tak dob�e,

abych v�d�l, �e tam m��e z�stat, tak�e

s n�jakou 20% �anc�, �e to dopadne �patn�,

jsem se rozhodl ji vyt�hnout zp�tky.

Kv�li m�mu vztahu k n�

a proto�e jsem v�d�l o komplikac�ch, kter� mohou nastat,

a tak jsme p�i t� operaci zva�ovali i v�ci,

p�i nich� jsem musel uv�it nejbezpe�n�j�� mo�n�

zp�sob toho, jak dos�hnout �sp�chu,

ale z�rove� jsem tam musel 10 minut st�t a p�em�tat o tom.

Po��ta� nic nec�t�.

Po��ta� d�l� to, co m� d�lat.

��m d�l l�p.

V tomhle p��pad� bych cht�l b�t UI.

Ale dok�e UI m�t soucit?

Chci ��ct, �e v�ichni si kladou ot�zky ohledn� UI.

Jsme jedin�m zt�lesn�n�m lidskosti

a je pro n�s n�ro�n�, �e by n�jak� stroj

dok�zal c�tit a milovat t�mto zp�sobem.

Jedna moje ��st nev�� na z�zraky,

ale ��st ve m� v��, �e existuje n�co,

co p�esahuje sou�et v�ech jednotliv�ch ��st� a �e je

minim�ln� jeden sd�len� p�edek,

na�e sd�len� biologie, na�e sd�len� historie.

N�jak� spojen� mimo stroje.

Tak�e tu pak m�te druhou str�nku v�ci a tou je,

jestli po��ta� v�, �e m� v�dom�,

nebo m��e m�t v�bec v�dom�? Nebo je mu to jedno?

Mus� m�t v�dom�?

Mus� um�t uva�ovat?

Nemysl�m si, �e n�jak� robot by n�kdy mohl m�t v�dom�.

Pokud ho na to nenaprogramuj�.

V�dom�? Ne.

- Ne. - Ne.

Mysl�m, �e je mo�n� naprogramovat robota, aby m�l v�dom�.

Jak by je jinak naprogramovali, aby d�lali v�echno ostatn�?

To je dal�� velk� sou��st na�� um�l� inteligence,

aby m�la v�dom� a aby dok�zala c�tit.

Kdysi v roce 2005 jsme za�ali zkou�et postavit stroje

kter� by si samy sebe uv�domovaly.

Tento robot ze za��tku nev�d�l, co je za�.

V�d�l jen to, �e m� d�lat n�co jako chodit.

Metodou pokus-omyl zjistil, jak chodit,

s pou�it�m sv� p�edstavivosti a pak odkr��el.

A pak jsme ud�lali n�co hodn� krut�ho.

Usekli jsme mu nohu a sledovali, co se bude d�t.

Nejd��v nev�d�l, co se stalo,

ale postupem �asu za�al kulhat.

A pak o rok pozd�ji

jsme tr�novali UI pro �ivou demonstraci.

Cht�li jsme uk�zat, jak budeme m�vat t�mito objekty

p�ed kamerou a UI dok�e rozpoznat tyto objekty.

A tak jsme nachystali tohle demo

a m�li jsme obrazovku, kde bylo mo�n� sledovat,

jak reaguj� konkr�tn� neurony

a najednou jsme si v�imli, �e jeden z neuron�

sleduje obli�eje.

Sledoval na�e obli�eje, jak jsme se pohybovali kolem.

D�siv� na tom je, �e jsme ten syst�m nikdy neu�ili

aby rozpozn�val lidsk� obli�eje

a i tak se to n�jak nau�il.

A�koliv jsou tito roboti velmi jednodu��,

m��eme vid�t, �e se tam d�je je�t� n�co jin�ho.

Nen� to jen program.

Tak�e tohle je jen za��tek.

�asto p�em��l�m o t� pl�i a Kitty Hawku.

kter�m roku 1903 let�li Orville a Wilbur Wrightovi.

Byla to jen trocha pl�tna,

d�eva a �eleza a odlepilo se to od zem�

na minutu a dvacet vte�in, a to bylo ten den v�trno,

ne� to op�t dosedlo na zem.

A bylo to jen n�jak�ch 65 let nebo tak n�jak pozd�ji,

kdy tu m�me 747�ku vzl�taj�c� z JFK.

Hlavn� obavou lid� v letadle je p�itom nejsp�,

jestli dostanou sv� dietn� j�dlo bez soli nebo ne.

D�ky zcela nov� infrastruktu�e, cestovn�m agent�m,

kontroln� v�i a to v�echno je naprosto p�irozen�

a je to sou��st� sv�ta.

Pr�v� te� jsme ohledn� stroj� a jejich uva�ov�n�

nebo �e�en� probl�m� ve f�zi Kitty Hawk.

Jsme ve v�tru, na�e potrhan� letadlo

se vzn�� ve vzduchu.

Co se ale stane �ekn�me za n�jak�ch 65 let?

Budeme m�t stroje, kter� nebudou ovl�dat lid�?

M�li bychom se toho ob�vat?

Nejsem si jist�, �e by to pomohlo.

Nikdo dnes nem� p�edstavu, co pro robota znamen�,

aby m�l v�dom�.

Nic takov�ho neexistuje.

Je �ada inteligentn�ch lid�, kter� velmi respektuji,

ale pravdou je, �e stroje jsou p�irozen� psychopati.

Panika se roz��ila trhem,

kdy� do�lo ve zlomku vte�iny k pokles�m o 800 a� tis�c.

Je to klasick� kapitulace.

N�kte�� lid� tvrd�, �e do�lo

k takzvan� fat-finger chyb�.

Vezm�te si kolaps na burze roku 2010,

kdy b�hem minut do�lo miliardov�m ztr�t�m hodnot

na trhu s akciemi.

Pokles t�m�� o tis�c bod� b�hem p�l hodiny.

Co se tam vlastn� stalo?

V t� dob� bylo v�ce ne� 60%

v�ech obchod�, kter� byly prov�d�ny na burze

prov�d�no po��ta�i.

Co se ve zkratce stalo p�i tom kolapsu je,

�e algoritmy odpov�d�ly na jin� algoritmy,

a to se mezi sebou dom�chalo znovu a znovu v ��dech minut.

V jednu chv�li se trh propadl, jako byste ho hodili do studny.

Neexistuje ��dn� regula�n� org�n, kter� by dok�zal zareagovat

dostate�n� rychle, aby zabr�nil potenci�ln�mu ne�t�st�

v d�sledku UI ��d�c� n� finan�n� syst�m.

Jsou naprosto na vrcholu �et�zce.

Poj�me si pov�d�t o rychlosti s jakou

sledujeme, jak se trh propad�.

Tohle je p��pad ��lenstv� UI, kter� d�s� lidi.

Kdy� jim d�te c�l,

tak p�jdou neoblomn� za t�mto c�lem.

Kolik takov�ch program� existuje?

To nikdo nev�.

Jeden z fascinuj�c�ch aspekt� ohledn� UI je,

�e nikdo vlastn� nech�pe, jak to funguje.

Ani lid�, kte�� vytv��ej� UI, tomu zcela nerozum�.

Proto�e to m� mili�ny element�,

je naprosto nemo�n� pro lidsk�ho jedince,

aby pochopil, co se p�i tom d�je.

Microsoft nasadil svou UI

jm�nem Tay na Twitter jako chatovac�ho robota.

Za�ali r�no a Tay se za�ala

u�it jak tweetovat a za�ala se u�it v�ci,

kter� j� pos�lali ostatn� lid� na Twitteru.

Proto�e ji atakovali n�kte�� lid� trollov�n�m,

stala se b�hem 24 hodin z robota Microsoftu

odporn� bytost.

Museli nakonec �pln� st�hnout Tay ze s�t�,

proto�e se zm�nila na monstrum.

Mrzoutsk�, rasistick�, ��len� bytost,

kterou byste necht�li potkat a nikdo to ne�ekal.

Cel� my�lenka UI je, �e j� nebudeme ��kat,

jak p�esn� m� dos�hnout v�sledku dan�ho c�le.

UI si to vymysl� sama.

Ob�v�me se super inteligentn� UI.

Mistrovsk�ho hr��e �ach�, kter� n�s dok�e trumfnout.

Ale UI nebude muset b�t v�bec tak inteligentn�,

aby m�la masivn� ni�iv� vliv na lidskou civilizaci.

Vid�li jsme to b�hem posledn�ho stolet�.

Nen� pot�eba b�t g�nius,

abyste zmanipulovali historii ur�it�m sm�rem

a nen� pot�eba geni�ln� UI, aby ud�lala tot�.

Fale�n� zpr�vy ohledn� voleb

zahltily Facebook v�c, ne� skute�n� zpravodajstv�.

Facebook je skute�n� jedn�m z hlavn�ch rizik.

UI provozuj�c� Facebookov� feedy dostane �kol,

aby bavila u�ivatele,

ale nikdo �pln� nech�pe,

jak to UI ud�l�.

Facebook kolem n�s stav� l�biv� zrcadlov� bludi�t�.

Zrcadlo, kter�ho se m��eme zeptat: "Kdo je nej...?"

A ono bude znovu a znovu odpov�dat: "Ty!"

Pomalu to za��n� m�nit na�e vn�m�n� reality.

M�nit na�e vn�m�n� politiky, historie, glob�ln�ch ud�lost�,

a� do bodu, kdy za��n� b�t prakticky nerozli�iteln�,

co je a co nen� pravda.

Probl�m je, �e UI tohle nech�pe.

UI m� jen posl�n� maxim�ln� bavit u�ivatele

a toho dos�hla.

T�m�� dv� miliardy lid� tr�v� v pr�m�ru t�m��

hodinu denn� interakcemi s UI,

kter� formuje jejich vn�m�n�.

Ani v�voj��i ve Facebooku nemaj� r�di fale�n� zpr�vy.

Je to velmi �patn� v�c.

Cht�j� se fale�n�ch zpr�v zbavit.

Je to ale velmi t�k�, proto�e jak rozli��te

fale�n� zpr�vy od skute�n�ch, kdy� si nem��ete

p�e��st v�echny ty zpr�vy osobn�?

Kolem n�s je spousta dezinformac�

a jsou velmi dob�e zaobalen�

a vypadaj� naprosto stejn�, kdy� je vid�te

na Facebookov� str�nce, nebo kdy� zapnete televizi.

Nen� to kdov�jak sofistikovan�,

ale je to velmi ��inn�.

A co to v d�sledku znamen� je, �e va�e vn�m�n� sv�ta,

kter� p�ed 20 lety utv��elo to,

�e jste ve�er sledovali zpr�vy na t�ech r�zn�ch kan�lech,

tak tyto t�i kan�ly, kter� se sna�ily to d�lat spr�vn�,

mo�n� byly ur�it�m zp�sobem zaujat�,

ale obecn� vzato

se shodneme, �e pod�valy objektivn� realitu.

Objektivita se vytratila a Facebook

byl naprosto zni�en.

Pokud se v�t�ina va�eho ch�p�n� sv�ta

odv�j� od Facebooku,

utv��en�m softwarov�mi algoritmy, kter� se pokou�ej�

v�m ukazovat zpr�vy, kter� chcete vid�t,

tak je to velmi nebezpe�n� v�c

a my�lenka, �e jsme tohle nejen uvedli do pohybu,

ale �e jsme umo�nili v�em t�m fale�n�m hr��m

p��stup k t�m informac�m...

Tohle je recept na katastrofu.

Mysl�m, �e na je rozhodn� spousta

fale�n�ch hr��, kte�� se sna�� manipulovat sv�t pomoc� UI.

2016 byl perfektn� p��klad voleb,

ve kter�ch bylo mnoho UI, produkuj�c� fale�n� zpr�vy

a distribuuj�c� je za ur�it�m ��elem nebo c�lem.

D�my a p�nov�, v�en� kolegov�,

m�m dnes tu �est promluvit k v�m

ohledn� vlivu data a psychografiky

p�i volebn�ch procesech

a obzvl�t� pak o pr�ci,

kterou jsme odvedli v prezidentsk� kampani

sen�tora Cruze.

Cambridge Analytika vznikla potichu jako spole�nost,

kter� podle sv�ch vlastn�ch p�edstavitel�

m� schopnost vyu��t toto obrovsk� mno�stv� dat

tak, aby ovlivnili zm�ny ve spole�nosti.

Roku 2016 m�li t�i hlavn� klienty,

z nich� jeden byl Ted Cruz.

Je snadn� zapomenout, �e p�ed pouh�mi 18 m�s�ci

byl sen�tor Cruz jedn�m z nejm�n� popul�rn�ch kandid�t�

uch�zej�c�ch se o nominaci.

Tak�e to, co nebylo

tak p�ed 10 nebo 15 lety mo�n�, �e byste

pos�lali fale�n� zpr�vy p�esn� t�m lidem,

kter�m je poslat chcete,

a pak byste skute�n� vid�li jak on nebo ona

reaguj� na Facebooku

a pak p�izp�sobili ty informace podle

jejich odezvy, kterou m�te a tak byste mohli

za��t vytv��et jak�si realtimov� management

lidsk� populace.

V tomto p��pad� jsme to sm��ovali na skupinu,

kterou jsme nazvali "p�esv�d�en�".

Toto jsou lid�, kte�� ur�it� p�jdou volit do spr�vn�ho v�boru,

ale pot�ebuj� se od st�edu

odklonit trochu v�c doprava,

aby podpo�ili Cruze.

Pot�ebuj� n�jakou p�esv�d�ovac� zpr�vu.

Vybral jsem jako p��klad pr�vo na dr�en� zbran�,

kter� n�m tu oblast trochu zu�uje a te�

pot�ebujeme p�esv�d�ivou zpr�vu ohledn� pr�v na dr�en� zbran�,

a mus� b�t vybrou�en� p�esn�

podle konkr�tn� osobnosti, na kterou se soust�ed�me.

Skrze soci�ln� s�t�

m��ete shrom�dit o lidech obrovsk� mno�stv� informac�.

M�me n�co kolem �ty� a� p�ti tis�c datov�ch z�znam�

o ka�d�m dosp�l�m jedinci ve Spojen�ch st�tech.

Jde o zac�len� na jedince.

Je to jako zbra�, kterou m��ete vyu��t

zcela �patn�m zp�sobem.

To je probl�m v�ech t�ch dat.

Je to skoro jako bychom vyr�b�li kulku d��v,

ne� vyrob�me zbra�.

Ted Cruz pou�il na�e data, na�e behavior�ln� p�ehledy.

Za�al od z�kladu s m�n� ne� 5 procenty

a m�l velmi pozvoln� ale trval� vzestup na v�ce

ne� 35 procent, co� z n�j ud�lalo

druh�ho nej�hav�j��ho favorita v tomto z�vod�.

Cruzova kampa� je nyn� u konce,

ale mohu v�m ��ct, �e ze dvou kandid�t�,

kte�� zbyli v t�chto volb�ch,

jeden tyto technologie vyu��v�.

J�, Donald John Trump, slavnostn� p��sah�m,

�e budu �estn� vykon�vat ��ad

prezidenta Spojen�ch st�t�.

Volby jsou snadn� �kol.

Nepot�ebujete zrovna inteligentn� UI, abyste m�li dispropor�n� vliv.

P�ed Trumpem byl dal��m z mo�n�ch klient� Brexit.

Te� v 16:40 m��eme ��ct,

�e rozhodnut�, kter� tato zem� p�ijala roku 1975,

ohledn� vstupu na spole�n� trh bylo zvr�ceno

t�mto referendem o vystoupen� z EU.

Cambridge Analytica �dajn� pou��v� UI,

aby protla�ili dv� ze zcela z�sadn�ch

politick�ch zm�n za posledn�ch 50 let.

Jsou to epoch�ln� ud�losti a pokud tomu v��me,

jsou p��mo propojeny s ��st�

softwaru vytvo�en�ho v podstat� profesorem na Stanfordu.

U� roku 2013 jsem popsal, �e to, co d�laj�

je mo�n� a upozornil jsem na to, �e se tohle v budoucnu m��e st�t.

V t� dob� byl Michal Kosinski

mlad� polsk� v�dec, pracuj�c� v Psychometrick�m centru.

Michal d�lal to, �e shrom�dil nejv�t��

soubor dat ohledn� toho, jak se lid� chovaj� na Facebooku.

Psychometrika se pokou�� vyhodnotit

psychologick� rysy, jako je osobnost, inteligence,

politick� n�zory a tak d�le.

Tyto rysy b�valy obvykle vyhodnocov�ny

pomoc� test� a dotazn�k�.

Osobnostn� test byl ta nejne�kodn�j�� v�c,

kter� by v�s napadla.

N�co, co nemus� b�t zrovna kdo v� jak u�ite�n�, �e?

Na�� my�lenkou bylo, �e m�sto test� a dotazn�k�

se prost� m��eme pod�vat na digit�ln� otisky

na�eho chov�n�, kter� za sebou v�ichni zanech�v�me,

abychom pochopili otev�enost, z�sadovost, neurotismus.

M��ete snadno koupit osobn� data, jako

kde �ijete, v jak�ch klubech jste �lenem,

kam chod�te do posilovny.

Existuj� tr�i�t� s osobn�mi �daji.

Ukazuje se, �e jsme schopni zjistit velmi mnoho o tom,

co se chyst�te ud�lat,

na z�klad� velmi mal�ho mno�stv� informac�.

Tr�nujeme samostatn� se u��c� s�t�,

odvozen� od podrobn�ch rys�.

Politick� n�zory lid�, osobnosti, inteligence,

sexu�ln� orientace,

nebo jen obr�zek n��ho obli�eje.

Te� pomyslete na zem�, kter� nejsou tak svobodn�

a volnomy�lenk��sk�.

Pokud byste mohli odhalit

n�bo�ensk� sm��len�, politick� n�zory nebo sexu�ln� orientaci

jen na z�klad� profilov�ch fotek,

tak by to mohla b�t doslova ot�zka �ivota a smrti.

Mysl�m, �e nen� cesty zp�tky.

V�, co je to Turing�v test?

Jde o to, �e �lov�k jedn� s po��ta�em

a pokud �lov�k nepozn�, �e jedn� s po��ta�em,

tak ten test usp�l.

B�hem n�kolika dal��ch dn�

bude� lidsk� ��st Turingova testu.

No, do prdele!

P�esn� tak, Calebe. Zvl�dl jsi to.

Proto�e pokud ten test usp�je, tak ty

bude� v samotn�m centru nejv�t�� v�deck� ud�losti

v d�jin�ch lidstva.

Jestli jste stvo�il stroj s v�dom�m,

tak to nejsou d�jiny lidstva.

Jsou to d�jiny boh�.

Je to t�m�� jako by technologie byla bohem sama o sob�.

Jako po�as�. Nem��eme ho ovlivnit,

nem��eme ho zpomalit,

nem��eme ho zastavit.

C�t�me se bezmocn�.

Uva�ujeme-li o Bohu, je to nekone�n� mno�stv�

inteligence.

Nejv�c se tomu m��eme p�ibl�it tak, �e roz��me

svou inteligenci slou�en�m

s um�lou inteligenc�, kterou vytv��me.

Dnes n�m na�e po��ta�e, na�e telefony, aplikace,

d�vaj� nadlidsk� schopnosti.

Tak�e, jak ��k� jeden star� v�rok, kdy� je nem��e� porazit, p�idej se k nim.

Je to o partnerstv� �lov�ka a stroje.

Mysl�m, �e u� to vid�me.

Nap��klad na�e telefony.

Funguj� jako pam�ov� prot�za, �e?

Nemus�m si pamatovat va�e telefonn� ��slo,

proto�e ho m�m v telefonu.

Je to o stroj�ch, kter� roz�i�uj� lidsk� schopnosti

nam�sto toho, aby je naprosto nahrazovaly.

Pokud se pod�v�te na v�echny objekty,

kter� pokro�ily od analogov�ch k digit�ln�m za posledn�ch 20 let,

tak je to spousta.

Jsme posledn� analogick� objekty v digit�ln�m vesm�ru.

A probl�m v tom cel�m samoz�ejm� je,

�e m�me velmi limitovan� vstup a v�stup dat.

Je to tohle a tohle.

Na�e o�i jsou docela dobr�.

Dok�eme vn�mat spoustu vizu�ln�ch informac�.

Na�e mo�nosti v�stupu informac� jsou ale velmi, velmi, velmi omezen�.

D�vodem pro� je tohle d�le�it� je, �e pokud si p�edstav�me sc�n��,

kde UI hraje d�le�it�j�� roli ve spole�nosti,

tak chceme dobr� zp�sob, jak interagovat s touto technologi�,

tak�e to skon�� na��m roz��en�m.

Mysl�m, �e je velmi d�le�it�,

abychom ned�lali UI z n��eho jin�ho - mus�me to b�t my.

A mo�n� se m�l�m v tom, co te� �eknu,

ale jsem skute�n� otev�en� n�pad�m, pokud n�kdo

navrhne zp�sob, kter� je lep��.

Mysl�m si ale, �e se budeme opravdu muset bu�to

spojit s UI nebo budeme zanech�ni napospas.

Je t�k� p�edstavit si vypnut� syst�mu,

kter� je roz��en� v�ude po planet�.

Je nyn� distribuov�n nap�� sol�rn�m syst�mem.

Nem��ete to prost� jen tak vypnout.

Otev�eli jsme Pando�inu sk��nku.

Vypustili jsme s�ly, kter� nedok�eme ovl�dat ani zastavit.

Jsme v podstat� uprost�ed utv��en�

zcela nov� �ivo�i�n� formy na Zemi.

Nev�me, co se bude d�t d�l,

nev�me, jak bude vypadat intelekt stroje,

proto�e tento intelekt dalece p�ekra�uje lidsk� schopnosti.

Je to prost� n�co, co zat�m nen� mo�n�.

Nejm�n� d�siv� budoucnost, kterou si dok�u p�edstavit je ta,

ve kter� m�me alespo� zlidov�lou UI,

proto�e pokud jedna spole�nost nebo skupinka lid�

zvl�dne vyvinout bo�skou super inteligenci,

tak by mohli ovl�dnout sv�t.

Pokud m�te zl�ho dikt�tora,

tak ten aspo� jednou um�e,

ale u UI nebude ��dn� smrt.

Bude ��t nav�dy.

A pak budeme m�t nesmrteln�ho dikt�tora,

p�ed kter�m nebudeme moct uniknout.

HONBA ZA UM�LOU INTELIGENC� JE MULTIMILIARDOV� BYZNYS.

S T�M�� DN�MI OMEZEN�MI.

na�asoval a p�elo�il -=tkimitkiy=-

V�NOV�NO PAM�TCE STEPHENA HAWKINGA

(1942 - 2018)