1
00:00:29,581 --> 00:00:32,549
- Inteligence ano
schopnost rozumět.

2
00:00:32,549 --> 00:00:34,827
Předali jsme co
známe strojům.

3
00:00:34,827 --> 00:00:36,346
- Vzestup
umělá inteligence

4
00:00:36,346 --> 00:00:38,797
děje se rychle, ale některé
strach z nové technologie

5
00:00:38,797 --> 00:00:41,524
může mít více problémů
než se předpokládalo.

6
00:00:41,524 --> 00:00:43,043
- Nebudeme to kontrolovat.

7
00:01:42,378 --> 00:01:44,897
- Uměle
jsou tu inteligentní algoritmy,

8
00:01:44,897 --> 00:01:46,485
ale to je jen začátek.

9
00:01:56,840 --> 00:01:59,395
- Ve věku let
AI, data jsou nový olej.

10
00:02:01,673 --> 00:02:03,709
- Dnes, Amazon,
Google a Facebook

11
00:02:03,709 --> 00:02:05,953
jsou bohatší a více
silnější než kterákoli společnost

12
00:02:05,953 --> 00:02:08,335
které kdy existovaly
v celé lidské historii.

13
00:02:09,543 --> 00:02:11,234
- Hrst
pracujících lidí

14
00:02:11,234 --> 00:02:13,167
po hrsti
technologické společnosti

15
00:02:13,167 --> 00:02:15,894
řídit jakou miliardu
dnes lidé přemýšlí.

16
00:02:17,137 --> 00:02:19,139
- Tohle
technologie se mění

17
00:02:19,139 --> 00:02:21,002
co to znamená být člověkem?

18
00:03:16,334 --> 00:03:17,749
- Umělá inteligence

19
00:03:17,749 --> 00:03:20,648
je prostě nebiologická
inteligenci.

20
00:03:21,822 --> 00:03:24,031
A inteligence samotná
je prostě schopnost

21
00:03:24,031 --> 00:03:25,446
k dosažení cílů.

22
00:03:27,966 --> 00:03:30,520
Jsem přesvědčen, že AI
bude nakonec buď

23
00:03:30,520 --> 00:03:32,350
nejlepší věc vůbec
aby se stalo lidstvu,

24
00:03:32,350 --> 00:03:34,144
nebo nejhorší věc
kdy se stane.

25
00:03:35,732 --> 00:03:38,977
Můžeme to použít k vyřešení všeho
dneška a zítřka

26
00:03:38,977 --> 00:03:43,982
největší problémy;
léčit nemoci, řešit
se změnou klimatu,

27
00:03:45,259 --> 00:03:47,330
pozvednout všechny z chudoby.

28
00:03:48,883 --> 00:03:51,783
Ale mohli bychom použít přesně
stejnou technologii

29
00:03:51,783 --> 00:03:56,305
vytvořit brutální globální
diktatura s bezprecedentním

30
00:03:56,305 --> 00:03:59,135
dohled a
nerovnost a utrpení.

31
00:04:00,757 --> 00:04:02,759
Proto je toto
nejdůležitější rozhovor

32
00:04:02,759 --> 00:04:04,244
naší doby.

33
00:04:09,179 --> 00:04:12,079
- Umělá inteligence
je všude

34
00:04:13,253 --> 00:04:15,979
protože teď máme
myslících strojů.

35
00:04:17,118 --> 00:04:20,294
Pokud půjdete na sociální sítě
média nebo online,

36
00:04:20,294 --> 00:04:22,089
je tam umělý
inteligentní motor

37
00:04:22,089 --> 00:04:24,781
který rozhoduje o tom, co doporučit.

38
00:04:26,196 --> 00:04:28,026
Pokud půjdete na Facebook
a vy jen rolujete

39
00:04:28,026 --> 00:04:29,890
prostřednictvím příspěvků vašich přátel,

40
00:04:29,890 --> 00:04:31,443
je tam umělý
inteligentní motor

41
00:04:31,443 --> 00:04:33,583
to je výběr kterého
jeden, který vám ukáže jako první

42
00:04:33,583 --> 00:04:35,344
a kterou pohřbít.

43
00:04:35,344 --> 00:04:38,692
Pokud se pokusíte získat pojištění,
je tam AI engine

44
00:04:38,692 --> 00:04:40,763
snaží se přijít na to
jak jsi riskantní.

45
00:04:41,936 --> 00:04:45,250
A pokud požádáte o a
práce, je to docela možné

46
00:04:45,250 --> 00:04:47,942
že motor AI
podívá se do životopisu.

47
00:04:55,881 --> 00:04:57,573
- Jsme vyrobeni z dat.

48
00:04:58,781 --> 00:05:01,024
Každý z nás je tvořen daty,

49
00:05:02,543 --> 00:05:04,234
podle toho, jak se chováme,

50
00:05:04,234 --> 00:05:07,479
jak mluvíme, jak milujeme,
co děláme každý den.

51
00:05:09,895 --> 00:05:11,552
Takže informatici

52
00:05:11,552 --> 00:05:14,141
se vyvíjejí hluboko
algoritmy učení

53
00:05:15,315 --> 00:05:19,042
že se to dá naučit
identifikovat, klasifikovat,

54
00:05:19,042 --> 00:05:22,977
a předvídat vzory uvnitř
obrovské množství dat.

55
00:05:35,887 --> 00:05:39,684
Čelíme formě
přesný dohled,

56
00:05:39,684 --> 00:05:43,308
dalo by se to nazvat
algoritmické sledování,

57
00:05:43,308 --> 00:05:46,311
a to znamená, že vy
nemůže zůstat nepoznaná.

58
00:05:47,623 --> 00:05:50,626
Jste vždy pod
hodinky algoritmů.

59
00:05:55,562 --> 00:05:58,875
- Téměř všechna AI
vývoj na dnešní planetě

60
00:05:58,875 --> 00:06:01,499
se provádí hrstkou
velké technologické společnosti

61
00:06:01,499 --> 00:06:03,224
nebo několika velkými vládami.

62
00:06:06,366 --> 00:06:10,611
Když se podíváme na to, co je AI
většinou vyvíjen pro,

63
00:06:10,611 --> 00:06:15,616
Řekl bych, že to zabíjí,
špehování a vymývání mozků.

64
00:06:16,479 --> 00:06:18,239
Takže, myslím, máme vojenskou AI,

65
00:06:18,239 --> 00:06:21,346
máme celý dohled
stavěný aparát

66
00:06:21,346 --> 00:06:23,521
pomocí AI ze strany hlavních vlád,

67
00:06:23,521 --> 00:06:26,213
a máme reklamu
průmysl, který je orientován

68
00:06:26,213 --> 00:06:30,355
k rozpoznání reklam
pokusit se někomu prodat.

69
00:06:33,531 --> 00:06:36,568
- My lidé jsme přišli
teď rozcestí na cestě.

70
00:06:38,018 --> 00:06:41,159
AI, kterou máme dnes
je velmi úzký.

71
00:06:42,505 --> 00:06:44,783
Svatý grál výzkumu AI
už od začátku

72
00:06:44,783 --> 00:06:47,786
je vytvořit AI, která to umí
všechno lepší než my,

73
00:06:49,270 --> 00:06:50,858
a v podstatě jsme vybudovali Boha.

74
00:06:52,204 --> 00:06:54,517
Bude to revoluce
život, jak ho známe.

75
00:06:57,693 --> 00:07:00,247
Je to neuvěřitelně důležité
udělat krok zpět

76
00:07:00,247 --> 00:07:02,111
a dobře si to rozmyslete.

77
00:07:03,802 --> 00:07:05,942
Jakou společnost chceme?

78
00:07:09,567 --> 00:07:12,155
- Takže jsme v tom
historická proměna.

79
00:07:13,363 --> 00:07:15,711
Jako když zvedáme
toto nové stvoření.

80
00:07:15,711 --> 00:07:18,679
Máme nový
potomstvo svého druhu.

81
00:07:20,578 --> 00:07:24,098
Ale stejně jako skutečné potomstvo,

82
00:07:24,098 --> 00:07:27,412
nemůžete ovládat
všechno, co udělá.

83
00:08:01,515 --> 00:08:04,691
- Bydlíme v
tento privilegovaný okamžik,

84
00:08:04,691 --> 00:08:09,696
poprvé my
uvidím pravděpodobně tu AI

85
00:08:11,042 --> 00:08:13,320
skutečně vyhraje
lidé v mnoha, mnoha,

86
00:08:13,320 --> 00:08:14,908
ne-li všechna, důležitá pole.

87
00:08:18,739 --> 00:08:20,914
- Všechno se změní.

88
00:08:20,914 --> 00:08:24,262
Objevuje se nová forma života.

89
00:08:49,494 --> 00:08:54,499
Když jsem byl kluk, myslel jsem si,
jak mohu maximalizovat svůj dopad?

90
00:08:56,536 --> 00:09:00,781
A pak to bylo jasné
Musím něco postavit

91
00:09:00,781 --> 00:09:04,509
která se učí stát se
chytřejší než já,

92
00:09:04,509 --> 00:09:06,131
abych mohl odejít do důchodu,

93
00:09:06,131 --> 00:09:08,893
a ta chytřejší věc
může dále sebezdokonalovat

94
00:09:08,893 --> 00:09:11,343
a vyřešit všechny problémy
že neumím vyřešit.

95
00:09:16,452 --> 00:09:18,937
Vynásobení toho maličkého
trochu kreativity

96
00:09:18,937 --> 00:09:20,801
kterou mám do nekonečna,

97
00:09:22,700 --> 00:09:25,219
a to je to, co bylo
od té doby mě vozí.

98
00:09:43,652 --> 00:09:45,101
Jak se snažím stavět

99
00:09:45,101 --> 00:09:47,759
obecný účel
umělá inteligence?

100
00:09:50,003 --> 00:09:54,248
Pokud chcete být inteligentní,
musíš rozpoznat řeč,

101
00:09:54,248 --> 00:09:59,150
video a rukopis a
tváře a všemožné věci,

102
00:09:59,150 --> 00:10:02,015
a tam jsme udělali
velký pokrok.

103
00:10:03,775 --> 00:10:06,502
Viz, LSTM, neuronové sítě,

104
00:10:06,502 --> 00:10:11,369
které jsme vyvinuli v našich laboratořích
v Mnichově a ve Švýcarsku,

105
00:10:11,369 --> 00:10:14,959
a nyní se používá pro řeč
rozpoznávání a překlad,

106
00:10:14,959 --> 00:10:16,616
a rozpoznávání videa.

107
00:10:18,065 --> 00:10:21,137
Nyní jsou v každém
smartphone, téměř jedna miliarda

108
00:10:21,137 --> 00:10:25,176
iPhone a ve více než dvou
miliard telefonů Android.

109
00:10:26,626 --> 00:10:31,527
Takže generujeme všechny
druhy užitečných vedlejších produktů

110
00:10:32,390 --> 00:10:33,563
na cestě k obecnému cíli.

111
00:10:44,574 --> 00:10:49,545
Hlavní cíl, nějaký Umělý
všeobecná rozvědka,

112
00:10:49,545 --> 00:10:52,686
AGI, které se může učit

113
00:10:52,686 --> 00:10:55,896
zlepšit učení
samotný algoritmus.

114
00:10:57,518 --> 00:11:01,453
Takže se to v podstatě dá naučit
zlepšit způsob, jakým se učí

115
00:11:01,453 --> 00:11:05,423
a může také rekurzivně
zlepšit způsob, jakým se učí,

116
00:11:05,423 --> 00:11:08,944
způsob, jakým se bez něj učí
jakákoli omezení kromě

117
00:11:08,944 --> 00:11:12,464
základní základní
omezení vyčíslitelnosti.

118
00:11:19,092 --> 00:11:22,405
Jeden z mých nejoblíbenějších
roboti jsou tady.

119
00:11:22,405 --> 00:11:26,893
Používáme tohoto robota pro naše
studie umělé kuriozity.

120
00:11:26,893 --> 00:11:31,898
Kde se snažíme učit
tento robot učit sám.

121
00:11:37,386 --> 00:11:38,663
co dělá miminko?

122
00:11:38,663 --> 00:11:42,356
Dítě je zvědavé
zkoumání jeho světa.

123
00:11:44,531 --> 00:11:46,740
Tak se učí
jak funguje gravitace

124
00:11:46,740 --> 00:11:49,674
a jak určité věci
svrhnout a tak dále.

125
00:11:51,262 --> 00:11:54,575
A jak se učí ptát
otázky o světě,

126
00:11:54,575 --> 00:11:57,199
a jak se to naučí
odpovědět na tyto otázky,

127
00:11:57,199 --> 00:11:59,649
stává se čím dál tím víc
obecný řešitel problémů.

128
00:12:01,030 --> 00:12:03,619
A tak naše umělé
systémy se také učí

129
00:12:03,619 --> 00:12:07,416
ptát se všeho druhu
otázky, nejen otrocky

130
00:12:07,416 --> 00:12:11,420
zkuste odpovědět na otázky
které jim dali lidé.

131
00:12:15,389 --> 00:12:19,048
Musíte dát AI svobodu
vymýšlet vlastní úkoly.

132
00:12:22,327 --> 00:12:25,054
Pokud to neuděláte, není
stane se velmi chytrým.

133
00:12:26,815 --> 00:12:28,333
na druhou stranu

134
00:12:28,333 --> 00:12:31,543
je to opravdu těžké předvídat
co budou dělat.

135
00:12:53,980 --> 00:12:57,466
- Cítím tu technologii
je přírodní síla.

136
00:13:00,055 --> 00:13:02,402
Mám pocit, že je toho hodně
podobnost mezi technologií

137
00:13:02,402 --> 00:13:03,644
a biologická evoluce.

138
00:13:13,275 --> 00:13:14,241
Hra na Boha.

139
00:13:17,900 --> 00:13:20,765
Vědci byli obviněni
hrát si na chvíli na Boha,

140
00:13:22,456 --> 00:13:25,080
ale existuje skutečný smysl

141
00:13:25,080 --> 00:13:26,875
ve kterém jsme
něco vytvořit

142
00:13:28,255 --> 00:13:30,740
velmi odlišné od čehokoli
dosud jsme vytvořili.

143
00:13:54,247 --> 00:13:55,835
zajímalo mě
koncept AI

144
00:13:55,835 --> 00:13:57,353
od relativně raného věku.

145
00:13:59,666 --> 00:14:01,323
V určitém okamžiku jsem dostal
zvláště zájem

146
00:14:01,323 --> 00:14:02,358
ve strojovém učení.

147
00:14:06,155 --> 00:14:07,950
co je to zkušenost?

148
00:14:07,950 --> 00:14:09,158
co je učení?

149
00:14:09,158 --> 00:14:10,159
co je myšlení?

150
00:14:11,333 --> 00:14:12,610
Jak funguje mozek?

151
00:14:14,612 --> 00:14:16,338
Tyto otázky
jsou filozofické,

152
00:14:16,338 --> 00:14:19,651
ale vypadá to, že můžeme
přijít s algoritmy, které

153
00:14:19,651 --> 00:14:22,965
oba dělají užitečné věci a pomáhají
odpovíme na tyto otázky.

154
00:14:24,449 --> 00:14:26,693
Jako je to skoro jako
aplikovaná filozofie.

155
00:14:52,546 --> 00:14:55,895
Umělý generál
Inteligence, AGI.

156
00:14:57,620 --> 00:15:01,935
Počítačový systém, který
může dělat jakoukoli práci nebo jakýkoli úkol

157
00:15:01,935 --> 00:15:04,489
že to dělá člověk,
ale jen lepší.

158
00:15:17,640 --> 00:15:20,298
Jo, myslím, my určitě
bude moci vytvořit

159
00:15:21,817 --> 00:15:24,475
zcela autonomní
bytosti s vlastními cíli.

160
00:15:28,513 --> 00:15:30,067
A bude velmi důležité,

161
00:15:30,067 --> 00:15:34,934
zvláště jako tyto bytosti
být mnohem chytřejší než lidé,

162
00:15:34,934 --> 00:15:39,145
bude to důležité
mít tyto bytosti,

163
00:15:41,009 --> 00:15:43,873
že cíle těchto bytostí
být v souladu s našimi cíli.

164
00:15:47,153 --> 00:15:49,879
To jsme my
se snaží udělat v OpenAI.

165
00:15:49,879 --> 00:15:54,229
Buďte v popředí výzkumu
a řídit výzkum,

166
00:15:54,229 --> 00:15:58,440
řídit jejich výchozí podmínky
tak maximalizovat šanci

167
00:15:58,440 --> 00:16:00,407
že budoucnost bude
být dobrý pro lidi.

168
00:16:16,734 --> 00:16:18,805
Nyní je AI skvělá věc
protože AI vyřeší

169
00:16:18,805 --> 00:16:20,945
všechny problémy
které dnes máme.

170
00:16:23,603 --> 00:16:27,538
Vyřeší to zaměstnanost,
vyřeší nemoc,

171
00:16:29,126 --> 00:16:30,990
vyřeší chudobu,

172
00:16:33,440 --> 00:16:35,822
ale bude také
vytvářet nové problémy.

173
00:16:38,998 --> 00:16:40,551
to si myslím

174
00:16:43,002 --> 00:16:47,385
problém falešných zpráv
bude 1000,

175
00:16:47,385 --> 00:16:48,835
milionkrát horší.

176
00:16:50,940 --> 00:16:53,357
Budou kybernetické útoky
mnohem extrémnější.

177
00:16:55,152 --> 00:16:57,982
Budete mít úplně
automatizované AI zbraně.

178
00:17:00,640 --> 00:17:01,986
Myslím, že AI má potenciál

179
00:17:01,986 --> 00:17:04,230
tvořit donekonečna
stabilní diktatury.

180
00:17:10,339 --> 00:17:13,273
Uvidíš dramaticky
inteligentnější systémy

181
00:17:13,273 --> 00:17:17,036
za 10 nebo 15 let ode dneška,
a myslím, že je to velmi pravděpodobné

182
00:17:17,036 --> 00:17:18,347
že ty systémy

183
00:17:18,347 --> 00:17:21,523
bude mít úplně
astronomický dopad na společnost.

184
00:17:23,904 --> 00:17:25,527
Budou mít lidé skutečně prospěch?

185
00:17:27,046 --> 00:17:28,875
A kdo bude mít prospěch,
kdo nebude?

186
00:17:49,033 --> 00:17:52,140
- V roce 2012 to IBM odhadla

187
00:17:52,140 --> 00:17:56,523
průměrný člověk je
generuje 500 megabajtů

188
00:17:56,523 --> 00:17:59,561
digitálních stop
každý den.

189
00:17:59,561 --> 00:18:01,839
Představ si, že jsi chtěl
zálohovat jeden den v hodnotě

190
00:18:01,839 --> 00:18:05,705
dat, kterými lidstvo je
zanechání, na papíře.

191
00:18:05,705 --> 00:18:08,811
Jak vysoký bude zásobník
papíru, který obsahuje

192
00:18:08,811 --> 00:18:12,194
data za jeden den
které lidstvo vyrábí?

193
00:18:14,023 --> 00:18:17,096
Je to jako ze země do
slunce, čtyřikrát více.

194
00:18:18,994 --> 00:18:23,999
V roce 2025 budeme generovat
62 gigabajtů dat

195
00:18:25,069 --> 00:18:26,588
na osobu, za den.

196
00:18:41,430 --> 00:18:45,745
Necháme tuny
digitální stopy při jízdě

197
00:18:45,745 --> 00:18:46,815
skrze naše životy.

198
00:18:49,231 --> 00:18:52,165
Poskytují počítačové algoritmy
s docela dobrým nápadem

199
00:18:52,165 --> 00:18:53,891
o tom, kdo jsme,

200
00:18:53,891 --> 00:18:56,721
co chceme, co děláme.

201
00:19:00,449 --> 00:19:02,762
Ve své práci jsem se podíval
u různých typů

202
00:19:02,762 --> 00:19:04,177
digitálních stop.

203
00:19:04,177 --> 00:19:07,042
Díval jsem se na lajky na Facebooku,
Podíval jsem se na jazyk,

204
00:19:07,042 --> 00:19:11,253
záznamy o kreditních kartách,
historie procházení webu,
hledat záznamy.

205
00:19:12,737 --> 00:19:16,431
a pokaždé jsem zjistil, že pokud
máte dostatek těchto dat,

206
00:19:16,431 --> 00:19:18,847
můžete přesně
předvídat budoucí chování

207
00:19:18,847 --> 00:19:21,988
a odhalit důležité
intimní rysy.

208
00:19:23,576 --> 00:19:25,681
To se dá využít skvělými způsoby,

209
00:19:25,681 --> 00:19:28,926
ale dá se i použít
manipulovat s lidmi.

210
00:19:34,345 --> 00:19:38,280
Facebook dodává
denní informace

211
00:19:38,280 --> 00:19:40,903
na dvě miliardy lidí nebo více.

212
00:19:43,182 --> 00:19:45,356
Pokud trochu
změnit fungování

213
00:19:45,356 --> 00:19:47,289
enginu Facebooku,

214
00:19:47,289 --> 00:19:50,982
můžete přesunout
názory, a proto,

215
00:19:50,982 --> 00:19:54,262
hlasy milionů lidí.

216
00:19:55,401 --> 00:19:57,230
- Brexit!
- Kdy to chceme?

217
00:19:57,230 --> 00:19:58,404
- Teď!

218
00:20:00,647 --> 00:20:03,202
- Politik
nedokázal by zjistit

219
00:20:03,202 --> 00:20:07,275
které zprávy každý z nich
jeho voliči by chtěli,

220
00:20:07,275 --> 00:20:10,450
ale počítač vidí
jaké politické poselství

221
00:20:10,450 --> 00:20:13,384
by bylo zvláště
pro vás přesvědčivé.

222
00:20:15,766 --> 00:20:17,250
- Dámy a pánové,

223
00:20:17,250 --> 00:20:20,667
je mou výsadou mluvit
vám dnes o moci

224
00:20:20,667 --> 00:20:24,947
velkých dat a psychografie
ve volebním procesu.

225
00:20:24,947 --> 00:20:26,880
- Data z
Cambridge Analytica

226
00:20:26,880 --> 00:20:29,538
tajně sklízeli
osobní údaje

227
00:20:29,538 --> 00:20:32,576
50 milionů nic netušících
uživatelé Facebooku.

228
00:20:32,576 --> 00:20:33,784
- USA, USA, USA!

229
00:20:36,235 --> 00:20:37,581
- Data firma najala

230
00:20:37,581 --> 00:20:40,411
od Donalda Trumpa
prezidentská volební kampaň

231
00:20:40,411 --> 00:20:42,482
používán tajně
získané informace

232
00:20:42,482 --> 00:20:45,589
přímo cílit
potenciálních amerických voličů.

233
00:20:45,589 --> 00:20:47,487
- S tím, oni
říkají, že mohou předvídat

234
00:20:47,487 --> 00:20:52,009
osobnost každého z nás
dospělých ve Spojených státech.

235
00:20:52,009 --> 00:20:54,011
- Dnes večer slyšíme
z Cambridge Analytica

236
00:20:54,011 --> 00:20:56,255
informátor,
Christopher Wiley.

237
00:20:56,255 --> 00:20:59,568
- Na čem jsme pracovali, bylo
programy pro sběr dat

238
00:20:59,568 --> 00:21:01,501
kde bychom vytáhli data a běželi

239
00:21:01,501 --> 00:21:03,641
ta data pomocí algoritmů
to by mohlo profilovat

240
00:21:03,641 --> 00:21:06,368
jejich osobnostní rysy a
další psychologické vlastnosti

241
00:21:06,368 --> 00:21:10,061
zneužít duševní
zranitelnosti, které
ukázaly naše algoritmy

242
00:21:10,061 --> 00:21:11,442
že měli.

243
00:21:19,968 --> 00:21:22,039
- Cambridge Analytica
jednou zmíněno

244
00:21:22,039 --> 00:21:24,938
nebo řekl, že jejich modely
byly založeny na mé práci,

245
00:21:26,975 --> 00:21:29,633
ale Cambridge Analytica ano
jen jeden ze stovek

246
00:21:29,633 --> 00:21:34,534
společností, které využívají
takové metody zacílit na voliče.

247
00:21:36,605 --> 00:21:40,229
Víš, byl bych
položil otázky od
novináři jako např.

248
00:21:40,229 --> 00:21:41,714
„Tak jak se cítíš

249
00:21:43,405 --> 00:21:46,581
zvolení Trumpa a
podporovat Brexit?"

250
00:21:46,581 --> 00:21:48,307
Jak odpovíš?
na takovou otázku?

251
00:21:49,929 --> 00:21:54,899
Asi to musím řešit
s tím, že je z toho všeho obviňován.

252
00:22:12,158 --> 00:22:16,921
- Jak technika začala
jako demokratizační síla,

253
00:22:16,921 --> 00:22:19,545
jako síla dobra, jako
schopnost pro lidi

254
00:22:19,545 --> 00:22:21,961
komunikovat s každým
ostatní bez vrátníků.

255
00:22:24,688 --> 00:22:27,035
Nikdy nebylo
větší experiment

256
00:22:27,035 --> 00:22:29,555
v komunikacích
pro lidskou rasu.

257
00:22:30,970 --> 00:22:33,386
Co se stane, když všichni
dostane svůj názor?

258
00:22:34,594 --> 00:22:36,355
Předpokládali byste, že ano
bylo by to k lepšímu,

259
00:22:36,355 --> 00:22:37,597
že by tam bylo
být více demokracie,

260
00:22:37,597 --> 00:22:39,116
bylo by více diskuzí,

261
00:22:39,116 --> 00:22:42,153
byla by větší tolerance,
ale to, co se stalo, je to

262
00:22:42,153 --> 00:22:44,121
tyto systémy mají
byl unesen.

263
00:22:45,778 --> 00:22:48,159
- Stojíme za
spojující každého člověka.

264
00:22:49,471 --> 00:22:50,783
Pro globální komunitu.

265
00:22:52,301 --> 00:22:55,028
- Jedna společnost,
Facebook, je zodpovědný

266
00:22:55,028 --> 00:22:58,031
pro komunikaci
hodně lidské rasy.

267
00:23:00,171 --> 00:23:01,794
To samé s Googlem.

268
00:23:01,794 --> 00:23:04,624
Vše, o čem chcete vědět
svět pochází z nich.

269
00:23:05,970 --> 00:23:09,560
To je globální
informační ekonomika

270
00:23:09,560 --> 00:23:12,529
která je řízena a
malá skupina lidí.

271
00:23:19,052 --> 00:23:20,329
- Nejbohatší společnosti světa

272
00:23:20,329 --> 00:23:21,917
jsou všechny technologické společnosti.

273
00:23:23,263 --> 00:23:28,234
Google, Apple, Microsoft,
Amazon, Facebook.

274
00:23:30,374 --> 00:23:35,379
Je až zarážející, jak v
snad jen 10 let,

275
00:23:36,656 --> 00:23:39,314
že celý
firemní mocenská struktura

276
00:23:39,314 --> 00:23:43,939
jsou v podstatě v podnikání
obchodování s elektrony.

277
00:23:45,734 --> 00:23:50,705
Tyto malé bity a bajty
jsou skutečně novou měnou.

278
00:23:58,091 --> 00:24:00,300
- Způsob, jakým jsou data zpeněžena

279
00:24:00,300 --> 00:24:03,096
se děje všude kolem nás,
i když je to pro nás neviditelné.

280
00:24:05,409 --> 00:24:08,688
Google má každou částku
dostupných informací.

281
00:24:08,688 --> 00:24:11,519
Sledují lidi podle
jejich GPS polohu.

282
00:24:11,519 --> 00:24:14,453
Přesně vědí, co vaše
historie vyhledávání byla.

283
00:24:14,453 --> 00:24:17,283
Znají vaše
politické preference.

284
00:24:17,283 --> 00:24:19,285
Vaše historie vyhledávání
jediný ti může říct

285
00:24:19,285 --> 00:24:22,012
vše o jednotlivci
od svých zdravotních problémů

286
00:24:22,012 --> 00:24:23,910
na jejich sexuální preference.

287
00:24:23,910 --> 00:24:26,568
Dosah Googlu je tedy neomezený.

288
00:24:33,195 --> 00:24:36,060
- Tak jsme viděli
Google a Facebook

289
00:24:36,060 --> 00:24:38,580
stoupat do těchto velkých
sledovací stroje

290
00:24:39,719 --> 00:24:42,653
a jsou oba
vlastně reklamní zprostředkovatelé.

291
00:24:42,653 --> 00:24:46,485
Zní to opravdu přízemně, ale
jsou to high-tech reklamní zprostředkovatelé.

292
00:24:47,865 --> 00:24:50,523
A důvod, proč jsou takoví
ziskové je, že je používají

293
00:24:50,523 --> 00:24:55,010
umělá inteligence
zpracovávat všechny tyto údaje o vás,

294
00:24:56,184 --> 00:24:59,118
a pak se vám vyrovnat
s inzerentem

295
00:24:59,118 --> 00:25:04,088
která chce oslovit lidi
jako vy, pro jakoukoli zprávu.

296
00:25:07,436 --> 00:25:09,231
- Jeden z problémů
s technologií

297
00:25:09,231 --> 00:25:11,440
je to, že to bylo
vyvinula tak, aby byla návyková.

298
00:25:12,545 --> 00:25:14,374
Způsob, jakým tyto společnosti
navrhnout tyto věci

299
00:25:14,374 --> 00:25:16,480
je s cílem táhnout
zapojíte a zapojíte vás.

300
00:25:17,861 --> 00:25:21,243
Chtějí se v podstatě stát
hrací automat pozornosti.

301
00:25:23,038 --> 00:25:24,488
Takže vždycky
dávat pozor,

302
00:25:24,488 --> 00:25:26,214
ty jsi vždycky nadržený
do matrice,

303
00:25:26,214 --> 00:25:27,974
pořád kontroluješ.

304
00:25:31,012 --> 00:25:33,152
- Když někdo
kontroluje, co čtete,

305
00:25:33,152 --> 00:25:34,878
také ovládají
co si myslíš.

306
00:25:36,569 --> 00:25:39,089
Dostaneš víc toho, co máš
dříve viděný a oblíbený,

307
00:25:39,089 --> 00:25:42,368
protože to zvyšuje provoz
a to dává více reklam,

308
00:25:43,852 --> 00:25:47,615
ale také vás to zamkne
do vaší echo komory.

309
00:25:47,615 --> 00:25:49,720
A to je to, co vede
k této polarizaci

310
00:25:49,720 --> 00:25:51,273
které dnes vidíme.

311
00:25:51,273 --> 00:25:54,449
- Jair Bolsonaro,
Jair Bolsonaro!

312
00:25:54,449 --> 00:25:57,072
- Jair Bolsonaro,
Brazilská pravice

313
00:25:57,072 --> 00:26:00,455
někdy populistický kandidát
přirovnal k Donaldu Trumpovi,

314
00:26:00,455 --> 00:26:03,044
v neděli vyhrál prezidentský úřad
noc v té zemi

315
00:26:03,044 --> 00:26:06,219
nejvíce polarizující
volby za desítky let.

316
00:26:06,219 --> 00:26:07,220
- Bolsonaro!

317
00:26:08,532 --> 00:26:11,017
- Co vidíme
po celém světě

318
00:26:11,017 --> 00:26:13,986
je pozdvižení a
polarizace a konflikt

319
00:26:15,194 --> 00:26:19,439
to je částečně
tlačeny algoritmy

320
00:26:19,439 --> 00:26:23,512
to se zjistilo
politické extrémy,

321
00:26:23,512 --> 00:26:26,585
tribalismus a tak nějak
křičet za svůj tým,

322
00:26:26,585 --> 00:26:29,208
a dobrý pocit
o tom, je poutavé.

323
00:26:35,386 --> 00:26:37,596
- Sociální média mohou
přidávat na pozornosti

324
00:26:37,596 --> 00:26:39,908
k nenávistným zločinům po celém světě.

325
00:26:39,908 --> 00:26:42,566
- Jde o to, jak lidé
se může radikalizovat

326
00:26:42,566 --> 00:26:46,156
životem v horečce
bažiny internetu.

327
00:26:46,156 --> 00:26:48,779
- Tak tohle je klíč
okamžik pro technologické giganty?

328
00:26:48,779 --> 00:26:50,436
Jsou nyní připraveni
převzít zodpovědnost

329
00:26:50,436 --> 00:26:53,335
jako vydavatelé za co
sdílejí se světem?

330
00:26:54,647 --> 00:26:57,236
- Pokud nasadíte a
výkonná technologie

331
00:26:57,236 --> 00:27:01,067
v měřítku, a pokud mluvíte
o Googlu a Facebooku,

332
00:27:01,067 --> 00:27:03,932
nasazujete věci
v řádu miliard.

333
00:27:03,932 --> 00:27:07,177
Pokud vaše umělá inteligence
tlačí polarizaci,

334
00:27:07,177 --> 00:27:09,489
máte globální
potenciálně pozdvižení.

335
00:27:10,352 --> 00:27:11,457
- Na bílých životech záleží!

336
00:27:11,457 --> 00:27:12,700
- Na černých životech záleží!

337
00:27:12,700 --> 00:27:15,323
Na černých životech záleží,
Na černých životech záleží,

338
00:27:15,323 --> 00:27:18,602
Na černých životech záleží,
Na černých životech záleží!

339
00:28:05,028 --> 00:28:07,168
- Umělý generál
Inteligence, AGI.

340
00:28:10,827 --> 00:28:12,794
Představ si svého nejchytřejšího přítele,

341
00:28:14,002 --> 00:28:16,453
s 1000 přáteli,
stejně chytrý,

342
00:28:18,904 --> 00:28:21,976
a pak je spustit na 1 000
krát rychleji než v reálném čase.

343
00:28:21,976 --> 00:28:24,323
Znamená to tedy, že v
každý den našeho času,

344
00:28:24,323 --> 00:28:26,877
udělají tři
roky přemýšlení.

345
00:28:26,877 --> 00:28:29,880
Dokážete si představit jak
hodně bys mohl udělat

346
00:28:31,330 --> 00:28:35,955
kdybys mohl na každý den
dělat tři roky práce?

347
00:28:56,838 --> 00:29:00,117
Nebylo by to
nespravedlivé srovnání říci

348
00:29:00,117 --> 00:29:04,121
že to, co právě teď máme
je ještě více vzrušující než

349
00:29:04,121 --> 00:29:06,883
kvantoví fyzici
počátku 20. století.

350
00:29:06,883 --> 00:29:08,436
Objevili jadernou energii.

351
00:29:10,127 --> 00:29:12,612
Cítím se nesmírně šťastný
se toho zúčastnit.

352
00:29:19,723 --> 00:29:21,345
Mnoho odborníků na strojové učení,

353
00:29:21,345 --> 00:29:23,209
kteří jsou velmi znalí
a zkušený,

354
00:29:23,209 --> 00:29:24,935
mít hodně
skepticismus vůči AGI.

355
00:29:26,765 --> 00:29:28,421
O tom, kdy se to stane,

356
00:29:28,421 --> 00:29:30,354
a o tom, zda to
se vůbec mohlo stát.

357
00:29:35,843 --> 00:29:37,603
Ale právě teď je to něco

358
00:29:37,603 --> 00:29:40,054
že jich není tolik
si lidé ještě uvědomili.

359
00:29:41,538 --> 00:29:45,369
Že rychlost počítačů,
pro neuronové sítě, pro AI,

360
00:29:45,369 --> 00:29:49,684
se stanou možná
100 000krát rychlejší

361
00:29:49,684 --> 00:29:51,168
v malém počtu let.

362
00:29:53,792 --> 00:29:56,553
Celý hardware
průmyslu na dlouhou dobu

363
00:29:56,553 --> 00:29:59,107
opravdu nevěděl
co dělat dál,

364
00:30:00,246 --> 00:30:03,594
ale s umělým
neuronové sítě,

365
00:30:03,594 --> 00:30:05,320
teď, když skutečně fungují,

366
00:30:05,320 --> 00:30:07,702
máš k tomu důvod
stavět obrovské počítače.

367
00:30:08,979 --> 00:30:11,257
Můžete si zabudovat mozek
křemíku, je to možné.

368
00:30:19,093 --> 00:30:23,166
Úplně první AGI
bude v podstatě velmi,

369
00:30:23,166 --> 00:30:27,308
velmi velká datová centra
nabité specializovanými

370
00:30:27,308 --> 00:30:30,104
procesory neuronové sítě
pracující paralelně.

371
00:30:32,382 --> 00:30:35,419
Kompaktní, horký, výkonný
hladový balíček,

372
00:30:36,869 --> 00:30:39,872
spotřebuje 10 milionů
energie domů.

373
00:30:58,166 --> 00:31:00,134
Pečený hovězí sendvič.

374
00:31:00,134 --> 00:31:01,860
Jo, něco
trochu jinak.

375
00:31:02,722 --> 00:31:03,689
Jen pro tentokrát.

376
00:31:08,556 --> 00:31:10,730
Dokonce i úplně první AGI

377
00:31:10,730 --> 00:31:13,595
bude dramaticky
schopnější než lidé.

378
00:31:15,597 --> 00:31:17,876
Lidé už nebudou
být ekonomicky užitečné

379
00:31:17,876 --> 00:31:19,049
pro téměř jakýkoli úkol.

380
00:31:20,637 --> 00:31:22,328
Proč bys chtěl?
najmout člověka,

381
00:31:22,328 --> 00:31:24,123
kdyby sis mohl pořídit počítač

382
00:31:24,123 --> 00:31:26,022
to udělá hodně
lépe a mnohem levněji?

383
00:31:33,339 --> 00:31:35,479
AGI bude
jako bez otázek,

384
00:31:36,825 --> 00:31:39,173
nejdůležitější
technologie v historii

385
00:31:39,173 --> 00:31:41,071
planety s velkým náskokem.

386
00:31:44,005 --> 00:31:47,008
Bude větší
než elektřina, jaderná,

387
00:31:47,008 --> 00:31:48,458
a internetu dohromady.

388
00:31:50,253 --> 00:31:52,117
Vlastně by se dalo říct
že celý účel

389
00:31:52,117 --> 00:31:54,153
z celé lidské vědy,
účel informatiky,

390
00:31:54,153 --> 00:31:57,294
konec hry, tohle je
konec hry, abyste to postavili.

391
00:31:57,294 --> 00:31:58,709
A bude se stavět.

392
00:31:58,709 --> 00:32:00,504
Už to bude
novou formu života.

393
00:32:00,504 --> 00:32:01,333
to bude,

394
00:32:03,473 --> 00:32:05,061
to nás učiní zastaralými.

395
00:32:13,897 --> 00:32:16,693
- Měli jsme programy
jít dolů, kam jsme poslali

396
00:32:16,693 --> 00:32:18,281
Požár AK47, konec.

397
00:32:22,009 --> 00:32:26,841
- Pohotovostní režim
čtyři jedna čárka tři.

398
00:32:26,841 --> 00:32:28,774
- Evropští výrobci
znát Američany

399
00:32:28,774 --> 00:32:31,915
hodně investovali
potřebný hardware.

400
00:32:31,915 --> 00:32:34,262
- Vstupte do a
statečný nový svět síly,

401
00:32:34,262 --> 00:32:35,988
výkon a produktivitu.

402
00:32:37,403 --> 00:32:39,958
- Všechny obrázky, které jste
se chystáte vidět na velké obrazovce

403
00:32:39,958 --> 00:32:44,134
bude generován
co je v tom Macintoshi.

404
00:32:44,134 --> 00:32:46,757
- Je mi ctí a
výsadu vám představit

405
00:32:46,757 --> 00:32:48,449
vývojový tým Windows 95.

406
00:32:50,140 --> 00:32:53,523
- Lidská fyzická práce má
byly většinou zastaralé

407
00:32:53,523 --> 00:32:54,938
trvá celé století.

408
00:32:56,388 --> 00:32:59,805
Rutinní lidská duševní práce
rychle zastarává

409
00:32:59,805 --> 00:33:01,013
a proto
hodně se vidíme

410
00:33:01,013 --> 00:33:03,222
střední třídy
pracovní místa mizí.

411
00:33:05,397 --> 00:33:06,950
- Jednou za čas,

412
00:33:06,950 --> 00:33:10,781
přichází revoluční produkt
tím se vše změní.

413
00:33:10,781 --> 00:33:13,992
Dnes je Apple
znovuobjevení telefonu.

414
00:33:25,279 --> 00:33:28,696
- Strojová inteligence
už je všude kolem nás.

415
00:33:28,696 --> 00:33:30,422
Seznam věcí
že my lidé

416
00:33:30,422 --> 00:33:32,010
umí lépe než stroje

417
00:33:32,010 --> 00:33:34,012
se ve skutečnosti zmenšuje
docela rychle.

418
00:33:40,156 --> 00:33:41,847
- Auta bez řidiče jsou skvělá.

419
00:33:41,847 --> 00:33:44,436
Pravděpodobně budou
snížit nehodovost.

420
00:33:44,436 --> 00:33:48,095
Kromě, spolu s
že ve Spojených státech

421
00:33:48,095 --> 00:33:51,029
prohraješ
10 milionů pracovních míst.

422
00:33:51,029 --> 00:33:54,135
s čím budeš dělat
10 milionů nezaměstnaných?

423
00:33:59,416 --> 00:34:03,041
- Riziko pro společnost
konflikty a napětí,

424
00:34:03,041 --> 00:34:07,114
pokud prohlubujete nerovnosti,
je velmi, velmi vysoká.

425
00:34:16,157 --> 00:34:18,263
- AGI může podle definice

426
00:34:18,263 --> 00:34:21,093
dělat všechny práce lépe
než můžeme udělat.

427
00:34:21,093 --> 00:34:23,095
Lidé, kteří říkají,
„Vždy budou práce

428
00:34:23,095 --> 00:34:25,166
že lidé to umí lépe
než stroje,“ jsou prostě

429
00:34:25,166 --> 00:34:28,135
sázení proti vědě a
říká, že nikdy nebude AGI.

430
00:34:35,280 --> 00:34:37,799
- Co vidíme
teď je to jako když se řítí vlak

431
00:34:37,799 --> 00:34:42,287
temným tunelem v krkolomném stavu
rychlost a vypadá to

432
00:34:42,287 --> 00:34:43,702
spíme za volantem.

433
00:35:33,579 --> 00:35:35,961
- Velký zlomek
digitální stopy

434
00:35:35,961 --> 00:35:39,171
necháváme za sebou
jsou digitální obrázky.

435
00:35:40,276 --> 00:35:41,863
A konkrétně, co je
opravdu zajímavé

436
00:35:41,863 --> 00:35:43,693
pro mě jako psychologa

437
00:35:43,693 --> 00:35:45,902
jsou digitální obrazy našich tváří.

438
00:35:48,939 --> 00:35:51,701
Tady je vidět rozdíl
v obrysu obličeje

439
00:35:51,701 --> 00:35:54,566
průměrného gaye a an
průměrně rovný obličej.

440
00:35:54,566 --> 00:35:57,120
A můžete vidět
že přímí muži

441
00:35:57,120 --> 00:35:59,157
mají trochu širší čelisti.

442
00:36:00,261 --> 00:36:03,333
Gay ženy mají
trochu větší čelisti,

443
00:36:03,333 --> 00:36:04,783
ve srovnání s rovnými ženami.

444
00:36:06,785 --> 00:36:10,098
Počítačové algoritmy mohou
odhalit naše politické názory

445
00:36:10,098 --> 00:36:12,687
nebo sexuální orientace,
nebo inteligenci,

446
00:36:12,687 --> 00:36:15,552
jen na základě
obrázek našich tváří.

447
00:36:16,726 --> 00:36:18,900
I lidský mozek to dokáže
rozlišovat mezi gayi

448
00:36:18,900 --> 00:36:21,524
a rovných mužů
s určitou přesností.

449
00:36:21,524 --> 00:36:23,664
Teď se ukazuje
že počítač

450
00:36:23,664 --> 00:36:26,080
dokáže to s hodně
vyšší přesnost.

451
00:36:26,080 --> 00:36:29,601
Co vidíš
zde je přesnost

452
00:36:29,601 --> 00:36:33,812
standardní obličeje
rozpoznávací software.

453
00:36:33,812 --> 00:36:36,194
To je hrozná zpráva

454
00:36:36,194 --> 00:36:38,851
pro gaye a ženy
po celém světě.

455
00:36:38,851 --> 00:36:40,370
A nejen gayové a ženy,

456
00:36:40,370 --> 00:36:42,752
protože stejné algoritmy
lze použít k detekci jiných

457
00:36:42,752 --> 00:36:46,825
intimní rysy, přemýšlejte o bytí
člen opozice,

458
00:36:46,825 --> 00:36:49,552
nebo být liberálem,
nebo být ateistou.

459
00:36:51,243 --> 00:36:54,522
Být ateistou je
trestá i smrtí

460
00:36:54,522 --> 00:36:57,007
například v Saúdské Arábii.

461
00:37:04,152 --> 00:37:06,189
Moje poslání jako akademika
je varovat lidi

462
00:37:06,189 --> 00:37:08,812
o nebezpečích algoritmů

463
00:37:08,812 --> 00:37:12,644
umět odhalit
naše intimní rysy.

464
00:37:14,162 --> 00:37:18,443
Problém je, že kdy
lidé dostávají špatné zprávy,

465
00:37:18,443 --> 00:37:20,445
velmi často vybírají
propustit je.

466
00:37:22,240 --> 00:37:23,344
No, je to trochu děsivé

467
00:37:23,344 --> 00:37:25,312
když začnete
dostává výhrůžky smrtí

468
00:37:25,312 --> 00:37:26,623
z jednoho dne do druhého,

469
00:37:26,623 --> 00:37:29,005
a dostal jsem docela
pár výhrůžek smrtí,

470
00:37:30,282 --> 00:37:34,252
ale jako vědec jsem
musí v podstatě ukázat

471
00:37:34,252 --> 00:37:35,287
co je možné.

472
00:37:38,014 --> 00:37:41,051
Tak co mě opravdu zajímá
nyní je pokusit se vidět

473
00:37:41,051 --> 00:37:45,470
zda dokážeme předvídat jiné
rysy z tváří lidí.

474
00:37:50,682 --> 00:37:52,994
Nyní, pokud můžete zjistit
deprese z obličeje,

475
00:37:52,994 --> 00:37:58,034
nebo sebevražedné myšlenky,
možná CCTV systém

476
00:37:59,207 --> 00:38:01,313
na vlakovém nádraží
může zachránit některé životy.

477
00:38:03,488 --> 00:38:05,800
Co kdybychom mohli
předvídat, že někdo

478
00:38:05,800 --> 00:38:08,182
je náchylnější ke spáchání trestného činu?

479
00:38:09,356 --> 00:38:11,427
Pravděpodobně jste měli a
školní poradce,

480
00:38:11,427 --> 00:38:14,775
najatý psycholog
tam identifikovat děti

481
00:38:14,775 --> 00:38:19,227
které potenciálně může mít
nějaké problémy s chováním.

482
00:38:21,713 --> 00:38:24,440
Tak si teď představte, kdybyste mohli
předpovídat s vysokou přesností

483
00:38:24,440 --> 00:38:27,028
že někdo pravděpodobně bude
v budoucnu spáchat trestný čin

484
00:38:27,028 --> 00:38:29,168
z jazyka
použít z obličeje,

485
00:38:29,168 --> 00:38:32,102
z mimiky,
z lajků na Facebooku.

486
00:38:36,693 --> 00:38:39,593
Nevyvíjím nové
metody, jen popisuji

487
00:38:39,593 --> 00:38:43,321
něco nebo něco testovat
v akademickém prostředí.

488
00:38:45,012 --> 00:38:47,186
Ale evidentně tam
je šance,

489
00:38:47,186 --> 00:38:52,191
a zároveň varovat lidi před
rizika nových technologií,

490
00:38:53,331 --> 00:38:54,884
Mohu také nějaké dát
lidé nové nápady.

491
00:39:15,525 --> 00:39:17,078
- Ještě jsme neviděli budoucnost

492
00:39:17,078 --> 00:39:22,083
z hlediska způsobů, jakými
nová společnost založená na datech

493
00:39:23,153 --> 00:39:25,777
se bude skutečně vyvíjet.

494
00:39:27,951 --> 00:39:31,127
Technické společnosti chtějí
získat každý možný kousek

495
00:39:31,127 --> 00:39:34,544
informací, které oni
může sbírat na každém

496
00:39:34,544 --> 00:39:36,097
pro usnadnění podnikání.

497
00:39:37,858 --> 00:39:41,482
Policie a armáda
chtít udělat to samé

498
00:39:41,482 --> 00:39:43,242
pro usnadnění bezpečnosti.

499
00:39:46,384 --> 00:39:50,836
Zájmy, které ti dva
mají velké společné,

500
00:39:50,836 --> 00:39:55,634
a tak rozsah
spolupráce
mezi tím, co můžete

501
00:39:55,634 --> 00:40:00,639
zavolejte Vojensko-technický komplex
dramaticky roste.

502
00:40:04,816 --> 00:40:07,405
- CIA po velmi dlouhou dobu,

503
00:40:07,405 --> 00:40:10,546
udržela blízkost
spojení se Silicon Valley.

504
00:40:11,719 --> 00:40:14,722
Jejich rizikový kapitál
společnost známá jako In-Q-Tel,

505
00:40:14,722 --> 00:40:18,312
provádí počáteční investice
rozvíjející se začínající společnosti

506
00:40:18,312 --> 00:40:21,936
průlomová technologie, která
CIA doufá v nasazení.

507
00:40:23,110 --> 00:40:26,527
Palantir, velký
firma zabývající se analýzou dat,

508
00:40:26,527 --> 00:40:29,323
jedno z jejich prvních semen
investice byla od In-Q-Tel.

509
00:40:33,396 --> 00:40:36,261
- In-Q-Tel udeřil
zlato v Palantiru

510
00:40:36,261 --> 00:40:40,507
v pomoci tvořit
soukromý prodejce

511
00:40:40,507 --> 00:40:45,373
která má inteligenci a
umělá inteligence

512
00:40:45,373 --> 00:40:48,135
schopnosti, které vláda
nemůže ani konkurovat.

513
00:40:50,862 --> 00:40:53,243
- Dobrý večer, já jsem Peter Thiel.

514
00:40:54,693 --> 00:40:58,697
Nejsem politik, ale
ani Donald Trump.

515
00:40:58,697 --> 00:41:03,530
Je to stavitel a je to tak
čas na obnovu Ameriky.

516
00:41:05,704 --> 00:41:08,362
- Peter Thiel,
zakladatel Palantir,

517
00:41:08,362 --> 00:41:11,054
byl Donald Trump
přechodový poradce

518
00:41:11,054 --> 00:41:13,609
a blízký přítel a dárce.

519
00:41:15,473 --> 00:41:18,130
Trump byl zvolen
z velké části podle slibu

520
00:41:18,130 --> 00:41:21,996
k deportaci milionů
imigrantů.

521
00:41:21,996 --> 00:41:26,691
Jediný způsob, jak to můžete udělat
je s velkou inteligencí

522
00:41:26,691 --> 00:41:29,832
a tam je to
Palantir přichází.

523
00:41:33,111 --> 00:41:37,460
Požívají obrovské zásoby
údajů, které zahrnují,

524
00:41:37,460 --> 00:41:41,809
kde bydlíš, kde
pracuješ, koho znáš,

525
00:41:41,809 --> 00:41:45,433
kdo jsou vaši sousedé,
kdo je tvoje rodina,

526
00:41:45,433 --> 00:41:48,954
kde jste navštívili,
kde zůstaneš,

527
00:41:48,954 --> 00:41:50,784
váš profil na sociálních sítích.

528
00:41:53,752 --> 00:41:57,722
Palantir to všechno dostane
a je pozoruhodně dobrý

529
00:41:57,722 --> 00:42:02,658
při jeho strukturování
která pomáhá vymáhání práva,

530
00:42:03,866 --> 00:42:06,869
imigrační úřady
nebo zpravodajské agentury

531
00:42:06,869 --> 00:42:10,597
jakéhokoli druhu, dráha
ty, najdi tě,

532
00:42:10,597 --> 00:42:13,669
a naučit se tam všechno
je vědět o tobě.

533
00:42:53,018 --> 00:42:55,538
- Zavádíme AI
nabít nyní od věčnosti

534
00:42:55,538 --> 00:42:57,954
důležitá rozhodnutí, která
ovlivnit životy lidí.

535
00:42:59,404 --> 00:43:02,441
Stará škola AI mívala
jeho inteligence naprogramovaná v

536
00:43:02,441 --> 00:43:05,755
lidmi, kteří pochopili
jak to fungovalo, ale dnes,

537
00:43:05,755 --> 00:43:08,482
výkonné systémy AI mají
jen se sami naučili,

538
00:43:08,482 --> 00:43:11,865
a nemáme tušení
jak vlastně fungují,

539
00:43:11,865 --> 00:43:13,936
což to opravdu dělá
těžko jim věřit.

540
00:43:18,665 --> 00:43:22,220
- Tohle není žádná futuristika
technologie, to je teď.

541
00:43:23,877 --> 00:43:27,639
AI může pomoci určit
kde hasičský sbor

542
00:43:27,639 --> 00:43:30,331
je postavena v komunitě popř
kde je postavena škola.

543
00:43:30,331 --> 00:43:32,817
Může to rozhodnout
jestli dostanete kauci,

544
00:43:32,817 --> 00:43:35,095
nebo jestli zůstaneš ve vězení.

545
00:43:35,095 --> 00:43:37,338
Může rozhodnout, kde
policie bude.

546
00:43:37,338 --> 00:43:39,202
Může to rozhodnout
zda jdeš

547
00:43:39,202 --> 00:43:41,549
být pod dodatečným
policejní kontrola.

548
00:43:47,797 --> 00:43:51,421
- Je to teď populární v USA
dělat prediktivní policii.

549
00:43:51,421 --> 00:43:53,389
Takže to, co dělají, je
používají algoritmus

550
00:43:53,389 --> 00:43:55,322
zjistit kde
bude zločin,

551
00:43:56,323 --> 00:43:57,565
a používají to k vyprávění

552
00:43:57,565 --> 00:43:59,533
kam máme poslat
policisté.

553
00:44:00,879 --> 00:44:03,813
Takže to je založeno na a
měření kriminality.

554
00:44:05,056 --> 00:44:06,713
Takže víme, že existuje zaujatost.

555
00:44:06,713 --> 00:44:09,474
Černoši a Hispánci
lidé jsou staženi,

556
00:44:09,474 --> 00:44:11,579
a zastavila policie
důstojníků častěji

557
00:44:11,579 --> 00:44:14,168
než jsou bílí lidé, tedy my
dostanou tato neobjektivní data,

558
00:44:14,168 --> 00:44:16,343
a co se stane potom
používáš to, abys řekl,

559
00:44:16,343 --> 00:44:18,000
"Tady je místo
policajti by měli jít."

560
00:44:18,000 --> 00:44:19,277
No, policajti jdou
ty čtvrti,

561
00:44:19,277 --> 00:44:22,073
a hádejte, co oni
dělají, zatýkají lidi.

562
00:44:22,073 --> 00:44:25,628
A pak se to krmí zpět
zkreslená data do systému,

563
00:44:25,628 --> 00:44:27,319
a tomu se říká
zpětnovazební smyčku.

564
00:44:40,539 --> 00:44:45,096
- Prediktivní policejní práce
vede do extrémů

565
00:44:46,235 --> 00:44:50,411
odborníkům říkají,
"Ukaž mi své dítě,

566
00:44:50,411 --> 00:44:53,311
a já ti řeknu jestli
bude z ní zločinec."

567
00:44:55,693 --> 00:45:00,318
Nyní, když to můžeme předvídat,
budeme pak sledovat

568
00:45:00,318 --> 00:45:05,254
ty děti mnohem blíže
a my na ně skočíme

569
00:45:06,117 --> 00:45:08,084
při prvním náznaku problému.

570
00:45:08,084 --> 00:45:11,398
A to se povede
pro efektivnější policejní práci.

571
00:45:11,398 --> 00:45:15,678
Má, ale bude
vytvořit opravdu ponurou společnost

572
00:45:15,678 --> 00:45:20,614
a posiluje to
dramaticky
existující nespravedlnosti.

573
00:45:27,345 --> 00:45:32,212
- Představte si svět, ve kterém
sítě CCTV kamer,

574
00:45:32,212 --> 00:45:35,353
sledování dronů
fotoaparáty, mají propracované

575
00:45:35,353 --> 00:45:38,839
technologie rozpoznávání obličeje
a jsou připojeni

576
00:45:38,839 --> 00:45:41,186
do jiné vlády
dohledové databáze.

577
00:45:42,498 --> 00:45:45,639
Budeme mít
technologie na místě mít

578
00:45:45,639 --> 00:45:50,126
všechny naše pohyby
komplexně
sledovány a zaznamenávány.

579
00:45:52,094 --> 00:45:54,752
Co to také znamená
je, že budeme mít

580
00:45:54,752 --> 00:45:57,340
vytvořil dohled
stroj času

581
00:45:57,340 --> 00:46:00,965
které vládám umožní
a mocné korporace

582
00:46:00,965 --> 00:46:03,036
v podstatě zasáhnout
přetočit na naše životy.

583
00:46:03,036 --> 00:46:06,108
Možná nejsme pod vodou
teď nějaké podezření

584
00:46:06,108 --> 00:46:08,248
a za pět let ode dneška,
mohou chtít vědět

585
00:46:08,248 --> 00:46:12,493
více o nás a může
pak znovu granulárně

586
00:46:12,493 --> 00:46:14,668
všechno, co jsme udělali,
všichni, co jsme viděli,

587
00:46:14,668 --> 00:46:17,464
všichni, kolem kterých jsme byli
za celé to období.

588
00:46:20,191 --> 00:46:23,711
To je mimořádné
množství výkonu

589
00:46:23,711 --> 00:46:26,024
abychom komukoli zaseli.

590
00:46:27,267 --> 00:46:29,752
A je to svět, který já
myslím, že to bylo těžké

591
00:46:29,752 --> 00:46:33,549
aby si lidé představovali,
ale už jsme postavili

592
00:46:33,549 --> 00:46:36,379
architektura, která to umožňuje.

593
00:47:11,483 --> 00:47:14,659
- Jsem politický reportér
a velmi mě to zajímá

594
00:47:14,659 --> 00:47:19,043
způsoby, jakými jsou silná průmyslová odvětví
využít svou politickou moc

595
00:47:19,043 --> 00:47:21,562
ovlivnit
proces veřejné politiky.

596
00:47:25,394 --> 00:47:28,811
Velké technologické společnosti a
jejich lobbisté se sejdou

597
00:47:28,811 --> 00:47:31,918
za zavřenými dveřmi a
jsou schopni vytvářet politiky

598
00:47:31,918 --> 00:47:33,471
pod kterým musíme všichni žít.

599
00:47:35,162 --> 00:47:38,683
To platí pro sledování
politiky, pro politiky v termínech

600
00:47:38,683 --> 00:47:40,133
sběru dat,

601
00:47:40,133 --> 00:47:43,446
ale také stále důležitější
pokud jde o armádu

602
00:47:43,446 --> 00:47:44,585
a zahraniční politiku.

603
00:47:48,313 --> 00:47:51,869
Počínaje rokem 2016,
Ministerstvo obrany

604
00:47:51,869 --> 00:47:54,664
tvořil obranu
Inovační rada.

605
00:47:54,664 --> 00:47:58,461
To je zvláštní tělo vytvořené
přivést špičkové technologické manažery

606
00:47:58,461 --> 00:48:00,636
do bližšího kontaktu
s armádou.

607
00:48:03,535 --> 00:48:06,124
Eric Schmidt, bývalý
předseda Alphabet,

608
00:48:06,124 --> 00:48:07,746
mateřská společnost Google,

609
00:48:07,746 --> 00:48:10,749
se stal předsedou
Rada pro inovace v oblasti obrany,

610
00:48:11,923 --> 00:48:14,270
a jeden z jejich prvních
prioritami bylo říci,

611
00:48:14,270 --> 00:48:17,101
„Potřebujeme více umělých
integrovaná inteligence

612
00:48:17,101 --> 00:48:18,205
do armády."

613
00:48:20,276 --> 00:48:23,555
- Pracoval jsem se skupinou
dobrovolníků nad

614
00:48:23,555 --> 00:48:26,558
posledních pár let
pohled na inovace v

615
00:48:26,558 --> 00:48:31,184
celkové vojenské a mé shrnutí
závěr je, že máme

616
00:48:31,184 --> 00:48:34,601
fantastickí lidé, kteří jsou
uvězněni ve velmi špatném systému.

617
00:48:37,673 --> 00:48:40,089
- Z oddělení
perspektiva obrany,

618
00:48:40,089 --> 00:48:41,780
kde jsem opravdu začínal
aby se o to zajímalo

619
00:48:41,780 --> 00:48:45,336
když jsme začali přemýšlet
o bezpilotních systémech a

620
00:48:45,336 --> 00:48:50,341
jak robotické a bezpilotní systémy
začne měnit válku.

621
00:48:51,756 --> 00:48:54,276
Čím chytřejší jste to udělali
Bezpilotní systémy a roboty,

622
00:48:54,276 --> 00:48:57,935
tím mocnější můžeš
být schopen vytvořit si armádu.

623
00:48:59,937 --> 00:49:01,593
- náměstek ministra obrany,

624
00:49:01,593 --> 00:49:04,803
Robert Work dohromady
hlavní poznámka známá jako

625
00:49:04,803 --> 00:49:08,048
Algorithmic Warfare
mezifunkční tým,

626
00:49:08,048 --> 00:49:09,705
známější jako Project Maven.

627
00:49:12,190 --> 00:49:15,124
Eric Schmidt dal řadu
projevy a mediální vystoupení

628
00:49:15,124 --> 00:49:18,645
kde řekl toto úsilí
byl navržen pro zvýšení paliva

629
00:49:18,645 --> 00:49:22,062
účinnost v letectvu,
pomoci s logistikou,

630
00:49:22,062 --> 00:49:25,410
ale tam za zavřenými dveřmi
byla další paralelní snaha.

631
00:49:31,106 --> 00:49:34,109
Koncem roku 2017 jako součást
projektu Maven,

632
00:49:34,109 --> 00:49:38,078
Google, firma Erica Schmidta,
dostal za úkol tajně pracovat

633
00:49:38,078 --> 00:49:40,494
na jiné části
projektu Maven,

634
00:49:40,494 --> 00:49:43,359
a to bylo vzít
obrovské objemy

635
00:49:43,359 --> 00:49:45,879
vysátých obrazových dat

636
00:49:45,879 --> 00:49:49,607
drony operujícími v
Irák a Afghánistán

637
00:49:49,607 --> 00:49:51,402
a učit AI

638
00:49:51,402 --> 00:49:54,060
rychle identifikovat
cíle na bojišti.

639
00:49:56,994 --> 00:50:00,998
- Máme senzor a
senzor umí natáčet video s plným pohybem

640
00:50:00,998 --> 00:50:02,861
celého města.

641
00:50:02,861 --> 00:50:06,106
A měli bychom tři
pracující sedmičlenné týmy

642
00:50:06,106 --> 00:50:10,766
neustále a mohli
zpracovat 15 % informací.

643
00:50:10,766 --> 00:50:13,389
Zbylých 85 % z
informace právě zůstaly

644
00:50:13,389 --> 00:50:15,874
na střižně
patro, tak jsme řekli,

645
00:50:15,874 --> 00:50:18,463
„Hej, AI a strojové učení

646
00:50:18,463 --> 00:50:21,466
by nám pomohl zpracovat
100% informací."

647
00:50:29,785 --> 00:50:33,168
- Google už dlouho ano
motto: "Nebuď zlý."

648
00:50:33,168 --> 00:50:35,032
Vytvořili veřejný obraz

649
00:50:35,032 --> 00:50:39,208
že jsou oddaní
na veřejnou transparentnost.

650
00:50:39,208 --> 00:50:41,659
Ale pro Google
pomalu transformovat

651
00:50:41,659 --> 00:50:43,626
na dodavatele obrany,

652
00:50:43,626 --> 00:50:46,250
udržovali
maximální utajení.

653
00:50:46,250 --> 00:50:48,528
A měli jste Google
uzavření této smlouvy

654
00:50:48,528 --> 00:50:49,770
s většinou zaměstnanců,

655
00:50:49,770 --> 00:50:51,186
dokonce i zaměstnanci, kteří pracovali

656
00:50:51,186 --> 00:50:53,119
na programu úplně
odešel ve tmě.

657
00:51:06,201 --> 00:51:09,411
– Obvykle v rámci Googlu,
kdokoli ve společnosti

658
00:51:09,411 --> 00:51:12,483
je dovoleno vědět o jakémkoli
jiný projekt, který probíhá

659
00:51:12,483 --> 00:51:14,174
v nějaké jiné části
společnosti.

660
00:51:15,589 --> 00:51:18,696
S Project Maven skutečnost
že to bylo drženo v tajnosti,

661
00:51:18,696 --> 00:51:20,974
Myslím, že to bylo pro lidi alarmující

662
00:51:20,974 --> 00:51:22,907
protože to není
standardem u Googlu.

663
00:51:25,082 --> 00:51:27,394
- Když tenhle příběh
byl poprvé odhalen,

664
00:51:27,394 --> 00:51:29,983
spustilo to ohnivou bouři
v rámci Googlu.

665
00:51:29,983 --> 00:51:32,848
Měli jste řadu zaměstnanců
rezignovat na protesty,

666
00:51:32,848 --> 00:51:36,300
ostatní podepisují petici
protestovat proti této práci.

667
00:51:38,578 --> 00:51:39,820
-Musíš opravdu říct,

668
00:51:39,820 --> 00:51:41,684
„Nechci být
už součástí tohohle."

669
00:51:43,272 --> 00:51:46,206
Existují společnosti
tzv. dodavatelé obrany

670
00:51:46,206 --> 00:51:50,279
a Google by prostě neměl
být jednou z těchto společností

671
00:51:50,279 --> 00:51:54,835
protože lidé potřebují věřit
Google, aby Google fungoval.

672
00:51:56,630 --> 00:52:00,255
- Dobré ráno a
vítejte na Google I/O.

673
00:52:01,704 --> 00:52:04,569
- Viděli jsme takové e-maily
ukázat, že Google jednoduše

674
00:52:04,569 --> 00:52:07,745
nadále uváděli v omyl
zaměstnanci, že dron

675
00:52:07,745 --> 00:52:11,749
program cílení byl pouze a
menší úsilí, které by mohlo nanejvýš

676
00:52:11,749 --> 00:52:13,820
mít hodnotu 9 milionů dolarů pro firmu,

677
00:52:13,820 --> 00:52:15,511
což jsou kapky v kbelíku

678
00:52:15,511 --> 00:52:17,927
za gigantický
společnost jako Google.

679
00:52:19,032 --> 00:52:21,690
Ale z vnitřního
e-maily, které jsme obdrželi,

680
00:52:21,690 --> 00:52:25,935
Google očekával Project
Maven by to zvýšil

681
00:52:25,935 --> 00:52:30,940
jako 250 milionů dolarů, a že tohle
celé úsilí by poskytlo

682
00:52:32,321 --> 00:52:34,323
Google se speciální obranou
Certifikace oddělení provést

683
00:52:34,323 --> 00:52:37,119
jsou k dispozici pro sudé
větší obranné zakázky,

684
00:52:37,119 --> 00:52:38,810
některé stojí stejně
jako 10 miliard dolarů.

685
00:52:50,167 --> 00:52:54,205
Tlak na Google
soutěžit o vojenské zakázky

686
00:52:54,205 --> 00:52:56,380
přišel v čase
když jeho konkurenti

687
00:52:56,380 --> 00:52:58,175
mění také svou kulturu.

688
00:53:00,246 --> 00:53:04,422
Amazon, podobně pitching the
armáda a vymáhání práva.

689
00:53:04,422 --> 00:53:06,459
IBM a další přední společnosti,

690
00:53:06,459 --> 00:53:09,289
mají zákon o nadhazování
vymáhání a vojenské.

691
00:53:10,704 --> 00:53:13,845
Chcete-li zůstat konkurenceschopní, Google
se pomalu transformoval.

692
00:53:19,541 --> 00:53:23,269
- Věda obrany
Board řekl o všech

693
00:53:23,269 --> 00:53:26,548
technologický pokrok, který
se dějí právě teď,

694
00:53:26,548 --> 00:53:30,828
ta jediná nejdůležitější věc
byla umělá inteligence

695
00:53:30,828 --> 00:53:35,177
a autonomní operace
že by to vedlo.

696
00:53:35,177 --> 00:53:36,730
Investujeme dostatečně?

697
00:53:42,219 --> 00:53:45,670
- Jakmile se rozvineme
co jsou známé jako

698
00:53:45,670 --> 00:53:50,227
autonomní smrtící
zbraně, jinými slovy,

699
00:53:50,227 --> 00:53:53,195
zbraně, které nejsou
vůbec ovládat,

700
00:53:53,195 --> 00:53:55,922
jsou skutečně autonomní,

701
00:53:55,922 --> 00:53:58,165
musíš jen dostat
prezident, který říká,

702
00:53:58,165 --> 00:54:00,858
„Sakra s internacionálou
zákon, máme tyto zbraně.

703
00:54:00,858 --> 00:54:03,136
Jdeme dělat co
chceme s nimi."

704
00:54:06,933 --> 00:54:08,314
- Jsme si velmi blízcí.

705
00:54:08,314 --> 00:54:10,557
Když máte
hardware je již nastaven

706
00:54:10,557 --> 00:54:12,904
a vše, co musíte
udělat je přepnout vypínač

707
00:54:12,904 --> 00:54:14,734
aby byla plně autonomní,

708
00:54:14,734 --> 00:54:17,357
co to tam je
bránit ti v tom?

709
00:54:19,186 --> 00:54:21,603
Něco tu je
opravdu se bát

710
00:54:21,603 --> 00:54:23,432
ve válce rychlostí stroje.

711
00:54:24,640 --> 00:54:26,332
Co když jsi stroj
a vydělali jste miliony

712
00:54:26,332 --> 00:54:28,748
a miliony
různé válečné scénáře

713
00:54:28,748 --> 00:54:30,439
a máte tým dronů

714
00:54:30,439 --> 00:54:32,441
a vy jste delegovali
ovládat polovinu z nich,

715
00:54:32,441 --> 00:54:34,340
a spolupracujete
v reálném čase?

716
00:54:35,513 --> 00:54:37,653
Co se stane, když
ten roj dronů

717
00:54:37,653 --> 00:54:40,035
má za úkol angažovat město?

718
00:54:41,864 --> 00:54:44,281
Jak přijmou
nad tím městem?

719
00:54:44,281 --> 00:54:47,180
Odpověď je, že nebudeme
vědět, dokud se to nestane.

720
00:54:54,429 --> 00:54:58,467
- Nechceme
AI systém rozhodnout

721
00:54:58,467 --> 00:55:00,538
na jakého člověka by zaútočil,

722
00:55:00,538 --> 00:55:03,852
ale jdeme proti
autoritářských konkurentů.

723
00:55:03,852 --> 00:55:06,786
Takže z mého pohledu an
autoritářský režim

724
00:55:06,786 --> 00:55:10,065
bude mít menší problém
delegující pravomoc

725
00:55:10,065 --> 00:55:12,585
na stroj vyrobit
smrtelná rozhodnutí.

726
00:55:13,758 --> 00:55:17,797
Tak jak to dopadá
se ještě uvidí.

727
00:55:41,648 --> 00:55:45,342
- Teď je to skoro dar AI
že nás to donutí

728
00:55:45,342 --> 00:55:48,793
kolektivně promyslet
na velmi základní úrovni,

729
00:55:48,793 --> 00:55:50,657
co to znamená být člověkem?

730
00:55:53,039 --> 00:55:54,903
Co dělám jako člověk lépe

731
00:55:54,903 --> 00:55:57,354
než jistý super
umí chytrý stroj?

732
00:56:00,667 --> 00:56:05,362
Nejprve vytvoříme naši technologii
a pak nás znovu vytvoří.

733
00:56:05,362 --> 00:56:09,987
Musíme se ujistit, že my
nenechte si ujít některé věci

734
00:56:09,987 --> 00:56:11,782
které z nás dělají tak krásné lidi.

735
00:56:16,027 --> 00:56:18,754
- Až budeme stavět
inteligentní stroje,

736
00:56:18,754 --> 00:56:21,274
filozofický slovník
máme k dispozici přemýšlet

737
00:56:21,274 --> 00:56:25,036
o nás jako lidech
čím dál víc nám selhává.

738
00:56:27,522 --> 00:56:30,352
Pokud vás požádám, abyste napsali a
seznam všech termínů, které máte

739
00:56:30,352 --> 00:56:33,355
k dispozici k popisu
sebe jako člověka,

740
00:56:33,355 --> 00:56:35,461
těch termínů není tolik.

741
00:56:35,461 --> 00:56:40,466
kultura, historie, společnost,
možná politika, civilizace,

742
00:56:43,261 --> 00:56:48,266
subjektivita, to vše
termíny se rozkládají ve dvou pozicích

743
00:56:50,096 --> 00:56:52,029
že lidí je víc
než pouhá zvířata

744
00:56:53,410 --> 00:56:56,413
a že lidé jsou
více než pouhé stroje.

745
00:56:59,623 --> 00:57:03,592
Ale pokud stroje opravdu
myslím, že existuje velká sada

746
00:57:03,592 --> 00:57:07,872
klíčových filozofických otázek
ve kterém je v sázce:

747
00:57:09,253 --> 00:57:10,185
kdo jsme?

748
00:57:10,185 --> 00:57:11,497
Jaké je naše místo ve světě?

749
00:57:11,497 --> 00:57:12,394
co je svět?

750
00:57:12,394 --> 00:57:13,568
Jak je to strukturováno?

751
00:57:13,568 --> 00:57:16,536
Dělejte kategorie, které
spoléhali jsme na to,

752
00:57:16,536 --> 00:57:17,986
ještě fungují?

753
00:57:17,986 --> 00:57:19,436
Mýlili se?

754
00:57:23,888 --> 00:57:26,615
- Mnoho lidí si myslí
inteligence jako
něco tajemného

755
00:57:26,615 --> 00:57:30,550
který může existovat pouze uvnitř
biologické organismy, jako jsme my,

756
00:57:30,550 --> 00:57:33,553
ale inteligence je vše
o zpracování informací.

757
00:57:34,968 --> 00:57:36,453
Nezáleží na tom, zda
informace jsou zpracovány

758
00:57:36,453 --> 00:57:40,318
atomy uhlíku uvnitř
buňky a mozky a lidé,

759
00:57:40,318 --> 00:57:42,424
nebo křemíkem
atomy v počítačích.

760
00:57:45,047 --> 00:57:47,671
Část úspěchu
AI nedávno přišla

761
00:57:47,671 --> 00:57:51,951
z krádeže skvěle
myšlenky z evoluce.

762
00:57:51,951 --> 00:57:53,470
Všimli jsme si, že
mozek např.

763
00:57:53,470 --> 00:57:57,335
má všechny tyto neurony uvnitř
propojeny složitým způsobem.

764
00:57:57,335 --> 00:58:00,062
Tak jsme ten nápad ukradli
a abstrahoval to

765
00:58:00,062 --> 00:58:02,686
do umělé neurální
sítě v počítačích,

766
00:58:04,204 --> 00:58:07,138
a to je co
způsobil revoluci
strojová inteligence.

767
00:58:12,005 --> 00:58:14,629
Pokud jednoho dne dostaneme Artificial
všeobecná rozvědka,

768
00:58:14,629 --> 00:58:18,667
pak podle definice může AI
také dělat lépe práci AI

769
00:58:18,667 --> 00:58:23,258
programování a to znamená
že další pokrok ve vytváření

770
00:58:23,258 --> 00:58:27,331
AI nebude ovládána
lidských programátorů, ale pomocí AI.

771
00:58:30,196 --> 00:58:33,440
Rekurzivně se zlepšující AI
mohl opustit lidskou inteligenci

772
00:58:33,440 --> 00:58:37,341
daleko pozadu, tvořící
super inteligence.

773
00:58:39,343 --> 00:58:42,346
Bude to poslední
vynález, který kdy potřebujeme udělat,

774
00:58:42,346 --> 00:58:44,900
protože pak může
vymyslet vše ostatní

775
00:58:44,900 --> 00:58:46,384
mnohem rychleji, než jsme mohli.

776
00:59:58,456 --> 01:00:03,427
- To je budoucnost
všichni si musíme promluvit.

777
01:00:04,842 --> 01:00:06,775
Některé ze základních
otázky o budoucnosti

778
01:00:06,775 --> 01:00:10,641
umělé inteligence,
nejen kam to jde,

779
01:00:10,641 --> 01:00:14,024
ale co to znamená
společnost tam jít.

780
01:00:15,370 --> 01:00:19,029
To není to, co počítače umí,

781
01:00:19,029 --> 01:00:21,997
ale co by měly počítače dělat.

782
01:00:21,997 --> 01:00:25,345
Jako generace
lidé, kteří přinášejí AI

783
01:00:25,345 --> 01:00:26,657
do budoucnosti,

784
01:00:26,657 --> 01:00:28,763
my jsme generace

785
01:00:28,763 --> 01:00:32,387
to odpoví na tohle
otázka především.

786
01:00:38,980 --> 01:00:41,638
- Nevytvořili jsme
lidskou úroveň
zatím myslící stroj,

787
01:00:41,638 --> 01:00:43,812
ale jsme blíž a blíž.

788
01:00:45,572 --> 01:00:49,231
Možná se dostaneme na lidskou úroveň
AI za pět let

789
01:00:49,231 --> 01:00:51,544
nebo to bude trvat 50
nebo za 100 let.

790
01:00:51,544 --> 01:00:53,201
Je to skoro jedno.

791
01:00:53,201 --> 01:00:55,997
Jako tohle jsou všechny
opravdu, opravdu brzy,

792
01:00:55,997 --> 01:01:00,657
z hlediska celkového
dějiny lidstva.

793
01:01:05,662 --> 01:01:06,870
Velmi pěkné.

794
01:01:20,090 --> 01:01:23,714
Takže pole AI je
extrémně mezinárodní.

795
01:01:23,714 --> 01:01:28,201
Čína přichází a přichází
začíná konkurovat USA,

796
01:01:28,201 --> 01:01:31,308
Evropa a Japonsko v
podmínky kladení hodně

797
01:01:31,308 --> 01:01:34,173
výpočetního výkonu za AI

798
01:01:34,173 --> 01:01:37,555
a shromáždit hodně
data, která pomohou AI učit se.

799
01:01:40,386 --> 01:01:44,942
Máme mladou generaci
nyní čínských výzkumníků.

800
01:01:44,942 --> 01:01:46,841
Nikdo neví kam
další revoluce

801
01:01:46,841 --> 01:01:48,049
bude pocházet z.

802
01:01:54,711 --> 01:01:58,611
- Čína se vždy chtěla stát
supervelmoc na světě.

803
01:02:00,820 --> 01:02:01,752
Čínská vláda si myslí AI

804
01:02:01,752 --> 01:02:03,202
dal jim šanci stát se

805
01:02:03,202 --> 01:02:08,207
jeden z nejpokročilejších
technologicky, obchodně.

806
01:02:09,070 --> 01:02:10,692
Tak vypadá čínská vláda

807
01:02:10,692 --> 01:02:11,969
jako obrovskou příležitost.

808
01:02:13,557 --> 01:02:18,113
Jako by vztyčili vlajku a
řekl: "To je dobré pole."

809
01:02:18,113 --> 01:02:20,702
Společnosti by měly
skoč do toho."

810
01:02:20,702 --> 01:02:22,600
Pak čínská reklama
svět a společnosti říkají,

811
01:02:22,600 --> 01:02:25,189
„Dobře, vláda
vztyčil vlajku, to je dobře.

812
01:02:25,189 --> 01:02:26,639
Vložme do toho peníze."

813
01:02:28,261 --> 01:02:30,298
Čínští tech giganti, jako je Baidu,

814
01:02:30,298 --> 01:02:32,507
jako Tencent a jako AliBaba,

815
01:02:32,507 --> 01:02:36,200
dali hodně z
investice do oblasti AI.

816
01:02:37,823 --> 01:02:41,240
Takže vidíme, že čínská AI
vývoj je na vzestupu.

817
01:02:47,798 --> 01:02:51,768
- V Číně to má každý
Platí Alipay a WeChat,

818
01:02:51,768 --> 01:02:53,770
takže mobilní platby jsou všude.

819
01:02:55,254 --> 01:02:58,947
A s tím mohou
dělat spoustu analýz AI

820
01:02:58,947 --> 01:03:03,676
vědět, jako jsou vaše výdaje
zvyky, vaše bonita.

821
01:03:05,540 --> 01:03:10,476
Technologie rozpoznávání obličeje
je široce přijímán v Číně,

822
01:03:10,476 --> 01:03:12,443
na letištích a nádražích.

823
01:03:13,617 --> 01:03:15,930
Takže v budoucnu možná
za pouhých pár měsíců,

824
01:03:15,930 --> 01:03:19,519
nepotřebuješ papír
lístek k nástupu do vlaku.

825
01:03:19,519 --> 01:03:20,417
Jen tvůj obličej.

826
01:03:29,012 --> 01:03:32,670
- Vytváříme
největší platforma světa

827
01:03:32,670 --> 01:03:34,051
rozpoznávání obličeje.

828
01:03:35,639 --> 01:03:40,678
Máme 300 000 vývojářů
pomocí naší platformy.

829
01:03:42,749 --> 01:03:45,925
Je toho hodně
aplikace pro selfie fotoaparáty.

830
01:03:45,925 --> 01:03:48,341
Přinutí vás to vypadat
krásnější.

831
01:03:50,965 --> 01:03:54,175
Jsou to miliony a miliony
kamer na světě,

832
01:03:55,555 --> 01:03:59,249
každý fotoaparát z mého místa
je generátor dat.

833
01:04:03,149 --> 01:04:06,843
V oku stroje, vaše tvář
se změní na vlastnosti

834
01:04:06,843 --> 01:04:10,985
a obrátí vaši tvář
do odstavce kódu.

835
01:04:12,434 --> 01:04:16,335
Takže můžeme zjistit, kolik vám je let
jestli jsi muž nebo žena,

836
01:04:16,335 --> 01:04:17,819
a vaše emoce.

837
01:04:21,547 --> 01:04:25,137
Nakupování je o tom jaké
věc, na kterou se díváte.

838
01:04:25,137 --> 01:04:28,761
Můžeme sledovat vaše oční bulvy,
pokud se tedy soustředíte

839
01:04:28,761 --> 01:04:30,038
na nějaký produkt,

840
01:04:30,038 --> 01:04:33,007
můžeme to sledovat
abychom věděli

841
01:04:33,007 --> 01:04:36,389
jaký druh lidí má rád
jaký druh produktu.

842
01:05:50,360 --> 01:05:52,396
- Čínská vláda
používá více

843
01:05:52,396 --> 01:05:55,192
různé druhy
technologie, ať už je to AI,

844
01:05:55,192 --> 01:05:58,023
zda jde o velká data
platformy, rozpoznávání obličeje,

845
01:05:58,023 --> 01:06:01,371
rozpoznávání hlasu,
v podstatě sledovat

846
01:06:01,371 --> 01:06:03,131
co obyvatelstvo dělá.

847
01:06:06,203 --> 01:06:08,585
Myslím, že Číňané
vláda dala velmi jasně najevo

848
01:06:08,585 --> 01:06:13,590
jeho záměr shromáždit masivní
množství dat o lidech

849
01:06:14,763 --> 01:06:17,490
sociální inženýr a
společnost bez disentu.

850
01:06:20,355 --> 01:06:23,393
Logika za
Čínská vláda

851
01:06:23,393 --> 01:06:27,121
systém sociálních kreditů,
je to vzít myšlenku, že

852
01:06:27,121 --> 01:06:32,126
zda jste kredit
hodný finanční půjčky

853
01:06:33,541 --> 01:06:36,199
a přidat k tomu velmi
politický rozměr říci,

854
01:06:36,199 --> 01:06:38,649
„Jsi důvěryhodný
lidská bytost?

855
01:06:40,997 --> 01:06:42,481
To, co jsi řekl online,

856
01:06:42,481 --> 01:06:44,655
byl jsi někdy kritický
úřadů?

857
01:06:44,655 --> 01:06:46,312
Máš záznam v trestním rejstříku?"

858
01:06:48,073 --> 01:06:51,697
A všechny ty informace jsou
zabalené společně k posouzení

859
01:06:51,697 --> 01:06:56,219
jste způsoby, které pokud máte
podle jejich názoru fungoval dobře,

860
01:06:56,219 --> 01:06:58,842
budete to mít jednodušší
přístup k určitým druhům

861
01:06:58,842 --> 01:07:00,809
státních služeb nebo dávek.

862
01:07:02,087 --> 01:07:04,020
Ale pokud ne
udělal velmi dobře,

863
01:07:04,020 --> 01:07:06,263
budeš
penalizovány nebo omezeny.

864
01:07:10,267 --> 01:07:13,374
Lidé to nemají jak
zpochybnit tato označení

865
01:07:13,374 --> 01:07:14,858
nebo v některých případech

866
01:07:14,858 --> 01:07:16,446
dokonce vědí, že mají
zařazen do této kategorie,

867
01:07:16,446 --> 01:07:19,725
a to až oni
zkuste se dostat k nějakému druhu

868
01:07:19,725 --> 01:07:22,314
státní služby popř
koupit letenku,

869
01:07:22,314 --> 01:07:24,799
nebo získat pas, popř
přihlásit své dítě do školy,

870
01:07:24,799 --> 01:07:27,250
že se přijdou učit
že byli označeni

871
01:07:27,250 --> 01:07:28,458
tímto způsobem,

872
01:07:28,458 --> 01:07:30,598
a že jich je
negativní důsledky

873
01:07:30,598 --> 01:07:31,909
pro ně jako výsledek.

874
01:07:49,341 --> 01:07:53,069
Strávili jsme lepší část
za poslední rok nebo dva

875
01:07:53,069 --> 01:07:57,521
při pohledu na zneužívání
dohledu
technologie po celé Číně,

876
01:07:57,521 --> 01:08:00,490
a hodně té práce
nás zavedl do Sin-ťiangu,

877
01:08:01,870 --> 01:08:05,529
severozápadní oblasti
Čína, která má více než polovinu

878
01:08:05,529 --> 01:08:09,947
populace tureckých muslimů,
Ujgurové, Kazaši a Hui.

879
01:08:12,847 --> 01:08:15,298
Toto je region
a populace
čínská vláda

880
01:08:15,298 --> 01:08:19,164
se dlouho považoval za
politicky podezřelý nebo neloajální.

881
01:08:21,925 --> 01:08:24,514
Přišli jsme hledat informace
o tom, co se nazývá

882
01:08:24,514 --> 01:08:27,482
integrovaný kloub
operační platforma,

883
01:08:27,482 --> 01:08:31,521
což je prediktivní policejní práce
program a to je jeden

884
01:08:31,521 --> 01:08:35,007
z programů, které byly
chrlit seznamy jmen

885
01:08:35,007 --> 01:08:37,906
lidí, kteří mají být podrobeni
k politické převýchově.

886
01:08:43,395 --> 01:08:47,123
Řada našich dotazovaných
za zprávu, kterou jsme právě vydali

887
01:08:47,123 --> 01:08:50,471
o politické výchově
jen tábory v Sin-ťiangu

888
01:08:50,471 --> 01:08:54,751
namaloval neobyčejný
portrét a
dozorový stav.

889
01:08:57,857 --> 01:09:00,722
Zaplavený region
sledovací kamery

890
01:09:00,722 --> 01:09:04,899
pro účely rozpoznávání obličeje,
kontrolní body, tělesné skenery,

891
01:09:04,899 --> 01:09:08,316
QR kódy mimo domovy lidí.

892
01:09:09,973 --> 01:09:13,873
Jo, to opravdu je
věci z dystopických filmů

893
01:09:13,873 --> 01:09:15,323
že jsme všichni odešli
a myslel si,

894
01:09:15,323 --> 01:09:17,463
"Wow, to by bylo
strašidelný svět k životu."

895
01:09:17,463 --> 01:09:20,811
Jo, no, 13 milionů
Turkičtí muslimové v Číně

896
01:09:20,811 --> 01:09:22,917
v tom žijí
realita právě teď.

897
01:09:35,171 --> 01:09:37,414
- The Intercept hlásí
které Google plánuje

898
01:09:37,414 --> 01:09:40,797
spustit cenzurovanou verzi
jeho vyhledávač v Číně.

899
01:09:40,797 --> 01:09:43,075
- Vyhledávání Google
pro nové trhy vede

900
01:09:43,075 --> 01:09:46,492
do Číny, navzdory Pekingu
pravidla o cenzuře.

901
01:09:46,492 --> 01:09:48,391
- Řekni nám o tom víc
proč jsi to cítil

902
01:09:48,391 --> 01:09:50,979
vaše etické
zodpovědnost odstoupit,

903
01:09:50,979 --> 01:09:52,429
protože mluvíš
o spoluúčasti

904
01:09:52,429 --> 01:09:55,398
v cenzuře a
útlak a dohled.

905
01:09:55,398 --> 01:09:58,539
- Existuje čínský podnik
společnost, která musí být

906
01:09:58,539 --> 01:10:00,575
nastavit pro Google
působit v Číně.

907
01:10:00,575 --> 01:10:03,233
A otázka je, k čemu
stupně dostali pod kontrolu

908
01:10:03,233 --> 01:10:06,305
černá listina a na co
stupně by měli jen

909
01:10:06,305 --> 01:10:09,584
neomezený přístup k
sledování čínských občanů?

910
01:10:09,584 --> 01:10:11,862
A skutečnost, že Google
odmítá reagovat

911
01:10:11,862 --> 01:10:13,623
k lidským právům
organizace na toto téma,

912
01:10:13,623 --> 01:10:16,488
Myslím, že by měl být extrémně
všechny znepokojující.

913
01:10:21,009 --> 01:10:22,735
Vzhledem k mému přesvědčení
ten nesouhlas

914
01:10:22,735 --> 01:10:25,117
je zásadní pro
fungujících demokracií

915
01:10:25,117 --> 01:10:27,878
a nucen rezignovat
aby se vyhnuli přispívání

916
01:10:27,878 --> 01:10:29,949
nebo těžit z eroze

917
01:10:29,949 --> 01:10:31,675
ochrany disidentů.

918
01:10:33,263 --> 01:10:35,300
Organizace spojených národů je v současnosti
hlášení, že mezi

919
01:10:35,300 --> 01:10:38,613
200 000 a jeden milion
Ujgurové zmizeli

920
01:10:38,613 --> 01:10:40,960
do převýchovných táborů.

921
01:10:40,960 --> 01:10:42,307
A je tu vážný argument

922
01:10:42,307 --> 01:10:43,894
že Google bude spoluviníkem

923
01:10:43,894 --> 01:10:46,483
měla by spustit hlídané
verze vyhledávání v Číně.

924
01:10:49,590 --> 01:10:54,560
Dragonfly je projekt míněný
spustit vyhledávání v Číně pod

925
01:10:55,941 --> 01:11:00,256
nařízení čínské vlády,
které zahrnují cenzuru

926
01:11:00,256 --> 01:11:03,845
citlivý obsah, zákl
dotazy na lidská práva,

927
01:11:03,845 --> 01:11:07,539
informace o politice
zástupci jsou blokováni,

928
01:11:07,539 --> 01:11:11,405
informace o studentovi
protesty jsou blokovány.

929
01:11:11,405 --> 01:11:13,510
A to je jedna malá část toho.

930
01:11:13,510 --> 01:11:16,410
Možná je to hlubší obava
sledovací stránka tohoto.

931
01:11:20,414 --> 01:11:22,174
Když jsem zvedl
problém s mými manažery,

932
01:11:22,174 --> 01:11:24,107
se svými kolegy,

933
01:11:24,107 --> 01:11:26,212
bylo hodně starostí,
ale všichni říkali,

934
01:11:26,212 --> 01:11:27,386
"Nic nevím."

935
01:11:32,149 --> 01:11:34,566
A pak když tam
bylo konečně setkání,

936
01:11:34,566 --> 01:11:36,913
v podstatě tam bylo
žádné oslovování

937
01:11:36,913 --> 01:11:39,018
vážné obavy
s tím spojené.

938
01:11:41,366 --> 01:11:44,230
Tak jsem podal svůj
formální rezignace,

939
01:11:44,230 --> 01:11:45,611
nejen mému manažerovi,

940
01:11:45,611 --> 01:11:47,337
ale ve skutečnosti jsem distribuoval
to celofiremní.

941
01:11:47,337 --> 01:11:49,615
A to je ten dopis
ze kterého jsem četl.

942
01:11:54,793 --> 01:11:57,347
Osobně já
nespali dobře.

943
01:11:57,347 --> 01:12:00,316
Měl jsem pěkný
strašné bolesti hlavy,

944
01:12:00,316 --> 01:12:02,835
probudit se uprostřed
noc jen pocení.

945
01:12:04,975 --> 01:12:07,668
S tím jsem řekl, co já
nalezen od promluvy

946
01:12:07,668 --> 01:12:12,293
jak pozitivní je globální
reakce na to byla.

947
01:12:14,675 --> 01:12:17,954
Inženýři by měli požadovat
abyste věděli, k čemu slouží

948
01:12:17,954 --> 01:12:20,232
jejich technické
příspěvky jsou

949
01:12:20,232 --> 01:12:23,235
a mít místo u stolu
v těch etických rozhodnutích.

950
01:12:31,381 --> 01:12:33,935
Většina občanů opravdu ne
pochopit, co to znamená být

951
01:12:33,935 --> 01:12:36,352
ve velmi velkém měřítku
normativní technologie.

952
01:12:38,112 --> 01:12:40,701
Kde už to někdo udělal
práci předem rozdělili

953
01:12:40,701 --> 01:12:42,634
a vše, o čem víte
je tvůj malý kousek,

954
01:12:42,634 --> 01:12:45,499
a téměř jistě ne
pochopit, jak to do sebe zapadá.

955
01:12:49,019 --> 01:12:51,401
Takže si myslím, že to stojí za to
kreslení analogie

956
01:12:51,401 --> 01:12:55,440
k práci fyziků
na atomovou bombu.

957
01:12:58,304 --> 01:13:00,928
Ve skutečnosti je to tak
komunita, ze které jsem vyšel.

958
01:13:03,551 --> 01:13:05,588
Nebyl jsem jaderný
vědec jakýmkoliv způsobem,

959
01:13:05,588 --> 01:13:07,313
ale byl jsem přihlášený
matematik

960
01:13:08,763 --> 01:13:11,145
a můj doktorandský program
byl skutečně financován

961
01:13:11,145 --> 01:13:13,734
trénovat lidi
práce ve zbrojních laboratořích.

962
01:13:17,323 --> 01:13:18,532
Dalo by se jistě polemizovat

963
01:13:18,532 --> 01:13:21,293
že existuje
existenční ohrožení

964
01:13:22,708 --> 01:13:25,677
a kdokoli vede
AI povede vojensky.

965
01:13:35,756 --> 01:13:38,621
- Čína to plně očekává
projít Spojené státy

966
01:13:38,621 --> 01:13:41,831
jako ekonomika číslo jedna
svět a on tomu věří

967
01:13:41,831 --> 01:13:46,836
Umělá inteligence udělá ten skok ještě víc
rychle a dramatičtěji.

968
01:13:48,285 --> 01:13:50,840
A také to vidí jako
umět přeskočit

969
01:13:50,840 --> 01:13:54,947
ve Spojených státech
podmínky vojenské síly.

970
01:14:01,920 --> 01:14:03,922
Jejich plán je velmi jednoduchý.

971
01:14:03,922 --> 01:14:05,337
Chceme chytat
Spojené státy americké

972
01:14:05,337 --> 01:14:07,960
a tyto technologie do roku 2020,

973
01:14:07,960 --> 01:14:09,617
chceme překonat
Spojené státy americké

974
01:14:09,617 --> 01:14:12,240
v těchto technologiích do roku 2025,

975
01:14:12,240 --> 01:14:13,552
a chceme být
světový lídr

976
01:14:13,552 --> 01:14:16,935
v AI a autonomní
technologií do roku 2030.

977
01:14:19,455 --> 01:14:21,215
Je to národní plán.

978
01:14:21,215 --> 01:14:26,151
Je zálohována min
investice ve výši 150 miliard dolarů.

979
01:14:26,151 --> 01:14:29,119
Tak tohle je rozhodně závod.

980
01:14:54,455 --> 01:14:56,043
- AI je trochu jako oheň.

981
01:14:57,734 --> 01:15:00,599
Oheň byl vynalezen
před 700 000 lety,

982
01:15:01,773 --> 01:15:03,913
a má to svá pro a proti.

983
01:15:06,294 --> 01:15:09,470
Lidé si uvědomili, že můžete
k udržení tepla použijte oheň

984
01:15:09,470 --> 01:15:10,885
v noci a vařit,

985
01:15:12,818 --> 01:15:14,233
ale také si uvědomili

986
01:15:14,233 --> 01:15:18,306
že můžeš zabít
ostatní lidé s tím.

987
01:15:24,209 --> 01:15:28,627
Oheň to má také
Kvalita pěstování podobná AI

988
01:15:28,627 --> 01:15:31,734
v lesním požáru bez
další lidské povyky,

989
01:15:34,875 --> 01:15:39,880
ale výhody převažují
nevýhody tolik

990
01:15:41,053 --> 01:15:43,608
že nejedeme
zastavit jeho vývoj.

991
01:15:53,859 --> 01:15:55,551
Evropa se probouzí.

992
01:15:56,724 --> 01:16:00,521
Spousta společností v
Evropa si uvědomuje

993
01:16:00,521 --> 01:16:02,730
že další vlna AI

994
01:16:02,730 --> 01:16:05,871
bude mnohem větší
než současná vlna.

995
01:16:07,597 --> 01:16:12,360
Další vlna AI
bude o robotech.

996
01:16:14,121 --> 01:16:19,126
Všechny tyto stroje, které dělají
věci, které produkují věci,

997
01:16:20,506 --> 01:16:23,648
které staví další stroje,
stanou se chytrými.

998
01:16:31,241 --> 01:16:34,313
V ne tak vzdáleném
v budoucnu budeme mít roboty

999
01:16:34,313 --> 01:16:37,593
že můžeme učit
jako učíme děti.

1000
01:16:39,974 --> 01:16:43,012
Například budu mluvit s a
malý robot a já řeknu,

1001
01:16:44,358 --> 01:16:46,981
„Podívej se, robote, podívej se sem.

1002
01:16:46,981 --> 01:16:49,052
Pojďme sestavit smartphone.

1003
01:16:49,052 --> 01:16:50,951
Vezmeme tuto desku
z takového plastu

1004
01:16:50,951 --> 01:16:53,160
a bereme a
takový šroubovák,

1005
01:16:53,160 --> 01:16:56,750
a teď se zapojíme
všechno takhle.

1006
01:16:56,750 --> 01:16:58,752
Ne, ne, takhle ne.

1007
01:16:58,752 --> 01:17:01,962
Takhle, podívej, robote,
podívej, takhle."

1008
01:17:03,411 --> 01:17:06,173
A pár se mu nepodaří
několikrát, ale poměrně rychle,

1009
01:17:06,173 --> 01:17:09,176
naučí se to dělat
to samé mnohem lepší

1010
01:17:09,176 --> 01:17:10,764
než bych to dokázal.

1011
01:17:10,764 --> 01:17:14,353
A pak učení zastavíme
a uděláme milion kopií,

1012
01:17:14,353 --> 01:17:15,423
a prodat to.

1013
01:17:36,686 --> 01:17:40,103
Regulace zvuků AI
jako atraktivní nápad,

1014
01:17:40,103 --> 01:17:42,243
ale myslím, že to není možné.

1015
01:17:44,625 --> 01:17:47,041
Jeden z důvodů
proč to nebude fungovat

1016
01:17:47,041 --> 01:17:50,700
naprostá zvědavost
vědců.

1017
01:17:51,874 --> 01:17:53,910
Nedávají a
sakra za regulaci.

1018
01:17:56,982 --> 01:18:01,055
Vojenské síly nedají a
sakra taky kvůli předpisům.

1019
01:18:01,055 --> 01:18:03,609
Řeknou: „Pokud bychom,
Američané to nedělají,

1020
01:18:03,609 --> 01:18:05,232
pak to Číňané udělají."

1021
01:18:05,232 --> 01:18:07,544
A Číňané budou
říct: "Pokud to neuděláme,

1022
01:18:07,544 --> 01:18:09,029
pak to Rusové udělají."

1023
01:18:11,963 --> 01:18:15,207
Bez ohledu na to, jaký druh politiky
regulace je tam venku,

1024
01:18:15,207 --> 01:18:18,970
všechny tyto vojenské
průmyslové komplexy,

1025
01:18:18,970 --> 01:18:21,800
budou téměř kolem
definice to musí ignorovat

1026
01:18:23,077 --> 01:18:25,183
protože chtějí
vyhnout se zaostávání.

1027
01:18:37,505 --> 01:18:40,474
- Program vyvinutý společností
společnost OpenAI umí psát

1028
01:18:40,474 --> 01:18:43,788
souvislé a věrohodné příběhy
stejně jako lidské bytosti.

1029
01:18:43,788 --> 01:18:45,824
- To je jeden
malý krok pro stroj,

1030
01:18:45,824 --> 01:18:48,654
jeden obrovský skok pro strojový druh.

1031
01:18:48,654 --> 01:18:51,485
Nejnovější umělý produkt IBM
zpravodajský systém převzal

1032
01:18:51,485 --> 01:18:55,903
zkušení lidští diskutéři
a vyhrál živou debatu.

1033
01:18:55,903 --> 01:18:58,526
- Počítačem generované
videa známá jako deep fake

1034
01:18:58,526 --> 01:19:02,254
se používají k umístění žen
tváře na pornografických videích.

1035
01:19:06,811 --> 01:19:10,746
- Umělá inteligence
se vyvíjí velmi šíleným tempem.

1036
01:19:12,299 --> 01:19:14,439
Víš, je to jako
postupuje tak rychle.

1037
01:19:14,439 --> 01:19:17,028
V některých ohledech jsme jen my
hned na začátku.

1038
01:19:18,754 --> 01:19:21,687
Máte tolik potenciálu
aplikací, je to zlatý důl.

1039
01:19:23,931 --> 01:19:27,763
Od roku 2012, kdy hluboké učení
se stal velkou změnou hry

1040
01:19:27,763 --> 01:19:29,661
v počítači
vize komunita,

1041
01:19:29,661 --> 01:19:33,044
byli jsme jedni z prvních
skutečně přijmout hluboké učení

1042
01:19:33,044 --> 01:19:35,425
a aplikovat jej v terénu
počítačové grafiky.

1043
01:19:38,946 --> 01:19:41,846
Spousta našeho výzkumu
je financována vládou,

1044
01:19:41,846 --> 01:19:44,124
vojenské zpravodajské agentury.

1045
01:19:48,300 --> 01:19:52,132
Způsob, jakým je tvoříme
fotoreálná mapování,

1046
01:19:52,132 --> 01:19:54,617
většinou to tak funguje
že potřebujeme dva předměty,

1047
01:19:54,617 --> 01:19:57,827
zdroj a cíl a
Mohu provést výměnu obličeje.

1048
01:20:03,177 --> 01:20:06,042
Jedna z aplikací
je např.

1049
01:20:06,042 --> 01:20:08,113
Chci manipulovat
něčí tvář

1050
01:20:08,113 --> 01:20:09,632
říkat věci, které nedělal.

1051
01:20:13,291 --> 01:20:16,501
Může být použit pro kreativitu
věci, pro vtipný obsah,

1052
01:20:16,501 --> 01:20:20,470
ale evidentně taky může
být jednoduše použitelný

1053
01:20:20,470 --> 01:20:22,990
manipulovat s videi a
vytvářet falešné zprávy.

1054
01:20:25,406 --> 01:20:27,512
To může být velmi nebezpečné.

1055
01:20:29,134 --> 01:20:31,343
Pokud se dostane do nesprávných rukou,

1056
01:20:31,343 --> 01:20:33,345
může se dostat ven
ovládat velmi rychle.

1057
01:20:37,729 --> 01:20:40,180
- Vstupujeme do éry
ve kterých mohou naši nepřátelé

1058
01:20:40,180 --> 01:20:42,389
aby to vypadalo jako kdokoli
říká cokoliv

1059
01:20:42,389 --> 01:20:44,046
kdykoli v čase,

1060
01:20:44,046 --> 01:20:46,876
i kdyby chtěli
nikdy ty věci neříkej.

1061
01:20:46,876 --> 01:20:49,085
Potřebujeme jít vpřed
být ostražitější

1062
01:20:49,085 --> 01:20:51,570
s tím, čemu věříme
z internetu.

1063
01:20:51,570 --> 01:20:54,401
Může to znít základně,
ale jak se posuneme dál

1064
01:20:55,851 --> 01:20:59,613
ve věku informací je
bude rozdíl

1065
01:20:59,613 --> 01:21:02,478
mezi tím, zda přežijeme
nebo zda se staneme

1066
01:21:02,478 --> 01:21:04,860
nějaká podělaná dystopie.

1067
01:22:35,433 --> 01:22:38,056
- Jedna kritika
je často zvednutý

1068
01:22:38,056 --> 01:22:41,577
proti mé práci říkám,

1069
01:22:41,577 --> 01:22:43,751
„Hele, znáš to tam
byly hloupé nápady

1070
01:22:43,751 --> 01:22:47,963
v minulosti jako
frenologie nebo fyziognomie.

1071
01:22:49,550 --> 01:22:53,692
Byli lidé, kteří tvrdili
že umíte přečíst postavu

1072
01:22:53,692 --> 01:22:56,385
člověka jen
podle jejich tváře."

1073
01:22:58,214 --> 01:23:00,320
Lidé by řekli,
„Tohle je svinstvo.

1074
01:23:00,320 --> 01:23:05,325
Víme, že to bylo jen nepatrné
zahalený rasismus a pověrčivost."

1075
01:23:09,985 --> 01:23:13,954
Ale skutečnost, že někdo
v minulosti uplatnil nárok

1076
01:23:13,954 --> 01:23:18,959
a snažil se to podpořit
nárok s neplatným odůvodněním,

1077
01:23:20,133 --> 01:23:22,721
ne automaticky
nárok zneplatnit.

1078
01:23:28,072 --> 01:23:30,005
Samozřejmě, lidé
by měl mít práva

1079
01:23:30,005 --> 01:23:31,316
do jejich soukromí, když to přijde

1080
01:23:31,316 --> 01:23:34,595
na sexuální orientaci
nebo politické názory,

1081
01:23:36,666 --> 01:23:38,082
ale taky se bojím

1082
01:23:38,082 --> 01:23:40,015
že v proudu
technologické prostředí,

1083
01:23:40,015 --> 01:23:41,947
to je v podstatě nemožné.

1084
01:23:46,987 --> 01:23:49,231
Lidé by si měli uvědomit
není cesty zpět.

1085
01:23:49,231 --> 01:23:52,717
Neexistuje žádný útěk
z algoritmů.

1086
01:23:55,444 --> 01:24:00,035
Čím dříve přijmeme
nevyhnutelné a
nepohodlná pravda

1087
01:24:00,863 --> 01:24:03,659
že soukromí je pryč,

1088
01:24:06,041 --> 01:24:09,630
tím dříve vlastně můžeme
začít přemýšlet

1089
01:24:09,630 --> 01:24:11,770
jak se ujistit
že naše společnosti

1090
01:24:11,770 --> 01:24:15,774
jsou připraveni na
Post-Privacy Age.

1091
01:24:39,350 --> 01:24:41,559
- Když mluvíme o
rozpoznávání obličeje,

1092
01:24:41,559 --> 01:24:45,528
ve svých hlubokých myšlenkách, já někdy
dostat se do velmi temné doby

1093
01:24:47,082 --> 01:24:48,048
naší historie.

1094
01:24:49,877 --> 01:24:53,364
Když lidé měli
žít v systému,

1095
01:24:53,364 --> 01:24:57,333
kde nějaká část
společnost byla přijata

1096
01:24:57,333 --> 01:25:01,096
a nějaká část společnosti
byl obviněn k smrti.

1097
01:25:05,962 --> 01:25:09,311
Co by udělal Mengele
mít takový nástroj

1098
01:25:09,311 --> 01:25:10,139
v jeho rukou?

1099
01:25:15,317 --> 01:25:19,493
Bylo by to velmi rychlé a
efektivní pro výběr

1100
01:25:22,738 --> 01:25:26,604
a toto je
apokalyptickou vizí.

1101
01:26:20,175 --> 01:26:24,179
-Takže v blízké budoucnosti,
celý tvůj příběh

1102
01:26:24,179 --> 01:26:29,184
bude existovat v široké škále
propojené databáze tváří,

1103
01:26:30,081 --> 01:26:32,704
genomy, chování a emoce.

1104
01:26:35,259 --> 01:26:39,642
Takže budete mít digitál
avatar sebe sama online,

1105
01:26:39,642 --> 01:26:43,474
který zaznamenává, jak dobře jste
děláš jako občan,

1106
01:26:43,474 --> 01:26:46,201
jaký druh a
máš vztah,

1107
01:26:46,201 --> 01:26:50,205
jaké politické
orientace a
sexuální orientace.

1108
01:26:54,347 --> 01:26:58,454
Na základě všech těchto údajů
tyto algoritmy budou schopny

1109
01:26:58,454 --> 01:27:02,665
manipulovat svým chováním
s extrémní přesností,

1110
01:27:02,665 --> 01:27:07,083
změnit způsob myšlení a
pravděpodobně v budoucnu,

1111
01:27:07,083 --> 01:27:08,119
jak se cítíme.

1112
01:27:29,968 --> 01:27:33,178
- Víra a
touhy prvních AGI

1113
01:27:33,178 --> 01:27:34,766
bude nesmírně důležité.

1114
01:27:37,044 --> 01:27:39,254
Takže je důležité
správně je naprogramovat.

1115
01:27:40,496 --> 01:27:42,153
Myslím, že kdyby
to se nedělá,

1116
01:27:43,534 --> 01:27:48,124
pak povaha evoluce
přírodního výběru upřednostní

1117
01:27:49,505 --> 01:27:51,921
tyto systémy upřednostňují
vlastní přežití nade vše ostatní.

1118
01:27:56,201 --> 01:27:59,791
Nejde o to, že to jde
aktivně nenávidět lidi

1119
01:27:59,791 --> 01:28:00,827
a chtějí jim ublížit,

1120
01:28:03,070 --> 01:28:05,659
ale prostě to jde
být příliš mocný

1121
01:28:05,659 --> 01:28:06,833
a myslím, že dobrá analogie

1122
01:28:06,833 --> 01:28:09,732
by byla cesta
lidé léčí zvířata.

1123
01:28:11,251 --> 01:28:12,356
Není to tak, že bychom nenáviděli zvířata.

1124
01:28:12,356 --> 01:28:13,874
Myslím, že lidé milují zvířata

1125
01:28:13,874 --> 01:28:15,738
a mít hodně
náklonnost k nim,

1126
01:28:16,636 --> 01:28:18,707
ale až přijde čas

1127
01:28:18,707 --> 01:28:21,917
postavit dálnici
mezi dvěma městy,

1128
01:28:21,917 --> 01:28:24,368
neptáme se
zvířata o povolení.

1129
01:28:24,368 --> 01:28:27,302
Děláme to jen proto
je to pro nás důležité.

1130
01:28:28,648 --> 01:28:30,753
A myslím, že standardně je to tak
druh vztahu

1131
01:28:30,753 --> 01:28:33,342
to bude mezi námi

1132
01:28:33,342 --> 01:28:37,242
a AGI, které jsou
skutečně autonomní

1133
01:28:37,242 --> 01:28:39,003
a operovat dál
jejich vlastním jménem.

1134
01:28:51,464 --> 01:28:55,675
Pokud máte závody ve zbrojení
dynamika mezi více králi

1135
01:28:55,675 --> 01:28:57,297
snaží se nejprve postavit AGI,

1136
01:28:58,471 --> 01:29:00,749
budou mít méně
čas se ujistit

1137
01:29:00,749 --> 01:29:02,302
že AGI, které staví

1138
01:29:03,165 --> 01:29:04,546
bude o lidi hluboce pečovat.

1139
01:29:07,790 --> 01:29:10,828
Protože tak, jak si to představuji
že je tam lavina,

1140
01:29:10,828 --> 01:29:13,451
je tam lavina
vývoje AGI.

1141
01:29:13,451 --> 01:29:16,558
Představte si, že je obrovský
nezastavitelná síla.

1142
01:29:20,078 --> 01:29:23,323
A myslím, že je to dost pravděpodobné
celý povrch

1143
01:29:23,323 --> 01:29:26,222
země by byla pokryta
solární panely a datová centra.

1144
01:29:30,330 --> 01:29:32,953
Vzhledem k těmto druhům obav,

1145
01:29:32,953 --> 01:29:37,095
to bude důležité
AGI je nějak postaveno

1146
01:29:37,095 --> 01:29:39,857
jako spolupráce s
více zemí.

1147
01:29:42,377 --> 01:29:45,103
Budoucnost bude
dobré pro AI, bez ohledu na to.

1148
01:29:46,553 --> 01:29:49,004
Bylo by hezké, kdyby ano
být dobrý i pro lidi.

1149
01:30:11,509 --> 01:30:14,926
- Je toho hodně
odpovědnostní vážení
na mých ramenou?

1150
01:30:14,926 --> 01:30:15,858
Vlastně ne.

1151
01:30:17,791 --> 01:30:21,070
Bylo toho hodně
zodpovědnost na bedrech

1152
01:30:21,070 --> 01:30:23,038
rodičů Einsteina?

1153
01:30:24,488 --> 01:30:26,110
Rodiče ho nějak přiměli,

1154
01:30:26,110 --> 01:30:29,769
ale neměli jak
předvídat, co udělá,

1155
01:30:29,769 --> 01:30:31,460
a jak by to udělal
změnit svět.

1156
01:30:32,875 --> 01:30:36,845
A tak se vlastně nemůžete držet
jsou za to zodpovědní.

1157
01:31:01,939 --> 01:31:04,528
Takže nejsem moc
člověk zaměřený na člověka.

1158
01:31:06,081 --> 01:31:09,774
Myslím, že trochu šlapu
kámen v evoluci

1159
01:31:09,774 --> 01:31:12,190
vesmíru směrem
vyšší složitost.

1160
01:31:15,400 --> 01:31:19,163
Ale to je mi taky jasné
Nejsem korunou stvoření

1161
01:31:19,163 --> 01:31:23,616
a to lidstvo jako celek
není korunou stvoření,

1162
01:31:25,480 --> 01:31:27,343
ale nastavujeme
jeviště pro něco

1163
01:31:27,343 --> 01:31:30,485
to je větší než
nás, to nás přesahuje.

1164
01:31:33,004 --> 01:31:35,420
A pak půjde
tam svým způsobem

1165
01:31:35,420 --> 01:31:36,629
kde lidé nemohou následovat

1166
01:31:36,629 --> 01:31:39,563
a proměnit celek
vesmír, nebo alespoň

1167
01:31:39,563 --> 01:31:41,565
dosažitelný vesmír.

1168
01:31:45,845 --> 01:31:50,850
Takže nacházím krásu a
úžas z toho, že vidím sebe

1169
01:31:52,023 --> 01:31:53,577
jako součást tohoto
mnohem větší téma.

1170
01:32:18,360 --> 01:32:20,327
- AI je nevyhnutelná.

1171
01:32:21,915 --> 01:32:26,920
Musíme se ujistit, že máme
nezbytná lidská regulace

1172
01:32:28,404 --> 01:32:32,685
aby se zabránilo zbrojení
umělé inteligence.

1173
01:32:33,893 --> 01:32:36,343
Žádné nepotřebujeme
více zbraní

1174
01:32:36,343 --> 01:32:38,311
tak mocného nástroje.

1175
01:32:41,452 --> 01:32:43,385
- Jeden z nejvíce
kritické věci, myslím,

1176
01:32:43,385 --> 01:32:46,284
je potřeba
mezinárodní vládnutí.

1177
01:32:48,217 --> 01:32:51,427
Máme nerovnováhu
moc tady, protože teď

1178
01:32:51,427 --> 01:32:53,498
máme korporace s
více síly, síly a schopností,

1179
01:32:53,498 --> 01:32:55,431
než celé země.

1180
01:32:55,431 --> 01:32:58,400
Jak se ujistíme
že hlasy lidí
jsou slyšet?

1181
01:33:02,059 --> 01:33:03,957
- Nemůže to být zóna bez zákona.

1182
01:33:03,957 --> 01:33:06,408
Nemůže to být zóna bez práv.

1183
01:33:06,408 --> 01:33:10,170
Nemůžeme to všechno přijmout
úžasné nové technologie

1184
01:33:10,170 --> 01:33:14,347
pro 21. století bez
snaží přinést s námi

1185
01:33:14,347 --> 01:33:19,248
balíček lidských práv
že jsme tak tvrdě bojovali

1186
01:33:19,248 --> 01:33:23,598
dosáhnout, a to
zůstává tak křehká.

1187
01:33:32,986 --> 01:33:36,507
- AI není dobrá a
taky to není zlé.

1188
01:33:36,507 --> 01:33:38,958
Prostě to půjde
zesílit touhy

1189
01:33:38,958 --> 01:33:40,994
a cíle
kdo to ovládá.

1190
01:33:40,994 --> 01:33:42,789
A AI dnes je
pod kontrolou

1191
01:33:42,789 --> 01:33:45,378
z velmi, velmi malého
skupina lidí.

1192
01:33:48,761 --> 01:33:50,901
Nejdůležitější otázka
které my lidé máme

1193
01:33:50,901 --> 01:33:53,593
abychom se sami sebe zeptali
tento bod v historii

1194
01:33:53,593 --> 01:33:55,906
nevyžaduje žádné technické znalosti.

1195
01:33:55,906 --> 01:33:57,321
Toť otázka

1196
01:33:57,321 --> 01:34:01,394
o jaké budoucnosti
společnost, kterou chceme vytvořit

1197
01:34:01,394 --> 01:34:03,396
s tím vším
technologie, kterou vyrábíme?

1198
01:34:05,640 --> 01:34:09,574
Jakou roli chceme
aby lidé byli na tomto světě?