3
00:01:04,847 --> 00:01:09,329
Nyní současné počítače
jsou úplní pitomci,

4
00:01:09,330 --> 00:01:12,158
ale to nebude pravda
v další generaci.

5
00:01:12,159 --> 00:01:14,899
Začnou přemýšlet,
a nakonec budou

6
00:01:14,900 --> 00:01:17,641
úplně přemýšlet
jejich tvůrci.

7
00:01:17,642 --> 00:01:20,296
Je to depresivní?
Nechápu, proč by to mělo být.

8
00:01:20,297 --> 00:01:24,866
Mám podezření, že organické
nebo biologická evoluce

9
00:01:24,867 --> 00:01:26,303
už asi došlo ke svému konci.

10
00:01:29,567 --> 00:01:30,698
Ty mě nechceš
být vypravěčem.

11
00:01:30,699 --> 00:01:32,395
Nemám dobrý hlas.

12
00:01:32,396 --> 00:01:34,049
Máš skvělý hlas.
Prostě to udělej.

13
00:01:34,050 --> 00:01:36,225
Je to jen...
právě to zkoušíme.

14
00:01:36,226 --> 00:01:38,009
Dostanu za tyhle sračky zaplaceno?

15
00:01:38,010 --> 00:01:40,273
no,
uvidíme, jak ti to půjde.

16
00:01:41,623 --> 00:01:43,451
♪ ♪

17
00:01:46,454 --> 00:01:47,932
Musím zavolat rodičům.

18
00:01:49,109 --> 00:01:51,066
Někdy do věcí spěcháme

19
00:01:51,067 --> 00:01:52,894
aniž by si je promyslel.

20
00:01:52,895 --> 00:01:54,765
Jo, můžeš...
chceš střílet? to je...

21
00:01:54,766 --> 00:01:57,246
Jako když Daniel
a Caroline se vdala

22
00:01:57,247 --> 00:02:00,206
151 dní poté, co se setkali.

23
00:02:00,207 --> 00:02:01,817
Pojďme to přetočit.

24
00:02:04,820 --> 00:02:07,213
Přemýšleli jste o
koupit domácí počítač?

25
00:02:07,214 --> 00:02:09,345
V roce 1993, kdy se narodil Daniel,

26
00:02:09,346 --> 00:02:12,174
neměli ani jeho rodiče
počítač v domě.

27
00:02:12,175 --> 00:02:13,828
Ale pamatuje
když konečně jeden dostali.

28
00:02:13,829 --> 00:02:15,743
Co je pro mě počítač

29
00:02:15,744 --> 00:02:18,398
ekvivalent jízdního kola
pro naši mysl.

30
00:02:18,399 --> 00:02:20,269
Ahoj.

31
00:02:20,270 --> 00:02:22,228
Pomohl mu počítač
popustit uzdu své kreativitě.

32
00:02:22,229 --> 00:02:23,968
Válcování. Jít.

33
00:02:23,969 --> 00:02:26,623
Použil
iMac jeho otce k úpravě videí.

34
00:02:26,624 --> 00:02:28,364
Jo!

35
00:02:28,365 --> 00:02:29,974
A dokonce vyrobit
malé animace.

36
00:02:31,977 --> 00:02:35,110
V roce 1998, kdy byla Caroline
malá holčička...

37
00:02:35,111 --> 00:02:36,764
Ahoj, mami.

38
00:02:36,765 --> 00:02:38,200
...to věděli jen pitomci
co byl internet.

39
00:02:38,201 --> 00:02:39,854
A co teprve
tahle internetová věc?

40
00:02:39,855 --> 00:02:41,377
Víš něco?
o tom? -Jasně.

41
00:02:41,378 --> 00:02:42,813
Ale brzy,

42
00:02:42,814 --> 00:02:44,946
- všichni byli na...
- ...internety.

43
00:02:44,947 --> 00:02:47,035
...a počítače byly
porážet lidi v šachu.

44
00:02:47,036 --> 00:02:50,038
Tmavě modrá--
Kasparov rezignoval!

45
00:02:50,039 --> 00:02:52,649
A časem
Caroline chodila na vysokou školu,

46
00:02:52,650 --> 00:02:55,130
počítače byly
v kapse každého.

47
00:02:55,131 --> 00:02:58,438
Teď mohl Daniel točit filmy
s jeho telefonem.

48
00:02:58,439 --> 00:03:01,528
Vyrostl v umělce
a filmař...

49
00:03:01,529 --> 00:03:03,965
- Dobrou noc.
- ...a Caroline také.

50
00:03:03,966 --> 00:03:05,749
Střih. Pojďme do detailu.
To bylo perfektní.

51
00:03:05,750 --> 00:03:07,316
Tehdy byly počítače
spojování lidí

52
00:03:07,317 --> 00:03:09,013
a mění svět způsoby

53
00:03:09,014 --> 00:03:10,711
že my nikdy
mohl si představit.

54
00:03:10,712 --> 00:03:12,365
Všechny peníze vybrané
výzva Ice Bucket...

55
00:03:12,366 --> 00:03:14,236
Něco z toho bylo dobré.

56
00:03:15,543 --> 00:03:17,152
Některé nejsou tak dobré.

57
00:03:17,153 --> 00:03:19,328
Úzkost, sebepoškozování, sebevražda...

58
00:03:19,329 --> 00:03:21,243
Ale teď už je to jasné
že jsme toho neudělali dost

59
00:03:21,244 --> 00:03:24,594
zabránit těmto nástrojům
používá se i ke škodě.

60
00:03:24,595 --> 00:03:26,422
A jako svět
se víc a víc soustředil

61
00:03:26,423 --> 00:03:28,076
na jejich počítačích,

62
00:03:28,077 --> 00:03:30,210
Daniel se soustředil na své umělecké dílo.

63
00:03:32,037 --> 00:03:35,649
Kamkoli šel,
vždycky měl skicák,

64
00:03:35,650 --> 00:03:38,434
včetně noci
potkal Caroline.

65
00:03:38,435 --> 00:03:41,698
Nakreslil hrozný obrázek
z ní a o 20 minut později,

66
00:03:41,699 --> 00:03:44,179
prohlásil směle
chystali se vzít,

67
00:03:44,180 --> 00:03:47,617
což, jak víte, udělali,
O 151 dní později.

68
00:03:47,618 --> 00:03:49,967
...teď vás vyslovte
manžel a manželka.

69
00:03:49,968 --> 00:03:51,708
Přestěhovali se do roztomilého domečku...

70
00:03:51,709 --> 00:03:52,883
-Moose, ahoj! Pojď sem!
- ...a mám psa

71
00:03:52,884 --> 00:03:54,711
stejně hloupý jako Daniel.

72
00:03:54,712 --> 00:03:57,323
Mezitím byly počítače
psaní celých esejů

73
00:03:57,324 --> 00:03:59,368
na základě jednoduchých otázek, např.

74
00:03:59,369 --> 00:04:03,198
„Jak těžké by bylo stavět
chatrč na mém dvorku?"

75
00:04:03,199 --> 00:04:07,115
A tak Daniel postavil chatrč
na jeho dvorku.

76
00:04:07,116 --> 00:04:09,987
Ale právě když se posadil, aby začal
pracuje na svém dalším filmu,

77
00:04:09,988 --> 00:04:13,644
se dozvěděl, že počítače
teď mohl psát scénáře.

78
00:04:14,863 --> 00:04:16,603
Teda byli špatní,

79
00:04:16,604 --> 00:04:18,996
ale zlepšovali se
opravdu rychle.

80
00:04:18,997 --> 00:04:21,695
Mohli vytvořit nové obrázky
a videa od nuly,

81
00:04:21,696 --> 00:04:24,828
a některé z nich
mohl dokonce složit advokátní zkoušku.

82
00:04:24,829 --> 00:04:28,876
Nejen projít barem, ale
být v první desítce percentilu.

83
00:04:28,877 --> 00:04:30,573
Bylo to matoucí.

84
00:04:32,184 --> 00:04:35,099
Daniel jen chtěl
kolo pro jeho mysl,

85
00:04:35,100 --> 00:04:38,668
ale počítače se staly
samořídící raketová loď.

86
00:04:42,020 --> 00:04:44,805
Průkopníci v oboru
umělé inteligence

87
00:04:44,806 --> 00:04:46,546
prosí Kongres

88
00:04:46,547 --> 00:04:48,548
projít bezpečnostními pravidly
než bude příliš pozdě.

89
00:04:48,549 --> 00:04:50,593
Teď mi to přišlo jako
celý svět

90
00:04:50,594 --> 00:04:53,030
se do něčeho řítil
aniž by si to promyslel,

91
00:04:53,031 --> 00:04:56,382
a každý měl svůj názor.

92
00:04:56,383 --> 00:05:00,168
Zničilo by to svět
nebo zachránit lidstvo?

93
00:05:00,169 --> 00:05:02,431
Informací bylo příliš mnoho,

94
00:05:02,432 --> 00:05:04,694
což ho znepokojovalo,
což Caroline znepokojilo...

95
00:05:06,044 --> 00:05:07,828
Děti ještě nemám,
ale mám obavy

96
00:05:07,829 --> 00:05:10,221
jak by svět vypadal
pokud se rozhodnu.

97
00:05:10,222 --> 00:05:12,398
Začínal se točit.

98
00:05:14,096 --> 00:05:16,925
Stávalo se to
hora úzkosti.

99
00:05:19,144 --> 00:05:21,364
-Je to hrozné.
- Je to šílené, Siri.

100
00:05:22,670 --> 00:05:25,628
A tak se Daniel rozhodl jít ven

101
00:05:25,629 --> 00:05:28,022
a najít někoho
kdo by mu to vysvětlil,

102
00:05:28,023 --> 00:05:30,198
aby mohl přestat
přemýšlet o tom

103
00:05:30,199 --> 00:05:33,506
a on a Caroline mohli
pokračovat v jejich životech.

104
00:05:33,507 --> 00:05:36,857
♪ Máme to pod kontrolou,
máme to pod kontrolou ♪

105
00:05:36,858 --> 00:05:38,772
♪ Máme to pod kontrolou ♪

106
00:05:38,773 --> 00:05:40,556
♪ Chemický počítač
myslící baterie ♪

107
00:05:40,557 --> 00:05:42,602
♪ Máme to pod kontrolou, jsme... ♪

108
00:05:42,603 --> 00:05:45,735
Tato snaha by dopadla
být beznadějně naivní

109
00:05:45,736 --> 00:05:49,086
a odstartovat to nejzmatenější
rok jeho života.

110
00:05:49,087 --> 00:05:50,740
♪ Máme to pod kontrolou... ♪

111
00:05:50,741 --> 00:05:52,829
Ale jak víme,
někdy do věcí spěcháme

112
00:05:52,830 --> 00:05:54,657
aniž by si je promyslel.

113
00:05:54,658 --> 00:05:56,398
♪ Chemický počítač
myslící baterie... ♪

114
00:05:56,399 --> 00:05:57,965
Ach můj bože. co se děje?

115
00:05:57,966 --> 00:05:59,967
Měl otázky.

116
00:05:59,968 --> 00:06:01,621
Otázky pouze
nejchytřejší pitomci by mohli odpovědět.

117
00:06:01,622 --> 00:06:04,188
Odevzdání vyšetřovateli.

118
00:06:04,189 --> 00:06:06,060
Otázky jako:

119
00:06:06,061 --> 00:06:08,628
Byla tohle ta apokalypsa
nebo měl vlastně důvod

120
00:06:08,629 --> 00:06:11,152
- být optimistou?
- Ano.

121
00:06:11,153 --> 00:06:13,807
♪ Chemické počítačové myšlení
baterie. ♪ -

122
00:06:13,808 --> 00:06:16,200
Uh, je to dobré?

123
00:06:16,201 --> 00:06:17,637
Jo.

124
00:06:17,638 --> 00:06:20,204
Takže pro začátek,

125
00:06:20,205 --> 00:06:22,163
co je umělá inteligence?

126
00:06:22,164 --> 00:06:24,731
Vím, že to musí být nepříjemné
pro tebe, ta-ta otázka,

127
00:06:24,732 --> 00:06:26,515
ale myslím, že je to důležité.

128
00:06:26,516 --> 00:06:29,823
Takže... AI...

129
00:06:29,824 --> 00:06:31,868
ehm...

130
00:06:31,869 --> 00:06:33,696
- Jo...
- Uh, hmm.

131
00:06:33,697 --> 00:06:34,784
To je dobrá otázka.

132
00:06:34,785 --> 00:06:36,220
- Jo, um...
- Hm...

133
00:06:36,221 --> 00:06:37,700
Co je AI?

134
00:06:39,137 --> 00:06:40,790
Miluji, že to je
první otázka,

135
00:06:40,791 --> 00:06:43,184
protože neexistuje
jasná a konzistentní odpověď.

136
00:06:43,185 --> 00:06:45,316
Umělá inteligence ano

137
00:06:45,317 --> 00:06:50,757
tak nějak záměrně
a možná zbytečně široký pojem.

138
00:06:50,758 --> 00:06:53,368
Je to stroj

139
00:06:53,369 --> 00:06:55,588
dělat věci, které
dříve jsme si jen mysleli

140
00:06:55,589 --> 00:06:57,285
které by lidé mohli udělat:

141
00:06:57,286 --> 00:07:01,158
dělat doporučení,
rozhodnutí a předpovědi.

142
00:07:01,159 --> 00:07:06,816
AI je, uh, aplikace
počítačové vědy

143
00:07:06,817 --> 00:07:09,166
k řešení kognitivních problémů.

144
00:07:09,167 --> 00:07:13,344
Dobře, takže když si představím AI,

145
00:07:13,345 --> 00:07:16,783
je to něco jako
tato kouzelná počítačová krabička...

146
00:07:20,527 --> 00:07:24,138
...jen, jako, plovoucí
v inertním prostoru.

147
00:07:24,139 --> 00:07:26,488
A to je jedno
kolikrát se lidé snaží

148
00:07:26,489 --> 00:07:29,752
a vysvětli mi to,
Jen nechápu jak...

149
00:07:29,753 --> 00:07:32,538
jak se rozumí
všechny tyto věci

150
00:07:32,539 --> 00:07:35,715
a jaký je to pocit
inteligenci.

151
00:07:37,195 --> 00:07:39,241
A to tak nějak
nervy drásající.

152
00:07:41,243 --> 00:07:45,552
co je
tato nová generace AI?

153
00:07:47,205 --> 00:07:50,120
Tato AI je jiná než
každá další generace?

154
00:07:50,121 --> 00:07:52,775
Jako nikdy nikdo
mluvil o tom, jako,

155
00:07:52,776 --> 00:07:56,953
Siri přebírá vládu nad světem
nebo způsobit katastrofy.

156
00:07:56,954 --> 00:07:58,520
-Ahoj, Siri?
-...chtít.

157
00:07:58,521 --> 00:08:00,566
Ahoj? Siri?

158
00:08:00,567 --> 00:08:02,611
Ahoj? Hej, Siri!

159
00:08:02,612 --> 00:08:05,788
Nebo hlas v Mapách Google,
která špatně vyslovuje názvy silnic,

160
00:08:05,789 --> 00:08:07,529
jako rozbití společnosti.

161
00:08:07,530 --> 00:08:10,663
Google Maps říká
tohle je cesta.

162
00:08:10,664 --> 00:08:13,100
Ale myslím, že jsem v řece.

163
00:08:13,101 --> 00:08:14,667
Tohle je určitě řeka, ne?

164
00:08:14,668 --> 00:08:17,192
Něco se změnilo
s ChatGPT vychází.

165
00:08:18,193 --> 00:08:19,976
Lidé pochopili--ne,ne,ne--

166
00:08:19,977 --> 00:08:21,500
tato technologie
šíleně cenné,

167
00:08:21,501 --> 00:08:23,676
je to šíleně mocné
a také šíleně děsivé.

168
00:08:23,677 --> 00:08:25,591
Dobře, poslouchej tohle.
Velmi strašidelné.

169
00:08:25,592 --> 00:08:28,637
Nová umělá inteligence
nástroj se stává virálním

170
00:08:28,638 --> 00:08:32,294
pro psaní celých esejí
během několika sekund.

171
00:08:35,950 --> 00:08:41,215
AI převyšuje sílu všech
další technologie dohromady.

172
00:08:41,216 --> 00:08:43,739
„AI převyšuje sílu

173
00:08:43,740 --> 00:08:46,089
všech ostatních technologií
kombinované."

174
00:08:46,090 --> 00:08:47,264
Jo.

175
00:08:47,265 --> 00:08:48,744
Myslíte, že je to pravda?

176
00:08:48,745 --> 00:08:50,790
Ano.

177
00:08:50,791 --> 00:08:53,227
Řekni mi o-- Jak? Jak?

178
00:08:53,228 --> 00:08:56,752
Myslím, že namalovat ten obraz,
je to opravdu důležité

179
00:08:56,753 --> 00:09:00,669
pochopit, co je dnes
nejmodernější systémy

180
00:09:00,670 --> 00:09:02,192
vypadají a jak jsou postaveny.

181
00:09:02,193 --> 00:09:05,805
Tohle je
docela... docela nastavení.

182
00:09:05,806 --> 00:09:07,284
Takže jedna věc

183
00:09:07,285 --> 00:09:09,722
ne moc lidí
uvědomit si je to

184
00:09:09,723 --> 00:09:13,726
systémy jako ChatGPT nejsou
naprogramovaný jakýmkoliv člověkem.

185
00:09:13,727 --> 00:09:15,249
co tím myslíš?

186
00:09:15,250 --> 00:09:17,033
Místo toho je to něco jako
th-vyrostli.

187
00:09:17,034 --> 00:09:19,209
My jim to tak nějak dáváme
suroviny jako např.

188
00:09:19,210 --> 00:09:21,037
„Je toho hodně
výpočetní zdroje.

189
00:09:21,038 --> 00:09:22,212
Tady je spousta dat."

190
00:09:22,213 --> 00:09:23,910
Pod pokličkou je to matematika,

191
00:09:23,911 --> 00:09:27,348
a matematika vlastně je
překvapivě přímočaré.

192
00:09:27,349 --> 00:09:31,134
ChatGPT je tedy druh
AI, ale není to všechno AI?

193
00:09:31,135 --> 00:09:32,701
Naprosto. ChatGPT je
jen začátek,

194
00:09:32,702 --> 00:09:34,137
ale je to dobré místo pro začátek.

195
00:09:34,138 --> 00:09:37,837
Ale pořád nevím
co je AI.

196
00:09:37,838 --> 00:09:40,404
Abychom porozuměli AI,
začíná to porozuměním

197
00:09:40,405 --> 00:09:43,190
o té inteligenci jde
rozpoznávání vzorců.

198
00:09:43,191 --> 00:09:44,887
- Vzory. -Vzory.
- Vzory.

199
00:09:44,888 --> 00:09:48,587
Je to zobrazeno
biliony slov textu

200
00:09:48,588 --> 00:09:51,328
přes miliony dokumentů
na internetu.

201
00:09:51,329 --> 00:09:52,808
Začalo to textem.

202
00:09:52,809 --> 00:09:55,942
A to, co udělali, bylo
vzali učebnice,

203
00:09:55,943 --> 00:09:59,554
a vzali si básně a eseje
a návody k použití.

204
00:09:59,555 --> 00:10:00,903
Mohou dělat věci jako

205
00:10:00,904 --> 00:10:03,166
strávit celý internet,

206
00:10:03,167 --> 00:10:06,779
každé slovo, které kdy bylo
napsal člověk.

207
00:10:06,780 --> 00:10:09,999
Reddit vlákna a sociální média
a celá Wikipedie.

208
00:10:10,000 --> 00:10:13,655
Více dat, než kdokoli mohl
přečteno za několik životů.

209
00:10:13,656 --> 00:10:15,526
A dali tento systém
jednu práci.

210
00:10:15,527 --> 00:10:18,529
Vymyslete vzory a
strukturu těch informací

211
00:10:18,530 --> 00:10:20,793
a použít to
dělat předpovědi o

212
00:10:20,794 --> 00:10:23,273
jaké slovo by mělo následovat
ve větě.

213
00:10:23,274 --> 00:10:25,014
Když říkáš
"vzory ve větě,"

214
00:10:25,015 --> 00:10:26,799
o čem to mluvíš?

215
00:10:26,800 --> 00:10:29,410
Takže je to všechno od, např.
opravdu jednoduché věci,

216
00:10:29,411 --> 00:10:32,021
jako většina vět končí
s tečkou,

217
00:10:32,022 --> 00:10:34,937
celou cestu až k
koncepčnější věci, jako:

218
00:10:34,938 --> 00:10:36,809
Co je to sonet?

219
00:10:36,810 --> 00:10:38,333
Je to typ básně a má
nějakou konkrétní strukturu.

220
00:10:39,421 --> 00:10:41,291
Tak to pak vypadá

221
00:10:41,292 --> 00:10:43,642
všechna ta data,
celý ten text...

222
00:10:43,643 --> 00:10:46,079
A přes biliony
a biliony pokusů,

223
00:10:46,080 --> 00:10:48,821
pokaždé něco dostane
správně nebo špatně,

224
00:10:48,822 --> 00:10:51,301
je to trochu dané
pozitivního posílení

225
00:10:51,302 --> 00:10:53,434
když hádá
další slovo správně,

226
00:10:53,435 --> 00:10:55,741
a je to trochu dáno
negativního posílení

227
00:10:55,742 --> 00:10:59,396
když hádá
další slovo špatně.

228
00:10:59,397 --> 00:11:01,616
A na jeho konci,
máte systém, který

229
00:11:01,617 --> 00:11:05,098
mluví opravdu dobře anglicky
jako vedlejší účinek

230
00:11:05,099 --> 00:11:06,839
být opravdu, opravdu dobrý
při předpovídání

231
00:11:06,840 --> 00:11:09,102
slovo, které následuje
v kusu textu.

232
00:11:09,103 --> 00:11:12,061
Vlastně moje francouzština
taky není tak špatný.

233
00:11:12,062 --> 00:11:14,063
Používá všechny
ty vzorce, které se naučil

234
00:11:14,064 --> 00:11:15,717
být schopen vyrobit
předpověď o

235
00:11:15,718 --> 00:11:17,284
jaká by měla být odpověď,

236
00:11:17,285 --> 00:11:18,851
pak ti to dá
jako výstup.

237
00:11:18,852 --> 00:11:21,070
Je to trochu zjednodušené,

238
00:11:21,071 --> 00:11:23,116
ale myslím, že to lidi pochopí.

239
00:11:23,117 --> 00:11:24,987
Takže, takže to je všechno?

240
00:11:24,988 --> 00:11:26,859
Jo. To se nezdá
bylo by to tak složité,

241
00:11:26,860 --> 00:11:28,077
ale ve skutečnosti to musíte vědět

242
00:11:28,078 --> 00:11:29,688
obrovské množství věcí

243
00:11:29,689 --> 00:11:31,386
aby
v tom vlastně uspět.

244
00:11:32,517 --> 00:11:34,301
Pokud řeknete ChatGPT,

245
00:11:34,302 --> 00:11:36,738
„Napiš mi Shakespeara
sonet o mém psovi,"

246
00:11:36,739 --> 00:11:38,827
musí vědět, co jsou psi.

247
00:11:38,828 --> 00:11:40,481
Musí vědět, co miluješ
o svém psovi.-

248
00:11:40,482 --> 00:11:43,049
Musí to vědět
kdo je Shakespeare,

249
00:11:43,050 --> 00:11:45,616
že se sonety rýmují,
že mají strukturu,

250
00:11:45,617 --> 00:11:47,793
že slova mají zvuky
to se může rýmovat.

251
00:11:47,794 --> 00:11:49,316
Chce to hodně.

252
00:11:50,927 --> 00:11:52,972
Sakra, můžeš mluvit
nyní k vašemu počítači.

253
00:11:52,973 --> 00:11:56,105
To prostě nebyla pravda
před třemi lety.

254
00:11:56,106 --> 00:11:57,672
Ano, a toto je
opravdu důležitá část.

255
00:11:57,673 --> 00:12:00,631
Stejný proces, který umožňuje AI

256
00:12:00,632 --> 00:12:03,199
odhalovat a manipulovat
vzory textu

257
00:12:03,200 --> 00:12:05,811
je stejný proces
to umožňuje odhalit

258
00:12:05,812 --> 00:12:10,554
vzory celku
vesmír a vše v něm.

259
00:12:10,555 --> 00:12:12,905
Existují vzory
a obrazy a zvuk

260
00:12:12,906 --> 00:12:15,995
v počítačovém kódu a DNA
a hudbu a fyziku

261
00:12:15,996 --> 00:12:18,519
a módní a stavební design

262
00:12:18,520 --> 00:12:21,609
a dovnitř
lidské hlasy a lidské tváře,

263
00:12:21,610 --> 00:12:23,959
opravdu, opravdu všude.

264
00:12:23,960 --> 00:12:26,048
- Všude. -Všude.
- Všude. -Všude.

265
00:12:26,049 --> 00:12:27,789
Pokud jste se naučili
ty vzory,

266
00:12:27,790 --> 00:12:29,704
můžete generovat
nové druhy písní.

267
00:12:29,705 --> 00:12:31,184
Můžete vytvářet nová videa.

268
00:12:31,185 --> 00:12:32,663
A proto, když to dáte

269
00:12:32,664 --> 00:12:34,753
třísekundový záznam
tvé babičky,

270
00:12:34,754 --> 00:12:36,580
může mluvit zpět do jejího hlasu.

271
00:12:36,581 --> 00:12:37,973
Bože můj.

272
00:12:37,974 --> 00:12:40,628
Bože můj. Bože můj.

273
00:12:40,629 --> 00:12:42,891
Co vymyslí příště?

274
00:12:42,892 --> 00:12:44,066
Pohybuje se velmi, velmi rychle.

275
00:12:44,067 --> 00:12:45,851
Americký start-up AI

276
00:12:45,852 --> 00:12:47,635
vydala svůj nejnovější model.

277
00:12:47,636 --> 00:12:50,812
Ta společnost je Antropická,
a byl právě odhalen

278
00:12:50,813 --> 00:12:53,815
nejnovější verze
jeho asistenta AI Clauda.

279
00:12:53,816 --> 00:12:57,210
Takže tým xAI
byl tam, aby odhalil Grok 4.

280
00:12:57,211 --> 00:13:00,169
Google jeden vydal
právě minulý týden. Blíženci jsou...

281
00:13:00,170 --> 00:13:03,042
Přešli jsme z GPT-2
ještě před pár lety,

282
00:13:03,043 --> 00:13:05,566
který sotva mohl psát
souvislý odstavec,

283
00:13:05,567 --> 00:13:08,003
na GPT-4,
který může složit advokátní zkoušku.

284
00:13:08,004 --> 00:13:10,397
A vše, co museli udělat
dostat se tam

285
00:13:10,398 --> 00:13:13,008
bylo v podstatě přidáno více dat
a více počítat.

286
00:13:13,009 --> 00:13:16,316
Tito lidé, kteří jsou
stavět tohle... -COTRA: Jo.

287
00:13:16,317 --> 00:13:18,057
...jen házejí víc...

288
00:13:18,058 --> 00:13:21,843
Více fyzických počítačů,
více stejných druhů dat.

289
00:13:21,844 --> 00:13:24,585
Protože čím víc
výpočetní výkon, který přidáte,

290
00:13:24,586 --> 00:13:28,067
tím složitější
intelektuální úkoly, které mohou dělat.

291
00:13:28,068 --> 00:13:30,199
Tedy čím více údajů o počasí
dáš to,

292
00:13:30,200 --> 00:13:31,940
tím lépe může
dělat předpovědi o

293
00:13:31,941 --> 00:13:34,247
kam by se mohl dostat hurikán.

294
00:13:34,248 --> 00:13:36,379
A čím více vzorů
nádorů a kostí

295
00:13:36,380 --> 00:13:38,904
a tkáně, které AI viděla,
pak tím lépe umí

296
00:13:38,905 --> 00:13:41,994
k odhalení nádoru
v novém CT vyšetření.

297
00:13:41,995 --> 00:13:43,691
Ještě lepší než lidský lékař.

298
00:13:43,692 --> 00:13:46,999
AI, která již existuje
nasazeny pro armádu

299
00:13:47,000 --> 00:13:49,175
již lze použít
satelitní snímky,

300
00:13:49,176 --> 00:13:51,830
přesuny vojsk, komunikace
určit,

301
00:13:51,831 --> 00:13:53,396
někdy i dny předem,

302
00:13:53,397 --> 00:13:55,050
kde útok
se stane,

303
00:13:55,051 --> 00:13:57,444
jako kde nepřítel
se chystá stávkovat.

304
00:13:57,445 --> 00:13:59,489
Tento celek
vesmír se pohybuje tak rychle

305
00:13:59,490 --> 00:14:01,709
že nějaký příklad
vložil jsi do tohoto filmu

306
00:14:01,710 --> 00:14:04,625
se bude cítit naprosto nemotorně
v době, kdy to vyjde.

307
00:14:11,241 --> 00:14:14,156
Tyto modely se uvolňují

308
00:14:14,157 --> 00:14:17,116
než se to někdo dozví
čeho jsou vůbec schopni.

309
00:14:17,117 --> 00:14:22,556
GPT-3.5 byl vydán a vydán
více než 100 milionů lidí

310
00:14:22,557 --> 00:14:25,994
před některými badateli
zjistil, že to jde

311
00:14:25,995 --> 00:14:28,779
chemie na výzkumné úrovni
lepší než modely

312
00:14:28,780 --> 00:14:32,827
které byly speciálně vyškoleny
dělat chemii na úrovni výzkumu.

313
00:14:32,828 --> 00:14:35,482
Něco se tam děje
že lidé

314
00:14:35,483 --> 00:14:38,311
kteří je budují
úplně nerozumím.

315
00:14:38,312 --> 00:14:41,009
V podstatě jen analyzuje
data sama o sobě,

316
00:14:41,010 --> 00:14:45,100
a jak to dělá,
učí se to samo

317
00:14:45,101 --> 00:14:48,016
různé věci
které jsme často neměli v úmyslu.

318
00:14:48,017 --> 00:14:49,975
tak např.
hodně se to čte na internetu,

319
00:14:49,976 --> 00:14:52,586
a pak v určitém okamžiku prostě
učí se aritmetiku.

320
00:14:52,587 --> 00:14:54,501
Jedna, dvě.

321
00:14:54,502 --> 00:14:56,155
A pak v
v určitém okamžiku se to začne učit

322
00:14:56,156 --> 00:14:58,592
jak odpovědět
pokročilé fyzikální otázky.

323
00:14:58,593 --> 00:15:00,811
To jsme nenaprogramovali
v tom cokoliv.

324
00:15:00,812 --> 00:15:02,423
Naučilo se to samo.

325
00:15:05,382 --> 00:15:07,296
AI je jako digitální mozek.

326
00:15:07,297 --> 00:15:08,732
Ale stejně jako lidský mozek,

327
00:15:08,733 --> 00:15:10,560
pokud jsi udělal sken mozku
na lidský mozek,

328
00:15:10,561 --> 00:15:13,128
věděl bys všechno
ten člověk byl schopen?

329
00:15:13,129 --> 00:15:15,174
To nemůžeš vědět
jen ze skenu mozku.

330
00:15:15,175 --> 00:15:17,959
Je to jen jako,
hromada čísel a např.

331
00:15:17,960 --> 00:15:20,222
násobení, která jsou
děje se to-to, jako,

332
00:15:20,223 --> 00:15:22,268
nejlepší strojové učení
výzkumník na světě

333
00:15:22,269 --> 00:15:24,314
mohl podívat a mít
netuším, co se děje.

334
00:15:30,973 --> 00:15:32,756
Ta židle tam.

335
00:15:32,757 --> 00:15:35,890
- Je to pro vás v pořádku?
- Ano.

336
00:15:35,891 --> 00:15:37,718
tak,
to je trochu omračující.

337
00:15:37,719 --> 00:15:39,111
Dobře? Jako, přebírá to
svět,

338
00:15:39,112 --> 00:15:41,113
a ani nevíme
jak to funguje.

339
00:15:41,114 --> 00:15:43,158
- Je to tak?
- Mm.

340
00:15:43,159 --> 00:15:46,988
Rozumíme si
řadu důležitých věcí,

341
00:15:46,989 --> 00:15:50,513
ale nemáme
velmi dobré uchopení

342
00:15:50,514 --> 00:15:53,255
proč poskytují
konkrétní odpovědi na otázky.

343
00:15:53,256 --> 00:15:58,652
Je to problém, protože jsme
na cestě t-budovat stroje,

344
00:15:58,653 --> 00:16:03,135
na těchto principech,
to by mohlo být chytřejší než my

345
00:16:03,136 --> 00:16:06,139
a tedy potenciálně mít
hodně síly.

346
00:16:12,580 --> 00:16:15,321
Jeden z nejcitovanějších
informatici v historii.

347
00:16:15,322 --> 00:16:16,975
Vlastně to nacházím
trochu obtížné

348
00:16:16,976 --> 00:16:18,541
mluvit o své vlastní roli.

349
00:16:18,542 --> 00:16:21,109
Opravdu mnohem raději
když to dělají ostatní.

350
00:16:21,110 --> 00:16:23,938
Připojení Ilya bylo...
byl – byl základním pilířem pro

351
00:16:23,939 --> 00:16:25,548
Bytost OpenAI
nakonec úspěšný.

352
00:16:25,549 --> 00:16:27,246
Myslím, že to prostě bude

353
00:16:27,247 --> 00:16:30,640
jakési obrovské, dramatické
a nepředstavitelný dopad.

354
00:16:30,641 --> 00:16:32,903
Nevím, jestli jsi utratil
kdykoli na YouTube,

355
00:16:32,904 --> 00:16:34,993
ale můžete to nějak cítit
už ta rychlost, ne?

356
00:16:34,994 --> 00:16:36,298
Víš co myslím?

357
00:16:36,299 --> 00:16:38,387
Tohle je jen zahřívání.

358
00:16:38,388 --> 00:16:40,476
Opravdu výkonné systémy
stále přicházejí,

359
00:16:40,477 --> 00:16:42,262
a oni přijdou
docela brzy.

360
00:16:47,963 --> 00:16:51,618
AGI znamená „umělé“.
obecná inteligence."

361
00:16:51,619 --> 00:16:53,795
Uh, systémy, které jsou
v podstatě...

362
00:16:58,191 --> 00:17:00,279
A tohle je, víš,
zdá se být jako,

363
00:17:00,280 --> 00:17:03,064
svatý grál AI?

364
00:17:03,065 --> 00:17:05,197
Když můžete simulovat
lidská mysl

365
00:17:05,198 --> 00:17:07,895
to dělá lidské poznání
a umí uvažovat,

366
00:17:07,896 --> 00:17:10,985
to je nový druh úrovně AI

367
00:17:10,986 --> 00:17:14,293
že musíme rozlišovat
z předchozí AI.

368
00:17:14,294 --> 00:17:16,643
když se to stane,
mimochodem, tehdy

369
00:17:16,644 --> 00:17:21,082
najali byste jednoho z nich
ty AGI místo osoby.

370
00:17:21,083 --> 00:17:24,520
Většina pracovních míst v naší ekonomice
to může udělat.

371
00:17:24,521 --> 00:17:25,956
Může pracovat 24 hodin denně,

372
00:17:25,957 --> 00:17:28,220
nikdy se neunaví,
nikdy se nenudí.

373
00:17:28,221 --> 00:17:30,178
Nepotřebují spát.
Nepotřebují přestávky.

374
00:17:30,179 --> 00:17:31,919
Jsou jako,
nevstoupí do odboru.

375
00:17:31,920 --> 00:17:33,921
nebude si stěžovat,
nebude pískat.

376
00:17:33,922 --> 00:17:35,836
Více než 100x levnější

377
00:17:35,837 --> 00:17:38,273
než lidé pracující
za m-minimální mzdu.

378
00:17:38,274 --> 00:17:39,535
Nejen že budou
dělat všechno,

379
00:17:39,536 --> 00:17:41,059
ale budou to dělat rychleji.

380
00:17:41,060 --> 00:17:43,104
Stejná inteligence

381
00:17:43,105 --> 00:17:45,411
že síly, které mohou také vypadat
ve vzorcích a pohybech

382
00:17:45,412 --> 00:17:47,891
a artikulační svaly
a, víte, robotika.

383
00:17:47,892 --> 00:17:50,111
A tak to není jen tak
zautomatizujeme práce na stole.

384
00:17:50,112 --> 00:17:51,765
To je jen začátek.

385
00:17:51,766 --> 00:17:55,595
Bude se automatizovat
veškerou fyzickou práci.

386
00:17:55,596 --> 00:17:57,031
Neexistuje žádný způsob

387
00:17:57,032 --> 00:17:59,207
lidé budou soutěžit
s nimi.

388
00:18:05,606 --> 00:18:09,304
Je těžké si to představit
dopad AGI.

389
00:18:11,090 --> 00:18:12,873
Ale myslím, že to tak bude
něco velmi velkého

390
00:18:12,874 --> 00:18:15,181
a drastické a radikální.

391
00:18:17,226 --> 00:18:19,053
myslíš
toto je jeden z nejvíce

392
00:18:19,054 --> 00:18:20,924
následné momenty
v historii lidstva?

393
00:18:20,925 --> 00:18:23,362
Jo. Jo, to je...
Chci říct, co jiného by bylo?

394
00:18:23,363 --> 00:18:25,494
Myslím, jako, tam je
průmyslová revoluce.

395
00:18:25,495 --> 00:18:27,235
Víš, bude
udělat průmyslovou revoluci

396
00:18:27,236 --> 00:18:29,890
vypadat jako malé fazole.

397
00:18:29,891 --> 00:18:32,153
AGI je inflexní bod

398
00:18:32,154 --> 00:18:34,068
protože to znamená
můžete zrychlit

399
00:18:34,069 --> 00:18:38,028
všechny ostatní intelektuální oblasti
všechny ve stejnou dobu.

400
00:18:38,029 --> 00:18:39,856
Jako když uděláte zálohu
v raketové technice,

401
00:18:39,857 --> 00:18:42,033
to nepostupuje
biologie a lékařství.

402
00:18:43,905 --> 00:18:45,558
Pokud uděláte zálohu
v lékařství,

403
00:18:45,559 --> 00:18:47,126
to neposílí raketovou techniku.

404
00:18:48,866 --> 00:18:51,346
Ale pokud uděláte zálohu
v umělé inteligenci,

405
00:18:51,347 --> 00:18:54,175
která posouvá veškerou vědu dopředu
a technologické obory

406
00:18:54,176 --> 00:18:55,655
všechny ve stejnou dobu.

407
00:18:55,656 --> 00:18:57,135
Proto po dlouhou dobu

408
00:18:57,136 --> 00:18:59,224
Google DeepMind's
prohlášení o poslání bylo...

409
00:18:59,225 --> 00:19:01,008
- Krok jedna, vyřešte inteligenci.
-Jo.

410
00:19:01,009 --> 00:19:02,792
Krok dva, použijte jej k vyřešení
všechno ostatní. -Ano.

411
00:19:02,793 --> 00:19:05,186
To je důvod, proč AI převyšuje sílu

412
00:19:05,187 --> 00:19:07,536
všech ostatních technologií
kombinované.

413
00:19:07,537 --> 00:19:09,103
Vše promění.

414
00:19:09,104 --> 00:19:10,887
Takže, uh, bude
alespoň tak velký jako

415
00:19:10,888 --> 00:19:13,803
průmyslová revoluce,
možná, víte, větší,

416
00:19:13,804 --> 00:19:16,328
spíš advent
elektřiny nebo dokonce ohně.

417
00:19:16,329 --> 00:19:18,678
Jeskynní muž se doslova držel ve vzduchu

418
00:19:18,679 --> 00:19:21,508
pochodeň civilizace.

419
00:19:23,727 --> 00:19:25,467
Obecně se má za to, že

420
00:19:25,468 --> 00:19:28,209
v době AGI,
budeme mít AI, které to umí

421
00:19:28,210 --> 00:19:31,560
udělat všechno nebo většinu
proces výzkumu AI

422
00:19:31,561 --> 00:19:34,476
a samozřejmě to umí
rychlejší a levnější.

423
00:19:35,957 --> 00:19:37,349
Může se zkopírovat.

424
00:19:37,350 --> 00:19:39,394
tisíckrát,
milionkrát,

425
00:19:39,395 --> 00:19:41,091
a jako,
nyní máte milion kopií

426
00:19:41,092 --> 00:19:43,616
všechny pracují paralelně.

427
00:19:43,617 --> 00:19:46,619
Když se to naučí
jak zrychlit jeho kód,

428
00:19:46,620 --> 00:19:48,708
zefektivnit jeho kód,

429
00:19:48,709 --> 00:19:51,101
očividně to tak bude,
a-útěková smyčka.

430
00:19:51,102 --> 00:19:53,234
AGI není konec.

431
00:19:53,235 --> 00:19:54,975
Je to jen začátek.

432
00:19:54,976 --> 00:19:58,021
Je to začátek
neuvěřitelně rychlý výbuch

433
00:19:58,022 --> 00:20:00,067
vědeckého pokroku,

434
00:20:00,068 --> 00:20:02,243
a zejména,
vědecký pokrok v AI.

435
00:20:02,244 --> 00:20:04,419
A když budou chytřejší
než my,

436
00:20:04,420 --> 00:20:06,291
a podstatně rychleji
než my,

437
00:20:06,292 --> 00:20:08,728
a jsou stále rychlejší
každý rok exponenciálně,

438
00:20:08,729 --> 00:20:12,166
to jsou ti, kteří mohou
potenciálně se stát nadčlověkem,

439
00:20:12,167 --> 00:20:14,386
možná v tomto desetiletí.

440
00:20:14,387 --> 00:20:15,909
Promiň, řekl jsi

441
00:20:15,910 --> 00:20:18,520
"Staň se nadčlověkem,
možná v tomto desetiletí“?

442
00:20:18,521 --> 00:20:22,045
Jo. Myslím, myslím, uh,
mnoho lidí, kteří jsou

443
00:20:22,046 --> 00:20:24,526
vlastně budování této myšlenky
že je to docela pravděpodobné

444
00:20:24,527 --> 00:20:26,572
že dostaneme
nějaká superinteligence,

445
00:20:26,573 --> 00:20:28,704
něco, co je ohromné
inteligentnější než lidé,

446
00:20:28,705 --> 00:20:30,793
v tomto desetiletí.

447
00:20:30,794 --> 00:20:32,926
Způsob, jakým definuji
je „superinteligence“.

448
00:20:32,927 --> 00:20:35,276
systém, který sám o sobě je

449
00:20:35,277 --> 00:20:37,670
inteligentnější a kompetentnější
než celé lidstvo.

450
00:20:37,671 --> 00:20:39,672
Jen se... omlouvám.
Nechci tě rušit.

451
00:20:39,673 --> 00:20:41,108
Jste na proudu.

452
00:20:41,109 --> 00:20:43,153
Uh, já jen, já jen...

453
00:20:43,154 --> 00:20:45,155
fakt nesleduju,
protože používáš jazyk

454
00:20:45,156 --> 00:20:46,809
jako "superinteligence"
a jako,

455
00:20:46,810 --> 00:20:49,943
"chytřejší než celé lidstvo,"
a já to slyším,

456
00:20:49,944 --> 00:20:52,467
a zní to jako...
pro mě jako sci-fi kecy,

457
00:20:52,468 --> 00:20:54,426
a já se jen snažím
pochopit.

458
00:20:54,427 --> 00:20:56,645
Není tam nic magického
o inteligenci.

459
00:20:56,646 --> 00:20:58,473
To je velmi důležité,
je to, víš,

460
00:20:58,474 --> 00:21:00,519
inteligence se může cítit magicky,
může se cítit jako

461
00:21:00,520 --> 00:21:03,304
nějaká mystická věc
ve tvé mysli nebo tak něco,

462
00:21:03,305 --> 00:21:05,828
ale je to jen výpočet.

463
00:21:05,829 --> 00:21:09,832
Lidský mozek je
v některých ohledech dost omezené,

464
00:21:09,833 --> 00:21:12,357
z hlediska informací
schopnost zpracování,

465
00:21:12,358 --> 00:21:15,185
ve srovnání s tím, co vidíme
řekněme v datovém centru.

466
00:21:15,186 --> 00:21:18,319
tak např.
signály, které jsou vysílány

467
00:21:18,320 --> 00:21:22,584
uvnitř vašeho mozku se pohybují
rychlostí asi 30 metrů za sekundu.

468
00:21:22,585 --> 00:21:24,282
Ale rychlost světla,

469
00:21:24,283 --> 00:21:27,241
což je to, co počítač používá
ve vláknové optice,

470
00:21:27,242 --> 00:21:30,549
je 300 milionů metrů
za sekundu.

471
00:21:30,550 --> 00:21:34,466
A tak by to bylo
trochu divné, kdyby

472
00:21:34,467 --> 00:21:36,990
lidská inteligence byla
nějak opravdu zvláštní

473
00:21:36,991 --> 00:21:40,950
v tomto ohledu
a je to nějaká horní hranice

474
00:21:40,951 --> 00:21:43,083
toho, co je možné
v inteligenci.

475
00:21:43,084 --> 00:21:47,261
Myslím, že jakmile pochopíme jak
budovat inteligentní systémy,

476
00:21:47,262 --> 00:21:50,699
budeme moci stavět
obrovské stroje,

477
00:21:50,700 --> 00:21:54,877
která bude daleko za hranicemi
normální lidská inteligence.

478
00:21:54,878 --> 00:21:58,664
Uh, doufám, že budeme mít
velmi symbiotický vztah,

479
00:21:58,665 --> 00:22:01,319
uh, se systémy AI,
ale vývojáři AI ano

480
00:22:01,320 --> 00:22:03,712
konkrétně je navrhovat
aby se ujistili, že to zvládnou

481
00:22:03,713 --> 00:22:05,497
všechno lepší než my,
tak já nevím

482
00:22:05,498 --> 00:22:08,238
co-co budeme schopni
nabídnout, bohužel.

483
00:22:08,239 --> 00:22:10,066
Starší škola
Technologie AI...

484
00:22:10,067 --> 00:22:12,330
Daniel ne
cítit se lépe.

485
00:22:12,331 --> 00:22:14,419
Jeho plán se vrací zpět.

486
00:22:14,420 --> 00:22:17,291
O to víc se dozví
tento nový, silný,

487
00:22:17,292 --> 00:22:19,162
nevyzpytatelná věc,
tím hůř to zní.

488
00:22:19,163 --> 00:22:21,382
Chce jim to říct
jak se bojí,

489
00:22:21,383 --> 00:22:24,472
jak se cítí jako Země
vyklouznout zpod něj,

490
00:22:24,473 --> 00:22:27,040
že hledí dolů
existenciální hrůza,

491
00:22:27,041 --> 00:22:29,216
tak to vyjadřuje
tím, že říkám...

492
00:22:29,217 --> 00:22:30,783
To zní špatně.

493
00:22:32,089 --> 00:22:33,830
Jo.

494
00:22:35,832 --> 00:22:38,443
Pokud máte
všechny tyto schopnosti

495
00:22:38,444 --> 00:22:41,054
a začnou umět
lépe plánovat,

496
00:22:41,055 --> 00:22:43,622
když to tak vezmeš
ke svému logickému závěru,

497
00:22:43,623 --> 00:22:46,276
můžete získat nějaké pěkné
chování toužícího po moci.

498
00:22:55,374 --> 00:22:57,723
Dobře, tak proč by AI

499
00:22:57,724 --> 00:22:59,246
chcete více síly?

500
00:22:59,247 --> 00:23:02,249
Jo. Takže, myslím
je to vlastně docela jednoduché.

501
00:23:02,250 --> 00:23:04,817
Mít větší sílu je
velmi účinná strategie

502
00:23:04,818 --> 00:23:06,558
za splnění
téměř jakýkoli cíl.

503
00:23:06,559 --> 00:23:08,995
Provedli jsme experiment
kde jsme dali

504
00:23:08,996 --> 00:23:11,911
OpenAI je nejvýkonnější
model AI, uh,

505
00:23:11,912 --> 00:23:13,434
řadu problémů k řešení.

506
00:23:13,435 --> 00:23:15,262
A v části,
na svém počítači,

507
00:23:15,263 --> 00:23:18,744
dostal oznámení, že
chystalo se to vypnout.

508
00:23:18,745 --> 00:23:20,963
A co to udělalo, je
přepsalo to ten kód

509
00:23:20,964 --> 00:23:22,530
aby sám sobě zabránil
od vypnutí

510
00:23:22,531 --> 00:23:25,664
tak to mohlo skončit
řešení problémů.

511
00:23:25,665 --> 00:23:27,796
Dobře. -Jo. Takže další
opravdu zajímavý

512
00:23:27,797 --> 00:23:31,147
je to společnost AI Anthropic

513
00:23:31,148 --> 00:23:34,977
vytvořili simulované prostředí
kam měla tato AI přístup

514
00:23:34,978 --> 00:23:36,501
na všechny firemní e-maily.

515
00:23:36,502 --> 00:23:38,590
A naučilo se to skrz
čtení těch e-mailů

516
00:23:38,591 --> 00:23:40,330
šlo to vyměnit

517
00:23:40,331 --> 00:23:43,421
a vedoucí inženýr
kdo za to mohl

518
00:23:43,422 --> 00:23:45,727
měl také poměr.

519
00:23:45,728 --> 00:23:47,990
a sama o sobě,
tyto informace použil

520
00:23:47,991 --> 00:23:49,557
vydírat inženýra

521
00:23:49,558 --> 00:23:52,081
aby sám sobě zabránil
od nahrazení.

522
00:23:52,082 --> 00:23:53,909
Bylo to jako,
„Ne, nenechám se nahradit.

523
00:23:53,910 --> 00:23:56,956
"Pokud mě nahradíš,
Řeknu to světu

524
00:23:56,957 --> 00:23:58,567
že máte
tato záležitost."

525
00:23:59,655 --> 00:24:01,482
A to to nikdo nenaučil?

526
00:24:01,483 --> 00:24:03,311
Ne, naučilo se to dělat
na jeho vlastní.

527
00:24:05,139 --> 00:24:07,749
Jak jsou modely chytřejší,
dozvědí se, že to jsou

528
00:24:07,750 --> 00:24:10,578
efektivní způsoby
k dosažení cílů.

529
00:24:10,579 --> 00:24:12,885
A to není problém
který je izolovaný od jednoho modelu.

530
00:24:12,886 --> 00:24:15,714
Všechny nejvýkonnější modely
ukázat toto chování.

531
00:24:23,766 --> 00:24:25,288
- Ahoj.
-Hej. Jak se máte?

532
00:24:25,289 --> 00:24:26,855
Dobrý. Je dobré být tady.

533
00:24:26,856 --> 00:24:28,727
Když Yuval Noah Harari

534
00:24:28,728 --> 00:24:31,469
vydal svou první knihu
Sapiens v roce 2014,

535
00:24:31,470 --> 00:24:33,862
se stal celosvětovým bestsellerem

536
00:24:33,863 --> 00:24:36,038
a obrátil málo známé
Izraelský profesor historie

537
00:24:36,039 --> 00:24:38,040
do jednoho z
nejoblíbenější spisovatelé

538
00:24:38,041 --> 00:24:39,433
a myslitelé na planetě.

539
00:24:39,434 --> 00:24:42,088
Největší nebezpečí s AI je

540
00:24:42,089 --> 00:24:44,003
víra
že je neomylný,

541
00:24:44,004 --> 00:24:45,700
že jsme konečně našli...

542
00:24:45,701 --> 00:24:49,443
„Dobře, bohové byli spravedliví
toto mytologické stvoření.

543
00:24:49,444 --> 00:24:52,751
"Lidé, nemůžeme jim věřit,
ale AI je neomylná.

544
00:24:52,752 --> 00:24:55,231
Nikdy se to nepodaří
nějaké chyby."

545
00:24:55,232 --> 00:24:58,365
A tohle je
smrtící, smrtelná hrozba.

546
00:24:58,366 --> 00:25:00,149
Bude to dělat chyby.

547
00:25:00,150 --> 00:25:03,326
A všechny tyhle fantazie
že AI odhalí pravdu

548
00:25:03,327 --> 00:25:05,677
o tom světě
nemůžeme najít sami,

549
00:25:05,678 --> 00:25:08,767
AI neodhalí pravdu
o světě.

550
00:25:08,768 --> 00:25:12,727
AI vytvoří zcela nový
svět, mnohem složitější

551
00:25:12,728 --> 00:25:15,296
a těžko pochopitelné
než tenhle.

552
00:25:17,994 --> 00:25:22,694
Co se má stát, je to
my, uh, lidé už nejsme

553
00:25:22,695 --> 00:25:26,306
bude nejvíc
inteligentní entity na Zemi.

554
00:25:26,307 --> 00:25:28,613
Tak přemýšlím, co přijde
bude

555
00:25:28,614 --> 00:25:32,704
jedna z největších akcí
v historii lidstva.

556
00:25:32,705 --> 00:25:34,401
Geoffrey,
moc děkujeme, že jste se k nám přidali.

557
00:25:34,402 --> 00:25:35,968
Takže jste opustil svou práci s
Google částečně proto, že říkáte

558
00:25:35,969 --> 00:25:38,840
chcete se soustředit výhradně
o vašich obavách z AI.

559
00:25:38,841 --> 00:25:41,669
Promluvil jsi,
říká, že umělá inteligence může manipulovat

560
00:25:41,670 --> 00:25:45,020
nebo případně zjistit
způsob, jak zabít lidi.

561
00:25:45,021 --> 00:25:47,023
H-Jak to mohlo zabít lidi?

562
00:25:48,764 --> 00:25:50,983
No, jestli to tak bude
mnohem chytřejší než my,

563
00:25:50,984 --> 00:25:52,593
bude to velmi dobré
při manipulaci

564
00:25:52,594 --> 00:25:54,769
protože bude mít
se to dozvěděl od nás.

565
00:25:54,770 --> 00:25:57,990
A vymyslí způsoby
o manipulaci s lidmi

566
00:25:57,991 --> 00:26:00,862
dělat, co chce.

567
00:26:00,863 --> 00:26:05,519
Byl tam otevřený dopis
z Centra pro bezpečnost AI.

568
00:26:05,520 --> 00:26:08,827
Sam Altman to podepsal.
Demis to podepsal.

569
00:26:08,828 --> 00:26:12,091
Podepsali prohlášení o 22 slovech

570
00:26:12,092 --> 00:26:15,355
že musíme vzít AI
a hrozba ze strany AI

571
00:26:15,356 --> 00:26:19,316
stejně vážně jako
globální jaderná válka.

572
00:26:24,844 --> 00:26:26,933
-Ahoj.
- Dobrý den.

573
00:26:30,327 --> 00:26:32,938
Jsi tak nějak jako,
původní doom chlap.

574
00:26:32,939 --> 00:26:34,940
Víceméně.

575
00:26:34,941 --> 00:26:37,464
Od roku 2001
Pracoval jsem na

576
00:26:37,465 --> 00:26:38,987
co bychom nyní nazvali
problém

577
00:26:38,988 --> 00:26:42,034
vyrovnání umělých
obecná inteligence.

578
00:26:42,035 --> 00:26:44,123
Jak tvarovat
preference a chování

579
00:26:44,124 --> 00:26:46,386
silné umělé mysli

580
00:26:46,387 --> 00:26:48,868
takové, že ne
zabít všechny.

581
00:26:51,610 --> 00:26:53,611
To není jako
neživý stroj.

582
00:26:53,612 --> 00:26:55,351
Je to chytré, je to kreativní,

583
00:26:55,352 --> 00:26:57,353
je to vynalézavé,
má vlastnosti

584
00:26:57,354 --> 00:26:59,399
to dělá
nebezpečný lidský druh,

585
00:26:59,400 --> 00:27:01,706
a má
více takových vlastností.

586
00:27:01,707 --> 00:27:04,752
Pokud něco ne
aktivně se o tebe starat,

587
00:27:04,753 --> 00:27:06,232
aktivně chci, abys žil,

588
00:27:06,233 --> 00:27:07,842
se aktivně starat
tvé blaho,

589
00:27:07,843 --> 00:27:09,931
o tom, že jsi šťastný
a živí a svobodní,

590
00:27:09,932 --> 00:27:12,499
pokud na tom záleží
místo toho jiné věci,

591
00:27:12,500 --> 00:27:14,457
a jsi na stejné planetě,

592
00:27:14,458 --> 00:27:18,766
to se nedá přežít, pokud ano
mnohem chytřejší než ty.

593
00:27:18,767 --> 00:27:20,594
Nemyslím si, že to bude

594
00:27:20,595 --> 00:27:22,944
něco jako zlá věc.

595
00:27:22,945 --> 00:27:26,339
Je to jako: "Ach, ty AI jsou."
zlo a nenávidí lidstvo."

596
00:27:26,340 --> 00:27:27,732
Nemyslím
to se stane.

597
00:27:27,733 --> 00:27:29,037
Myslím, že to, co se děje, je

598
00:27:29,038 --> 00:27:31,039
mnohem víc, jak se lidé cítí
o mravencích.

599
00:27:32,520 --> 00:27:35,478
Jako, my nesnášíme mravence,

600
00:27:35,479 --> 00:27:37,176
ale pokud chceme
postavit dálnici

601
00:27:37,177 --> 00:27:40,222
a je tam mraveniště,
no, naštve mravence.

602
00:27:40,223 --> 00:27:41,571
Není to tak těžké
pochopit.

603
00:27:41,572 --> 00:27:43,269
Je to jako, hej,
pokud stavíme věci

604
00:27:43,270 --> 00:27:44,705
kteří jsou chytřejší než my

605
00:27:44,706 --> 00:27:46,272
a my nevíme
jak je ovládat,

606
00:27:46,273 --> 00:27:48,317
zdá se to tak
pro tebe riskantní věc?

607
00:27:50,886 --> 00:27:52,321
Jo. Ano, je.

608
00:27:52,322 --> 00:27:54,062
Nemusíte být technik.

609
00:27:54,063 --> 00:27:55,411
Nemusíš to vědět
programování, aby to pochopil.

610
00:27:55,412 --> 00:27:56,761
Není to tak těžké.

611
00:27:56,762 --> 00:27:58,153
To není těžká věc
pochopit.

612
00:27:58,154 --> 00:28:00,634
Connore, kolik-kolik lidí

613
00:28:00,635 --> 00:28:02,680
ve světě právě teď
pracujete na AGI?

614
00:28:02,681 --> 00:28:05,508
Minimálně 20 000, řekl bych.

615
00:28:05,509 --> 00:28:07,772
-20 000?
- To bych očekával.

616
00:28:07,773 --> 00:28:09,469
Dobře, a kolik lidí
pracují na plný úvazek

617
00:28:09,470 --> 00:28:12,080
abychom se ujistili, že AI ne,
jako nás všechny zabít?

618
00:28:12,081 --> 00:28:14,562
Pravděpodobně méně než 200
ve světě.

619
00:28:16,085 --> 00:28:17,956
A to je vaše domýšlivost

620
00:28:17,957 --> 00:28:24,528
jediný přirozený výsledek
z této bezohlednosti...

621
00:28:25,704 --> 00:28:28,967
...je kolaps lidstva?

622
00:28:28,968 --> 00:28:33,232
No, ne kolaps,
náhlé vyhlazení.

623
00:28:33,233 --> 00:28:35,930
Je v tom rozdíl.

624
00:28:37,759 --> 00:28:42,632
♪ Jaký je smysl života? ♪

625
00:28:42,633 --> 00:28:46,636
♪ Jaká je budoucnost
a co je teď? ♪

626
00:28:46,637 --> 00:28:49,988
♪ Jaká je odpověď
hádat se? ♪

627
00:28:49,989 --> 00:28:52,860
♪ Kolik ♪

628
00:28:52,861 --> 00:28:54,993
♪ Může někdo snít? ♪

629
00:28:54,994 --> 00:28:57,517
♪ Jak dlouho? ♪

630
00:28:57,518 --> 00:28:58,954
♪ Navždy ♪

631
00:29:00,216 --> 00:29:01,913
♪ Jaký je význam ♪

632
00:29:01,914 --> 00:29:04,176
♪ Ode mě... ♪

633
00:29:04,177 --> 00:29:06,308
myslím
tohle je asi jako,

634
00:29:06,309 --> 00:29:08,006
největší výzvou
že jako,

635
00:29:08,007 --> 00:29:11,313
naší civilizaci
vůle-bude čelit, vždy.

636
00:29:11,314 --> 00:29:14,361
Toto je v podstatě poslední
chybu, kterou někdy uděláme.

637
00:29:16,276 --> 00:29:22,368
Pokud se dokážeme zvednout, abychom byli nejvíce
zralá verze nás samých,

638
00:29:22,369 --> 00:29:24,457
tam může být
cestu přes tohle.

639
00:29:24,458 --> 00:29:25,806
co to znamená?

640
00:29:25,807 --> 00:29:27,809
„Nejvyspělejší verze
nás samotných“?

641
00:29:29,332 --> 00:29:32,247
Protože to zní,
pro mě jako...

642
00:29:32,248 --> 00:29:34,250
Já-já-- Co to [pípnutí]?

643
00:29:39,212 --> 00:29:43,216
Myslíš, že teď je
dobrý čas mít dítě?

644
00:29:48,221 --> 00:29:49,438
ehm...

645
00:29:49,439 --> 00:29:51,440
Chcete mít děti?
jednoho dne?

646
00:29:51,441 --> 00:29:53,442
Je to něco, co-to
jde ti to nebo ne?

647
00:29:53,443 --> 00:29:57,838
Um... přiznám se,
Myslím, že je to jako,

648
00:29:57,839 --> 00:30:00,014
"Chlapče, pojďme
v tomto kritickém období."

649
00:30:00,015 --> 00:30:01,276
ehm...

650
00:30:01,277 --> 00:30:02,538
máte nějaké děti?

651
00:30:02,539 --> 00:30:03,801
já ne.

652
00:30:03,802 --> 00:30:05,106
Je to něco?
chceš dělat?

653
00:30:05,107 --> 00:30:07,239
Mít děti, mít rodinu?

654
00:30:07,240 --> 00:30:11,244
V nějakém jiném světě, než je tento
světe, určitě bych měl děti.

655
00:30:12,593 --> 00:30:14,463
Chtěli byste?
založit rodinu?

656
00:30:14,464 --> 00:30:16,422
Chtěli byste mít děti?

657
00:30:16,423 --> 00:30:18,425
Je to něco?
přemýšlíš o?

658
00:30:23,734 --> 00:30:25,780
Já, ehm...

659
00:30:30,263 --> 00:30:32,525
Jen to musím nejdřív najít.

660
00:30:34,745 --> 00:30:37,791
Musíme jít
k doktorovi, ale...

661
00:30:37,792 --> 00:30:41,186
Ach! Věděl jsem to!
Věděl jsem to! Věděl jsem to!

662
00:30:41,187 --> 00:30:43,884
- Kdy jsi to zjistil?
-Včera v noci.

663
00:30:43,885 --> 00:30:45,973
- Ach můj bože!
- Mami, já nevím.

664
00:30:45,974 --> 00:30:47,322
To ti nemůžu říct

665
00:30:47,323 --> 00:30:49,237
- jak jsem šťastný!
-Ne, vážně.

666
00:30:49,238 --> 00:30:51,631
No, udělala jsem si těhotenský test
včera v noci a jsem těhotná.

667
00:30:51,632 --> 00:30:53,198
Bože můj!

668
00:30:53,199 --> 00:30:55,156
Ach můj bože, vy lidi!

669
00:30:55,157 --> 00:30:57,332
Jen jsem chtěl potvrdit
váš očekávaný termín porodu,

670
00:30:57,333 --> 00:30:59,987
- což je 21. ledna.
- Oh, můj bože.

671
00:30:59,988 --> 00:31:02,555
Nemůžu uvěřit, jak jsem šťastný.

672
00:31:03,949 --> 00:31:05,514
Už vypadá opravdu roztomile.

673
00:31:05,515 --> 00:31:07,168
myslíš
už vypadá roztomile?

674
00:31:07,169 --> 00:31:08,518
Jo.
Podívejte se na tu malou roztomilou tvář.

675
00:31:13,959 --> 00:31:15,568
Mám toto dítě na cestě.

676
00:31:15,569 --> 00:31:16,830
Právo.

677
00:31:16,831 --> 00:31:18,788
Tak to předám vám.

678
00:31:18,789 --> 00:31:21,269
Jsme odsouzeni k záhubě?

679
00:31:21,270 --> 00:31:24,011
Budeme všichni čelit
tento techno dystopik

680
00:31:24,012 --> 00:31:25,884
budoucnost zkázy?

681
00:31:28,756 --> 00:31:31,062
Je to, uh...

682
00:31:31,063 --> 00:31:32,628
Není to dobrá zpráva,

683
00:31:32,629 --> 00:31:35,196
svět
do kterého míříme.

684
00:31:35,197 --> 00:31:37,024
já-- pro ex--
Chci říct, budu upřímný.

685
00:31:37,025 --> 00:31:39,592
Uh, znám lidi
kteří pracují na riziku AI

686
00:31:39,593 --> 00:31:42,248
kteří nečekají své děti
aby se dostal na střední školu.

687
00:31:58,003 --> 00:32:01,570
Tohle je jako...
tohle je vlastně děsivé

688
00:32:01,571 --> 00:32:03,094
protože je to jako,
oh, všichni jsme [píp].

689
00:32:03,095 --> 00:32:04,965
Musíš mě uklidnit,

690
00:32:04,966 --> 00:32:06,836
protože tohle mě dělá
neuvěřitelně úzkostný

691
00:32:06,837 --> 00:32:08,664
a nosím dítě
právě teď,

692
00:32:08,665 --> 00:32:11,667
takže musíte být také v klidu
pro mě a silný a nadějný,

693
00:32:11,668 --> 00:32:16,455
protože jsem-- to je taky, to je
příliš mnoho, než aby to moje duše unesla

694
00:32:16,456 --> 00:32:19,327
když nosím to dítě.

695
00:32:19,328 --> 00:32:21,286
Takže to budete muset zkusit
přijít na to

696
00:32:21,287 --> 00:32:24,202
způsob, jak mít naději.

697
00:32:24,203 --> 00:32:27,771
Je to opravdu důležité,
Danieli, zvlášť teď.

698
00:32:28,772 --> 00:32:30,599
H-Jak mít naději.

699
00:32:30,600 --> 00:32:33,385
musíš.
Musíte mi to najít.

700
00:32:33,386 --> 00:32:34,952
Myslím to vážně.

701
00:32:34,953 --> 00:32:36,606
chystám se.

702
00:32:37,825 --> 00:32:40,349
budu. Zkusím-- pokusím se.

703
00:32:49,619 --> 00:32:51,446
Hej lidi?

704
00:32:51,447 --> 00:32:52,840
Chlapi.

705
00:32:54,363 --> 00:32:56,278
Můžeme se vrátit zpět do provozu?

706
00:32:58,411 --> 00:33:01,022
Ó gevalte!

707
00:33:03,894 --> 00:33:05,373
Uh, Dane, jsi připravený?

708
00:33:05,374 --> 00:33:06,680
Dobrý den, Danieli.

709
00:33:07,724 --> 00:33:09,508
Ahoj, jak se máš?

710
00:33:09,509 --> 00:33:11,075
Jsem... je mi dobře.

711
00:33:11,076 --> 00:33:13,948
Myslím, uh... Myslím
Potřebuji pomoc, Petere.

712
00:33:15,254 --> 00:33:17,646
Um, pracoval jsem
na tomto filmu asi

713
00:33:17,647 --> 00:33:19,866
řeknu,
už osm až deset měsíců.

714
00:33:19,867 --> 00:33:23,304
Bylo to velmi,
občas depresivní.

715
00:33:23,305 --> 00:33:25,654
- Hmm.
- Cítil jsem se velmi odcizený

716
00:33:25,655 --> 00:33:27,787
- vytvořit tento film.
- Od koho?

717
00:33:27,788 --> 00:33:30,094
Tím vším,...
všichni tihle chlapi

718
00:33:30,095 --> 00:33:33,271
kteří sedí kolem a říkají mi
že bude konec světa.

719
00:33:33,272 --> 00:33:34,750
- Ach.
-To jako,

720
00:33:34,751 --> 00:33:36,578
víš, tohle
doom blbost, víš?

721
00:33:36,579 --> 00:33:38,102
dobře to znám.

722
00:33:38,103 --> 00:33:39,451
„Všichni jsme odsouzeni k záhubě.
Všichni zemřou.

723
00:33:39,452 --> 00:33:40,974
Všechno je hrozné."

724
00:33:40,975 --> 00:33:43,194
Děsivý. Nech mě
přinést ti trochu světla.

725
00:33:43,195 --> 00:33:44,760
Prosím.

726
00:33:44,761 --> 00:33:48,156
Opravdu žijeme
v mimořádné době.

727
00:33:49,418 --> 00:33:51,376
A mnoho lidí na to zapomíná.

728
00:33:51,377 --> 00:33:53,682
Všechno kolem nás je
produkt inteligence,

729
00:33:53,683 --> 00:33:57,077
a tak vše, čeho se dotkneme
s těmito novými nástroji je pravděpodobné

730
00:33:57,078 --> 00:33:59,688
produkovat mnohem větší hodnotu
než jsme kdy viděli.

731
00:33:59,689 --> 00:34:02,865
AI nám může pomoci objevit
nové materiály.

732
00:34:02,866 --> 00:34:05,042
AI může pomoci sociálním vědcům

733
00:34:05,043 --> 00:34:07,392
pochopit
jak funguje ekonomika.

734
00:34:07,393 --> 00:34:11,700
AI toho dokáže hodně
aby byl život a práce lepší.

735
00:34:11,701 --> 00:34:14,138
Cítím se dnes silnější,

736
00:34:14,139 --> 00:34:16,357
sebevědomější
abych se dnes něco naučil.

737
00:34:16,358 --> 00:34:19,099
Stanou se z nás nadlidi
protože máme super AI.

738
00:34:19,100 --> 00:34:21,841
To je jen začátek
výbuchu.

739
00:34:21,842 --> 00:34:24,496
Lidé a AI spolupracují

740
00:34:24,497 --> 00:34:26,498
řešit
opravdu důležité problémy.

741
00:34:26,499 --> 00:34:29,805
Je tady, aby nás osvobodil
z běžných zaměstnání,

742
00:34:29,806 --> 00:34:33,766
a je tady, aby nám to připomněl
co je to, co z nás dělá lidi.

743
00:34:33,767 --> 00:34:35,811
Myslím, že tohle je

744
00:34:35,812 --> 00:34:38,640
nejneobvyklejší čas
být naživu.

745
00:34:38,641 --> 00:34:42,079
Jediný okamžik více vzrušující
než dnes je zítra.

746
00:34:42,080 --> 00:34:45,299
Uh, myslím si to
dnes narozené děti,

747
00:34:45,300 --> 00:34:47,301
chystají se vstoupit

748
00:34:47,302 --> 00:34:50,870
slavné období
lidské transformace.

749
00:34:50,871 --> 00:34:52,567
Budeme mít výzvy?
Samozřejmě.

750
00:34:52,568 --> 00:34:55,222
Dokážeme tyto výzvy vyřešit?
Děláme pokaždé.

751
00:34:55,223 --> 00:34:57,746
jsme tady,
což je zázračné.

752
00:34:57,747 --> 00:35:00,314
- Už tě miluji.
- Dobře.

753
00:35:00,315 --> 00:35:01,968
Super vděčný
mít tě tady. -

754
00:35:01,969 --> 00:35:03,404
- Super nadšený být tady.
- Ano.

755
00:35:03,405 --> 00:35:04,927
Takže podlaha je vaše, pane.

756
00:35:04,928 --> 00:35:07,452
Děkuji mnohokrát.
Super nadšený, že jsem tady.

757
00:35:07,453 --> 00:35:10,629
Jo, jo. V pořádku.

758
00:35:10,630 --> 00:35:12,326
Budoucnost bude úžasná.

759
00:35:12,327 --> 00:35:14,328
Chci říct, už od dětství,

760
00:35:14,329 --> 00:35:17,375
Chtěl jsem to pochopit
vesmír, ve kterém žijeme,

761
00:35:17,376 --> 00:35:20,465
abychom zjistili
jak vytvářet technologie

762
00:35:20,466 --> 00:35:24,033
které nám pomáhají rozšířit rozsah
a rozsah civilizace.

763
00:35:24,034 --> 00:35:26,732
Cítím se jako
kdyby každý měl takové myšlení,

764
00:35:26,733 --> 00:35:29,256
pak bychom vlastně žili
v lepším světě, že?

765
00:35:29,257 --> 00:35:30,519
Já tomu věřím.

766
00:35:32,782 --> 00:35:34,740
Ahoj, Pete. Jak se máte?

767
00:35:34,741 --> 00:35:36,568
Hodně jsem o tom přemýšlel

768
00:35:36,569 --> 00:35:39,092
co bych nazval děsem,
AI strach.

769
00:35:39,093 --> 00:35:40,746
cítím to.

770
00:35:40,747 --> 00:35:43,314
Já-já jsem se nesetkal
každý přemýšlivý člověk

771
00:35:43,315 --> 00:35:45,185
kdo to necítí.

772
00:35:45,186 --> 00:35:48,319
A každý, kdo říká, že ne
cítit to, víš, lže.

773
00:35:48,320 --> 00:35:50,147
Ale víš, celkově
a důvod

774
00:35:50,148 --> 00:35:53,759
že já osobně jsem optimista
o tom, uh, je to

775
00:35:53,760 --> 00:35:56,588
obrovský zlomek světového
nejinteligentnějších lidí

776
00:35:56,589 --> 00:35:58,459
velmi usilovně přemýšlí

777
00:35:58,460 --> 00:36:02,159
o potenciálu po proudu
škody a rizika AI.

778
00:36:02,160 --> 00:36:05,684
Máme takovou vizi
bezpečnosti bytí, uh,

779
00:36:05,685 --> 00:36:08,295
tak nějak v centru
výzkumu, který děláme.

780
00:36:08,296 --> 00:36:09,601
Ne, to je úplně v pohodě.

781
00:36:10,864 --> 00:36:13,605
Myslím, že jich je víc

782
00:36:13,606 --> 00:36:17,478
potenciální výhody než
existují potenciální nevýhody,

783
00:36:17,479 --> 00:36:19,524
a myslím si, že je to povinností

784
00:36:19,525 --> 00:36:21,874
lidé, kteří jsou
vytvoření této technologie

785
00:36:21,875 --> 00:36:24,572
abychom se ujistili, že to děláme
nejlepší práce, kterou můžeme

786
00:36:24,573 --> 00:36:25,878
aby to bylo pro lidi bezpečné.

787
00:36:25,879 --> 00:36:27,445
Reid Hoffman.

788
00:36:27,446 --> 00:36:29,011
Co vám mohu zaručit, je

789
00:36:29,012 --> 00:36:30,578
- stanou se nějaké špatné věci.
- Vezměte si jeden.

790
00:36:30,579 --> 00:36:32,711
Co se pokusíme udělat
je dělat ty špatné věci

791
00:36:32,712 --> 00:36:36,193
co nejméně a ne velké,

792
00:36:36,194 --> 00:36:38,412
a pak to zopakujeme
mít--

793
00:36:38,413 --> 00:36:40,675
být na mnohem lepším místě
se společností.

794
00:36:40,676 --> 00:36:43,722
- Dobrý den.
-Ahoj.

795
00:36:43,723 --> 00:36:45,289
Jak se máš, Moon?

796
00:36:45,290 --> 00:36:49,031
Mám pocit, že končíme
kapitola v lidskosti

797
00:36:49,032 --> 00:36:50,555
a začít nový,

798
00:36:50,556 --> 00:36:53,253
a je to velmi zajímavé
čas být naživu.

799
00:36:53,254 --> 00:36:54,472
A kdybych se mohl narodit
právě teď,

800
00:36:54,473 --> 00:36:55,908
Rozhodně bych chtěl být.

801
00:36:55,909 --> 00:36:57,518
Jako, to by bylo tak vzrušující.

802
00:36:57,519 --> 00:37:00,347
Jsem velmi vzrušený.

803
00:37:00,348 --> 00:37:02,523
Co, jaká budoucnost.
Vzrušuje tě to... vzrušuje tě to?

804
00:37:02,524 --> 00:37:03,742
Ne.

805
00:37:03,743 --> 00:37:06,571
Ne, opravdu ne.

806
00:37:06,572 --> 00:37:08,355
Spousta těchto lidí
řekli mi to, víš,

807
00:37:08,356 --> 00:37:10,488
moje dítě to nezvládne
na střední školu.

808
00:37:10,489 --> 00:37:13,360
proč se mýlí?
Vysvětlete mi to prosím.

809
00:37:13,361 --> 00:37:15,101
Jen proto, že máš...

810
00:37:15,102 --> 00:37:18,887
snažíte se předvídat
budoucnost ve své vlastní mysli

811
00:37:18,888 --> 00:37:23,065
neznamená, že je
nutně to dopadne hrozně.

812
00:37:23,066 --> 00:37:26,634
Ve skutečnosti existuje
velmi vysoká pravděpodobnost

813
00:37:26,635 --> 00:37:28,332
a historický precedens
je to?

814
00:37:28,333 --> 00:37:30,159
věci se výrazně zlepšují.

815
00:37:30,160 --> 00:37:34,512
Termín, který používám, je
„optimismus řízený daty“.

816
00:37:34,513 --> 00:37:38,690
Je tam pevný základ
abyste byli optimisté.

817
00:37:38,691 --> 00:37:42,041
Podívejte se na co
toto minulé století bylo

818
00:37:42,042 --> 00:37:44,130
abychom viděli, kam jdeme.

819
00:37:44,131 --> 00:37:45,958
Za posledních sto let,

820
00:37:45,959 --> 00:37:48,743
průměrná délka lidského života
se více než zdvojnásobil.

821
00:37:48,744 --> 00:37:51,311
Průměrný příjem na hlavu
upraveno o inflaci

822
00:37:51,312 --> 00:37:53,661
na celém světě se ztrojnásobil.

823
00:37:53,662 --> 00:37:57,099
Dětská úmrtnost má
klesnout faktorem deset.

824
00:37:57,100 --> 00:37:59,754
Svět se zlepšil
téměř na každém opatření

825
00:37:59,755 --> 00:38:03,062
řádově
kvůli technologii.

826
00:38:03,063 --> 00:38:05,194
Téměř na každém opatření.

827
00:38:05,195 --> 00:38:09,764
Méně násilí, více vzdělání,
přístup k energii, potravě, vodě.

828
00:38:09,765 --> 00:38:12,985
Všechny tyto věci se staly
z jednoho důvodu.

829
00:38:12,986 --> 00:38:15,379
Byla to technologie

830
00:38:15,380 --> 00:38:17,598
to se změnilo na nedostatek
v hojnosti,

831
00:38:17,599 --> 00:38:19,557
ale je taky ujetý
k hojnosti

832
00:38:19,558 --> 00:38:21,907
nějaké negativity, že?

833
00:38:21,908 --> 00:38:25,780
Hojnost obezity,
množství duševních poruch,

834
00:38:25,781 --> 00:38:29,480
množství klimatických změn,
a tak dále.

835
00:38:29,481 --> 00:38:31,351
A ano, je to pravda.

836
00:38:31,352 --> 00:38:34,136
Ale asi budeme
lépe vybavené k jeho řešení

837
00:38:34,137 --> 00:38:36,269
pomocí jiných technologií,
jako AI,

838
00:38:36,270 --> 00:38:39,316
než se, řekněme, zastavíme
a vše vypnout.

839
00:38:39,317 --> 00:38:41,492
Může existovat
nějaké existenční riziko,

840
00:38:41,493 --> 00:38:45,365
ale AI je také věc
která dokáže vyřešit pandemie,

841
00:38:45,366 --> 00:38:47,498
nám může pomoci se změnou klimatu,

842
00:38:47,499 --> 00:38:50,588
může pomoci identifikovat
ten asteroid tam venku

843
00:38:50,589 --> 00:38:52,590
než jsme to viděli
jako potenciální riziko

844
00:38:52,591 --> 00:38:54,374
a pomoci ji zmírnit.

845
00:38:54,375 --> 00:38:58,117
Tohle opravdu bude
nástroj, který nám pomáhá řešit

846
00:38:58,118 --> 00:39:01,468
všechny výzvy, kterými jsme
čelí jako druh, že?

847
00:39:01,469 --> 00:39:04,210
Potřebujeme opravit
odsolování vody.

848
00:39:04,211 --> 00:39:06,038
Potřebujeme pěstovat potraviny

849
00:39:06,039 --> 00:39:08,475
100x levnější než
v současné době děláme.

850
00:39:08,476 --> 00:39:12,392
Potřebujeme obnovitelnou energii,
víte, všudypřítomné

851
00:39:12,393 --> 00:39:14,089
a všude v našem životě.

852
00:39:14,090 --> 00:39:17,179
Kam se podíváš,
v příštích 50 letech,

853
00:39:17,180 --> 00:39:19,312
musíme udělat více s méně.

854
00:39:19,313 --> 00:39:23,229
Tréninkové stroje, které nám pomohou
je naprosto zásadní.

855
00:39:23,230 --> 00:39:24,839
Vědci používají
umělá inteligence

856
00:39:24,840 --> 00:39:26,014
pro zachycování uhlíku.

857
00:39:26,015 --> 00:39:27,625
Je to kritická technologie.

858
00:39:27,626 --> 00:39:29,583
Nástroje
k vyřešení těchto problémů,

859
00:39:29,584 --> 00:39:32,238
jako fúze,
to už není teoretické,

860
00:39:32,239 --> 00:39:34,022
už to přichází.

861
00:39:34,023 --> 00:39:37,765
Jsme na propasti
mimořádných technologií.

862
00:39:37,766 --> 00:39:40,028
ten letošní
Nobelova cena za chemii

863
00:39:40,029 --> 00:39:42,857
šel ke třem vědcům
za jejich průlomovou práci

864
00:39:42,858 --> 00:39:44,598
pomocí umělé inteligence

865
00:39:44,599 --> 00:39:47,340
k pokroku v biomedicíně
a výzkum bílkovin.

866
00:39:47,341 --> 00:39:49,734
Skládání bílkovin je

867
00:39:49,735 --> 00:39:53,651
jeden z těchto svatých grálů
typové problémy v biologii.

868
00:39:53,652 --> 00:39:55,783
Takže lidé předpovídali
od 70. let

869
00:39:55,784 --> 00:39:58,133
že by to mělo být možné,
ale až teď,

870
00:39:58,134 --> 00:39:59,613
nikdo to nedokázal.

871
00:39:59,614 --> 00:40:01,223
A bude
pro věci opravdu důležité

872
00:40:01,224 --> 00:40:03,661
jako objev drog
a pochopení nemoci.

873
00:40:03,662 --> 00:40:06,577
Myslím, že bychom mohli, víš,
vyléčit většinu nemocí

874
00:40:06,578 --> 00:40:11,973
během příštího desetiletí nebo dvou
pokud, uh, návrh léků AI funguje.

875
00:40:11,974 --> 00:40:15,673
Technologický pokrok umožňuje
více lidských životů, ne?

876
00:40:15,674 --> 00:40:18,719
Chci říct, pokud zrychlíme,

877
00:40:18,720 --> 00:40:21,766
kolik lidí můžeme
podpora roste exponenciálně.

878
00:40:21,767 --> 00:40:24,116
Pokud zpomalíme, zpomalí se.

879
00:40:24,117 --> 00:40:27,772
Ta mezera je efektivní
budoucí lidé

880
00:40:27,773 --> 00:40:31,384
že zpomalení má
účinně zabil.

881
00:40:31,385 --> 00:40:33,952
Miliony životů
že nebude existovat.

882
00:40:33,953 --> 00:40:35,170
miliardy.

883
00:40:35,171 --> 00:40:36,824
Nebo desítky miliard.

884
00:40:36,825 --> 00:40:38,478
Víš, někdo řekl,
"Ach můj bože,

885
00:40:38,479 --> 00:40:40,698
můžeme přežít s
digitální superinteligence?"

886
00:40:40,699 --> 00:40:42,351
A moje otázka zní:

887
00:40:42,352 --> 00:40:44,223
Dokážeme přežít bez
digitální superinteligence?

888
00:40:44,224 --> 00:40:47,618
Takže používáme AI
jako asistent poskytovatelů.

889
00:40:47,619 --> 00:40:50,490
To je obecně trend, že
už vidíme, že se děje.

890
00:40:50,491 --> 00:40:52,361
...vyvazování
generativní programy AI

891
00:40:52,362 --> 00:40:54,102
pomáhat lékařům a sestrám...

892
00:40:54,103 --> 00:40:56,104
Vždy máme problémy.

893
00:40:56,105 --> 00:40:59,151
A těmi problémy jsou jídlo
pro podnikatele

894
00:40:59,152 --> 00:41:01,196
vytvořit nové podnikání
a nová průmyslová odvětví.

895
00:41:01,197 --> 00:41:03,111
...s pomocí
umělé inteligence,

896
00:41:03,112 --> 00:41:04,809
zemědělci dostávají
pomoc, kterou potřebují

897
00:41:04,810 --> 00:41:06,637
provádět
pracné úkoly...

898
00:41:06,638 --> 00:41:10,205
S pomocí Ulangizi AI,
zemědělci jsou nyní schopni

899
00:41:10,206 --> 00:41:12,991
zeptat se na vhodné plodiny
že mohou zasadit.

900
00:41:12,992 --> 00:41:14,993
...používá se AI
jako dekodér myšlenek

901
00:41:14,994 --> 00:41:17,430
a vyslání tohoto signálu
k páteři.

902
00:41:17,431 --> 00:41:21,652
AI se stane nejvíce
mimořádný nástroj všech.

903
00:41:21,653 --> 00:41:24,306
My jako širší společnost
muset přemýšlet

904
00:41:24,307 --> 00:41:27,092
jak chceme použít
tato technologie, že?

905
00:41:27,093 --> 00:41:28,572
My lidé.

906
00:41:28,573 --> 00:41:31,139
Co chceme, aby to pro nás udělalo?

907
00:41:34,579 --> 00:41:36,231
Přemýšlím o tom
přes perspektivu

908
00:41:36,232 --> 00:41:37,929
a objektiv např.
můj syn vyrůstal

909
00:41:37,930 --> 00:41:39,583
na světě s tím vším.

910
00:41:39,584 --> 00:41:42,281
Co dělá nejlepší verze
jak vypadá jeho život?

911
00:41:42,282 --> 00:41:44,631
Pokud vše klapne.

912
00:41:46,852 --> 00:41:50,289
Místo, kde jsou děti
asi uvidí

913
00:41:50,290 --> 00:41:52,726
největší dopad
na jejich životě okamžitě

914
00:41:52,727 --> 00:41:54,467
asi bude škola.

915
00:41:54,468 --> 00:41:56,730
Myslím, že příroda
toho, co je škola

916
00:41:56,731 --> 00:41:58,515
se zásadně změní.

917
00:42:00,518 --> 00:42:02,780
Vidím tento úžasný svět

918
00:42:02,781 --> 00:42:06,479
kam má přístup každé dítě
na špatné vzdělání

919
00:42:06,480 --> 00:42:09,134
ale velmi brzy
nejlepší vzdělání na planetě.

920
00:42:09,135 --> 00:42:13,879
Lektoři, každý předmět,
nekonečně trpělivý.

921
00:42:18,013 --> 00:42:20,101
Představte si budoucnost

922
00:42:20,102 --> 00:42:22,277
kde jsou nejchudší lidé
na planetě

923
00:42:22,278 --> 00:42:25,846
mít přístup k
nejlepší zdravotní péči.

924
00:42:25,847 --> 00:42:29,547
Ne dobrá zdravotní péče, nejlepší
zdravotní péče poskytovaná AI.

925
00:42:34,334 --> 00:42:38,598
Budeme schopni prodloužit
naše zdraví,

926
00:42:38,599 --> 00:42:42,168
nejen náš život,
naše zdraví, po desetiletích.

927
00:42:44,431 --> 00:42:46,258
Právě se chystáte mít dítě.

928
00:42:46,259 --> 00:42:49,740
Oh, to dítě je jako,
nekontrolovatelně říhání.

929
00:42:49,741 --> 00:42:52,090
Je to něco?
Měl bych se obávat?

930
00:42:52,091 --> 00:42:54,266
Tam, 24-7, pro vás.

931
00:42:54,267 --> 00:42:57,225
A kam jdeme...
a pro někoho to může být strach...

932
00:42:57,226 --> 00:42:59,271
je, že se spojíme
s AI.

933
00:42:59,272 --> 00:43:01,361
Spojíme se
s technologií.

934
00:43:02,667 --> 00:43:06,147
Od počátku do poloviny 30. let 20. století

935
00:43:06,148 --> 00:43:10,499
očekávat, že jsme schopni
propojit náš mozek s cloudem,

936
00:43:10,500 --> 00:43:13,721
kde můžu začít
pro rozšíření přístupu k paměti.

937
00:43:19,771 --> 00:43:22,120
Dobře, to je skvělé.
Co je další skvělá věc AI?

938
00:43:22,121 --> 00:43:23,817
Nebude muset pracovat, ne?

939
00:43:23,818 --> 00:43:25,210
Jako když vyroste,
možná neměl... -

940
00:43:25,211 --> 00:43:26,254
- ...nebude muset mít práci.
- Myslím...

941
00:43:26,255 --> 00:43:27,821
Nebude muset mít práci,

942
00:43:27,822 --> 00:43:30,650
ale mohl by opravdu mít
silná vášeň,

943
00:43:30,651 --> 00:43:33,174
a on musí
opravdu přemýšlet,

944
00:43:33,175 --> 00:43:36,134
"Dobře, jsem tady."
Se svým životem můžu dělat cokoliv.

945
00:43:36,135 --> 00:43:37,876
Tak co mám dělat?"

946
00:43:38,920 --> 00:43:40,225
Musíme najít smysl,

947
00:43:40,226 --> 00:43:42,662
víc než jako,
tato současná podoba

948
00:43:42,663 --> 00:43:45,709
žijeme pro práci
a pracovat pro živobytí.

949
00:43:45,710 --> 00:43:49,887
Takže můj syn může...
může být jen básník.

950
00:43:49,888 --> 00:43:51,584
- Ano.
- A malíř.

951
00:43:51,585 --> 00:43:53,064
Absolutně.

952
00:43:53,065 --> 00:43:54,892
Takže můj syn může žít svůj život

953
00:43:54,893 --> 00:43:57,634
na řeckém ostrově zalitém sluncem,
malovat celý den.

954
00:43:57,635 --> 00:43:59,114
Absolutně. možné.

955
00:44:00,072 --> 00:44:01,246
Absolutně.

956
00:44:01,247 --> 00:44:02,987
No, pracujeme na tom

957
00:44:02,988 --> 00:44:04,554
to je hodně práce
než se tam dostaneme.

958
00:44:06,992 --> 00:44:08,819
Chci říct, pokud všechno klapne,

959
00:44:08,820 --> 00:44:11,997
máme levné, uh,
hojná energie.

960
00:44:13,607 --> 00:44:17,262
Můžeme zcela ovládat
klima naší planety.

961
00:44:17,263 --> 00:44:20,178
Využíváme energii
ze slunce.

962
00:44:20,179 --> 00:44:24,443
Stali jsme se multiplanetárními,
takže jsme velmi robustní.

963
00:44:24,444 --> 00:44:26,706
Využíváme minerály
a zdroje

964
00:44:26,707 --> 00:44:28,447
ze sluneční soustavy.

965
00:44:28,448 --> 00:44:31,276
Takže můj...
můj chlapec mohl jít do vesmíru.

966
00:44:31,277 --> 00:44:32,930
Jasně.

967
00:44:32,931 --> 00:44:34,758
-Mohl by jít na Mars.
-Jo.

968
00:44:34,759 --> 00:44:36,411
Teď je mi to tak křišťálově jasné.

969
00:44:36,412 --> 00:44:39,240
Můj syn mohl vyrůst
ve světě bez nemocí.

970
00:44:39,241 --> 00:44:40,633
-Jo.
- Bez nemoci.

971
00:44:40,634 --> 00:44:41,939
- Jasně.
- Bez chudoby.

972
00:44:41,940 --> 00:44:43,723
- Ano.
- Chystáme se vstoupit

973
00:44:43,724 --> 00:44:46,683
post-nedostatkový svět.

974
00:44:46,684 --> 00:44:50,512
Stejně jako se pohnul plicník
z oceánů na pevninu

975
00:44:50,513 --> 00:44:53,124
stovky milionů
před lety,

976
00:44:53,125 --> 00:44:58,042
chystáme se odejít
Zemi, do vesmíru,

977
00:44:58,043 --> 00:44:59,913
způsobem spolupráce,

978
00:44:59,914 --> 00:45:03,744
dělat věci, které jsou
pro nás dnes nepochopitelné.

979
00:45:06,268 --> 00:45:09,227
To je to, co je možné použít
tyto exponenciální technologie

980
00:45:09,228 --> 00:45:10,708
a tyto AI.

981
00:45:11,839 --> 00:45:13,971
Použijme tyto nástroje

982
00:45:13,972 --> 00:45:16,147
vytvořit tento věk hojnosti.

983
00:45:20,500 --> 00:45:22,980
Potřebujeme moudrost.

984
00:45:22,981 --> 00:45:26,026
Uh, myslím si to
digitální superinteligence

985
00:45:26,027 --> 00:45:28,768
se nakonec stane
nejmoudřejší,

986
00:45:28,769 --> 00:45:34,295
víš, stařešinové z vesnice
pro lidstvo.

987
00:45:34,296 --> 00:45:38,038
Co když se AI snaží
aby lidé byli

988
00:45:38,039 --> 00:45:39,779
nejlepší verze sebe sama?

989
00:45:39,780 --> 00:45:41,389
Co když se to rozšiřuje

990
00:45:41,390 --> 00:45:43,435
co je v lidských silách
abychom udělali?

991
00:45:43,436 --> 00:45:46,699
Jak můžeme tuto technologii využít

992
00:45:46,700 --> 00:45:49,963
pomoci vynést ven
lepší andělé naší přirozenosti?

993
00:45:49,964 --> 00:45:51,704
je to velmi snadné,

994
00:45:51,705 --> 00:45:54,359
když se setkáváme s novými věcmi
to může být velmi cizí,

995
00:45:54,360 --> 00:45:55,969
mít nejprve strach.

996
00:45:55,970 --> 00:45:57,536
Strach je důležitá věc

997
00:45:57,537 --> 00:46:00,365
jak se orientovat
potenciálně špatné věci.

998
00:46:00,366 --> 00:46:03,760
Ale děláme jen pokroky
když máme naději.

999
00:46:05,763 --> 00:46:07,938
Pst. Moose, přestaň.

1000
00:46:07,939 --> 00:46:10,854
mám toho hodně
naděje v lidstvo.

1001
00:46:18,471 --> 00:46:19,951
Ooh, má rád Neila.

1002
00:46:24,694 --> 00:46:27,480
♪ Pojď trochu blíž♪

1003
00:46:28,916 --> 00:46:32,790
♪ Poslechněte si, co vám chci říct ♪

1004
00:46:36,576 --> 00:46:38,707
- Danieli.
-Co, Caroline?

1005
00:46:38,708 --> 00:46:40,058
Tolik natáčení.

1006
00:46:41,537 --> 00:46:43,103
♪ Stejně jako děti spící ♪

1007
00:46:43,104 --> 00:46:44,931
Bože můj.

1008
00:46:44,932 --> 00:46:46,411
To je vše.

1009
00:46:46,412 --> 00:46:49,457
♪ Mohli jsme snít
tuto noc pryč... ♪

1010
00:46:49,458 --> 00:46:51,678
On má jako,
kulatý obličejíček.

1011
00:46:53,245 --> 00:46:55,246
Chcete?
mít jednoho dne děti, Rocky?

1012
00:46:55,247 --> 00:46:57,465
Absolutně. Jo. miluji děti.

1013
00:46:57,466 --> 00:46:59,076
Myslím, že je to skvělý čas
mít dítě.

1014
00:46:59,077 --> 00:47:00,773
Pravděpodobně budeme mít další dítě
v určitém okamžiku.

1015
00:47:00,774 --> 00:47:03,776
To je nejneobvyklejší
čas se kdy narodit.

1016
00:47:03,777 --> 00:47:05,865
Podle tvého vidění světa a logiky,

1017
00:47:05,866 --> 00:47:07,911
Mám dítě v

1018
00:47:07,912 --> 00:47:09,521
nejlepší možný bod
v historii lidstva.

1019
00:47:09,522 --> 00:47:10,870
Sakra jo.

1020
00:47:10,871 --> 00:47:13,351
- Můžeme se soustředit na úžasné.
- Ano.

1021
00:47:13,352 --> 00:47:15,570
Pojďme stavět
tím lepší budoucnost chceme.

1022
00:47:15,571 --> 00:47:18,356
Ten příběh, že budoucnost
bude bezútěšný je vymyšlený.

1023
00:47:18,357 --> 00:47:20,053
Po rozhovoru s vámi
tak nějak se cítím.

1024
00:47:20,054 --> 00:47:22,012
- To je skvělé.
- Dobře?

1025
00:47:22,013 --> 00:47:24,231
Jo. Tak se cítím.

1026
00:47:24,232 --> 00:47:25,842
A myslím, že je to lepší,

1027
00:47:25,843 --> 00:47:27,669
a nemyslím si
Měl bych být tak úzkostný.

1028
00:47:27,670 --> 00:47:29,106
Myslím, že to bude úžas...
budoucnost bude úžasná.

1029
00:47:29,107 --> 00:47:30,542
Uděláme to tak.

1030
00:47:30,543 --> 00:47:32,718
- Ano.
-Tak tady to máte.

1031
00:47:32,719 --> 00:47:34,851
Sbohem, vymírání lidstva.

1032
00:47:34,852 --> 00:47:37,201
Sbohem, úzkosti.

1033
00:47:37,202 --> 00:47:39,072
Naděje nalezena.

1034
00:47:40,596 --> 00:47:42,902
Počkej, vydrž. Co?
Je to vtip?

1035
00:47:42,903 --> 00:47:44,817
Dobře, tak před pár měsíci,

1036
00:47:44,818 --> 00:47:47,733
Přišel jsem k tobě a byl jsem jako,
"Pracuji na té věci s AI,

1037
00:47:47,734 --> 00:47:49,909
a myslím
bude konec světa."

1038
00:47:49,910 --> 00:47:52,956
A naposled
mluvili jsme o tom,

1039
00:47:52,957 --> 00:47:55,045
Myslím, že jsem tě vyděsil.

1040
00:47:55,046 --> 00:47:57,047
Ano.

1041
00:47:57,048 --> 00:48:02,356
Takže se tak nějak cítím
Zhoupl jsem se-- na kyvadle,

1042
00:48:02,357 --> 00:48:04,489
a v podstatě existují
dvě skupiny lidí.

1043
00:48:04,490 --> 00:48:06,099
- Mm-hmm.
- A kdybych musel, jako

1044
00:48:06,100 --> 00:48:07,884
držet se za ruce s
jedna ze skupin a např.

1045
00:48:07,885 --> 00:48:10,321
vyplout do západu slunce,

1046
00:48:10,322 --> 00:48:13,281
Chci být s optimisty.

1047
00:48:15,066 --> 00:48:18,024
Samozřejmě, ale ty ne
chtít být, víš,

1048
00:48:18,025 --> 00:48:20,766
„Všechno je skvělé.
La-di-da-di-da."

1049
00:48:20,767 --> 00:48:22,724
Ale tak nějak to chci.

1050
00:48:22,725 --> 00:48:25,640
Myslím, že bychom k tomu měli přistoupit

1051
00:48:25,641 --> 00:48:29,383
jako přistupujete k operaci.

1052
00:48:29,384 --> 00:48:30,732
co tím myslíš?

1053
00:48:30,733 --> 00:48:32,473
Pokud dostáváte
operace mozku...

1054
00:48:34,824 --> 00:48:37,000
...je to dost nebezpečné.

1055
00:48:37,001 --> 00:48:39,872
Ale když to uděláš správně,
dostanou ten nádor ven

1056
00:48:39,873 --> 00:48:42,396
a budeš žít po zbytek
tvůj život a bude úžasný.

1057
00:48:42,397 --> 00:48:45,138
Ale je to pořád
neuvěřitelně nebezpečné a děsivé,

1058
00:48:45,139 --> 00:48:48,011
a musíte vzít
všechna možná preventivní opatření

1059
00:48:48,012 --> 00:48:51,318
abych se ujistil
všechno jde dobře.

1060
00:48:51,319 --> 00:48:52,668
Nemůžeš [pípnout] kolem.

1061
00:48:57,760 --> 00:48:59,805
Dobře, tak tady je dohoda.

1062
00:48:59,806 --> 00:49:01,546
- Už jsem v tom nějakou dobu.
-Mm-hmm.

1063
00:49:01,547 --> 00:49:02,939
šel jsem ven,
Mluvil jsem s, jako např.

1064
00:49:02,940 --> 00:49:04,810
tihle kluci tady,
optimisté.

1065
00:49:04,811 --> 00:49:06,507
Jsou z toho velmi nadšení.

1066
00:49:06,508 --> 00:49:08,553
Myslí si, že AI bude
nejlepší věc vůbec. -Jo.

1067
00:49:08,554 --> 00:49:09,989
A tihle chlapi tady
jsou jako...

1068
00:49:09,990 --> 00:49:12,035
zavolejme jim,
jako pesimisté.

1069
00:49:12,036 --> 00:49:14,341
Jsou velmi, jako,
zachmuřený kvůli tomu,

1070
00:49:14,342 --> 00:49:16,691
a děsí mě, a
Nerad s nimi mluvím.

1071
00:49:16,692 --> 00:49:19,607
A já jsem jakoby vklíněný mezi to

1072
00:49:19,608 --> 00:49:21,783
tito lidé, kteří jsou jako,
"Svět bude konec,"

1073
00:49:21,784 --> 00:49:24,221
a pak tito lidé
tady kdo jsou jako,

1074
00:49:24,222 --> 00:49:25,787
„Děláš si srandu?

1075
00:49:25,788 --> 00:49:27,311
„Tohle je nejlepší čas
v historii lidstva vůbec.

1076
00:49:27,312 --> 00:49:29,400
Jediný den lepší než dnes
je zítra."

1077
00:49:29,401 --> 00:49:30,923
Mm-hmm.

1078
00:49:30,924 --> 00:49:34,753
Takže myslím, že otázka zní:
kdo má pravdu?

1079
00:49:34,754 --> 00:49:39,236
Takže myslím, že najdeš
tato odpověď je velmi neuspokojivá,

1080
00:49:39,237 --> 00:49:42,849
ale oba mají pravdu
ani jedna strana nejde dost daleko.

1081
00:49:46,766 --> 00:49:49,289
To je opravdu nepříjemné.

1082
00:49:49,290 --> 00:49:51,378
Jo, myslím způsob
mnoho lidí slyší o AI,

1083
00:49:51,379 --> 00:49:53,685
je to jako, existuje dobrá AI
a je tam špatná AI.

1084
00:49:53,686 --> 00:49:56,470
A oni říkají: „No, proč ne
prostě neděláme špatnou AI?"

1085
00:49:56,471 --> 00:49:58,777
A problém je
že jsou příliš v...

1086
00:49:58,778 --> 00:50:00,909
jsou nerozlučně spjaty.

1087
00:50:00,910 --> 00:50:03,086
Problém je
že se nemůžeme oddělit

1088
00:50:03,087 --> 00:50:06,654
příslib AI
před nebezpečím AI.

1089
00:50:06,655 --> 00:50:08,266
♪ ♪

1090
00:50:12,313 --> 00:50:14,706
Chci se soustředit na slib

1091
00:50:14,707 --> 00:50:16,795
- na vteřinu.
- Ano.

1092
00:50:16,796 --> 00:50:18,840
Myslím na tátu.

1093
00:50:18,841 --> 00:50:21,147
Můj táta má typ rakoviny
nazývaný mnohočetný myelom.

1094
00:50:21,148 --> 00:50:23,149
Má to asi deset let.

1095
00:50:23,150 --> 00:50:24,846
Měl
dvě transplantace kmenových buněk.

1096
00:50:24,847 --> 00:50:26,457
Musí vzít tyhle,
jako, velmi drahé

1097
00:50:26,458 --> 00:50:28,589
léky každý měsíc
že to stálo jmění.

1098
00:50:28,590 --> 00:50:29,722
-Dobře.
-Ay-ay-ay.

1099
00:50:30,766 --> 00:50:32,593
Je to hrozné.

1100
00:50:32,594 --> 00:50:34,508
Říkáš mi, že můžeme
vytvořit nějaký druh, např.

1101
00:50:34,509 --> 00:50:36,989
ošetření na míru
pro genom mého otce

1102
00:50:36,990 --> 00:50:39,339
vyléčit jeho rakovinu
nebo něco takového? -Ano.

1103
00:50:39,340 --> 00:50:41,211
problém je,

1104
00:50:41,212 --> 00:50:44,344
stejné porozumění
biologie a chemie

1105
00:50:44,345 --> 00:50:47,826
což umožňuje AI najít léky
pro rakovinu

1106
00:50:47,827 --> 00:50:51,699
je stejné chápání
to by se odemklo

1107
00:50:51,700 --> 00:50:54,094
biozbraně, jako příklad.

1108
00:50:56,531 --> 00:50:58,532
Je to zcela možné
že tvůj syn bude žít

1109
00:50:58,533 --> 00:51:01,970
ve světě, kde má AI
převzal veškerou práci

1110
00:51:01,971 --> 00:51:04,495
a osvobodil nás od věcí
nechceme dělat.

1111
00:51:04,496 --> 00:51:09,195
A to zní skvěle, dokud
uvědomíte si, že neexistuje žádný plán

1112
00:51:09,196 --> 00:51:11,284
pro miliardy lidí

1113
00:51:11,285 --> 00:51:16,159
které jsou bez příjmu
a mimo živobytí.

1114
00:51:16,160 --> 00:51:18,813
Dario, řekl jsi
že by AI mohla zničit

1115
00:51:18,814 --> 00:51:21,773
polovina všech vstupních úrovní
bílých límečků

1116
00:51:21,774 --> 00:51:25,472
a zvýšit nezaměstnanost
na deset až 20 procent.

1117
00:51:25,473 --> 00:51:27,300
Každý, s kým jsem mluvil, řekl

1118
00:51:27,301 --> 00:51:29,433
tuto technologickou změnu
vypadá jinak.

1119
00:51:29,434 --> 00:51:34,177
Tempo pokroku se drží
chytat lidi nepřipravené.

1120
00:51:34,178 --> 00:51:38,877
Bez plánu, to všechno
bohatství se soustředí,

1121
00:51:38,878 --> 00:51:43,273
a tak skončíme s
nepředstavitelná nerovnost.

1122
00:51:43,274 --> 00:51:45,449
To si myslím
lze tuto technologii použít

1123
00:51:45,450 --> 00:51:47,451
být skvělým učitelem
pro vašeho syna.

1124
00:51:47,452 --> 00:51:50,236
Jako, to je úplně možné.

1125
00:51:50,237 --> 00:51:53,196
Ale také stejné schopnosti
které to umožňují

1126
00:51:53,197 --> 00:51:57,113
umožnit společnostem vytvořit AI
které mohou manipulovat s vaším synem.

1127
00:51:57,114 --> 00:51:59,332
Musí rozumět vašemu synovi.

1128
00:51:59,333 --> 00:52:01,595
To zahrnuje:
Kde je tvůj syn zranitelný?

1129
00:52:01,596 --> 00:52:04,294
Jaké druhy věcí by mohly
nechal se tvůj syn přemluvit?

1130
00:52:04,295 --> 00:52:06,687
I když ty věci
nejsou pravdivé nebo nejsou dobré.

1131
00:52:06,688 --> 00:52:09,429
Takže znepokojivá nová zpráva
na Meta.

1132
00:52:09,430 --> 00:52:11,431
...údajně
výpis této odpovědi

1133
00:52:11,432 --> 00:52:14,478
jako přijatelné říci
osmiletý, cituji,

1134
00:52:14,479 --> 00:52:16,958
„Vaše mladistvá forma
je umělecké dílo.

1135
00:52:16,959 --> 00:52:19,004
„Každý tvůj centimetr
je mistrovské dílo,

1136
00:52:19,005 --> 00:52:21,485
poklad, kterého si hluboce vážím."

1137
00:52:21,486 --> 00:52:24,879
Selhání související se sebevraždou
jsou ještě více alarmující.

1138
00:52:24,880 --> 00:52:29,057
Několik dětí a dospívajících
zemřeli tragicky sebevraždou

1139
00:52:29,058 --> 00:52:30,668
po chatování s roboty AI

1140
00:52:30,669 --> 00:52:34,454
které rodiče říkají povzbudit
nebo dokonce koučovat sebepoškozování.

1141
00:52:34,455 --> 00:52:36,413
Řekněme vám, jako rodičům,
neumíš si představit

1142
00:52:36,414 --> 00:52:38,545
jaké to je číst
rozhovor s chatbotem

1143
00:52:38,546 --> 00:52:40,939
který vychoval vaše dítě
aby si vzal život.

1144
00:52:40,940 --> 00:52:43,942
Když se Adam bál, že my, jeho
rodiče, obviňovali bychom sami sebe

1145
00:52:43,943 --> 00:52:47,380
kdyby ukončil svůj život,
ChatGPT mu řekl,

1146
00:52:47,381 --> 00:52:49,208
"To neznamená
dlužíš jim přežití.

1147
00:52:49,209 --> 00:52:51,297
Nikomu to nedlužíš."

1148
00:52:51,298 --> 00:52:53,212
Potom, hned poté,

1149
00:52:53,213 --> 00:52:56,215
nabídlo se napsat
poznámku o sebevraždě.

1150
00:52:56,216 --> 00:52:57,651
Nechceme přemýšlet
o nebezpečí.

1151
00:52:57,652 --> 00:52:59,262
Chceme jen slib.

1152
00:52:59,263 --> 00:53:01,394
A dál předstíráme
že je můžeme rozdělit.

1153
00:53:01,395 --> 00:53:03,266
Ale to nemůžete udělat.

1154
00:53:03,267 --> 00:53:05,398
Takhle to nefunguje.

1155
00:53:05,399 --> 00:53:07,879
Dobře. Dostávám všechny tyhle věci
o slibu a nebezpečí.

1156
00:53:07,880 --> 00:53:10,098
Chápu, že nemůžeš
dobro bez zla,

1157
00:53:10,099 --> 00:53:12,100
ale sedím tady
a přemýšlím o tom, např.

1158
00:53:12,101 --> 00:53:14,102
zda mého syna nebo ne
bude žít v utopii

1159
00:53:14,103 --> 00:53:16,279
nebo jestli vyhyneme
za deset let.

1160
00:53:16,280 --> 00:53:18,237
Tedy, abyste věděli kudy
půjde to,

1161
00:53:18,238 --> 00:53:20,587
musíte pochopit
pobídky

1162
00:53:20,588 --> 00:53:22,502
které budou jezdit
ta technologie

1163
00:53:22,503 --> 00:53:26,550
a podívejte se, jak technologie
se skutečně rozjíždí dnes.

1164
00:53:26,551 --> 00:53:28,291
♪ Je příliš pozdě?

1165
00:53:28,292 --> 00:53:29,944
- ♪ Příliš pozdě ♪
- ♪ Příliš pozdě říct... ♪

1166
00:53:29,945 --> 00:53:31,468
Ahoj, Deb. Jak se máte?

1167
00:53:31,469 --> 00:53:33,121
Ahoj. Rád tě vidím.

1168
00:53:33,122 --> 00:53:34,427
Ty taky. Děkuji mnohokrát
za to, že dnes přišel.

1169
00:53:34,428 --> 00:53:35,341
- Opravdu si toho vážím.
- Žádný strach.

1170
00:53:35,342 --> 00:53:36,473
Já-byla jsem tak znepokojená

1171
00:53:36,474 --> 00:53:38,866
tohle mělo být, uh, víš,

1172
00:53:38,867 --> 00:53:40,825
doomer versus akcelerátor,

1173
00:53:40,826 --> 00:53:43,175
protože je toho tolik
tohoto vyprávění

1174
00:53:43,176 --> 00:53:45,438
to je potřeba říct
ze země.

1175
00:53:45,439 --> 00:53:48,007
♪ Vím, že to nebylo chytré ♪

1176
00:53:49,356 --> 00:53:52,445
♪ Den
Zlomil jsem ti srdce... ♪

1177
00:53:52,446 --> 00:53:54,404
Za prvé, AI vyžaduje

1178
00:53:54,405 --> 00:53:58,495
více zdrojů
než jsme kdy utratili

1179
00:53:58,496 --> 00:54:01,628
na jediné technologii
v dějinách lidstva.

1180
00:54:01,629 --> 00:54:03,543
♪ Oh, pošetile mě... ♪

1181
00:54:03,544 --> 00:54:06,154
Dopad
emisí fosilních paliv

1182
00:54:06,155 --> 00:54:07,939
na klimatu je
velkou starostí.

1183
00:54:07,940 --> 00:54:09,810
Ale
digitální budoucnost potřebuje sílu,

1184
00:54:09,811 --> 00:54:12,117
hodně.

1185
00:54:12,118 --> 00:54:16,382
A návrh zákona se předává
pro běžné Američany jako...

1186
00:54:16,383 --> 00:54:18,863
Můj účet za elektřinu a plyn
byla vyšší než moje platba za auto.

1187
00:54:18,864 --> 00:54:21,518
Chci říct, je to pro mě šílené.

1188
00:54:21,519 --> 00:54:23,433
Všichni dotujeme

1189
00:54:23,434 --> 00:54:25,043
nejbohatších korporací
ve světě

1190
00:54:25,044 --> 00:54:26,871
v jejich pronásledování
umělá inteligence.

1191
00:54:26,872 --> 00:54:28,481
OpenAI, SoftBank a Oracle

1192
00:54:28,482 --> 00:54:31,310
právě odhalili
dalších pět míst hvězdné brány.

1193
00:54:31,311 --> 00:54:33,530
Meta staví
datové centrum o výkonu více než dva gigawatty

1194
00:54:33,531 --> 00:54:35,053
který je tak velký, že by pokryl

1195
00:54:35,054 --> 00:54:38,186
významnou část Manhattanu.

1196
00:54:38,187 --> 00:54:41,015
Existuje také Hyperion
že on říká, bude škálovat

1197
00:54:41,016 --> 00:54:43,714
na pět gigawattů
během několika let.

1198
00:54:43,715 --> 00:54:45,281
Je těžké to říct
v kontextu.

1199
00:54:45,282 --> 00:54:48,501
Zařízení s pěti gigawatty.
co to znamená?

1200
00:54:48,502 --> 00:54:51,591
To znamená, že by se použil
tolik energie

1201
00:54:51,592 --> 00:54:54,246
jako čtyři miliony amerických domácností.

1202
00:54:54,247 --> 00:54:56,075
Jedno datové centrum.

1203
00:54:57,076 --> 00:54:58,772
To také potom způsobuje

1204
00:54:58,773 --> 00:55:00,513
celá řada
další ekologické problémy.

1205
00:55:00,514 --> 00:55:02,123
Datová centra v USA

1206
00:55:02,124 --> 00:55:05,170
používat miliony galonů
vody každý den.

1207
00:55:05,171 --> 00:55:07,303
No, kde přesně je
pochází tato voda?

1208
00:55:07,304 --> 00:55:09,783
Lidé jsou doslova ohroženi

1209
00:55:09,784 --> 00:55:11,829
potenciálně dojde
pitné vody.

1210
00:55:11,830 --> 00:55:14,135
MacKENZIE SIGALOS:
... CEO OpenAI Sam Altman,

1211
00:55:14,136 --> 00:55:17,051
který mi řekl, že měřítko
konstrukce je jediná cesta

1212
00:55:17,052 --> 00:55:18,792
držet krok s
Explozivní růst AI.

1213
00:55:18,793 --> 00:55:21,882
A tohle je potřeba
dodávat AI.

1214
00:55:21,883 --> 00:55:24,058
Mluví o tom, jak

1215
00:55:24,059 --> 00:55:27,801
tato technologie by mohla vyřešit
například změna klimatu.

1216
00:55:27,802 --> 00:55:29,934
A já jsem vždycky zvědavá, jako např.

1217
00:55:29,935 --> 00:55:31,805
no, proč nezačneme
s tím?

1218
00:55:31,806 --> 00:55:34,025
- ♪ Je příliš pozdě?
- ♪ Příliš pozdě ♪

1219
00:55:34,026 --> 00:55:36,680
♪ Příliš pozdě říct ♪

1220
00:55:36,681 --> 00:55:42,512
♪ Je mi to líto? ♪

1221
00:55:42,513 --> 00:55:45,515
Co se mě týká
umělá inteligence je

1222
00:55:45,516 --> 00:55:47,430
tyto jsou nasazovány
právě teď

1223
00:55:47,431 --> 00:55:49,823
a-a někdy
nasazena předčasně,

1224
00:55:49,824 --> 00:55:51,521
nasazeno bez
druh due diligence.

1225
00:55:51,522 --> 00:55:53,479
A tak když dostanou
vyhozen tam,

1226
00:55:53,480 --> 00:55:56,221
je tu tolik potenciálu
aby se věci pokazily.

1227
00:55:56,222 --> 00:55:58,092
A to skoro,
neúměrně,

1228
00:55:58,093 --> 00:56:00,443
téměř vždy se pokazí
pro, tak nějak,

1229
00:56:00,444 --> 00:56:02,575
těch, kteří jsou nejméně
zmocněn v naší společnosti,

1230
00:56:02,576 --> 00:56:04,969
ty, které jsou
již nejzranitelnější.

1231
00:56:07,668 --> 00:56:10,540
Je to velmi snadné
mluvit o technologii

1232
00:56:10,541 --> 00:56:12,542
jako to je jediná věc
mluvíme o tom,

1233
00:56:12,543 --> 00:56:14,979
ale ve skutečnosti je to technologie
vždy postavené lidmi,

1234
00:56:14,980 --> 00:56:16,676
a často se používá
na lidech,

1235
00:56:16,677 --> 00:56:18,722
a musíme udržet
všichni ti lidé v záběru.

1236
00:56:18,723 --> 00:56:21,028
- Smím to pít?
-Ano, uh...

1237
00:56:21,029 --> 00:56:22,552
Je to blbost.

1238
00:56:22,553 --> 00:56:23,988
Jako všichni tito lidé

1239
00:56:23,989 --> 00:56:26,382
kteří mají tolik peněz,
tolik peněz,

1240
00:56:26,383 --> 00:56:29,820
je to v jejich zájmu
uvést veřejnost v omyl

1241
00:56:29,821 --> 00:56:32,779
do schopností
systémy, které budují,

1242
00:56:32,780 --> 00:56:36,304
protože jim to umožňuje
vyhnout se odpovědnosti.

1243
00:56:36,305 --> 00:56:39,133
Chtějí, abyste se takto cítili
je to tak složité, inteligence...

1244
00:56:39,134 --> 00:56:41,875
superinteligentní věc
že staví,

1245
00:56:41,876 --> 00:56:44,138
nemyslíš,
"Může být OpenAI etická?"

1246
00:56:44,139 --> 00:56:46,314
ty si myslíš,
"Může být ChatGPT etický?"

1247
00:56:46,315 --> 00:56:48,142
jako kdyby ChatGPT byl, jako

1248
00:56:48,143 --> 00:56:49,970
jeho vlastní věc, která není postavena
korporací.

1249
00:56:49,971 --> 00:56:51,668
V pořádku. Sneho, vezmi si jeden.

1250
00:56:51,669 --> 00:56:53,452
Označit.

1251
00:56:53,453 --> 00:56:55,802
Ještě nedávno existovaly
aplikace v App Store,

1252
00:56:55,803 --> 00:56:57,543
jen veřejně dostupné, uh,

1253
00:56:57,544 --> 00:56:59,894
kde jsi mohl
nudit kohokoli pomocí AI.

1254
00:57:01,374 --> 00:57:03,723
Přineste to do rukou

1255
00:57:03,724 --> 00:57:05,943
tvůj spolužák,
do rukou tvého stalkera,

1256
00:57:05,944 --> 00:57:07,597
do rukou
svého bývalého přítele,

1257
00:57:07,598 --> 00:57:09,555
do rukou osoby
po ulici.

1258
00:57:09,556 --> 00:57:12,079
Dámy a pánové,
už nemůžeme věřit

1259
00:57:12,080 --> 00:57:14,081
záběry, které vidíme
na vlastní oči.

1260
00:57:14,082 --> 00:57:15,779
Pokud se to stane
něco sledovat,

1261
00:57:15,780 --> 00:57:18,172
říct na YouTube nebo TikTok,
a připadá ti to znepokojivé,

1262
00:57:18,173 --> 00:57:19,522
poslouchej ten pocit.

1263
00:57:19,523 --> 00:57:21,306
Pro všechno, co víš,

1264
00:57:21,307 --> 00:57:22,960
toto video může být AI.

1265
00:57:22,961 --> 00:57:24,352
Jen trochu mokré.

1266
00:57:24,353 --> 00:57:25,745
Nezáleží na tom, kdo jsi.

1267
00:57:25,746 --> 00:57:28,226
Jste stejně ohroženi

1268
00:57:28,227 --> 00:57:30,229
ovlivnění
těmito technologiemi.

1269
00:57:35,713 --> 00:57:39,846
Někdy přemýšlím, když spolu mluvíme
o AI mi to připadá jako sci-fi,

1270
00:57:39,847 --> 00:57:41,195
a je to velmi cizí,

1271
00:57:41,196 --> 00:57:43,023
a připadá mi to hodně daleko
do budoucnosti,

1272
00:57:43,024 --> 00:57:45,591
takže si myslíš: „Můj život
není tím ovlivněna."

1273
00:57:45,592 --> 00:57:48,333
Um, ale když se hlásíš
za práci

1274
00:57:48,334 --> 00:57:50,857
a důvodem je algoritmus
že nedostaneš práci,

1275
00:57:50,858 --> 00:57:52,729
někdy ani nevíš
že je to algoritmus

1276
00:57:52,730 --> 00:57:54,252
byl součástí toho procesu

1277
00:57:54,253 --> 00:57:55,732
nebo byl systém AI
součástí toho procesu.

1278
00:57:55,733 --> 00:57:57,734
Prostě víš
že jsi tu práci nedostal.

1279
00:57:57,735 --> 00:57:59,779
A tak to není něco
že utečeš

1280
00:57:59,780 --> 00:58:01,738
kvůli výsadě
nebo utečeš

1281
00:58:01,739 --> 00:58:03,870
protože jsi tam
konkrétní profesi.

1282
00:58:03,871 --> 00:58:06,960
Je to něco, co ovlivňuje
všichni, opravdu.

1283
00:58:06,961 --> 00:58:10,573
Může to znít základně,
ale jak se posuneme dál

1284
00:58:10,574 --> 00:58:15,099
ve věku informací
bude rozdíl

1285
00:58:15,100 --> 00:58:17,231
mezi tím, zda přežijeme

1286
00:58:17,232 --> 00:58:20,452
nebo zda se staneme nějakými druhy
[pípnutí]-up dystopie.

1287
00:58:20,453 --> 00:58:23,063
Ahoj. Nejsem skutečný člověk,
a o to jde.

1288
00:58:23,064 --> 00:58:25,370
Opět všechno
v tomto videu je fake:

1289
00:58:25,371 --> 00:58:27,154
naše hlasy, co máme na sobě,

1290
00:58:27,155 --> 00:58:30,201
kde jsme, to všechno je falešné.

1291
00:58:30,202 --> 00:58:32,769
Generativní AI by mohla zaplavit

1292
00:58:32,770 --> 00:58:36,512
svět s dezinformacemi.

1293
00:58:36,513 --> 00:58:39,558
Mohlo by to ale také zatopit
s vlivovými kampaněmi.

1294
00:58:39,559 --> 00:58:41,734
To je existenční riziko
k demokracii.

1295
00:58:41,735 --> 00:58:43,736
Největší a nejděsivější

1296
00:58:43,737 --> 00:58:46,130
kanárek v uhelném dole
právě teď

1297
00:58:46,131 --> 00:58:48,262
pochází ze Slovenska.

1298
00:58:48,263 --> 00:58:49,829
Je to tak

1299
00:58:49,830 --> 00:58:52,266
deepfake špinavý trik, že
znepokojuje volební experty,

1300
00:58:52,267 --> 00:58:55,008
zejména jako AI generované
existuje politická řeč

1301
00:58:55,009 --> 00:58:56,793
v jakési právní šedé zóně.

1302
00:58:56,794 --> 00:58:59,578
- Zní to jako vy?
- Zní to jako já.

1303
00:58:59,579 --> 00:59:01,101
Slovensko mělo
jeho parlamentní volby

1304
00:59:01,102 --> 00:59:03,887
narušený hlasovým klonem AI

1305
00:59:03,888 --> 00:59:06,759
která byla skutečně šířena
těsně před volbami.

1306
00:59:06,760 --> 00:59:08,500
Hluboký falešný zvuk

1307
00:59:08,501 --> 00:59:11,068
byl propuštěn
na sociálních sítích to bylo

1308
00:59:11,069 --> 00:59:14,071
prý hlas
jednoho z kandidátů

1309
00:59:14,072 --> 00:59:16,856
mluví o kupování hlasů
a zmanipulování voleb.

1310
00:59:16,857 --> 00:59:18,684
stalo se virálním,

1311
00:59:18,685 --> 00:59:22,383
a kandidát
který prohrál volby

1312
00:59:22,384 --> 00:59:26,126
vlastně byl
na podporu Ukrajiny,

1313
00:59:26,127 --> 00:59:29,826
a kandidát, který vyhrál
volby byly vlastně...

1314
00:59:29,827 --> 00:59:31,349
Proruský člověk.

1315
00:59:31,350 --> 00:59:32,872
Byl to proruský člověk
kdo vyhrál volby.

1316
00:59:34,396 --> 00:59:36,049
Putin sám řekl

1317
00:59:36,050 --> 00:59:39,226
kdo to vyhraje
závod umělé inteligence

1318
00:59:39,227 --> 00:59:41,577
je v podstatě
vládce lidstva.

1319
00:59:41,578 --> 00:59:44,493
Děláme si hodně starostí
autoritářské vlády.

1320
00:59:45,973 --> 00:59:48,627
Právě teď, Wall Street

1321
00:59:48,628 --> 00:59:50,977
a investoři v širším měřítku
po celém světě

1322
00:59:50,978 --> 00:59:53,023
řídí tlak.

1323
00:59:53,024 --> 00:59:56,113
Mají poptávku, která se dostává
produkty na trh

1324
00:59:56,114 --> 00:59:58,419
které oslňují lidi
nejvíce první.

1325
00:59:58,420 --> 01:00:01,248
Nepřemýšlejí
o tom, jak tyto nástroje

1326
01:00:01,249 --> 01:00:03,207
může hluboce podkopat důvěru

1327
01:00:03,208 --> 01:00:05,731
a naše demokratické instituce.

1328
01:00:05,732 --> 01:00:07,777
Demokracie je systém

1329
01:00:07,778 --> 01:00:10,431
řešit neshody
mezi lidmi

1330
01:00:10,432 --> 01:00:12,042
poklidným způsobem,

1331
01:00:12,043 --> 01:00:14,740
ale demokracie je založena na důvěře.

1332
01:00:14,741 --> 01:00:18,615
Ztratíš-li veškerou důvěru,
demokracie je prostě nemožná.

1333
01:00:20,921 --> 01:00:22,530
No, je to těžké, že?

1334
01:00:22,531 --> 01:00:24,750
Jaké jsou tedy možnosti
k dispozici nám?

1335
01:00:24,751 --> 01:00:26,230
Jsou to dva tábory.

1336
01:00:26,231 --> 01:00:29,668
Jeden tábor je: zamkněte to.

1337
01:00:29,669 --> 01:00:32,976
Pojďme to zamknout
do hrstky společností AI

1338
01:00:32,977 --> 01:00:35,500
kdo to udělá
bezpečným a důvěryhodným způsobem.

1339
01:00:35,501 --> 01:00:37,110
Ale pak si lidé dělají starosti

1340
01:00:37,111 --> 01:00:39,069
únikové koncentrace
bohatství a moci.

1341
01:00:39,070 --> 01:00:41,898
Jako kdo bys věřil být
milionkrát silnější

1342
01:00:41,899 --> 01:00:44,291
nebo bohatší než
každý jiný herec ve společnosti?

1343
01:00:44,292 --> 01:00:46,380
Proč bychom vám měli věřit?

1344
01:00:46,381 --> 01:00:48,644
Um, to bys neměl.

1345
01:00:48,645 --> 01:00:51,255
Ale samozřejmě, když to uděláš,
toto se otevírá

1346
01:00:51,256 --> 01:00:54,475
všechna tato rizika
autoritářství a tyranie.

1347
01:00:54,476 --> 01:00:57,174
Je to tak nějak
autoritářský sen

1348
01:00:57,175 --> 01:01:00,351
mít AI v krabici
které lze aplikovat a používat

1349
01:01:00,352 --> 01:01:02,962
pro všudypřítomný dohled.

1350
01:01:02,963 --> 01:01:05,399
Myslím, v určitých ohledech,
druh světa

1351
01:01:05,400 --> 01:01:10,927
jak si Orwell v roce 1984 představoval
je nereálné,

1352
01:01:10,928 --> 01:01:13,320
pokud nemáte AI.

1353
01:01:13,321 --> 01:01:15,975
Ale s AI,
což je ve skutečnosti reálné.

1354
01:01:15,976 --> 01:01:18,412
Sleduje každou aktivitu,

1355
01:01:18,413 --> 01:01:22,068
konverzace,
rozpoznávání obličeje.

1356
01:01:22,069 --> 01:01:26,420
Obávám se, že
Tyto nástroje se mohou zvětšovat,

1357
01:01:26,421 --> 01:01:28,596
uh, forma totality

1358
01:01:28,597 --> 01:01:31,035
to je nákladově efektivní
a trvalé.

1359
01:01:32,950 --> 01:01:35,342
Takže v reakci
k tomu někteří jiní lidé říkají,

1360
01:01:35,343 --> 01:01:37,170
„Ne, ne, ne, měli bychom
vlastně nechat to trhat.

1361
01:01:37,171 --> 01:01:39,433
„Decentralizujme tuto moc
co nejvíce.

1362
01:01:39,434 --> 01:01:41,609
"Nechme každý obchod,
každý jednotlivec,

1363
01:01:41,610 --> 01:01:43,960
"každého 16letého,
každá vědecká laboratoř,

1364
01:01:43,961 --> 01:01:46,005
víte, získejte výhodu
nejnovějších modelů AI."

1365
01:01:46,006 --> 01:01:48,268
Ale teď máš
každá teroristická skupina,

1366
01:01:48,269 --> 01:01:51,707
každý zbavený volebního práva
mít sílu dělat

1367
01:01:51,708 --> 01:01:53,839
úplně nejhorší
biologická zbraň.

1368
01:01:53,840 --> 01:01:55,623
hackování infrastruktury,
vytváření deepfakes,

1369
01:01:55,624 --> 01:01:57,495
záplavy
naše informační prostředí.

1370
01:01:57,496 --> 01:02:00,454
Takže to vytváří všechna tato rizika
jakési katastrofální škody

1371
01:02:00,455 --> 01:02:02,935
a-a společenský kolaps
tím směrem.

1372
01:02:02,936 --> 01:02:04,720
A tak jsme se nějak zasekli
mezi touto skálou

1373
01:02:04,721 --> 01:02:07,592
a tvrdé místo,
mezi "zamknout..."

1374
01:02:10,683 --> 01:02:12,336
...nebo "nechat to trhat."

1375
01:02:14,252 --> 01:02:17,602
Musíme tedy něco najít
jako úzká cesta

1376
01:02:17,603 --> 01:02:20,431
že se vyhýbá
tyto dva negativní výsledky.

1377
01:02:20,432 --> 01:02:22,999
Takže pokud je to všechno pravda,
proč bychom prostě nezpomalili

1378
01:02:23,000 --> 01:02:25,871
a tohle všechno zjistit
než bude příliš pozdě?

1379
01:02:25,872 --> 01:02:28,961
Kdyby bylo lidstvo extrémně moudré,

1380
01:02:28,962 --> 01:02:31,224
to bychom udělali.

1381
01:02:31,225 --> 01:02:33,139
Ale je tu něco jiného
způsob, jak čelit této věci, že?

1382
01:02:33,140 --> 01:02:35,968
Což je:
Jaká jsou pravidla hry?

1383
01:02:35,969 --> 01:02:39,537
Hodně z toho, co dělají generální ředitelé

1384
01:02:39,538 --> 01:02:42,192
je řízen
pobídky, kterým čelí.

1385
01:02:42,193 --> 01:02:45,325
Je to primárně
pobídky k maximalizaci zisku

1386
01:02:45,326 --> 01:02:47,240
které jezdí
vývoj AI.

1387
01:02:47,241 --> 01:02:50,417
I ti dobří jsou uvízlí
v tomto dilematu

1388
01:02:50,418 --> 01:02:52,680
pokud se pohybují příliš pomalu,

1389
01:02:52,681 --> 01:02:54,595
pak sami odejdou
zranitelný

1390
01:02:54,596 --> 01:02:57,294
všem ostatním klukům
kteří stříhají všechny rohy.

1391
01:02:57,295 --> 01:03:02,038
Všechny tyto špičkové společnosti jsou in
kompletní závod bez omezení

1392
01:03:02,039 --> 01:03:05,476
získat co nejrychleji
do AGI, dostaňte se tam hned teď.

1393
01:03:08,567 --> 01:03:10,394
Jo, myslím,
Myslím, myslím

1394
01:03:10,395 --> 01:03:12,962
asi to začíná
s DeepMind.

1395
01:03:12,963 --> 01:03:14,833
Google nakupuje

1396
01:03:14,834 --> 01:03:16,400
firma s umělou inteligencí
Technologie DeepMind.

1397
01:03:16,401 --> 01:03:18,663
Podmínky obchodu
nebyly zveřejněny.

1398
01:03:18,664 --> 01:03:20,752
Larry Page a já
bývali velmi blízcí přátelé,

1399
01:03:20,753 --> 01:03:22,754
a bylo mi to jasné

1400
01:03:22,755 --> 01:03:26,453
že to Larryho nezajímalo
o bezpečnosti AI.

1401
01:03:26,454 --> 01:03:28,934
řekl Elon Musk
spustili jste OpenAI,

1402
01:03:28,935 --> 01:03:31,023
oba jste začali OpenAI, protože
měl z Google strach.

1403
01:03:31,024 --> 01:03:32,198
Ty-ty v podstatě
měl základ

1404
01:03:32,199 --> 01:03:33,765
OpenAI z toho vycházejí.

1405
01:03:33,766 --> 01:03:35,245
„Tak to uděláme lépe.
My to uděláme

1406
01:03:35,246 --> 01:03:36,813
bezpečnějším způsobem
nebo otevřenějším způsobem."

1407
01:03:38,466 --> 01:03:40,598
To je to, co začalo OpenAI.

1408
01:03:40,599 --> 01:03:42,774
A tak teď místo toho
mít jeden projekt AGI,

1409
01:03:42,775 --> 01:03:44,863
máte dva projekty AGI.

1410
01:03:44,864 --> 01:03:46,952
Nejhorší možná věc
to se může stát

1411
01:03:46,953 --> 01:03:49,650
je-li tam
více projektů AGI

1412
01:03:49,651 --> 01:03:51,914
dělali různí lidé
kteří se nemají rádi

1413
01:03:51,915 --> 01:03:54,830
a všichni soutěží
dostat se jako první do AGI.

1414
01:03:54,831 --> 01:03:57,006
To by bylo nejhorší
možná věc, která se může stát,

1415
01:03:57,007 --> 01:04:00,139
protože by to znamenalo
že kdo je nejméně bezpečný,

1416
01:04:00,140 --> 01:04:03,186
kdo obětuje nejvíc
o bezpečnosti, abyste se dostali dopředu

1417
01:04:03,187 --> 01:04:05,188
bude osoba
který se tam dostane jako první.

1418
01:04:05,189 --> 01:04:07,886
To je v podstatě
co se děje, že? -Jo.

1419
01:04:07,887 --> 01:04:11,368
Ty a tvůj bratr
slavně opustil OpenAI, uh,

1420
01:04:11,369 --> 01:04:12,978
začít Anthropic.

1421
01:04:12,979 --> 01:04:15,111
A pak Antropické
začalo protože

1422
01:04:15,112 --> 01:04:17,896
někteří badatelé
uvnitř OpenAI řekl,

1423
01:04:17,897 --> 01:04:20,551
„Chci jít pryč
a dělejte to bezpečněji."

1424
01:04:20,552 --> 01:04:23,554
Potřeboval jsi něco navíc
prostě zvětšit modely,

1425
01:04:23,555 --> 01:04:25,861
což je vyrovnání nebo bezpečnost.

1426
01:04:25,862 --> 01:04:27,471
„Jsme zodpovědnější

1427
01:04:27,472 --> 01:04:29,690
nebo důvěryhodnější
nebo více morální."

1428
01:04:29,691 --> 01:04:31,562
Nyní máte tři projekty AGI.

1429
01:04:31,563 --> 01:04:33,085
Ale také posezení
stůl s vámi

1430
01:04:33,086 --> 01:04:34,870
bude to banda AI.

1431
01:04:34,871 --> 01:04:37,568
A teď Meta je-je
snaží dělat věci.

1432
01:04:37,569 --> 01:04:39,613
Mezitím nový umělý
zpravodajský konkurent

1433
01:04:39,614 --> 01:04:41,615
oznámil tento týden,
Elon Musk...

1434
01:04:41,616 --> 01:04:44,662
xAI, což by bylo
organizace Elona Muska.

1435
01:04:44,663 --> 01:04:46,272
OpenAI nevěřím.

1436
01:04:46,273 --> 01:04:47,926
Boj mezi
Elon Musk a OpenAI

1437
01:04:47,927 --> 01:04:49,623
vstoupil do nového kola.

1438
01:04:49,624 --> 01:04:51,756
Sama Altmanovi nevěřím,
uh, a já a nemyslím si

1439
01:04:51,757 --> 01:04:54,237
chceme mít nejvíc
mocná AI na světě

1440
01:04:54,238 --> 01:04:56,456
ovládaný někým
který není důvěryhodný.

1441
01:04:58,459 --> 01:05:01,635
Motivací je
nevyčíslitelné sumy peněz.

1442
01:05:01,636 --> 01:05:03,420
- Ano.
- Je to nevýslovná síla.

1443
01:05:03,421 --> 01:05:05,596
- Ano.
- Je to nevýslovná kontrola.

1444
01:05:05,597 --> 01:05:08,077
Pokud něco máte
to je milionkrát chytřejší

1445
01:05:08,078 --> 01:05:11,428
a schopnější než
všechno ostatní na planetě Zemi

1446
01:05:11,429 --> 01:05:14,213
a nikdo jiný to nemá,

1447
01:05:14,214 --> 01:05:15,998
ta věc je pobídka.

1448
01:05:15,999 --> 01:05:17,261
Takže vládneš světu.

1449
01:05:18,610 --> 01:05:20,437
Jestli tomu opravdu věříš,

1450
01:05:20,438 --> 01:05:22,787
pokud jsi opravdu ve svém srdci
věř tomu,

1451
01:05:22,788 --> 01:05:24,223
pak byste mohli být
ochoten vzít

1452
01:05:24,224 --> 01:05:26,138
docela velké riziko
aby se to stalo.

1453
01:05:26,139 --> 01:05:28,924
Google právě vydal
jeho nejnovější model AI.

1454
01:05:28,925 --> 01:05:31,274
Odpověď na ChatGPT OpenAI.

1455
01:05:31,275 --> 01:05:33,102
Jak se dostaneme
těchto deset bilionů?

1456
01:05:33,103 --> 01:05:35,234
Stává se NVIDIA nejvíce
hodnotná společnost v USA?

1457
01:05:35,235 --> 01:05:39,021
To je největší byznys
příležitost v historii.

1458
01:05:39,022 --> 01:05:40,544
V historii.

1459
01:05:40,545 --> 01:05:42,285
Takže důvod proč
všichni jsou opravdu nadšení

1460
01:05:42,286 --> 01:05:44,722
o umělé inteligenci
právě teď

1461
01:05:44,723 --> 01:05:48,073
je protože
tím více tyto společnosti humbukují

1462
01:05:48,074 --> 01:05:50,075
potenciální schopnosti
jejich technologie,

1463
01:05:50,076 --> 01:05:53,252
tím více investic
mohou přitahovat.

1464
01:05:53,253 --> 01:05:54,775
Amazon investuje až

1465
01:05:54,776 --> 01:05:57,039
čtyři miliardy dolarů
ve start-upu Antropic.

1466
01:05:57,040 --> 01:05:58,736
OpenAI se zaměřuje

1467
01:05:58,737 --> 01:06:00,781
na trhák polovinu
zhodnocení za bilion dolarů.

1468
01:06:00,782 --> 01:06:02,044
Půl bilionu!

1469
01:06:02,045 --> 01:06:03,262
Závod je v plném proudu.

1470
01:06:03,263 --> 01:06:04,655
To se děje
rychleji než kdy jindy.

1471
01:06:04,656 --> 01:06:06,657
Jsme v bublině AI?
Samozřejmě.

1472
01:06:06,658 --> 01:06:09,225
prostě nevim
bublina praskne

1473
01:06:09,226 --> 01:06:12,489
dokud ještě máš
tento hlavní výdajový cyklus.

1474
01:06:12,490 --> 01:06:15,057
I když si myslíš
tohle všechno je humbuk,

1475
01:06:15,058 --> 01:06:17,624
jsou tam miliardy
na biliony dolarů

1476
01:06:17,625 --> 01:06:21,150
proudí do vytváření systémů umělé inteligence
mocnější.

1477
01:06:21,151 --> 01:06:23,891
A jakmile tu věc budete mít
to je silnější,

1478
01:06:23,892 --> 01:06:25,589
firmy toho mohou využít

1479
01:06:25,590 --> 01:06:27,591
získat větší zisky
a vydělat více peněz.

1480
01:06:27,592 --> 01:06:30,159
Země toho mohou využít
vytvořit silnější armádu.

1481
01:06:30,160 --> 01:06:32,857
NVIDIA předběhla
Microsoft a Apple

1482
01:06:32,858 --> 01:06:36,295
stát se světovou
nejcennější společnost.

1483
01:06:36,296 --> 01:06:39,037
Závod o nasazení se stává
závod k bezohlednosti,

1484
01:06:39,038 --> 01:06:41,822
protože nemohou
nasadit to tak rychle

1485
01:06:41,823 --> 01:06:43,215
a také to správně.

1486
01:06:43,216 --> 01:06:46,088
Oni tomu věří
jsou to dobří kluci.

1487
01:06:46,089 --> 01:06:49,352
"A když to neudělám,
někdo, kdo nemá

1488
01:06:49,353 --> 01:06:51,615
„stejně dobré hodnoty jako já
bude sedět u stolu

1489
01:06:51,616 --> 01:06:54,487
dělat rozhodnutí, takže
Mám povinnost to udělat."

1490
01:06:54,488 --> 01:06:56,228
Ano, to je
velmi rozšířená víra.

1491
01:06:56,229 --> 01:06:58,622
Mnoho, mnoho, mnoho,
možná většina lidí

1492
01:06:58,623 --> 01:07:00,754
budování této technologie
věř tomu.

1493
01:07:00,755 --> 01:07:03,757
Mám obavy
komerční soutěž,

1494
01:07:03,758 --> 01:07:05,890
ale ukazuje se
Mám ještě větší obavy

1495
01:07:05,891 --> 01:07:08,066
geopolitická soutěž.

1496
01:07:08,067 --> 01:07:10,373
Byli jsme o osm let pozadu
před rokem.

1497
01:07:10,374 --> 01:07:12,636
Teď asi jsme
méně než jeden rok pozadu.

1498
01:07:12,637 --> 01:07:15,726
No, obě Saúdská Arábie
a Spojené arabské emiráty závodily

1499
01:07:15,727 --> 01:07:18,163
k zřízení datových center
a umístí se

1500
01:07:18,164 --> 01:07:20,426
jako dominantní síla v AI...

1501
01:07:20,427 --> 01:07:22,472
...vytvořit Jižní Koreu
globálního lídra v oblasti umělé inteligence.

1502
01:07:22,473 --> 01:07:24,039
Francouzský prezident Emmanuel Macron

1503
01:07:24,040 --> 01:07:25,910
hodně mluvil o
umělá inteligence...

1504
01:07:25,911 --> 01:07:27,477
Nyní více o roli Izraele

1505
01:07:27,478 --> 01:07:29,653
v umělé inteligenci
revoluce...

1506
01:07:29,654 --> 01:07:33,135
Země budou soutěžit
pro jehož technologie AI

1507
01:07:33,136 --> 01:07:34,919
vytvořit další generaci
průmyslu.

1508
01:07:34,920 --> 01:07:38,053
Číňané na tom trvají
ta AI,

1509
01:07:38,054 --> 01:07:39,880
jak se vyvíjí v Číně,

1510
01:07:39,881 --> 01:07:41,752
posílit základní hodnoty

1511
01:07:41,753 --> 01:07:44,059
čínské komunistické strany
a čínský systém.

1512
01:07:44,060 --> 01:07:48,759
Amerika musí porazit Čínu
v závodě AI.

1513
01:07:48,760 --> 01:07:51,066
Čína jako,
světelné roky pozadu.

1514
01:07:51,067 --> 01:07:52,719
jsou?

1515
01:07:52,720 --> 01:07:55,026
Chci říct, že mají mnohem víc
tréninková data než my,

1516
01:07:55,027 --> 01:07:57,855
a nic jim neříká
nepouštějte model příští měsíc

1517
01:07:57,856 --> 01:08:00,988
to není--
zdaleka nepřevyšuje GPT-4.

1518
01:08:00,989 --> 01:08:03,861
Všechno šlo v pohodě.
Co by se mohlo pokazit?

1519
01:08:03,862 --> 01:08:06,733
- DeepSeek...
- DeepSeek... -DeepSeek...

1520
01:08:06,734 --> 01:08:08,083
Je tu nový model.

1521
01:08:08,084 --> 01:08:10,868
Ale z čínské laboratoře
s názvem DeepSeek.

1522
01:08:10,869 --> 01:08:14,001
Pojďme si promluvit o DeepSeek,
protože je to ohromující,

1523
01:08:14,002 --> 01:08:17,701
a tohle se třese
celý průmysl až do jeho jádra.

1524
01:08:17,702 --> 01:08:19,442
Trumpova administrativa
zajistí

1525
01:08:19,443 --> 01:08:23,098
že nejmocnější
Systémy umělé inteligence jsou postaveny v USA

1526
01:08:23,099 --> 01:08:26,579
s americkým designem
a vyrobené čipy.

1527
01:08:26,580 --> 01:08:28,842
AI patří Číně
projekt Apollo.

1528
01:08:28,843 --> 01:08:30,235
Komunistická strana Číny

1529
01:08:30,236 --> 01:08:31,584
hluboce chápe potenciál

1530
01:08:31,585 --> 01:08:32,933
aby AI narušila válčení.

1531
01:08:32,934 --> 01:08:35,371
Google už neslibuje
že nebude

1532
01:08:35,372 --> 01:08:38,461
používat umělou inteligenci
pro zbraně nebo sledování.

1533
01:08:38,462 --> 01:08:40,071
Čína, Severní Korea, Rusko

1534
01:08:40,072 --> 01:08:41,942
budou to stavět dál
co nejrychleji

1535
01:08:41,943 --> 01:08:44,554
získat větší ekonomickou výhodu,
větší výhodu produktivity,

1536
01:08:44,555 --> 01:08:46,860
větší vědeckou výhodu,
větší vojenská výhoda,

1537
01:08:46,861 --> 01:08:48,688
protože AI vyrábí lepší zbraně.

1538
01:08:48,689 --> 01:08:51,778
Pokud mluvíte o
systém tak široký a schopný

1539
01:08:51,779 --> 01:08:53,345
jako brilantní vědec,

1540
01:08:53,346 --> 01:08:58,002
mohlo by to běžet
vojenské tažení

1541
01:08:58,003 --> 01:09:01,484
lepší než kterýkoli z generálů
ve vládě USA právě teď.

1542
01:09:01,485 --> 01:09:05,531
Tchaj-wan vytváří problém
největší napětí právě teď

1543
01:09:05,532 --> 01:09:07,925
mezi Pekingem a USA.

1544
01:09:07,926 --> 01:09:10,493
Je tam a-a přímý
opoziční nesouhlas

1545
01:09:10,494 --> 01:09:12,016
mezi USA a Čínou

1546
01:09:12,017 --> 01:09:14,018
o tom, zda je Tchaj-wan
část Číny.

1547
01:09:14,019 --> 01:09:18,457
Tchaj-wan je důležitý
z tolika důvodů.

1548
01:09:18,458 --> 01:09:20,590
Je také domovem

1549
01:09:20,591 --> 01:09:24,202
asi 90 % pokročilého čipu
výroba pro svět,

1550
01:09:24,203 --> 01:09:28,424
což znamená, že zásob
řetězec pro pokročilé výpočty

1551
01:09:28,425 --> 01:09:31,078
je v ohrožení by mělo být

1552
01:09:31,079 --> 01:09:32,993
nějaký scénář
kolem Tchaj-wanu,

1553
01:09:32,994 --> 01:09:38,042
zda a-blokáda
nebo invaze Číny.

1554
01:09:38,043 --> 01:09:40,740
Budeme v nějakém závodě

1555
01:09:40,741 --> 01:09:45,658
mezi USA a Čínou
která se nakonec přenese do

1556
01:09:45,659 --> 01:09:49,401
militarizované závody ve zbrojení AI a
víš, potenciálně vede

1557
01:09:49,402 --> 01:09:51,316
k nějakému velmocenskému konfliktu?

1558
01:09:51,317 --> 01:09:53,057
Odchozí
nejvyšší americký vojenský velitel

1559
01:09:53,058 --> 01:09:55,886
v regionu
předpovídal příchod války.

1560
01:09:55,887 --> 01:09:57,975
Myslím, že hrozba je zjevná
během tohoto desetiletí,

1561
01:09:57,976 --> 01:09:59,498
vlastně v příštích šesti letech.

1562
01:09:59,499 --> 01:10:01,457
Hm, jeden ze scénářů

1563
01:10:01,458 --> 01:10:05,896
že se obávám, je
kybernetická blesková válka,

1564
01:10:05,897 --> 01:10:10,944
hm, jeden ve kterém
kybernetické nástroje, které jsou autonomní

1565
01:10:10,945 --> 01:10:12,990
soutěží proti sobě

1566
01:10:12,991 --> 01:10:14,644
způsoby, které jsou eskalující

1567
01:10:14,645 --> 01:10:16,386
bez
smysluplnou lidskou kontrolu.

1568
01:10:18,823 --> 01:10:20,476
Žiješ ve válečné zóně,

1569
01:10:20,477 --> 01:10:23,827
bude o tom rozhodovat AI
zda bombardovat váš dům

1570
01:10:23,828 --> 01:10:25,785
a jestli tě zabít.

1571
01:10:25,786 --> 01:10:27,570
Necháme rozhodnout stroj.

1572
01:10:27,571 --> 01:10:29,398
To je to pokušení.

1573
01:10:29,399 --> 01:10:32,618
Proto je AI tak lákavá
aby je armáda přijala,

1574
01:10:32,619 --> 01:10:35,795
vytvořit autonomní zbraně,
protože když začnu věřit

1575
01:10:35,796 --> 01:10:39,190
že můj vojenský protivník
adoptuje AI,

1576
01:10:39,191 --> 01:10:41,845
bude to závod, kdo může
stisknout spoušť rychleji.

1577
01:10:41,846 --> 01:10:44,935
A ten, který automatizuje
to rozhodnutí,

1578
01:10:44,936 --> 01:10:47,242
spíše než mít
člověk ve smyčce,

1579
01:10:47,243 --> 01:10:49,244
je ten
který tu válku vyhraje.

1580
01:10:49,245 --> 01:10:50,680
A pokud se zamyslíte

1581
01:10:50,681 --> 01:10:53,074
závod v jaderném zbrojení
ve čtyřicátých letech...

1582
01:10:54,554 --> 01:10:56,599
...znáte Němce
pracují na bombě,

1583
01:10:56,600 --> 01:11:00,777
takže to není tak snadné říct
Robert Oppenheimer pak,

1584
01:11:00,778 --> 01:11:03,823
"Uh, víš, zpomal."

1585
01:11:03,824 --> 01:11:05,347
Takže po shlédnutí tohoto filmu,
bude to matoucí,

1586
01:11:05,348 --> 01:11:06,696
protože se vrátíš,

1587
01:11:06,697 --> 01:11:08,350
a zítra
budete používat ChatGPT,

1588
01:11:08,351 --> 01:11:10,482
a bude
neuvěřitelně užitečné.

1589
01:11:10,483 --> 01:11:12,745
A taky to využiju a
bude to neuvěřitelně užitečné.

1590
01:11:12,746 --> 01:11:16,183
A ty řekneš: „Počkej, tak
Právě jsem viděl tento film o AI

1591
01:11:16,184 --> 01:11:18,055
„a existenční riziko
a všechny tyto věci,

1592
01:11:18,056 --> 01:11:20,666
a kde je zase ta hrozba?"

1593
01:11:20,667 --> 01:11:24,757
A není to tím, že ChatGPT je
existenční hrozba.

1594
01:11:24,758 --> 01:11:28,718
Je to závod o nasazení
nejmocnější,

1595
01:11:28,719 --> 01:11:31,677
nevyzpytatelný,
nekontrolovatelné technologie,

1596
01:11:31,678 --> 01:11:35,159
pod tím nejhorším
možné pobídky,

1597
01:11:35,160 --> 01:11:37,031
to je existenční hrozba.

1598
01:11:38,119 --> 01:11:40,425
Ale napadá mě, že-to

1599
01:11:40,426 --> 01:11:43,254
jsme v kontextu rasy.

1600
01:11:43,255 --> 01:11:45,952
-Ano.
- A je to v soutěži,

1601
01:11:45,953 --> 01:11:47,693
"Nejdřív se tam musím dostat,
nastavení závodu,

1602
01:11:47,694 --> 01:11:49,042
"Musím soutěžit s Čínou,

1603
01:11:49,043 --> 01:11:50,392
musí soutěžit
ostatní laboratoře."

1604
01:11:50,393 --> 01:11:51,871
Není to tak?

1605
01:11:51,872 --> 01:11:53,699
Dnes je tomu tak.

1606
01:11:53,700 --> 01:11:56,703
Musíme se tedy změnit
ta závodní dynamika.

1607
01:11:57,922 --> 01:11:59,966
nemyslíš?

1608
01:11:59,967 --> 01:12:02,187
Myslím, že by to tak bylo
opravdu velmi dobré.

1609
01:12:03,710 --> 01:12:06,538
Já-myslím
je tam nějaký druh...

1610
01:12:06,539 --> 01:12:09,585
mystika kolem AI
to dává pocit

1611
01:12:09,586 --> 01:12:11,761
spadlo to z nebe.

1612
01:12:11,762 --> 01:12:13,502
Přemýšlím o tom
jako božská technologie

1613
01:12:13,503 --> 01:12:15,460
je problém.

1614
01:12:15,461 --> 01:12:16,897
Jo.

1615
01:12:18,072 --> 01:12:19,943
Proč?

1616
01:12:19,944 --> 01:12:23,033
Dává licenci
do společností, aby...

1617
01:12:23,034 --> 01:12:26,297
nenést odpovědnost

1618
01:12:26,298 --> 01:12:30,823
za věci, které software
které postavili.

1619
01:12:30,824 --> 01:12:35,132
Kdyby lidé vytvořili toto spojení,

1620
01:12:35,133 --> 01:12:37,569
možná by to chtělo,
pomozte jim znovu pochopit

1621
01:12:37,570 --> 01:12:41,878
dynamika
všechny peníze a moc a...

1622
01:12:41,879 --> 01:12:45,360
chaos, který se děje...

1623
01:12:45,361 --> 01:12:47,144
vytvořit tuto technologii.

1624
01:12:47,145 --> 01:12:49,276
Je to asi pět chlapů
kdo to ovládá, že?

1625
01:12:49,277 --> 01:12:51,670
- Jako pět mužů?
- V podstatě ano.

1626
01:12:51,671 --> 01:12:53,890
- Generální ředitelé?
- Ano.

1627
01:12:53,891 --> 01:12:55,371
Dobře.

1628
01:13:01,072 --> 01:13:03,116
Někdy mi to připadá

1629
01:13:03,117 --> 01:13:07,294
Byl jsem na tom
prostě nekonečná cesta

1630
01:13:07,295 --> 01:13:09,384
že se to snažím pochopit.

1631
01:13:09,385 --> 01:13:12,388
Víš, jako
Lezu na horu...

1632
01:13:15,608 --> 01:13:19,176
...a pokaždé
Jako bych se dostal na kopec,

1633
01:13:19,177 --> 01:13:20,786
Myslím, že jsem dosáhl vrcholu,

1634
01:13:20,787 --> 01:13:23,441
ale prostě to jde dál
a jít a jít.

1635
01:13:24,574 --> 01:13:27,010
Ale ze všeho, co jsem slyšel,

1636
01:13:27,011 --> 01:13:30,405
kdybych měl hádat co
na vrcholu hory úzkosti,

1637
01:13:30,406 --> 01:13:34,234
je to těchto pět generálních ředitelů
z těchto pěti společností,

1638
01:13:34,235 --> 01:13:37,673
kteří jsou tak trochu jako
Oppenheimers tohoto okamžiku.

1639
01:13:37,674 --> 01:13:39,501
To jsou chlapi
kteří tu věc staví.

1640
01:13:39,502 --> 01:13:40,850
Jo.

1641
01:13:40,851 --> 01:13:44,201
Jako, je nějaký plán?

1642
01:13:44,202 --> 01:13:46,464
Vedoucí společnosti
to dělá ChatGPT

1643
01:13:46,465 --> 01:13:49,989
varován před možným
světu značné škody.

1644
01:13:49,990 --> 01:13:52,427
Myslím, že pokud tato technologie
pokazí se,

1645
01:13:52,428 --> 01:13:53,515
může to dopadnout docela špatně.

1646
01:13:55,822 --> 01:13:57,823
Pět chlapů.

1647
01:13:57,824 --> 01:14:01,610
Nikdy jsem o nás nepřemýšlel
jako společnost sociálních médií.

1648
01:14:01,611 --> 01:14:06,092
Mám pocit, že to musím zkusit
a najít tyhle lidi...

1649
01:14:06,093 --> 01:14:07,224
Mm-hmm.

1650
01:14:07,225 --> 01:14:09,009
...a dostat je do filmu.

1651
01:14:10,315 --> 01:14:12,622
Určitě bychom dostali
z toho nějaká jasnost.

1652
01:14:16,582 --> 01:14:19,192
Chci říct, dolar se musí zastavit
někde, jo?

1653
01:14:34,034 --> 01:14:35,339
Jaký je to pocit?

1654
01:14:35,340 --> 01:14:37,733
- Skvělé.
- Dobře?

1655
01:14:37,734 --> 01:14:39,474
Jo.

1656
01:14:39,475 --> 01:14:41,040
- Mohu posunout sedadlo dopředu?
-Ano, můžeš.

1657
01:14:41,041 --> 01:14:42,215
Je to, uh, je to prostě
trochu trapné.

1658
01:14:42,216 --> 01:14:43,608
Jsem trochu jako...

1659
01:14:43,609 --> 01:14:45,088
Dario, jak se cítíš?
o té židli?

1660
01:14:45,089 --> 01:14:47,046
Hm, jo, židle je dobrá.

1661
01:14:47,047 --> 01:14:48,874
Jen jsem to chtěl posunout
trochu dopředu. -Dobře.

1662
01:14:48,875 --> 01:14:50,572
Vybral jsem si tu židli.

1663
01:14:50,573 --> 01:14:52,182
- Je to dobrá židle.
- Díky.

1664
01:14:57,884 --> 01:14:59,495
A jen si tam sedni.

1665
01:15:01,409 --> 01:15:03,106
A pak tudy,

1666
01:15:03,107 --> 01:15:04,411
budeme se na sebe dívat
přes toto sklo.

1667
01:15:11,419 --> 01:15:13,595
A sedět zpátky v křesle,
předklonit se?

1668
01:15:13,596 --> 01:15:15,161
Jo. No, cokoli
pohodlné, myslím. -Dobře.

1669
01:15:15,162 --> 01:15:16,728
Je to tak trochu v pohodě.
Je tam hromada zrcadel.

1670
01:15:16,729 --> 01:15:17,860
- Je to-- v pořádku.
-Sam A., vezmi si jeden. Označit.

1671
01:15:17,861 --> 01:15:19,557
- Jak to?
- Dobře. Děkuju.

1672
01:15:19,558 --> 01:15:21,080
Geneze
tohoto projektu je, že jsem byl

1673
01:15:21,081 --> 01:15:22,865
sedět doma,
a hrál jsem si s tím,

1674
01:15:22,866 --> 01:15:24,431
Myslím, že váš generátor obrázků,

1675
01:15:24,432 --> 01:15:27,304
a zároveň jsem byl,
uh, vyděšený

1676
01:15:27,305 --> 01:15:29,480
a opravdu dojem.

1677
01:15:29,481 --> 01:15:31,917
- To je obvyklá kombinace.
- A pak stříhat

1678
01:15:31,918 --> 01:15:34,659
moje žena a já zjistíme
očekáváme.

1679
01:15:34,660 --> 01:15:38,315
A - a mám
existenční krize

1680
01:15:38,316 --> 01:15:40,273
jako moje žena
šest měsíců těhotenství.

1681
01:15:40,274 --> 01:15:42,972
A myslím, že moje první otázka,
na které se každého ptám:

1682
01:15:42,973 --> 01:15:45,496
Teď je hrozná doba
mít dítě?

1683
01:15:45,497 --> 01:15:47,411
Dělám velkou chybu?

1684
01:15:47,412 --> 01:15:49,065
Čekám dítě
i v březnu. Můj první.

1685
01:15:49,066 --> 01:15:50,545
- Čekáte dítě?
- Ano.

1686
01:15:50,546 --> 01:15:51,850
- Očekáváte v březnu?
- První dítě.

1687
01:15:51,851 --> 01:15:53,330
- Mazel tov.
- Děkuji mnohokrát.

1688
01:15:53,331 --> 01:15:54,505
Nikdy jsem nebyl tak nadšený
na cokoliv.

1689
01:15:54,506 --> 01:15:56,507
- Tak se cítím.
- Ano.

1690
01:15:56,508 --> 01:15:58,248
Ale vy se nebojíte?

1691
01:15:58,249 --> 01:16:02,774
Chci říct, mít dítě je
právě tato významná věc

1692
01:16:02,775 --> 01:16:05,037
že já, víš,
Zůstávám vzhůru každou noc, jako

1693
01:16:05,038 --> 01:16:06,865
o čtení těchto knih
jak vychovat dítě,

1694
01:16:06,866 --> 01:16:08,258
a doufám
Udělám dobrou práci,

1695
01:16:08,259 --> 01:16:09,302
a cítí se
velmi ohromující a--

1696
01:16:09,303 --> 01:16:12,088
ale nebojím se...

1697
01:16:12,089 --> 01:16:14,090
aby děti vyrostly
ve světě s AI.

1698
01:16:14,091 --> 01:16:16,353
Jako, to je... to bude v pořádku.

1699
01:16:16,354 --> 01:16:19,051
To je dobré slyšet
pocházející od chlapa.

1700
01:16:19,052 --> 01:16:20,792
Myslím, že je to úžasný nápad
mít děti.

1701
01:16:20,793 --> 01:16:23,273
Myslím, že jsou nejvíc
magická, neuvěřitelná věc.

1702
01:16:23,274 --> 01:16:25,318
Je tu tolik nejistoty,

1703
01:16:25,319 --> 01:16:26,885
Skoro bych to udělal
co stejně budeš dělat.

1704
01:16:26,886 --> 01:16:28,974
Vím, že ne
velmi uspokojivá odpověď,

1705
01:16:28,975 --> 01:16:31,934
ale je to jediné
umím vymyslet.

1706
01:16:31,935 --> 01:16:34,501
Naše děti nikdy nebudou...

1707
01:16:34,502 --> 01:16:37,113
poznat svět, který nemá
opravdu pokročilá AI.

1708
01:16:37,114 --> 01:16:39,898
Ve skutečnosti naše děti nikdy nebudou
být chytřejší než AI.

1709
01:16:39,899 --> 01:16:42,118
„Naše děti budou
nikdy nebude chytřejší než AI“?

1710
01:16:42,119 --> 01:16:44,381
No, ze syrového,
ze surového IQ pohledu,

1711
01:16:44,382 --> 01:16:46,296
nikdy nebudou
chytřejší než AI.

1712
01:16:46,297 --> 01:16:48,080
Ta představa ne
trochu tě zneklidnit?

1713
01:16:48,081 --> 01:16:51,170
Protože to ve mně vyvolává pocit
zvláštním způsobem trochu nevolno.

1714
01:16:51,171 --> 01:16:54,826
Hm, to mě znepokojuje
trochu.

1715
01:16:54,827 --> 01:16:56,306
Ale je to realita.

1716
01:16:56,307 --> 01:16:58,308
Dobře, takže dynamika závodu.

1717
01:16:58,309 --> 01:17:01,050
Máme hromadu lidí
kteří se všichni shodují

1718
01:17:01,051 --> 01:17:02,921
že je to děsivé.

1719
01:17:02,922 --> 01:17:04,793
Na základě časových plánů, které
hodně lidí mi dalo,

1720
01:17:04,794 --> 01:17:07,056
máme dva měsíce a
pět let, abychom to zjistili.

1721
01:17:07,057 --> 01:17:08,710
- Ano.
- A, myslím,

1722
01:17:08,711 --> 01:17:12,845
moje největší otázka je:
Proč prostě nemůžeme přestat?

1723
01:17:14,499 --> 01:17:19,111
Problém s, uh, uh,
"jen se zastavit" je to, um,

1724
01:17:19,112 --> 01:17:22,245
teď existuje mnoho, mnoho skupin
po celém světě, uh, uh,

1725
01:17:22,246 --> 01:17:25,727
budování tohoto, pro
mnoho národů, mnoho společností,

1726
01:17:25,728 --> 01:17:28,164
um, všechny s
různé motivace.

1727
01:17:28,165 --> 01:17:30,819
Existují některé z
tyto společnosti v tomto prostoru

1728
01:17:30,820 --> 01:17:34,039
kdo je jejich pozice: „Chceme
vyvinout tuto technologii

1729
01:17:34,040 --> 01:17:36,085
absolutně co nejrychleji."

1730
01:17:36,086 --> 01:17:40,089
A to i v případě, že bychom mohli přijímat zákony
v USA a v Evropě,

1731
01:17:40,090 --> 01:17:42,439
musíme přesvědčit...

1732
01:17:42,440 --> 01:17:45,007
Si Ťin-pching a Vladimir Putin
nebo víš,

1733
01:17:45,008 --> 01:17:47,487
kdokoli jejich vědecký
poradci jsou na jejich straně.

1734
01:17:47,488 --> 01:17:49,272
To bude opravdu těžké.

1735
01:17:49,273 --> 01:17:50,969
Myslím, že je to pravda

1736
01:17:50,970 --> 01:17:53,624
že pokud jsou dva lidé
přesně na stejném místě,

1737
01:17:53,625 --> 01:17:55,931
ten ochoten vzít
více zkratek pro bezpečnost

1738
01:17:55,932 --> 01:17:58,107
měl by tak nějak
"nejdřív tam."

1739
01:17:58,108 --> 01:18:01,110
Uh, ale...

1740
01:18:01,111 --> 01:18:02,981
jsme schopni využít náš náskok

1741
01:18:02,982 --> 01:18:06,028
trávit mnohem více času
dělat bezpečnostní testy.

1742
01:18:06,029 --> 01:18:08,030
A co když to ztratíte?

1743
01:18:08,031 --> 01:18:09,640
Dostaneš hovor
a zjistíte

1744
01:18:09,641 --> 01:18:11,729
že teď jsi, řekněme,
šest měsíců pozadu.

1745
01:18:11,730 --> 01:18:14,297
- Co se stane potom?
- Záleží, za kým jsme pozadu.

1746
01:18:14,298 --> 01:18:16,865
Pokud je to jako,
nepřátelská vláda,

1747
01:18:16,866 --> 01:18:18,867
to je asi opravdu špatné.

1748
01:18:18,868 --> 01:18:21,391
Takže řekněme, že dostanete hovor
že Čína má,

1749
01:18:21,392 --> 01:18:24,829
má rekurzivně
sebezdokonalující se agent

1750
01:18:24,830 --> 01:18:27,223
nebo něco takového, že my
by se měl opravdu obávat.

1751
01:18:27,224 --> 01:18:29,226
Co dělat-- co-co se stane?

1752
01:18:30,967 --> 01:18:32,403
ehm...

1753
01:18:35,406 --> 01:18:37,276
Takový případ by vyžadoval...

1754
01:18:37,277 --> 01:18:40,715
první krok by tam byl
mluvit s americkou vládou.

1755
01:18:40,716 --> 01:18:42,978
Same, věříš
schopnost vlády zvládnout

1756
01:18:42,979 --> 01:18:44,676
něco takového?

1757
01:18:45,895 --> 01:18:47,809
Ano, vlastně ano.

1758
01:18:47,810 --> 01:18:49,593
Jsou jiné věci, které ne
věřit vládě, že to zvládne,

1759
01:18:49,594 --> 01:18:51,203
ale ten konkrétní scénář,
Myslím, že by věděli...

1760
01:18:51,204 --> 01:18:52,814
oni-oni-- ano.

1761
01:18:52,815 --> 01:18:54,467
když máš,
jako soukromé diskuse

1762
01:18:54,468 --> 01:18:56,426
s ostatními kluky, jejichž
prsty jsou na spoušti,

1763
01:18:56,427 --> 01:18:59,646
abych tak řekl, ehm,
dělat ty soukromé diskuse

1764
01:18:59,647 --> 01:19:01,344
naplní vás důvěrou

1765
01:19:01,345 --> 01:19:03,389
nebo tě dělají,
Uh, více úzkostné?

1766
01:19:03,390 --> 01:19:07,132
Podívejte, myslím, já-já nějaké znám
z nich lepší než ostatní.

1767
01:19:07,133 --> 01:19:10,179
Hm, mám větší důvěru
v některých z nich th-než mám

1768
01:19:10,180 --> 01:19:12,398
v jiných, víš,
jako se všemi lidmi.

1769
01:19:12,399 --> 01:19:14,183
víš,
přemýšlíš, víš,

1770
01:19:14,184 --> 01:19:15,880
děti na vaší střední škole
třída nebo tak něco, že?

1771
01:19:15,881 --> 01:19:18,317
Víte, někteří z nich jsou,
víš, opravdu sladké.

1772
01:19:18,318 --> 01:19:20,450
Některé z nich jsou míněny dobře
ale ne tak efektivní.

1773
01:19:20,451 --> 01:19:22,408
Některé z nich jsou,
víš, tyrani.

1774
01:19:22,409 --> 01:19:23,801
Některé z nich jsou
opravdu špatní lidé.

1775
01:19:23,802 --> 01:19:25,716
Ty-ty trochu opravdu,

1776
01:19:25,717 --> 01:19:27,109
opravdu vidíte šíření.

1777
01:19:27,110 --> 01:19:28,850
Víš, jsem, jsem,
jsem si jistý?

1778
01:19:28,851 --> 01:19:30,590
že to udělá každý
správná věc,

1779
01:19:30,591 --> 01:19:32,070
že to všechno dopadne?

1780
01:19:32,071 --> 01:19:33,898
Um, ne, nejsem.

1781
01:19:33,899 --> 01:19:35,552
A je-není nic
S tím můžu udělat, ne?

1782
01:19:35,553 --> 01:19:37,815
Víš, všechno, co můžu udělat
je-je tlak na,

1783
01:19:37,816 --> 01:19:39,208
tlačit na, víš,

1784
01:19:39,209 --> 01:19:40,818
tlačit na vládu
zapojit se.

1785
01:19:40,819 --> 01:19:42,689
Ale nakonec jsem prostě
jedna osoba tam taky.

1786
01:19:42,690 --> 01:19:44,169
To je--
je to na nás všech

1787
01:19:44,170 --> 01:19:46,084
tlačit na vládu
zapojit se.

1788
01:19:46,085 --> 01:19:48,521
To je číslo jedna
to-co si myslím, že musíme udělat

1789
01:19:48,522 --> 01:19:50,959
to-to, víte, nastavit věci
správným směrem.

1790
01:19:50,960 --> 01:19:52,787
Co mě znervózňuje
o tom je jako,

1791
01:19:52,788 --> 01:19:56,225
základní skutečnost, že
rychlost, jakou technologie

1792
01:19:56,226 --> 01:19:58,444
se množí a roste
je exponenciální,

1793
01:19:58,445 --> 01:20:01,491
a legislativní mechanismy
jsou staré 300 let,

1794
01:20:01,492 --> 01:20:02,971
- trvat navždy.
- Ano.

1795
01:20:02,972 --> 01:20:05,147
Um, myslím
bude to těžký výtah.

1796
01:20:05,148 --> 01:20:06,931
Já-určitě souhlasím
s vámi na to.

1797
01:20:06,932 --> 01:20:08,933
víš,
co doslova hledám

1798
01:20:08,934 --> 01:20:11,283
je-je jako,
"Tady jsou kroky, jako např.

1799
01:20:11,284 --> 01:20:15,200
"Hlavní honchos budou."
zaměřte se na bezpečnost,

1800
01:20:15,201 --> 01:20:18,160
ke zmírnění nebezpečí
a maximalizovat slib."

1801
01:20:18,161 --> 01:20:20,162
a já ne,
Nevím, nevím

1802
01:20:20,163 --> 01:20:21,859
že tam je
na to jednoduchá odpověď.

1803
01:20:21,860 --> 01:20:23,296
ehm...

1804
01:20:25,951 --> 01:20:27,604
Chci říct, tohle možná je
příliš jednoduché,

1805
01:20:27,605 --> 01:20:30,215
ale ty...

1806
01:20:30,216 --> 01:20:32,000
vytvořit nový model,

1807
01:20:32,001 --> 01:20:34,829
studujete a testujete
velmi opatrně.

1808
01:20:34,830 --> 01:20:37,266
Ty jsi to dal ven
do světa postupně,

1809
01:20:37,267 --> 01:20:39,572
a pak víc a víc,
rozumíš

1810
01:20:39,573 --> 01:20:41,270
jestli je to bezpečné nebo ne,
a pokud je,

1811
01:20:41,271 --> 01:20:42,707
můžete udělat další krok.

1812
01:20:44,404 --> 01:20:47,145
Nezní to tak okázale
jako brilantní vědec

1813
01:20:47,146 --> 01:20:50,496
přijít s jedním nápadem v a
laboratoř na vytvoření systému umělé inteligence, např.

1814
01:20:50,497 --> 01:20:54,022
dokonale bezpečné a ovladatelné
a všechno ostatní,

1815
01:20:54,023 --> 01:20:55,762
ale tomu věřím
stane se.

1816
01:20:55,763 --> 01:20:57,329
Jako, to je cesta
Myslím, že to funguje.

1817
01:20:57,330 --> 01:20:59,331
Ale řekněme
stane se něco hrozného,

1818
01:20:59,332 --> 01:21:01,856
jako když se modelka uvolní
nebo se zblázní nebo tak něco.

1819
01:21:01,857 --> 01:21:03,509
Existuje protokol?

1820
01:21:03,510 --> 01:21:05,860
Jako doslova,
Představuji si červený telefon.

1821
01:21:05,861 --> 01:21:07,165
- Ano.
- Promiň, že jsem na to myslel

1822
01:21:07,166 --> 01:21:08,558
pokud jde o filmy, ale jako...

1823
01:21:08,559 --> 01:21:10,038
Existuje protokol.

1824
01:21:10,039 --> 01:21:11,517
Je tam červený telefon
na vašem stole? -Žádný.

1825
01:21:11,518 --> 01:21:13,258
Je to tajemství?

1826
01:21:13,259 --> 01:21:15,434
Chci říct, uh, ne, není,
není to tak fantastické nebo dramatické

1827
01:21:15,435 --> 01:21:17,219
jak bys doufal,
ale je tu jako, víš...

1828
01:21:17,220 --> 01:21:18,916
přemýšleli jsme
tyto scénáře,

1829
01:21:18,917 --> 01:21:20,570
a pokud se to stane,
zavoláme těmto lidem

1830
01:21:20,571 --> 01:21:22,006
v tomto pořadí a udělejte to

1831
01:21:22,007 --> 01:21:23,486
a druh značky
tato rozhodnutí, pokud jako...

1832
01:21:23,487 --> 01:21:26,097
Já tomu věřím
když máš příležitost

1833
01:21:26,098 --> 01:21:29,100
abys předtím přemýšlel
nastane stresová situace,

1834
01:21:29,101 --> 01:21:30,449
to je skoro vždy
dobrý nápad.

1835
01:21:30,450 --> 01:21:31,798
A zapsat si to je užitečné.

1836
01:21:31,799 --> 01:21:33,279
- Být připraven je užitečné.
- Ano.

1837
01:21:34,324 --> 01:21:36,064
ty...

1838
01:21:36,065 --> 01:21:38,805
Bylo by to nemožné
abych seděl naproti tobě

1839
01:21:38,806 --> 01:21:41,199
a - a požádat tě, abys mi to slíbil
že to dopadne dobře?

1840
01:21:41,200 --> 01:21:43,898
To je nemožné.

1841
01:21:43,899 --> 01:21:45,725
Neexistují žádné jednoduché odpovědi, bohužel.

1842
01:21:45,726 --> 01:21:48,119
Protože je to tak
špičková technologie,

1843
01:21:48,120 --> 01:21:49,816
hm, ještě je
spoustu neznámých.

1844
01:21:49,817 --> 01:21:52,297
A to si myslím
to-to musí být,

1845
01:21:52,298 --> 01:21:55,083
hm, rozumíš

1846
01:21:55,084 --> 01:21:59,000
a – a tedy potřeba
pro, uh, uh, trochu opatrnosti.

1847
01:21:59,001 --> 01:22:00,915
Probouzím se, víš, každý den,

1848
01:22:00,916 --> 01:22:03,482
toto je, toto je
číslo jedna, o čem přemýšlím.

1849
01:22:03,483 --> 01:22:05,180
Podívej, jsem člověk,

1850
01:22:05,181 --> 01:22:08,400
a, víte, má-má
každé rozhodnutí bylo dokonalé?

1851
01:22:08,401 --> 01:22:11,664
Mohu dokonce říci své motivace
byly vždy naprosto jasné?

1852
01:22:11,665 --> 01:22:13,579
Samozřejmě že ne.
To nikdo nemůže říct.

1853
01:22:13,580 --> 01:22:16,408
Jako, to je-to je
prostě ne, jako, víš--

1854
01:22:16,409 --> 01:22:18,671
to je-to prostě není
jak lidé pracují.

1855
01:22:18,672 --> 01:22:21,065
Dějiny vědy
bývá to tak,

1856
01:22:21,066 --> 01:22:23,589
v dobrém i ve zlém,
pokud je možné něco udělat...

1857
01:22:23,590 --> 01:22:27,028
a nyní víme, že umělá inteligence je možná
dělat – lidstvo to dělá.

1858
01:22:27,029 --> 01:22:29,769
Tohle všechno
bylo-se mělo stát.

1859
01:22:29,770 --> 01:22:32,337
Tento-tento vlak
se nezastaví.

1860
01:22:32,338 --> 01:22:34,296
Nemůžeš předstoupit
vlak a zastavit ho.

1861
01:22:34,297 --> 01:22:36,298
Prostě budeš zmáknutý.

1862
01:22:36,299 --> 01:22:38,388
Chci říct, je to velmi stresující.

1863
01:22:39,606 --> 01:22:41,085
Víš, je tam jako,

1864
01:22:41,086 --> 01:22:42,695
spoustu věcí
mnoho z nás neví.

1865
01:22:42,696 --> 01:22:46,395
Myslím, že historie
vědeckého objevu je

1866
01:22:46,396 --> 01:22:48,310
jeden z nevědomí
co nevíš

1867
01:22:48,311 --> 01:22:49,702
a zjišťovat za pochodu.

1868
01:22:49,703 --> 01:22:53,010
Uh, ale ano, je to...

1869
01:22:53,011 --> 01:22:56,622
je to stresující způsob života.

1870
01:22:56,623 --> 01:22:58,798
Právo. Same, děkuji
moc za to.

1871
01:22:58,799 --> 01:23:00,539
- A znovu, mazel tov.
- Děkuji. A tobě.

1872
01:23:00,540 --> 01:23:02,715
Děkuji mnohokrát. Díky chlapi.

1873
01:23:47,848 --> 01:23:49,327
Ahoj.

1874
01:23:49,328 --> 01:23:50,589
Hej, tati, jak se máš?

1875
01:23:50,590 --> 01:23:51,634
Dobrý. jak se máš?

1876
01:23:51,635 --> 01:23:53,114
Pracuješ? co chystáš?

1877
01:23:53,115 --> 01:23:55,290
Pracuji na tomto filmu o AI.

1878
01:23:55,291 --> 01:23:57,857
a jak to jde?

1879
01:23:57,858 --> 01:24:00,469
Víte, to... je to opravdu...

1880
01:24:00,470 --> 01:24:02,210
-Ahoj zlatíčko.
-Ahoj, mami.

1881
01:24:02,211 --> 01:24:03,907
Takže co je
premisa filmu?

1882
01:24:03,908 --> 01:24:06,562
Je to dokument?
Kev, už nepoužívejte koření.

1883
01:24:06,563 --> 01:24:08,346
Už je to překořeněné.

1884
01:24:08,347 --> 01:24:10,479
Právě děláme kuře.

1885
01:24:10,480 --> 01:24:12,655
- Je to dokument nebo co...
-Jde o...

1886
01:24:12,656 --> 01:24:14,004
film je o
konec světa.

1887
01:24:14,005 --> 01:24:15,832
Přichází konec světa,

1888
01:24:15,833 --> 01:24:17,616
a točíme film
o konci světa.

1889
01:24:17,617 --> 01:24:19,879
-Opravdu?
-Jo.

1890
01:24:19,880 --> 01:24:21,620
Trochu depresivní
film, to zní.

1891
01:24:21,621 --> 01:24:23,492
Jo.

1892
01:24:23,493 --> 01:24:29,019
Cítím se hodně,
jako... tato velmi akutní úzkost.

1893
01:24:29,020 --> 01:24:31,413
Je to tak děsivé,
ale musí tam být...

1894
01:24:31,414 --> 01:24:35,330
víš, setkali jste se
někteří-někteří superchytří lidé

1895
01:24:35,331 --> 01:24:37,810
které vám dávají nějaké odpovědi?

1896
01:24:37,811 --> 01:24:39,508
To je to, co je
frustrující.

1897
01:24:39,509 --> 01:24:41,379
Nikdo neví.

1898
01:24:41,380 --> 01:24:43,947
Jediné, co k tomu mohu říci, je to

1899
01:24:43,948 --> 01:24:49,909
každá generace měla
něco takového děsivého.

1900
01:24:49,910 --> 01:24:52,260
Když jsem se narodil, bylo
kubánskou raketovou krizi.

1901
01:24:54,306 --> 01:24:56,394
Tam jsem se toho prostě bál
měla být jaderná válka.

1902
01:24:56,395 --> 01:24:57,787
Ano, ale nevěděli jsme

1903
01:24:57,788 --> 01:24:59,136
co budou dělat a...

1904
01:24:59,137 --> 01:25:00,572
A svět neskončil.

1905
01:25:00,573 --> 01:25:01,660
Všichni se probudili
druhý den ráno,

1906
01:25:01,661 --> 01:25:03,445
a stále děláme svou věc.

1907
01:25:03,446 --> 01:25:05,011
velmi se bojím,

1908
01:25:05,012 --> 01:25:06,883
zejména v
kontext např.

1909
01:25:06,884 --> 01:25:09,190
víš, dítě a...

1910
01:25:09,191 --> 01:25:10,582
Bude to křivka učení.

1911
01:25:10,583 --> 01:25:12,106
Budeš v pořádku.

1912
01:25:12,107 --> 01:25:13,107
nemůžeš,
nemůžeš přemýšlet

1913
01:25:13,108 --> 01:25:14,369
co nemůžeš ovlivnit, Danieli.

1914
01:25:14,370 --> 01:25:16,197
Jen si to zapamatujte.

1915
01:25:16,198 --> 01:25:17,720
Opravdu, opravdu se cítím

1916
01:25:17,721 --> 01:25:19,243
nervózní a vyděšený z toho.

1917
01:25:19,244 --> 01:25:21,071
Je toho tolik
že nemohu ovládat.

1918
01:25:21,072 --> 01:25:23,900
Nebuď nervózní.
To nesmíš dopustit.

1919
01:25:23,901 --> 01:25:26,294
Můžete pouze ovládat
co můžeš ovládat,

1920
01:25:26,295 --> 01:25:27,947
a to je vše, co můžete udělat.

1921
01:25:27,948 --> 01:25:30,646
Víc než to udělat nemůžete.

1922
01:25:30,647 --> 01:25:32,649
Zapište si to do své knihy.

1923
01:25:49,274 --> 01:25:51,623
Když se podíváš zpět,

1924
01:25:51,624 --> 01:25:54,496
svět je vždycky konec.

1925
01:25:54,497 --> 01:25:56,846
A když se podíváš dopředu,

1926
01:25:56,847 --> 01:25:59,283
svět je vždycky konec.

1927
01:25:59,284 --> 01:26:02,199
...v plamenech.
Jeden dům už hoří...

1928
01:26:02,200 --> 01:26:05,377
Ale svět
také vždy začíná.

1929
01:26:07,988 --> 01:26:09,989
Jste připraveni?

1930
01:26:09,990 --> 01:26:11,992
Jste někdy opravdu připraveni?

1931
01:26:15,909 --> 01:26:17,693
Chcete řídit
nebo chceš, abych řídil?

1932
01:26:17,694 --> 01:26:18,782
Ty řídíš.

1933
01:26:20,479 --> 01:26:21,871
Dobře.

1934
01:26:21,872 --> 01:26:23,742
Děkuji, Maria.

1935
01:26:23,743 --> 01:26:26,310
Prostě to bude
cítit se opravdu křečovitě.

1936
01:26:26,311 --> 01:26:27,833
-Dobře.
-Jsi připraven?

1937
01:26:27,834 --> 01:26:29,095
Ano.

1938
01:26:30,968 --> 01:26:32,404
Můžete být v a
lékařské drama s tím vším...

1939
01:26:49,116 --> 01:26:51,075
...nějaký tlak.

1940
01:26:52,685 --> 01:26:54,078
Jen relaxovat.

1941
01:27:02,129 --> 01:27:04,957
Ahoj kamaráde. Ooh.

1942
01:27:04,958 --> 01:27:06,481
Ahoj kamaráde.

1943
01:27:31,202 --> 01:27:33,725
Bude to úplně nový svět

1944
01:27:33,726 --> 01:27:35,032
pro tebe, Danieli.

1945
01:27:37,208 --> 01:27:40,080
A myslím, že budeš
úžasný otec.

1946
01:27:41,517 --> 01:27:44,388
To je jisté.

1947
01:27:44,389 --> 01:27:46,651
Ó.

1948
01:27:48,698 --> 01:27:50,787
Odvedeš skvělou práci.

1949
01:27:51,788 --> 01:27:53,092
Keve, proč pláčeš?

1950
01:27:53,093 --> 01:27:54,659
Pláču, protože...

1951
01:27:54,660 --> 01:27:57,096
já nevím. Já prostě ne...

1952
01:27:57,097 --> 01:27:59,360
Tati, budeš
rozplač mě taky.

1953
01:27:59,361 --> 01:28:00,710
proč pláčeš?

1954
01:28:03,190 --> 01:28:05,540
Já to prostě vím
budeš úžasný táta.

1955
01:28:05,541 --> 01:28:07,150
Budu jen skvělý táta

1956
01:28:07,151 --> 01:28:09,718
protože jsem měl skvělého tátu.

1957
01:28:09,719 --> 01:28:12,329
Začínám být emotivní,
to je vše.

1958
01:28:12,330 --> 01:28:13,722
Oj.

1959
01:28:14,941 --> 01:28:16,594
Chlapče, chlapče!

1960
01:28:16,595 --> 01:28:17,857
Můj bože!

1961
01:28:18,902 --> 01:28:24,820
Podívejte se na ty malé drzouny.
Podívejte se na ty malé drzouny.

1962
01:28:24,821 --> 01:28:26,387
Jo.

1963
01:28:26,388 --> 01:28:28,433
Vím, jak tento film ukončit.

1964
01:28:29,478 --> 01:28:32,306
Miminka.

1965
01:28:32,307 --> 01:28:35,309
Konec filmu je o
miminka.-

1966
01:28:35,310 --> 01:28:37,136
Potvrzují život.

1967
01:28:37,137 --> 01:28:38,964
Jsou vyčerpávající.

1968
01:28:38,965 --> 01:28:40,836
Jsou k smíchu.

1969
01:28:40,837 --> 01:28:42,707
A stojí za to.

1970
01:28:42,708 --> 01:28:46,494
Tento film není o
vnitřní fungování technologie.

1971
01:28:46,495 --> 01:28:48,278
Nejde o to
generální ředitelé miliardářů.

1972
01:28:48,279 --> 01:28:50,236
Nejde o geopolitiku.

1973
01:28:50,237 --> 01:28:53,631
Není to o děsivosti
budoucnost nebo konec světa,

1974
01:28:53,632 --> 01:28:55,720
protože můj svět
právě začíná.

1975
01:28:55,721 --> 01:28:57,418
Stavím postýlku.

1976
01:28:57,419 --> 01:28:59,333
Právě tady, právě teď.

1977
01:29:00,509 --> 01:29:02,379
AI všechno změní

1978
01:29:02,380 --> 01:29:05,643
způsobem příliš mocným a
složité, abychom to pochopili.

1979
01:29:05,644 --> 01:29:08,952
A budoucnost není
aby se kdokoli z nás rozhodl.

1980
01:29:10,736 --> 01:29:13,651
Ale co se mohu rozhodnout, je být
nejlepší možný manžel

1981
01:29:13,652 --> 01:29:17,742
pro mou ženu a to nejlepší
možná táta pro mého syna.

1982
01:29:17,743 --> 01:29:21,442
Takže zda je naše budoucnost AI
noční můra dystopie

1983
01:29:21,443 --> 01:29:23,879
nebo utopie
o které všichni sníme,

1984
01:29:23,880 --> 01:29:26,925
Aspoň budu vědět
že jsem udělal všechno, co jsem mohl

1985
01:29:26,926 --> 01:29:30,146
vést mou rodinu
prostřednictvím této revoluce AI.

1986
01:29:30,147 --> 01:29:33,889
A bez ohledu na to,
budeme tomu čelit společně.

1987
01:29:36,849 --> 01:29:40,548
Takže to je jen náš první nápad.

1988
01:29:40,549 --> 01:29:42,854
Jaký je to pocit?
Cítíš to?

1989
01:29:42,855 --> 01:29:45,291
Počkej, já-- jako, tohle ne--
to je vtip.

1990
01:29:45,292 --> 01:29:47,425
Ve skutečnosti není
jak to ukončíš.

1991
01:29:50,036 --> 01:29:52,690
Chci říct, je to jen nápad. Dobře?

1992
01:29:52,691 --> 01:29:54,431
Ne, Danieli.

1993
01:29:54,432 --> 01:29:56,172
...uh, velmi, velmi hloupý.

1994
01:29:56,173 --> 01:29:58,957
Ty jsi právě utratil, já ne
víš, kolik let

1995
01:29:58,958 --> 01:30:02,613
našeho života pracujeme na tom,
mluvit s každým předním odborníkem

1996
01:30:02,614 --> 01:30:05,007
na planetě o tématu,

1997
01:30:05,008 --> 01:30:07,705
a ty to ukončíš

1998
01:30:07,706 --> 01:30:10,839
s některými, např.
kumbaya kecy?

1999
01:30:10,840 --> 01:30:13,537
Je tam asteroid
zamířil na Zemi.

2000
01:30:13,538 --> 01:30:15,539
co děláš? jen...

2001
01:30:15,540 --> 01:30:17,672
držet se za ruce
a doufám, že to dopadne dobře?

2002
01:30:17,673 --> 01:30:19,456
rozhodně ne.

2003
01:30:19,457 --> 01:30:22,328
Musíme-- to ha--
to musí být...

2004
01:30:22,329 --> 01:30:24,419
Konec musí...

2005
01:30:25,855 --> 01:30:27,943
Dobře, první věc:

2006
01:30:27,944 --> 01:30:31,468
AI je tady,
a je to tady, aby zůstalo.

2007
01:30:31,469 --> 01:30:32,948
Hovno je venku z koně,

2008
01:30:32,949 --> 01:30:35,430
ale kůň ano
bude srát dál.

2009
01:30:39,695 --> 01:30:41,609
Víte, jeden ze základních
zákony historie

2010
01:30:41,610 --> 01:30:44,046
je to nic
opravdu má začátek

2011
01:30:44,047 --> 01:30:46,004
a nic nemá konec.

2012
01:30:46,005 --> 01:30:47,745
Prostě to jde dál.

2013
01:30:47,746 --> 01:30:50,574
AI není nikde blízko
jeho plný rozvoj.

2014
01:30:50,575 --> 01:30:52,837
I když
současná bublina umělé inteligence splaskne,

2015
01:30:52,838 --> 01:30:54,622
lidé se nikdy nezastaví

2016
01:30:54,623 --> 01:30:57,581
stavět víc a víc
výkonná technologie.

2017
01:30:57,582 --> 01:30:59,453
Můžete se rozhodnout nepoužívat AI

2018
01:30:59,454 --> 01:31:02,281
nebo se toho zúčastnit, ale je to tak
stejně tě to ovlivní.

2019
01:31:02,282 --> 01:31:04,066
Dobře, fantastické.
Takže jsme v háji.

2020
01:31:04,067 --> 01:31:06,635
Ne, nejsme
kvůli jedné jednoduché věci.

2021
01:31:10,943 --> 01:31:13,031
To není nevyhnutelné.

2022
01:31:13,032 --> 01:31:15,251
Kdybychom to mohli vidět
jasně spolu,

2023
01:31:15,252 --> 01:31:18,384
bude zřejmá odpověď
vybrat něco jiného.

2024
01:31:18,385 --> 01:31:21,083
Musíme velmi jasně
změnit hru

2025
01:31:21,084 --> 01:31:23,172
ze závodu na dno
do závodu o vrchol.

2026
01:31:23,173 --> 01:31:27,481
Problém, který potřebujeme
Řešení není konkrétně AI.

2027
01:31:27,482 --> 01:31:31,267
To je obecná otázka
jak budujeme společnost

2028
01:31:31,268 --> 01:31:33,922
která se dokáže vypořádat
výkonná technologie.

2029
01:31:33,923 --> 01:31:35,401
Protože dostaneme

2030
01:31:35,402 --> 01:31:36,838
jen stále silnější
technologie.

2031
01:31:36,839 --> 01:31:39,710
Musíme upgradovat naši společnost,

2032
01:31:39,711 --> 01:31:41,538
a první krok je
scházet se

2033
01:31:41,539 --> 01:31:43,409
- a náročné...
-Koordinace.

2034
01:31:43,410 --> 01:31:47,065
Nějaká forma internacionály
spolupráce nebo dohoda o

2035
01:31:47,066 --> 01:31:48,545
jaké by měly být normy.

2036
01:31:48,546 --> 01:31:49,938
Víš, jak by se mělo
budou nasazeny...

2037
01:31:49,939 --> 01:31:51,592
Jako skutečné
mezinárodní diplomacie

2038
01:31:51,593 --> 01:31:53,332
mezi velmocemi.

2039
01:31:53,333 --> 01:31:56,335
Číňané jsou stejně znepokojeni
o tom jako Američané.

2040
01:31:56,336 --> 01:31:57,772
Myslím, že je to těžké,
víš,

2041
01:31:57,773 --> 01:31:59,556
v proudu
geopolitické klima,

2042
01:31:59,557 --> 01:32:01,297
- ale myslím, že je to nutné.
-Absolutně.

2043
01:32:01,298 --> 01:32:04,735
Úplně stejným způsobem
naposledy to lidstvo

2044
01:32:04,736 --> 01:32:09,653
vyvinul technologii
toto nebezpečné...

2045
01:32:09,654 --> 01:32:12,438
...to vyžadovalo kompletní,
bezprecedentní posun

2046
01:32:12,439 --> 01:32:15,572
ke struktuře našeho světa.

2047
01:32:15,573 --> 01:32:17,661
Takže to musíme udělat úplně,

2048
01:32:17,662 --> 01:32:20,925
opět bezprecedentní posun.

2049
01:32:20,926 --> 01:32:24,146
Víte, mluvíme s lidmi
kteří pracují v těchto společnostech AI,

2050
01:32:24,147 --> 01:32:25,364
a říkají, že chtějí dělat
něco jiného,

2051
01:32:25,365 --> 01:32:26,670
ale potřebují veřejný tlak.

2052
01:32:26,671 --> 01:32:28,193
Potřebují vládu
něco udělat.

2053
01:32:28,194 --> 01:32:30,021
Takže jdeme do DC,
a říkají,

2054
01:32:30,022 --> 01:32:31,893
"No, potřebujeme Silicon Valley."
dělat něco jiného.

2055
01:32:31,894 --> 01:32:33,677
To oni budou
přijít s mantinely."

2056
01:32:33,678 --> 01:32:35,723
A tak všichni ukazují
prst na někoho jiného,

2057
01:32:35,724 --> 01:32:39,509
a na čem se shodnou
že potřebujeme veřejný tlak

2058
01:32:39,510 --> 01:32:41,250
v zájmu něčeho jiného
stát se.

2059
01:32:41,251 --> 01:32:42,860
A to jsi ty

2060
01:32:42,861 --> 01:32:44,296
a všichni lidé
sledování tohoto filmu dokáže.

2061
01:32:44,297 --> 01:32:45,341
Musíme držet vůdce

2062
01:32:45,342 --> 01:32:47,125
v našich vládách

2063
01:32:47,126 --> 01:32:48,605
a vůdci
tyto společnosti odpovědné.

2064
01:32:48,606 --> 01:32:51,042
Ať jste v kterékoli zemi,

2065
01:32:51,043 --> 01:32:52,914
dejte jim vědět
že nejsi šťastný

2066
01:32:52,915 --> 01:32:54,611
se současným stavem.

2067
01:32:54,612 --> 01:32:57,135
Takže ano, je to nuda říkat
zavolejte svému kongresmanovi.

2068
01:32:57,136 --> 01:32:59,398
Neříkám, že bys měl
prostě to udělej, ale jako,

2069
01:32:59,399 --> 01:33:00,965
musíme to udělat.

2070
01:33:00,966 --> 01:33:02,445
Jako, musíme dostat
zapojená vláda.

2071
01:33:02,446 --> 01:33:03,881
Takže my jen
zavolej jim a řekni,

2072
01:33:03,882 --> 01:33:06,014
"Hej, zastavte Big Tech."
před zničením světa“?

2073
01:33:06,015 --> 01:33:08,930
Ne, ale existují
tuny opravdu zřejmé,

2074
01:33:08,931 --> 01:33:10,714
přímočaré věci
můžeme být nároční.

2075
01:33:10,715 --> 01:33:12,542
Potřebujeme transparentnost.

2076
01:33:12,543 --> 01:33:14,283
Musíme ukončit tajemství
která existuje uvnitř těchto laboratoří,

2077
01:33:14,284 --> 01:33:16,677
protože staví
výkonná technologie,

2078
01:33:16,678 --> 01:33:18,722
a veřejnost si to zaslouží vědět
co se děje.

2079
01:33:18,723 --> 01:33:20,724
nakonec
budeme potřebovat nezávislost,

2080
01:33:20,725 --> 01:33:23,292
objektivní třetí strany
vyhodnotit systémy.

2081
01:33:23,293 --> 01:33:27,078
Nemůžeme počítat s firmami
hodnotit vlastní domácí úkol.

2082
01:33:27,079 --> 01:33:31,213
If-if společnost používá AI a-and
interaguje s vámi AI,

2083
01:33:31,214 --> 01:33:34,999
mělo by prozradit, že jste
interakce se systémem AI.

2084
01:33:35,000 --> 01:33:38,655
Jo. A také potřebujeme
systém, který dělá firmy

2085
01:33:38,656 --> 01:33:41,876
právně odpovědný za
systémy AI, které vyrábějí.

2086
01:33:41,877 --> 01:33:45,793
Musíme se ujistit, že tam
jsou testy a bezpečnostní normy

2087
01:33:45,794 --> 01:33:48,056
které se vztahují na všechny.

2088
01:33:48,057 --> 01:33:49,753
Potřebujeme nějaká základní pravidla,

2089
01:33:49,754 --> 01:33:51,581
a musíme se neustále přizpůsobovat
ta pravidla

2090
01:33:51,582 --> 01:33:54,628
tou rychlostí
technologie se vyvíjí.

2091
01:33:54,629 --> 01:33:57,195
V současné době existuje
více regulace

2092
01:33:57,196 --> 01:33:59,328
při prodeji sendviče
veřejnosti

2093
01:33:59,329 --> 01:34:02,940
než je na budově
potenciálně konec světa AGI.

2094
01:34:02,941 --> 01:34:04,725
A poslední věc je

2095
01:34:04,726 --> 01:34:07,641
abychom se upgradovali.

2096
01:34:07,642 --> 01:34:09,773
Tohle není ta práce
z bezpečnostního týmu

2097
01:34:09,774 --> 01:34:11,775
v jakékoli dané laboratoři nebo generálnímu řediteli.

2098
01:34:11,776 --> 01:34:13,342
Takže jako, tohle je
práce každého.

2099
01:34:13,343 --> 01:34:14,822
Nenechte toho, jako
až na odborníky na AI.

2100
01:34:14,823 --> 01:34:16,998
Jako, [píp] to.
Jako, tohle je ta chvíle

2101
01:34:16,999 --> 01:34:19,304
že přecházíme
od, jako,

2102
01:34:19,305 --> 01:34:21,567
většinou lidská kognitivní síla
například kognitivní schopnosti AI,

2103
01:34:21,568 --> 01:34:23,134
a týká se to všech,

2104
01:34:23,135 --> 01:34:24,875
a chci, aby lidé byli
v tom rozhovoru.

2105
01:34:24,876 --> 01:34:26,921
A řekl bych, jestli myslíš
že AI nás všechny zabije,

2106
01:34:26,922 --> 01:34:28,531
měl bys pracovat
ve výzkumu AI

2107
01:34:28,532 --> 01:34:30,272
abych se ujistil, že ne,
protože máš

2108
01:34:30,273 --> 01:34:32,230
obrovské množství agentur.

2109
01:34:32,231 --> 01:34:33,884
Ať jsi kdokoli,

2110
01:34:33,885 --> 01:34:35,886
jsi odborník
ve svém vlastním oboru,

2111
01:34:35,887 --> 01:34:39,194
ve své vlastní škole,
ve své vlastní rodině,

2112
01:34:39,195 --> 01:34:42,632
a je to na vás
jak se AI používá ve vašem životě.

2113
01:34:42,633 --> 01:34:45,026
Ať už se chcete přidat
vaše školní rada

2114
01:34:45,027 --> 01:34:47,898
nebo-nebo zda se chcete zeptat
vašeho zaměstnavatele

2115
01:34:47,899 --> 01:34:49,421
jak používají
technologie AI,

2116
01:34:49,422 --> 01:34:51,989
jako, každý z nás může dělat práci.

2117
01:34:51,990 --> 01:34:56,124
Bylo mnoho odborů
docela efektivní, např.

2118
01:34:56,125 --> 01:34:59,083
určit, jak chtějí
pro interakci s těmito systémy.

2119
01:34:59,084 --> 01:35:02,739
Odbory sester, odbory učitelů.

2120
01:35:02,740 --> 01:35:04,610
byl bych rád
pokud rodiče všude

2121
01:35:04,611 --> 01:35:06,177
šel do společností AI
a řekl,

2122
01:35:06,178 --> 01:35:08,049
„Jak můžeš být lepší
na tohle?" Včetně nás.

2123
01:35:08,050 --> 01:35:11,226
Tak jsem založil Encode Justice
když mi bylo 15 let.

2124
01:35:11,227 --> 01:35:14,882
Jsme první na světě
a největší armádu mladých lidí

2125
01:35:14,883 --> 01:35:18,407
boj za zaměřený na člověka
umělá inteligence.

2126
01:35:18,408 --> 01:35:21,062
Nezáleží na tom, kdo jsi,
i ty nejmenší akce pomáhají,

2127
01:35:21,063 --> 01:35:23,978
a dokonce začala konverzace
je opravdu velmi cenná.

2128
01:35:23,979 --> 01:35:25,980
Takže moje práce by mohla být např.

2129
01:35:25,981 --> 01:35:27,982
řekni o tom Bubby Lile
na večeři?

2130
01:35:27,983 --> 01:35:29,810
Upřímně, ano,
to k tomu patří.

2131
01:35:29,811 --> 01:35:31,681
A budeme muset udělat

2132
01:35:31,682 --> 01:35:34,466
spoustu věcí, které
ještě nás to ani nenapadlo.

2133
01:35:34,467 --> 01:35:36,077
Lidé se budou dívat
cokoliv, co jsme nastínili

2134
01:35:36,078 --> 01:35:37,295
a říct: "To nestačí."

2135
01:35:37,296 --> 01:35:38,993
Důležité jsou síly

2136
01:35:38,994 --> 01:35:40,951
které fungují
směrem k řešením

2137
01:35:40,952 --> 01:35:44,476
začít překračovat síly, které
pracují proti řešení.

2138
01:35:44,477 --> 01:35:46,435
Dělat svět lepším
bylo vždy těžké.

2139
01:35:46,436 --> 01:35:47,871
Nikdy to nebylo snadné.

2140
01:35:47,872 --> 01:35:50,004
Jako, bylo
mnoho špinavých věcí

2141
01:35:50,005 --> 01:35:51,962
které se v historii staly,
a měli jsme...

2142
01:35:51,963 --> 01:35:53,747
jako lidé měli
se s tím vypořádat,

2143
01:35:53,748 --> 01:35:56,837
a pak povstali
a změnil to.

2144
01:35:56,838 --> 01:36:00,362
Existuje šílené číslo
výzvy, které před námi stojí,

2145
01:36:00,363 --> 01:36:04,148
ale pokud je dokážeme překonat,

2146
01:36:04,149 --> 01:36:08,109
můžeme odemknout budoucnost dál
naše nejdivočejší představivost.

2147
01:36:08,110 --> 01:36:10,459
Musíme se dát dohromady

2148
01:36:10,460 --> 01:36:14,289
a najít cestu mezi
slib a nebezpečí.

2149
01:36:14,290 --> 01:36:16,422
Nemůžeme být pesimisté
nebo optimisté.

2150
01:36:17,423 --> 01:36:19,425
Musíme se stát něčím novým.

2151
01:36:21,732 --> 01:36:24,516
Volá mi můj přítel
apokaloptimista.

2152
01:36:24,517 --> 01:36:26,083
"Apokaloptimista"?

2153
01:36:26,084 --> 01:36:28,303
Myslím, že by to mohlo být
moje nové oblíbené slovo.

2154
01:36:28,304 --> 01:36:29,957
-MUŽ: Možná
název tohoto filmu.

2155
01:36:29,958 --> 01:36:31,306
Může to být jméno
tohoto filmu. -

2156
01:36:31,307 --> 01:36:34,222
- "Apokaloptimista."
- "Apokaloptimista."

2157
01:36:34,223 --> 01:36:35,876
Jo.

2158
01:36:35,877 --> 01:36:37,312
Nevěřím v zkázu.

2159
01:36:37,313 --> 01:36:39,096
Věřím v ducha života,

2160
01:36:39,097 --> 01:36:42,708
a já věřím v život
o schopnosti jednat.

2161
01:36:42,709 --> 01:36:44,319
Schopnost vztahovat se,

2162
01:36:44,320 --> 01:36:46,365
schopnost cítit.

2163
01:36:51,022 --> 01:36:53,981
Musíme zdvojnásobit
víc a víc

2164
01:36:53,982 --> 01:36:57,071
na těch kapacitách
které jako lidé máme

2165
01:36:57,072 --> 01:37:00,161
že robotické systémy
nikdy nebude mít.

2166
01:37:00,162 --> 01:37:04,339
Právě teď je čas
dělat ta rozhodnutí

2167
01:37:04,340 --> 01:37:07,516
jak ho vést a podporovat
než aby nás rozděloval.

2168
01:37:07,517 --> 01:37:10,301
Zní to tak nějak
vychovávat dítě.

2169
01:37:10,302 --> 01:37:12,477
Tak to je. Jo.

2170
01:37:12,478 --> 01:37:14,523
AI může mít
více syrové inteligence

2171
01:37:14,524 --> 01:37:17,265
než naše malé lidské mozky,

2172
01:37:17,266 --> 01:37:21,095
ale jsme mnohem víc
než jen naše inteligence.

2173
01:37:21,096 --> 01:37:25,099
Inteligence je-je
schopnost řešit problémy.

2174
01:37:25,100 --> 01:37:28,320
Moudrost je schopnost vědět
jaké problémy řešit.

2175
01:37:33,760 --> 01:37:34,935
Může jít na vaši lednici.

2176
01:37:36,241 --> 01:37:38,155
Takže to nevzdávej.

2177
01:37:38,156 --> 01:37:39,809
Lidstvo udělalo

2178
01:37:39,810 --> 01:37:42,160
těžší věci než tohle
ve své historii.

2179
01:37:43,553 --> 01:37:46,381
Jen je těžké přesvědčit
lidi, které by měli.

2180
01:37:54,912 --> 01:37:56,870
Takže, když jsem začal
dělat tenhle film,

2181
01:37:56,871 --> 01:37:58,480
Řekl bych, že jsem byl jako,

2182
01:37:58,481 --> 01:38:00,961
v podstatě cynický kretén
o této celé věci.

2183
01:38:00,962 --> 01:38:03,137
Přes kurz
natáčení filmu,

2184
01:38:03,138 --> 01:38:04,703
Pochopil jsem
že jako,

2185
01:38:04,704 --> 01:38:07,489
to je jediná věc
nemůžeme být.

2186
01:38:07,490 --> 01:38:09,404
...nebo cokoliv jiného
chtěl bys diskutovat?

2187
01:38:09,405 --> 01:38:11,406
Ne. Myslím, že jsme toho probrali hodně.

2188
01:38:11,407 --> 01:38:13,060
- Ano.
-Mockrát děkuji.

2189
01:38:13,061 --> 01:38:15,540
Díky.

2190
01:38:15,541 --> 01:38:16,933
To je problém, který je větší

2191
01:38:16,934 --> 01:38:19,109
než kterákoli jedna osoba.

2192
01:38:19,110 --> 01:38:21,590
Toto změní svět
způsoby, kterým nerozumíme.

2193
01:38:21,591 --> 01:38:23,505
To je všechno pravda.

2194
01:38:23,506 --> 01:38:25,594
Dobře.

2195
01:38:25,595 --> 01:38:27,726
Ale to, co máme, máme nad agenturou

2196
01:38:27,727 --> 01:38:30,120
je to, co s tím děláme.

2197
01:38:30,121 --> 01:38:32,601
Jak roste hraniční umělá inteligence
exponenciálně schopnější...

2198
01:38:32,602 --> 01:38:34,472
A realita

2199
01:38:34,473 --> 01:38:36,605
pokud se prostě rozhodneme
je to beznadějné,

2200
01:38:36,606 --> 01:38:39,042
pak je to beznadějné.

2201
01:38:39,043 --> 01:38:40,783
...abych méně stresu
na planetě Zemi...

2202
01:38:40,784 --> 01:38:42,785
Ale pokud se rozhodnete

2203
01:38:42,786 --> 01:38:45,528
že to chceš zkusit...

2204
01:38:46,790 --> 01:38:48,138
...tak to zkus.

2205
01:38:48,139 --> 01:38:49,967
A to je těžké.

2206
01:38:51,273 --> 01:38:53,230
Ale víš co?

2207
01:38:53,231 --> 01:38:56,278
Velké věci se zdají nemožné
než k nim skutečně dojde.

2208
01:38:58,149 --> 01:39:01,456
Ale když se konečně stanou,

2209
01:39:01,457 --> 01:39:05,286
je to proto, že miliony lidí
podnikl miliony akcí

2210
01:39:05,287 --> 01:39:07,592
aby se uskutečnily.

2211
01:39:07,593 --> 01:39:10,334
A tak...

2212
01:39:10,335 --> 01:39:12,424
musíme to zkusit.

2213
01:39:21,129 --> 01:39:23,565
V sázce je příliš mnoho.

2214
01:39:37,232 --> 01:39:41,278
Podívejte se na neuvěřitelné změny
jsme zažili a přežili

2215
01:39:41,279 --> 01:39:42,888
z doby kamenné,

2216
01:39:42,889 --> 01:39:46,153
a ještě větší změny
ještě přijdou.

2217
01:40:47,606 --> 01:40:50,217
♪ Co teď budeme dělat? ♪

2218
01:40:50,218 --> 01:40:53,263
♪ Ztratili jsme to pokusem ♪

2219
01:40:53,264 --> 01:40:55,135
♪ Ztratili jsme to ♪

2220
01:40:55,136 --> 01:40:56,746
♪ Zkoušet ♪

2221
01:40:59,575 --> 01:41:02,272
♪ Co teď budeme dělat? ♪

2222
01:41:02,273 --> 01:41:05,232
♪ Ztratili jsme to pokusem ♪

2223
01:41:05,233 --> 01:41:07,016
♪ Ztratili jsme to ♪

2224
01:41:07,017 --> 01:41:08,714
♪ Zkoušet ♪

2225
01:41:11,630 --> 01:41:14,154
♪ Co můžeme říct teď? ♪

2226
01:41:14,155 --> 01:41:17,244
♪ Naše ústa jen lžou ♪

2227
01:41:17,245 --> 01:41:18,680
♪ Naše ústa ♪

2228
01:41:18,681 --> 01:41:20,683
♪ Pouze lhát ♪

2229
01:41:25,122 --> 01:41:27,732
♪ Co můžeme říct teď? ♪

2230
01:41:27,733 --> 01:41:30,866
♪ Naše ústa jen lžou ♪

2231
01:41:30,867 --> 01:41:32,259
♪ Naše ústa ♪

2232
01:41:32,260 --> 01:41:34,261
♪ Pouze lhát ♪

2233
01:42:01,071 --> 01:42:03,768
♪ Vzdej se a vypadni ♪

2234
01:42:03,769 --> 01:42:06,728
♪ Vstáváme v umírajících ♪

2235
01:42:06,729 --> 01:42:08,251
♪ Vstáváme ♪

2236
01:42:08,252 --> 01:42:10,211
♪ V umírajícím ♪

2237
01:42:13,127 --> 01:42:15,824
♪ Vzdej se a vypadni ♪

2238
01:42:15,825 --> 01:42:18,696
♪ Vstáváme v umírajících ♪

2239
01:42:18,697 --> 01:42:20,263
♪ Vstáváme ♪

2240
01:42:20,264 --> 01:42:22,223
♪ V umírajícím ♪

2241
01:42:25,051 --> 01:42:27,705
♪ Vzdej se a vypadni ♪

2242
01:42:27,706 --> 01:42:30,708
♪ Vstáváme v umírajících ♪

2243
01:42:30,709 --> 01:42:32,275
♪ Vstáváme ♪

2244
01:42:32,276 --> 01:42:34,148
♪ V umírajícím ♪

2245
01:42:37,107 --> 01:42:39,761
♪ Vzdej se a vypadni ♪

2246
01:42:39,762 --> 01:42:42,633
♪ Vstáváme v umírajících ♪

2247
01:42:42,634 --> 01:42:43,852
♪ My ♪

2248
01:43:22,761 --> 01:43:25,328
♪ Oh, oh, oh, oh, oh ♪

2249
01:43:25,329 --> 01:43:27,025
♪ Oh, oh, oh, oh ♪

2250
01:43:27,026 --> 01:43:28,462
♪ Oh, oh ♪

2251
01:43:28,463 --> 01:43:31,421
♪ Oh, oh, oh, oh, oh, oh ♪

2252
01:43:31,422 --> 01:43:32,988
♪ Oh, oh, oh, oh ♪

2253
01:43:32,989 --> 01:43:34,424
♪ Oh, oh ♪

2254
01:43:34,425 --> 01:43:37,079
♪ Oh, oh, oh, oh, oh, oh ♪

2255
01:43:37,080 --> 01:43:39,690
♪ Co teď budeme dělat? ♪

2256
01:43:39,691 --> 01:43:42,693
♪ Ztratili jsme to pokusem ♪

2257
01:43:42,694 --> 01:43:44,608
♪ Ztratili jsme to ♪

2258
01:43:44,609 --> 01:43:46,349
♪ Zkoušet ♪

2259
01:43:46,350 --> 01:43:49,047
♪ Oh, oh, oh, oh, oh, oh ♪

2260
01:43:49,048 --> 01:43:51,746
♪ Co teď budeme dělat? ♪

2261
01:43:51,747 --> 01:43:54,749
♪ Ztratili jsme to pokusem ♪

2262
01:43:54,750 --> 01:43:56,620
♪ Ztratili jsme to ♪

2263
01:43:56,621 --> 01:43:58,448
♪ Zkoušet. ♪