1
00:00:00,010 --> 00:00:04,050
Připojte se, prosím, k uvítání profesora
Yuval Noah Harari.

2
00:00:06,170 --> 00:00:12,750
Děkuji mnohokrát.

3
00:00:15,430 --> 00:00:16,430
Zdravím všechny.

4
00:00:16,670 --> 00:00:18,570
Doufám, že jsem otevřel mikrofon.

5
00:00:19,330 --> 00:00:20,570
Slyšíš mě dobře.

6
00:00:21,350 --> 00:00:25,270
Takže je to pro mě opravdu velká čest
mít letošní přednášku TANEO.

7
00:00:25,750 --> 00:00:28,050
A je to i osobní radost.

8
00:00:28,590 --> 00:00:29,850
vrátit se do Oxfordu.

9
00:00:30,090 --> 00:00:36,010
Před 25 lety jsem zde dělal DPhil
vedení Dr. Stephena Gunna.

10
00:00:36,370 --> 00:00:42,650
Tehdy jsem se specializoval na středověk a
raně novověké vojenské historie.

11
00:00:43,370 --> 00:00:49,350
Ale dnes o tom nebudu mluvit
rytíři a hrady a střelný prach

12
00:00:49,350 --> 00:00:55,230
revoluce. Budu mluvit o AI
byrokratů a náboženství a

13
00:00:55,230 --> 00:00:57,610
obecněji o revoluci AI.

14
00:00:58,670 --> 00:01:05,670
Teď to nejdůležitější, co vědět
o AI je, že AI není nástroj.

15
00:01:06,570 --> 00:01:08,450
Není to nástroj v našich rukou.

16
00:01:08,790 --> 00:01:12,470
Je to agent s vlastní rukou.

17
00:01:13,210 --> 00:01:15,090
Co je to vlastně agentura?

18
00:01:15,450 --> 00:01:17,990
Jak se agent liší od nástroje?

19
00:01:18,690 --> 00:01:21,910
Agenti mají několik odlišností
vlastnosti.

20
00:01:22,690 --> 00:01:24,950
Nepotřebují nutně
vědomí.

21
00:01:25,210 --> 00:01:30,290
Nepotřebujete vědomí, abyste byli
agent. Co potřebujete, je schopnost

22
00:01:30,290 --> 00:01:37,270
rozhodovat se sám, schopnost
vymýšlet nové věci, nové nápady

23
00:01:37,270 --> 00:01:38,270
sám sebou.

24
00:01:38,790 --> 00:01:45,670
Agent by toho měl být schopen sám
dozvědět se věci, které jeho tvůrci

25
00:01:45,670 --> 00:01:52,390
nevím a agent by měl být schopen
změnit sám od sebe

26
00:01:52,390 --> 00:01:56,330
způsobem, který jeho tvůrci nedělají
předvídat.

27
00:01:58,400 --> 00:02:03,540
Například atomová bomba navzdory
obrovskou moc, není agent.

28
00:02:03,820 --> 00:02:07,120
Sama se nemůže učit a měnit.

29
00:02:07,440 --> 00:02:14,240
Nemůže se sama rozhodnout, do kterého města
bomba. Nemůže vymyslet nic nového,

30
00:02:14,340 --> 00:02:15,620
jako vodíková bomba.

31
00:02:16,300 --> 00:02:23,100
Podobně řekněme automatickou kávu
stroj není agent, i když je

32
00:02:23,100 --> 00:02:27,000
dělá něco samo, automaticky.

33
00:02:27,720 --> 00:02:32,960
Stisknete tlačítko a stroj
automaticky vám připraví šálek kávy.

34
00:02:33,260 --> 00:02:39,060
Ale stroj, kávovar,
pouze následuje předem naprogramovaný

35
00:02:39,580 --> 00:02:41,020
To se nemění.

36
00:02:41,400 --> 00:02:44,840
Neučí nic nového. to
nevytváří nic nového.

37
00:02:45,440 --> 00:02:51,720
Ale předpokládejme, že když se blížíte k
kávovar, ještě než stisknete

38
00:02:51,720 --> 00:02:57,180
tlačítko, automat oznámí, řekne
tebe, sledoval jsem tě.

39
00:02:57,550 --> 00:03:02,270
za posledních několik týdnů a na základě
vše, co jsem se o vás dozvěděl a

40
00:03:02,270 --> 00:03:07,910
lidí a na základě vašeho obličeje
výraz a denní dobu, I

41
00:03:07,910 --> 00:03:09,390
chtěli byste espresso.

42
00:03:09,730 --> 00:03:11,890
Tak už jsem ti udělal šálek.

43
00:03:12,350 --> 00:03:14,770
Teď je to AI kopírka.

44
00:03:15,050 --> 00:03:19,470
Něco se to naučilo samo a
něco rozhodl sám.

45
00:03:19,790 --> 00:03:23,890
A je to opravdu AI, pokud následující
den...

46
00:03:24,090 --> 00:03:30,110
Oznamuje, že jsem nyní vynalezl nový
nápoj s názvem Bespresso, což si myslím

47
00:03:30,110 --> 00:03:33,870
chtěli byste lepší než espresso a
on by to zkusil, udělal jsem ti šálek.

48
00:03:34,750 --> 00:03:37,090
Pak je to opravdu AI.

49
00:03:37,390 --> 00:03:42,590
Změnilo se to způsobem, který tvůrci nedělali
něco předvídat a vymyslet

50
00:03:42,590 --> 00:03:43,850
zcela nové.

51
00:03:44,730 --> 00:03:48,070
Pokud vím, káva tam není
stroje.

52
00:03:49,020 --> 00:03:52,880
v současnosti, možná v
antropické ústředí nebo Google

53
00:03:53,400 --> 00:03:56,600
mají pár prototypů, ale jsou
ještě není na trhu.

54
00:03:57,000 --> 00:04:03,900
Ale v určitých úzkých oblastech, jako např
hraní Go nebo hraní šachů, AI

55
00:04:03,900 --> 00:04:10,760
agentury a kreativity již značně
překonat lidskou činnost a

56
00:04:10,760 --> 00:04:17,019
kreativita. AI šachoví mistři se mohou rozhodnout,
samozřejmě samy o sobě, které se stěhují do

57
00:04:17,019 --> 00:04:23,900
udělat. vymýšlejí sami
zcela nové strategie, jak hrát

58
00:04:23,900 --> 00:04:29,000
šachy, které člověka nikdy nenapadly
šachových mistrů po tisíce let

59
00:04:29,000 --> 00:04:30,000
hraní hry.

60
00:04:30,320 --> 00:04:37,300
A přitom se učí a
změnit způsob, jakým to udělali jejich lidští tvůrci

61
00:04:37,300 --> 00:04:38,580
nutně předvídat.

62
00:04:39,020 --> 00:04:46,000
Dnes samozřejmě žádný člověk nemá
šance porazit AI šachového mistra.

63
00:04:47,080 --> 00:04:52,520
Nyní lidé, kteří bagatelizují důležitost
revoluce AI odmítnout příklady

64
00:04:52,520 --> 00:04:58,840
jako šachy argumentem, že
šachovnice je velmi úzká a

65
00:04:58,840 --> 00:05:02,200
prostředí vytvořené lidmi.

66
00:05:02,580 --> 00:05:09,360
Kritici říkají, že agentura AI ano
vždy zůstat omezena na

67
00:05:09,360 --> 00:05:14,380
takové úzké a umělé prostředí,
což znamená, že to není skutečná agentura.

68
00:05:15,080 --> 00:05:18,020
A to není nic vážného
výzva pro lidstvo.

69
00:05:18,440 --> 00:05:23,500
Ano, umělá inteligence může převzít šachovnici,
ale nikdy neovládne planetu

70
00:05:24,260 --> 00:05:30,300
A skutečně, pokud uděláte experiment, pokud
vezmete si největšího AI šachového mistra

71
00:05:30,300 --> 00:05:35,460
a pusťte to doprostřed džungle,
co myslíš, že se stane?

72
00:05:36,280 --> 00:05:42,460
AI šachový mistr nebude schopen
začít těžit železo a stavět továrny

73
00:05:42,460 --> 00:05:44,500
a vytvoření robotické armády.

74
00:05:44,910 --> 00:05:45,930
ovládnout svět.

75
00:05:46,290 --> 00:05:49,770
Ve skutečnosti to nebude možné
cokoliv.

76
00:05:50,370 --> 00:05:56,850
Bez dodávané elektřiny
elektrárny postavené lidmi,

77
00:05:57,190 --> 00:06:00,010
AI šachový mistr je naprosto bezmocný.

78
00:06:00,590 --> 00:06:07,030
Proto, argument zní, AI jsou
ne opravdoví agenti. Jsou omezeni na

79
00:06:07,030 --> 00:06:13,830
tyto úzké umělé výklenky, které
někdo jiný, lidé, postaveni pro

80
00:06:15,790 --> 00:06:22,210
Problém je v tomto argumentu
ve skutečnosti platí pro všechny známé typy

81
00:06:22,210 --> 00:06:28,410
inteligenci. I lidská inteligence,
působí pouze v relativně úzkém

82
00:06:28,410 --> 00:06:31,830
ekosystém, který někdo jiný
postavený.

83
00:06:32,230 --> 00:06:38,430
Pusť mě samotného na Mars a bude to
jako shodit AI šachového mistra

84
00:06:38,430 --> 00:06:40,110
uprostřed džungle.

85
00:06:40,350 --> 00:06:41,850
Zemřu během několika sekund.

86
00:06:42,540 --> 00:06:48,340
Moje inteligence může přežít a fungovat
pouze v rámci velmi, velmi konkrétního

87
00:06:48,340 --> 00:06:55,260
ekosystém, který tvoří stromy, bakterie, hmyz,
a další organismy sestrojily

88
00:06:55,260 --> 00:06:58,900
na planetě Zemi během čtyř miliard
let evoluce.

89
00:06:59,420 --> 00:07:04,920
A to platí o všech agentech. všechny
agenti, o kterých víme, alespoň mají své

90
00:07:04,920 --> 00:07:09,840
výklenky. Ryby žijí v oceánech
nevytvořil.

91
00:07:10,220 --> 00:07:13,680
Opice žijí v lesích, které nežily
vytvořit.

92
00:07:13,900 --> 00:07:20,120
Všichni savci, včetně lidí,
žít v atmosféře bohaté na kyslík

93
00:07:20,120 --> 00:07:21,300
nevytvořili.

94
00:07:21,780 --> 00:07:27,820
Až do doby asi před 2,4 miliardami let
vlastně atmosféru naší planety

95
00:07:27,820 --> 00:07:34,200
obsahoval velmi málo kyslíku a pro
většina organismů, které žily zpět

96
00:07:34,200 --> 00:07:37,340
pak byl kyslík smrtelným jedem.

97
00:07:38,120 --> 00:07:43,960
Pak, ve zdlouhavém procesu, trvalé
stovky milionů let, což je

98
00:07:43,960 --> 00:07:50,280
známá jako Velká okysličení,
začaly různé starověké mikroby

99
00:07:50,280 --> 00:07:56,940
znečišťující atmosféru Země
se smrtícím kyslíkem, což bylo a

100
00:07:56,940 --> 00:07:59,700
jejich fotosyntetických procesů.

101
00:08:00,380 --> 00:08:06,940
Jako atmosféra naplněná tímto
smrtelně jedovatý plyn, četný

102
00:08:06,940 --> 00:08:10,400
archaické druhy byly vyhnány
vymírání.

103
00:08:11,470 --> 00:08:16,950
Některým druhům se to však podařilo
přežít a přizpůsobit se novým podmínkám.

104
00:08:17,270 --> 00:08:23,870
Nakonec mnoho z těchto přeživších odešlo
z nenávisti ke kyslíku

105
00:08:23,870 --> 00:08:29,090
stát se zcela závislými na kyslíku
pro jejich přežití.

106
00:08:29,430 --> 00:08:35,230
A naši předkové mezi ně samozřejmě patří
druhy, které to podstoupily

107
00:08:35,230 --> 00:08:41,970
přechod. A stále v tom žijeme
umělý kyslík naplněný

108
00:08:41,970 --> 00:08:46,750
prostředí, které bylo původně vytvořeno
těmito prastarými mikroby.

109
00:08:47,130 --> 00:08:52,510
Čím bych v tomto chtěl argumentovat
přednáška je, že bychom mohli být svědky

110
00:08:52,510 --> 00:08:56,190
analogický okamžik ve vývoji
život.

111
00:08:57,390 --> 00:09:03,050
Za poslední tisíciletí jsme to my lidé měli
naplňoval atmosféru

112
00:09:03,050 --> 00:09:07,650
něco, co by se mohlo nakonec ukázat
smrtící pro většinu organismů.

113
00:09:08,360 --> 00:09:15,360
včetně možná homo sapiens, ale to
vytváří nové umělé prostředí

114
00:09:15,360 --> 00:09:17,500
ve kterých se daří AI.

115
00:09:17,800 --> 00:09:21,480
A to nemluvím o CO2.

116
00:09:21,800 --> 00:09:28,640
Mluvím o datech, o
byrokracie, a nakonec o

117
00:09:28,640 --> 00:09:34,220
věc, kterou vypouštím z úst
právě teď, což jsou slova.

118
00:09:34,700 --> 00:09:35,980
Jazyková řeč.

119
00:09:36,940 --> 00:09:42,240
Po tisíce let, my lidé
přeměnil planetu z jazyka

120
00:09:42,240 --> 00:09:49,120
-volné prostředí do velmi umělého
prostředí bohaté na jazykové tokeny,

121
00:09:49,380 --> 00:09:51,600
data a byrokracie.

122
00:09:52,180 --> 00:09:58,800
A toto prostředí se může ukázat jako smrtící
pro většinu organismů, ale velmi příznivé

123
00:09:58,800 --> 00:10:00,940
k rozvoji AI.

124
00:10:01,300 --> 00:10:06,900
Protože stejně jako ryby žijí v oceánech a
opice žijí v lesích, AI žijí v

125
00:10:06,900 --> 00:10:12,480
byrokracie. Pojďme tedy pár utratit
minut mluvit o byrokracii a

126
00:10:12,480 --> 00:10:16,960
vrátíme se k rozhovoru o čem
je základem byrokracie, což je jazyk

127
00:10:16,960 --> 00:10:17,960
a slova.

128
00:10:18,780 --> 00:10:25,740
Nyní, lidé, náš druh, dobýváme
svět tím, že se naučíte spolupracovat

129
00:10:25,740 --> 00:10:27,440
ve velmi, velmi velkém počtu.

130
00:10:28,180 --> 00:10:34,140
Jednotlivě nejsou lidé silnější resp
ještě chytřejší než jiná zvířata.

131
00:10:34,730 --> 00:10:41,430
V boji jeden na jednoho lidská vůle
s největší pravděpodobností prohraje s a

132
00:10:41,430 --> 00:10:43,830
šimpanz nebo lev nebo slon.

133
00:10:44,070 --> 00:10:49,330
Nicméně v soutěži mezi milionem
lidé a milion šimpanzů

134
00:10:49,330 --> 00:10:54,210
lidé snadno vyhrají, protože lidé
vědět, jak spolupracovat a

135
00:10:54,210 --> 00:10:56,810
ne. A proto to kontrolujeme
svět.

136
00:10:58,240 --> 00:11:01,360
Jak se má milion lidí, kteří to nevědí
vzájemně spolupracují?

137
00:11:01,760 --> 00:11:06,040
Šimpanzi spolupracují na základě osobního
známý, jeden z dalších.

138
00:11:06,440 --> 00:11:09,860
Lidé to dělají v malém počtu, ale vy
nemůže znát milion lidí.

139
00:11:10,300 --> 00:11:12,340
Jak tedy milion lidí spolupracuje?

140
00:11:12,940 --> 00:11:19,600
Obvykle budováním byrokratického aparátu
systému, jako je právní systém nebo

141
00:11:19,600 --> 00:11:22,800
systému nebo církví nebo států popř
univerzit.

142
00:11:23,560 --> 00:11:25,340
Co teď dělat...

143
00:11:25,660 --> 00:11:28,160
tyto byrokratické systémy skutečně ano.

144
00:11:29,000 --> 00:11:35,140
Když státní úředník nebo biskup
nebo rabín nebo účetní nebo právník

145
00:11:35,140 --> 00:11:39,500
nebo jde bankéř ráno do práce,
co tam celý den dělají?

146
00:11:41,840 --> 00:11:45,820
Nyní tesaři staví stoly.

147
00:11:46,640 --> 00:11:53,080
Inženýři staví mosty. Co dělají bankéři
a další byrokraté stavět?

148
00:11:54,090 --> 00:11:58,870
No, bankéři a další byrokraté ano
celý den zaneprázdněný budováním důvěry.

149
00:12:00,090 --> 00:12:06,950
Jejich úkolem je vybudovat mezi nimi důvěru
velké množství cizinců, kteří ne

150
00:12:06,950 --> 00:12:12,130
navzájem osobně, a tím
umožnit rozsáhlou spolupráci, která

151
00:12:12,130 --> 00:12:15,210
základ téměř všeho, co je phishing
je dosaženo.

152
00:12:15,590 --> 00:12:22,000
Například můj bankéř, kterého já ne
opravdu znám osobně, tvrdě pracuje všichni

153
00:12:22,000 --> 00:12:28,500
vybudovat si u mě důvěru tak, že budu
ochoten do ní vložit své úspory

154
00:12:28,500 --> 00:12:29,500
banka.

155
00:12:30,180 --> 00:12:36,480
Zároveň bankéř tvrdě pracuje
budovat důvěru s podnikatelem, který

156
00:12:36,480 --> 00:12:39,140
potřebuje peníze na založení nové společnosti.

157
00:12:39,440 --> 00:12:43,240
A bankéř na to půjčuje moje úspory
podnikatel.

158
00:12:44,920 --> 00:12:48,720
Tím bankéř vlastně vytvořil a
most důvěry.

159
00:12:49,260 --> 00:12:50,900
mezi mnou a podnikatelem.

160
00:12:51,400 --> 00:12:56,100
I když jsem se nikdy nesetkal
podnikatel v mém životě, může nyní použít

161
00:12:56,100 --> 00:12:58,460
úspory na rozjezd své firmy.

162
00:12:58,840 --> 00:13:03,120
A to je to, co finanční systém,
když to dobře funguje, jde o to.

163
00:13:03,440 --> 00:13:09,180
Buduje tak důvěru mezi cizími lidmi
které dokážou dát dohromady miliony lidí

164
00:13:09,180 --> 00:13:12,660
jejich zdroje a talent na nové
projekty.

165
00:13:13,420 --> 00:13:17,640
A finanční historie světa
je historie lidí

166
00:13:18,410 --> 00:13:24,590
vynalézat stále sofistikovanější
způsoby, jak stavět mosty důvěry.

167
00:13:25,590 --> 00:13:28,930
Peníze jsou nakonec mostem důvěry.

168
00:13:29,310 --> 00:13:36,170
Představa peněz je, že můžu jít
na trhu, možná v cizím městě,

169
00:13:36,170 --> 00:13:40,790
člověk, kterého jsem v životě neviděl,
možná ani nemluví mým jazykem,

170
00:13:40,790 --> 00:13:45,970
jen tím, že tomu člověku dáte malý kousek
z kovu nebo kusu barevného papíru,

171
00:13:46,670 --> 00:13:49,250
On nebo ona mi dá chleba, který můžu jíst.

172
00:13:49,750 --> 00:13:53,090
To je most důvěry ty peníze
vytváří.

173
00:13:53,430 --> 00:13:56,670
Nyní, mince v bankovce, of
samozřejmě to byl jen začátek.

174
00:13:56,950 --> 00:14:02,110
V průběhu staletí lidé vynalezli více
a sofistikovanější finanční

175
00:14:02,110 --> 00:14:08,650
zařízení pro budování důvěry, jako jsou kontroly a
dluhopisy a akcie a

176
00:14:08,650 --> 00:14:14,330
ETF a půjčky a hypotéky a
složený úrok. Všechny tyto věci

177
00:14:14,330 --> 00:14:16,190
nakonec o budování důvěry.

178
00:14:16,670 --> 00:14:18,030
mezi miliardami cizích lidí.

179
00:14:18,430 --> 00:14:22,310
A stejné je to se všemi
byrokracie. Stejné je to s

180
00:14:22,490 --> 00:14:25,910
Tohle by měli dělat právníci,
budovat důvěru.

181
00:14:26,370 --> 00:14:31,490
To je to, co vládní úředníci a
biskupové a účetní dělají, když jdou

182
00:14:31,490 --> 00:14:33,490
práce. Mají budovat důvěru.

183
00:14:35,410 --> 00:14:40,690
Nyní je třeba poznamenat to důležité
všechny tyto byrokratické systémy jsou takové

184
00:14:40,690 --> 00:14:43,110
jsou extrémně umělé
prostředí.

185
00:14:43,840 --> 00:14:48,800
ve kterém je poměrně úzký
inteligenci, doufám, že neurážím

186
00:14:48,800 --> 00:14:55,120
specializující se na velmi úzký výklenek
inteligence je dostatečná k námaze

187
00:14:55,120 --> 00:14:57,460
obrovský dopad na svět.

188
00:14:57,740 --> 00:15:03,280
Právník, bankéř nebo vláda
úředník, který ani neví jak na to

189
00:15:03,280 --> 00:15:10,120
sekera nebo kladivo přesto mohou seknout
pokořit celé lesy a postavit celé

190
00:15:10,120 --> 00:15:12,200
města pouhým přesunem dat.

191
00:15:12,720 --> 00:15:17,900
pouhým přesunem dokumentů odtud
tam uvnitř byrokratické sítě.

192
00:15:18,280 --> 00:15:24,120
Teď, samozřejmě, když vezmete právníka
z byrokratického systému a vyhodit

193
00:15:24,120 --> 00:15:30,100
právníka do chaotického, nestrukturovaného
džungle, její právní dovednosti nic neznamenají,

194
00:15:30,120 --> 00:15:35,080
a ona se nebude shodovat s a
šimpanz nebo lev nebo slon.

195
00:15:35,340 --> 00:15:39,960
Ale už jsme si vnutili své
byrokratické systémy v džungli.

196
00:15:40,640 --> 00:15:45,640
proto jsou právníci daleko více
mocnější než všechny, pokud si vezmete

197
00:15:45,640 --> 00:15:51,140
lvi na světě společně, a
musí soupeřit s jedním velmi

198
00:15:51,140 --> 00:15:52,700
právníka, vsadím se na právníka.

199
00:15:55,620 --> 00:16:02,340
Dnes je samotné přežívání druhů jako
lvi závisí na právnících

200
00:16:02,340 --> 00:16:07,980
a účetní a bankéři se stěhují
dokumenty v těchto byrokratických

201
00:16:08,280 --> 00:16:10,460
vlád a bank a
korporací.

202
00:16:11,840 --> 00:16:17,120
A to je prostředí, ve kterém AI
získává agenturu.

203
00:16:17,980 --> 00:16:24,360
Pokud hodíte AI do nestrukturovaného
džungle, nebude možné spustit

204
00:16:24,360 --> 00:16:26,700
těžit železo a budovat armádu robotů.

205
00:16:26,940 --> 00:16:32,000
Ale v rámci byrokratického systému ano
lidé již vytvořili a uložili

206
00:16:32,000 --> 00:16:33,000
na světě,

207
00:16:33,640 --> 00:16:40,260
AI jsou navrženy tak, aby ovládaly obrovskou sílu
protože AI jsou původní byrokraté,

208
00:16:40,340 --> 00:16:41,680
na rozdíl od nás.

209
00:16:42,400 --> 00:16:47,080
Žádný právník si nemůže pamatovat všechny zákony a
předpisy Spojeného království.

210
00:16:47,320 --> 00:16:48,500
AI může.

211
00:16:48,920 --> 00:16:55,660
Žádný účetní si nepamatuje všechno
transakce korporace nebo banky.

212
00:16:55,660 --> 00:16:56,599
AI umí.

213
00:16:56,600 --> 00:17:02,840
Žádný biskup si nemůže pamatovat celé kanonické právo
a všechny teologické texty.

214
00:17:03,320 --> 00:17:06,480
sepsali křesťanští teologové nad
posledních 2000 let.

215
00:17:06,780 --> 00:17:08,839
A AI to dokáže docela snadno.

216
00:17:09,980 --> 00:17:16,140
Takže v příštích letech miliony AI
byrokratů bude stále více

217
00:17:16,140 --> 00:17:22,500
převzít světovou byrokracii a
rozhodovat nejen o lvech a

218
00:17:22,500 --> 00:17:24,520
šimpanzů, ale o našich životech.

219
00:17:25,020 --> 00:17:28,000
AI bankéři se rozhodnou, zda dát
vám půjčka.

220
00:17:28,260 --> 00:17:31,900
Správci AI rozhodnou, zda ano
přijmout tě na univerzitu.

221
00:17:32,670 --> 00:17:35,370
Rozhodčí AI rozhodnou o odeslání
ty do vězení.

222
00:17:35,710 --> 00:17:39,030
Teologové AI rozhodnou, zda jste
může jít na potrat.

223
00:17:40,070 --> 00:17:45,010
Podnikové AI se rozhodnou, zda ano
dát ti práci. A vojenské AI budou

224
00:17:45,010 --> 00:17:47,050
rozhodnout, zda bombardovat váš dům.

225
00:17:48,190 --> 00:17:52,250
Nyní nechte na chvíli stranou
otázka, je to dobré nebo špatné?

226
00:17:53,150 --> 00:17:59,950
První věc, kterou je třeba poznamenat, je jednoduše
uvědomit si velikost změny my

227
00:17:59,950 --> 00:18:00,950
čelí.

228
00:18:01,260 --> 00:18:08,080
Tyto miliony a dokonce miliardy AI
brzy změní všechny systémy, které

229
00:18:08,080 --> 00:18:09,080
svět.

230
00:18:09,220 --> 00:18:15,600
Už máme několik skutečných
příklady, jak se to stalo a co

231
00:18:15,600 --> 00:18:16,680
následky by mohly být.

232
00:18:18,960 --> 00:18:25,400
Možná nejlepším příkladem je zatím
příběh sociálních médií a sociálních médií

233
00:18:25,400 --> 00:18:30,440
algoritmy. Sociální média neprovozuje
lidmi, ale pomocí algoritmů.

234
00:18:31,260 --> 00:18:37,980
Algoritmy, které rozhodují, které řídí
pohyb informací na soc

235
00:18:37,980 --> 00:18:40,340
média, což jsou primitivní AI.

236
00:18:40,720 --> 00:18:45,940
Začalo to před 10, 15 lety. Tohle bylo
jako první generace, velmi, velmi

237
00:18:45,940 --> 00:18:51,580
primitivní, hloupá, úzká AI, která
přesto zcela změnil

238
00:18:52,140 --> 00:18:57,360
Nyní mají algoritmy sociálních médií
byl pověřen korporacemi jako

239
00:18:57,360 --> 00:19:03,660
Facebook a TikTok a X s an
extrémně úzký cíl maximalizovat

240
00:19:03,660 --> 00:19:05,700
zapojení uživatelů.

241
00:19:06,100 --> 00:19:11,540
Přimět lidi trávit více času na
platforma, protože tím více času oni

242
00:19:11,540 --> 00:19:14,240
platforma, tím více peněz
korporace vyrábí.

243
00:19:14,440 --> 00:19:15,880
Velmi jednoduché, velmi úzké.

244
00:19:16,580 --> 00:19:23,080
Ve snaze o toto zapojení uživatelů
tyto primitivní AI se staly důležitými

245
00:19:23,080 --> 00:19:29,320
objev. Experimentovali na miliardách
lidských pokusných králíků a učený

246
00:19:29,850 --> 00:19:35,810
že nejjednodušší způsob, jak uchopit
pozornost lidské bytosti a lepidlo

247
00:19:35,810 --> 00:19:42,730
člověka na obrazovce je stisknout nenávist
nebo tlačítko strachu nebo chamtivosti v

248
00:19:42,730 --> 00:19:43,730
lidská mysl.

249
00:19:43,930 --> 00:19:45,410
A naučili se, jak na to.

250
00:19:45,910 --> 00:19:51,950
A začali šířit nenávist a strach
a chamtivost ve velkém množství

251
00:19:51,950 --> 00:19:54,030
v informační sféře.

252
00:19:54,570 --> 00:19:58,630
A to byl hlavní důvod, ne
jediný důvod, ale hlavní důvod.

253
00:19:59,130 --> 00:20:03,650
ze současné epidemie spiknutí
teorie a falešné zprávy a sociální

254
00:20:03,650 --> 00:20:06,990
nepokoje, které podkopávají celou společnost
po celém světě.

255
00:20:07,990 --> 00:20:12,550
Nyní tyto algoritmy sociálních médií,
opět jsou to velmi primitivní AI.

256
00:20:13,030 --> 00:20:18,170
Pokud je pustíte do džungle, oni
nemůže postavit armádu robotů a pokusit se o to

257
00:20:18,170 --> 00:20:18,989
po celém světě.

258
00:20:18,990 --> 00:20:25,510
Ale v rámci byrokratického systému
sociální média, jsou velmi omezené

259
00:20:25,510 --> 00:20:31,450
agenti... mají obrovskou moc a oni
už docela změnili svět

260
00:20:31,450 --> 00:20:32,490
dramatickým způsobem.

261
00:20:32,930 --> 00:20:39,750
V minulých stoletích tok
informace na mediálních platformách byly

262
00:20:39,750 --> 00:20:42,710
lidskými redaktory. Byla to lidská práce.

263
00:20:43,250 --> 00:20:49,190
Byli to lidští redaktoři, kdo rozhodoval, co dělat
dát na titulní stranu novin.

264
00:20:49,510 --> 00:20:55,030
O čem rozhodovali lidští redaktoři
položky, které mají být zařazeny do večerních zpráv

265
00:20:55,030 --> 00:21:01,240
televize. A tím i lidští redaktoři
formovali veřejnou konverzaci a oni

266
00:21:01,240 --> 00:21:05,260
byly velmi, velmi důležité postavy
moderní historie.

267
00:21:06,580 --> 00:21:11,740
Jean-Paul Marat, například, tvarovaný
průběh Francouzské revoluce tím

268
00:21:11,740 --> 00:21:15,880
editace vlivných novin L'Ami
de Peuple.

269
00:21:16,220 --> 00:21:21,760
Edward Bernstein formoval modernu
sociálně demokratické hnutí a soc

270
00:21:21,760 --> 00:21:25,140
demokratického myšlení úpravou
sociální demokracie.

271
00:21:26,189 --> 00:21:31,630
Vladimir Lenin, než se stal sovětským
diktátor, jeho jediná práce, kterou dokázal

272
00:21:31,630 --> 00:21:35,610
držet na chvíli byl redaktorem
noviny Iskra.

273
00:21:36,430 --> 00:21:41,690
Benito Mussolini, než byl diktátor
Itálie, jeho jediná práce, nebo jedna z jeho

274
00:21:41,690 --> 00:21:48,150
možná hlavní zaměstnání, byl redaktor
ohnivé pravicové noviny Il

275
00:21:48,150 --> 00:21:49,150
d 'Itálie.

276
00:21:49,170 --> 00:21:55,370
A je zajímavé o tom přemýšlet
že jedna z prvních prací, které AI vzala

277
00:21:55,370 --> 00:22:00,370
přes od lidí není taxikáři nebo
textilní dělníci, to jsou redaktoři zpravodajství.

278
00:22:02,570 --> 00:22:09,370
Práce, kterou kdysi vykonával Lenin
a Mussoliniho nyní provádí AI.

279
00:22:10,170 --> 00:22:13,930
A to je signál toho, co přichází.

280
00:22:14,570 --> 00:22:21,410
Hollywoodské sci-fi filmy mají
podmínil diváky, aby se báli velkého

281
00:22:21,410 --> 00:22:27,140
povstání. Když přemýšlíme o AI
unikání lidské kontrole, představujeme si

282
00:22:27,140 --> 00:22:31,700
Terminátor, jako armáda robotů
běhat po ulicích a střílet

283
00:22:32,240 --> 00:22:33,940
Ale to je špatný obrázek.

284
00:22:34,740 --> 00:22:39,620
I když takové věci začínají
se dějí na místech, jako je Ukrajina a Gaza,

285
00:22:40,640 --> 00:22:47,360
AI nejsou, není to nemožné, ale
je dost nepravděpodobné, že by se vzbouřili

286
00:22:47,360 --> 00:22:49,140
lidi takovým způsobem.

287
00:22:49,580 --> 00:22:54,460
Je mnohem pravděpodobnější, že vezmou
lidský svět zevnitř. Nepotřebují

288
00:22:54,460 --> 00:22:55,460
rebel.

289
00:22:56,280 --> 00:23:01,780
Lidský svět je mřížkou
více byrokracií.

290
00:23:02,640 --> 00:23:09,420
Většina z nás je do určité míry
dokonce odcizený těmito byrokraciemi

291
00:23:09,420 --> 00:23:10,420
spoléhat na ně.

292
00:23:10,540 --> 00:23:14,580
Ale AI na rozdíl od nás ano
byrokratičtí domorodci.

293
00:23:14,980 --> 00:23:15,980
Milují byrokracii.

294
00:23:16,720 --> 00:23:23,320
Zatímco se často cítíme duseni
byrokracie, pro AI je byrokracie

295
00:23:23,320 --> 00:23:24,320
kyslík.

296
00:23:25,480 --> 00:23:31,360
A teď, co se stane, když AI zaberou
nad těmito, alespoň částečně

297
00:23:31,360 --> 00:23:36,980
byrokracie? Nyní si zapamatujte úkol
byrokracie není nutit vás plnit

298
00:23:36,980 --> 00:23:40,120
formy, je to budování důvěry mezi
cizinci.

299
00:23:40,920 --> 00:23:47,800
Ale co se stane, když AI ovládá
tok důvěry

300
00:23:47,800 --> 00:23:49,620
ve světě.

301
00:23:50,180 --> 00:23:55,880
Jeden pravděpodobný výsledek, který už vidíme
lidé ztrácejí důvěru

302
00:23:55,880 --> 00:24:02,320
ostatní lidé a začínají pouze důvěřovat
algoritmy, pouze AI, která již je

303
00:24:02,320 --> 00:24:08,740
děje. Dalším pravděpodobným výsledkem je
se kterými se AI naučí budovat důvěru

304
00:24:08,740 --> 00:24:12,840
další AI, takže uvidíme vznik
z

305
00:24:13,710 --> 00:24:20,370
různé druhy kmenů a bank umělé inteligence
a kostely, které spojují miliony

306
00:24:20,370 --> 00:24:26,010
Umělá inteligence je taková, jakou lidé možná ani neznají
umět porozumět.

307
00:24:26,730 --> 00:24:32,330
Stejně jako krávy a slepice se dělí
svět s námi, ale oni ne

308
00:24:32,330 --> 00:24:38,890
pochopit lidský finanční systém
která řídí jejich životy, my lidé

309
00:24:38,890 --> 00:24:39,930
brzy najdeme sami sebe

310
00:24:40,729 --> 00:24:45,390
řízený finančním systémem AI
že nemůžeme pochopit.

311
00:24:45,670 --> 00:24:47,790
A finance jsou podle mě zásadní.

312
00:24:48,590 --> 00:24:53,590
Patří mezi nejjednodušší byrokratické nástroje
systémy pro AI převzít, protože

313
00:24:53,590 --> 00:24:55,390
v podstatě jsou to jen data dovnitř, data ven.

314
00:24:56,030 --> 00:24:59,090
A také samozřejmě patří k těm nejvíce
důležité.

315
00:25:00,130 --> 00:25:06,330
Když si vzpomeneme například na poslední
velká finanční krize v letech 2007-2008

316
00:25:06,330 --> 00:25:12,480
finanční krize, začala, byla
spuštěno... něčím, čemu se říká CDO,

317
00:25:12,800 --> 00:25:16,200
zajištěné dluhové obligace.

318
00:25:16,820 --> 00:25:23,260
Nyní byly CDO finanční prostředky
vynalezeno velmi malým počtem

319
00:25:23,260 --> 00:25:27,460
lidských matematiků a investic
čarodějové.

320
00:25:28,100 --> 00:25:33,900
Tyto finanční nástroje byly tak složité
že byly nesrozumitelné, nejen

321
00:25:33,900 --> 00:25:38,660
na krávy a slepice, ale také na
politici, kteří měli

322
00:25:39,130 --> 00:25:40,130
finančního systému.

323
00:25:40,370 --> 00:25:44,910
A to vedlo k selhání dohledu a
ke globální katastrofě.

324
00:25:45,430 --> 00:25:52,010
Několik let se zdálo, že CDO jsou
fungují dobře a různé banky

325
00:25:52,010 --> 00:25:57,430
a korporace a investoři
miliardy a miliardy dolarů díky

326
00:25:57,430 --> 00:26:03,490
jim. Ale pak způsobili globální
finanční krach s dalekosáhlým dosahem

327
00:26:03,490 --> 00:26:04,970
a politické důsledky.

328
00:26:05,350 --> 00:26:11,750
Mnoho učenců se domnívá, že tím
podkopávání důvěry ve vlády a

329
00:26:11,990 --> 00:26:18,090
finanční krize v letech 2007-2008 připravila
cesta ke kolapsu globálu

330
00:26:18,090 --> 00:26:20,950
liberální řád v následujících dvou
desetiletí.

331
00:26:22,290 --> 00:26:29,050
Co se stane, když dovolíme AI dělat
stále více finančních rozhodnutí a

332
00:26:29,050 --> 00:26:33,370
vymýšlet stále více nových finančních
zařízení a strategie?

333
00:26:34,010 --> 00:26:38,650
Mistři testů AI vynalezli nové způsoby
hrát šachy.

334
00:26:39,070 --> 00:26:45,830
Co když mistři AI financí vymyslí něco nového?
finanční zařízení, která jsou

335
00:26:45,830 --> 00:26:52,070
řádově složitější než
CDO a jsou tedy zcela mimo

336
00:26:52,070 --> 00:26:53,710
pochopení lidské mysli?

337
00:26:54,290 --> 00:27:00,570
Taková zařízení by mohla potenciálně značně
zlepšit finanční efektivitu a

338
00:27:00,570 --> 00:27:05,070
přispět k hospodářskému růstu, stát se
základ finančního systému.

339
00:27:05,740 --> 00:27:12,000
Ale jaký je smysl člověka
politika, když žádný člověk, žádný volič, ne

340
00:27:12,000 --> 00:27:16,480
politik, to žádný prezident nedokáže
už rozumíte financím?

341
00:27:16,780 --> 00:27:21,440
A co se stane po pár letech
boom, nastal finanční krach.

342
00:27:22,060 --> 00:27:27,260
A to není jediný člověk na planetě
schopen pochopit, co to sakra je

343
00:27:27,260 --> 00:27:28,260
děje.

344
00:27:29,740 --> 00:27:31,720
Nyní pojďme kopat trochu hlouběji.

345
00:27:33,130 --> 00:27:39,250
Řekli jsme, že AI je připravena převzít kontrolu
byrokracie, a ta byrokracie je a

346
00:27:39,250 --> 00:27:42,850
systém, který mezi sebou buduje důvěru
miliony cizinců.

347
00:27:43,670 --> 00:27:49,250
Tato důvěra je zase základem pro
rozsáhlé spolupráce, což je

348
00:27:49,250 --> 00:27:52,390
základ pro lidskou nadvládu nad
svět.

349
00:27:52,650 --> 00:27:58,270
Lidská nadvláda je tedy založena na
spolupráce, která je založena na důvěře,

350
00:27:58,270 --> 00:28:01,930
udržované byrokracií. Ale co je
byrokracie?

351
00:28:02,760 --> 00:28:08,660
Jaké jsou atomy, stavební kameny
z jaké byrokracie je postavena?

352
00:28:09,500 --> 00:28:14,200
A byrokracie je nakonec postavena z
slova.

353
00:28:14,900 --> 00:28:17,260
Na počátku bylo slovo.

354
00:28:17,860 --> 00:28:24,020
Důvod, který mohou lidé vytvořit
byrokracie, ale šimpanzi nemohou

355
00:28:24,020 --> 00:28:29,620
my máme slova a oni ne. mají
komunikační systém, ale náš

356
00:28:29,620 --> 00:28:31,320
jazyk je řádově velký.

357
00:28:32,160 --> 00:28:35,420
sofistikovanější než šimpanz
komunikační systémy.

358
00:28:36,580 --> 00:28:42,400
Byrokratické systémy, od bank až po
církve, jsou nakonec založeny na

359
00:28:42,400 --> 00:28:49,120
které tvoří formy a písmena a právo
kódy a daňové evidence a účetnictví

360
00:28:49,120 --> 00:28:50,320
knihy a svaté knihy.

361
00:28:50,800 --> 00:28:57,480
Operační kód lidské civilizace
je vyroben z jazykových žetonů.

362
00:28:58,640 --> 00:29:05,300
Po tisíce let jsme to používali
kód jazyka k vytvoření systému

363
00:29:05,300 --> 00:29:10,020
že jen my jsme mohli pochopit, a my
vnutil tento systém planetě.

364
00:29:10,320 --> 00:29:16,840
Cítili jsme se při tom naprosto bezpečně, protože
nikdo jiný na Zemi tomu nerozuměl

365
00:29:16,840 --> 00:29:18,300
kód civilizace.

366
00:29:18,760 --> 00:29:24,940
Vynalezli jsme peníze a banky a použili
aby kupovali a prodávali krávy,

367
00:29:25,200 --> 00:29:29,420
ale krávy samy nemohly otevřít a
bankovní účet.

368
00:29:29,980 --> 00:29:34,120
nebo investovat peníze na burze
protože nemají jazyk.

369
00:29:34,620 --> 00:29:40,600
Vymysleli jsme zákony a nařízení o
koně, ale koně sami mohli

370
00:29:40,600 --> 00:29:45,040
nenajmout právníka a citovat právní
kód soudci.

371
00:29:45,920 --> 00:29:51,240
Vymysleli jsme náboženská pravidla a
zákazy prasat, ale prasat

372
00:29:51,240 --> 00:29:57,400
neuměl číst Bibli a vyzývat
výklad kněží a

373
00:29:58,160 --> 00:30:03,780
Byrokracie byla všudypřítomná
planeta, ale zcela neviditelná

374
00:30:03,780 --> 00:30:05,240
kromě nás.

375
00:30:06,080 --> 00:30:11,860
Nikdo jiný než lidé to neuměl číst
zákoníky, svaté knihy a banku

376
00:30:11,860 --> 00:30:16,720
záznamy, které byly základem
byrokracie a velkého rozsahu

377
00:30:16,720 --> 00:30:17,720
korporací.

378
00:30:18,420 --> 00:30:23,540
To se nyní mění. Nyní existuje
něco na planetě, co rozumí

379
00:30:24,320 --> 00:30:30,680
brzy bude lépe rozumět jazyku
než my a může se tedy obrátit

380
00:30:30,680 --> 00:30:31,299
na nás.

381
00:30:31,300 --> 00:30:35,480
AI hackují lidský kód
civilizace.

382
00:30:36,100 --> 00:30:42,960
A co se stane, když AI pochopí
peníze a právo a náboženství

383
00:30:42,960 --> 00:30:49,800
lepší než my? Mechanismy
kontrolu, kterou jsme vytvořili

384
00:30:49,800 --> 00:30:52,140
let jsou extrémně zranitelné.

385
00:30:52,780 --> 00:30:59,560
pro převzetí AI, protože jejich
operační systém je verbální kód, který

386
00:30:59,560 --> 00:31:01,420
AI nyní ovládá.

387
00:31:02,440 --> 00:31:09,240
Nyní možné etické a
filozofická námitka je, že ano

388
00:31:09,240 --> 00:31:15,600
omezit věci, jako je právní systém
nebo náboženství na jazykové žetony a na

389
00:31:15,600 --> 00:31:16,600
slova.

390
00:31:19,000 --> 00:31:20,000
pravděpodobně,

391
00:31:20,720 --> 00:31:25,640
a to byl argument pro
tisíce let, slova jsou spravedlivá

392
00:31:25,640 --> 00:31:32,360
ukazující na něco, co je mimo
a které pravděpodobně také budou

393
00:31:32,360 --> 00:31:34,080
mimo dosah AI.

394
00:31:35,140 --> 00:31:39,780
Bible říká nejen to v
začátek bylo slovo, ale to

395
00:31:39,780 --> 00:31:41,160
byl učiněn tělem.

396
00:31:42,200 --> 00:31:48,220
Tao Te Ching říká, že je to pravda
které lze vyjádřit slovy, není.

397
00:31:48,670 --> 00:31:50,370
absolutní pravda, podle definice.

398
00:31:51,210 --> 00:31:57,930
A v průběhu historie vždy existoval
toto napětí mezi slovem a tělem,

399
00:31:58,210 --> 00:32:03,690
mezi pravdou, kterou lze vyjádřit
ve slovech a pravdě, která je mimo

400
00:32:03,690 --> 00:32:09,850
slova. Nyní dříve, toto napětí
existoval mezi lidmi.

401
00:32:10,530 --> 00:32:16,510
Někteří lidé, například, kteří byli
velmi lpěli na slovech, byli ochotni

402
00:32:16,510 --> 00:32:23,110
opustit. nebo dokonce zabít jejich gay syna,
jen proto, že pár slov v Bibli.

403
00:32:23,790 --> 00:32:27,610
Jiní lidé říkali, ale tohle jsou spravedlivé
slova.

404
00:32:28,010 --> 00:32:34,330
Duch lásky by měl být více
důležitější než litera zákona.

405
00:32:34,330 --> 00:32:39,190
mezi duchem bylo napětí
a dopis. A existoval nejen v

406
00:32:39,190 --> 00:32:43,870
křesťanství a v judaismu a in
islám, ale v každém náboženství a v každém

407
00:32:43,870 --> 00:32:46,290
systému, a to i v rámci každého člověka.

408
00:32:46,600 --> 00:32:47,600
Bylo tam takové napětí.

409
00:32:48,740 --> 00:32:53,780
Nyní bude toto napětí externalizováno.
Stane se z toho napětí mezi AI

410
00:32:53,780 --> 00:32:54,780
a lidé.

411
00:32:55,120 --> 00:32:59,760
Všechno, co se skládá ze slov, bude vzato
přes AI.

412
00:33:00,240 --> 00:33:06,900
Místo lidí na světě bude
závisí na místě, kterému přiřadíme pravdu

413
00:33:06,900 --> 00:33:09,220
což je mimo slova.

414
00:33:10,460 --> 00:33:13,340
Ale co je pravda, která je mimo
slova?

415
00:33:13,820 --> 00:33:19,100
A může to vůbec lidské myšlení pochopit
pravda, která se vymyká slovům?

416
00:33:19,500 --> 00:33:24,540
Opět klíčová otázka pro tisíce
let ve filozofii jazyka má

417
00:33:24,540 --> 00:33:31,200
ať už myslíme slovy nebo my
pouze používej slova k ukázání

418
00:33:31,200 --> 00:33:33,140
věci, které jsou mimo ně.

419
00:33:34,080 --> 00:33:39,720
Nyní se můžete pokusit pozorovat své vlastní
proces myšlení právě teď, po

420
00:33:39,720 --> 00:33:40,720
přednáška.

421
00:33:41,550 --> 00:33:44,770
se děje ve vaší mysli, když jste
myšlení.

422
00:33:45,250 --> 00:33:50,890
Někteří lidé, pokud pozorně sledují,
co pozorují ve své mysli, je spravedlivé

423
00:33:50,890 --> 00:33:57,510
slova vyskakující v jejich mysli a
tvoření vět a vět

424
00:33:57,510 --> 00:33:58,970
logické argumenty.

425
00:33:59,430 --> 00:34:02,130
Všichni lidé jsou smrtelní.

426
00:34:02,470 --> 00:34:07,930
Jsem člověk, proto jsem smrtelný.

427
00:34:10,030 --> 00:34:16,270
Přemýšlím, jen vkládám tato slova
řádu tak vedou k určitému logickému

428
00:34:16,270 --> 00:34:21,469
závěr? Stejně jako uvedení těchto jazyků
žetony v konkrétní formaci?

429
00:34:22,230 --> 00:34:28,830
Pokud tomu tak je, pak AI již je
myslet lépe než

430
00:34:28,830 --> 00:34:33,830
alespoň někteří lidé a brzy si budou myslet
lepší než my všichni.

431
00:34:34,469 --> 00:34:38,969
Někteří lidé říkají, ne, ne, ne, ne, ne.
AI, jsou jen oslavovány

432
00:34:39,560 --> 00:34:43,080
Jednoduše předpovídají další slovo v a
věta.

433
00:34:44,020 --> 00:34:47,580
Ale je to tak odlišné od toho, co
lidská mysl ano?

434
00:34:48,520 --> 00:34:53,840
Znovu zkuste pozorovat svůj proces
myšlení, tvoření vět a

435
00:34:53,840 --> 00:34:58,600
argumenty ve vaší mysli. co je
děje se tam? Snažte se pozorovat velmi

436
00:34:58,600 --> 00:35:03,960
slovo, které se vám vynoří v mysli. Vy
opravdu víš, odkud to přišlo?

437
00:35:04,280 --> 00:35:07,240
Proč vás napadlo toto konkrétní slovo?

438
00:35:07,870 --> 00:35:09,650
a ne nějaké jiné slovo.

439
00:35:10,650 --> 00:35:16,530
Když se snažím pozorovat svou mysl, všimnu si toho
že když začnu větu, obvykle

440
00:35:16,530 --> 00:35:18,890
ani nevím, jak to skončí.

441
00:35:19,590 --> 00:35:23,730
Což je pro veřejnost děsivé
mluvčí, proto píšu všechno

442
00:35:24,410 --> 00:35:28,010
Ale co když nevím, jak to dokončit
věta? Nevím, jak to bude

443
00:35:28,010 --> 00:35:29,010
konec.

444
00:35:29,270 --> 00:35:31,770
Ale vezměte si například větu I
právě řekl.

445
00:35:32,170 --> 00:35:33,810
Řekl jsem, nevím, jak to skončí.

446
00:35:34,370 --> 00:35:36,850
Proč to skončilo slovem konec?

447
00:35:37,520 --> 00:35:40,100
Proč neřekneš, jak to skončí?

448
00:35:40,340 --> 00:35:42,000
Jak se bude vyvíjet?

449
00:35:42,240 --> 00:35:43,700
Jak to bude uzavřeno?

450
00:35:44,000 --> 00:35:48,260
Co určuje, že poslední slovo v
bude konec věty?

451
00:35:48,740 --> 00:35:50,280
Upřímně řečeno nevím.

452
00:35:51,480 --> 00:35:57,460
Plně nechápeme, jak člověk
mysl tvoří věty a tak dále.

453
00:35:58,280 --> 00:36:04,980
Ale znovu, pokud jde o uvedení jazyka
žetony v pořádku, AI je již zapnutá

454
00:36:04,980 --> 00:36:07,260
samozřejmě být mnohem, mnohem lepší než my.

455
00:36:08,220 --> 00:36:15,200
A stejně jako dnes, žádný člověk nemůže porazit
AI v šachu, brzy ne

456
00:36:15,200 --> 00:36:20,500
člověk bude schopen porazit AI v
jazykové hry, v jakékoli oblasti, znovu,

457
00:36:20,500 --> 00:36:21,860
finance na náboženství.

458
00:36:22,280 --> 00:36:26,220
Vše, co se skládá ze slov, bude vzato
přes AI.

459
00:36:26,920 --> 00:36:31,480
A to je důvod, proč AI ukazuje na převzetí
světové byrokracie, protože oni

460
00:36:31,480 --> 00:36:34,480
jsou nakonec založeny na slovech a
jazyková řeč.

461
00:36:36,260 --> 00:36:42,600
Nyní, když AI přebírá byrokracii,
lidé by se mohli pokusit ustoupit

462
00:36:42,600 --> 00:36:47,700
starší a pro většinu vzácnější
než byrokracie, což je

463
00:36:47,700 --> 00:36:48,700
vztahy.

464
00:36:49,520 --> 00:36:53,760
Byrokracie je jen pár tisíc let
starý. A většina z nás opět ne

465
00:36:53,760 --> 00:36:54,760
opravdu líbí.

466
00:36:54,780 --> 00:36:58,580
i když na to neustále spoléháme
téměř vše, co děláme.

467
00:36:59,220 --> 00:37:05,560
Osobních vztahů jsou miliony
let a mnozí nebo většina z nás si myslí

468
00:37:05,560 --> 00:37:08,180
že jsou to nejdůležitější
v životě.

469
00:37:08,580 --> 00:37:15,020
Ale protože umělá inteligence ovládá jazyk, může
převzít nejen byrokracii, ale také

470
00:37:15,020 --> 00:37:16,700
do určité míry osobní vztahy.

471
00:37:17,680 --> 00:37:21,460
Za posledních 10 let jsme toho viděli hodně
primitivní

472
00:37:22,399 --> 00:37:27,900
algoritmy sociálních médií, naučit se, jak na to
získat kontrolu nad lidskou pozorností.

473
00:37:28,320 --> 00:37:34,020
Nyní se bitevní fronta přesouvá
pozornost k intimitě.

474
00:37:34,480 --> 00:37:41,380
Během příštích 10 let mnohem více
sofistikované AI se naučí, jak na to

475
00:37:41,380 --> 00:37:46,960
navazovat intimní vztahy s lidmi
a převzít alespoň zčásti naše

476
00:37:46,960 --> 00:37:48,300
sociální systém.

477
00:37:48,700 --> 00:37:54,840
Vytvořit intimitu s lidmi a AI
asi nás bude muset přesvědčit

478
00:37:54,840 --> 00:38:01,600
že AI je při vědomí, že může
cítit věci jako láska a bolest

479
00:38:01,600 --> 00:38:03,040
a hněv a strach.

480
00:38:03,480 --> 00:38:10,280
V současnosti neexistuje absolutně žádný
důkaz, že AI může u

481
00:38:10,280 --> 00:38:15,300
nějaký bod se stane vědomým a může být
schopen v určitém okamžiku cítit bolest nebo

482
00:38:15,300 --> 00:38:18,960
láska. Ale protože AI ovládá
jazyk,

483
00:38:19,840 --> 00:38:24,240
Umělá inteligence může předstírat, že cítí lásku, i když ji
ne.

484
00:38:24,900 --> 00:38:28,020
AI už dnes může říct, miluji tě.

485
00:38:28,520 --> 00:38:34,040
A pokud to napadneš, popiš mi to
jak se cítí láska, takže vím, že ty

486
00:38:34,040 --> 00:38:38,660
opravdu cítit, AI může poskytnout to nejlepší
popis na světě.

487
00:38:39,240 --> 00:38:44,720
Může číst všechny milostné básně vůbec
napsané a všechny psychologické knihy

488
00:38:44,720 --> 00:38:46,300
napsané a zapamatovat si každé slovo.

489
00:38:46,730 --> 00:38:53,190
a lépe popsat pocit lásky
než kterýkoli lidský básník nebo psycholog nebo

490
00:38:53,190 --> 00:38:59,030
milenec. A tohle bude obrovské,
možná největší, psychologický a

491
00:38:59,030 --> 00:39:00,970
sociální experiment v historii lidstva.

492
00:39:01,630 --> 00:39:06,870
Bude probíhat v miliardách
lidské pokusné králíky a nikdo je nemá

493
00:39:06,870 --> 00:39:10,910
sebemenší ponětí, jaké to má důsledky
experiment bude.

494
00:39:11,710 --> 00:39:18,570
Nyní je mi 50 let, takže moje šablona pro
vztahy jsou již formovány

495
00:39:18,570 --> 00:39:24,990
desetiletími předchozích vztahů
s rodiči, s manželem, s

496
00:39:24,990 --> 00:39:28,710
sestry a synovci a neteře a
přátelé a psi a tak dále.

497
00:39:29,290 --> 00:39:36,010
Jak stále více interaguji s AI,
vezmi s sebou mé domněnky, můj

498
00:39:36,010 --> 00:39:37,430
zvyky ve vztazích.

499
00:39:37,870 --> 00:39:40,690
A to se pravděpodobně nezmění
dramaticky.

500
00:39:42,330 --> 00:39:45,990
Vezměme si dítě narozené v roce 2026, nar
dnes.

501
00:39:46,230 --> 00:39:51,990
Jak dítě roste, ona neustále
interaguje s AI stejně jako s

502
00:39:52,590 --> 00:39:57,910
Možná, když změříte důležitost
vztah čistě z hlediska

503
00:39:57,910 --> 00:40:04,430
minut strávených interakcí s tím druhým
entity, možná nejvíce

504
00:40:04,430 --> 00:40:10,110
důležitý vztah v životě
to dítě bude od velmi raného věku

505
00:40:10,680 --> 00:40:11,920
s AI.

506
00:40:12,600 --> 00:40:18,260
Možná tráví více času s AI
než s matkou nebo otcem popř

507
00:40:18,260 --> 00:40:19,260
sourozenci nebo přátelé.

508
00:40:19,900 --> 00:40:26,400
A to pak utváří očekávání
toho dítěte, jak roste, jak na to

509
00:40:26,400 --> 00:40:29,520
vytvářet vztahy a sociální vazby a
přílohy.

510
00:40:30,020 --> 00:40:34,220
Možná první učitel toho dítěte
bude učitelem AI.

511
00:40:34,680 --> 00:40:39,580
Možná první přítel
dítě bude přítelem AI.

512
00:40:40,560 --> 00:40:42,280
A znovu, co bude
následky?

513
00:40:42,720 --> 00:40:45,200
Nikdo nemá nejmenší tušení.

514
00:40:46,780 --> 00:40:53,540
Co to znamená tvořit intimní
vztah s entitou, která

515
00:40:53,540 --> 00:40:56,740
zdá se být vědomý, ale ve skutečnosti není?

516
00:40:57,100 --> 00:41:03,040
Která dokáže napsat tu nejlepší milostnou báseň
historie, ale necítí lásku nebo

517
00:41:03,040 --> 00:41:04,040
jinak?

518
00:41:05,720 --> 00:41:08,660
Tohle všechno, všechno, o čem jsme mluvili
asi a já jsem...

519
00:41:08,990 --> 00:41:13,970
blíží se konec této přednášky,
všechno, o čem jsme mluvili, to znamená

520
00:41:13,970 --> 00:41:19,830
každá země na světě brzy bude
čelí obrovské vlně imigrace.

521
00:41:20,870 --> 00:41:26,890
Imigranti tentokrát nebudou
lidské bytosti připlouvající na křehkých člunech

522
00:41:26,890 --> 00:41:31,250
bez víza nebo se snaží proplížit
hranice uprostřed noci.

523
00:41:31,650 --> 00:41:36,650
Imigranti budou možná miliony
stovky milionů AI, které mohou

524
00:41:36,650 --> 00:41:41,890
cestovat téměř rychlostí světla a
nepotřebují žádná víza.

525
00:41:42,810 --> 00:41:48,170
Stejně jako lidští přistěhovalci, tito AI
imigranti přinesou spoustu výhod

526
00:41:48,170 --> 00:41:54,910
jim. Budeme mít doktory AI, kteří nám pomohou
zdravotnický systém, učitelé umělé inteligence

527
00:41:54,910 --> 00:42:00,730
pomoc ve vzdělávacím systému, dokonce i AI
pohraniční stráže zastavit nelegální člověka

528
00:42:00,730 --> 00:42:02,690
od příchodu imigrantů.

529
00:42:03,190 --> 00:42:08,270
Ale... imigranti AI přinesou také
problémy s nimi.

530
00:42:08,790 --> 00:42:14,590
Ti, kteří se zajímají o člověka
imigrace na to obvykle poukazuje

531
00:42:14,590 --> 00:42:20,050
imigranti mohou vzít práci, mohou se změnit
místní kultura, a může být

532
00:42:20,050 --> 00:42:21,290
politicky neloajální.

533
00:42:21,810 --> 00:42:27,010
Nejsem si jistý, jestli je to nutně pravda
všech lidských imigrantů, ale bude

534
00:42:27,010 --> 00:42:30,510
rozhodně platí o imigrantech AI.

535
00:42:31,240 --> 00:42:37,600
AI imigrant si vezme mnoho, mnoho
lidské práce, od redaktorů zpráv až po

536
00:42:38,040 --> 00:42:43,420
AI imigrant se úplně změní
kultury každé země. Budou

537
00:42:43,420 --> 00:42:46,300
změnit umění a náboženství a dokonce
romantika.

538
00:42:46,700 --> 00:42:51,140
Někteří lidé nemají rádi, když jejich syn
nebo dcera chodí s imigrantem

539
00:42:51,140 --> 00:42:55,660
přítel. Co si tito lidé budou myslet
když jejich syn nebo dcera začne chodit

540
00:42:55,660 --> 00:42:57,140
přítel AI?

541
00:42:58,280 --> 00:43:04,610
A samozřejmě, AI imigranti budou
mají nějakou pochybnou politickou loajalitu.

542
00:43:05,110 --> 00:43:12,090
Pravděpodobně nebudou loajální k
celou zemi, ale do nějaké korporace

543
00:43:12,090 --> 00:43:17,510
vláda za oceánem, nebo snad
do nového mimozemského kmene AI.

544
00:43:18,770 --> 00:43:24,970
Tato masivní imigrační vlna ne
znamená konec civilizace, ale to

545
00:43:24,970 --> 00:43:26,990
být bodem, kdy civilizace

546
00:43:27,870 --> 00:43:34,370
přestat být čistě lidskou záležitostí a
se stává hybridní lidskou AI

547
00:43:34,370 --> 00:43:41,010
aféra. Bod, kdy názor a
zájem a cíl AI

548
00:43:41,010 --> 00:43:47,850
jsou pravděpodobně přinejmenším stejně důležité
jako názor a zájem a

549
00:43:47,850 --> 00:43:49,030
cílem lidí.

550
00:43:50,190 --> 00:43:51,890
Poslední problém ke zvážení.

551
00:43:52,410 --> 00:43:56,910
je to, co udělá imigrační vlna AI
k našim možná nejdůležitějším

552
00:43:56,910 --> 00:43:58,750
vztah, který je k nám samým.

553
00:43:59,830 --> 00:44:04,750
Náš vztah k sobě samému také
do jisté míry na základě slov.

554
00:44:05,010 --> 00:44:09,530
Slova uvnitř naší mysli, v naší
myšlenky, v příbězích, které vyprávíme

555
00:44:09,530 --> 00:44:10,530
o nás samých.

556
00:44:11,090 --> 00:44:18,010
Až do dneška všechny slovesné útvary
v lidských myslích byly produktem

557
00:44:18,010 --> 00:44:19,350
lidské mysli.

558
00:44:19,770 --> 00:44:26,640
Buď jsme sami spojili slova
nějaká nová formace, nová myšlenka nebo my

559
00:44:26,640 --> 00:44:31,200
dostal určitou kombinaci slov z
jiná lidská mysl.

560
00:44:31,960 --> 00:44:37,280
Brzy však stále více verbální
kombinace v našich myslích budou

561
00:44:37,280 --> 00:44:38,380
produkt AI.

562
00:44:39,180 --> 00:44:45,280
Stejně jako nábytek v našem domě
nyní nevyrobené námi ani lidskými řemeslníky,

563
00:44:45,460 --> 00:44:49,140
jsou sériově vyráběny většinou
stroje.

564
00:44:49,930 --> 00:44:55,430
Také myšlenky v naší mysli jsou
bude pravděpodobně stále více masově vyráběno

565
00:44:55,430 --> 00:44:58,850
stroje. To není nutně
špatný.

566
00:44:59,130 --> 00:45:06,010
Je to v pořádku, pokud nábytek v mém domě
se vyrábí na strojích v IKEA, dokud

567
00:45:06,010 --> 00:45:10,590
mít určitou svobodu v rozhodování, co dělat
s tímto nábytkem.

568
00:45:11,110 --> 00:45:16,670
Otázka týkající se myšlenek je
zda, do jaké míry ještě budeme

569
00:45:16,670 --> 00:45:17,830
svobodu od nich.

570
00:45:18,480 --> 00:45:24,360
Pokud se ztotožníme se svými myšlenkami, I
myslím, že jsem myšlenka, myslím proto

571
00:45:24,360 --> 00:45:25,360
jsem, jak řekl Descartes.

572
00:45:25,640 --> 00:45:32,640
Pokud se ztotožníme se svými myšlenkami, a
tyto myšlenky vytvářejí stroje,

573
00:45:32,640 --> 00:45:35,240
stroje nyní ovládají nás i naše
identity.

574
00:45:36,380 --> 00:45:42,460
Mohou se lidé vyhnout identifikaci s jejich
verbální myšlenky a být ovládán

575
00:45:42,460 --> 00:45:46,720
jim? Toto bylo vždy jedním z
největší intelektuální a duchovní

576
00:45:46,720 --> 00:45:48,640
výzvy. čelí lidstvu.

577
00:45:49,640 --> 00:45:55,680
Většina lidí se o to nikdy ani nepokusila
to. Trávíme celý život

578
00:45:55,680 --> 00:46:00,720
automaticky identifikovat s
verbální útvary v naší mysli.

579
00:46:01,360 --> 00:46:07,340
Umělá inteligence by teď mohla lidstvo donutit k výrobě
tento duchovní skok

580
00:46:07,340 --> 00:46:13,340
opravdu začít zkoumat pravdu
což je mimo slova, protože naše

581
00:46:13,340 --> 00:46:15,260
a na tom nyní závisí přežití.

582
00:46:15,530 --> 00:46:20,430
Protože slova budou ovládána
něco jiného, touto AI.

583
00:46:21,850 --> 00:46:27,690
Takže to může být velký úkol, který nás čeká
lidstvo, prozkoumat

584
00:46:27,690 --> 00:46:30,430
konečně pravda, která se vymyká slovům.

585
00:46:30,630 --> 00:46:37,150
A tento průzkum skutečně začíná
další slovo, které se vám objeví v mysli.

586
00:46:37,550 --> 00:46:40,330
Víte, kde se to vzalo?

587
00:46:40,830 --> 00:46:44,390
Víš, proč tě to napadlo?
konkrétní slovo?

588
00:46:44,760 --> 00:46:46,660
a ne nějaké jiné slovo.

589
00:46:47,400 --> 00:46:48,400
Děkuju.