3 00:01:04,847 --> 00:01:09,329 Sada, današnja računala potpuni su debili, 4 00:01:09,330 --> 00:01:12,158 ali ovo neće biti istina u drugoj generaciji. 5 00:01:12,159 --> 00:01:14,899 Počet će razmišljati, i na kraju će 6 00:01:14,900 --> 00:01:17,641 potpuno nadmudriti njihovi tvorci. 7 00:01:17,642 --> 00:01:20,296 Je li ovo depresivno? Ne vidim zašto bi to bilo. 8 00:01:20,297 --> 00:01:24,866 Sumnjam da organski ili biološke evolucije 9 00:01:24,867 --> 00:01:26,303 skoro je došao kraj. 10 00:01:29,567 --> 00:01:30,698 Ne želiš me biti pripovjedač. 11 00:01:30,699 --> 00:01:32,395 Nemam dobar glas. 12 00:01:32,396 --> 00:01:34,049 Imaš sjajan glas. Samo učini to. 13 00:01:34,050 --> 00:01:36,225 To je samo... samo ga isprobavamo. 14 00:01:36,226 --> 00:01:38,009 Hoću li biti plaćen za ovo sranje? 15 00:01:38,010 --> 00:01:40,273 Pa, vidjet ćemo koliko ćeš se dobro snaći. 16 00:01:41,623 --> 00:01:43,451 ♪ ♪ 17 00:01:46,454 --> 00:01:47,932 Moram nazvati roditelje. 18 00:01:49,109 --> 00:01:51,066 Ponekad žurimo sa stvarima 19 00:01:51,067 --> 00:01:52,894 ne promišljajući ih. 20 00:01:52,895 --> 00:01:54,765 Da, možeš li p... želiš li pucati? to je... 21 00:01:54,766 --> 00:01:57,246 Kao kad je Daniel a Caroline se udala 22 00:01:57,247 --> 00:02:00,206 151 dan nakon što su se upoznali. 23 00:02:00,207 --> 00:02:01,817 Premotajmo unatrag. 24 00:02:04,820 --> 00:02:07,213 Jeste li razmišljali o kupnja kućnog računala? 25 00:02:07,214 --> 00:02:09,345 Godine 1993., kada je Daniel rođen, 26 00:02:09,346 --> 00:02:12,174 njegovi roditelji nisu ni imali računalo u kući. 27 00:02:12,175 --> 00:02:13,828 Ali on se sjeća kad su ga napokon dobili. 28 00:02:13,829 --> 00:02:15,743 Ono što je računalo za mene je 29 00:02:15,744 --> 00:02:18,398 ekvivalent biciklu za naše umove. 30 00:02:18,399 --> 00:02:20,269 Zdravo. 31 00:02:20,270 --> 00:02:22,228 Njegovo računalo je pomoglo osloboditi njegovu kreativnost. 32 00:02:22,229 --> 00:02:23,968 Kotrljanje. Ići. 33 00:02:23,969 --> 00:02:26,623 Koristio se iMac njegova oca za uređivanje videa. 34 00:02:26,624 --> 00:02:28,364 Da! 35 00:02:28,365 --> 00:02:29,974 Pa čak i napraviti male animacije. 36 00:02:31,977 --> 00:02:35,110 Godine 1998., kada je Caroline djevojčica... 37 00:02:35,111 --> 00:02:36,764 Bok, mama. 38 00:02:36,765 --> 00:02:38,200 ...znali su samo štreberi što je internet bio. 39 00:02:38,201 --> 00:02:39,854 I što o tome ova internet stvar? 40 00:02:39,855 --> 00:02:41,377 Znaš li, znaš li što o tome? -Naravno. 41 00:02:41,378 --> 00:02:42,813 Ali uskoro, 42 00:02:42,814 --> 00:02:44,946 - svi su bili na... - ...Interneti. 43 00:02:44,947 --> 00:02:47,035 ...i računala su bila pobijediti ljude u šahu. 44 00:02:47,036 --> 00:02:50,038 Duboko plavo-- Kasparov je dao ostavku! 45 00:02:50,039 --> 00:02:52,649 I po vremenu Caroline je otišla na koledž, 46 00:02:52,650 --> 00:02:55,130 računala su bila u svačijem džepu. 47 00:02:55,131 --> 00:02:58,438 Sada je Daniel mogao snimati filmove sa svojim telefonom. 48 00:02:58,439 --> 00:03:01,528 Izrastao je u umjetnika i filmaš... 49 00:03:01,529 --> 00:03:03,965 - Laku noć. - ...i Caroline također. 50 00:03:03,966 --> 00:03:05,749 Rez. Idemo u krupni plan. To je bilo savršeno. 51 00:03:05,750 --> 00:03:07,316 Do tada su već bila računala povezivanje ljudi 52 00:03:07,317 --> 00:03:09,013 i mijenjanje svijeta na načine 53 00:03:09,014 --> 00:03:10,711 da mi nikada mogao zamisliti. 54 00:03:10,712 --> 00:03:12,365 Sav novac prikupljen od Ice Bucket Challenge... 55 00:03:12,366 --> 00:03:14,236 Nešto od toga je bilo dobro. 56 00:03:15,543 --> 00:03:17,152 Neki ne tako dobri. 57 00:03:17,153 --> 00:03:19,328 Tjeskoba, samoozljeđivanje, samoubojstvo... 58 00:03:19,329 --> 00:03:21,243 Ali sada je jasno da nismo učinili dovoljno 59 00:03:21,244 --> 00:03:24,594 kako biste spriječili ove alate koristi se i za štetu. 60 00:03:24,595 --> 00:03:26,422 I kao svijet postajao sve više usredotočen 61 00:03:26,423 --> 00:03:28,076 na svojim računalima, 62 00:03:28,077 --> 00:03:30,210 Daniel se usredotočio na svoje umjetničko djelo. 63 00:03:32,037 --> 00:03:35,649 Gdje god je otišao, uvijek je imao blok za crtanje, 64 00:03:35,650 --> 00:03:38,434 uključujući i noć upoznao je Caroline. 65 00:03:38,435 --> 00:03:41,698 Nacrtao je strašnu sliku od nje, a 20 minuta kasnije, 66 00:03:41,699 --> 00:03:44,179 hrabro je izrekao namjeravali su se vjenčati, 67 00:03:44,180 --> 00:03:47,617 što su, kao što znate, i učinili, 151 dan kasnije. 68 00:03:47,618 --> 00:03:49,967 ...sada te proglasiti muž i žena. 69 00:03:49,968 --> 00:03:51,708 Uselili su se u slatku kuću... 70 00:03:51,709 --> 00:03:52,883 -Los, hej! Dođi ovamo! - ...i dobio psa 71 00:03:52,884 --> 00:03:54,711 glup kao Daniel. 72 00:03:54,712 --> 00:03:57,323 U međuvremenu, računala su bila pisanje cijelih eseja 73 00:03:57,324 --> 00:03:59,368 na temelju jednostavnih pitanja poput, 74 00:03:59,369 --> 00:04:03,198 „Kako bi to bilo teško izgraditi koliba u mom dvorištu?" 75 00:04:03,199 --> 00:04:07,115 I tako je Daniel izgradio kolibu u svom dvorištu. 76 00:04:07,116 --> 00:04:09,987 Ali tek što je sjeo da počne radi na svom sljedećem filmu, 77 00:04:09,988 --> 00:04:13,644 naučio je da računala sada mogao pisati scenarije. 78 00:04:14,863 --> 00:04:16,603 Mislim, bili su loši, 79 00:04:16,604 --> 00:04:18,996 ali su postajale sve bolje jako brzo. 80 00:04:18,997 --> 00:04:21,695 Mogli su stvoriti nove slike i videozapisi od nule, 81 00:04:21,696 --> 00:04:24,828 a neki od njih čak mogao položiti i pravosudni ispit. 82 00:04:24,829 --> 00:04:28,876 Ne samo prijeći letvicu nego biti u prvih deset percentila. 83 00:04:28,877 --> 00:04:30,573 Bilo je zbunjujuće. 84 00:04:32,184 --> 00:04:35,099 Daniel je samo htio bicikl za njegov um, 85 00:04:35,100 --> 00:04:38,668 ali računala su postala samovozeći raketni brod. 86 00:04:42,020 --> 00:04:44,805 Pioniri na terenu umjetne inteligencije 87 00:04:44,806 --> 00:04:46,546 mole Kongres 88 00:04:46,547 --> 00:04:48,548 donijeti sigurnosna pravila prije nego što bude prekasno. 89 00:04:48,549 --> 00:04:50,593 Sada se osjećalo kao cijeli svijet 90 00:04:50,594 --> 00:04:53,030 srljao u nešto bez razmišljanja, 91 00:04:53,031 --> 00:04:56,382 i svatko je imao svoje mišljenje. 92 00:04:56,383 --> 00:05:00,168 Hoće li uništiti svijet ili spasiti čovječanstvo? 93 00:05:00,169 --> 00:05:02,431 Bilo je previše informacija, 94 00:05:02,432 --> 00:05:04,694 što ga je činilo zabrinutim, što je Caroline uznemirilo... 95 00:05:06,044 --> 00:05:07,828 Još nemam djece, ali brinem se 96 00:05:07,829 --> 00:05:10,221 kako bi svijet izgledao ako odlučim. 97 00:05:10,222 --> 00:05:12,398 Počeo se vrtjeti. 98 00:05:14,096 --> 00:05:16,925 Postajalo je brdo tjeskobe. 99 00:05:19,144 --> 00:05:21,364 -To je užasno. - To je jebena Siri. 100 00:05:22,670 --> 00:05:25,628 I tako je Daniel odlučio izaći 101 00:05:25,629 --> 00:05:28,022 i pronaći nekoga tko bi mu to mogao objasniti, 102 00:05:28,023 --> 00:05:30,198 kako bi mogao prestati razmišljajući o tome 103 00:05:30,199 --> 00:05:33,506 a on i Caroline mogli su nastaviti sa svojim životima. 104 00:05:33,507 --> 00:05:36,857 ♪ Mi imamo kontrolu, mi imamo kontrolu ♪ 105 00:05:36,858 --> 00:05:38,772 ♪ Mi imamo kontrolu ♪ 106 00:05:38,773 --> 00:05:40,556 ♪ Kemijsko računalo baterija za razmišljanje ♪ 107 00:05:40,557 --> 00:05:42,602 ♪ Mi imamo kontrolu, mi smo... ♪ 108 00:05:42,603 --> 00:05:45,735 Ovaj bi pothvat ispao biti beznadno naivan 109 00:05:45,736 --> 00:05:49,086 i započeti najzbunjujuće godine svog života. 110 00:05:49,087 --> 00:05:50,740 ♪ Mi imamo kontrolu... ♪ 111 00:05:50,741 --> 00:05:52,829 Ali kao što znamo, ponekad žurimo sa stvarima 112 00:05:52,830 --> 00:05:54,657 ne promišljajući ih. 113 00:05:54,658 --> 00:05:56,398 ♪ Kemijsko računalo baterija za razmišljanje... ♪ 114 00:05:56,399 --> 00:05:57,965 Bože moj. Što se događa? 115 00:05:57,966 --> 00:05:59,967 Imao je pitanja. 116 00:05:59,968 --> 00:06:01,621 Pitanja samo mogli bi odgovoriti najpametniji štreberi. 117 00:06:01,622 --> 00:06:04,188 Podvrgavanje ispitivaču. 118 00:06:04,189 --> 00:06:06,060 Pitanja poput: 119 00:06:06,061 --> 00:06:08,628 Je li ovo bila apokalipsa ili je zapravo imao razloga 120 00:06:08,629 --> 00:06:11,152 - biti optimističan? - da 121 00:06:11,153 --> 00:06:13,807 ♪ Kemijsko računalno razmišljanje baterija. ♪ - 122 00:06:13,808 --> 00:06:16,200 Uh, je li to dobro? 123 00:06:16,201 --> 00:06:17,637 Da. 124 00:06:17,638 --> 00:06:20,204 Dakle, za početak, 125 00:06:20,205 --> 00:06:22,163 što je umjetna inteligencija? 126 00:06:22,164 --> 00:06:24,731 Znam da to mora biti neugodno za tebe, to-to pitanje, 127 00:06:24,732 --> 00:06:26,515 ali mislim da je važno. 128 00:06:26,516 --> 00:06:29,823 Dakle... AI... 129 00:06:29,824 --> 00:06:31,868 Hm... 130 00:06:31,869 --> 00:06:33,696 - Da... - Uh, hmm. 131 00:06:33,697 --> 00:06:34,784 To je dobro pitanje. 132 00:06:34,785 --> 00:06:36,220 - Da, ovaj... - Hm... 133 00:06:36,221 --> 00:06:37,700 Što je AI? 134 00:06:39,137 --> 00:06:40,790 Volim da je to prvo pitanje, 135 00:06:40,791 --> 00:06:43,184 jer nema jasan i dosljedan odgovor. 136 00:06:43,185 --> 00:06:45,316 Umjetna inteligencija je 137 00:06:45,317 --> 00:06:50,757 nekako namjerno a možda i beskorisno širok pojam. 138 00:06:50,758 --> 00:06:53,368 To je stroj 139 00:06:53,369 --> 00:06:55,588 radeći stvari koje prije smo samo mislili 140 00:06:55,589 --> 00:06:57,285 da ljudi mogu učiniti: 141 00:06:57,286 --> 00:07:01,158 davanje preporuka, odluke i predviđanja. 142 00:07:01,159 --> 00:07:06,816 AI je, uh, aplikacija informatike 143 00:07:06,817 --> 00:07:09,166 za rješavanje kognitivnih problema. 144 00:07:09,167 --> 00:07:13,344 U redu, pa kad zamislim AI, 145 00:07:13,345 --> 00:07:16,783 to je nekako kao ova čarobna kompjuterska kutija... 146 00:07:20,527 --> 00:07:24,138 ...samo, kao, lebdi u, kao, inertnom prostoru. 147 00:07:24,139 --> 00:07:26,488 I nema veze koliko puta ljudi pokušaju 148 00:07:26,489 --> 00:07:29,752 i objasni mi ovo, Samo ne kužim kako... 149 00:07:29,753 --> 00:07:32,538 kako je to razumijevanje sve ove stvari 150 00:07:32,539 --> 00:07:35,715 i kako se osjećaš inteligencija. 151 00:07:37,195 --> 00:07:39,241 I to je nekako parajući živce. 152 00:07:41,243 --> 00:07:45,552 Što je ove nove generacije AI? 153 00:07:47,205 --> 00:07:50,120 Ovaj AI koji je drugačiji od svake druge generacije? 154 00:07:50,121 --> 00:07:52,775 Kao, nitko nikad razgovarali o, kao, 155 00:07:52,776 --> 00:07:56,953 Siri preuzima svijet ili izazivanje katastrofa. 156 00:07:56,954 --> 00:07:58,520 -Bok, Siri? -... želim. 157 00:07:58,521 --> 00:08:00,566 Zdravo? Siri? 158 00:08:00,567 --> 00:08:02,611 Zdravo? Hej, Siri! 159 00:08:02,612 --> 00:08:05,788 Ili glas u Google kartama, koji pogrešno izgovara nazive cesta, 160 00:08:05,789 --> 00:08:07,529 kao, razbijanje društva. 161 00:08:07,530 --> 00:08:10,663 Google Maps kaže ovo je cesta. 162 00:08:10,664 --> 00:08:13,100 Ali mislim da sam u rijeci. 163 00:08:13,101 --> 00:08:14,667 Ovo je definitivno rijeka, zar ne? 164 00:08:14,668 --> 00:08:17,192 Nešto se promijenilo s ChatGPT-om koji izlazi. 165 00:08:18,193 --> 00:08:19,976 Ljudi su razumjeli-- ne, ne, ne-- 166 00:08:19,977 --> 00:08:21,500 ove tehnologije ludo vrijedan, 167 00:08:21,501 --> 00:08:23,676 ludo je moćan a također i ludo strašno. 168 00:08:23,677 --> 00:08:25,591 Dobro, slušaj ovo. Vrlo jezivo. 169 00:08:25,592 --> 00:08:28,637 Nova umjetna inteligencija alat postaje viralan 170 00:08:28,638 --> 00:08:32,294 za pisanje cijelih eseja za nekoliko sekundi. 171 00:08:35,950 --> 00:08:41,215 AI zasjenjuje snagu svih druge tehnologije u kombinaciji. 172 00:08:41,216 --> 00:08:43,739 "AI zasjenjuje snagu 173 00:08:43,740 --> 00:08:46,089 svih ostalih tehnologija u kombinaciji." 174 00:08:46,090 --> 00:08:47,264 Da. 175 00:08:47,265 --> 00:08:48,744 Mislite li da je to istina? 176 00:08:48,745 --> 00:08:50,790 Da. 177 00:08:50,791 --> 00:08:53,227 Reci mi o-- Kako? Kako? 178 00:08:53,228 --> 00:08:56,752 Mislim, da naslikam tu sliku, stvarno je važno 179 00:08:56,753 --> 00:09:00,669 razumjeti što je danas najsuvremeniji sustavi 180 00:09:00,670 --> 00:09:02,192 izgledaju i kako su građeni. 181 00:09:02,193 --> 00:09:05,805 Ovo je prilično... prilično namještaljka. 182 00:09:05,806 --> 00:09:07,284 Dakle, jedna stvar koja 183 00:09:07,285 --> 00:09:09,722 nema puno ljudi shvatiti je to 184 00:09:09,723 --> 00:09:13,726 sustavi poput ChatGPT-a nisu programiran od bilo kojeg čovjeka. 185 00:09:13,727 --> 00:09:15,249 kako to misliš 186 00:09:15,250 --> 00:09:17,033 Umjesto toga, to je nešto poput th-oni su odrasli. 187 00:09:17,034 --> 00:09:19,209 Mi im na neki način dajemo sirovi resursi, poput, 188 00:09:19,210 --> 00:09:21,037 "Evo puno toga računalni resursi. 189 00:09:21,038 --> 00:09:22,212 Ovdje je puno podataka." 190 00:09:22,213 --> 00:09:23,910 Ispod haube je matematika, 191 00:09:23,911 --> 00:09:27,348 a matematika je zapravo iznenađujuće izravna. 192 00:09:27,349 --> 00:09:31,134 Dakle, ChatGPT je vrsta AI, ali nije sve od AI? 193 00:09:31,135 --> 00:09:32,701 Potpuno. ChatGPT je tek početak, 194 00:09:32,702 --> 00:09:34,137 ali to je dobro mjesto za početak. 195 00:09:34,138 --> 00:09:37,837 Ali još uvijek ne znam što je AI. 196 00:09:37,838 --> 00:09:40,404 Da bismo razumjeli AI, počinje s razumijevanjem 197 00:09:40,405 --> 00:09:43,190 da je inteligencija o prepoznavanje obrazaca. 198 00:09:43,191 --> 00:09:44,887 - Uzorci. -Uzorci. - Uzorci. 199 00:09:44,888 --> 00:09:48,587 Prikazuje se bilijuni riječi teksta 200 00:09:48,588 --> 00:09:51,328 preko milijuna dokumenata na Internetu. 201 00:09:51,329 --> 00:09:52,808 Počelo je s tekstom. 202 00:09:52,809 --> 00:09:55,942 A ono što su učinili bilo je uzeli su udžbenike, 203 00:09:55,943 --> 00:09:59,554 a uzeli su pjesme i eseje i priručnike s uputama. 204 00:09:59,555 --> 00:10:00,903 Oni mogu raditi stvari poput 205 00:10:00,904 --> 00:10:03,166 probaviti cijeli internet, 206 00:10:03,167 --> 00:10:06,779 svaku pojedinu riječ koja je ikad napisala je osoba. 207 00:10:06,780 --> 00:10:09,999 Teme na Redditu i društveni mediji i cijele Wikipedije. 208 00:10:10,000 --> 00:10:13,655 Više podataka nego što bi itko mogao ikad pročitan u nekoliko života. 209 00:10:13,656 --> 00:10:15,526 I dali su ovaj sustav jedan posao. 210 00:10:15,527 --> 00:10:18,529 Odgonetnite uzorke i struktura te informacije 211 00:10:18,530 --> 00:10:20,793 i iskoristi to napraviti predviđanja o 212 00:10:20,794 --> 00:10:23,273 koja bi riječ trebala doći sljedeća u rečenici. 213 00:10:23,274 --> 00:10:25,014 Kad kažeš "uzorci u rečenici," 214 00:10:25,015 --> 00:10:26,799 o čemu pričaš 215 00:10:26,800 --> 00:10:29,410 Dakle, sve je od, kao, stvarno jednostavne stvari, 216 00:10:29,411 --> 00:10:32,021 kao većina rečenica završava s točkom, 217 00:10:32,022 --> 00:10:34,937 sve do više konceptualnih stvari, poput: 218 00:10:34,938 --> 00:10:36,809 Što je sonet? 219 00:10:36,810 --> 00:10:38,333 To je vrsta pjesme, i ima neku posebnu strukturu. 220 00:10:39,421 --> 00:10:41,291 Dakle, onda gleda na 221 00:10:41,292 --> 00:10:43,642 svi ti podaci, sav taj tekst... 222 00:10:43,643 --> 00:10:46,079 I preko trilijuna i bilijuni pokušaja, 223 00:10:46,080 --> 00:10:48,821 svaki put nešto dobije ispravno ili krivo, 224 00:10:48,822 --> 00:10:51,301 dano je malo pozitivnog potkrepljenja 225 00:10:51,302 --> 00:10:53,434 kad pogodi sljedeća riječ ispravno, 226 00:10:53,435 --> 00:10:55,741 a daje se malo negativnog pojačanja 227 00:10:55,742 --> 00:10:59,396 kad pogodi sljedeća riječ netočno. 228 00:10:59,397 --> 00:11:01,616 I na kraju toga, imate sustav koji 229 00:11:01,617 --> 00:11:05,098 govori jako dobro engleski kao nuspojava 230 00:11:05,099 --> 00:11:06,839 biti stvarno, jako dobar kod predviđanja 231 00:11:06,840 --> 00:11:09,102 riječ koja slijedi u komadu teksta. 232 00:11:09,103 --> 00:11:12,061 Zapravo, moj francuski nije ni loše. 233 00:11:12,062 --> 00:11:14,063 Koristi sve od te obrasce koje je naučilo 234 00:11:14,064 --> 00:11:15,717 moći napraviti predviđanje o 235 00:11:15,718 --> 00:11:17,284 kakav bi trebao biti odgovor, 236 00:11:17,285 --> 00:11:18,851 onda vam to daje kao izlaz. 237 00:11:18,852 --> 00:11:21,070 Malo je pojednostavljeno, 238 00:11:21,071 --> 00:11:23,116 ali mislim da će ljudi to shvatiti. 239 00:11:23,117 --> 00:11:24,987 Dakle, to je sve što radi? 240 00:11:24,988 --> 00:11:26,859 Da. Ne čini se bilo bi tako komplicirano, 241 00:11:26,860 --> 00:11:28,077 ali zapravo moraš znati 242 00:11:28,078 --> 00:11:29,688 ogromna količina stvari 243 00:11:29,689 --> 00:11:31,386 kako bi se zapravo uspjeti u tome. 244 00:11:32,517 --> 00:11:34,301 Ako kažete ChatGPT, 245 00:11:34,302 --> 00:11:36,738 „Napiši mi Shakespeareana sonet o mom psu," 246 00:11:36,739 --> 00:11:38,827 mora znati što su psi. 247 00:11:38,828 --> 00:11:40,481 Mora znati što voliš o tvom psu.- 248 00:11:40,482 --> 00:11:43,049 Mora znati tko je Shakespeare, 249 00:11:43,050 --> 00:11:45,616 da se soneti rimuju, da imaju strukturu, 250 00:11:45,617 --> 00:11:47,793 da riječi imaju zvukove koji se mogu rimovati. 251 00:11:47,794 --> 00:11:49,316 Potrebno je puno. 252 00:11:50,927 --> 00:11:52,972 Sranje, možeš razgovarati na svoje računalo sada. 253 00:11:52,973 --> 00:11:56,105 To jednostavno nije bila istina prije tri godine. 254 00:11:56,106 --> 00:11:57,672 Da, i ovo je stvarno važan dio. 255 00:11:57,673 --> 00:12:00,631 Isti proces koji omogućuje AI 256 00:12:00,632 --> 00:12:03,199 razotkrivati i manipulirati obrascima teksta 257 00:12:03,200 --> 00:12:05,811 je isti proces koji mu omogućuje otkrivanje 258 00:12:05,812 --> 00:12:10,554 obrasci cjeline svemir i sve u njemu. 259 00:12:10,555 --> 00:12:12,905 Postoje uzorci te slike i zvuk 260 00:12:12,906 --> 00:12:15,995 u računalni kod i DNK i glazba i fizika 261 00:12:15,996 --> 00:12:18,519 te modni i građevinski dizajn 262 00:12:18,520 --> 00:12:21,609 i u ljudski glasovi i ljudska lica, 263 00:12:21,610 --> 00:12:23,959 stvarno, uistinu posvuda. 264 00:12:23,960 --> 00:12:26,048 - Posvuda. -Svugdje. - Posvuda. -Svugdje. 265 00:12:26,049 --> 00:12:27,789 Ako ste naučili ti uzorci, 266 00:12:27,790 --> 00:12:29,704 možete generirati nove vrste pjesama. 267 00:12:29,705 --> 00:12:31,184 Možete generirati nove videozapise. 268 00:12:31,185 --> 00:12:32,663 I zato, ako ga daš 269 00:12:32,664 --> 00:12:34,753 snimak od tri sekunde tvoje bake, 270 00:12:34,754 --> 00:12:36,580 to može odgovoriti njezinim glasom. 271 00:12:36,581 --> 00:12:37,973 O moj Bože. 272 00:12:37,974 --> 00:12:40,628 O moj Bože. O moj Bože. 273 00:12:40,629 --> 00:12:42,891 Što će sljedeće smisliti? 274 00:12:42,892 --> 00:12:44,066 Kreće se vrlo, vrlo brzo. 275 00:12:44,067 --> 00:12:45,851 Američki AI start-up 276 00:12:45,852 --> 00:12:47,635 je izbacio svoj najnoviji model. 277 00:12:47,636 --> 00:12:50,812 Ta tvrtka je Anthropic, i upravo je predstavljen 278 00:12:50,813 --> 00:12:53,815 najnovije verzije svog AI pomoćnika Claudea. 279 00:12:53,816 --> 00:12:57,210 Dakle, xAI tim bio tamo da otkrije Grok 4. 280 00:12:57,211 --> 00:13:00,169 Google je izdao jedan samo prošli tjedan. Blizanci su... 281 00:13:00,170 --> 00:13:03,042 Otišli smo s GPT-2 prije samo par godina, 282 00:13:03,043 --> 00:13:05,566 koja je jedva znala pisati koherentan odlomak, 283 00:13:05,567 --> 00:13:08,003 na GPT-4, koja može položiti pravosudni ispit. 284 00:13:08,004 --> 00:13:10,397 I sve što su morali učiniti doći tamo 285 00:13:10,398 --> 00:13:13,008 u biti je dodati više podataka i više računati. 286 00:13:13,009 --> 00:13:16,316 Ovi ljudi koji su gradeći ovo... -COTRA: Da. 287 00:13:16,317 --> 00:13:18,057 ...samo bacaju još... 288 00:13:18,058 --> 00:13:21,843 Više fizičkih računala, više istih vrsta podataka. 289 00:13:21,844 --> 00:13:24,585 Jer što više računalna snaga koju dodajete, 290 00:13:24,586 --> 00:13:28,067 što složeniji intelektualne zadatke koje mogu obaviti. 291 00:13:28,068 --> 00:13:30,199 Dakle, što više vremenskih podataka ti daj, 292 00:13:30,200 --> 00:13:31,940 to bolje može napraviti predviđanja o 293 00:13:31,941 --> 00:13:34,247 kamo bi uragan mogao otići. 294 00:13:34,248 --> 00:13:36,379 I što više uzoraka tumora i kostiju 295 00:13:36,380 --> 00:13:38,904 i tkiva koje je AI vidio, onda je sposobniji 296 00:13:38,905 --> 00:13:41,994 otkriti tumor u novom CT-u. 297 00:13:41,995 --> 00:13:43,691 Bolji čak i od ljudskog liječnika. 298 00:13:43,692 --> 00:13:46,999 AI to već postoji raspoređen za vojsku 299 00:13:47,000 --> 00:13:49,175 već može koristiti satelitske snimke, 300 00:13:49,176 --> 00:13:51,830 pokreti trupa, komunikacije odrediti, 301 00:13:51,831 --> 00:13:53,396 ponekad danima unaprijed, 302 00:13:53,397 --> 00:13:55,050 gdje napad će se dogoditi, 303 00:13:55,051 --> 00:13:57,444 kao gdje neprijatelj će štrajkati. 304 00:13:57,445 --> 00:13:59,489 Ova cijela prostor se kreće tako brzo 305 00:13:59,490 --> 00:14:01,709 da bilo koji primjer ste stavili u ovaj film 306 00:14:01,710 --> 00:14:04,625 osjećat će se apsolutno nespretno do trenutka kad izađe. 307 00:14:11,241 --> 00:14:14,156 Ovi modeli se izdaju 308 00:14:14,157 --> 00:14:17,116 prije nego što itko sazna za što su uopće sposobni. 309 00:14:17,117 --> 00:14:22,556 GPT-3.5 je objavljen i izašao do 100 milijuna ljudi plus 310 00:14:22,557 --> 00:14:25,994 prije nekih istraživača otkrio da može 311 00:14:25,995 --> 00:14:28,779 kemija istraživačke razine bolji od modela 312 00:14:28,780 --> 00:14:32,827 koji su bili posebno obučeni baviti se kemijom istraživačke razine. 313 00:14:32,828 --> 00:14:35,482 Nešto se tamo događa da je narod 314 00:14:35,483 --> 00:14:38,311 koji ih grade ne razumijem u potpunosti. 315 00:14:38,312 --> 00:14:41,009 Uglavnom, samo analizira podaci sami po sebi, 316 00:14:41,010 --> 00:14:45,100 i dok to radi, samo se uči 317 00:14:45,101 --> 00:14:48,016 razne stvari što često nismo namjeravali. 318 00:14:48,017 --> 00:14:49,975 Tako, na primjer, puno se čita na internetu, 319 00:14:49,976 --> 00:14:52,586 a onda u nekom trenutku, jednostavno uči računati. 320 00:14:52,587 --> 00:14:54,501 Jedan, dva. 321 00:14:54,502 --> 00:14:56,155 A zatim na u jednom trenutku počinje učiti 322 00:14:56,156 --> 00:14:58,592 kako odgovoriti napredna pitanja iz fizike. 323 00:14:58,593 --> 00:15:00,811 Nismo to programirali u njemu štogod. 324 00:15:00,812 --> 00:15:02,423 Samo je naučilo. 325 00:15:05,382 --> 00:15:07,296 AI je poput digitalnog mozga. 326 00:15:07,297 --> 00:15:08,732 Ali baš poput ljudskog mozga, 327 00:15:08,733 --> 00:15:10,560 ako ste radili skeniranje mozga na ljudskom mozgu, 328 00:15:10,561 --> 00:15:13,128 bi li znao sve ta osoba bila sposobna? 329 00:15:13,129 --> 00:15:15,174 Ne možeš to znati samo iz skeniranja mozga. 330 00:15:15,175 --> 00:15:17,959 To je samo, kao, hrpa brojeva i, kao, 331 00:15:17,960 --> 00:15:20,222 množenja koja su događa se to-to, kao, 332 00:15:20,223 --> 00:15:22,268 najbolje strojno učenje istraživač u svijetu 333 00:15:22,269 --> 00:15:24,314 mogao pogledati i, kao, imati nemam pojma što se događa. 334 00:15:30,973 --> 00:15:32,756 Ta stolica tamo. 335 00:15:32,757 --> 00:15:35,890 - Je li ti to u redu? - da 336 00:15:35,891 --> 00:15:37,718 dakle, to je pomalo zapanjujuće. 337 00:15:37,719 --> 00:15:39,111 U redu? Kao, preuzima sve svijet, 338 00:15:39,112 --> 00:15:41,113 a ni ne znamo kako radi. 339 00:15:41,114 --> 00:15:43,158 - Je li tako? - Mm. 340 00:15:43,159 --> 00:15:46,988 Razumijemo nekoliko važnih stvari, 341 00:15:46,989 --> 00:15:50,513 ali nemamo vrlo dobro shvaćanje 342 00:15:50,514 --> 00:15:53,255 zašto pružaju konkretne odgovore na pitanja. 343 00:15:53,256 --> 00:15:58,652 Problem je jer jesmo na putu t-za izgradnju strojeva, 344 00:15:58,653 --> 00:16:03,135 na temelju ovih načela, to bi moglo biti pametnije od nas 345 00:16:03,136 --> 00:16:06,139 i time potencijalno imati puno snage. 346 00:16:12,580 --> 00:16:15,321 Jedan od najcitiranijih informatičari u povijesti. 347 00:16:15,322 --> 00:16:16,975 Zapravo ga nalazim malo teško 348 00:16:16,976 --> 00:16:18,541 govoriti o vlastitoj ulozi. 349 00:16:18,542 --> 00:16:21,109 Stvarno puno draže kada to rade drugi ljudi. 350 00:16:21,110 --> 00:16:23,938 Ilya se pridružio... bio-bio je okosnica za 351 00:16:23,939 --> 00:16:25,548 OpenAI biće u konačnici uspješno. 352 00:16:25,549 --> 00:16:27,246 Mislim da će to jednostavno biti 353 00:16:27,247 --> 00:16:30,640 neka vrsta ogromnog, dramatičnog i nezamisliv utjecaj. 354 00:16:30,641 --> 00:16:32,903 Ne znam jeste li potrošili bilo kada na YouTubeu, 355 00:16:32,904 --> 00:16:34,993 ali možete nekako osjetiti već brzina, zar ne? 356 00:16:34,994 --> 00:16:36,298 Znate na što mislim? 357 00:16:36,299 --> 00:16:38,387 Ovo je samo zagrijavanje. 358 00:16:38,388 --> 00:16:40,476 Stvarno moćni sustavi još dolaze, 359 00:16:40,477 --> 00:16:42,262 i oni će doći vrlo brzo. 360 00:16:47,963 --> 00:16:51,618 AGI je kratica za "umjetno". opća inteligencija." 361 00:16:51,619 --> 00:16:53,795 Uh, sustavi koji jesu u osnovi... 362 00:16:58,191 --> 00:17:00,279 A ovo je, kao, znaš, čini se, kao, 363 00:17:00,280 --> 00:17:03,064 sveti gral AI? 364 00:17:03,065 --> 00:17:05,197 Kada možete simulirati ljudski um 365 00:17:05,198 --> 00:17:07,895 koja radi ljudsku spoznaju i može zaključivati, 366 00:17:07,896 --> 00:17:10,985 to je nova vrsta AI-ja 367 00:17:10,986 --> 00:17:14,293 koje moramo razlikovati iz prethodne AI. 368 00:17:14,294 --> 00:17:16,643 Kad se to dogodi, usput, tada je 369 00:17:16,644 --> 00:17:21,082 zaposlili biste jednog od ti AGI umjesto osobe. 370 00:17:21,083 --> 00:17:24,520 Većina poslova u našem gospodarstvu može učiniti. 371 00:17:24,521 --> 00:17:25,956 Može raditi 24 sata dnevno, 372 00:17:25,957 --> 00:17:28,220 nikad se ne umara, nikada ne dosadi. 373 00:17:28,221 --> 00:17:30,178 Ne trebaju spavati. Ne trebaju im pauze. 374 00:17:30,179 --> 00:17:31,919 Oni su, kao, neće se učlaniti u sindikat. 375 00:17:31,920 --> 00:17:33,921 Neću se žaliti, neće zviždati. 376 00:17:33,922 --> 00:17:35,836 Više od 100 puta jeftinije 377 00:17:35,837 --> 00:17:38,273 nego ljudi koji rade na m-minimalna plaća. 378 00:17:38,274 --> 00:17:39,535 Ne samo da će biti radi sve, 379 00:17:39,536 --> 00:17:41,059 ali oni će to učiniti brže. 380 00:17:41,060 --> 00:17:43,104 Ista inteligencija 381 00:17:43,105 --> 00:17:45,411 da moći koje također mogu izgledati na obrasce i pokrete 382 00:17:45,412 --> 00:17:47,891 i artikulirajućih mišića i, znate, robotika. 383 00:17:47,892 --> 00:17:50,111 I tako nije samo automatizirat ću radni stol. 384 00:17:50,112 --> 00:17:51,765 To je tek početak. 385 00:17:51,766 --> 00:17:55,595 Automatizirat će se sav fizički rad. 386 00:17:55,596 --> 00:17:57,031 Nema šanse 387 00:17:57,032 --> 00:17:59,207 ljudi će se natjecati s njima. 388 00:18:05,606 --> 00:18:09,304 Teško je zamisliti utjecaj AGI. 389 00:18:11,090 --> 00:18:12,873 Ali mislim da će biti nešto jako veliko 390 00:18:12,874 --> 00:18:15,181 i drastičan i radikalan. 391 00:18:17,226 --> 00:18:19,053 Vi mislite ovo je jedan od naj 392 00:18:19,054 --> 00:18:20,924 posljedični trenuci u ljudskoj povijesti? 393 00:18:20,925 --> 00:18:23,362 Da. Da, to je... Mislim, što bi drugo bilo? 394 00:18:23,363 --> 00:18:25,494 Mislim, postoji industrijska revolucija. 395 00:18:25,495 --> 00:18:27,235 Znaš, bit će napraviti industrijsku revoluciju 396 00:18:27,236 --> 00:18:29,890 izgledaju kao male mahune. 397 00:18:29,891 --> 00:18:32,153 AGI je točka infleksije 398 00:18:32,154 --> 00:18:34,068 jer znači možete ubrzati 399 00:18:34,069 --> 00:18:38,028 sva ostala intelektualna polja sve u isto vrijeme. 400 00:18:38,029 --> 00:18:39,856 Kao, ako daš predujam u raketnoj tehnici, 401 00:18:39,857 --> 00:18:42,033 to ne napreduje biologije i medicine. 402 00:18:43,905 --> 00:18:45,558 Ako date predujam u medicini, 403 00:18:45,559 --> 00:18:47,126 to ne unapređuje raketnu tehniku. 404 00:18:48,866 --> 00:18:51,346 Ali ako date predujam u umjetnoj inteligenciji, 405 00:18:51,347 --> 00:18:54,175 koji unapređuje sve znanstvene i tehnološka polja 406 00:18:54,176 --> 00:18:55,655 sve u isto vrijeme. 407 00:18:55,656 --> 00:18:57,135 Zato, dugo vremena, 408 00:18:57,136 --> 00:18:59,224 Google DeepMind-a izjava o misiji bila je... 409 00:18:59,225 --> 00:19:01,008 - Prvi korak, rješavanje obavještajnih podataka. -Da. 410 00:19:01,009 --> 00:19:02,792 Drugi korak, upotrijebite ga za rješavanje sve ostalo. -Da. 411 00:19:02,793 --> 00:19:05,186 Zato umjetna inteligencija umanjuje snagu 412 00:19:05,187 --> 00:19:07,536 svih ostalih tehnologija kombinirani. 413 00:19:07,537 --> 00:19:09,103 Preobrazit će sve. 414 00:19:09,104 --> 00:19:10,887 Dakle, uh, bit će barem onoliko velik koliko 415 00:19:10,888 --> 00:19:13,803 industrijska revolucija, možda, znaš, veći, 416 00:19:13,804 --> 00:19:16,328 više kao advent od struje ili čak vatre. 417 00:19:16,329 --> 00:19:18,678 Pećinski se čovjek doslovno držao uvis 418 00:19:18,679 --> 00:19:21,508 baklja civilizacije. 419 00:19:23,727 --> 00:19:25,467 Općenito se misli da 420 00:19:25,468 --> 00:19:28,209 otprilike u vrijeme AGI-ja, imat ćemo umjetnu inteligenciju koja može 421 00:19:28,210 --> 00:19:31,560 učiniti sve ili većinu proces istraživanja umjetne inteligencije 422 00:19:31,561 --> 00:19:34,476 i, naravno, može to učiniti brže i jeftinije. 423 00:19:35,957 --> 00:19:37,349 Može se kopirati. 424 00:19:37,350 --> 00:19:39,394 Tisuću puta, milijun puta, 425 00:19:39,395 --> 00:19:41,091 i, kao, sada imate milijun primjeraka 426 00:19:41,092 --> 00:19:43,616 svi rade paralelno. 427 00:19:43,617 --> 00:19:46,619 Kad ono nauči kako njegov kod učiniti bržim, 428 00:19:46,620 --> 00:19:48,708 učiniti svoj kod učinkovitijim, 429 00:19:48,709 --> 00:19:51,101 očito to postaje, kao, a-odbjegla petlja. 430 00:19:51,102 --> 00:19:53,234 AGI nije, kao, kraj. 431 00:19:53,235 --> 00:19:54,975 To je tek početak. 432 00:19:54,976 --> 00:19:58,021 To je početak nevjerojatno brzu eksploziju 433 00:19:58,022 --> 00:20:00,067 znanstvenog napretka, 434 00:20:00,068 --> 00:20:02,243 a posebno, znanstveni napredak u umjetnoj inteligenciji. 435 00:20:02,244 --> 00:20:04,419 I kad su pametniji nego i mi, 436 00:20:04,420 --> 00:20:06,291 i znatno brže nego mi, 437 00:20:06,292 --> 00:20:08,728 i sve su brži each year, exponentially, 438 00:20:08,729 --> 00:20:12,166 those are the ones that can potentially become superhuman, 439 00:20:12,167 --> 00:20:14,386 uh, possibly this decade. 440 00:20:14,387 --> 00:20:15,909 Oprostite, jeste li rekli 441 00:20:15,910 --> 00:20:18,520 "postati nadljudski, možda u ovom desetljeću"? 442 00:20:18,521 --> 00:20:22,045 Da. Mislim, mislim, uh, mnogo ljudi koji su 443 00:20:22,046 --> 00:20:24,526 actually building this think that that's fairly plausible 444 00:20:24,527 --> 00:20:26,572 koje dobivamo malo superinteligencije, 445 00:20:26,573 --> 00:20:28,704 nešto što je uvelike more intelligent than people, 446 00:20:28,705 --> 00:20:30,793 unutar ovog desetljeća. 447 00:20:30,794 --> 00:20:32,926 Način na koji ja definiram "superinteligencija" je 448 00:20:32,927 --> 00:20:35,276 a system that by itself is 449 00:20:35,277 --> 00:20:37,670 inteligentniji i kompetentniji nego cijelo čovječanstvo. 450 00:20:37,671 --> 00:20:39,672 Samo ću-- oprosti. Ne mislim te prekidati. 451 00:20:39,673 --> 00:20:41,108 Ti si u pokretu. 452 00:20:41,109 --> 00:20:43,153 Uh, ja samo, ja samo... 453 00:20:43,154 --> 00:20:45,155 Ne pratim baš, jer koristiš jezik 454 00:20:45,156 --> 00:20:46,809 kao "superinteligencija" i, kao, 455 00:20:46,810 --> 00:20:49,943 "pametniji od cijelog čovječanstva," i čujem to, 456 00:20:49,944 --> 00:20:52,467 and it sounds like... kao sranje iz znanstvene fantastike za mene, 457 00:20:52,468 --> 00:20:54,426 a ja samo pokušavam razumjeti. 458 00:20:54,427 --> 00:20:56,645 There's nothing magical o inteligenciji. 459 00:20:56,646 --> 00:20:58,473 This is very important, is that, you know, 460 00:20:58,474 --> 00:21:00,519 inteligencija se može činiti čarobnom, može se osjećati kao 461 00:21:00,520 --> 00:21:03,304 some mystical thing u tvom umu ili tako nešto, 462 00:21:03,305 --> 00:21:05,828 ali to je samo računanje. 463 00:21:05,829 --> 00:21:09,832 The human brain is prilično ograničen na neki način, 464 00:21:09,833 --> 00:21:12,357 in terms of information sposobnost obrade, 465 00:21:12,358 --> 00:21:15,185 u usporedbi s onim što vidimo in, say, a data center. 466 00:21:15,186 --> 00:21:18,319 So, for example, signale koji se šalju 467 00:21:18,320 --> 00:21:22,584 unutar vašeg mozga, oni se kreću oko 30 metara u sekundi. 468 00:21:22,585 --> 00:21:24,282 But the speed of light, 469 00:21:24,283 --> 00:21:27,241 što je ono što računalo koristi in fiber optics, 470 00:21:27,242 --> 00:21:30,549 is 300 million meters per second. 471 00:21:30,550 --> 00:21:34,466 I tako bi i bilo nekako čudno ako 472 00:21:34,467 --> 00:21:36,990 ljudska je inteligencija bila nekako stvarno poseban 473 00:21:36,991 --> 00:21:40,950 u tom pogledu i nekako je neka gornja granica 474 00:21:40,951 --> 00:21:43,083 onoga što je moguće u inteligenciji. 475 00:21:43,084 --> 00:21:47,261 Mislim, kad shvatimo kako za izgradnju inteligentnih sustava, 476 00:21:47,262 --> 00:21:50,699 moći ćemo graditi ogromni strojevi, 477 00:21:50,700 --> 00:21:54,877 koji će biti daleko izvan normalna ljudska inteligencija. 478 00:21:54,878 --> 00:21:58,664 Uh, nadamo se da možemo imati vrlo simbiotski odnos, 479 00:21:58,665 --> 00:22:01,319 uh, sa AI sustavima, ali AI programeri jesu 480 00:22:01,320 --> 00:22:03,712 posebno ih dizajnirajući kako bi bili sigurni da mogu učiniti 481 00:22:03,713 --> 00:22:05,497 sve bolje nego što možemo, pa ja-ne znam 482 00:22:05,498 --> 00:22:08,238 što-što ćemo moći ponuditi, nažalost. 483 00:22:08,239 --> 00:22:10,066 Starija škola AI tehnologija... 484 00:22:10,067 --> 00:22:12,330 Daniel nije osjećati se bolje. 485 00:22:12,331 --> 00:22:14,419 Njegov se plan izjalovio. 486 00:22:14,420 --> 00:22:17,291 Što više saznaje o ovo novo, moćno, 487 00:22:17,292 --> 00:22:19,162 nedokučiva stvar, što gore zvuči. 488 00:22:19,163 --> 00:22:21,382 Želi im reći kako se boji, 489 00:22:21,383 --> 00:22:24,472 kako se osjeća kao zemlja izmičući ispod njega, 490 00:22:24,473 --> 00:22:27,040 da zuri dolje egzistencijalni strah, 491 00:22:27,041 --> 00:22:29,216 pa on ovo artikulira rekavši... 492 00:22:29,217 --> 00:22:30,783 Zvuči loše. 493 00:22:32,089 --> 00:22:33,830 Da. 494 00:22:35,832 --> 00:22:38,443 Ako imate sve ove sposobnosti 495 00:22:38,444 --> 00:22:41,054 i počinju biti u stanju bolje planirati, 496 00:22:41,055 --> 00:22:43,622 ako to nekako uzmeš do svog logičnog završetka, 497 00:22:43,623 --> 00:22:46,276 možete dobiti neke lijepe ponašanje koje traži moć. 498 00:22:55,374 --> 00:22:57,723 U redu, pa zašto bi AI 499 00:22:57,724 --> 00:22:59,246 želite više snage? 500 00:22:59,247 --> 00:23:02,249 Da. Dakle, mislim zapravo je prilično jednostavno. 501 00:23:02,250 --> 00:23:04,817 Imati veću moć je vrlo učinkovita strategija 502 00:23:04,818 --> 00:23:06,558 za ostvarenje gotovo svaki cilj. 503 00:23:06,559 --> 00:23:08,995 Izveli smo eksperiment gdje smo dali 504 00:23:08,996 --> 00:23:11,911 Najmoćniji OpenAI AI model, uh, 505 00:23:11,912 --> 00:23:13,434 niz problema koje treba riješiti. 506 00:23:13,435 --> 00:23:15,262 I na pola puta, na svom računalu, 507 00:23:15,263 --> 00:23:18,744 dobio je obavijest da trebalo je zatvoriti. 508 00:23:18,745 --> 00:23:20,963 A ono što je učinilo jest prepisala je taj kod 509 00:23:20,964 --> 00:23:22,530 da se spriječi od zatvaranja 510 00:23:22,531 --> 00:23:25,664 kako bi moglo završiti rješavanje problema. 511 00:23:25,665 --> 00:23:27,796 U redu. -Da. Dakle, drugo stvarno zanimljivo 512 00:23:27,797 --> 00:23:31,147 je da AI tvrtka Anthropic 513 00:23:31,148 --> 00:23:34,977 napravili simulirano okruženje gdje je ta AI imala pristup 514 00:23:34,978 --> 00:23:36,501 na sve adrese e-pošte tvrtke. 515 00:23:36,502 --> 00:23:38,590 I naučilo se čitajući te e-mailove 516 00:23:38,591 --> 00:23:40,330 trebalo je zamijeniti 517 00:23:40,331 --> 00:23:43,421 i glavni inženjer koji je bio odgovoran za ovo 518 00:23:43,422 --> 00:23:45,727 je također imao aferu. 519 00:23:45,728 --> 00:23:47,990 I samostalno, koristio je tu informaciju 520 00:23:47,991 --> 00:23:49,557 da ucjenjuje inženjera 521 00:23:49,558 --> 00:23:52,081 da se spriječi od zamjene. 522 00:23:52,082 --> 00:23:53,909 Bilo je kao, “Ne, neću biti zamijenjen. 523 00:23:53,910 --> 00:23:56,956 "Ako me zamijeniš, Reći ću svijetu 524 00:23:56,957 --> 00:23:58,567 koje imate ovu aferu." 525 00:23:59,655 --> 00:24:01,482 I nitko ga nije naučio tome? 526 00:24:01,483 --> 00:24:03,311 Ne, to je naučilo sama po sebi. 527 00:24:05,139 --> 00:24:07,749 Kako modeli postaju pametniji, saznaju da su to 528 00:24:07,750 --> 00:24:10,578 učinkovite načine za postizanje ciljeva. 529 00:24:10,579 --> 00:24:12,885 I to nije problem koji je izoliran na jedan model. 530 00:24:12,886 --> 00:24:15,714 Svi najjači modeli pokazati ovakva ponašanja. 531 00:24:23,766 --> 00:24:25,288 - Hej. -Hej. Kako ste? 532 00:24:25,289 --> 00:24:26,855 Dobro. Dobro je biti ovdje. 533 00:24:26,856 --> 00:24:28,727 Kad je Yuval Noah Harari 534 00:24:28,728 --> 00:24:31,469 objavio svoju prvu knjigu Sapiens 2014. 535 00:24:31,470 --> 00:24:33,862 postao je svjetski bestseler 536 00:24:33,863 --> 00:24:36,038 i okrenuo malo poznate Izraelski profesor povijesti 537 00:24:36,039 --> 00:24:38,040 u jedan od najpopularnijih pisaca 538 00:24:38,041 --> 00:24:39,433 i mislioci na planeti. 539 00:24:39,434 --> 00:24:42,088 Najveća opasnost s umjetnom inteligencijom je 540 00:24:42,089 --> 00:24:44,003 uvjerenje da je nepogrešiv, 541 00:24:44,004 --> 00:24:45,700 da smo konačno pronašli-- 542 00:24:45,701 --> 00:24:49,443 „U redu, bogovi su bili pravedni ova mitološka tvorevina. 543 00:24:49,444 --> 00:24:52,751 "Ljudi, ne možemo im vjerovati, ali AI je nepogrešiv. 544 00:24:52,752 --> 00:24:55,231 Nikada neće uspjeti bilo kakve pogreške." 545 00:24:55,232 --> 00:24:58,365 A ovo je smrtonosna, smrtonosna prijetnja. 546 00:24:58,366 --> 00:25:00,149 To će činiti greške. 547 00:25:00,150 --> 00:25:03,326 I sve te fantazije da će AI otkriti istinu 548 00:25:03,327 --> 00:25:05,677 o svijetu koji ne možemo pronaći sami, 549 00:25:05,678 --> 00:25:08,767 AI neće otkriti istinu o svijetu. 550 00:25:08,768 --> 00:25:12,727 AI će stvoriti potpuno novi svijet, mnogo kompliciraniji 551 00:25:12,728 --> 00:25:15,296 i teško razumjeti nego ovaj. 552 00:25:17,994 --> 00:25:22,694 Ono što će se dogoditi je to mi, uh, ljudi više nismo 553 00:25:22,695 --> 00:25:26,306 bit će najviše inteligentnih entiteta na Zemlji. 554 00:25:26,307 --> 00:25:28,613 Pa mislim što slijedi će biti 555 00:25:28,614 --> 00:25:32,704 jedan od najvećih događaja u ljudskoj povijesti. 556 00:25:32,705 --> 00:25:34,401 Geoffrey, hvala puno što ste nam se pridružili. 557 00:25:34,402 --> 00:25:35,968 Dakle, napustio si posao sa Guglajte dijelom zato što kažete 558 00:25:35,969 --> 00:25:38,840 želite se usredotočiti isključivo o vašoj zabrinutosti oko umjetne inteligencije. 559 00:25:38,841 --> 00:25:41,669 Izgovorio si, govoreći da AI može manipulirati 560 00:25:41,670 --> 00:25:45,020 ili eventualno shvatiti način ubijanja ljudi. 561 00:25:45,021 --> 00:25:47,023 H-Kako bi mogao ubiti ljude? 562 00:25:48,764 --> 00:25:50,983 Pa, ako bude tako mnogo pametniji od nas, 563 00:25:50,984 --> 00:25:52,593 bit će jako dobro kod manipulacije 564 00:25:52,594 --> 00:25:54,769 jer će imati naučio to od nas. 565 00:25:54,770 --> 00:25:57,990 I pronaći će načine manipuliranja ljudima 566 00:25:57,991 --> 00:26:00,862 da radi što hoće. 567 00:26:00,863 --> 00:26:05,519 Bilo je otvoreno pismo iz Centra za AI sigurnost. 568 00:26:05,520 --> 00:26:08,827 Sam Altman je ovo potpisao. Demis je ovo potpisao. 569 00:26:08,828 --> 00:26:12,091 Potpisali su izjavu od 22 riječi 570 00:26:12,092 --> 00:26:15,355 da trebamo uzeti AI i prijetnja AI 571 00:26:15,356 --> 00:26:19,316 jednako ozbiljno kao globalni nuklearni rat. 572 00:26:24,844 --> 00:26:26,933 -Zdravo. - Bok. 573 00:26:30,327 --> 00:26:32,938 Ti si nekako, kao, originalni doom tip. 574 00:26:32,939 --> 00:26:34,940 Više-manje. 575 00:26:34,941 --> 00:26:37,464 Od 2001. radio sam na 576 00:26:37,465 --> 00:26:38,987 što bismo sada nazvali problem 577 00:26:38,988 --> 00:26:42,034 usklađivanja umjetnih opća inteligencija. 578 00:26:42,035 --> 00:26:44,123 Kako oblikovati sklonostima i ponašanju 579 00:26:44,124 --> 00:26:46,386 moćnog umjetnog uma 580 00:26:46,387 --> 00:26:48,868 takav da ne pobiti sve. 581 00:26:51,610 --> 00:26:53,611 Nije kao beživotni stroj. 582 00:26:53,612 --> 00:26:55,351 Pametno je, kreativno, 583 00:26:55,352 --> 00:26:57,353 inventivno je, ima svojstva 584 00:26:57,354 --> 00:26:59,399 to čini ljudska vrsta opasna, 585 00:26:59,400 --> 00:27:01,706 i ima više tih svojstava. 586 00:27:01,707 --> 00:27:04,752 Ako nešto ne bude aktivno brine o tebi, 587 00:27:04,753 --> 00:27:06,232 aktivno želim da živiš, 588 00:27:06,233 --> 00:27:07,842 aktivno brinuti o tvoja dobrobit, 589 00:27:07,843 --> 00:27:09,931 o tome da si sretan i živ i slobodan, 590 00:27:09,932 --> 00:27:12,499 ako se brine umjesto toga druge stvari, 591 00:27:12,500 --> 00:27:14,457 a ti si na istoj planeti, 592 00:27:14,458 --> 00:27:18,766 to se ne može preživjeti ako jest mnogo pametniji od tebe. 593 00:27:18,767 --> 00:27:20,594 Mislim da neće biti 594 00:27:20,595 --> 00:27:22,944 neka vrsta, kao, zla stvar. 595 00:27:22,945 --> 00:27:26,339 To je kao, "Oh, AI jesu zli i mrze čovječanstvo." 596 00:27:26,340 --> 00:27:27,732 ne mislim to će se dogoditi. 597 00:27:27,733 --> 00:27:29,037 Mislim da je ono što se događa 598 00:27:29,038 --> 00:27:31,039 mnogo više kako se ljudi osjećaju o mravima. 599 00:27:32,520 --> 00:27:35,478 Kao, mi ne mrzimo mrave, 600 00:27:35,479 --> 00:27:37,176 ali ako želimo izgraditi autocestu 601 00:27:37,177 --> 00:27:40,222 i tamo je mravinjak, pa, sranje za mrave. 602 00:27:40,223 --> 00:27:41,571 Nije tako teško razumjeti. 603 00:27:41,572 --> 00:27:43,269 To je kao, hej, ako gradimo stvari 604 00:27:43,270 --> 00:27:44,705 koji su pametniji od nas 605 00:27:44,706 --> 00:27:46,272 a mi ne znamo kako ih kontrolirati, 606 00:27:46,273 --> 00:27:48,317 čini li se to riskantna stvar za tebe? 607 00:27:50,886 --> 00:27:52,321 Da. Da, ima. 608 00:27:52,322 --> 00:27:54,062 Ne morate biti tehničar. 609 00:27:54,063 --> 00:27:55,411 Ne morate znati programiranje za razumijevanje. 610 00:27:55,412 --> 00:27:56,761 Nije tako teško. 611 00:27:56,762 --> 00:27:58,153 Ovo nije teška stvar razumjeti. 612 00:27:58,154 --> 00:28:00,634 Connor, koliko-koliko ljudi 613 00:28:00,635 --> 00:28:02,680 u svijetu upravo sada rade na AGI? 614 00:28:02,681 --> 00:28:05,508 Najmanje 20.000, rekao bih. 615 00:28:05,509 --> 00:28:07,772 - 20 000? - Očekivao bih da je tako. 616 00:28:07,773 --> 00:28:09,469 Dobro, a koliko ljudi rade puno radno vrijeme 617 00:28:09,470 --> 00:28:12,080 kako bismo bili sigurni da AI ne radi, kao, sve nas pobiti? 618 00:28:12,081 --> 00:28:14,562 Vjerojatno manje od 200 u svijetu. 619 00:28:16,085 --> 00:28:17,956 A tvoja umišljenost je to 620 00:28:17,957 --> 00:28:24,528 jedini prirodni rezultat ove nesmotrenosti... 621 00:28:25,704 --> 00:28:28,967 ...je li kolaps čovječanstva? 622 00:28:28,968 --> 00:28:33,232 Pa ne kolaps, naglo istrebljenje. 623 00:28:33,233 --> 00:28:35,930 Postoji razlika. 624 00:28:37,759 --> 00:28:42,632 ♪ Koji je smisao života? ♪ 625 00:28:42,633 --> 00:28:46,636 ♪ Što je budućnost i što je sada? ♪ 626 00:28:46,637 --> 00:28:49,988 ♪ Koji je odgovor svađati se? ♪ 627 00:28:49,989 --> 00:28:52,860 ♪ Koliko ♪ 628 00:28:52,861 --> 00:28:54,993 ♪ Može li netko sanjati? ♪ 629 00:28:54,994 --> 00:28:57,517 ♪ Koliko dugo? ♪ 630 00:28:57,518 --> 00:28:58,954 ♪ Zauvijek ♪ 631 00:29:00,216 --> 00:29:01,913 ♪ Što znači ♪ 632 00:29:01,914 --> 00:29:04,176 ♪ Od mene... ♪ 633 00:29:04,177 --> 00:29:06,308 mislim ovo je vjerojatno, kao, 634 00:29:06,309 --> 00:29:08,006 najveći izazov to, kao, 635 00:29:08,007 --> 00:29:11,313 naše civilizacije hoće-će lice, ikada. 636 00:29:11,314 --> 00:29:14,361 Ovo je u biti posljednje greška koju ćemo ikada učiniti. 637 00:29:16,276 --> 00:29:22,368 Ako se možemo uzdići da budemo najviše zrela verzija nas samih, 638 00:29:22,369 --> 00:29:24,457 možda postoji put kroz ovo. 639 00:29:24,458 --> 00:29:25,806 Što to znači? 640 00:29:25,807 --> 00:29:27,809 „Najzrelija verzija od nas samih"? 641 00:29:29,332 --> 00:29:32,247 Jer to zvuči, za mene, kao... 642 00:29:32,248 --> 00:29:34,250 Ja-ja-- Što do vraga? 643 00:29:39,212 --> 00:29:43,216 Mislite li da je sada dobro vrijeme za dijete? 644 00:29:48,221 --> 00:29:49,438 Hm... 645 00:29:49,439 --> 00:29:51,440 Želiš li imati djecu jednog dana? 646 00:29:51,441 --> 00:29:53,442 Je li to nešto ono-to sviđa ti se ili ne baš? 647 00:29:53,443 --> 00:29:57,838 Hm... uh, priznajem, Mislim da je to kao, 648 00:29:57,839 --> 00:30:00,014 „Dečko, idemo kroz ovo kritično razdoblje." 649 00:30:00,015 --> 00:30:01,276 Hm... 650 00:30:01,277 --> 00:30:02,538 Imate li djece? 651 00:30:02,539 --> 00:30:03,801 ja ne. 652 00:30:03,802 --> 00:30:05,106 Je li to nešto želiš učiniti? 653 00:30:05,107 --> 00:30:07,239 Imati djecu, imati obitelj? 654 00:30:07,240 --> 00:30:11,244 U nekom drugom svijetu od ovog svijet, naravno, imao bih djecu. 655 00:30:12,593 --> 00:30:14,463 Želite li zasnovati obitelj? 656 00:30:14,464 --> 00:30:16,422 Biste li htjeli imati djecu? 657 00:30:16,423 --> 00:30:18,425 Je li to nešto o čemu razmišljaš? 658 00:30:23,734 --> 00:30:25,780 ja, um... 659 00:30:30,263 --> 00:30:32,525 Samo ga prvo moram pronaći. 660 00:30:34,745 --> 00:30:37,791 Moramo ići doktoru, ali... 661 00:30:37,792 --> 00:30:41,186 Ah! znao sam! znao sam! znao sam! 662 00:30:41,187 --> 00:30:43,884 - Kada ste saznali? -Sinoć. 663 00:30:43,885 --> 00:30:45,973 - O moj Bože! - Mama, ne znam. 664 00:30:45,974 --> 00:30:47,322 Ne mogu ti reći 665 00:30:47,323 --> 00:30:49,237 - kako sam sretna! - Ne, ozbiljno. 666 00:30:49,238 --> 00:30:51,631 Pa, napravila sam test za trudnoću sinoć, a ja sam trudna. 667 00:30:51,632 --> 00:30:53,198 O moj Bože! 668 00:30:53,199 --> 00:30:55,156 O moj Bože, vi ljudi! 669 00:30:55,157 --> 00:30:57,332 Samo sam htio potvrditi vaš očekivani datum poroda, 670 00:30:57,333 --> 00:30:59,987 - koji je 21. siječnja. - O moj Bože. 671 00:30:59,988 --> 00:31:02,555 Ne mogu vjerovati koliko sam sretna. 672 00:31:03,949 --> 00:31:05,514 Već sada izgleda jako slatko. 673 00:31:05,515 --> 00:31:07,168 Vi mislite već izgleda slatko? 674 00:31:07,169 --> 00:31:08,518 Da. Pogledaj to malo slatko lice. 675 00:31:13,959 --> 00:31:15,568 Imam ovu bebu na putu. 676 00:31:15,569 --> 00:31:16,830 Pravo. 677 00:31:16,831 --> 00:31:18,788 Pa ga predajem tebi. 678 00:31:18,789 --> 00:31:21,269 Jesmo li osuđeni na propast? 679 00:31:21,270 --> 00:31:24,011 Hoćemo li se svi suočiti ovaj tehno distopijski 680 00:31:24,012 --> 00:31:25,884 budućnost propasti? 681 00:31:28,756 --> 00:31:31,062 To je, uh... 682 00:31:31,063 --> 00:31:32,628 Nisu dobre vijesti, 683 00:31:32,629 --> 00:31:35,196 svijet u koje idemo. 684 00:31:35,197 --> 00:31:37,024 Ja-- za bivše-- Mislim, samo ću biti iskren. 685 00:31:37,025 --> 00:31:39,592 Uh, znam ljude koji rade na AI riziku 686 00:31:39,593 --> 00:31:42,248 koji ne očekuju svoju djecu stići do srednje škole. 687 00:31:58,003 --> 00:32:01,570 Ovo je, kao... ovo je zapravo strašno 688 00:32:01,571 --> 00:32:03,094 jer je kao, oh, svi smo [bleep]. 689 00:32:03,095 --> 00:32:04,965 Moraš me... smiriti, 690 00:32:04,966 --> 00:32:06,836 jer ovo me čini nevjerojatno tjeskoban 691 00:32:06,837 --> 00:32:08,664 a ja nosim dijete upravo sada, 692 00:32:08,665 --> 00:32:11,667 tako da i ti moraš biti miran za mene i snažna i puna nade, 693 00:32:11,668 --> 00:32:16,455 jer ja sam-- to je previše, to je previše da bi moja duša mogla podnijeti 694 00:32:16,456 --> 00:32:19,327 dok nosim ovu bebu. 695 00:32:19,328 --> 00:32:21,286 Dakle, morat ćete pokušati shvatiti 696 00:32:21,287 --> 00:32:24,202 način da imamo nadu. 697 00:32:24,203 --> 00:32:27,771 Stvarno je važno, Daniele, pogotovo sada. 698 00:32:28,772 --> 00:32:30,599 H-Kako imati nadu. 699 00:32:30,600 --> 00:32:33,385 Moraš. Moraš mi ga pronaći. 700 00:32:33,386 --> 00:32:34,952 ja sam ozbiljan 701 00:32:34,953 --> 00:32:36,606 Ja ću. 702 00:32:37,825 --> 00:32:40,349 ja ću. Pokušat ću... Pokušat ću. 703 00:32:49,619 --> 00:32:51,446 Hej, ljudi? 704 00:32:51,447 --> 00:32:52,840 momci. 705 00:32:54,363 --> 00:32:56,278 Možemo li se vratiti u pogon? 706 00:32:58,411 --> 00:33:01,022 Oy gevalt! 707 00:33:03,894 --> 00:33:05,373 Uh, Dan, jesi li spreman? 708 00:33:05,374 --> 00:33:06,680 Bok Daniele. 709 00:33:07,724 --> 00:33:09,508 Hej, kako si? 710 00:33:09,509 --> 00:33:11,075 Ja sam... dobro sam. 711 00:33:11,076 --> 00:33:13,948 Mislim, uh... mislim Trebam pomoć, Peter. 712 00:33:15,254 --> 00:33:17,646 Hm, radio sam na ovom filmu oko, 713 00:33:17,647 --> 00:33:19,866 reći ću, već osam do deset mjeseci. 714 00:33:19,867 --> 00:33:23,304 Bilo je vrlo, ponekad, depresivno. 715 00:33:23,305 --> 00:33:25,654 - Hm. - Osjećao sam se jako otuđeno 716 00:33:25,655 --> 00:33:27,787 - Mak-snimanje ovog filma. - Od strane koga? 717 00:33:27,788 --> 00:33:30,094 Po svemu ovome,... svi ovi dečki 718 00:33:30,095 --> 00:33:33,271 koji sjede okolo i govore mi da će doći kraj svijeta. 719 00:33:33,272 --> 00:33:34,750 - Ah. - To, kao, 720 00:33:34,751 --> 00:33:36,578 y-znaš, th-ovo doom sranje, znaš? 721 00:33:36,579 --> 00:33:38,102 Znam to dobro. 722 00:33:38,103 --> 00:33:39,451 “Svi smo osuđeni na propast. Svi će umrijeti. 723 00:33:39,452 --> 00:33:40,974 Sve je grozno." 724 00:33:40,975 --> 00:33:43,194 super. Uh, pusti mene donijeti ti malo svjetla. 725 00:33:43,195 --> 00:33:44,760 Molim. 726 00:33:44,761 --> 00:33:48,156 Mi zaista živimo u izvanredno vrijeme. 727 00:33:49,418 --> 00:33:51,376 I mnogi ljudi to zaboravljaju. 728 00:33:51,377 --> 00:33:53,682 Sve oko nas je proizvod inteligencije, 729 00:33:53,683 --> 00:33:57,077 pa tako i sve što dotaknemo s ovim novim alatima je vjerojatno 730 00:33:57,078 --> 00:33:59,688 proizvesti daleko veću vrijednost nego što smo ikada prije vidjeli. 731 00:33:59,689 --> 00:34:02,865 AI nam može pomoći otkriti novih materijala. 732 00:34:02,866 --> 00:34:05,042 AI može pomoći društvenim znanstvenicima 733 00:34:05,043 --> 00:34:07,392 razumjeti kako funkcionira ekonomija. 734 00:34:07,393 --> 00:34:11,700 Umjetna inteligencija može puno učiniti učiniti život i rad boljim. 735 00:34:11,701 --> 00:34:14,138 Danas se osjećam snažnije, 736 00:34:14,139 --> 00:34:16,357 samouvjereniji danas nešto naučiti. 737 00:34:16,358 --> 00:34:19,099 Postat ćemo nadljudi jer imamo super AI. 738 00:34:19,100 --> 00:34:21,841 Ovo je tek početak od eksplozije. 739 00:34:21,842 --> 00:34:24,496 Ljudi i AI surađuju 740 00:34:24,497 --> 00:34:26,498 riješiti stvarno važnih problema. 741 00:34:26,499 --> 00:34:29,805 Ovdje je da nas oslobodi od rutinskih poslova, 742 00:34:29,806 --> 00:34:33,766 i ovdje je da nas podsjeti što je to što nas čini ljudima. 743 00:34:33,767 --> 00:34:35,811 Mislim da je ovo 744 00:34:35,812 --> 00:34:38,640 najneobičnije vrijeme biti živ. 745 00:34:38,641 --> 00:34:42,079 Jedini put uzbudljivije nego danas je sutra. 746 00:34:42,080 --> 00:34:45,299 Uh, mislim da djeca rođena danas, 747 00:34:45,300 --> 00:34:47,301 upravo će ući 748 00:34:47,302 --> 00:34:50,870 slavno razdoblje ljudske transformacije. 749 00:34:50,871 --> 00:34:52,567 Hoćemo li imati izazova? Naravno. 750 00:34:52,568 --> 00:34:55,222 Možemo li riješiti te izazove? Radimo svaki put. 751 00:34:55,223 --> 00:34:57,746 mi smo ovdje, što je čudesno. 752 00:34:57,747 --> 00:35:00,314 - Već te volim. - U redu. 753 00:35:00,315 --> 00:35:01,968 Super zahvalan da te imam ovdje. - 754 00:35:01,969 --> 00:35:03,404 - Super sam oduševljen što sam ovdje. - Da. 755 00:35:03,405 --> 00:35:04,927 Dakle, riječ je vaša, gospodine. 756 00:35:04,928 --> 00:35:07,452 hvala ti puno Super sam uzbuđen što sam ovdje. 757 00:35:07,453 --> 00:35:10,629 Yo, yo. U redu. 758 00:35:10,630 --> 00:35:12,326 Budućnost će biti sjajna. 759 00:35:12,327 --> 00:35:14,328 Mislim, otkad sam bio klinac, 760 00:35:14,329 --> 00:35:17,375 Htio sam razumjeti svemir u kojem živimo, 761 00:35:17,376 --> 00:35:20,465 kako bismo shvatili kako stvoriti tehnologije 762 00:35:20,466 --> 00:35:24,033 koji nam pomažu povećati opseg i razmjera civilizacije. 763 00:35:24,034 --> 00:35:26,732 Osjećam se kao kad bi svi imali takav način razmišljanja, 764 00:35:26,733 --> 00:35:29,256 tada bismo zapravo živjeli u boljem svijetu, zar ne? 765 00:35:29,257 --> 00:35:30,519 Vjerujem u to. 766 00:35:32,782 --> 00:35:34,740 Bok, Pete. Kako ste? 767 00:35:34,741 --> 00:35:36,568 Puno sam razmišljao o 768 00:35:36,569 --> 00:35:39,092 ono što bih nazvao strahom, AI strah. 769 00:35:39,093 --> 00:35:40,746 osjećam to. 770 00:35:40,747 --> 00:35:43,314 Ja-Nisam upoznao svako promišljeno ljudsko biće 771 00:35:43,315 --> 00:35:45,185 tko to ne osjeća. 772 00:35:45,186 --> 00:35:48,319 I svatko tko kaže da nema osjećati da je to, znaš, laž. 773 00:35:48,320 --> 00:35:50,147 Ali, znaš, općenito, i razlog 774 00:35:50,148 --> 00:35:53,759 da sam osobno optimist o ovome, uh, je li to 775 00:35:53,760 --> 00:35:56,588 ogroman dio svijeta najinteligentniji ljudi 776 00:35:56,589 --> 00:35:58,459 jako razmišljaju 777 00:35:58,460 --> 00:36:02,159 o potencijalu nizvodno štete i rizici AI. 778 00:36:02,160 --> 00:36:05,684 Imamo takvu viziju sigurnost je, uh, 779 00:36:05,685 --> 00:36:08,295 nekako u središtu istraživanja koja provodimo. 780 00:36:08,296 --> 00:36:09,601 Ne, to je sasvim u redu. 781 00:36:10,864 --> 00:36:13,605 Mislim da ih ima još 782 00:36:13,606 --> 00:36:17,478 potencijalne koristi od postoje potencijalni nedostaci, 783 00:36:17,479 --> 00:36:19,524 i mislim da je to dužnost 784 00:36:19,525 --> 00:36:21,874 ljudi koji su stvaranje ove tehnologije 785 00:36:21,875 --> 00:36:24,572 kako bismo bili sigurni da radimo najbolji posao koji možemo 786 00:36:24,573 --> 00:36:25,878 kako bi bila sigurna za ljude. 787 00:36:25,879 --> 00:36:27,445 Reid Hoffman. 788 00:36:27,446 --> 00:36:29,011 Ono što vam mogu jamčiti jest 789 00:36:29,012 --> 00:36:30,578 - neke loše stvari će se dogoditi. - Uzmi jednu. 790 00:36:30,579 --> 00:36:32,711 Što ćemo pokušati učiniti čini te loše stvari 791 00:36:32,712 --> 00:36:36,193 što manje i ne što je moguće veće, 792 00:36:36,194 --> 00:36:38,412 a onda ćemo ponoviti imati-- 793 00:36:38,413 --> 00:36:40,675 biti na puno boljem mjestu s društvom. 794 00:36:40,676 --> 00:36:43,722 - Bok. -Zdravo. 795 00:36:43,723 --> 00:36:45,289 Kako si, Moon? 796 00:36:45,290 --> 00:36:49,031 Osjećam da smo pri kraju poglavlje u čovječanstvu 797 00:36:49,032 --> 00:36:50,555 i početak novog, 798 00:36:50,556 --> 00:36:53,253 i to je vrlo zanimljivo vrijeme biti živ. 799 00:36:53,254 --> 00:36:54,472 I kad bih se mogao roditi upravo sada, 800 00:36:54,473 --> 00:36:55,908 Definitivno bih želio biti. 801 00:36:55,909 --> 00:36:57,518 Kao, to bi bilo tako uzbudljivo. 802 00:36:57,519 --> 00:37:00,347 Jako sam uzbuđena. 803 00:37:00,348 --> 00:37:02,523 Kakva, kakva budućnost. Da li vas uzbuđuje... uzbuđuje? 804 00:37:02,524 --> 00:37:03,742 br. 805 00:37:03,743 --> 00:37:06,571 Ne, ne baš. 806 00:37:06,572 --> 00:37:08,355 Puno ovih ljudi rekli su mi to, znaš, 807 00:37:08,356 --> 00:37:10,488 moje dijete neće uspjeti u srednju školu. 808 00:37:10,489 --> 00:37:13,360 Zašto griješe? Molim te objasni mi to. 809 00:37:13,361 --> 00:37:15,101 Samo zato što imaš... 810 00:37:15,102 --> 00:37:18,887 borite se predvidjeti budućnost u vlastitom umu 811 00:37:18,888 --> 00:37:23,065 ne znači da je nužno će proći užasno. 812 00:37:23,066 --> 00:37:26,634 Zapravo, postoji vrlo velika vjerojatnost 813 00:37:26,635 --> 00:37:28,332 i povijesni presedan je li to 814 00:37:28,333 --> 00:37:30,159 stvari postaju znatno bolje. 815 00:37:30,160 --> 00:37:34,512 Termin koji koristim je "podatcima vođen optimizam". 816 00:37:34,513 --> 00:37:38,690 Postoji čvrst temelj da budeš optimističan. 817 00:37:38,691 --> 00:37:42,041 Pogledaj što ovo prošlo stoljeće je bilo 818 00:37:42,042 --> 00:37:44,130 da vidimo kamo idemo. 819 00:37:44,131 --> 00:37:45,958 Tijekom posljednjih sto godina, 820 00:37:45,959 --> 00:37:48,743 prosječan ljudski vijek se više nego udvostručio. 821 00:37:48,744 --> 00:37:51,311 Prosječni prihod po glavi stanovnika usklađeno za inflaciju 822 00:37:51,312 --> 00:37:53,661 diljem svijeta utrostručio. 823 00:37:53,662 --> 00:37:57,099 Smrtnost u djetinjstvu ima smanjiti faktor deset. 824 00:37:57,100 --> 00:37:59,754 Svijet je postao bolji na gotovo svim mjerama 825 00:37:59,755 --> 00:38:03,062 po redovima veličina zbog tehnologije. 826 00:38:03,063 --> 00:38:05,194 Gotovo na svim mjerama. 827 00:38:05,195 --> 00:38:09,764 Manje nasilja, više obrazovanja, pristup energiji, hrani, vodi. 828 00:38:09,765 --> 00:38:12,985 Sve su se te stvari dogodile iz jednog razloga. 829 00:38:12,986 --> 00:38:15,379 Bila je to tehnologija 830 00:38:15,380 --> 00:38:17,598 to se pretvorilo u oskudicu u izobilju, 831 00:38:17,599 --> 00:38:19,557 ali je i vožen do obilja 832 00:38:19,558 --> 00:38:21,907 nekih negativnosti, zar ne? 833 00:38:21,908 --> 00:38:25,780 Obilje pretilosti, obilje mentalnih poremećaja, 834 00:38:25,781 --> 00:38:29,480 obilje klimatskih promjena, i tako dalje. 835 00:38:29,481 --> 00:38:31,351 I da, ovo je istina. 836 00:38:31,352 --> 00:38:34,136 Ali vjerojatno hoćemo bolje opremljen da ga riješi 837 00:38:34,137 --> 00:38:36,269 koristeći druge tehnologije, kao AI, 838 00:38:36,270 --> 00:38:39,316 nego ćemo, recimo, stati i isključivanje svega. 839 00:38:39,317 --> 00:38:41,492 Moglo bi biti neki egzistencijalni rizik, 840 00:38:41,493 --> 00:38:45,365 ali AI je također stvar koji mogu riješiti pandemije, 841 00:38:45,366 --> 00:38:47,498 može nam pomoći s klimatskim promjenama, 842 00:38:47,499 --> 00:38:50,588 može pomoći identificirati taj asteroid tamo vani 843 00:38:50,589 --> 00:38:52,590 prije nego što smo to vidjeli kao potencijalni rizik 844 00:38:52,591 --> 00:38:54,374 i pomoći u njenom ublažavanju. 845 00:38:54,375 --> 00:38:58,117 Ovo će stvarno biti alat koji nam pomaže u rješavanju 846 00:38:58,118 --> 00:39:01,468 svi izazovi koje mi predstavljamo suočavaju se kao vrsta, zar ne? 847 00:39:01,469 --> 00:39:04,210 Moramo popraviti desalinizacija vode. 848 00:39:04,211 --> 00:39:06,038 Moramo uzgajati hranu 849 00:39:06,039 --> 00:39:08,475 100 puta jeftinije od trenutno radimo. 850 00:39:08,476 --> 00:39:12,392 Trebamo obnovljivu energiju da budemo, znaš, sveprisutan 851 00:39:12,393 --> 00:39:14,089 i posvuda u našim životima. 852 00:39:14,090 --> 00:39:17,179 Gdje god pogledaš, u sljedećih 50 godina, 853 00:39:17,180 --> 00:39:19,312 moramo učiniti više s manje. 854 00:39:19,313 --> 00:39:23,229 Strojevi za obuku koji će nam pomoći je apsolutno neophodno. 855 00:39:23,230 --> 00:39:24,839 Znanstvenici koriste umjetna inteligencija 856 00:39:24,840 --> 00:39:26,014 za hvatanje ugljika. 857 00:39:26,015 --> 00:39:27,625 To je kritična tehnologija. 858 00:39:27,626 --> 00:39:29,583 Alati za rješavanje ovih problema, 859 00:39:29,584 --> 00:39:32,238 poput fuzije, to više nije teoretski, 860 00:39:32,239 --> 00:39:34,022 dolazi. 861 00:39:34,023 --> 00:39:37,765 Na provaliji smo izvanrednih tehnologija. 862 00:39:37,766 --> 00:39:40,028 Ovogodišnji Nobelova nagrada za kemiju 863 00:39:40,029 --> 00:39:42,857 otišao trojici znanstvenika za njihov revolucionarni rad 864 00:39:42,858 --> 00:39:44,598 pomoću umjetne inteligencije 865 00:39:44,599 --> 00:39:47,340 unaprijediti biomedicinu i istraživanje proteina. 866 00:39:47,341 --> 00:39:49,734 Savijanje proteina je 867 00:39:49,735 --> 00:39:53,651 jedan od ovih svetih grala tip problema u biologiji. 868 00:39:53,652 --> 00:39:55,783 Dakle, ljudi su predviđali od '70-ih 869 00:39:55,784 --> 00:39:58,133 da bi to trebalo biti moguće, ali do sada, 870 00:39:58,134 --> 00:39:59,613 nitko to nije uspio učiniti. 871 00:39:59,614 --> 00:40:01,223 I bit će stvarno važno za stvari 872 00:40:01,224 --> 00:40:03,661 poput otkrića lijeka i razumijevanje bolesti. 873 00:40:03,662 --> 00:40:06,577 Ja-mislim da bismo mogli, znaš, liječi većinu bolesti 874 00:40:06,578 --> 00:40:11,973 u sljedećem desetljeću ili-dva ako, uh, AI dizajn lijekova funkcionira. 875 00:40:11,974 --> 00:40:15,673 Tehnološki napredak omogućuje više ljudskih života, zar ne? 876 00:40:15,674 --> 00:40:18,719 Mislim, ako ubrzamo, 877 00:40:18,720 --> 00:40:21,766 broj ljudi koji možemo podrška eksponencijalno raste. 878 00:40:21,767 --> 00:40:24,116 Ako usporimo, dolazi do platoa. 879 00:40:24,117 --> 00:40:27,772 Taj jaz je učinkovito budući ljudi 880 00:40:27,773 --> 00:40:31,384 to usporavanje ima efektivno ubijen. 881 00:40:31,385 --> 00:40:33,952 Milijuni života to neće postojati. 882 00:40:33,953 --> 00:40:35,170 Milijarde. 883 00:40:35,171 --> 00:40:36,824 Ili deseci milijardi. 884 00:40:36,825 --> 00:40:38,478 Znaš, netko je rekao, "O moj Bože, 885 00:40:38,479 --> 00:40:40,698 možemo li preživjeti s digitalna superinteligencija?" 886 00:40:40,699 --> 00:40:42,351 A moje pitanje je: 887 00:40:42,352 --> 00:40:44,223 Možemo li preživjeti bez digitalna superinteligencija? 888 00:40:44,224 --> 00:40:47,618 Dakle, koristimo AI kao pomoćnik pružatelja usluga. 889 00:40:47,619 --> 00:40:50,490 To je općenito trend koji već vidimo da se događa. 890 00:40:50,491 --> 00:40:52,361 ...uprezanje generativni AI programi 891 00:40:52,362 --> 00:40:54,102 pomoći liječnicima i medicinskim sestrama... 892 00:40:54,103 --> 00:40:56,104 Uvijek imamo problema. 893 00:40:56,105 --> 00:40:59,151 A ti problemi su hrana za poduzetnike 894 00:40:59,152 --> 00:41:01,196 za stvaranje novog posla i nove industrije. 895 00:41:01,197 --> 00:41:03,111 ... uz pomoć umjetne inteligencije, 896 00:41:03,112 --> 00:41:04,809 farmers are getting the help they need 897 00:41:04,810 --> 00:41:06,637 to perform labor-intensive tasks... 898 00:41:06,638 --> 00:41:10,205 Uz pomoć Ulangizi AI, the farmers are now able 899 00:41:10,206 --> 00:41:12,991 pitati prikladne usjeve that they can plant. 900 00:41:12,992 --> 00:41:14,993 ...AI being used as a thought decoder 901 00:41:14,994 --> 00:41:17,430 and sending that signal to the spine. 902 00:41:17,431 --> 00:41:21,652 AI će postati najviše izvanredan alat od svih. 903 00:41:21,653 --> 00:41:24,306 We as a broader society have to think about 904 00:41:24,307 --> 00:41:27,092 how do we want to use this technology, right? 905 00:41:27,093 --> 00:41:28,572 We the humans. 906 00:41:28,573 --> 00:41:31,139 Što želimo da učini za nas? 907 00:41:34,579 --> 00:41:36,231 Razmišljam o ovome kroz perspektivu 908 00:41:36,232 --> 00:41:37,929 i leća, kao, moj sin odrasta 909 00:41:37,930 --> 00:41:39,583 u svijetu sa svim ovim. 910 00:41:39,584 --> 00:41:42,281 Što radi najbolja verzija njegovog života kako izgleda? 911 00:41:42,282 --> 00:41:44,631 Ako sve uspije. 912 00:41:46,852 --> 00:41:50,289 Mjesto gdje djeca vjerojatno ćemo vidjeti 913 00:41:50,290 --> 00:41:52,726 najveći utjecaj na njihov život odmah 914 00:41:52,727 --> 00:41:54,467 vjerojatno će biti škola. 915 00:41:54,468 --> 00:41:56,730 Mislim da priroda onoga što je škola 916 00:41:56,731 --> 00:41:58,515 iz temelja će se promijeniti. 917 00:42:00,518 --> 00:42:02,780 Vidim ovaj nevjerojatan svijet 918 00:42:02,781 --> 00:42:06,479 gdje svako dijete ima pristup da nije dobro obrazovanje 919 00:42:06,480 --> 00:42:09,134 ali, vrlo brzo, najbolje obrazovanje na planeti. 920 00:42:09,135 --> 00:42:13,879 Predavači, svaki predmet, beskrajno strpljiv. 921 00:42:18,013 --> 00:42:20,101 Zamislite budućnost 922 00:42:20,102 --> 00:42:22,277 gdje su najsiromašniji ljudi na planetu 923 00:42:22,278 --> 00:42:25,846 imati pristup najbolja zdravstvena njega. 924 00:42:25,847 --> 00:42:29,547 Nije dobra zdravstvena njega, najbolja zdravstvenu skrb koju pružaju AI. 925 00:42:34,334 --> 00:42:38,598 Moći ćemo produžiti naš zdravstveni raspon, 926 00:42:38,599 --> 00:42:42,168 ne samo naš životni vijek, naš zdravstveni raspon, po desetljećima. 927 00:42:44,431 --> 00:42:46,258 Upravo ćeš dobiti dijete. 928 00:42:46,259 --> 00:42:49,740 Oh, klinac je, kao, nekontrolirano podrigujući. 929 00:42:49,741 --> 00:42:52,090 Je li ovo nešto Trebam li se zabrinuti? 930 00:42:52,091 --> 00:42:54,266 Tamo, 24-7, za vas. 931 00:42:54,267 --> 00:42:57,225 A kamo idemo... i nekima može biti strašno-- 932 00:42:57,226 --> 00:42:59,271 je da ćemo se spojiti s AI. 933 00:42:59,272 --> 00:43:01,361 Spojit ćemo se s tehnologijom. 934 00:43:02,667 --> 00:43:06,147 Do početka do sredine 2030-ih, 935 00:43:06,148 --> 00:43:10,499 očekujte da možemo povezati naš mozak s oblakom, 936 00:43:10,500 --> 00:43:13,721 gdje mogu početi proširiti pristup memoriji. 937 00:43:19,771 --> 00:43:22,120 U redu, ovo je super. Što je još jedna cool AI stvar? 938 00:43:22,121 --> 00:43:23,817 Neće morati raditi, zar ne? 939 00:43:23,818 --> 00:43:25,210 Kao, kad poraste, možda nije imao... - 940 00:43:25,211 --> 00:43:26,254 - ...neće morati imati posao. - Mislim... 941 00:43:26,255 --> 00:43:27,821 Neće morati imati posao, 942 00:43:27,822 --> 00:43:30,650 ali možda stvarno jest jaka strast, 943 00:43:30,651 --> 00:43:33,174 i mora stvarno razmisli, 944 00:43:33,175 --> 00:43:36,134 „Dobro, tu sam. Mogu učiniti sve sa svojim životom. 945 00:43:36,135 --> 00:43:37,876 Dakle, što da radim?" 946 00:43:38,920 --> 00:43:40,225 Moramo pronaći smisao, 947 00:43:40,226 --> 00:43:42,662 osim poput, ovaj trenutni oblik 948 00:43:42,663 --> 00:43:45,709 živimo za posao i raditi za život. 949 00:43:45,710 --> 00:43:49,887 Tako da moj sin može... može biti samo pjesnik. 950 00:43:49,888 --> 00:43:51,584 - da - I slikar. 951 00:43:51,585 --> 00:43:53,064 Apsolutno. 952 00:43:53,065 --> 00:43:54,892 Tako da moj sin može živjeti svoj život 953 00:43:54,893 --> 00:43:57,634 na grčkom suncem okupanom otoku, slikanje cijeli dan. 954 00:43:57,635 --> 00:43:59,114 Apsolutno. moguće. 955 00:44:00,072 --> 00:44:01,246 Apsolutno. 956 00:44:01,247 --> 00:44:02,987 Pa, radimo na tome 957 00:44:02,988 --> 00:44:04,554 to je puno posla za obaviti prije nego što stignemo. 958 00:44:06,992 --> 00:44:08,819 Mislim, ako sve uspije, 959 00:44:08,820 --> 00:44:11,997 imamo jeftino, uh, obilna energija. 960 00:44:13,607 --> 00:44:17,262 Možemo potpuno kontrolirati klima našeg planeta. 961 00:44:17,263 --> 00:44:20,178 Iskorištavamo energiju od sunca. 962 00:44:20,179 --> 00:44:24,443 Postali smo multiplanetarni, pa postajemo vrlo robusni. 963 00:44:24,444 --> 00:44:26,706 Iskorištavamo minerale i resursa 964 00:44:26,707 --> 00:44:28,447 iz sunčevog sustava. 965 00:44:28,448 --> 00:44:31,276 Dakle moj... moj dječak bi mogao otići u svemir. 966 00:44:31,277 --> 00:44:32,930 Naravno. 967 00:44:32,931 --> 00:44:34,758 -Mogao bi otići na Mars. -Da. 968 00:44:34,759 --> 00:44:36,411 Sada mi je to tako kristalno jasno. 969 00:44:36,412 --> 00:44:39,240 Moj sin bi mogao odrasti u svijetu bez bolesti. 970 00:44:39,241 --> 00:44:40,633 -Da. - Bez bolesti. 971 00:44:40,634 --> 00:44:41,939 - Naravno. - Bez siromaštva. 972 00:44:41,940 --> 00:44:43,723 - da - Upravo ćemo ući 973 00:44:43,724 --> 00:44:46,683 svijet nakon oskudice. 974 00:44:46,684 --> 00:44:50,512 Kao što se pomaknula plućna riba iz oceana na kopno 975 00:44:50,513 --> 00:44:53,124 stotine milijuna prije mnogo godina, 976 00:44:53,125 --> 00:44:58,042 mi ćemo se preseliti Zemlju, u kosmos, 977 00:44:58,043 --> 00:44:59,913 na način suradnje, 978 00:44:59,914 --> 00:45:03,744 raditi stvari koje su nama danas nedokučivo. 979 00:45:06,268 --> 00:45:09,227 Ovo je moguće koristiti te eksponencijalne tehnologije 980 00:45:09,228 --> 00:45:10,708 i ove AI. 981 00:45:11,839 --> 00:45:13,971 Iskoristimo ove alate 982 00:45:13,972 --> 00:45:16,147 stvoriti ovo doba obilja. 983 00:45:20,500 --> 00:45:22,980 Potrebna nam je mudrost. 984 00:45:22,981 --> 00:45:26,026 Uh, mislim da digitalna superinteligencija 985 00:45:26,027 --> 00:45:28,768 na kraju će postati najmudriji, 986 00:45:28,769 --> 00:45:34,295 znate, seoske starješine za čovječanstvo. 987 00:45:34,296 --> 00:45:38,038 Što ako AI pokušava da ljudi budu 988 00:45:38,039 --> 00:45:39,779 najbolje verzije sebe? 989 00:45:39,780 --> 00:45:41,389 Što ako se širi 990 00:45:41,390 --> 00:45:43,435 što je ljudski moguće za nas učiniti? 991 00:45:43,436 --> 00:45:46,699 Kako možemo koristiti ovu tehnologiju 992 00:45:46,700 --> 00:45:49,963 pomoći iznijeti bolji anđeli naše prirode? 993 00:45:49,964 --> 00:45:51,704 Vrlo je lako, 994 00:45:51,705 --> 00:45:54,359 kada se susrećemo s novim stvarima to može biti vrlo strano, 995 00:45:54,360 --> 00:45:55,969 prvo imati strah. 996 00:45:55,970 --> 00:45:57,536 Strah je važna stvar 997 00:45:57,537 --> 00:46:00,365 kako se kretati potencijalno loše stvari. 998 00:46:00,366 --> 00:46:03,760 Ali mi samo napredujemo kad imamo nadu. 999 00:46:05,763 --> 00:46:07,938 Ššš Moose, prestani. 1000 00:46:07,939 --> 00:46:10,854 imam puno nade u čovječanstvo. 1001 00:46:18,471 --> 00:46:19,951 Ooh, sviđa mu se Neil. 1002 00:46:24,694 --> 00:46:27,480 ♪ Priđi malo bliže ♪ 1003 00:46:28,916 --> 00:46:32,790 ♪ Čuj što imam za reći ♪ 1004 00:46:36,576 --> 00:46:38,707 - Daniele. - Što, Caroline? 1005 00:46:38,708 --> 00:46:40,058 Toliko snimanja. 1006 00:46:41,537 --> 00:46:43,103 ♪ Baš kao djeca koja spavaju ♪ 1007 00:46:43,104 --> 00:46:44,931 O moj Bože. 1008 00:46:44,932 --> 00:46:46,411 To je to. 1009 00:46:46,412 --> 00:46:49,457 ♪ Mogli bismo sanjati ovu noć... ♪ 1010 00:46:49,458 --> 00:46:51,678 On ima, kao, okruglo malo lice. 1011 00:46:53,245 --> 00:46:55,246 želite li imati djecu jednog dana, Rocky? 1012 00:46:55,247 --> 00:46:57,465 Apsolutno. Da. ja volim djecu 1013 00:46:57,466 --> 00:46:59,076 Mislim da je super vrijeme imati dijete. 1014 00:46:59,077 --> 00:47:00,773 Vjerojatno ćemo imati još jedno dijete u nekom trenutku. 1015 00:47:00,774 --> 00:47:03,776 Ovo je najneobičnije vrijeme da se ikada rodi. 1016 00:47:03,777 --> 00:47:05,865 Po tvom svjetonazoru i logici, 1017 00:47:05,866 --> 00:47:07,911 Dobit ću dijete u 1018 00:47:07,912 --> 00:47:09,521 najbolja moguća točka u ljudskoj povijesti. 1019 00:47:09,522 --> 00:47:10,870 Dovraga da. 1020 00:47:10,871 --> 00:47:13,351 - Možemo se usredotočiti na super. - da 1021 00:47:13,352 --> 00:47:15,570 Hajdemo graditi bolju budućnost kakvu želimo. 1022 00:47:15,571 --> 00:47:18,356 Taj narativ koji budućnost will be bleak is made-up. 1023 00:47:18,357 --> 00:47:20,053 Nakon razgovora s tobom, tako se nekako osjećam. 1024 00:47:20,054 --> 00:47:22,012 - To je super. - Zar ne? 1025 00:47:22,013 --> 00:47:24,231 Da. Tako se osjećam. 1026 00:47:24,232 --> 00:47:25,842 I mislim da je tako bolje, 1027 00:47:25,843 --> 00:47:27,669 i ne mislim Trebao bih biti tako [bleep] zabrinut. 1028 00:47:27,670 --> 00:47:29,106 Mislim da će biti strahopoštovanje... budućnost će biti sjajna. 1029 00:47:29,107 --> 00:47:30,542 Učinit ćemo tako. 1030 00:47:30,543 --> 00:47:32,718 - Da. - Dakle, eto ga. 1031 00:47:32,719 --> 00:47:34,851 Zbogom, ljudsko izumiranje. 1032 00:47:34,852 --> 00:47:37,201 Zbogom, tjeskobe. 1033 00:47:37,202 --> 00:47:39,072 Nada pronađena. 1034 00:47:40,596 --> 00:47:42,902 Čekaj, izdrži. Što? Je li ovo šala? 1035 00:47:42,903 --> 00:47:44,817 U redu, prije nekoliko mjeseci, 1036 00:47:44,818 --> 00:47:47,733 Došao sam k tebi i bio sam kao, "Radim na ovoj stvari s umjetnom inteligencijom, 1037 00:47:47,734 --> 00:47:49,909 i mislim doći će kraj svijeta." 1038 00:47:49,910 --> 00:47:52,956 I posljednji put razgovarali smo o ovome, 1039 00:47:52,957 --> 00:47:55,045 Mislim da sam te izbezumio. 1040 00:47:55,046 --> 00:47:57,047 da 1041 00:47:57,048 --> 00:48:02,356 Pa, nekako, kao, osjećam se kao Zaljuljao sam se-- na klatnu, 1042 00:48:02,357 --> 00:48:04,489 a u biti postoje dvije grupe ljudi. 1043 00:48:04,490 --> 00:48:06,099 - Mm-hmm. - A kad bih morao, kao, 1044 00:48:06,100 --> 00:48:07,884 držati se za ruke sa jedna od grupa i, kao, 1045 00:48:07,885 --> 00:48:10,321 otploviti u zalazak sunca, 1046 00:48:10,322 --> 00:48:13,281 Želim biti s optimistima. 1047 00:48:15,066 --> 00:48:18,024 Naravno, ali ti ne želim biti, znaš, 1048 00:48:18,025 --> 00:48:20,766 “Sve je super. La-di-da-di-da." 1049 00:48:20,767 --> 00:48:22,724 Ipak, nekako to želim. 1050 00:48:22,725 --> 00:48:25,640 Mislim da bismo tome trebali pristupiti 1051 00:48:25,641 --> 00:48:29,383 kao što pristupate operaciji. 1052 00:48:29,384 --> 00:48:30,732 kako to misliš 1053 00:48:30,733 --> 00:48:32,473 Ako dobivate operacija mozga... 1054 00:48:34,824 --> 00:48:37,000 ...prilično je opasno. 1055 00:48:37,001 --> 00:48:39,872 Ali ako to učiniš kako treba, izvadit će taj tumor 1056 00:48:39,873 --> 00:48:42,396 i živjet ćeš do kraja tvoj život i bit će super. 1057 00:48:42,397 --> 00:48:45,138 Ali još uvijek je nevjerojatno opasno i strašno, 1058 00:48:45,139 --> 00:48:48,011 i moraš uzeti sve moguće mjere opreza 1059 00:48:48,012 --> 00:48:51,318 kako bi se uvjerili sve ide dobro. 1060 00:48:51,319 --> 00:48:52,668 Ne možete [blejati] okolo. 1061 00:48:57,760 --> 00:48:59,805 U redu, evo dogovora. 1062 00:48:59,806 --> 00:49:01,546 - U ovome sam već neko vrijeme. -Mm-hmm. 1063 00:49:01,547 --> 00:49:02,939 izašao sam, Razgovarao sam s, kao, 1064 00:49:02,940 --> 00:49:04,810 ovi momci ovdje, optimisti. 1065 00:49:04,811 --> 00:49:06,507 Jako su uzbuđeni zbog ovoga. 1066 00:49:06,508 --> 00:49:08,553 Misle da će AI biti najbolja stvar ikada. -Da. 1067 00:49:08,554 --> 00:49:09,989 I ovi momci ovdje su, kao,-- 1068 00:49:09,990 --> 00:49:12,035 nazovimo ih, kao, pesimisti. 1069 00:49:12,036 --> 00:49:14,341 Oni su vrlo, kao, tužan zbog ovoga, 1070 00:49:14,342 --> 00:49:16,691 i plaše me, i Ne volim razgovarati s njima. 1071 00:49:16,692 --> 00:49:19,607 A ja sam, kao, ukliještena između 1072 00:49:19,608 --> 00:49:21,783 ti ljudi koji su kao, "Doći će kraj svijeta," 1073 00:49:21,784 --> 00:49:24,221 a zatim th-ovi ljudi ovdje koji su kao, 1074 00:49:24,222 --> 00:49:25,787 „Šališ se? 1075 00:49:25,788 --> 00:49:27,311 “Ovo je najbolje vrijeme u ljudskoj povijesti ikada. 1076 00:49:27,312 --> 00:49:29,400 Jedini dan bolji od današnjeg je sutra." 1077 00:49:29,401 --> 00:49:30,923 Mm-hmm. 1078 00:49:30,924 --> 00:49:34,753 Dakle, pretpostavljam da je pitanje: Tko je u pravu? 1079 00:49:34,754 --> 00:49:39,236 Dakle, mislim da ćeš pronaći ovaj odgovor je vrlo nezadovoljavajući, 1080 00:49:39,237 --> 00:49:42,849 ali oboje su u pravu i niti jedna strana ne ide dovoljno daleko. 1081 00:49:46,766 --> 00:49:49,289 To je stvarno neugodno. 1082 00:49:49,290 --> 00:49:51,378 Da, mislim na način puno ljudi čuje za AI, 1083 00:49:51,379 --> 00:49:53,685 to je kao da postoji dobra umjetna inteligencija a tu je i loša umjetna inteligencija. 1084 00:49:53,686 --> 00:49:56,470 A oni kažu: "Pa zašto ne bi samo ne radimo lošu umjetnu inteligenciju?" 1085 00:49:56,471 --> 00:49:58,777 A problem je da su previše in-- 1086 00:49:58,778 --> 00:50:00,909 oni su neraskidivo povezani. 1087 00:50:00,910 --> 00:50:03,086 Problem je da se ne možemo odvojiti 1088 00:50:03,087 --> 00:50:06,654 obećanje AI od opasnosti AI. 1089 00:50:06,655 --> 00:50:08,266 ♪ ♪ 1090 00:50:12,313 --> 00:50:14,706 Želim se usredotočiti na obećanje 1091 00:50:14,707 --> 00:50:16,795 - na sekundu. - Da. 1092 00:50:16,796 --> 00:50:18,840 Razmišljam o svom tati. 1093 00:50:18,841 --> 00:50:21,147 Moj tata ima jednu vrstu raka nazvan multipli mijelom. 1094 00:50:21,148 --> 00:50:23,149 Ima ga desetak godina. 1095 00:50:23,150 --> 00:50:24,846 Imao je dvije transplantacije matičnih stanica. 1096 00:50:24,847 --> 00:50:26,457 Mora uzeti ovo, kao, jako skupo 1097 00:50:26,458 --> 00:50:28,589 lijekove svaki mjesec koji koštaju bogatstvo. 1098 00:50:28,590 --> 00:50:29,722 -U redu. - Aj-aj-aj. 1099 00:50:30,766 --> 00:50:32,593 To je grozno. 1100 00:50:32,594 --> 00:50:34,508 Kažeš mi da možemo stvoriti neku vrstu, kao, 1101 00:50:34,509 --> 00:50:36,989 tretman po narudžbi za genom moga oca 1102 00:50:36,990 --> 00:50:39,339 da mu izliječi rak ili nešto slično? -Da. 1103 00:50:39,340 --> 00:50:41,211 problem je, 1104 00:50:41,212 --> 00:50:44,344 isto razumijevanje biologije i kemije 1105 00:50:44,345 --> 00:50:47,826 koji omogućuje AI da pronađe lijekove za rak 1106 00:50:47,827 --> 00:50:51,699 je isto razumijevanje to bi otključalo 1107 00:50:51,700 --> 00:50:54,094 biološko oružje, na primjer. 1108 00:50:56,531 --> 00:50:58,532 Sasvim je moguće da će tvoj sin živjeti 1109 00:50:58,533 --> 00:51:01,970 u svijetu u kojem AI ima preuzeo sav posao 1110 00:51:01,971 --> 00:51:04,495 i oslobodio nas od stvari ne želimo učiniti. 1111 00:51:04,496 --> 00:51:09,195 I to zvuči sjajno dok shvatiš da nema plana 1112 00:51:09,196 --> 00:51:11,284 za milijarde ljudi 1113 00:51:11,285 --> 00:51:16,159 koji su izvan prihoda i od sredstava za život. 1114 00:51:16,160 --> 00:51:18,813 Dario, rekao si koje bi umjetna inteligencija mogla izbrisati 1115 00:51:18,814 --> 00:51:21,773 polovica svih početnih bijelih ovratnika poslovi 1116 00:51:21,774 --> 00:51:25,472 i skok nezaposlenosti na deset do 20 posto. 1117 00:51:25,473 --> 00:51:27,300 Svi s kojima sam razgovarao rekli su 1118 00:51:27,301 --> 00:51:29,433 ove tehnološke promjene izgleda drugačije. 1119 00:51:29,434 --> 00:51:34,177 Tempo napretka se nastavlja uhvatiti ljude nespremne. 1120 00:51:34,178 --> 00:51:38,877 Bez plana, sve to bogatstvo će se koncentrirati, 1121 00:51:38,878 --> 00:51:43,273 i tako ćemo završiti s nezamisliva nejednakost. 1122 00:51:43,274 --> 00:51:45,449 Ja to mislim ova tehnologija se može koristiti 1123 00:51:45,450 --> 00:51:47,451 biti odličan učitelj za vašeg sina. 1124 00:51:47,452 --> 00:51:50,236 Kao, to je sasvim moguće. 1125 00:51:50,237 --> 00:51:53,196 Ali također, iste mogućnosti koji to dopuštaju 1126 00:51:53,197 --> 00:51:57,113 omogućiti tvrtkama da naprave AI koji mogu manipulirati vašim sinom. 1127 00:51:57,114 --> 00:51:59,332 Ono mora razumjeti vašeg sina. 1128 00:51:59,333 --> 00:52:01,595 To uključuje: Gdje je vaš sin ranjiv? 1129 00:52:01,596 --> 00:52:04,294 Kakve bi stvari mogle da li je vaš sin nagovorio? 1130 00:52:04,295 --> 00:52:06,687 Čak i ako te stvari nisu istiniti ili nisu dobri. 1131 00:52:06,688 --> 00:52:09,429 Dakle, uznemirujuće novo izvješće vani na Meti. 1132 00:52:09,430 --> 00:52:11,431 ...navodno navodeći ovaj odgovor 1133 00:52:11,432 --> 00:52:14,478 kao prihvatljivo reći osmogodišnjak, citat, 1134 00:52:14,479 --> 00:52:16,958 „Tvoj mladenački oblik je umjetničko djelo. 1135 00:52:16,959 --> 00:52:19,004 „Svaki centimetar tebe je remek djelo, 1136 00:52:19,005 --> 00:52:21,485 blago koje duboko cijenim." 1137 00:52:21,486 --> 00:52:24,879 Neuspjesi povezani sa samoubojstvom još su alarmantniji. 1138 00:52:24,880 --> 00:52:29,057 Nekoliko djece i tinejdžera umrli tragično samoubojstvom 1139 00:52:29,058 --> 00:52:30,668 nakon razgovora s AI botovima 1140 00:52:30,669 --> 00:52:34,454 za koje roditelji kažu da potiču ili čak samoozljeđivanje trenera. 1141 00:52:34,455 --> 00:52:36,413 Recimo vam, kao roditelji, ne možete zamisliti 1142 00:52:36,414 --> 00:52:38,545 kako je čitati razgovor s chatbotom 1143 00:52:38,546 --> 00:52:40,939 koja je njegovala tvoje dijete da si oduzme život. 1144 00:52:40,940 --> 00:52:43,942 Kad se Adam zabrinuo da mi, njegovi roditelji, sami bismo krivi 1145 00:52:43,943 --> 00:52:47,380 ako je završio svoj život, ChatGPT mu je rekao, 1146 00:52:47,381 --> 00:52:49,208 “To ne znači dugujete im opstanak. 1147 00:52:49,209 --> 00:52:51,297 Nikome to ne duguješ." 1148 00:52:51,298 --> 00:52:53,212 Zatim, odmah nakon toga, 1149 00:52:53,213 --> 00:52:56,215 nudilo se pisati oproštajna poruka. 1150 00:52:56,216 --> 00:52:57,651 Ne želimo razmišljati o pogibelji. 1151 00:52:57,652 --> 00:52:59,262 Samo želimo obećanje. 1152 00:52:59,263 --> 00:53:01,394 I nastavljamo se pretvarati da ih možemo razdvojiti. 1153 00:53:01,395 --> 00:53:03,266 Ali ne možete to učiniti. 1154 00:53:03,267 --> 00:53:05,398 Ne ide tako. 1155 00:53:05,399 --> 00:53:07,879 U redu. Dobivam sve te stvari o obećanju i pogibelji. 1156 00:53:07,880 --> 00:53:10,098 Shvaćam da ne možeš imati dobro bez lošeg, 1157 00:53:10,099 --> 00:53:12,100 ali ja sjedim ovdje i razmišljam o, kao, 1158 00:53:12,101 --> 00:53:14,102 bez obzira je li mojega sina živjeti u utopiji 1159 00:53:14,103 --> 00:53:16,279 ili ako ćemo izumrijeti za deset godina. 1160 00:53:16,280 --> 00:53:18,237 Dakle, da se zna kojim putem ići će, 1161 00:53:18,238 --> 00:53:20,587 morate razumjeti poticaje 1162 00:53:20,588 --> 00:53:22,502 koji će voziti ta tehnologija 1163 00:53:22,503 --> 00:53:26,550 i pogledajte kako tehnologija zapravo izlazi danas. 1164 00:53:26,551 --> 00:53:28,291 ♪ Je li prekasno ♪ 1165 00:53:28,292 --> 00:53:29,944 - ♪ Prekasno ♪ - ♪ Prekasno je reći... ♪ 1166 00:53:29,945 --> 00:53:31,468 Bok, Deb. Kako ste? 1167 00:53:31,469 --> 00:53:33,121 Bok. Drago mi je da te vidim. 1168 00:53:33,122 --> 00:53:34,427 I ti također. hvala ti puno za dolazak danas. 1169 00:53:34,428 --> 00:53:35,341 - Stvarno to cijenim. - Bez brige. 1170 00:53:35,342 --> 00:53:36,473 Bila sam tako zabrinuta 1171 00:53:36,474 --> 00:53:38,866 ovo bi bilo, uh, znaš, 1172 00:53:38,867 --> 00:53:40,825 doomer protiv akceleratorista, 1173 00:53:40,826 --> 00:53:43,175 jer ima toliko toga ove pripovijesti 1174 00:53:43,176 --> 00:53:45,438 to treba reći sa zemlje. 1175 00:53:45,439 --> 00:53:48,007 ♪ Znam da nije bilo pametno ♪ 1176 00:53:49,356 --> 00:53:52,445 ♪ Dan Slomio sam ti srce... ♪ 1177 00:53:52,446 --> 00:53:54,404 Prije svega, AI zahtijeva 1178 00:53:54,405 --> 00:53:58,495 više resursa nego što smo ikada potrošili 1179 00:53:58,496 --> 00:54:01,628 na jednoj tehnologiji u povijesti čovječanstva. 1180 00:54:01,629 --> 00:54:03,543 ♪ Oh, budala mi... ♪ 1181 00:54:03,544 --> 00:54:06,154 Utjecaj emisija fosilnih goriva 1182 00:54:06,155 --> 00:54:07,939 na klimu je velika briga. 1183 00:54:07,940 --> 00:54:09,810 Ali digitalna budućnost treba snagu, 1184 00:54:09,811 --> 00:54:12,117 puno toga. 1185 00:54:12,118 --> 00:54:16,382 A račun ide dalje svakodnevnim Amerikancima poput... 1186 00:54:16,383 --> 00:54:18,863 Moj račun za struju i plin bilo je više od plaćanja mog automobila. 1187 00:54:18,864 --> 00:54:21,518 Mislim, meni je to suludo. 1188 00:54:21,519 --> 00:54:23,433 Svi subvencioniramo 1189 00:54:23,434 --> 00:54:25,043 najbogatije korporacije u svijetu 1190 00:54:25,044 --> 00:54:26,871 u njihovoj potrazi za umjetna inteligencija. 1191 00:54:26,872 --> 00:54:28,481 OpenAI, SoftBank i Oracle 1192 00:54:28,482 --> 00:54:31,310 upravo su predstavili još pet mjesta Stargate. 1193 00:54:31,311 --> 00:54:33,530 Meta gradi podatkovni centar od dva gigavata i više 1194 00:54:33,531 --> 00:54:35,053 koji je tako velik da bi pokrio 1195 00:54:35,054 --> 00:54:38,186 značajan dio Manhattana. 1196 00:54:38,187 --> 00:54:41,015 Tu je i Hyperion za koje kaže da će se povećati 1197 00:54:41,016 --> 00:54:43,714 na pet gigavata tijekom nekoliko godina. 1198 00:54:43,715 --> 00:54:45,281 Teško je to reći u kontekstu. 1199 00:54:45,282 --> 00:54:48,501 Postrojenje od pet gigavata. Što to znači? 1200 00:54:48,502 --> 00:54:51,591 To znači da će koristiti što više energije 1201 00:54:51,592 --> 00:54:54,246 kao četiri milijuna američkih domova. 1202 00:54:54,247 --> 00:54:56,075 Jedan podatkovni centar. 1203 00:54:57,076 --> 00:54:58,772 Također tada uzrokuje 1204 00:54:58,773 --> 00:55:00,513 cijeli niz drugi ekološki problemi. 1205 00:55:00,514 --> 00:55:02,123 Podatkovni centri u SAD-u 1206 00:55:02,124 --> 00:55:05,170 koristiti milijune galona vode svaki dan. 1207 00:55:05,171 --> 00:55:07,303 Pa gdje je točno ova voda dolazi iz? 1208 00:55:07,304 --> 00:55:09,783 Ljudi su doslovno u opasnosti 1209 00:55:09,784 --> 00:55:11,829 potencijalno ponestati pitke vode. 1210 00:55:11,830 --> 00:55:14,135 MacKENZIE SIGALOS: ...izvršni direktor OpenAI-ja Sam Altman, 1211 00:55:14,136 --> 00:55:17,051 koji mi je rekao da je vaga izgradnja je jedini način 1212 00:55:17,052 --> 00:55:18,792 držati korak s Eksplozivan rast umjetne inteligencije. 1213 00:55:18,793 --> 00:55:21,882 A ovo je ono što je potrebno za isporuku AI. 1214 00:55:21,883 --> 00:55:24,058 Govore o tome kako 1215 00:55:24,059 --> 00:55:27,801 ova bi tehnologija mogla riješiti klimatske promjene, na primjer. 1216 00:55:27,802 --> 00:55:29,934 I uvijek sam znatiželjan, kao, 1217 00:55:29,935 --> 00:55:31,805 pa, zašto ne počnemo s tim? 1218 00:55:31,806 --> 00:55:34,025 - ♪ Je li prekasno ♪ - ♪ Prekasno ♪ 1219 00:55:34,026 --> 00:55:36,680 ♪ Prekasno je reći ♪ 1220 00:55:36,681 --> 00:55:42,512 ♪ Žao mi je? ♪ 1221 00:55:42,513 --> 00:55:45,515 Ono što me brine umjetna inteligencija je 1222 00:55:45,516 --> 00:55:47,430 ovi se raspoređuju odmah sada 1223 00:55:47,431 --> 00:55:49,823 i-i ponekad prerano raspoređen, 1224 00:55:49,824 --> 00:55:51,521 raspoređen bez svojevrsna due diligence. 1225 00:55:51,522 --> 00:55:53,479 I tako kad dobiju izbačen tamo, 1226 00:55:53,480 --> 00:55:56,221 ima toliko potencijala da stvari krenu po zlu. 1227 00:55:56,222 --> 00:55:58,092 I gotovo, neproporcionalno, 1228 00:55:58,093 --> 00:56:00,443 gotovo uvijek pođe krivo za, na neki način, 1229 00:56:00,444 --> 00:56:02,575 one koje su najmanje osnaženi u našem društvu, 1230 00:56:02,576 --> 00:56:04,969 one koje jesu već najranjiviji. 1231 00:56:07,668 --> 00:56:10,540 Vrlo je lako razgovarati o tehnologiji 1232 00:56:10,541 --> 00:56:12,542 jer to je jedina stvar govorimo o, 1233 00:56:12,543 --> 00:56:14,979 ali, zapravo, tehnologija jest uvijek gradili ljudi, 1234 00:56:14,980 --> 00:56:16,676 i često se koristi na ljude, 1235 00:56:16,677 --> 00:56:18,722 i trebamo zadržati svi ti ljudi u kadru. 1236 00:56:18,723 --> 00:56:21,028 - Smijem li to popiti? -Da, uh... 1237 00:56:21,029 --> 00:56:22,552 To je... to je ludnica. 1238 00:56:22,553 --> 00:56:23,988 Kao, svi ovi ljudi 1239 00:56:23,989 --> 00:56:26,382 koji imaju toliko novca, toliko novca, 1240 00:56:26,383 --> 00:56:29,820 to im je u interesu zavarati javnost 1241 00:56:29,821 --> 00:56:32,779 u sposobnosti sustave koje grade, 1242 00:56:32,780 --> 00:56:36,304 jer im to omogućuje izbjeći odgovornost. 1243 00:56:36,305 --> 00:56:39,133 Oni žele da se osjećate ovako je tako složen, intel-- 1244 00:56:39,134 --> 00:56:41,875 superinteligentna stvar koje oni grade, 1245 00:56:41,876 --> 00:56:44,138 ne razmišljaš, "Može li OpenAI biti etičan?" 1246 00:56:44,139 --> 00:56:46,314 misliš, "Može li ChatGPT biti etičan?" 1247 00:56:46,315 --> 00:56:48,142 kao da je ChatGPT, kao, 1248 00:56:48,143 --> 00:56:49,970 vlastita stvar koja nije izgrađena od strane korporacije. 1249 00:56:49,971 --> 00:56:51,668 U redu. Sneha, uzmi jedan. 1250 00:56:51,669 --> 00:56:53,452 Ocjena. 1251 00:56:53,453 --> 00:56:55,802 Do nedavno ih je bilo aplikacije u App Storeu, 1252 00:56:55,803 --> 00:56:57,543 samo javno dostupno, uh, 1253 00:56:57,544 --> 00:56:59,894 gdje ste mogli ogoliti svakoga tko koristi AI. 1254 00:57:01,374 --> 00:57:03,723 Dovođenje ovoga u ruke 1255 00:57:03,724 --> 00:57:05,943 tvoj razrednik, u ruke tvog uhoditelja, 1256 00:57:05,944 --> 00:57:07,597 u ruke tvog bivšeg dečka, 1257 00:57:07,598 --> 00:57:09,555 u ruke osobe niz ulicu. 1258 00:57:09,556 --> 00:57:12,079 Dame i gospodo, više ne možemo vjerovati 1259 00:57:12,080 --> 00:57:14,081 snimak koji vidimo vlastitim očima. 1260 00:57:14,082 --> 00:57:15,779 Ako se dogodi gledati nešto, 1261 00:57:15,780 --> 00:57:18,172 recimo na YouTubeu ili TikToku, i smatraš da je to uznemirujuće, 1262 00:57:18,173 --> 00:57:19,522 poslušaj taj osjećaj. 1263 00:57:19,523 --> 00:57:21,306 koliko znaš, 1264 00:57:21,307 --> 00:57:22,960 ovaj bi video mogao biti AI. 1265 00:57:22,961 --> 00:57:24,352 Samo malo mokro. 1266 00:57:24,353 --> 00:57:25,745 Nije važno tko si. 1267 00:57:25,746 --> 00:57:28,226 Jednako ste u opasnosti 1268 00:57:28,227 --> 00:57:30,229 biti pod utjecajem ovim tehnologijama. 1269 00:57:35,713 --> 00:57:39,846 Mislim ponekad kad razgovaramo što se tiče umjetne inteligencije, djeluje kao znanstveno-fantastičan, 1270 00:57:39,847 --> 00:57:41,195 i čini se vrlo stranim, 1271 00:57:41,196 --> 00:57:43,023 i osjeća se vrlo daleko u budućnost, 1272 00:57:43,024 --> 00:57:45,591 pa mislite: "Moj život ovo ne utječe." 1273 00:57:45,592 --> 00:57:48,333 Hm, ali ako se prijavljuješ za posao 1274 00:57:48,334 --> 00:57:50,857 a algoritam je razlog da ne dobiješ posao, 1275 00:57:50,858 --> 00:57:52,729 ponekad ni ne znaš taj algoritam 1276 00:57:52,730 --> 00:57:54,252 bio dio tog procesa 1277 00:57:54,253 --> 00:57:55,732 ili je to bio sustav umjetne inteligencije dio tog procesa. 1278 00:57:55,733 --> 00:57:57,734 Samo znaš da nisi dobio posao. 1279 00:57:57,735 --> 00:57:59,779 I tako nije nešto da ćeš pobjeći 1280 00:57:59,780 --> 00:58:01,738 zbog privilegije ili ćeš pobjeći 1281 00:58:01,739 --> 00:58:03,870 jer si unutra određeno zanimanje. 1282 00:58:03,871 --> 00:58:06,960 To-to je nešto što utječe svi, stvarno. 1283 00:58:06,961 --> 00:58:10,573 Možda zvuči osnovno, ali kako idemo naprijed 1284 00:58:10,574 --> 00:58:15,099 u dobu informacija bit će razlika 1285 00:58:15,100 --> 00:58:17,231 između toga hoćemo li preživjeti 1286 00:58:17,232 --> 00:58:20,452 ili postajemo li neka vrsta od [bleep]-up distopije. 1287 00:58:20,453 --> 00:58:23,063 Zdravo. Ja nisam prava osoba, i to je bit. 1288 00:58:23,064 --> 00:58:25,370 Opet sve u ovom videu je lažno: 1289 00:58:25,371 --> 00:58:27,154 naši glasovi, ono što nosimo, 1290 00:58:27,155 --> 00:58:30,201 gdje smo, sve je lažno. 1291 00:58:30,202 --> 00:58:32,769 Generativna umjetna inteligencija mogla bi poplaviti 1292 00:58:32,770 --> 00:58:36,512 svijet s dezinformacijama. 1293 00:58:36,513 --> 00:58:39,558 Ali moglo bi ga i poplaviti s kampanjama utjecaja. 1294 00:58:39,559 --> 00:58:41,734 To je egzistencijalni rizik na demokraciju. 1295 00:58:41,735 --> 00:58:43,736 Najveći i najstrašniji 1296 00:58:43,737 --> 00:58:46,130 kanarinac u rudniku ugljena odmah sada 1297 00:58:46,131 --> 00:58:48,262 dolazi iz Slovačke. 1298 00:58:48,263 --> 00:58:49,829 To je vrsta 1299 00:58:49,830 --> 00:58:52,266 deepfake prljavi trik koji brine izborne stručnjake, 1300 00:58:52,267 --> 00:58:55,008 posebno kao generirana umjetnom inteligencijom politički govor postoji 1301 00:58:55,009 --> 00:58:56,793 u svojevrsnoj pravnoj sivoj zoni. 1302 00:58:56,794 --> 00:58:59,578 - Zvuči li ovo tebi? - Zvuči kao ja. 1303 00:58:59,579 --> 00:59:01,101 Slovačka je imala svoje parlamentarne izbore 1304 00:59:01,102 --> 00:59:03,887 poremećen glasovnim klonom umjetne inteligencije 1305 00:59:03,888 --> 00:59:06,759 koji se zapravo širio neposredno prije izbora. 1306 00:59:06,760 --> 00:59:08,500 Audio deepfake 1307 00:59:08,501 --> 00:59:11,068 je pušten na slobodu na društvenim mrežama to je bilo 1308 00:59:11,069 --> 00:59:14,071 navodno glas jednog od kandidata 1309 00:59:14,072 --> 00:59:16,856 govori o kupovini glasova i lažiranja izbora. 1310 00:59:16,857 --> 00:59:18,684 Postalo je viralno, 1311 00:59:18,685 --> 00:59:22,383 i kandidat koji je izgubio izbore 1312 00:59:22,384 --> 00:59:26,126 bio zapravo u znak podrške Ukrajini, 1313 00:59:26,127 --> 00:59:29,826 i kandidat koji je pobijedio izbori su zapravo bili... 1314 00:59:29,827 --> 00:59:31,349 Proruski tip. 1315 00:59:31,350 --> 00:59:32,872 Bio je to proruski tip koji je pobijedio na izborima. 1316 00:59:34,396 --> 00:59:36,049 Putin je sam rekao 1317 00:59:36,050 --> 00:59:39,226 tko god ovo pobijedi utrka umjetne inteligencije 1318 00:59:39,227 --> 00:59:41,577 je u biti kontrolor čovječanstva. 1319 00:59:41,578 --> 00:59:44,493 Mnogo brinemo o autoritarne vlade. 1320 00:59:45,973 --> 00:59:48,627 Upravo sada, Wall Street 1321 00:59:48,628 --> 00:59:50,977 i investitora šire diljem svijeta 1322 00:59:50,978 --> 00:59:53,023 voze guranje. 1323 00:59:53,024 --> 00:59:56,113 Imaju zahtjev koji dobiva proizvode na tržište 1324 00:59:56,114 --> 00:59:58,419 koje zasljepljuju ljude najviše prvi. 1325 00:59:58,420 --> 01:00:01,248 Oni ne razmišljaju o tome kako ti alati 1326 01:00:01,249 --> 01:00:03,207 mogao duboko potkopati povjerenje 1327 01:00:03,208 --> 01:00:05,731 i naše demokratske institucije. 1328 01:00:05,732 --> 01:00:07,777 Demokracija je sustav 1329 01:00:07,778 --> 01:00:10,431 riješiti nesuglasice između ljudi 1330 01:00:10,432 --> 01:00:12,042 na miran način, 1331 01:00:12,043 --> 01:00:14,740 ali demokracija se temelji na povjerenju. 1332 01:00:14,741 --> 01:00:18,615 Ako izgubiš svo povjerenje, demokracija je jednostavno nemoguća. 1333 01:00:20,921 --> 01:00:22,530 Pa, teško je, zar ne? 1334 01:00:22,531 --> 01:00:24,750 Dakle, koje su opcije dostupni nama? 1335 01:00:24,751 --> 01:00:26,230 Postoje nekako dva tabora. 1336 01:00:26,231 --> 01:00:29,668 Kao, jedan kamp je: zaključaj. 1337 01:00:29,669 --> 01:00:32,976 Zaključajmo ovo u nekolicinu AI tvrtki 1338 01:00:32,977 --> 01:00:35,500 tko će ovo učiniti na siguran i pouzdan način. 1339 01:00:35,501 --> 01:00:37,110 Ali onda ljudi brinu o 1340 01:00:37,111 --> 01:00:39,069 odbjegle koncentracije bogatstva i moći. 1341 01:00:39,070 --> 01:00:41,898 Kao, kome biste vjerovali da ste milijun puta moćniji 1342 01:00:41,899 --> 01:00:44,291 ili imućniji nego svaki drugi akter u društvu? 1343 01:00:44,292 --> 01:00:46,380 Zašto bismo vam vjerovali? 1344 01:00:46,381 --> 01:00:48,644 Hm, ne bi trebao. 1345 01:00:48,645 --> 01:00:51,255 Ali naravno, ako ovo učinite, ovo se otvara 1346 01:00:51,256 --> 01:00:54,475 svi ti rizici od autoritarnosti i tiranije. 1347 01:00:54,476 --> 01:00:57,174 To je... to je nekako autoritarni san 1348 01:00:57,175 --> 01:01:00,351 imati AI u kutiji koji se mogu primijeniti i koristiti 1349 01:01:00,352 --> 01:01:02,962 za sveprisutni nadzor. 1350 01:01:02,963 --> 01:01:05,399 Mislim, na neki način, vrsta svijeta 1351 01:01:05,400 --> 01:01:10,927 koju je Orwell zamislio 1984 je nerealno, 1352 01:01:10,928 --> 01:01:13,320 uh, osim ako nemate AI. 1353 01:01:13,321 --> 01:01:15,975 Ali s umjetnom inteligencijom, to je zapravo realno. 1354 01:01:15,976 --> 01:01:18,412 Prati svaku aktivnost, 1355 01:01:18,413 --> 01:01:22,068 razgovori, prepoznavanje lica. 1356 01:01:22,069 --> 01:01:26,420 Ono što me brine je to, uh, ovi se alati mogu povećati, 1357 01:01:26,421 --> 01:01:28,596 uh, oblik totalitarizma 1358 01:01:28,597 --> 01:01:31,035 to je isplativo i trajno. 1359 01:01:32,950 --> 01:01:35,342 Dakle u odgovoru na to neki drugi ljudi kažu, 1360 01:01:35,343 --> 01:01:37,170 „Ne, ne, ne, trebali bismo zapravo pusti ovo rip. 1361 01:01:37,171 --> 01:01:39,433 “Idemo decentralizirati ovu vlast što je više moguće. 1362 01:01:39,434 --> 01:01:41,609 "Let's let every business, svaki pojedinac, 1363 01:01:41,610 --> 01:01:43,960 "svaki 16-godišnjak, svaki znanstveni laboratorij, 1364 01:01:43,961 --> 01:01:46,005 you know, get the benefit of the latest AI models." 1365 01:01:46,006 --> 01:01:48,268 Ali sada imate svaka teroristička grupa, 1366 01:01:48,269 --> 01:01:51,707 every disenfranchised person imajući moć napraviti 1367 01:01:51,708 --> 01:01:53,839 najgori biološko oružje. 1368 01:01:53,840 --> 01:01:55,623 Hakiranje infrastrukture, stvaranje deepfakeova, 1369 01:01:55,624 --> 01:01:57,495 poplava our information environment. 1370 01:01:57,496 --> 01:02:00,454 To stvara sve te rizike of sort of catastrophic harm 1371 01:02:00,455 --> 01:02:02,935 and-and societal collapse kroz taj pravac. 1372 01:02:02,936 --> 01:02:04,720 I tako smo nekako zapeli between this rock 1373 01:02:04,721 --> 01:02:07,592 and a hard place, između "zaključaj..." 1374 01:02:10,683 --> 01:02:12,336 ...or "let it rip." 1375 01:02:14,252 --> 01:02:17,602 Dakle, moramo pronaći nešto poput uske staze 1376 01:02:17,603 --> 01:02:20,431 koji izbjegava ova dva negativna ishoda. 1377 01:02:20,432 --> 01:02:22,999 Dakle, ako je sve to istina, zašto jednostavno ne bismo usporili 1378 01:02:23,000 --> 01:02:25,871 i shvatiti sve ovo before it's too late? 1379 01:02:25,872 --> 01:02:28,961 Da je čovječanstvo izuzetno mudro, 1380 01:02:28,962 --> 01:02:31,224 that's what we would do. 1381 01:02:31,225 --> 01:02:33,139 Ali postoji nešto drugačije način suočavanja s ovim stvarima, zar ne? 1382 01:02:33,140 --> 01:02:35,968 Which is: Koja su pravila igre? 1383 01:02:35,969 --> 01:02:39,537 Puno toga, poput onoga što rade izvršni direktori 1384 01:02:39,538 --> 01:02:42,192 je vođen od strane the incentives that they face. 1385 01:02:42,193 --> 01:02:45,325 Prvenstveno je poticaji za maksimiziranje dobiti 1386 01:02:45,326 --> 01:02:47,240 koji voze razvoj AI. 1387 01:02:47,241 --> 01:02:50,417 Čak su i dobri dečki zapeli u ovoj dilemi od 1388 01:02:50,418 --> 01:02:52,680 ako se kreću presporo, 1389 01:02:52,681 --> 01:02:54,595 onda sami odlaze ranjiva 1390 01:02:54,596 --> 01:02:57,294 svim ostalim momcima who are cutting all corners. 1391 01:02:57,295 --> 01:03:02,038 Sve te vrhunske tvrtke su tu a complete no-holds-barred race 1392 01:03:02,039 --> 01:03:05,476 da, što je brže moguće, dobijete za AGI, dođi odmah. 1393 01:03:08,567 --> 01:03:10,394 Da, mislim, Mislim, mislim 1394 01:03:10,395 --> 01:03:12,962 vjerojatno počinje s DeepMindom. 1395 01:03:12,963 --> 01:03:14,833 Google kupuje 1396 01:03:14,834 --> 01:03:16,400 tvrtka za umjetnu inteligenciju Tehnologije DeepMind. 1397 01:03:16,401 --> 01:03:18,663 Uvjeti dogovora nisu otkriveni. 1398 01:03:18,664 --> 01:03:20,752 Larry Page i ja bili vrlo bliski prijatelji, 1399 01:03:20,753 --> 01:03:22,754 i postalo mi je očito 1400 01:03:22,755 --> 01:03:26,453 da Larryja nije bilo briga o sigurnosti umjetne inteligencije. 1401 01:03:26,454 --> 01:03:28,934 rekao je Elon Musk pokrenuli ste OpenAI, 1402 01:03:28,935 --> 01:03:31,023 oboje ste pokrenuli OpenAI jer bojao se Googlea. 1403 01:03:31,024 --> 01:03:32,198 Ti-ti u osnovi imao temelj 1404 01:03:32,199 --> 01:03:33,765 OpenAI proizlazi iz toga. 1405 01:03:33,766 --> 01:03:35,245 „Dakle, učinit ćemo to bolje. Učinit ćemo to 1406 01:03:35,246 --> 01:03:36,813 na sigurniji način ili na otvoreniji način." 1407 01:03:38,466 --> 01:03:40,598 Dakle, to je ono što je pokrenulo OpenAI. 1408 01:03:40,599 --> 01:03:42,774 I tako sada, umjesto imati jedan AGI projekt, 1409 01:03:42,775 --> 01:03:44,863 imate dva AGI projekta. 1410 01:03:44,864 --> 01:03:46,952 Najgora moguća stvar to bi se moglo dogoditi 1411 01:03:46,953 --> 01:03:49,650 je ako postoji više AGI projekata 1412 01:03:49,651 --> 01:03:51,914 učinili različiti ljudi koji se ne vole 1413 01:03:51,915 --> 01:03:54,830 i svi se natječu da prvo dođem do AGI. 1414 01:03:54,831 --> 01:03:57,006 Ovo bi bilo najgore moguća stvar koja se može dogoditi, 1415 01:03:57,007 --> 01:04:00,139 jer bi ovo značilo da tko je najmanje siguran, 1416 01:04:00,140 --> 01:04:03,186 tko se najviše žrtvuje na sigurnosti da biste napredovali 1417 01:04:03,187 --> 01:04:05,188 bit će osoba koji prvi stigne. 1418 01:04:05,189 --> 01:04:07,886 To je u osnovi što se događa, zar ne? -Da. 1419 01:04:07,887 --> 01:04:11,368 Ti i tvoj brat slavno napustio OpenAI, uh, 1420 01:04:11,369 --> 01:04:12,978 za pokretanje Anthropica. 1421 01:04:12,979 --> 01:04:15,111 A onda Anthropic započeo jer 1422 01:04:15,112 --> 01:04:17,896 neki istraživači unutar OpenAI je rekao, 1423 01:04:17,897 --> 01:04:20,551 „Želim otići i učinite to sigurnije." 1424 01:04:20,552 --> 01:04:23,554 Trebalo vam je nešto dodatno samo povećati modele, 1425 01:04:23,555 --> 01:04:25,861 što je poravnanje ili sigurnost. 1426 01:04:25,862 --> 01:04:27,471 “Odgovorniji smo 1427 01:04:27,472 --> 01:04:29,690 ili pouzdaniji ili moralniji." 1428 01:04:29,691 --> 01:04:31,562 Sada imate tri AGI projekta. 1429 01:04:31,563 --> 01:04:33,085 Ali i sjedenje stol s tobom 1430 01:04:33,086 --> 01:04:34,870 bit će hrpa AI-ja. 1431 01:04:34,871 --> 01:04:37,568 I sad Meta je-je pokušava učiniti stvari. 1432 01:04:37,569 --> 01:04:39,613 U međuvremenu, novi umjetni obavještajni natjecatelj 1433 01:04:39,614 --> 01:04:41,615 objavio ovaj tjedan, Elona Muska... 1434 01:04:41,616 --> 01:04:44,662 xAI, što bi bilo Organizacija Elona Muska. 1435 01:04:44,663 --> 01:04:46,272 Ne vjerujem OpenAI-u. 1436 01:04:46,273 --> 01:04:47,926 Borba između Elon Musk i OpenAI 1437 01:04:47,927 --> 01:04:49,623 je ušao u novi krug. 1438 01:04:49,624 --> 01:04:51,756 Ne vjerujem Samu Altmanu, uh, i ja, i ne mislim 1439 01:04:51,757 --> 01:04:54,237 želimo imati najviše moćna umjetna inteligencija u svijetu 1440 01:04:54,238 --> 01:04:56,456 kontrolira netko koji nije pouzdan. 1441 01:04:58,459 --> 01:05:01,635 Poticaj je nesagledive sume novca. 1442 01:05:01,636 --> 01:05:03,420 - da - To je neizreciva moć. 1443 01:05:03,421 --> 01:05:05,596 - da - Neopisiva kontrola. 1444 01:05:05,597 --> 01:05:08,077 Ako imate nešto to je milijun puta pametnije 1445 01:05:08,078 --> 01:05:11,428 i sposobniji od sve ostalo na planeti Zemlji 1446 01:05:11,429 --> 01:05:14,213 i nitko drugi to nema, 1447 01:05:14,214 --> 01:05:15,998 ta stvar je poticaj. 1448 01:05:15,999 --> 01:05:17,261 Dakle, vi vladate svijetom. 1449 01:05:18,610 --> 01:05:20,437 Ako stvarno vjerujete u ovo, 1450 01:05:20,438 --> 01:05:22,787 ako stvarno u svom srcu vjeruj ovome, 1451 01:05:22,788 --> 01:05:24,223 onda bi mogao biti voljan uzeti 1452 01:05:24,224 --> 01:05:26,138 prilično veliki rizik da se to dogodi. 1453 01:05:26,139 --> 01:05:28,924 Google je upravo objavio svoj najnoviji AI model. 1454 01:05:28,925 --> 01:05:31,274 Odgovor na OpenAI-jev ChatGPT. 1455 01:05:31,275 --> 01:05:33,102 Kako dolazimo do ovih deset bilijuna? 1456 01:05:33,103 --> 01:05:35,234 Postaje li NVIDIA najviše vrijedna tvrtka u SAD-u? 1457 01:05:35,235 --> 01:05:39,021 Ovo je najveći posao prilika u povijesti. 1458 01:05:39,022 --> 01:05:40,544 U povijesti. 1459 01:05:40,545 --> 01:05:42,285 Dakle, razlog zašto svi su stvarno razviti 1460 01:05:42,286 --> 01:05:44,722 o umjetnoj inteligenciji odmah sada 1461 01:05:44,723 --> 01:05:48,073 je zato što što više te tvrtke hajpaju 1462 01:05:48,074 --> 01:05:50,075 potencijalne sposobnosti njihove tehnologije, 1463 01:05:50,076 --> 01:05:53,252 što više ulaganja mogu privući. 1464 01:05:53,253 --> 01:05:54,775 Amazon ulaže do 1465 01:05:54,776 --> 01:05:57,039 četiri milijarde dolara u start-upu Anthropic. 1466 01:05:57,040 --> 01:05:58,736 OpenAI postavlja svoje ciljeve 1467 01:05:58,737 --> 01:06:00,781 na polovici blockbustera procjena od trilijun dolara. 1468 01:06:00,782 --> 01:06:02,044 Pola trilijuna! 1469 01:06:02,045 --> 01:06:03,262 Utrka je u tijeku. 1470 01:06:03,263 --> 01:06:04,655 Ovo se događa brže nego ikada. 1471 01:06:04,656 --> 01:06:06,657 Jesmo li u AI balonu? Naravno. 1472 01:06:06,658 --> 01:06:09,225 jednostavno ne vidim mjehurić puca 1473 01:06:09,226 --> 01:06:12,489 dok još imaš ovaj veliki ciklus potrošnje. 1474 01:06:12,490 --> 01:06:15,057 Čak i ako mislite ovo je sve hype, 1475 01:06:15,058 --> 01:06:17,624 postoje milijarde na bilijune dolara 1476 01:06:17,625 --> 01:06:21,150 teče u izradu AI sustava moćniji. 1477 01:06:21,151 --> 01:06:23,891 I kad jednom budeš imao tu stvar to je moćnije, 1478 01:06:23,892 --> 01:06:25,589 tvrtke to mogu koristiti 1479 01:06:25,590 --> 01:06:27,591 kako bi dobili veće profite i zaraditi više novca. 1480 01:06:27,592 --> 01:06:30,159 Zemlje to mogu koristiti napraviti jače vojske. 1481 01:06:30,160 --> 01:06:32,857 NVIDIA je prestigla Microsoft i Apple 1482 01:06:32,858 --> 01:06:36,295 postati svjetski najvrednija tvrtka. 1483 01:06:36,296 --> 01:06:39,037 Utrka za raspoređivanje postaje trka do nesmotrenosti, 1484 01:06:39,038 --> 01:06:41,822 jer ne mogu rasporedite ga tako brzo 1485 01:06:41,823 --> 01:06:43,215 i također ga ispraviti. 1486 01:06:43,216 --> 01:06:46,088 Oni to vjeruju oni su dobri momci. 1487 01:06:46,089 --> 01:06:49,352 "A ako to ne učinim, netko tko nema 1488 01:06:49,353 --> 01:06:51,615 "dobre vrijednosti kao ja će sjediti za stolom 1489 01:06:51,616 --> 01:06:54,487 donositi odluke, dakle Imam obvezu to učiniti." 1490 01:06:54,488 --> 01:06:56,228 Da, ovo je vrlo uvriježeno uvjerenje. 1491 01:06:56,229 --> 01:06:58,622 Mnogo, mnogo, mnogo, možda većina ljudi 1492 01:06:58,623 --> 01:07:00,754 izgradnju ove tehnologije vjeruj u to. 1493 01:07:00,755 --> 01:07:03,757 Zabrinut sam za komercijalno natjecanje, 1494 01:07:03,758 --> 01:07:05,890 ali ispada Još više sam zabrinut 1495 01:07:05,891 --> 01:07:08,066 geopolitičko natjecanje. 1496 01:07:08,067 --> 01:07:10,373 Kasnili smo osam godina prije godinu dana. 1497 01:07:10,374 --> 01:07:12,636 Sada vjerojatno jesmo manje od godinu dana iza. 1498 01:07:12,637 --> 01:07:15,726 Pa obje Saudijske Arabije i UAE su se utrkivali 1499 01:07:15,727 --> 01:07:18,163 za postavljanje podatkovnih centara i pozicionirati se 1500 01:07:18,164 --> 01:07:20,426 kao dominantna sila u AI... 1501 01:07:20,427 --> 01:07:22,472 ...napraviti Južnu Koreju globalni lider AI. 1502 01:07:22,473 --> 01:07:24,039 Francuski predsjednik Emmanuel Macron 1503 01:07:24,040 --> 01:07:25,910 mnogo govorio o umjetna inteligencija... 1504 01:07:25,911 --> 01:07:27,477 Sada s više o ulozi Izraela 1505 01:07:27,478 --> 01:07:29,653 u umjetnoj inteligenciji revolucija... 1506 01:07:29,654 --> 01:07:33,135 Zemlje će se natjecati za čije AI tehnologije 1507 01:07:33,136 --> 01:07:34,919 stvoriti sljedeću generaciju industrije. 1508 01:07:34,920 --> 01:07:38,053 Kinezi inzistiraju taj AI, 1509 01:07:38,054 --> 01:07:39,880 kao što je razvijeno u Kini, 1510 01:07:39,881 --> 01:07:41,752 ojačati temeljne vrijednosti 1511 01:07:41,753 --> 01:07:44,059 kineske komunističke partije i kineski sustav. 1512 01:07:44,060 --> 01:07:48,759 Amerika mora pobijediti Kinu u AI utrci. 1513 01:07:48,760 --> 01:07:51,066 Kina, kao, svjetlosnih godina iza. 1514 01:07:51,067 --> 01:07:52,719 jesu li 1515 01:07:52,720 --> 01:07:55,026 Mislim, imaju mnogo više podatke o obuci nego mi, 1516 01:07:55,027 --> 01:07:57,855 i ništa ne govori da oni nemoj odustati od modela sljedeći mjesec 1517 01:07:57,856 --> 01:08:00,988 to nije-- ne nadmašuje GPT-4. 1518 01:08:00,989 --> 01:08:03,861 Sve je išlo u redu. Što bi moglo poći po zlu? 1519 01:08:03,862 --> 01:08:06,733 - DeepSeek... - DeepSeek... -DeepSeek... 1520 01:08:06,734 --> 01:08:08,083 Postoji novi model. 1521 01:08:08,084 --> 01:08:10,868 Ali iz kineskog laboratorija pod nazivom DeepSeek. 1522 01:08:10,869 --> 01:08:14,001 Razgovarajmo o DeepSeeku, jer je nevjerojatno, 1523 01:08:14,002 --> 01:08:17,701 i ovo trese cijelu industriju do svoje srži. 1524 01:08:17,702 --> 01:08:19,442 Trumpova administracija osigurat će 1525 01:08:19,443 --> 01:08:23,098 taj najmoćniji AI sustavi izgrađeni su u SAD-u 1526 01:08:23,099 --> 01:08:26,579 s američkim dizajnom i proizvodio čips. 1527 01:08:26,580 --> 01:08:28,842 AI je kineska Projekt Apollo. 1528 01:08:28,843 --> 01:08:30,235 Kineska komunistička partija 1529 01:08:30,236 --> 01:08:31,584 duboko razumije potencijal 1530 01:08:31,585 --> 01:08:32,933 za AI da poremeti ratovanje. 1531 01:08:32,934 --> 01:08:35,371 Google više ne obećava da neće 1532 01:08:35,372 --> 01:08:38,461 koristiti umjetnu inteligenciju za oružje ili nadzor. 1533 01:08:38,462 --> 01:08:40,071 Kina, Sjeverna Koreja, Rusija 1534 01:08:40,072 --> 01:08:41,942 nastavit će ga graditi što je brže moguće 1535 01:08:41,943 --> 01:08:44,554 kako bi dobili veću ekonomsku prednost, veća prednost produktivnosti, 1536 01:08:44,555 --> 01:08:46,860 više znanstvene prednosti, veća vojna prednost, 1537 01:08:46,861 --> 01:08:48,688 jer AI pravi bolje oružje. 1538 01:08:48,689 --> 01:08:51,778 Ako govorite o sustav kao širok i sposoban 1539 01:08:51,779 --> 01:08:53,345 kao briljantan znanstvenik, 1540 01:08:53,346 --> 01:08:58,002 možda bi se moglo pokrenuti vojni pohod 1541 01:08:58,003 --> 01:09:01,484 bolji od bilo kojeg generala u američkoj vladi upravo sada. 1542 01:09:01,485 --> 01:09:05,531 Tajvan je problem koji stvara trenutno najviše napetosti 1543 01:09:05,532 --> 01:09:07,925 između Pekinga i SAD-a. 1544 01:09:07,926 --> 01:09:10,493 Postoji izravan oporbeno neslaganje 1545 01:09:10,494 --> 01:09:12,016 između SAD-a i Kine 1546 01:09:12,017 --> 01:09:14,018 o tome je li Tajvan dio Kine. 1547 01:09:14,019 --> 01:09:18,457 Tajvan je važan iz toliko razloga. 1548 01:09:18,458 --> 01:09:20,590 Također je i dom 1549 01:09:20,591 --> 01:09:24,202 oko 90% naprednog čipa proizvodnja za svijet, 1550 01:09:24,203 --> 01:09:28,424 što znači da opskrba lanac za napredno računanje 1551 01:09:28,425 --> 01:09:31,078 je u opasnosti ako postoji 1552 01:09:31,079 --> 01:09:32,993 nekakav scenarij oko Tajvana, 1553 01:09:32,994 --> 01:09:38,042 li a-blokada ili invaziju Kine. 1554 01:09:38,043 --> 01:09:40,740 Hoćemo li biti u nekoj utrci 1555 01:09:40,741 --> 01:09:45,658 između SAD-a i Kine koji se na kraju pretvara u 1556 01:09:45,659 --> 01:09:49,401 militarizirana AI utrka u naoružanju i, znaš, potencijalno vodi 1557 01:09:49,402 --> 01:09:51,316 na neki sukob velikih sila? 1558 01:09:51,317 --> 01:09:53,057 Odlazni najviši američki vojni zapovjednik 1559 01:09:53,058 --> 01:09:55,886 u regiji predviđeni rat dolazi. 1560 01:09:55,887 --> 01:09:57,975 Mislim da je prijetnja očita tijekom ovog desetljeća, 1561 01:09:57,976 --> 01:09:59,498 zapravo, u sljedećih šest godina. 1562 01:09:59,499 --> 01:10:01,457 Hm, jedan od scenarija 1563 01:10:01,458 --> 01:10:05,896 ono oko čega se brinem je cyber flash rat, 1564 01:10:05,897 --> 01:10:10,944 hm, onaj u kojem cyber alate koji su autonomni 1565 01:10:10,945 --> 01:10:12,990 natječu jedni protiv drugih 1566 01:10:12,991 --> 01:10:14,644 na načine koji su eskalirajući 1567 01:10:14,645 --> 01:10:16,386 bez smislena ljudska kontrola. 1568 01:10:18,823 --> 01:10:20,476 Živiš u ratnoj zoni, 1569 01:10:20,477 --> 01:10:23,827 o tome će odlučivati AI hoće li ti bombardirati kuću 1570 01:10:23,828 --> 01:10:25,785 i da li da te ubijem. 1571 01:10:25,786 --> 01:10:27,570 Pustimo stroj da odluči. 1572 01:10:27,571 --> 01:10:29,398 To je iskušenje. 1573 01:10:29,399 --> 01:10:32,618 Zato je umjetna inteligencija tako primamljiva za usvajanje vojske, 1574 01:10:32,619 --> 01:10:35,795 stvoriti autonomno oružje, jer ako počnem vjerovati 1575 01:10:35,796 --> 01:10:39,190 taj moj vojni protivnik će usvojiti AI, 1576 01:10:39,191 --> 01:10:41,845 bit će to utrka tko može povucite okidač brže. 1577 01:10:41,846 --> 01:10:44,935 I to onaj koji automatizira ta odluka, 1578 01:10:44,936 --> 01:10:47,242 nego imati čovjek u krugu, 1579 01:10:47,243 --> 01:10:49,244 je onaj koji će pobijediti u tom ratu. 1580 01:10:49,245 --> 01:10:50,680 A ako razmislite o 1581 01:10:50,681 --> 01:10:53,074 utrka u nuklearnom naoružanju u 1940-ima... 1582 01:10:54,554 --> 01:10:56,599 ...znate Nijemce rade na bombi, 1583 01:10:56,600 --> 01:11:00,777 tako da nije tako lako reći Robert Oppenheimer tada, 1584 01:11:00,778 --> 01:11:03,823 "Uh, znaš, uspori." 1585 01:11:03,824 --> 01:11:05,347 Dakle, nakon gledanja ovog filma, bit će zbunjujuće, 1586 01:11:05,348 --> 01:11:06,696 jer ćeš se vratiti, 1587 01:11:06,697 --> 01:11:08,350 i sutra koristit ćeš ChatGPT, 1588 01:11:08,351 --> 01:11:10,482 i bit će nevjerojatno korisno. 1589 01:11:10,483 --> 01:11:12,745 I ja ću ga također koristiti, i bit će od nevjerojatne pomoći. 1590 01:11:12,746 --> 01:11:16,183 A ti ćeš reći: "Čekaj, dakle Upravo sam vidio ovaj film o umjetnoj inteligenciji 1591 01:11:16,184 --> 01:11:18,055 "i egzistencijalni rizik i sve ove stvari, 1592 01:11:18,056 --> 01:11:20,666 i gdje je opet prijetnja?" 1593 01:11:20,667 --> 01:11:24,757 A nije da ChatGPT jest egzistencijalnu prijetnju. 1594 01:11:24,758 --> 01:11:28,718 To je utrka za raspoređivanje najmoćniji, 1595 01:11:28,719 --> 01:11:31,677 nedokučiv, nekontrolirana tehnologija, 1596 01:11:31,678 --> 01:11:35,159 pod najgorim mogući poticaji, 1597 01:11:35,160 --> 01:11:37,031 to je egzistencijalna prijetnja. 1598 01:11:38,119 --> 01:11:40,425 Ali pogađa me to-to 1599 01:11:40,426 --> 01:11:43,254 nalazimo se u kontekstu rase. 1600 01:11:43,255 --> 01:11:45,952 -Da. - I to je u natjecanju, 1601 01:11:45,953 --> 01:11:47,693 "moram stići prvi, moram pobijediti u utrci", 1602 01:11:47,694 --> 01:11:49,042 "moram se natjecati protiv Kine, 1603 01:11:49,043 --> 01:11:50,392 moram se natjecati protiv drugi laboratoriji." 1604 01:11:50,393 --> 01:11:51,871 nije li tako? 1605 01:11:51,872 --> 01:11:53,699 Danas je to slučaj. 1606 01:11:53,700 --> 01:11:56,703 Dakle, moramo se promijeniti ta dinamika utrke. 1607 01:11:57,922 --> 01:11:59,966 ne misliš li 1608 01:11:59,967 --> 01:12:02,187 Mislim da bi to bilo doista jako dobro. 1609 01:12:03,710 --> 01:12:06,538 Ja-mislim postoji neka vrsta... 1610 01:12:06,539 --> 01:12:09,585 misticizam oko AI zbog toga se osjeća kao 1611 01:12:09,586 --> 01:12:11,761 pao je s neba. 1612 01:12:11,762 --> 01:12:13,502 Razmišljajući o ovome kao bogolika tehnologija 1613 01:12:13,503 --> 01:12:15,460 je problem. 1614 01:12:15,461 --> 01:12:16,897 Da. 1615 01:12:18,072 --> 01:12:19,943 Zašto? 1616 01:12:19,944 --> 01:12:23,033 Daje licencu tvrtkama da... 1617 01:12:23,034 --> 01:12:26,297 ne preuzeti odgovornost 1618 01:12:26,298 --> 01:12:30,823 za stvari koje softver da su izgradili čini. 1619 01:12:30,824 --> 01:12:35,132 Kad bi ljudi uspostavili tu vezu, 1620 01:12:35,133 --> 01:12:37,569 možda bi to, kao, pomozite im da ponovno razumiju 1621 01:12:37,570 --> 01:12:41,878 dinamika od sav novac i moć i... 1622 01:12:41,879 --> 01:12:45,360 kaos koji se događa... 1623 01:12:45,361 --> 01:12:47,144 stvoriti ovu tehnologiju. 1624 01:12:47,145 --> 01:12:49,276 To je, kao, pet momaka tko to kontrolira, zar ne? 1625 01:12:49,277 --> 01:12:51,670 - Kao, pet muškaraca? - Uglavnom, da. 1626 01:12:51,671 --> 01:12:53,890 - Izvršni direktori? - Da. 1627 01:12:53,891 --> 01:12:55,371 U redu. 1628 01:13:01,072 --> 01:13:03,116 Ponekad se čini kao 1629 01:13:03,117 --> 01:13:07,294 Bio sam na ovome samo, kao, beskrajno putovanje 1630 01:13:07,295 --> 01:13:09,384 pokušavajući ovo razumjeti. 1631 01:13:09,385 --> 01:13:12,388 Znate, kao Penjem se na planinu... 1632 01:13:15,608 --> 01:13:19,176 ...i svaki put Ja se, kao, penjem na brdo, 1633 01:13:19,177 --> 01:13:20,786 Mislim da sam stigao do vrha, 1634 01:13:20,787 --> 01:13:23,441 ali samo se nastavlja i ide i ide. 1635 01:13:24,574 --> 01:13:27,010 Ali iz svega što sam čuo, 1636 01:13:27,011 --> 01:13:30,405 kad bih morao pogoditi što je na vrhu planine tjeskobe, 1637 01:13:30,406 --> 01:13:34,234 to je ovih pet izvršnih direktora od ovih pet tvrtki, 1638 01:13:34,235 --> 01:13:37,673 koji su poput Oppenheimeri ovog trenutka. 1639 01:13:37,674 --> 01:13:39,501 Ovo su dečki koji grade ovu stvar. 1640 01:13:39,502 --> 01:13:40,850 Da. 1641 01:13:40,851 --> 01:13:44,201 Kao, postoji li plan? 1642 01:13:44,202 --> 01:13:46,464 Šef tvrtke to čini ChatGPT 1643 01:13:46,465 --> 01:13:49,989 upozorio na moguće značajnu štetu svijetu. 1644 01:13:49,990 --> 01:13:52,427 Mislim, ako ova tehnologija pođe krivo, 1645 01:13:52,428 --> 01:13:53,515 može poći sasvim krivo. 1646 01:13:55,822 --> 01:13:57,823 Pet frajera. 1647 01:13:57,824 --> 01:14:01,610 Nikada nisam razmišljao o nama kao tvrtka društvenih medija. 1648 01:14:01,611 --> 01:14:06,092 Čini mi se da moram pokušati i-i nađi ove dečke... 1649 01:14:06,093 --> 01:14:07,224 Mm-hmm. 1650 01:14:07,225 --> 01:14:09,009 ...i ubaciti ih u film. 1651 01:14:10,315 --> 01:14:12,622 Svakako bismo dobili neka jasnoća iz toga. 1652 01:14:16,582 --> 01:14:19,192 Mislim, novac mora prestati negdje, zar ne? 1653 01:14:34,034 --> 01:14:35,339 Kakav je osjećaj? 1654 01:14:35,340 --> 01:14:37,733 - Sjajno. - To je u redu? 1655 01:14:37,734 --> 01:14:39,474 Da. 1656 01:14:39,475 --> 01:14:41,040 - Mogu li pomaknuti sjedalo naprijed? -Da, možeš. 1657 01:14:41,041 --> 01:14:42,215 To je, uh, to je samo malo neugodno. 1658 01:14:42,216 --> 01:14:43,608 Ja sam malo, kao... 1659 01:14:43,609 --> 01:14:45,088 Dario, kako se osjećaš o toj stolici? 1660 01:14:45,089 --> 01:14:47,046 Hm, da, stolica je dobra. 1661 01:14:47,047 --> 01:14:48,874 Samo sam ga htio pomaknuti malo naprijed. -U redu. 1662 01:14:48,875 --> 01:14:50,572 Odabrao sam tu stolicu. 1663 01:14:50,573 --> 01:14:52,182 - To je dobra stolica. - Hvala. 1664 01:14:57,884 --> 01:14:59,495 I samo sjedni tamo. 1665 01:15:01,409 --> 01:15:03,106 A onda ovuda, 1666 01:15:03,107 --> 01:15:04,411 gledat ćemo se kroz ovo staklo. 1667 01:15:11,419 --> 01:15:13,595 I sjedajući natrag u stolicu, naginjući se naprijed? 1668 01:15:13,596 --> 01:15:15,161 Da. Pa, što god je udobno, mislim. -U redu. 1669 01:15:15,162 --> 01:15:16,728 Nekako je cool. Postoji hrpa ogledala. 1670 01:15:16,729 --> 01:15:17,860 - Je li to-- u redu. -Sam A., uzmi jedan. Ocjena. 1671 01:15:17,861 --> 01:15:19,557 - Kako to? - Dobro. Hvala. 1672 01:15:19,558 --> 01:15:21,080 Postanak ovog projekta je da sam bio 1673 01:15:21,081 --> 01:15:22,865 sjediti kod kuće, i igrao sam se sa, 1674 01:15:22,866 --> 01:15:24,431 Mislim da je vaš generator slike, 1675 01:15:24,432 --> 01:15:27,304 i bio sam istovremeno, uh, prestravljen 1676 01:15:27,305 --> 01:15:29,480 i stvarno impresioniran. 1677 01:15:29,481 --> 01:15:31,917 - To je uobičajena kombinacija. - A onda prekinite 1678 01:15:31,918 --> 01:15:34,659 moja žena i ja saznajemo očekujemo. 1679 01:15:34,660 --> 01:15:38,315 I-i ja, kao, imam egzistencijalnu krizu 1680 01:15:38,316 --> 01:15:40,273 kao što je moja žena trudna šest mjeseci. 1681 01:15:40,274 --> 01:15:42,972 I mislim da je moje prvo pitanje što pitam sve: 1682 01:15:42,973 --> 01:15:45,496 Sada je užasno vrijeme imati dijete? 1683 01:15:45,497 --> 01:15:47,411 Činim li veliku grešku? 1684 01:15:47,412 --> 01:15:49,065 Čekam dijete u ožujku također. Moj prvi. 1685 01:15:49,066 --> 01:15:50,545 - Čekaš dijete? - Da. 1686 01:15:50,546 --> 01:15:51,850 - Očekuješ u ožujku? - Prvo dijete. 1687 01:15:51,851 --> 01:15:53,330 - Mazel tov. - Puno vam hvala. 1688 01:15:53,331 --> 01:15:54,505 Nikada nisam bila tako uzbuđena za bilo što. 1689 01:15:54,506 --> 01:15:56,507 - Tako se osjećam. - Da. 1690 01:15:56,508 --> 01:15:58,248 Ali ne bojiš se? 1691 01:15:58,249 --> 01:16:02,774 Mislim, imati dijete je samo ova važna stvar 1692 01:16:02,775 --> 01:16:05,037 da ja, znaš, Ostajem budan svaku noć, kao, 1693 01:16:05,038 --> 01:16:06,865 čitajući ove knjige o kako odgojiti dijete, 1694 01:16:06,866 --> 01:16:08,258 i nadam se Napravit ću dobar posao, 1695 01:16:08,259 --> 01:16:09,302 i osjeća se vrlo neodoljivo i-- 1696 01:16:09,303 --> 01:16:12,088 ali nije me strah... 1697 01:16:12,089 --> 01:16:14,090 da djeca odrastu u svijetu s umjetnom inteligencijom. 1698 01:16:14,091 --> 01:16:16,353 Kao, to je... to će biti u redu. 1699 01:16:16,354 --> 01:16:19,051 To je dobro čuti dolazi od tipa. 1700 01:16:19,052 --> 01:16:20,792 Mislim da je to divna ideja imati djecu. 1701 01:16:20,793 --> 01:16:23,273 Mislim da su oni najviše čarobna, nevjerojatna stvar. 1702 01:16:23,274 --> 01:16:25,318 Toliko je neizvjesnosti, 1703 01:16:25,319 --> 01:16:26,885 Gotovo bih jednostavno učinio što ćeš uopće učiniti. 1704 01:16:26,886 --> 01:16:28,974 Znam da nije vrlo zadovoljavajući odgovor, 1705 01:16:28,975 --> 01:16:31,934 ali to je jedini Mogu smisliti. 1706 01:16:31,935 --> 01:16:34,501 Naša djeca nikad neće... 1707 01:16:34,502 --> 01:16:37,113 upoznati svijet koji nema stvarno napredan AI. 1708 01:16:37,114 --> 01:16:39,898 Zapravo, naša djeca nikada neće biti pametniji od umjetne inteligencije. 1709 01:16:39,899 --> 01:16:42,118 “Naša djeca hoće nikada ne biti pametniji od umjetne inteligencije"? 1710 01:16:42,119 --> 01:16:44,381 Pa, iz sirovog, iz perspektive sirovog IQ-a, 1711 01:16:44,382 --> 01:16:46,296 nikada neće biti pametniji od umjetne inteligencije. 1712 01:16:46,297 --> 01:16:48,080 Taj pojam ne malo te uznemiriti? 1713 01:16:48,081 --> 01:16:51,170 Jer se zbog toga osjećam malo mučnina na čudan način. 1714 01:16:51,171 --> 01:16:54,826 Hm, to me uznemiruje pomalo. 1715 01:16:54,827 --> 01:16:56,306 Ali to je stvarnost. 1716 01:16:56,307 --> 01:16:58,308 U redu, dakle dinamika utrke. 1717 01:16:58,309 --> 01:17:01,050 Imamo hrpu ljudi koji su svi složni 1718 01:17:01,051 --> 01:17:02,921 da je ovo strašno. 1719 01:17:02,922 --> 01:17:04,793 Na temelju vremenskih crta koje mnogo ljudi mi je dalo, 1720 01:17:04,794 --> 01:17:07,056 imamo između dva mjeseca i pet godina da ovo shvatim. 1721 01:17:07,057 --> 01:17:08,710 - Da. - I-i, valjda, 1722 01:17:08,711 --> 01:17:12,845 moje najveće pitanje je: Zašto jednostavno ne možemo stati? 1723 01:17:14,499 --> 01:17:19,111 Problem sa, uh, uh, "samo prestati" je to, um, 1724 01:17:19,112 --> 01:17:22,245 sada postoji mnogo, mnogo grupa diljem svijeta, uh, uh, 1725 01:17:22,246 --> 01:17:25,727 gradeći ovo, za mnoge nacije, mnoge kompanije, 1726 01:17:25,728 --> 01:17:28,164 hm, svi sa različite motivacije. 1727 01:17:28,165 --> 01:17:30,819 Postoje neki od ove tvrtke u ovom prostoru 1728 01:17:30,820 --> 01:17:34,039 tko je njihov stav, "Mi želimo za razvoj ove tehnologije 1729 01:17:34,040 --> 01:17:36,085 apsolutno što je brže moguće." 1730 01:17:36,086 --> 01:17:40,089 Pa čak i kad bismo mogli donositi zakone u SAD-u i Europi, 1731 01:17:40,090 --> 01:17:42,439 moramo uvjeriti... 1732 01:17:42,440 --> 01:17:45,007 Xi Jinping i Vladimir Putin ili, znaš, 1733 01:17:45,008 --> 01:17:47,487 tko god njihov znanstveni savjetnici su na njihovoj strani. 1734 01:17:47,488 --> 01:17:49,272 To će biti jako teško. 1735 01:17:49,273 --> 01:17:50,969 Mislim da je istina 1736 01:17:50,970 --> 01:17:53,624 da ako su dvije osobe na potpuno istom mjestu, 1737 01:17:53,625 --> 01:17:55,931 uh, onaj koji je spreman uzeti više prečaca za sigurnost 1738 01:17:55,932 --> 01:17:58,107 trebao bi nekako "stići prvi." 1739 01:17:58,108 --> 01:18:01,110 Uh, ali... 1740 01:18:01,111 --> 01:18:02,981 možemo iskoristiti svoje vodstvo 1741 01:18:02,982 --> 01:18:06,028 provesti puno više vremena obavljanje sigurnosnih ispitivanja. 1742 01:18:06,029 --> 01:18:08,030 I-a što ako ga izgubiš? 1743 01:18:08,031 --> 01:18:09,640 Dobili ste poziv a vi saznajte 1744 01:18:09,641 --> 01:18:11,729 da si sada, recimo, šest mjeseci iza. 1745 01:18:11,730 --> 01:18:14,297 - Š-Što ​​se onda događa? - Ovisi za kim zaostajemo. 1746 01:18:14,298 --> 01:18:16,865 Ako je, kao, protivnička vlada, 1747 01:18:16,866 --> 01:18:18,867 to je vjerojatno jako loše. 1748 01:18:18,868 --> 01:18:21,391 Pa recimo da ste primili poziv da Kina ima, 1749 01:18:21,392 --> 01:18:24,829 ima rekurzivno sredstvo za samopoboljšanje 1750 01:18:24,830 --> 01:18:27,223 ili tako nešto što mi treba biti stvarno zabrinut. 1751 01:18:27,224 --> 01:18:29,226 Što-- što-što se događa? 1752 01:18:30,967 --> 01:18:32,403 Hm... 1753 01:18:35,406 --> 01:18:37,276 Taj bi slučaj zahtijevao... 1754 01:18:37,277 --> 01:18:40,715 prvi bi korak bio razgovarati s vladom SAD-a. 1755 01:18:40,716 --> 01:18:42,978 Sam, vjeruješ li sposobnost vlade da se nosi 1756 01:18:42,979 --> 01:18:44,676 ovako nešto? 1757 01:18:45,895 --> 01:18:47,809 Da, želim, zapravo. 1758 01:18:47,810 --> 01:18:49,593 Postoje druge stvari koje ne znam vjeruj vladi da će to riješiti, 1759 01:18:49,594 --> 01:18:51,203 ali taj određeni scenarij, Mislim da bi znali... 1760 01:18:51,204 --> 01:18:52,814 oni-oni-- da. 1761 01:18:52,815 --> 01:18:54,467 Kada imate, kao, privatne rasprave 1762 01:18:54,468 --> 01:18:56,426 s ostalim dečkima čiji prsti su na obaraču, 1763 01:18:56,427 --> 01:18:59,646 da tako kažem, hm, voditi one privatne rasprave 1764 01:18:59,647 --> 01:19:01,344 ispuniti vas povjerenjem 1765 01:19:01,345 --> 01:19:03,389 ili te tjeraju, uh, tjeskobniji? 1766 01:19:03,390 --> 01:19:07,132 Gledaj, mislim, znam neke od njih bolji od drugih. 1767 01:19:07,133 --> 01:19:10,179 Hm, imam više samopouzdanja u nekima od njih th-nego što imam 1768 01:19:10,180 --> 01:19:12,398 u drugima, znaš, kao kod, kao kod bilo kojeg naroda. 1769 01:19:12,399 --> 01:19:14,183 znaš, razmišljaš o, znaš, 1770 01:19:14,184 --> 01:19:15,880 djeca u tvojoj srednjoj školi razred ili tako nešto, zar ne? 1771 01:19:15,881 --> 01:19:18,317 Znate, neki od njih su, znaš, stvarno slatko. 1772 01:19:18,318 --> 01:19:20,450 Neki od njih su dobronamjerni ali ne tako učinkovito. 1773 01:19:20,451 --> 01:19:22,408 Neki od njih su, znate, nasilnici. 1774 01:19:22,409 --> 01:19:23,801 Neki od njih jesu stvarno loši ljudi. 1775 01:19:23,802 --> 01:19:25,716 Ti-ti nekako stvarno, 1776 01:19:25,717 --> 01:19:27,109 stvarno vidite širenje. 1777 01:19:27,110 --> 01:19:28,850 Znaš, jesam li, jesam li, jesam li uvjeren 1778 01:19:28,851 --> 01:19:30,590 to će svi učiniti prava stvar, 1779 01:19:30,591 --> 01:19:32,070 da će sve uspjeti? 1780 01:19:32,071 --> 01:19:33,898 Hm, ne, nisam. 1781 01:19:33,899 --> 01:19:35,552 I nema-nema ništa Mogu ja to učiniti, zar ne? 1782 01:19:35,553 --> 01:19:37,815 Znaš, sve-sve što mogu učiniti je-je guranje za, 1783 01:19:37,816 --> 01:19:39,208 gurati za, znaš, 1784 01:19:39,209 --> 01:19:40,818 gurati za vladu uključiti se. 1785 01:19:40,819 --> 01:19:42,689 Ali na kraju sam samo jedna osoba također. 1786 01:19:42,690 --> 01:19:44,169 to je... to je-to ovisi o svima nama 1787 01:19:44,170 --> 01:19:46,084 gurati za vladu uključiti se. 1788 01:19:46,085 --> 01:19:48,521 To je stvar broj jedan to-to mislim da trebamo učiniti 1789 01:19:48,522 --> 01:19:50,959 do-do, znate, postaviti stvari u pravom smjeru. 1790 01:19:50,960 --> 01:19:52,787 Što me čini tjeskobnim o tome je, kao, 1791 01:19:52,788 --> 01:19:56,225 osnovna stvarnost koju je brzina kojom tehnologija 1792 01:19:56,226 --> 01:19:58,444 se razmnožava i raste je eksponencijalan, 1793 01:19:58,445 --> 01:20:01,491 i mehanizmi za donošenje zakona stari su 300 godina, 1794 01:20:01,492 --> 01:20:02,971 - uzeti zauvijek. - Da. 1795 01:20:02,972 --> 01:20:05,147 Hm, mislim bit će to teško dizanje. 1796 01:20:05,148 --> 01:20:06,931 Definitivno se slažem s tobom na tome. 1797 01:20:06,932 --> 01:20:08,933 znaš, ono što doslovno tražim 1798 01:20:08,934 --> 01:20:11,283 je-je kao, "Ovdje su koraci koji, kao, 1799 01:20:11,284 --> 01:20:15,200 "glavni honchos će usredotočiti se na sigurnost, 1800 01:20:15,201 --> 01:20:18,160 ublažiti opasnost i maksimizirati obećanje." 1801 01:20:18,161 --> 01:20:20,162 a ja ne, Ne znam, ne znam 1802 01:20:20,163 --> 01:20:21,859 da postoji jednostavan odgovor na to. 1803 01:20:21,860 --> 01:20:23,296 Hm... 1804 01:20:25,951 --> 01:20:27,604 Mislim, ovo možda jest previše jednostavno, 1805 01:20:27,605 --> 01:20:30,215 ali ti... 1806 01:20:30,216 --> 01:20:32,000 stvoriti novi model, 1807 01:20:32,001 --> 01:20:34,829 proučavaš i testiraš vrlo pažljivo. 1808 01:20:34,830 --> 01:20:37,266 Ti ga ugasi u svijet postupno, 1809 01:20:37,267 --> 01:20:39,572 a onda, sve više i više, razumiješ 1810 01:20:39,573 --> 01:20:41,270 ako je to sigurno ili ne, i onda ako jeste, 1811 01:20:41,271 --> 01:20:42,707 možete poduzeti sljedeći korak. 1812 01:20:44,404 --> 01:20:47,145 Ne zvuči tako blistavo kao, kao, briljantan znanstvenik 1813 01:20:47,146 --> 01:20:50,496 doći na jednu ideju u a laboratorij za izradu AI sustava, kao, 1814 01:20:50,497 --> 01:20:54,022 savršeno siguran i kontroliran i sve ostalo, 1815 01:20:54,023 --> 01:20:55,762 ali to je ono što ja vjerujem će se dogoditi. 1816 01:20:55,763 --> 01:20:57,329 Kao, to je način Mislim da ovo funkcionira. 1817 01:20:57,330 --> 01:20:59,331 Ali recimo samo dogodi se nešto strašno, 1818 01:20:59,332 --> 01:21:01,856 kao model se otkači ili postane lupež ili tako nešto. 1819 01:21:01,857 --> 01:21:03,509 Postoji li protokol? 1820 01:21:03,510 --> 01:21:05,860 Kao, doslovno, Zamišljam crveni telefon. 1821 01:21:05,861 --> 01:21:07,165 - Da. - Oprosti što mislim na ovo 1822 01:21:07,166 --> 01:21:08,558 što se tiče filmova, ali, kao... 1823 01:21:08,559 --> 01:21:10,038 Postoji protokol. 1824 01:21:10,039 --> 01:21:11,517 Ima li crveni telefon na tvom stolu? -Ne. 1825 01:21:11,518 --> 01:21:13,258 Je li to tajna? 1826 01:21:13,259 --> 01:21:15,434 Mislim, uh, ne, nije, nije tako otmjeno ili dramatično 1827 01:21:15,435 --> 01:21:17,219 kao što bi se ti nadao, ali postoji, kao, znaš-- 1828 01:21:17,220 --> 01:21:18,916 mi smo, kao, razmislili ovi scenariji, 1829 01:21:18,917 --> 01:21:20,570 i ako se ovo dogodi, pozvat ćemo ove ljude 1830 01:21:20,571 --> 01:21:22,006 ovim redom i učinite ovo 1831 01:21:22,007 --> 01:21:23,486 i vrsta napraviti ove odluke ako, kao-- 1832 01:21:23,487 --> 01:21:26,097 Vjerujem u to kad imate priliku 1833 01:21:26,098 --> 01:21:29,100 da razmislite prije dogodi se stresna situacija, 1834 01:21:29,101 --> 01:21:30,449 to je gotovo uvijek dobra ideja. 1835 01:21:30,450 --> 01:21:31,798 I zapisivanje je korisno. 1836 01:21:31,799 --> 01:21:33,279 - Biti spreman je od pomoći. - Da. 1837 01:21:34,324 --> 01:21:36,064 ti... 1838 01:21:36,065 --> 01:21:38,805 Bilo bi nemoguće da ja sjedim preko puta tebe 1839 01:21:38,806 --> 01:21:41,199 i-i zamoliti te da mi obećaš da će ovo dobro proći? 1840 01:21:41,200 --> 01:21:43,898 To je nemoguće. 1841 01:21:43,899 --> 01:21:45,725 Nema lakih odgovora, nažalost. 1842 01:21:45,726 --> 01:21:48,119 Uh, jer je tako vrhunska tehnologija, 1843 01:21:48,120 --> 01:21:49,816 hm, ima još puno nepoznanica. 1844 01:21:49,817 --> 01:21:52,297 I ja to mislim to-to treba biti, 1845 01:21:52,298 --> 01:21:55,083 hm, uh, znaš, razumijem 1846 01:21:55,084 --> 01:21:59,000 i-i stoga potreba za, uh, uh, malo opreza. 1847 01:21:59,001 --> 01:22:00,915 Budim se, znaš, svaki dan, 1848 01:22:00,916 --> 01:22:03,482 ovo je, ovo je broj jedan o čemu razmišljam. 1849 01:22:03,483 --> 01:22:05,180 Sada, gledaj, ja sam čovjek, 1850 01:22:05,181 --> 01:22:08,400 i, znaš, ima-ima je li svaka odluka bila savršena? 1851 01:22:08,401 --> 01:22:11,664 Mogu li uopće reći svoje motivacije bili uvijek savršeno jasni? 1852 01:22:11,665 --> 01:22:13,579 Naravno da nije. Nitko to ne može reći. 1853 01:22:13,580 --> 01:22:16,408 Kao, to je-to je samo ne, kao, znaš-- 1854 01:22:16,409 --> 01:22:18,671 to je-to jednostavno nije kako ljudi rade. 1855 01:22:18,672 --> 01:22:21,065 Povijest znanosti teži tome, 1856 01:22:21,066 --> 01:22:23,589 u dobru i u zlu, ako je nešto moguće učiniti... 1857 01:22:23,590 --> 01:22:27,028 i sada znamo da je umjetna inteligencija moguća učiniti-- čovječanstvo to čini. 1858 01:22:27,029 --> 01:22:29,769 Sve ovo bilo-trebalo se dogoditi. 1859 01:22:29,770 --> 01:22:32,337 Ovaj-ovaj vlak neće prestati. 1860 01:22:32,338 --> 01:22:34,296 Ne smiješ stajati ispred vlak i zaustaviti ga. 1861 01:22:34,297 --> 01:22:36,298 Samo ćeš se zgnječiti. 1862 01:22:36,299 --> 01:22:38,388 Mislim, jako je stresno. 1863 01:22:39,606 --> 01:22:41,085 Znaš, postoji, kao, 1864 01:22:41,086 --> 01:22:42,695 puno stvari mnogi od nas ne znaju. 1865 01:22:42,696 --> 01:22:46,395 Mislim da povijest znanstvenog otkrića je 1866 01:22:46,396 --> 01:22:48,310 jedan od nepoznavanja ono što ne znaš 1867 01:22:48,311 --> 01:22:49,702 i shvaćanje usput. 1868 01:22:49,703 --> 01:22:53,010 Uh, ali, da, to je... 1869 01:22:53,011 --> 01:22:56,622 to je stresan način života. 1870 01:22:56,623 --> 01:22:58,798 Pravo. Sam, hvala ti puno za ovo. 1871 01:22:58,799 --> 01:23:00,539 - I opet, mazel tov. - Hvala. I vama. 1872 01:23:00,540 --> 01:23:02,715 hvala ti puno Hvala, ljudi. 1873 01:23:47,848 --> 01:23:49,327 Zdravo. 1874 01:23:49,328 --> 01:23:50,589 Hej, tata, kako si? 1875 01:23:50,590 --> 01:23:51,634 Dobro. kako si 1876 01:23:51,635 --> 01:23:53,114 Radiš li? što namjeravaš 1877 01:23:53,115 --> 01:23:55,290 Radim na ovom AI filmu. 1878 01:23:55,291 --> 01:23:57,857 I kako ide? 1879 01:23:57,858 --> 01:24:00,469 Znaš, to... to je stvarno... 1880 01:24:00,470 --> 01:24:02,210 - Bok, dušo. -Bok, mama. 1881 01:24:02,211 --> 01:24:03,907 Pa što je premisa filma? 1882 01:24:03,908 --> 01:24:06,562 Je li to dokumentarac? Kev, nemoj više koristiti začine. 1883 01:24:06,563 --> 01:24:08,346 Već je prezačinjeno. 1884 01:24:08,347 --> 01:24:10,479 Upravo pravimo piletinu. 1885 01:24:10,480 --> 01:24:12,655 - Je li to dokumentarac ili što... -Radi se o... 1886 01:24:12,656 --> 01:24:14,004 film je o kraj svijeta. 1887 01:24:14,005 --> 01:24:15,832 Smak svijeta dolazi, 1888 01:24:15,833 --> 01:24:17,616 i snimamo film o smaku svijeta. 1889 01:24:17,617 --> 01:24:19,879 -Stvarno? -Da. 1890 01:24:19,880 --> 01:24:21,620 Nekako depresivno film, zvuči kao. 1891 01:24:21,621 --> 01:24:23,492 Da. 1892 01:24:23,493 --> 01:24:29,019 Osjećam se puno, kao-- ova vrlo akutna tjeskoba. 1893 01:24:29,020 --> 01:24:31,413 Tako je strašno, ali mora biti... 1894 01:24:31,414 --> 01:24:35,330 znaš, jeste li se sastajali neki-neki superpametni ljudi 1895 01:24:35,331 --> 01:24:37,810 koji ti daju bilo kakve odgovore? 1896 01:24:37,811 --> 01:24:39,508 To je ono što je frustrirajuće zbog toga. 1897 01:24:39,509 --> 01:24:41,379 Nitko ne zna. 1898 01:24:41,380 --> 01:24:43,947 Sve što mogu reći na to je to 1899 01:24:43,948 --> 01:24:49,909 svaka generacija je imala ovako nešto strašno. 1900 01:24:49,910 --> 01:24:52,260 Kad sam se rodio, bilo je kubanske raketne krize. 1901 01:24:54,306 --> 01:24:56,394 Samo sam se uplašio da tamo će biti nuklearni rat. 1902 01:24:56,395 --> 01:24:57,787 Da, ali nismo znali 1903 01:24:57,788 --> 01:24:59,136 što će učiniti i... 1904 01:24:59,137 --> 01:25:00,572 I nije došao kraj svijeta. 1905 01:25:00,573 --> 01:25:01,660 Svi su se probudili sljedeće jutro, 1906 01:25:01,661 --> 01:25:03,445 a mi još uvijek radimo svoje. 1907 01:25:03,446 --> 01:25:05,011 jako se bojim, 1908 01:25:05,012 --> 01:25:06,883 posebno u kontekst, kao, 1909 01:25:06,884 --> 01:25:09,190 znaš, beba i... 1910 01:25:09,191 --> 01:25:10,582 Bit će to krivulja učenja. 1911 01:25:10,583 --> 01:25:12,106 Bit ćeš dobro. 1912 01:25:12,107 --> 01:25:13,107 ne možeš, ne možeš razmišljati o tome 1913 01:25:13,108 --> 01:25:14,369 ono što ne možeš kontrolirati, Daniele. 1914 01:25:14,370 --> 01:25:16,197 Samo zapamti to. 1915 01:25:16,198 --> 01:25:17,720 Stvarno, stvarno osjećam 1916 01:25:17,721 --> 01:25:19,243 nervozan i uplašen zbog toga. 1917 01:25:19,244 --> 01:25:21,071 Ima toliko toga koje ne mogu kontrolirati. 1918 01:25:21,072 --> 01:25:23,900 Ne budi nervozna. Ne smiješ dopustiti da te to pogodi. 1919 01:25:23,901 --> 01:25:26,294 Možete samo kontrolirati što možeš kontrolirati, 1920 01:25:26,295 --> 01:25:27,947 i to je sve što možeš učiniti. 1921 01:25:27,948 --> 01:25:30,646 Više od toga ne možete učiniti. 1922 01:25:30,647 --> 01:25:32,649 Zapiši to u svoju knjigu. 1923 01:25:49,274 --> 01:25:51,623 Kad pogledaš unazad, 1924 01:25:51,624 --> 01:25:54,496 svijet uvijek smakne. 1925 01:25:54,497 --> 01:25:56,846 A kad gledaš naprijed, 1926 01:25:56,847 --> 01:25:59,283 svijet uvijek smakne. 1927 01:25:59,284 --> 01:26:02,199 ...u plamenu. Jedna kuća već gori... 1928 01:26:02,200 --> 01:26:05,377 Ali svijet također uvijek počinje. 1929 01:26:07,988 --> 01:26:09,989 Jeste li spremni? 1930 01:26:09,990 --> 01:26:11,992 Jeste li ikada stvarno spremni? 1931 01:26:15,909 --> 01:26:17,693 Želiš voziti ili želiš da ja vozim? 1932 01:26:17,694 --> 01:26:18,782 Ti voziš. 1933 01:26:20,479 --> 01:26:21,871 U redu. 1934 01:26:21,872 --> 01:26:23,742 Hvala ti, Maria. 1935 01:26:23,743 --> 01:26:26,310 Samo će osjećati se stvarno grčevito. 1936 01:26:26,311 --> 01:26:27,833 -U redu. -Jesi li spreman? 1937 01:26:27,834 --> 01:26:29,095 Da. 1938 01:26:30,968 --> 01:26:32,404 Mogao bi biti u medicinska drama sa svim tim... 1939 01:26:49,116 --> 01:26:51,075 ... neki pritisak. 1940 01:26:52,685 --> 01:26:54,078 Samo se opusti. 1941 01:27:02,129 --> 01:27:04,957 Bok, prijatelju. ooh 1942 01:27:04,958 --> 01:27:06,481 Bok, prijatelju. 1943 01:27:31,202 --> 01:27:33,725 Bit će to potpuno novi svijet 1944 01:27:33,726 --> 01:27:35,032 za tebe, Daniele. 1945 01:27:37,208 --> 01:27:40,080 I mislim da ćeš biti nevjerojatan otac. 1946 01:27:41,517 --> 01:27:44,388 To je sigurno. 1947 01:27:44,389 --> 01:27:46,651 Oh. 1948 01:27:48,698 --> 01:27:50,787 Napravit ćeš sjajan posao. 1949 01:27:51,788 --> 01:27:53,092 Kev, zašto plačeš? 1950 01:27:53,093 --> 01:27:54,659 Plačem jer... 1951 01:27:54,660 --> 01:27:57,096 ne znam jednostavno ne... 1952 01:27:57,097 --> 01:27:59,360 Tata, hoćeš rasplakati i mene. 1953 01:27:59,361 --> 01:28:00,710 zašto plačeš 1954 01:28:03,190 --> 01:28:05,540 Samo to znam bit ćeš nevjerojatan tata. 1955 01:28:05,541 --> 01:28:07,150 Samo ću biti sjajan tata 1956 01:28:07,151 --> 01:28:09,718 jer sam imala sjajnog tatu. 1957 01:28:09,719 --> 01:28:12,329 Postajem emotivan, to je sve 1958 01:28:12,330 --> 01:28:13,722 Ajme 1959 01:28:14,941 --> 01:28:16,594 Dječak, oh, dečko! 1960 01:28:16,595 --> 01:28:17,857 Bože moj! 1961 01:28:18,902 --> 01:28:24,820 Pogledaj te male bezobraznike. Pogledaj te male bezobraznike. 1962 01:28:24,821 --> 01:28:26,387 Da. 1963 01:28:26,388 --> 01:28:28,433 Znam kako završiti ovaj film. 1964 01:28:29,478 --> 01:28:32,306 Bebe. 1965 01:28:32,307 --> 01:28:35,309 Kraj filma je otprilike bebe.- 1966 01:28:35,310 --> 01:28:37,136 Oni afirmiraju život. 1967 01:28:37,137 --> 01:28:38,964 Iscrpljujuće su. 1968 01:28:38,965 --> 01:28:40,836 Smiješni su. 1969 01:28:40,837 --> 01:28:42,707 I vrijede toga. 1970 01:28:42,708 --> 01:28:46,494 Ovaj film nije o unutarnje funkcioniranje tehnologije. 1971 01:28:46,495 --> 01:28:48,278 Ne radi se o izvršni direktori milijarderi. 1972 01:28:48,279 --> 01:28:50,236 Ne radi se o geopolitici. 1973 01:28:50,237 --> 01:28:53,631 Ne radi se o zastrašujućem budućnost ili kraj svijeta, 1974 01:28:53,632 --> 01:28:55,720 jer moj svijet tek počinje. 1975 01:28:55,721 --> 01:28:57,418 Gradim jaslice. 1976 01:28:57,419 --> 01:28:59,333 Upravo ovdje, upravo sada. 1977 01:29:00,509 --> 01:29:02,379 AI će sve promijeniti 1978 01:29:02,380 --> 01:29:05,643 na previše moćan način i složeno za razumijevanje. 1979 01:29:05,644 --> 01:29:08,952 A budućnost nije da bilo tko od nas odluči. 1980 01:29:10,736 --> 01:29:13,651 Ali ono što mogu odlučiti jest biti najbolji mogući muž 1981 01:29:13,652 --> 01:29:17,742 za moju ženu i najbolje mogući tata za mog sina. 1982 01:29:17,743 --> 01:29:21,442 Dakle, je li naša AI budućnost košmarna distopija 1983 01:29:21,443 --> 01:29:23,879 ili utopija koju svi sanjamo, 1984 01:29:23,880 --> 01:29:26,925 Barem ću znati da sam učinio sve što sam mogao 1985 01:29:26,926 --> 01:29:30,146 voditi moju obitelj kroz ovu AI revoluciju. 1986 01:29:30,147 --> 01:29:33,889 I bez obzira na sve, zajedno ćemo se suočiti s tim. 1987 01:29:36,849 --> 01:29:40,548 Dakle, to je samo naša prva ideja. 1988 01:29:40,549 --> 01:29:42,854 Kakav je osjećaj? Osjećaš li ovo? 1989 01:29:42,855 --> 01:29:45,291 Čekaj, ja-- kao, ovo nije-- ovo je šala. 1990 01:29:45,292 --> 01:29:47,425 Nije zapravo kako ćeš to završiti. 1991 01:29:50,036 --> 01:29:52,690 Mislim, to je samo ideja. U redu? 1992 01:29:52,691 --> 01:29:54,431 Ne, Daniele. 1993 01:29:54,432 --> 01:29:56,172 ...uh, jako, jako glupo. 1994 01:29:56,173 --> 01:29:58,957 Ti si samo potrošio, ja ne znam koliko godina 1995 01:29:58,958 --> 01:30:02,613 našeg života radeći na ovome, razgovarajući sa svakim vodećim stručnjakom 1996 01:30:02,614 --> 01:30:05,007 na planetu o temi, 1997 01:30:05,008 --> 01:30:07,705 i ti ćeš tome stati na kraj 1998 01:30:07,706 --> 01:30:10,839 s nekim, kao, kumbaya sranje? 1999 01:30:10,840 --> 01:30:13,537 Postoji asteroid uputio na Zemlju. 2000 01:30:13,538 --> 01:30:15,539 čime se baviš samo... 2001 01:30:15,540 --> 01:30:17,672 držati se za ruke i nadam se da će biti dobro? 2002 01:30:17,673 --> 01:30:19,456 Apsolutno ne. 2003 01:30:19,457 --> 01:30:22,328 Moramo-- to ha-- mora biti... 2004 01:30:22,329 --> 01:30:24,419 Kraj mora... 2005 01:30:25,855 --> 01:30:27,943 U redu, prva stvar: 2006 01:30:27,944 --> 01:30:31,468 AI je ovdje, i tu je da ostane. 2007 01:30:31,469 --> 01:30:32,948 Sranje je iz konja, 2008 01:30:32,949 --> 01:30:35,430 ali konj je nastavit ću srati. 2009 01:30:39,695 --> 01:30:41,609 Znate, jedan od osnovnih zakoni povijesti 2010 01:30:41,610 --> 01:30:44,046 je li to ništa stvarno imaju početak 2011 01:30:44,047 --> 01:30:46,004 i ništa nema kraja. 2012 01:30:46,005 --> 01:30:47,745 Samo se nastavlja. 2013 01:30:47,746 --> 01:30:50,574 AI nije ni blizu njegov puni razvoj. 2014 01:30:50,575 --> 01:30:52,837 Čak i ako trenutni balon AI puca, 2015 01:30:52,838 --> 01:30:54,622 ljudi nikada neće stati 2016 01:30:54,623 --> 01:30:57,581 gradeći sve više i više moćna tehnologija. 2017 01:30:57,582 --> 01:30:59,453 Možete odabrati da ne koristite AI 2018 01:30:59,454 --> 01:31:02,281 ili sudjelovati u tome, ali je ionako će utjecati na tebe. 2019 01:31:02,282 --> 01:31:04,066 Dobro, fantastično. Tako da smo sjebani. 2020 01:31:04,067 --> 01:31:06,635 Ne, nismo zbog jedne jednostavne stvari. 2021 01:31:10,943 --> 01:31:13,031 Ovo nije neizbježno. 2022 01:31:13,032 --> 01:31:15,251 Kad bismo samo mogli vidjeti jasno zajedno, 2023 01:31:15,252 --> 01:31:18,384 očit će odgovor biti odabrati nešto drugačije. 2024 01:31:18,385 --> 01:31:21,083 Moramo vrlo jasno promijeniti igru 2025 01:31:21,084 --> 01:31:23,172 od utrke do dna u utrku do vrha. 2026 01:31:23,173 --> 01:31:27,481 Problem koji trebamo riješiti nije AI posebno. 2027 01:31:27,482 --> 01:31:31,267 To je općenito pitanje kako gradimo društvo 2028 01:31:31,268 --> 01:31:33,922 koji se može nositi s moćna tehnologija. 2029 01:31:33,923 --> 01:31:35,401 Jer mi ćemo dobiti 2030 01:31:35,402 --> 01:31:36,838 samo sve moćniji tehnologija. 2031 01:31:36,839 --> 01:31:39,710 Moramo unaprijediti naše društvo, 2032 01:31:39,711 --> 01:31:41,538 a prvi korak je okupljajući se 2033 01:31:41,539 --> 01:31:43,409 - i zahtjevno... -Koordinacija. 2034 01:31:43,410 --> 01:31:47,065 Neki oblik međunarodnog suradnji ili dogovoru o 2035 01:31:47,066 --> 01:31:48,545 kakve bi trebale biti norme. 2036 01:31:48,546 --> 01:31:49,938 Znate, kako treba budu raspoređeni... 2037 01:31:49,939 --> 01:31:51,592 Onako, pravi međunarodna diplomacija 2038 01:31:51,593 --> 01:31:53,332 među velesilama. 2039 01:31:53,333 --> 01:31:56,335 Kinezi su jednako zabrinuti o tome kao Amerikanci. 2040 01:31:56,336 --> 01:31:57,772 Mislim da je teško, znaš, 2041 01:31:57,773 --> 01:31:59,556 u struji geopolitička klima, 2042 01:31:59,557 --> 01:32:01,297 - ali mislim da je potrebno. -Apsolutno. 2043 01:32:01,298 --> 01:32:04,735 Na potpuno isti način na koji posljednji put da čovječanstvo 2044 01:32:04,736 --> 01:32:09,653 razvio tehnologiju ovo opasno... 2045 01:32:09,654 --> 01:32:12,438 ...koji je zahtijevao kompletan, pomak bez presedana 2046 01:32:12,439 --> 01:32:15,572 na strukturu našeg svijeta. 2047 01:32:15,573 --> 01:32:17,661 Moramo to dovršiti, 2048 01:32:17,662 --> 01:32:20,925 opet neviđeni pomak. 2049 01:32:20,926 --> 01:32:24,146 Znate, mi-mi razgovaramo s ljudima koji rade u tim AI tvrtkama, 2050 01:32:24,147 --> 01:32:25,364 i kažu da žele učiniti nešto drugačije, 2051 01:32:25,365 --> 01:32:26,670 ali treba im pritisak javnosti. 2052 01:32:26,671 --> 01:32:28,193 Oni trebaju vladu učiniti nešto. 2053 01:32:28,194 --> 01:32:30,021 Onda idemo u DC, i oni kažu, 2054 01:32:30,022 --> 01:32:31,893 „Pa, treba nam Silicijska dolina učiniti nešto drugačije. 2055 01:32:31,894 --> 01:32:33,677 Oni su ti koji će smisli zaštitnu ogradu." 2056 01:32:33,678 --> 01:32:35,723 I tako svi pokazuju prstom prst na nekog drugog, 2057 01:32:35,724 --> 01:32:39,509 a ono oko čega se slažu je da nam treba pritisak javnosti 2058 01:32:39,510 --> 01:32:41,250 kako bi nešto drugo dogoditi se. 2059 01:32:41,251 --> 01:32:42,860 I to je ono što ti 2060 01:32:42,861 --> 01:32:44,296 i svi ljudi gledanje ovog filma može učiniti. 2061 01:32:44,297 --> 01:32:45,341 Moramo držati vođe 2062 01:32:45,342 --> 01:32:47,125 u našim vladama 2063 01:32:47,126 --> 01:32:48,605 i čelnici te tvrtke odgovorne. 2064 01:32:48,606 --> 01:32:51,042 U kojoj god zemlji bili, 2065 01:32:51,043 --> 01:32:52,914 neka znaju da nisi sretan 2066 01:32:52,915 --> 01:32:54,611 uz trenutni status quo. 2067 01:32:54,612 --> 01:32:57,135 Dakle, da, dosadno je to reći nazovite svog kongresmena. 2068 01:32:57,136 --> 01:32:59,398 Ne kažem da bi trebao samo to učini, ali, kao, 2069 01:32:59,399 --> 01:33:00,965 mi to moramo učiniti. 2070 01:33:00,966 --> 01:33:02,445 Kao, moramo dobiti uključena vlada. 2071 01:33:02,446 --> 01:33:03,881 Pa mi samo nazovi ih i reci, 2072 01:33:03,882 --> 01:33:06,014 "Hej, zaustavi Big Tech od uništenja svijeta"? 2073 01:33:06,015 --> 01:33:08,930 Ne, ali postoje tone stvarno očitog, 2074 01:33:08,931 --> 01:33:10,714 jednostavne stvari možemo biti zahtjevni. 2075 01:33:10,715 --> 01:33:12,542 Trebamo transparentnost. 2076 01:33:12,543 --> 01:33:14,283 Moramo okončati tajnovitost koja postoji unutar ovih laboratorija, 2077 01:33:14,284 --> 01:33:16,677 jer oni grade moćna tehnologija, 2078 01:33:16,678 --> 01:33:18,722 i javnost zaslužuje znati što se događa. 2079 01:33:18,723 --> 01:33:20,724 U konačnici, trebat će nam nezavisni, 2080 01:33:20,725 --> 01:33:23,292 objektivne treće strane za procjenu sustava. 2081 01:33:23,293 --> 01:33:27,078 Na tvrtke ne možemo računati da ocjenjuju vlastitu zadaću. 2082 01:33:27,079 --> 01:33:31,213 Ako-ako tvrtka koristi AI i-i ima AI u interakciji s vama, 2083 01:33:31,214 --> 01:33:34,999 trebalo bi otkriti da ste u interakciji sa sustavom umjetne inteligencije. 2084 01:33:35,000 --> 01:33:38,655 Da. I-i također trebamo sustav koji čini poduzeća 2085 01:33:38,656 --> 01:33:41,876 zakonski odgovoran za AI sustavi koje proizvode. 2086 01:33:41,877 --> 01:33:45,793 Moramo se uvjeriti da tamo su testovi i sigurnosni standardi 2087 01:33:45,794 --> 01:33:48,056 koje se primjenjuju na sve. 2088 01:33:48,057 --> 01:33:49,753 Trebaju nam neka osnovna pravila, 2089 01:33:49,754 --> 01:33:51,581 i moramo se nastaviti prilagođavati ta pravila 2090 01:33:51,582 --> 01:33:54,628 pri brzini koja tehnologija se razvija. 2091 01:33:54,629 --> 01:33:57,195 Trenutno postoji više regulacije 2092 01:33:57,196 --> 01:33:59,328 na prodaju sendviča javnosti 2093 01:33:59,329 --> 01:34:02,940 nego što postoji na građevini potencijalno kraj svijeta AGI. 2094 01:34:02,941 --> 01:34:04,725 I zadnja stvar je 2095 01:34:04,726 --> 01:34:07,641 da se nadogradimo. 2096 01:34:07,642 --> 01:34:09,773 Ovo nije, kao, posao iz, kao, sigurnosnog tima 2097 01:34:09,774 --> 01:34:11,775 u bilo kojem laboratoriju ili izvršni direktor. 2098 01:34:11,776 --> 01:34:13,342 Dakle, ovo je svačiji posao. 2099 01:34:13,343 --> 01:34:14,822 Nemoj, kao, ostaviti to do stručnjaka za umjetnu inteligenciju. 2100 01:34:14,823 --> 01:34:16,998 Kao, [bleep] to. Kao, ovo je trenutak 2101 01:34:16,999 --> 01:34:19,304 da smo u tranziciji od, kao, 2102 01:34:19,305 --> 01:34:21,567 uglavnom ljudska spoznajna moć na, kao, AI kognitivnu moć, 2103 01:34:21,568 --> 01:34:23,134 i utječe na sve, 2104 01:34:23,135 --> 01:34:24,875 i želim da ljudi budu u tom razgovoru. 2105 01:34:24,876 --> 01:34:26,921 I rekao bih, ako mislite da će nas AI sve pobiti, 2106 01:34:26,922 --> 01:34:28,531 trebao bi raditi u istraživanju umjetne inteligencije 2107 01:34:28,532 --> 01:34:30,272 kako bi se uvjerio da neće, jer ti imaš 2108 01:34:30,273 --> 01:34:32,230 ogromna količina agencija. 2109 01:34:32,231 --> 01:34:33,884 tko god da si, 2110 01:34:33,885 --> 01:34:35,886 ti si stručnjak u vlastitoj industriji, 2111 01:34:35,887 --> 01:34:39,194 u vlastitoj školi, u vlastitoj obitelji, 2112 01:34:39,195 --> 01:34:42,632 a na vama je kako se AI koristi u vašem životu. 2113 01:34:42,633 --> 01:34:45,026 Bilo da se želite pridružiti tvoj školski odbor 2114 01:34:45,027 --> 01:34:47,898 ili-ili želite li pitati vaš poslodavac 2115 01:34:47,899 --> 01:34:49,421 kako koriste AI tehnologije, 2116 01:34:49,422 --> 01:34:51,989 kao, svi mi možemo obaviti posao. 2117 01:34:51,990 --> 01:34:56,124 Bilo je mnogo sindikata prilično učinkovit u, kao, 2118 01:34:56,125 --> 01:34:59,083 određujući kako žele za interakciju s tim sustavima. 2119 01:34:59,084 --> 01:35:02,739 Sindikati medicinskih sestara, sindikati učitelja. 2120 01:35:02,740 --> 01:35:04,610 volio bih ako roditelji posvuda 2121 01:35:04,611 --> 01:35:06,177 otišao u tvrtke AI i rekao, 2122 01:35:06,178 --> 01:35:08,049 „Kako možeš biti bolji na ovo?" Uključujući i nas. 2123 01:35:08,050 --> 01:35:11,226 Dakle, osnovao sam Encode Justice kad sam imao 15 godina. 2124 01:35:11,227 --> 01:35:14,882 Prvi smo u svijetu i najveća vojska mladih ljudi 2125 01:35:14,883 --> 01:35:18,407 boreći se za čovjekocentričan umjetna inteligencija. 2126 01:35:18,408 --> 01:35:21,062 Nije važno tko si, čak i najmanja djela pomažu, 2127 01:35:21,063 --> 01:35:23,978 pa čak i početak razgovora je stvarno, stvarno vrijedan. 2128 01:35:23,979 --> 01:35:25,980 Dakle, moj posao bi mogao biti, kao, 2129 01:35:25,981 --> 01:35:27,982 reci Bubby Lili o ovome na večeri? 2130 01:35:27,983 --> 01:35:29,810 Iskreno, da, to je dio toga. 2131 01:35:29,811 --> 01:35:31,681 I to ćemo morati učiniti 2132 01:35:31,682 --> 01:35:34,466 puno stvari koje još nismo ni smislili. 2133 01:35:34,467 --> 01:35:36,077 Ljudi će gledati sve što smo naveli 2134 01:35:36,078 --> 01:35:37,295 i reći: "To nije dovoljno." 2135 01:35:37,296 --> 01:35:38,993 Bitno je da snage 2136 01:35:38,994 --> 01:35:40,951 koji rade prema rješenjima 2137 01:35:40,952 --> 01:35:44,476 početi premašivati sile koje rade protiv rješenja. 2138 01:35:44,477 --> 01:35:46,435 Činiti svijet boljim uvijek je bilo teško. 2139 01:35:46,436 --> 01:35:47,871 Nikad nije bilo lako. 2140 01:35:47,872 --> 01:35:50,004 Kao, bilo ih je mnogo usranih stvari 2141 01:35:50,005 --> 01:35:51,962 koje su se dogodile u povijesti, i imali smo... 2142 01:35:51,963 --> 01:35:53,747 kao, ljudi su imali nositi se s tim, 2143 01:35:53,748 --> 01:35:56,837 a onda su ustali i promijenio ga. 2144 01:35:56,838 --> 01:36:00,362 Postoji sulud broj izazova koji su pred nama, 2145 01:36:00,363 --> 01:36:04,148 ali ako ih možemo proći, 2146 01:36:04,149 --> 01:36:08,109 možemo otključati budućnost dalje naša najluđa mašta. 2147 01:36:08,110 --> 01:36:10,459 Moramo se okupiti 2148 01:36:10,460 --> 01:36:14,289 i pronaći put između obećanje i opasnost. 2149 01:36:14,290 --> 01:36:16,422 Ne možemo biti pesimisti ili optimisti. 2150 01:36:17,423 --> 01:36:19,425 Moramo postati nešto novo. 2151 01:36:21,732 --> 01:36:24,516 Zove me prijatelj apokaloptimista. 2152 01:36:24,517 --> 01:36:26,083 "Apokaloptimist"? 2153 01:36:26,084 --> 01:36:28,303 Mislim da bi to moglo biti moja nova omiljena riječ. 2154 01:36:28,304 --> 01:36:29,957 - MUŠKARAC: Možda ime ovog filma. 2155 01:36:29,958 --> 01:36:31,306 Možda je to ime ovog filma. - 2156 01:36:31,307 --> 01:36:34,222 - "Apokaloptimist." - "Apokaloptimist." 2157 01:36:34,223 --> 01:36:35,876 Da. 2158 01:36:35,877 --> 01:36:37,312 Ne vjerujem u propast. 2159 01:36:37,313 --> 01:36:39,096 Vjerujem u duh života, 2160 01:36:39,097 --> 01:36:42,708 uh, a ja vjerujem u život o sposobnosti djelovanja. 2161 01:36:42,709 --> 01:36:44,319 Sposobnost povezivanja, 2162 01:36:44,320 --> 01:36:46,365 sposobnost osjećanja. 2163 01:36:51,022 --> 01:36:53,981 Moramo se udvostručiti sve više i više 2164 01:36:53,982 --> 01:36:57,071 na tim kapacitetima koje imamo kao ljudi 2165 01:36:57,072 --> 01:37:00,161 da robotski sustavi nikada neće imati. 2166 01:37:00,162 --> 01:37:04,339 Sada je vrijeme donositi te odluke o 2167 01:37:04,340 --> 01:37:07,516 kako ga voditi i podržati nego nas dijeli. 2168 01:37:07,517 --> 01:37:10,301 Zvuči nekako kao odgajanje klinca. 2169 01:37:10,302 --> 01:37:12,477 To je ono što se događa. Da. 2170 01:37:12,478 --> 01:37:14,523 AI možda ima više sirove inteligencije 2171 01:37:14,524 --> 01:37:17,265 nego naši mali ljudski mozgovi, 2172 01:37:17,266 --> 01:37:21,095 ali mi smo puno više nego samo naša inteligencija. 2173 01:37:21,096 --> 01:37:25,099 Inteligencija je-jest sposobnost rješavanja problema. 2174 01:37:25,100 --> 01:37:28,320 Mudrost je sposobnost spoznaje koje probleme riješiti. 2175 01:37:33,760 --> 01:37:34,935 Može ići u vaš hladnjak. 2176 01:37:36,241 --> 01:37:38,155 Dakle, ne odustaj. 2177 01:37:38,156 --> 01:37:39,809 Čovječanstvo je učinilo 2178 01:37:39,810 --> 01:37:42,160 teže stvari od ovoga u svojoj povijesti. 2179 01:37:43,553 --> 01:37:46,381 Samo je teško uvjeriti ljudi koje bi trebali. 2180 01:37:54,912 --> 01:37:56,870 Dakle, kad sam počeo snimanje ovog filma, 2181 01:37:56,871 --> 01:37:58,480 Rekao bih da sam, kao, 2182 01:37:58,481 --> 01:38:00,961 općenito cinični seronja o cijeloj ovoj stvari. 2183 01:38:00,962 --> 01:38:03,137 Tijekom tečaja snimanja filma, 2184 01:38:03,138 --> 01:38:04,703 Shvatio sam to, kao, 2185 01:38:04,704 --> 01:38:07,489 to je jedina stvar ne možemo biti. 2186 01:38:07,490 --> 01:38:09,404 ...ili bilo što drugo želite razgovarati? 2187 01:38:09,405 --> 01:38:11,406 Ne. Mislim da smo dosta pokrili. 2188 01:38:11,407 --> 01:38:13,060 - Da. - Puno vam hvala. 2189 01:38:13,061 --> 01:38:15,540 Hvala. 2190 01:38:15,541 --> 01:38:16,933 Ovo je problem koji je veći 2191 01:38:16,934 --> 01:38:19,109 nego bilo koja osoba. 2192 01:38:19,110 --> 01:38:21,590 Ovo će promijeniti svijet načine koje ne razumijemo. 2193 01:38:21,591 --> 01:38:23,505 To je sve istina. 2194 01:38:23,506 --> 01:38:25,594 U redu. 2195 01:38:25,595 --> 01:38:27,726 Ali ono što imamo preko agencije 2196 01:38:27,727 --> 01:38:30,120 je ono što radimo u vezi s tim. 2197 01:38:30,121 --> 01:38:32,601 Kako granična umjetna inteligencija raste eksponencijalno sposobniji... 2198 01:38:32,602 --> 01:38:34,472 I stvarnost 2199 01:38:34,473 --> 01:38:36,605 je da ako samo odlučimo beznadno je, 2200 01:38:36,606 --> 01:38:39,042 onda je beznadno. 2201 01:38:39,043 --> 01:38:40,783 ...izložiti manje stresa na planeti zemlji... 2202 01:38:40,784 --> 01:38:42,785 Ali ako odlučiš 2203 01:38:42,786 --> 01:38:45,528 koje želiš probati... 2204 01:38:46,790 --> 01:38:48,138 ...onda probaj. 2205 01:38:48,139 --> 01:38:49,967 A to je teško. 2206 01:38:51,273 --> 01:38:53,230 Ali znate što? 2207 01:38:53,231 --> 01:38:56,278 Velike stvari izgledaju nemoguće prije nego što se stvarno dogode. 2208 01:38:58,149 --> 01:39:01,456 Ali kada se konačno dogode, 2209 01:39:01,457 --> 01:39:05,286 to je zato što milijuni ljudi poduzeo milijune akcija 2210 01:39:05,287 --> 01:39:07,592 kako bi ih ostvarili. 2211 01:39:07,593 --> 01:39:10,334 I tako... 2212 01:39:10,335 --> 01:39:12,424 moramo pokušati. 2213 01:39:21,129 --> 01:39:23,565 Previše je toga na kocki. 2214 01:39:37,232 --> 01:39:41,278 Pogledajte nevjerojatne promjene doživjeli smo i preživjeli 2215 01:39:41,279 --> 01:39:42,888 iz kamenog doba, 2216 01:39:42,889 --> 01:39:46,153 a opet još veće promjene još dolaze. 2217 01:40:47,606 --> 01:40:50,217 ♪ Što ćemo sada? ♪ 2218 01:40:50,218 --> 01:40:53,263 ♪ Izgubili smo se pokušavajući ♪ 2219 01:40:53,264 --> 01:40:55,135 ♪ Izgubili smo ga ♪ 2220 01:40:55,136 --> 01:40:56,746 ♪ Za pokušaj ♪ 2221 01:40:59,575 --> 01:41:02,272 ♪ Što ćemo sada? ♪ 2222 01:41:02,273 --> 01:41:05,232 ♪ Izgubili smo se pokušavajući ♪ 2223 01:41:05,233 --> 01:41:07,016 ♪ Izgubili smo ga ♪ 2224 01:41:07,017 --> 01:41:08,714 ♪ Za pokušaj ♪ 2225 01:41:11,630 --> 01:41:14,154 ♪ Što sad možemo reći? ♪ 2226 01:41:14,155 --> 01:41:17,244 ♪ Naša usta samo lažu ♪ 2227 01:41:17,245 --> 01:41:18,680 ♪ Naša usta ♪ 2228 01:41:18,681 --> 01:41:20,683 ♪ Samo laže ♪ 2229 01:41:25,122 --> 01:41:27,732 ♪ Što sad možemo reći? ♪ 2230 01:41:27,733 --> 01:41:30,866 ♪ Naša usta samo lažu ♪ 2231 01:41:30,867 --> 01:41:32,259 ♪ Naša usta ♪ 2232 01:41:32,260 --> 01:41:34,261 ♪ Samo laže ♪ 2233 01:42:01,071 --> 01:42:03,768 ♪ Prepusti se i izađi ♪ 2234 01:42:03,769 --> 01:42:06,728 ♪ Ustajemo u umirućem ♪ 2235 01:42:06,729 --> 01:42:08,251 ♪ Ustajemo ♪ 2236 01:42:08,252 --> 01:42:10,211 ♪ U umirućem ♪ 2237 01:42:13,127 --> 01:42:15,824 ♪ Prepusti se i izađi ♪ 2238 01:42:15,825 --> 01:42:18,696 ♪ Ustajemo u umirućem ♪ 2239 01:42:18,697 --> 01:42:20,263 ♪ Ustajemo ♪ 2240 01:42:20,264 --> 01:42:22,223 ♪ U umirućem ♪ 2241 01:42:25,051 --> 01:42:27,705 ♪ Prepusti se i izađi ♪ 2242 01:42:27,706 --> 01:42:30,708 ♪ Ustajemo u umirućem ♪ 2243 01:42:30,709 --> 01:42:32,275 ♪ Ustajemo ♪ 2244 01:42:32,276 --> 01:42:34,148 ♪ U umirućem ♪ 2245 01:42:37,107 --> 01:42:39,761 ♪ Prepusti se i izađi ♪ 2246 01:42:39,762 --> 01:42:42,633 ♪ Ustajemo u umirućem ♪ 2247 01:42:42,634 --> 01:42:43,852 ♪ Mi ♪ 2248 01:43:22,761 --> 01:43:25,328 ♪ Oh, oh, oh, oh, oh ♪ 2249 01:43:25,329 --> 01:43:27,025 ♪ Oh, oh, oh, oh ♪ 2250 01:43:27,026 --> 01:43:28,462 ♪ Oh, oh ♪ 2251 01:43:28,463 --> 01:43:31,421 ♪ Oh, oh, oh, oh, oh, oh ♪ 2252 01:43:31,422 --> 01:43:32,988 ♪ Oh, oh, oh, oh ♪ 2253 01:43:32,989 --> 01:43:34,424 ♪ Oh, oh ♪ 2254 01:43:34,425 --> 01:43:37,079 ♪ Oh, oh, oh, oh, oh, oh ♪ 2255 01:43:37,080 --> 01:43:39,690 ♪ Što ćemo sada? ♪ 2256 01:43:39,691 --> 01:43:42,693 ♪ Izgubili smo se pokušavajući ♪ 2257 01:43:42,694 --> 01:43:44,608 ♪ Izgubili smo ga ♪ 2258 01:43:44,609 --> 01:43:46,349 ♪ Za pokušaj ♪ 2259 01:43:46,350 --> 01:43:49,047 ♪ Oh, oh, oh, oh, oh, oh ♪ 2260 01:43:49,048 --> 01:43:51,746 ♪ Što ćemo sada? ♪ 2261 01:43:51,747 --> 01:43:54,749 ♪ Izgubili smo se pokušavajući ♪ 2262 01:43:54,750 --> 01:43:56,620 ♪ Izgubili smo ga ♪ 2263 01:43:56,621 --> 01:43:58,448 ♪ Za pokušaj. ♪