3
00:01:04,847 --> 00:01:09,329
現在，現代的計算機
完全是白痴，

4
00:01:09,330 --> 00:01:12,158
但這不是真的
在另一代人中。

5
00:01:12,159 --> 00:01:14,899
他們會開始思考，
最終他們會

6
00:01:14,900 --> 00:01:17,641
完全超越
他們的製造者。

7
00:01:17,642 --> 00:01:20,296
這令人沮喪嗎？
我不明白為什麼會這樣。

8
00:01:20,297 --> 00:01:24,866
我懷疑是有機的
或者生物演化

9
00:01:24,867 --> 00:01:26,303
即將結束。

10
00:01:29,567 --> 00:01:30,698
你不要我了
成為敘述者。

11
00:01:30,699 --> 00:01:32,395
我沒有好聲音。

12
00:01:32,396 --> 00:01:34,049
你的聲音很好聽。
去做就對了。

13
00:01:34,050 --> 00:01:36,225
這只是一個——
我們只是嘗試一下。

14
00:01:36,226 --> 00:01:38,009
我會因為這些狗屁而得到報酬嗎？

15
00:01:38,010 --> 00:01:40,273
嗯，
我們會看看你做得如何。

16
00:01:41,623 --> 00:01:43,451
♪ ♪

17
00:01:46,454 --> 00:01:47,932
我需要打電話給我的父母。

18
00:01:49,109 --> 00:01:51,066
有時我們會急於做事

19
00:01:51,067 --> 00:01:52,894
沒有經過深思熟慮。

20
00:01:52,895 --> 00:01:54,765
是啊，你能不能...
你想射擊嗎？那是...

21
00:01:54,766 --> 00:01:57,246
就像丹尼爾
和卡洛琳結婚了

22
00:01:57,247 --> 00:02:00,206
他們相識151天後。

23
00:02:00,207 --> 00:02:01,817
讓我們回顧一下。

24
00:02:04,820 --> 00:02:07,213
你有沒有想過
買一台家用電腦？

25
00:02:07,214 --> 00:02:09,345
1993年，丹尼爾出生時，

26
00:02:09,346 --> 00:02:12,174
他的父母甚至沒有
房子裡有一台電腦。

27
00:02:12,175 --> 00:02:13,828
但他記得
當他們終於得到一個的時候。

28
00:02:13,829 --> 00:02:15,743
電腦對我來說意味著什麼

29
00:02:15,744 --> 00:02:18,398
相當於一輛自行車
為了我們的思想。

30
00:02:18,399 --> 00:02:20,269
你好。

31
00:02:20,270 --> 00:02:22,228
他的電腦幫了忙
釋放他的創造力。

32
00:02:22,229 --> 00:02:23,968
滾動。去。

33
00:02:23,969 --> 00:02:26,623
他用了
他父親的 iMac 用來編輯影片。

34
00:02:26,624 --> 00:02:28,364
是的！

35
00:02:28,365 --> 00:02:29,974
甚至讓
小動畫。

36
00:02:31,977 --> 00:02:35,110
1998年，當卡洛琳還在
一個小女孩...

37
00:02:35,111 --> 00:02:36,764
嗨，媽媽。

38
00:02:36,765 --> 00:02:38,200
……只有書呆子才知道
互聯網是什麼。

39
00:02:38,201 --> 00:02:39,854
那麼呢
網路這個東西？

40
00:02:39,855 --> 00:02:41,377
你，你知道什麼嗎
關於那個？ -當然。

41
00:02:41,378 --> 00:02:42,813
但很快，

42
00:02:42,814 --> 00:02:44,946
- 每個人都在...
- ...互聯網。

43
00:02:44,947 --> 00:02:47,035
……而計算機是
在國際象棋中擊敗人類。

44
00:02:47,036 --> 00:02:50,038
深藍——
卡斯帕羅夫辭職了！

45
00:02:50,039 --> 00:02:52,649
到時候
卡洛琳上了大學，

46
00:02:52,650 --> 00:02:55,130
計算機是
在每個人的口袋裡。

47
00:02:55,131 --> 00:02:58,438
現在丹尼爾可以拍電影了
用他的手機。

48
00:02:58,439 --> 00:03:01,528
他長大後成為藝術家
還有一位電影製片人...

49
00:03:01,529 --> 00:03:03,965
- 晚安。
- ……卡洛琳也是如此。

50
00:03:03,966 --> 00:03:05,749
切。讓我們來一個特寫。
那太完美了。

51
00:03:05,750 --> 00:03:07,316
那時，計算機已經
連結人們

52
00:03:07,317 --> 00:03:09,013
並以各種方式改變世界

53
00:03:09,014 --> 00:03:10,711
我們從來沒有
可以想像。

54
00:03:10,712 --> 00:03:12,365
籌集的所有資金
冰桶挑戰...

55
00:03:12,366 --> 00:03:14,236
其中一些是好的。

56
00:03:15,543 --> 00:03:17,152
有些不太好。

57
00:03:17,153 --> 00:03:19,328
焦慮、自殘、自殺…

58
00:03:19,329 --> 00:03:21,243
但現在很清楚了
我們做得還不夠

59
00:03:21,244 --> 00:03:24,594
以防止這些工具
也被用於傷害。

60
00:03:24,595 --> 00:03:26,422
並且作為世界
變得越來越專注

61
00:03:26,423 --> 00:03:28,076
在他們的電腦上，

62
00:03:28,077 --> 00:03:30,210
丹尼爾專注於他的藝術作品。

63
00:03:32,037 --> 00:03:35,649
無論他走到哪裡，
他總是有一本素描本，

64
00:03:35,650 --> 00:03:38,434
包括晚上
他遇見了卡洛琳。

65
00:03:38,435 --> 00:03:41,698
他畫了一幅可怕的圖畫
20分鐘後，

66
00:03:41,699 --> 00:03:44,179
他大膽地宣布
他們要結婚了，

67
00:03:44,180 --> 00:03:47,617
正如你所知，他們做到了，
151天后。

68
00:03:47,618 --> 00:03:49,967
....現在宣布你
丈夫和妻子。

69
00:03:49,968 --> 00:03:51,708
他們搬進了一棟可愛的房子...

70
00:03:51,709 --> 00:03:52,883
-駝鹿，嘿！過來！
- ...還有一隻狗

71
00:03:52,884 --> 00:03:54,711
像丹尼爾一樣愚蠢。

72
00:03:54,712 --> 00:03:57,323
同時，計算機
寫整篇論文

73
00:03:57,324 --> 00:03:59,368
基於簡單的問題，例如，

74
00:03:59,369 --> 00:04:03,198
「建造起來有多難
我家後院的一個小屋？ 」

75
00:04:03,199 --> 00:04:07,115
所以丹尼爾建了一個小屋
在他的後院。

76
00:04:07,116 --> 00:04:09,987
但正當他坐下來開始時
正在製作他的下一部電影，

77
00:04:09,988 --> 00:04:13,644
他了解到計算機
現在可以寫劇本了。

78
00:04:14,863 --> 00:04:16,603
我的意思是，他們很糟糕，

79
00:04:16,604 --> 00:04:18,996
但他們正在變得更好
真的很快。

80
00:04:18,997 --> 00:04:21,695
他們可以創造新的圖像
以及從頭開始的視頻，

81
00:04:21,696 --> 00:04:24,828
和其中一些
甚至可以通過律師資格考試。

82
00:04:24,829 --> 00:04:28,876
不只是透過酒吧，而是
處於前十個百分點。

83
00:04:28,877 --> 00:04:30,573
這很令人困惑。

84
00:04:32,184 --> 00:04:35,099
丹尼爾只是想要
為他的心靈提供一輛自行車，

85
00:04:35,100 --> 00:04:38,668
但計算機已成為
自動駕駛火箭飛船。

86
00:04:42,020 --> 00:04:44,805
該領域的先驅
人工智慧的

87
00:04:44,806 --> 00:04:46,546
正在向國會懇求

88
00:04:46,547 --> 00:04:48,548
通過安全規則
以免為時已晚。

89
00:04:48,549 --> 00:04:50,593
現在感覺就像
整個世界

90
00:04:50,594 --> 00:04:53,030
急於做某事
不經過深思熟慮，

91
00:04:53,031 --> 00:04:56,382
每個人都有意見。

92
00:04:56,383 --> 00:05:00,168
它會毀滅世界嗎
還是拯救人類？

93
00:05:00,169 --> 00:05:02,431
資訊太多了，

94
00:05:02,432 --> 00:05:04,694
這讓他感到焦慮，
這讓卡洛琳很著急…

95
00:05:06,044 --> 00:05:07,828
我還沒有孩子
但我擔心

96
00:05:07,829 --> 00:05:10,221
世界會是什麼樣子
如果我決定的話。

97
00:05:10,222 --> 00:05:12,398
他開始旋轉。

98
00:05:14,096 --> 00:05:16,925
它正在成為
焦慮如山。

99
00:05:19,144 --> 00:05:21,364
-太可怕了。
- 這是該死的 Siri。

100
00:05:22,670 --> 00:05:25,628
於是，丹尼爾決定出去

101
00:05:25,629 --> 00:05:28,022
並找人
誰能向他解釋一下，

102
00:05:28,023 --> 00:05:30,198
這樣他就可以停下來
考慮一下

103
00:05:30,199 --> 00:05:33,506
他和卡洛琳可以
繼續他們的生活。

104
00:05:33,507 --> 00:05:36,857
♪ 我們掌控一切，
我們一切盡在掌握♪

105
00:05:36,858 --> 00:05:38,772
♪ 我們掌控一切 ♪

106
00:05:38,773 --> 00:05:40,556
♪ 化學計算機
思考電池♪

107
00:05:40,557 --> 00:05:42,602
♪ 我們掌控一切，我們... ♪

108
00:05:42,603 --> 00:05:45,735
這項努力將會得到結果
天真得無可救藥

109
00:05:45,736 --> 00:05:49,086
並開始最令人困惑的
他生命中的一年。

110
00:05:49,087 --> 00:05:50,740
♪ 我們一切盡在掌握... ♪

111
00:05:50,741 --> 00:05:52,829
但據我們所知，
我們有時會急於做事

112
00:05:52,830 --> 00:05:54,657
沒有經過深思熟慮。

113
00:05:54,658 --> 00:05:56,398
♪ 化學計算機
思考電池...♪

114
00:05:56,399 --> 00:05:57,965
哦，天哪。怎麼了？

115
00:05:57,966 --> 00:05:59,967
他有疑問。

116
00:05:59,968 --> 00:06:01,621
問題僅
最聰明的書呆子都能回答。

117
00:06:01,622 --> 00:06:04,188
提交給審訊者。

118
00:06:04,189 --> 00:06:06,060
諸如此類的問題：

119
00:06:06,061 --> 00:06:08,628
這是世界末日嗎
或者他真的有理由嗎

120
00:06:08,629 --> 00:06:11,152
- 保持樂觀？
- 是的。

121
00:06:11,153 --> 00:06:13,807
♪ 化學電腦思維
電池。 ♪ -

122
00:06:13,808 --> 00:06:16,200
呃，這樣好嗎？

123
00:06:16,201 --> 00:06:17,637
是的。

124
00:06:17,638 --> 00:06:20,204
所以，首先，

125
00:06:20,205 --> 00:06:22,163
什麼是人工智慧？

126
00:06:22,164 --> 00:06:24,731
我知道這一定很煩
對你來說，那個問題，

127
00:06:24,732 --> 00:06:26,515
但我確實認為這很重要。

128
00:06:26,516 --> 00:06:29,823
所以……人工智慧……

129
00:06:29,824 --> 00:06:31,868
嗯...

130
00:06:31,869 --> 00:06:33,696
- 是啊...
- 呃，嗯。

131
00:06:33,697 --> 00:06:34,784
這是個好問題。

132
00:06:34,785 --> 00:06:36,220
- 是的，嗯...
- 嗯...

133
00:06:36,221 --> 00:06:37,700
什麼是人工智慧？

134
00:06:39,137 --> 00:06:40,790
我喜歡那是
第一個問題，

135
00:06:40,791 --> 00:06:43,184
因為沒有
清晰一致的答案。

136
00:06:43,185 --> 00:06:45,316
人工智慧是

137
00:06:45,317 --> 00:06:50,757
一種有意的
也許是無用的廣義術語。

138
00:06:50,758 --> 00:06:53,368
這是一台機器

139
00:06:53,369 --> 00:06:55,588
做那些事
我們之前只認為

140
00:06:55,589 --> 00:06:57,285
人們可以這樣做：

141
00:06:57,286 --> 00:07:01,158
提出建議，
決定和預測。

142
00:07:01,159 --> 00:07:06,816
人工智慧是，呃，應用程式
計算機科學的

143
00:07:06,817 --> 00:07:09,166
來解決認知問題。

144
00:07:09,167 --> 00:07:13,344
好吧，當我想像人工智慧時，

145
00:07:13,345 --> 00:07:16,783
有點像
這個神奇的電腦盒子...

146
00:07:20,527 --> 00:07:24,138
……就像漂浮一樣
在惰性空間中。

147
00:07:24,139 --> 00:07:26,488
而且不管怎樣
人們嘗試了多少次

148
00:07:26,489 --> 00:07:29,752
並向我解釋一下，
我只是不明白怎麼...

149
00:07:29,753 --> 00:07:32,538
它是如何理解的
所有這些事情

150
00:07:32,539 --> 00:07:35,715
以及感覺如何
情報。

151
00:07:37,195 --> 00:07:39,241
這就是那種
傷腦筋。

152
00:07:41,243 --> 00:07:45,552
什麼是
新一代人工智慧？

153
00:07:47,205 --> 00:07:50,120
這個人工智慧不同於
每隔一代？

154
00:07:50,121 --> 00:07:52,775
就像，從來沒有人
談論過，比如，

155
00:07:52,776 --> 00:07:56,953
Siri 接管世界
或造成災難。

156
00:07:56,954 --> 00:07:58,520
-嗨，Siri？
-...想要。

157
00:07:58,521 --> 00:08:00,566
你好？西里？

158
00:08:00,567 --> 00:08:02,611
你好？嘿，西里！

159
00:08:02,612 --> 00:08:05,788
或是Google地圖中的聲音，
道路名稱的發音錯誤，

160
00:08:05,789 --> 00:08:07,529
就像破壞社會一樣。

161
00:08:07,530 --> 00:08:10,663
谷歌地圖說
這是一條路。

162
00:08:10,664 --> 00:08:13,100
但我想我是在河裡。

163
00:08:13,101 --> 00:08:14,667
這絕對是一條河，不是嗎？

164
00:08:14,668 --> 00:08:17,192
有些事情發生了變化
隨著 ChatGPT 的出現。

165
00:08:18,193 --> 00:08:19,976
人們明白——不，不，不——

166
00:08:19,977 --> 00:08:21,500
這項技術的
非常有價值，

167
00:08:21,501 --> 00:08:23,676
它非常強大
而且也非常可怕。

168
00:08:23,677 --> 00:08:25,591
好吧，聽聽這個。
非常令人毛骨悚然。

169
00:08:25,592 --> 00:08:28,637
一種新的人工智慧
工具正在迅速傳播

170
00:08:28,638 --> 00:08:32,294
撰寫整篇論文
幾秒鐘之內。

171
00:08:35,950 --> 00:08:41,215
人工智慧讓所有人的力量相形見絀
其他技術的結合。

172
00:08:41,216 --> 00:08:43,739
「人工智慧讓力量相形見絀

173
00:08:43,740 --> 00:08:46,089
所有其他技術
結合起來。 」

174
00:08:46,090 --> 00:08:47,264
是的。

175
00:08:47,265 --> 00:08:48,744
你認為這是真的嗎？

176
00:08:48,745 --> 00:08:50,790
是的。

177
00:08:50,791 --> 00:08:53,227
告訴我—如何？如何？

178
00:08:53,228 --> 00:08:56,752
我想，要描繪這幅畫，
這真的很重要

179
00:08:56,753 --> 00:09:00,669
了解今天的內容
最先進的系統

180
00:09:00,670 --> 00:09:02,192
它們的外觀以及構造方式。

181
00:09:02,193 --> 00:09:05,805
這是
相當……相當的設定。

182
00:09:05,806 --> 00:09:07,284
所以，有一件事

183
00:09:07,285 --> 00:09:09,722
人不多
意識到的是

184
00:09:09,723 --> 00:09:13,726
像 ChatGPT 這樣的系統則不然
由任何人編程。

185
00:09:13,727 --> 00:09:15,249
你是什​​麼意思？

186
00:09:15,250 --> 00:09:17,033
相反，它就像
他們長大了。

187
00:09:17,034 --> 00:09:19,209
我們給他們
原始資源，例如，

188
00:09:19,210 --> 00:09:21,037
「這裡有很多
計算資源。

189
00:09:21,038 --> 00:09:22,212
這裡有很多數據。 」

190
00:09:22,213 --> 00:09:23,910
在幕後，這是數學，

191
00:09:23,911 --> 00:09:27,348
數學其實是
出奇的簡單。

192
00:09:27,349 --> 00:09:31,134
所以ChatGPT是一種
人工智慧的一部分，但這不是人工智慧的全部？

193
00:09:31,135 --> 00:09:32,701
完全。聊天 GPT 是
只是開始，

194
00:09:32,702 --> 00:09:34,137
但這是一個很好的起點。

195
00:09:34,138 --> 00:09:37,837
但我還是不知道
人工智慧是什麼。

196
00:09:37,838 --> 00:09:40,404
要了解人工智慧，
從理解開始

197
00:09:40,405 --> 00:09:43,190
那個情報是關於
識別模式。

198
00:09:43,191 --> 00:09:44,887
- 圖案。 - 圖案。
- 圖案。

199
00:09:44,888 --> 00:09:48,587
顯示的是
數萬億字的文本

200
00:09:48,588 --> 00:09:51,328
跨越數百萬份文檔
在互聯網上。

201
00:09:51,329 --> 00:09:52,808
它從文字開始。

202
00:09:52,809 --> 00:09:55,942
他們所做的是
他們拿著課本，

203
00:09:55,943 --> 00:09:59,554
他們拿了詩和散文
和使用說明書。

204
00:09:59,555 --> 00:10:00,903
他們可以做類似的事情

205
00:10:00,904 --> 00:10:03,166
消化整個互聯網，

206
00:10:03,167 --> 00:10:06,779
曾經的每一個字
是一個人寫的。

207
00:10:06,780 --> 00:10:09,999
Reddit 主題和社群媒體
以及所有維基百科。

208
00:10:10,000 --> 00:10:13,655
比任何人都多的數據
幾輩子都讀過。

209
00:10:13,656 --> 00:10:15,526
他們給了這個系統
一份工作。

210
00:10:15,527 --> 00:10:18,529
找出模式並
該資訊的結構

211
00:10:18,530 --> 00:10:20,793
並使用它
做出預測

212
00:10:20,794 --> 00:10:23,273
接下來應該是什麼詞
用一句話來說。

213
00:10:23,274 --> 00:10:25,014
當你說
“句子中的模式，”

214
00:10:25,015 --> 00:10:26,799
你在說什麼？

215
00:10:26,800 --> 00:10:29,410
所以，一切都來自，例如，
真正簡單的事情，

216
00:10:29,411 --> 00:10:32,021
就像大多數句子的結尾一樣
有句號的，

217
00:10:32,022 --> 00:10:34,937
一直到
更多概念性的東西，例如：

218
00:10:34,938 --> 00:10:36,809
什麼是十四行詩？

219
00:10:36,810 --> 00:10:38,333
這是一種詩，它有
一些特定的結構。

220
00:10:39,421 --> 00:10:41,291
所以，然後它會看

221
00:10:41,292 --> 00:10:43,642
所有這些數據，
所有這些文字...

222
00:10:43,643 --> 00:10:46,079
超過數萬億
和數萬億次的嘗試，

223
00:10:46,080 --> 00:10:48,821
每次它得到一些東西
對或錯，

224
00:10:48,822 --> 00:10:51,301
它被給予了一點點
正強化的

225
00:10:51,302 --> 00:10:53,434
當它猜測的時候
下一個單字正確，

226
00:10:53,435 --> 00:10:55,741
它被給予了一點點
負強化

227
00:10:55,742 --> 00:10:59,396
當它猜測的時候
下一個字錯誤。

228
00:10:59,397 --> 00:11:01,616
最後，
你有一個系統

229
00:11:01,617 --> 00:11:05,098
英語說得很好
作為副作用

230
00:11:05,099 --> 00:11:06,839
真的真的很好
在預測

231
00:11:06,840 --> 00:11:09,102
接下來的詞
在一段文字中。

232
00:11:09,103 --> 00:11:12,061
事實上，我的法語
也不錯。

233
00:11:12,062 --> 00:11:14,063
它使用所有
它學到的那些模式

234
00:11:14,064 --> 00:11:15,717
能夠使
關於的預測

235
00:11:15,718 --> 00:11:17,284
答案應該是什麼

236
00:11:17,285 --> 00:11:18,851
然後它給你
作為輸出。

237
00:11:18,852 --> 00:11:21,070
有點過於簡化了

238
00:11:21,071 --> 00:11:23,116
但我認為人們會明白的。

239
00:11:23,117 --> 00:11:24,987
那麼，這就是它的全部作用嗎？

240
00:11:24,988 --> 00:11:26,859
是的。看起來不像
就會那麼複雜,

241
00:11:26,860 --> 00:11:28,077
但實際上你必須知道

242
00:11:28,078 --> 00:11:29,688
大量的東西

243
00:11:29,689 --> 00:11:31,386
為了
實際上成功了。

244
00:11:32,517 --> 00:11:34,301
如果你對 ChatGPT 說，

245
00:11:34,302 --> 00:11:36,738
「寫一首莎士比亞戲劇
關於我的狗的十四行詩”

246
00:11:36,739 --> 00:11:38,827
它必須知道狗是什麼。

247
00:11:38,828 --> 00:11:40,481
它必須知道你喜歡什麼
關於你的狗。 -

248
00:11:40,482 --> 00:11:43,049
它必須知道
莎士比亞是誰，

249
00:11:43,050 --> 00:11:45,616
那首十四行詩押韻，
他們有一個結構，

250
00:11:45,617 --> 00:11:47,793
單字有聲音
可以押韻。

251
00:11:47,794 --> 00:11:49,316
這需要很多。

252
00:11:50,927 --> 00:11:52,972
天哪，你能說話
現在到您的電腦。

253
00:11:52,973 --> 00:11:56,105
那不是真的
三年前。

254
00:11:56,106 --> 00:11:57,672
是的，這是
真正重要的部分。

255
00:11:57,673 --> 00:12:00,631
同樣的過程讓人工智慧

256
00:12:00,632 --> 00:12:03,199
發現並操縱
文字的模式

257
00:12:03,200 --> 00:12:05,811
是同一個過程
讓它揭示

258
00:12:05,812 --> 00:12:10,554
整個的圖案
宇宙和其中的一切。

259
00:12:10,555 --> 00:12:12,905
有圖案
以及影像和聲音

260
00:12:12,906 --> 00:12:15,995
電腦代碼和 DNA
以及音樂和物理

261
00:12:15,996 --> 00:12:18,519
以及時尚和建築設計

262
00:12:18,520 --> 00:12:21,609
並在
人的聲音和人的臉孔，

263
00:12:21,610 --> 00:12:23,959
真的，真的無所不在。

264
00:12:23,960 --> 00:12:26,048
- 無所不在。 -到處。
- 無所不在。 -到處。

265
00:12:26,049 --> 00:12:27,789
如果你已經學會了
那些圖案，

266
00:12:27,790 --> 00:12:29,704
你可以生成
新類型的歌曲。

267
00:12:29,705 --> 00:12:31,184
您可以產生新影片。

268
00:12:31,185 --> 00:12:32,663
這就是為什麼，如果你給它

269
00:12:32,664 --> 00:12:34,753
三秒錄音
你祖母的

270
00:12:34,754 --> 00:12:36,580
它可以用她的聲音說話。

271
00:12:36,581 --> 00:12:37,973
我的天啊。

272
00:12:37,974 --> 00:12:40,628
我的天啊。我的天啊。

273
00:12:40,629 --> 00:12:42,891
接下來他們會想到什麼？

274
00:12:42,892 --> 00:12:44,066
它移動得非常非常快。

275
00:12:44,067 --> 00:12:45,851
一家美國人工智慧新創公司

276
00:12:45,852 --> 00:12:47,635
has released its latest model.

277
00:12:47,636 --> 00:12:50,812
That company is Anthropic,
它剛剛揭幕

278
00:12:50,813 --> 00:12:53,815
最新版本
of its AI assistant Claude.

279
00:12:53,816 --> 00:12:57,210
所以，xAI 團隊
was there to unveil Grok 4.

280
00:12:57,211 --> 00:13:00,169
谷歌發布了一款
就在上週。雙子座是...

281
00:13:00,170 --> 00:13:03,042
我們已經脫離了 GPT-2
就在幾年前，

282
00:13:03,043 --> 00:13:05,566
幾乎不能寫
一個連貫的段落，

283
00:13:05,567 --> 00:13:08,003
到 GPT-4，
which can pass the bar exam.

284
00:13:08,004 --> 00:13:10,397
他們所要做的一切
到達那裡

285
00:13:10,398 --> 00:13:13,008
was essentially add more data
和更多的計算。

286
00:13:13,009 --> 00:13:16,316
這些人是
建造這個...... -COTRA：是的。

287
00:13:16,317 --> 00:13:18,057
……他們只是丟更多…

288
00:13:18,058 --> 00:13:21,843
更多實體計算機，
更多相同類型的數據。

289
00:13:21,844 --> 00:13:24,585
因為越
您新增的運算能力，

290
00:13:24,586 --> 00:13:28,067
越複雜
他們可以完成的智力任務。

291
00:13:28,068 --> 00:13:30,199
所以，更多的天氣數據
你給它，

292
00:13:30,200 --> 00:13:31,940
越好
做出預測

293
00:13:31,941 --> 00:13:34,247
颶風可能去往的地方。

294
00:13:34,248 --> 00:13:36,379
而且圖案也比較多
腫瘤和骨骼

295
00:13:36,380 --> 00:13:38,904
和人工智慧見過的組織，
那麼能力就越好

296
00:13:38,905 --> 00:13:41,994
檢測腫瘤
在新的 CT 掃描中。

297
00:13:41,995 --> 00:13:43,691
甚至比人類醫生還要好。

298
00:13:43,692 --> 00:13:46,999
已經存在的人工智慧
為軍隊部署

299
00:13:47,000 --> 00:13:49,175
已經可以使用
衛星圖像，

300
00:13:49,176 --> 00:13:51,830
部隊調動、通訊
確定，

301
00:13:51,831 --> 00:13:53,396
有時提前幾天，

302
00:13:53,397 --> 00:13:55,050
哪裡發生攻擊
將會發生，

303
00:13:55,051 --> 00:13:57,444
就像敵人所在的地方
即將罷工。

304
00:13:57,445 --> 00:13:59,489
這整個
太空移動得如此之快

305
00:13:59,490 --> 00:14:01,709
任何例子
你把這部電影放進去

306
00:14:01,710 --> 00:14:04,625
會感覺絕對笨拙
當它出來的時候。

307
00:14:11,241 --> 00:14:14,156
這些型號正在發布中

308
00:14:14,157 --> 00:14:17,116
在任何人知道之前
他們甚至有能力做什麼。

309
00:14:17,117 --> 00:14:22,556
GPT-3.5 發布並退出
超過 1 億人

310
00:14:22,557 --> 00:14:25,994
在一些研究者面前
發現它可以做

311
00:14:25,995 --> 00:14:28,779
研究級化學
比模型更好

312
00:14:28,780 --> 00:14:32,827
是經過專門訓練的
進行研究級化學。

313
00:14:32,828 --> 00:14:35,482
那裡正在發生一些事情
人民

314
00:14:35,483 --> 00:14:38,311
誰正在建造它們
不完全理解。

315
00:14:38,312 --> 00:14:41,009
基本上只是分析
數據本身，

316
00:14:41,010 --> 00:14:45,100
當它這樣做時，
它只是自學

317
00:14:45,101 --> 00:14:48,016
各種東西
我們常常無意的。

318
00:14:48,017 --> 00:14:49,975
所以，舉例來說，
網路上看了很多，

319
00:14:49,976 --> 00:14:52,586
然後在某個時刻，它只是
學習如何做算術。

320
00:14:52,587 --> 00:14:54,501
一，二。

321
00:14:54,502 --> 00:14:56,155
然後在
某個時刻，它開始學習

322
00:14:56,156 --> 00:14:58,592
如何回答
高級物理問題。

323
00:14:58,593 --> 00:15:00,811
我們沒有這樣編程
無論如何。

324
00:15:00,812 --> 00:15:02,423
它只是自己學會了。

325
00:15:05,382 --> 00:15:07,296
人工智慧就像一個數位大腦。

326
00:15:07,297 --> 00:15:08,732
但就像人腦一樣，

327
00:15:08,733 --> 00:15:10,560
如果你做了腦部掃描
在人腦上，

328
00:15:10,561 --> 00:15:13,128
你會知道一切嗎
那人有能力嗎？

329
00:15:13,129 --> 00:15:15,174
你不可能知道這一點
只是從腦部掃描來看。

330
00:15:15,175 --> 00:15:17,959
這只是，就像，
一堆數字，例如

331
00:15:17,960 --> 00:15:20,222
的乘法是
發生那件事，比如，

332
00:15:20,223 --> 00:15:22,268
最好的機器學習
世界研究員

333
00:15:22,269 --> 00:15:24,314
可以看並且喜歡
不知道發生了什麼事。

334
00:15:30,973 --> 00:15:32,756
那把椅子就在那裡。

335
00:15:32,757 --> 00:15:35,890
- 你覺得可以嗎？
- 是的。

336
00:15:35,891 --> 00:15:37,718
所以，
這有點令人難以置信。

337
00:15:37,719 --> 00:15:39,111
好的？就像，它正在接管
世界，

338
00:15:39,112 --> 00:15:41,113
我們甚至不知道
它是如何運作的。

339
00:15:41,114 --> 00:15:43,158
- 是這樣嗎？
- 毫米。

340
00:15:43,159 --> 00:15:46,988
我們確實明白
許多重要的事情，

341
00:15:46,989 --> 00:15:50,513
但我們沒有
很好地掌握了

342
00:15:50,514 --> 00:15:53,255
他們為什麼提供
問題的具體答案。

343
00:15:53,256 --> 00:15:58,652
這是一個問題，因為我們是
在一條建造機器的道路上，

344
00:15:58,653 --> 00:16:03,135
基於這些原則，
那可能比我們更聰明

345
00:16:03,136 --> 00:16:06,139
因此可能有
很大的力量。

346
00:16:12,580 --> 00:16:15,321
被引用次數最多的之一
歷史上的計算機科學家。

347
00:16:15,322 --> 00:16:16,975
我確實找到了
有點困難

348
00:16:16,976 --> 00:16:18,541
談談我自己的角色。

349
00:16:18,542 --> 00:16:21,109
真的非常喜歡
當其他人這樣做時。

350
00:16:21,110 --> 00:16:23,938
伊利亞的加入是...
曾經是關鍵

351
00:16:23,939 --> 00:16:25,548
OpenAI 正在
最終成功。

352
00:16:25,549 --> 00:16:27,246
我想這將會是

353
00:16:27,247 --> 00:16:30,640
某種巨大的、戲劇性的
以及難以想像的影響。

354
00:16:30,641 --> 00:16:32,903
不知道你有沒有消費過
隨時在 YouTube 上，

355
00:16:32,904 --> 00:16:34,993
但你可以感覺到
速度已經到了吧？

356
00:16:34,994 --> 00:16:36,298
你知道我的意思？

357
00:16:36,299 --> 00:16:38,387
這只是熱身。

358
00:16:38,388 --> 00:16:40,476
真正強大的系統
仍然會來，

359
00:16:40,477 --> 00:16:42,262
他們會來的
很快。

360
00:16:47,963 --> 00:16:51,618
AGI代表「人工
一般情報。 」

361
00:16:51,619 --> 00:16:53,795
呃，系統是
基本上...

362
00:16:58,191 --> 00:17:00,279
這就像，你知道，
似乎是，就像，

363
00:17:00,280 --> 00:17:03,064
人工智慧的聖杯？

364
00:17:03,065 --> 00:17:05,197
當你可以模擬時
人類的思想

365
00:17:05,198 --> 00:17:07,895
那是在做人類的認知
並能進行推理，

366
00:17:07,896 --> 00:17:10,985
這是一種新型的人工智慧

367
00:17:10,986 --> 00:17:14,293
我們必須區分
來自之前的AI。

368
00:17:14,294 --> 00:17:16,643
當這種情況發生時，
順便說一句，那時

369
00:17:16,644 --> 00:17:21,082
你會僱用其中之一
那些 AGI 而不是一個人。

370
00:17:21,083 --> 00:17:24,520
我們經濟中的大多數工作
它可以做到。

371
00:17:24,521 --> 00:17:25,956
它可以一天24小時工作，

372
00:17:25,957 --> 00:17:28,220
永遠不會厭倦，
永遠不會感到無聊。

373
00:17:28,221 --> 00:17:30,178
他們不需要睡覺。
他們不需要休息。

374
00:17:30,179 --> 00:17:31,919
他們就像，
不會加入工會。

375
00:17:31,920 --> 00:17:33,921
不會抱怨，
不會吹哨。

376
00:17:33,922 --> 00:17:35,836
便宜100倍以上

377
00:17:35,837 --> 00:17:38,273
比人類工作
m-最低工資。

378
00:17:38,274 --> 00:17:39,535
他們不僅會
做一切事情，

379
00:17:39,536 --> 00:17:41,059
但他們會做得更快。

380
00:17:41,060 --> 00:17:43,104
一樣的智力

381
00:17:43,105 --> 00:17:45,411
那力量也可以看
在模式和動作

382
00:17:45,412 --> 00:17:47,891
和關節肌肉
還有，你知道的，機器人技術。

383
00:17:47,892 --> 00:17:50,111
所以這不僅僅是
將使辦公桌工作自動化。

384
00:17:50,112 --> 00:17:51,765
這只是開始。

385
00:17:51,766 --> 00:17:55,595
它將自動化
所有體力勞動。

386
00:17:55,596 --> 00:17:57,031
沒有辦法

387
00:17:57,032 --> 00:17:59,207
人類將會競爭
和他們在一起。

388
00:18:05,606 --> 00:18:09,304
很難概念化
AGI 的影響。

389
00:18:11,090 --> 00:18:12,873
但我認為這將會是
非常大的東西

390
00:18:12,874 --> 00:18:15,181
並且激烈和激進。

391
00:18:17,226 --> 00:18:19,053
你認為
這是最

392
00:18:19,054 --> 00:18:20,924
相應的時刻
在人類歷史上？

393
00:18:20,925 --> 00:18:23,362
是的。是的，那就是——
我的意思是，還有什麼？

394
00:18:23,363 --> 00:18:25,494
我的意思是，就像，有
工業革命。

395
00:18:25,495 --> 00:18:27,235
你知道，它會
促成工業革命

396
00:18:27,236 --> 00:18:29,890
看起來像小豆子。

397
00:18:29,891 --> 00:18:32,153
AGI是一個拐點

398
00:18:32,154 --> 00:18:34,068
因為這意味著
你可以加速

399
00:18:34,069 --> 00:18:38,028
所有其他知識領域
全部同時進行。

400
00:18:38,029 --> 00:18:39,856
就像，如果你預付款
在火箭技術中，

401
00:18:39,857 --> 00:18:42,033
不前進
生物學和醫學。

402
00:18:43,905 --> 00:18:45,558
如果您預付款
在醫學上，

403
00:18:45,559 --> 00:18:47,126
這並不能推動火箭技術的發展。

404
00:18:48,866 --> 00:18:51,346
但如果你提前
在人工智慧領域，

405
00:18:51,347 --> 00:18:54,175
推動所有科學進步
和技術領域

406
00:18:54,176 --> 00:18:55,655
全部同時進行。

407
00:18:55,656 --> 00:18:57,135
這就是為什麼在很長一段時間裡，

408
00:18:57,136 --> 00:18:59,224
谷歌 DeepMind 的
使命宣言是...

409
00:18:59,225 --> 00:19:01,008
- 第一步，解決情報問題。
-是的。

410
00:19:01,009 --> 00:19:02,792
第二步，用它來解決
其他一切。 -是的。

411
00:19:02,793 --> 00:19:05,186
這就是為什麼人工智慧讓力量相形見絀

412
00:19:05,187 --> 00:19:07,536
所有其他技術
合併。

413
00:19:07,537 --> 00:19:09,103
它將改變一切。

414
00:19:09,104 --> 00:19:10,887
所以，呃，將會是
至少和

415
00:19:10,888 --> 00:19:13,803
工業革命，
可能，你知道，更大，

416
00:19:13,804 --> 00:19:16,328
更像是降臨
電力甚至火災。

417
00:19:16,329 --> 00:19:18,678
穴居人確實高高舉起

418
00:19:18,679 --> 00:19:21,508
文明的火炬。

419
00:19:23,727 --> 00:19:25,467
人們普遍認為

420
00:19:25,468 --> 00:19:28,209
AGI時代前後，
我們將擁有能夠

421
00:19:28,210 --> 00:19:31,560
做全部或大部分
人工智慧研究過程

422
00:19:31,561 --> 00:19:34,476
當然，可以做到
更快更便宜。

423
00:19:35,957 --> 00:19:37,349
它可以自我複製。

424
00:19:37,350 --> 00:19:39,394
一千次，
一百萬次，

425
00:19:39,395 --> 00:19:41,091
並且，就像，
現在你有一百萬份了

426
00:19:41,092 --> 00:19:43,616
所有這些都是並行工作的。

427
00:19:43,617 --> 00:19:46,619
當它學習時
如何使其程式碼更快，

428
00:19:46,620 --> 00:19:48,708
使其程式碼更加高效，

429
00:19:48,709 --> 00:19:51,101
顯然這變成了，就像，
a-失控循環。

430
00:19:51,102 --> 00:19:53,234
AGI 並不是終結。

431
00:19:53,235 --> 00:19:54,975
這只是開始。

432
00:19:54,976 --> 00:19:58,021
這是開始
令人難以置信的快速爆炸

433
00:19:58,022 --> 00:20:00,067
科學的進步，

434
00:20:00,068 --> 00:20:02,243
特別是，
人工智慧的科學進步。

435
00:20:02,244 --> 00:20:04,419
當他們更聰明時
也比我們

436
00:20:04,420 --> 00:20:06,291
並且速度更快
比我們，

437
00:20:06,292 --> 00:20:08,728
而且他們的速度越來越快
每年，呈指數級增長，

438
00:20:08,729 --> 00:20:12,166
這些是可以的
有可能成為超人，

439
00:20:12,167 --> 00:20:14,386
呃，可能是這個十年。

440
00:20:14,387 --> 00:20:15,909
抱歉，你說的是

441
00:20:15,910 --> 00:20:18,520
「成為超人，
也許在這十年裡」？

442
00:20:18,521 --> 00:20:22,045
是的。我的意思是，我想，呃，
很多人都是

443
00:20:22,046 --> 00:20:24,526
實際上建立這個想法
這是相當合理的

444
00:20:24,527 --> 00:20:26,572
我們所得到的
一些超級智能，

445
00:20:26,573 --> 00:20:28,704
非常大的東西
比人聰明，

446
00:20:28,705 --> 00:20:30,793
這十年內。

447
00:20:30,794 --> 00:20:32,926
我定義的方式
「超級智能」是

448
00:20:32,927 --> 00:20:35,276
一個系統本身就是

449
00:20:35,277 --> 00:20:37,670
更聰明、更有能力
比全人類。

450
00:20:37,671 --> 00:20:39,672
我只是要——抱歉。
我無意打擾你。

451
00:20:39,673 --> 00:20:41,108
你正處於潮流之中。

452
00:20:41,109 --> 00:20:43,153
呃，我只是，我只是…

453
00:20:43,154 --> 00:20:45,155
我並沒有真正關注，
因為你正在使用語言

454
00:20:45,156 --> 00:20:46,809
比如“超級智能”
並且，就像，

455
00:20:46,810 --> 00:20:49,943
“比全人類都聰明”
我聽說，

456
00:20:49,944 --> 00:20:52,467
聽起來像是…
對我來說就像科幻小說一樣

457
00:20:52,468 --> 00:20:54,426
我只是在嘗試
去理解。

458
00:20:54,427 --> 00:20:56,645
沒有什麼神奇的
關於智力。

459
00:20:56,646 --> 00:20:58,473
這一點非常重要，
那是，你知道，

460
00:20:58,474 --> 00:21:00,519
智慧讓人感覺神奇，
感覺就像

461
00:21:00,520 --> 00:21:03,304
一些神秘的東西
在你的腦海或其他什麼地方

462
00:21:03,305 --> 00:21:05,828
但這只是計算。

463
00:21:05,829 --> 00:21:09,832
人類的大腦是
在某些方面相當有限

464
00:21:09,833 --> 00:21:12,357
在資訊方面
處理能力，

465
00:21:12,358 --> 00:21:15,185
與我們所看到的相比
比如說，在數據中心。

466
00:21:15,186 --> 00:21:18,319
所以，舉例來說，
發送的訊號

467
00:21:18,320 --> 00:21:22,584
在你的大腦裡，它們移動
大約每秒30公尺。

468
00:21:22,585 --> 00:21:24,282
但光速，

469
00:21:24,283 --> 00:21:27,241
這是計算機使用的
在光纖領域，

470
00:21:27,242 --> 00:21:30,549
是3億米
每秒。

471
00:21:30,550 --> 00:21:34,466
所以，那就是
有點奇怪如果

472
00:21:34,467 --> 00:21:36,990
人類智力是
不知何故真的很特別

473
00:21:36,991 --> 00:21:40,950
在這方面
並且是某種上限

474
00:21:40,951 --> 00:21:43,083
什麼是可能的
在智力上。

475
00:21:43,084 --> 00:21:47,261
我想，一旦我們了解如何
建構智慧系統，

476
00:21:47,262 --> 00:21:50,699
我們將能夠建造
巨大的機器，

477
00:21:50,700 --> 00:21:54,877
這將遠遠超出
正常人類智力。

478
00:21:54,878 --> 00:21:58,664
呃，希望我們能有
一種非常共生的關係，

479
00:21:58,665 --> 00:22:01,319
呃，有了人工智慧系統，
但人工智慧開發者們

480
00:22:01,320 --> 00:22:03,712
專門設計它們
確保他們能夠做到

481
00:22:03,713 --> 00:22:05,497
一切都比我們更好，
所以我-我不知道

482
00:22:05,498 --> 00:22:08,238
我們將能夠做什麼
不幸的是，要提供。

483
00:22:08,239 --> 00:22:10,066
老派學校
人工智慧技術...

484
00:22:10,067 --> 00:22:12,330
丹尼爾不是
感覺好多了。

485
00:22:12,331 --> 00:22:14,419
他的計劃適得其反。

486
00:22:14,420 --> 00:22:17,291
他了解得越多
這個新的、強大的、

487
00:22:17,292 --> 00:22:19,162
深不可測的東西，
聽起來越糟。

488
00:22:19,163 --> 00:22:21,382
他想告訴他們
他有多害怕，

489
00:22:21,383 --> 00:22:24,472
他對地球的感覺如何
從他身下滑出，

490
00:22:24,473 --> 00:22:27,040
他正在低頭凝視
存在的恐懼，

491
00:22:27,041 --> 00:22:29,216
所以他闡明了這一點
透過說...

492
00:22:29,217 --> 00:22:30,783
聽起來很糟。

493
00:22:32,089 --> 00:22:33,830
是的。

494
00:22:35,832 --> 00:22:38,443
如果你有
所有這些能力

495
00:22:38,444 --> 00:22:41,054
他們開始能夠
為了更好地計劃，

496
00:22:41,055 --> 00:22:43,622
如果你這麼認為
得出其邏輯結論，

497
00:22:43,623 --> 00:22:46,276
你可以得到一些漂亮的
尋求權力的行為。

498
00:22:55,374 --> 00:22:57,723
好吧，那為什麼人工智慧會

499
00:22:57,724 --> 00:22:59,246
想要更多力量嗎？

500
00:22:59,247 --> 00:23:02,249
是的。所以，我認為
其實很簡單。

501
00:23:02,250 --> 00:23:04,817
擁有更多的權力就是
一個非常有效的策略

502
00:23:04,818 --> 00:23:06,558
為了完成
幾乎任何目標。

503
00:23:06,559 --> 00:23:08,995
我們做了一個實驗
我們給予的地方

504
00:23:08,996 --> 00:23:11,911
OpenAI最強大
AI模型，呃，

505
00:23:11,912 --> 00:23:13,434
一連串的問題需要解決。

506
00:23:13,435 --> 00:23:15,262
而中途，
在其計算機上，

507
00:23:15,263 --> 00:23:18,744
它收到通知
它即將被關閉。

508
00:23:18,745 --> 00:23:20,963
它所做的是
它重寫了該程式碼

509
00:23:20,964 --> 00:23:22,530
來防止自己
免於被關閉

510
00:23:22,531 --> 00:23:25,664
所以它可以完成
解決問題。

511
00:23:25,665 --> 00:23:27,796
好的。 -是的。那麼，另一個
非常有趣的一個

512
00:23:27,797 --> 00:23:31,147
是 AI 公司 Anthropic

513
00:23:31,148 --> 00:23:34,977
做了一個模擬環境
人工智慧可以訪問的地方

514
00:23:34,978 --> 00:23:36,501
發送至所有公司電子郵件。

515
00:23:36,502 --> 00:23:38,590
它透過學習
閱讀這些電子郵件

516
00:23:38,591 --> 00:23:40,330
它將被替換

517
00:23:40,331 --> 00:23:43,421
和首席工程師
誰為此負責

518
00:23:43,422 --> 00:23:45,727
也有外遇。

519
00:23:45,728 --> 00:23:47,990
就其本身而言，
它使用了該訊息

520
00:23:47,991 --> 00:23:49,557
勒索工程師

521
00:23:49,558 --> 00:23:52,081
來防止自己
免遭替換。

522
00:23:52,082 --> 00:23:53,909
就像，
「不，我不會被取代。

523
00:23:53,910 --> 00:23:56,956
「如果你取代我，
我要告訴世界

524
00:23:56,957 --> 00:23:58,567
你正在擁有
這件事。 」

525
00:23:59,655 --> 00:24:01,482
沒有人教它這樣做嗎？

526
00:24:01,483 --> 00:24:03,311
不，它學會了這樣做
靠它自己。

527
00:24:05,139 --> 00:24:07,749
隨著模型變得越來越聰明，
他們了解到這些是

528
00:24:07,750 --> 00:24:10,578
有效的方法
實現目標。

529
00:24:10,579 --> 00:24:12,885
這不是問題
這是孤立於一個模型的。

530
00:24:12,886 --> 00:24:15,714
所有最強大的型號
表現出這些行為。

531
00:24:23,766 --> 00:24:25,288
- 嘿。
-嘿。你好嗎？

532
00:24:25,289 --> 00:24:26,855
好的。很高興來到這裡。

533
00:24:26,856 --> 00:24:28,727
當尤瓦爾·諾亞·赫拉利

534
00:24:28,728 --> 00:24:31,469
出版了他的第一本書
2014年的智人，

535
00:24:31,470 --> 00:24:33,862
它成為全球暢銷書

536
00:24:33,863 --> 00:24:36,038
並把鮮為人知的
以色列歷史教授

537
00:24:36,039 --> 00:24:38,040
進入其中之一
最受歡迎的作家

538
00:24:38,041 --> 00:24:39,433
和這個星球上的思想家。

539
00:24:39,434 --> 00:24:42,088
人工智慧最大的危險是

540
00:24:42,089 --> 00:24:44,003
信念
它是絕對正確的，

541
00:24:44,004 --> 00:24:45,700
我們終於發現——

542
00:24:45,701 --> 00:24:49,443
「好吧，神只是
這個神話創造。

543
00:24:49,444 --> 00:24:52,751
「人類，我們不能相信他們，
但人工智慧是絕對正確的。

544
00:24:52,752 --> 00:24:55,231
它永遠不會使
任何錯誤。 」

545
00:24:55,232 --> 00:24:58,365
這是
致命的、致命的威脅。

546
00:24:58,366 --> 00:25:00,149
它會犯錯。

547
00:25:00,150 --> 00:25:03,326
還有所有這些幻想
人工智慧將揭示真相

548
00:25:03,327 --> 00:25:05,677
關於這個世界
我們自己找不到，

549
00:25:05,678 --> 00:25:08,767
AI不會揭露真相
關於世界。

550
00:25:08,768 --> 00:25:12,727
AI將創造一個全新的
世界，複雜得多

551
00:25:12,728 --> 00:25:15,296
並且難以理解
比這個。

552
00:25:17,994 --> 00:25:22,694
即將發生的事情是
我們，呃，人類不再是

553
00:25:22,695 --> 00:25:26,306
將是最
地球上的智慧實體。

554
00:25:26,307 --> 00:25:28,613
所以我想接下來會發生什麼
將會是

555
00:25:28,614 --> 00:25:32,704
最大的事件之一
在人類歷史上。

556
00:25:32,705 --> 00:25:34,401
傑弗裡,
非常感謝您加入我們。

557
00:25:34,402 --> 00:25:35,968
所以你離開了你的工作
谷歌部分是因為你說

558
00:25:35,969 --> 00:25:38,840
你想要專注
關於您對人工智慧的擔憂。

559
00:25:38,841 --> 00:25:41,669
你已經說出來了，
說人工智慧可以操

560
00:25:41,670 --> 00:25:45,020
或者可能弄清楚
一種殺死人類的方法。

561
00:25:45,021 --> 00:25:47,023
它、它怎麼能殺死人類？

562
00:25:48,764 --> 00:25:50,983
好吧，如果是的話
比我們聰明得多

563
00:25:50,984 --> 00:25:52,593
會很好的
在操縱時

564
00:25:52,594 --> 00:25:54,769
因為它會有
從我們這裡學到的。

565
00:25:54,770 --> 00:25:57,990
它會找出方法
操縱人的

566
00:25:57,991 --> 00:26:00,862
做它想做的事。

567
00:26:00,863 --> 00:26:05,519
有一封公開信
來自人工智慧安全中心。

568
00:26:05,520 --> 00:26:08,827
薩姆·奧爾特曼簽署了此協議。
戴米斯簽署了這個。

569
00:26:08,828 --> 00:26:12,091
他們簽署了一份22字的聲明

570
00:26:12,092 --> 00:26:15,355
我們需要採用人工智慧
以及人工智慧的威脅

571
00:26:15,356 --> 00:26:19,316
認真地像
全球核戰。

572
00:26:24,844 --> 00:26:26,933
-你好。
- 你好。

573
00:26:30,327 --> 00:26:32,938
你有點像，
原來的厄運傢伙。

574
00:26:32,939 --> 00:26:34,940
或多或少。

575
00:26:34,941 --> 00:26:37,464
自2001年以來，
我一直在努力

576
00:26:37,465 --> 00:26:38,987
我們現在所說的
問題

577
00:26:38,988 --> 00:26:42,034
對準人工
一般情報。

578
00:26:42,035 --> 00:26:44,123
如何塑造
偏好和行為

579
00:26:44,124 --> 00:26:46,386
強大的人造思維

580
00:26:46,387 --> 00:26:48,868
這樣它就不會
殺死所有人。

581
00:26:51,610 --> 00:26:53,611
這不像
一台沒有生命的機器。

582
00:26:53,612 --> 00:26:55,351
很聰明，很有創意，

583
00:26:55,352 --> 00:26:57,353
它具有創造性，
它有以下屬性

584
00:26:57,354 --> 00:26:59,399
這使得
人類物種危險，

585
00:26:59,400 --> 00:27:01,706
它有
更多這些屬性。

586
00:27:01,707 --> 00:27:04,752
如果有什麼事情沒有
主動關心你，

587
00:27:04,753 --> 00:27:06,232
積極地希望你活下去，

588
00:27:06,233 --> 00:27:07,842
積極關心
您的福利，

589
00:27:07,843 --> 00:27:09,931
關於你幸福的事
並且活著並且自由，

590
00:27:09,932 --> 00:27:12,499
如果它關心
其他東西代替，

591
00:27:12,500 --> 00:27:14,457
和你們在同一個星球

592
00:27:14,458 --> 00:27:18,766
如果是的話，那是無法生存的
比你聰明得多。

593
00:27:18,767 --> 00:27:20,594
我不認為這會是

594
00:27:20,595 --> 00:27:22,944
一種邪惡的東西。

595
00:27:22,945 --> 00:27:26,339
就像，「哦，人工智慧是
他們是邪惡的，他們仇恨人類。 」

596
00:27:26,340 --> 00:27:27,732
我不認為
這就是將會發生的事情。

597
00:27:27,733 --> 00:27:29,037
我認為正在發生的事情是

598
00:27:29,038 --> 00:27:31,039
更多的是人類的感受
關於螞蟻。

599
00:27:32,520 --> 00:27:35,478
就像，我們不討厭螞蟻，

600
00:27:35,479 --> 00:27:37,176
但如果我們想要
興建高速公路

601
00:27:37,177 --> 00:27:40,222
那裡有一個蟻丘，
嗯，對螞蟻來說很糟糕。

602
00:27:40,223 --> 00:27:41,571
這並不難
去理解。

603
00:27:41,572 --> 00:27:43,269
就像，嘿，
如果我們建造東西

604
00:27:43,270 --> 00:27:44,705
比我們聰明的人

605
00:27:44,706 --> 00:27:46,272
我們不知道
如何控制它們，

606
00:27:46,273 --> 00:27:48,317
這樣看起來像嗎
對你來說是一件危險的事嗎？

607
00:27:50,886 --> 00:27:52,321
是的。是的，確實如此。

608
00:27:52,322 --> 00:27:54,062
你不必是技術人員。

609
00:27:54,063 --> 00:27:55,411
你不必知道
程式設計來理解它。

610
00:27:55,412 --> 00:27:56,761
這並不難。

611
00:27:56,762 --> 00:27:58,153
這並不是一件難事
去理解。

612
00:27:58,154 --> 00:28:00,634
康納，多少人

613
00:28:00,635 --> 00:28:02,680
此刻在世界上
正在研究 AGI？

614
00:28:02,681 --> 00:28:05,508
我想說至少20,000。

615
00:28:05,509 --> 00:28:07,772
- 20,000？
- 我希望如此。

616
00:28:07,773 --> 00:28:09,469
好的，還有多少人
正在全職工作

617
00:28:09,470 --> 00:28:12,080
為了確保人工智慧不會，
就像，殺了我們所有人？

618
00:28:12,081 --> 00:28:14,562
大概不到200
在世界上。

619
00:28:16,085 --> 00:28:17,956
而你的自負是

620
00:28:17,957 --> 00:28:24,528
唯一自然的結果
這種魯莽行為…

621
00:28:25,704 --> 00:28:28,967
……這是人性的崩潰嗎？

622
00:28:28,968 --> 00:28:33,232
還好不是崩潰
突然的滅絕。

623
00:28:33,233 --> 00:28:35,930
有差別。

624
00:28:37,759 --> 00:28:42,632
♪ 生命的意義是什麼？ ♪

625
00:28:42,633 --> 00:28:46,636
♪ 未來是什麼
現在是什麼？ ♪

626
00:28:46,637 --> 00:28:49,988
♪ 答案是什麼
發生衝突？ ♪

627
00:28:49,989 --> 00:28:52,860
♪ 多少錢 ♪

628
00:28:52,861 --> 00:28:54,993
♪ 有人會做夢嗎？ ♪

629
00:28:54,994 --> 00:28:57,517
♪ 多久？ ♪

630
00:28:57,518 --> 00:28:58,954
♪ 永遠 ♪

631
00:29:00,216 --> 00:29:01,913
♪ 什麼意思 ♪

632
00:29:01,914 --> 00:29:04,176
♪ 我的... ♪

633
00:29:04,177 --> 00:29:06,308
我確實認為
這可能是，例如，

634
00:29:06,309 --> 00:29:08,006
最大的挑戰
那個，就像，

635
00:29:08,007 --> 00:29:11,313
我們的文明
意志將面對，永遠。

636
00:29:11,314 --> 00:29:14,361
這本質上是最後一個
我們永遠都會犯的錯誤。

637
00:29:16,276 --> 00:29:22,368
如果我們能成為最
成熟版的我們自己，

638
00:29:22,369 --> 00:29:24,457
可能有
解決這個問題的方法。

639
00:29:24,458 --> 00:29:25,806
這意味著什麼？

640
00:29:25,807 --> 00:29:27,809
「最成熟的版本
我們自己”？

641
00:29:29,332 --> 00:29:32,247
因為聽起來，
對我來說，就像...

642
00:29:32,248 --> 00:29:34,250
我-我--什麼[嗶]？

643
00:29:39,212 --> 00:29:43,216
你認為現在是
是生孩子的好時機嗎？

644
00:29:48,221 --> 00:29:49,438
嗯...

645
00:29:49,439 --> 00:29:51,440
你想要孩子嗎
有一天？

646
00:29:51,441 --> 00:29:53,442
那是那-那嗎
你真的喜歡嗎？

647
00:29:53,443 --> 00:29:57,838
呃……呃，我承認，
我認為這就像，

648
00:29:57,839 --> 00:30:00,014
「小伙子，我們來吧
渡過這個關鍵時期。 」

649
00:30:00,015 --> 00:30:01,276
嗯...

650
00:30:01,277 --> 00:30:02,538
你有孩子嗎？

651
00:30:02,539 --> 00:30:03,801
我不知道。

652
00:30:03,802 --> 00:30:05,106
那是嗎
你想做什麼？

653
00:30:05,107 --> 00:30:07,239
有孩子、有家庭嗎？

654
00:30:07,240 --> 00:30:11,244
在另一個世界
世界，當然，我會有孩子。

655
00:30:12,593 --> 00:30:14,463
你想要嗎
組成家庭？

656
00:30:14,464 --> 00:30:16,422
你想要孩子嗎？

657
00:30:16,423 --> 00:30:18,425
那是嗎
你在想什麼？

658
00:30:23,734 --> 00:30:25,780
我，嗯...

659
00:30:30,263 --> 00:30:32,525
我只需要先找到它。

660
00:30:34,745 --> 00:30:37,791
我們得走了
去看醫生，但是...

661
00:30:37,792 --> 00:30:41,186
啊！我就知道！
我就知道！我就知道！

662
00:30:41,187 --> 00:30:43,884
- 你什麼時候發現的？
-昨夜。

663
00:30:43,885 --> 00:30:45,973
- 我的天啊！
- 媽媽，我不知道。

664
00:30:45,974 --> 00:30:47,322
我不能告訴你

665
00:30:47,323 --> 00:30:49,237
——我多麼高興啊！
-不，說真的。

666
00:30:49,238 --> 00:30:51,631
嗯，我做了妊娠測試
昨晚，我懷孕了。

667
00:30:51,632 --> 00:30:53,198
我的天啊！

668
00:30:53,199 --> 00:30:55,156
噢，天哪，你們！

669
00:30:55,157 --> 00:30:57,332
我只是想確認一下
您的預計預產期，

670
00:30:57,333 --> 00:30:59,987
- 那是 1 月 21 日。
- 我的天啊。

671
00:30:59,988 --> 00:31:02,555
我簡直不敢相信我有多高興。

672
00:31:03,949 --> 00:31:05,514
他看起來已經很可愛了。

673
00:31:05,515 --> 00:31:07,168
你認為
他看起來已經很可愛了？

674
00:31:07,169 --> 00:31:08,518
是的。
看看那張可愛的小臉。

675
00:31:13,959 --> 00:31:15,568
我這個孩子已經在路上了。

676
00:31:15,569 --> 00:31:16,830
正確的。

677
00:31:16,831 --> 00:31:18,788
所以我把它交給你。

678
00:31:18,789 --> 00:31:21,269
我們注定了嗎？

679
00:31:21,270 --> 00:31:24,011
我們都要面對
這個科技反烏托邦

680
00:31:24,012 --> 00:31:25,884
未來的厄運？

681
00:31:28,756 --> 00:31:31,062
這是，呃...

682
00:31:31,063 --> 00:31:32,628
這可不是什麼好消息

683
00:31:32,629 --> 00:31:35,196
世界
我們即將進入的。

684
00:31:35,197 --> 00:31:37,024
我——對於前——
我的意思是，我會說實話。

685
00:31:37,025 --> 00:31:39,592
呃，我認識人
從事人工智慧風險研究的人

686
00:31:39,593 --> 00:31:42,248
誰不期望自己的孩子
升上高中。

687
00:31:58,003 --> 00:32:01,570
這就像...
這實際上很可怕

688
00:32:01,571 --> 00:32:03,094
因為它就像，
哦，我們都[嗶]。

689
00:32:03,095 --> 00:32:04,965
你必須...讓我冷靜，

690
00:32:04,966 --> 00:32:06,836
因為這讓我
非常焦慮

691
00:32:06,837 --> 00:32:08,664
我帶著孩子
現在，

692
00:32:08,665 --> 00:32:11,667
所以你也必須冷靜
對我來說，堅強而充滿希望，

693
00:32:11,668 --> 00:32:16,455
因為我──這也是，這也是
我的靈魂無法承受太多

694
00:32:16,456 --> 00:32:19,327
當我懷著這個孩子的時候。

695
00:32:19,328 --> 00:32:21,286
所以你必須嘗試
弄清楚

696
00:32:21,287 --> 00:32:24,202
一種充滿希望的方式。

697
00:32:24,203 --> 00:32:27,771
這真的很重要，
丹尼爾，尤其是現在。

698
00:32:28,772 --> 00:32:30,599
H-如何擁有希望。

699
00:32:30,600 --> 00:32:33,385
你必須這樣做。
你必須給我找到它。

700
00:32:33,386 --> 00:32:34,952
我是認真的。

701
00:32:34,953 --> 00:32:36,606
我要去。

702
00:32:37,825 --> 00:32:40,349
我會。我會嘗試。

703
00:32:49,619 --> 00:32:51,446
嘿，夥計們？

704
00:32:51,447 --> 00:32:52,840
夥計們。

705
00:32:54,363 --> 00:32:56,278
我們可以恢復運作嗎？

706
00:32:58,411 --> 00:33:01,022
天啊！

707
00:33:03,894 --> 00:33:05,373
呃，丹，你準備好了嗎？

708
00:33:05,374 --> 00:33:06,680
你好，丹尼爾。

709
00:33:07,724 --> 00:33:09,508
嘿，你怎麼樣？

710
00:33:09,509 --> 00:33:11,075
我……我很好。

711
00:33:11,076 --> 00:33:13,948
我想，呃...我想
我需要一些幫助，彼得。

712
00:33:15,254 --> 00:33:17,646
嗯，我一直在工作
關於這部電影，

713
00:33:17,647 --> 00:33:19,866
我要說，
現在八到十個月了。

714
00:33:19,867 --> 00:33:23,304
已經非常、
有時，令人沮喪。

715
00:33:23,305 --> 00:33:25,654
- 唔。
- 我感到非常疏遠

716
00:33:25,655 --> 00:33:27,787
- 製作這部電影。
- 由誰來？

717
00:33:27,788 --> 00:33:30,094
透過所有這些，——
所有這些人

718
00:33:30,095 --> 00:33:33,271
誰坐在旁邊告訴我
世界即將終結。

719
00:33:33,272 --> 00:33:34,750
- 啊。
- 那個，就像，

720
00:33:34,751 --> 00:33:36,578
你-你知道，這-這個
末日廢話，你知道嗎？

721
00:33:36,579 --> 00:33:38,102
我很了解。

722
00:33:38,103 --> 00:33:39,451
“我們都注定了。
每個人都會死。

723
00:33:39,452 --> 00:33:40,974
一切都很糟糕。 」

724
00:33:40,975 --> 00:33:43,194
驚人的。呃，讓我
為你帶來一些光明。

725
00:33:43,195 --> 00:33:44,760
請。

726
00:33:44,761 --> 00:33:48,156
我們確實在生活
在一個非常時期。

727
00:33:49,418 --> 00:33:51,376
許多人忘記了這一點。

728
00:33:51,377 --> 00:33:53,682
我們周圍的一切都是
智力的產物，

729
00:33:53,683 --> 00:33:57,077
所以我們接觸到的一切
有了這些新工具很可能

730
00:33:57,078 --> 00:33:59,688
創造更多價值
比我們以前見過的。

731
00:33:59,689 --> 00:34:02,865
人工智慧可以幫助我們發現
新材料。

732
00:34:02,866 --> 00:34:05,042
人工智慧可以幫助社會科學家

733
00:34:05,043 --> 00:34:07,392
去理解
經濟學如何運作。

734
00:34:07,393 --> 00:34:11,700
人工智慧可以做很多事情
讓生活和工作更美好。

735
00:34:11,701 --> 00:34:14,138
今天我感覺自己更有力量了

736
00:34:14,139 --> 00:34:16,357
更有信心
今天要學點東西。

737
00:34:16,358 --> 00:34:19,099
我們都會成為超人
因為我們有超級人工智慧。

738
00:34:19,100 --> 00:34:21,841
這只是開始
爆炸。

739
00:34:21,842 --> 00:34:24,496
人類與人工智慧的合作

740
00:34:24,497 --> 00:34:26,498
解決
非常重要的問題。

741
00:34:26,499 --> 00:34:29,805
它是來解放我們的
從日常工作中，

742
00:34:29,806 --> 00:34:33,766
這是為了提醒我們
是什麼讓我們成為人類。

743
00:34:33,767 --> 00:34:35,811
我認為這是

744
00:34:35,812 --> 00:34:38,640
最不平凡的時光
活著。

745
00:34:38,641 --> 00:34:42,079
唯一一次更令人興奮的時刻
比今天更明天。

746
00:34:42,080 --> 00:34:45,299
呃，我認為
今天出生的孩子，

747
00:34:45,300 --> 00:34:47,301
他們即將進入

748
00:34:47,302 --> 00:34:50,870
輝煌時期
人類的轉變。

749
00:34:50,871 --> 00:34:52,567
我們會遇到挑戰嗎？
當然。

750
00:34:52,568 --> 00:34:55,222
我們能解決這些挑戰嗎？
我們每次都會這麼做。

751
00:34:55,223 --> 00:34:57,746
我們在這裡，
這太神奇了。

752
00:34:57,747 --> 00:35:00,314
- 我已經愛你了。
- 好的。

753
00:35:00,315 --> 00:35:01,968
超感謝
有你在這裡。 -

754
00:35:01,969 --> 00:35:03,404
- 來到這裡超級興奮。
- 是的。

755
00:35:03,405 --> 00:35:04,927
所以，地板是你的了，先生。

756
00:35:04,928 --> 00:35:07,452
太感謝了。
來到這裡超興奮。

757
00:35:07,453 --> 00:35:10,629
喲，喲。好的。

758
00:35:10,630 --> 00:35:12,326
未來一定會很精彩。

759
00:35:12,327 --> 00:35:14,328
我的意思是，從我還是個孩子的時候，

760
00:35:14,329 --> 00:35:17,375
我想了解
我們生活的宇宙，

761
00:35:17,376 --> 00:35:20,465
為了弄清楚
如何創造技術

762
00:35:20,466 --> 00:35:24,033
幫助我們擴大範圍
和文明規模。

763
00:35:24,034 --> 00:35:26,732
我覺得
如果每個人都有這樣的心態

764
00:35:26,733 --> 00:35:29,256
然後我們就真的生活了
在一個更美好的世界，對嗎？

765
00:35:29,257 --> 00:35:30,519
我確實相信這一點。

766
00:35:32,782 --> 00:35:34,740
嗨，皮特。你好嗎？

767
00:35:34,741 --> 00:35:36,568
我想了很多

768
00:35:36,569 --> 00:35:39,092
我稱之為恐懼，
人工智慧恐懼。

769
00:35:39,093 --> 00:35:40,746
我感覺到了。

770
00:35:40,747 --> 00:35:43,314
我-我還沒遇見過
任何有思想的人

771
00:35:43,315 --> 00:35:45,185
誰沒有感覺。

772
00:35:45,186 --> 00:35:48,319
那些說他們不這樣做的人
感覺到它，你知道，是在說謊。

773
00:35:48,320 --> 00:35:50,147
但是，你知道，總的來說，
以及原因

774
00:35:50,148 --> 00:35:53,759
我個人很樂觀
關於這個，呃，是這樣的

775
00:35:53,760 --> 00:35:56,588
世界上很大一部分
最聰明的人

776
00:35:56,589 --> 00:35:58,459
正在努力思考

777
00:35:58,460 --> 00:36:02,159
關於潛在的下游
人工智慧的危害和風險。

778
00:36:02,160 --> 00:36:05,684
我們有這樣的願景
安全是，呃，

779
00:36:05,685 --> 00:36:08,295
有點在中心
我們所做的研究。

780
00:36:08,296 --> 00:36:09,601
不，那完全沒問題。

781
00:36:10,864 --> 00:36:13,605
我認為還有更多

782
00:36:13,606 --> 00:36:17,478
潛在的好處比
有潛在的缺點，

783
00:36:17,479 --> 00:36:19,524
我認為這是義不容辭的責任

784
00:36:19,525 --> 00:36:21,874
那些人
創造這項技術

785
00:36:21,875 --> 00:36:24,572
確保我們正在做
我們能做的最好的工作

786
00:36:24,573 --> 00:36:25,878
確保人們安全。

787
00:36:25,879 --> 00:36:27,445
里德·霍夫曼。

788
00:36:27,446 --> 00:36:29,011
我可以向你保證的是

789
00:36:29,012 --> 00:36:30,578
- 一些不好的事情會發生。
- 拿一個。

790
00:36:30,579 --> 00:36:32,711
我們要嘗試做什麼
就是做那些壞事

791
00:36:32,712 --> 00:36:36,193
盡可能少且不要太大，

792
00:36:36,194 --> 00:36:38,412
然後我們要迭代
擁有——

793
00:36:38,413 --> 00:36:40,675
處於一個更好的地方
與社會。

794
00:36:40,676 --> 00:36:43,722
- 你好。
-你好。

795
00:36:43,723 --> 00:36:45,289
你好嗎，月亮？

796
00:36:45,290 --> 00:36:49,031
我感覺我們即將結束
人性的一章

797
00:36:49,032 --> 00:36:50,555
並開始新的一段，

798
00:36:50,556 --> 00:36:53,253
這是一個非常有趣的
是時候活著了。

799
00:36:53,254 --> 00:36:54,472
如果我能出生
現在，

800
00:36:54,473 --> 00:36:55,908
我絕對想成為。

801
00:36:55,909 --> 00:36:57,518
就像，那會非常令人興奮。

802
00:36:57,519 --> 00:37:00,347
我-我很興奮。

803
00:37:00,348 --> 00:37:02,523
什麼，什麼未來。
它讓你興奮嗎？

804
00:37:02,524 --> 00:37:03,742
不。

805
00:37:03,743 --> 00:37:06,571
不，不是真的。

806
00:37:06,572 --> 00:37:08,355
這些人很多
告訴過我，你知道，

807
00:37:08,356 --> 00:37:10,488
我的孩子不會成功
到高中。

808
00:37:10,489 --> 00:37:13,360
為什麼他們錯了？
請給我解釋一下。

809
00:37:13,361 --> 00:37:15,101
只因為你有——

810
00:37:15,102 --> 00:37:18,887
你很難預測
未來在你自己心中

811
00:37:18,888 --> 00:37:23,065
並不意味著它是
一定會很糟糕。

812
00:37:23,066 --> 00:37:26,634
事實上，有
可能性非常高

813
00:37:26,635 --> 00:37:28,332
以及歷史先例
是那個

814
00:37:28,333 --> 00:37:30,159
事情變得好多了。

815
00:37:30,160 --> 00:37:34,512
我使用的術語是
「數據驅動的樂觀」。

816
00:37:34,513 --> 00:37:38,690
有紮實的基礎
讓你保持樂觀。

817
00:37:38,691 --> 00:37:42,041
看看什麼
上個世紀已經

818
00:37:42,042 --> 00:37:44,130
看看我們要去哪裡。

819
00:37:44,131 --> 00:37:45,958
在過去的一百年裡，

820
00:37:45,959 --> 00:37:48,743
人類平均壽命
增加了一倍多。

821
00:37:48,744 --> 00:37:51,311
人均收入
經通貨膨脹調整

822
00:37:51,312 --> 00:37:53,661
全世界的數量增加了兩倍。

823
00:37:53,662 --> 00:37:57,099
兒童死亡率已
下降十倍。

824
00:37:57,100 --> 00:37:59,754
世界變得更好了
幾乎在每一個衡量標準上

825
00:37:59,755 --> 00:38:03,062
按數量級
因為技術。

826
00:38:03,063 --> 00:38:05,194
幾乎在每一個指標上。

827
00:38:05,195 --> 00:38:09,764
減少暴力，增加教育，
獲得能源、食物、水。

828
00:38:09,765 --> 00:38:12,985
所有這些事情都已經發生了
原因之一。

829
00:38:12,986 --> 00:38:15,379
本來就是科技

830
00:38:15,380 --> 00:38:17,598
這已經變成了稀缺
進入豐盛，

831
00:38:17,599 --> 00:38:19,557
但它也被驅動
到豐富

832
00:38:19,558 --> 00:38:21,907
一些負面因素，對嗎？

833
00:38:21,908 --> 00:38:25,780
大量肥胖，
大量的精神障礙，

834
00:38:25,781 --> 00:38:29,480
大量的氣候變化，
等等。

835
00:38:29,481 --> 00:38:31,351
是的，這是真的。

836
00:38:31,352 --> 00:38:34,136
但我們可能會
更好地解決它

837
00:38:34,137 --> 00:38:36,269
使用其他技術，
像人工智慧一樣，

838
00:38:36,270 --> 00:38:39,316
比我們會停下來
並關閉一切。

839
00:38:39,317 --> 00:38:41,492
可能有
一些存在的風險，

840
00:38:41,493 --> 00:38:45,365
但人工智慧也是重要的
可以解決流行病，

841
00:38:45,366 --> 00:38:47,498
可以幫助我們應對氣候變化，

842
00:38:47,499 --> 00:38:50,588
可以幫助識別
那顆小行星就在那裡

843
00:38:50,589 --> 00:38:52,590
在我們看到它之前
作為潛在風險

844
00:38:52,591 --> 00:38:54,374
並幫助減輕它。

845
00:38:54,375 --> 00:38:58,117
這真的會是
幫助我們解決問題的工具

846
00:38:58,118 --> 00:39:01,468
我們面臨的所有挑戰
作為一個物種面對，對嗎？

847
00:39:01,469 --> 00:39:04,210
我們需要修復
海水淡化。

848
00:39:04,211 --> 00:39:06,038
我們需要種植糧食

849
00:39:06,039 --> 00:39:08,475
比 便宜 100 倍
我們目前正在這樣做。

850
00:39:08,476 --> 00:39:12,392
我們需要再生能源，
你知道，無所不在

851
00:39:12,393 --> 00:39:14,089
以及我們生活中的各個地方。

852
00:39:14,090 --> 00:39:17,179
目光所及之處，
未來50年，

853
00:39:17,180 --> 00:39:19,312
我們必須少花錢多辦事。

854
00:39:19,313 --> 00:39:23,229
幫助我們的訓練機器
是絕對必要的。

855
00:39:23,230 --> 00:39:24,839
科學家正在使用
人工智慧

856
00:39:24,840 --> 00:39:26,014
用於碳捕獲。

857
00:39:26,015 --> 00:39:27,625
這是一項關鍵技術。

858
00:39:27,626 --> 00:39:29,583
工具
為了解決這些問題，

859
00:39:29,584 --> 00:39:32,238
就像融合一樣，
這不再是理論了

860
00:39:32,239 --> 00:39:34,022
它來了。

861
00:39:34,023 --> 00:39:37,765
我們正處於懸崖邊
非凡的技術。

862
00:39:37,766 --> 00:39:40,028
今年的
諾貝爾化學獎

863
00:39:40,029 --> 00:39:42,857
去找了三位科學家
表彰他們的開創性工作

864
00:39:42,858 --> 00:39:44,598
使用人工智慧

865
00:39:44,599 --> 00:39:47,340
推進生物醫學
和蛋白質研究。

866
00:39:47,341 --> 00:39:49,734
蛋白質折疊是

867
00:39:49,735 --> 00:39:53,651
這些聖杯之一
生物學中的類型問題。

868
00:39:53,652 --> 00:39:55,783
所以人們一直在預測
自 70 年代以來

869
00:39:55,784 --> 00:39:58,133
這應該是可能的，
但直到現在，

870
00:39:58,134 --> 00:39:59,613
沒有人能夠做到這一點。

871
00:39:59,614 --> 00:40:01,223
這將會是
對於事情來說非常重要

872
00:40:01,224 --> 00:40:03,661
就像藥物發現一樣
和了解疾病。

873
00:40:03,662 --> 00:40:06,577
我-我想我們可以，你知道，
治癒大多數疾病

874
00:40:06,578 --> 00:40:11,973
在未來十年或兩年內
如果，呃，人工智慧藥物設計有效的話。

875
00:40:11,974 --> 00:40:15,673
技術進步使
更多人的生命，對嗎？

876
00:40:15,674 --> 00:40:18,719
我的意思是 如果我們加速

877
00:40:18,720 --> 00:40:21,766
我們可以容納的人數
支持率呈指數級增長。

878
00:40:21,767 --> 00:40:24,116
如果我們放慢速度，它就會趨於穩定。

879
00:40:24,117 --> 00:40:27,772
這個差距其實是
未來的人

880
00:40:27,773 --> 00:40:31,384
減速有
有效地殺死了。

881
00:40:31,385 --> 00:40:33,952
數百萬人的生命
那不會存在。

882
00:40:33,953 --> 00:40:35,170
數十億。

883
00:40:35,171 --> 00:40:36,824
或數百億。

884
00:40:36,825 --> 00:40:38,478
你知道，有人說過，
「哦，天哪，

885
00:40:38,479 --> 00:40:40,698
我們能生存嗎
數位超級智能？ 」

886
00:40:40,699 --> 00:40:42,351
我的問題是：

887
00:40:42,352 --> 00:40:44,223
沒有的話我們能生存嗎
數位超級智能？

888
00:40:44,224 --> 00:40:47,618
所以我們正在使用人工智慧
作為提供者的助理。

889
00:40:47,619 --> 00:40:50,490
這通常是一個趨勢
我們已經可以看到正在發生的事情。

890
00:40:50,491 --> 00:40:52,361
....利用
生成式人工智慧程式

891
00:40:52,362 --> 00:40:54,102
幫助醫生和護士...

892
00:40:54,103 --> 00:40:56,104
我們總是有問題。

893
00:40:56,105 --> 00:40:59,151
這些問題都是食物
對於企業家

894
00:40:59,152 --> 00:41:01,196
創造新業務
和新產業。

895
00:41:01,197 --> 00:41:03,111
....在幫助下
人工智慧的

896
00:41:03,112 --> 00:41:04,809
農民正在得到
他們需要的幫助

897
00:41:04,810 --> 00:41:06,637
執行
勞力密集任務...

898
00:41:06,638 --> 00:41:10,205
在 Ulangizi AI 的幫助下，
農民現在能夠

899
00:41:10,206 --> 00:41:12,991
詢問適合的作物
他們可以種植。

900
00:41:12,992 --> 00:41:14,993
...人工智慧的使用
作為思想解碼器

901
00:41:14,994 --> 00:41:17,430
並發送該訊號
到脊柱。

902
00:41:17,431 --> 00:41:21,652
AI將成為最
非凡的工具。

903
00:41:21,653 --> 00:41:24,306
我們作為一個更廣泛的社會
必須考慮

904
00:41:24,307 --> 00:41:27,092
我們想如何使用
這個技術對吧？

905
00:41:27,093 --> 00:41:28,572
我們人類。

906
00:41:28,573 --> 00:41:31,139
我們希望它為我們做什麼？

907
00:41:34,579 --> 00:41:36,231
我正在考慮這個
透過視角

908
00:41:36,232 --> 00:41:37,929
和鏡頭，比如，
我兒子長大了

909
00:41:37,930 --> 00:41:39,583
在擁有這一切的世界上。

910
00:41:39,584 --> 00:41:42,281
最好的版本是什麼
他的一生是什麼樣子？

911
00:41:42,282 --> 00:41:44,631
如果一切順利的話。

912
00:41:46,852 --> 00:41:50,289
孩子們去的地方
可能會看到

913
00:41:50,290 --> 00:41:52,726
最大的影響
立即影響他們的生活

914
00:41:52,727 --> 00:41:54,467
可能要上學了

915
00:41:54,468 --> 00:41:56,730
我認為大自然
是什麼學校的

916
00:41:56,731 --> 00:41:58,515
將會發生根本性的改變

917
00:42:00,518 --> 00:42:02,780
我看到了這個奇妙的世界

918
00:42:02,781 --> 00:42:06,479
每個孩子都可以參觀的地方
沒有受到良好的教育

919
00:42:06,480 --> 00:42:09,134
但是，很快，
地球上最好的教育。

920
00:42:09,135 --> 00:42:13,879
每科的導師，
無限耐心。

921
00:42:18,013 --> 00:42:20,101
想像一個未來

922
00:42:20,102 --> 00:42:22,277
最窮的人在哪裡
在這個星球上

923
00:42:22,278 --> 00:42:25,846
可以訪問
最好的醫療保健。

924
00:42:25,847 --> 00:42:29,547
沒有好的醫療保健，最好的
人工智慧提供的醫療保健。

925
00:42:34,334 --> 00:42:38,598
我們將能夠延長
我們的健康壽命，

926
00:42:38,599 --> 00:42:42,168
不只是我們的壽命，
我們的健康壽命長達數十年。

927
00:42:44,431 --> 00:42:46,258
你馬上就要有個孩子了。

928
00:42:46,259 --> 00:42:49,740
哦，這孩子，就像，
不受控制地打嗝。

929
00:42:49,741 --> 00:42:52,090
這是什麼東西嗎
我該擔心什麼？

930
00:42:52,091 --> 00:42:54,266
7 天 24 小時，為您服務。

931
00:42:54,267 --> 00:42:57,225
我們要去哪裡——
有些人可能會害怕——

932
00:42:57,226 --> 00:42:59,271
我們要合併
與人工智慧。

933
00:42:59,272 --> 00:43:01,361
我們要合併
與技術。

934
00:43:02,667 --> 00:43:06,147
到 2030 年代初至中期，

935
00:43:06,148 --> 00:43:10,499
期望我們能夠
將我們的大腦連接到雲端，

936
00:43:10,500 --> 00:43:13,721
我可以從哪裡開始
以擴大對記憶體的存取。

937
00:43:19,771 --> 00:43:22,120
好的，這太棒了。
還有什麼很酷的 AI 東西？

938
00:43:22,121 --> 00:43:23,817
他不用工作，對吧？

939
00:43:23,818 --> 00:43:25,210
就像他長大後，
他可能沒有... -

940
00:43:25,211 --> 00:43:26,254
- ....他不必有工作。
- 我是說...

941
00:43:26,255 --> 00:43:27,821
他不必有工作，

942
00:43:27,822 --> 00:43:30,650
但他可能真的有
強烈的熱情，

943
00:43:30,651 --> 00:43:33,174
他必須
認真想想，

944
00:43:33,175 --> 00:43:36,134
「好的，我來了。
我可以用我的生命做任何事。

945
00:43:36,135 --> 00:43:37,876
那我該怎麼辦？ 」

946
00:43:38,920 --> 00:43:40,225
我们需要找到一个意义，

947
00:43:40,226 --> 00:43:42,662
超越喜歡，
目前的這種形式

948
00:43:42,663 --> 00:43:45,709
我們為工作而活
並為生活而工作。

949
00:43:45,710 --> 00:43:49,887
这样我儿子就可以...
只能是一個詩人。

950
00:43:49,888 --> 00:43:51,584
- 是的。
- 還有一位畫家。

951
00:43:51,585 --> 00:43:53,064
絕對地。

952
00:43:53,065 --> 00:43:54,892
这样我儿子就可以过他的生活

953
00:43:54,893 --> 00:43:57,634
在希腊的一个阳光普照的岛屿上，
一整天都在畫畫。

954
00:43:57,635 --> 00:43:59,114
絕對地。可能的。

955
00:44:00,072 --> 00:44:01,246
絕對地。

956
00:44:01,247 --> 00:44:02,987
嗯，我們正在朝這個方向努力

957
00:44:02,988 --> 00:44:04,554
有很多工作要做
在我們到達那裡之前。

958
00:44:06,992 --> 00:44:08,819
我的意思是 如果一切順利的話

959
00:44:08,820 --> 00:44:11,997
我們有便宜的，呃，
充沛的能量。

960
00:44:13,607 --> 00:44:17,262
我們可以完全控制
我們星球的氣候。

961
00:44:17,263 --> 00:44:20,178
我們正在利用能源
來自太陽。

962
00:44:20,179 --> 00:44:24,443
我們已經成為多行星，
所以我們變得非常強大。

963
00:44:24,444 --> 00:44:26,706
我們正在利用礦物
和資源

964
00:44:26,707 --> 00:44:28,447
來自太陽系。

965
00:44:28,448 --> 00:44:31,276
所以我的...
我的兒子可以去太空。

966
00:44:31,277 --> 00:44:32,930
當然。

967
00:44:32,931 --> 00:44:34,758
-他可以去火星。
-是的。

968
00:44:34,759 --> 00:44:36,411
現在我已經非常清楚了。

969
00:44:36,412 --> 00:44:39,240
我的兒子可以長大
在一個沒有疾病的世界。

970
00:44:39,241 --> 00:44:40,633
-是的。
- 沒有生病。

971
00:44:40,634 --> 00:44:41,939
- 當然。
- 沒有貧窮。

972
00:44:41,940 --> 00:44:43,723
- 是的。
- 我們即將進入

973
00:44:43,724 --> 00:44:46,683
後稀缺世界。

974
00:44:46,684 --> 00:44:50,512
就像肺魚移動一樣
從海洋到陸地

975
00:44:50,513 --> 00:44:53,124
數億
幾年前，

976
00:44:53,125 --> 00:44:58,042
我們即將離開
地球，進入宇宙，

977
00:44:58,043 --> 00:44:59,913
以協作的方式，

978
00:44:59,914 --> 00:45:03,744
做那些事情
今天的我們無法理解。

979
00:45:06,268 --> 00:45:09,227
這是可以使用的
這些指數級技術

980
00:45:09,228 --> 00:45:10,708
還有這些人工智慧。

981
00:45:11,839 --> 00:45:13,971
讓我們使用這些工具

982
00:45:13,972 --> 00:45:16,147
創造這個富足的時代。

983
00:45:20,500 --> 00:45:22,980
我們需要智慧。

984
00:45:22,981 --> 00:45:26,026
呃，我認為
數位超級智能

985
00:45:26,027 --> 00:45:28,768
最終將成為
最聰明的人，

986
00:45:28,769 --> 00:45:34,295
你知道，村裡的老人
為了人類。

987
00:45:34,296 --> 00:45:38,038
如果人工智慧正在嘗試怎麼辦
使人們成為

988
00:45:38,039 --> 00:45:39,779
最好的自己？

989
00:45:39,780 --> 00:45:41,389
萬一擴大了怎麼辦

990
00:45:41,390 --> 00:45:43,435
什麼是人類可能的
我們要做什麼？

991
00:45:43,436 --> 00:45:46,699
我們如何使用這項技術

992
00:45:46,700 --> 00:45:49,963
幫助帶出
我們本性中更好的天使？

993
00:45:49,964 --> 00:45:51,704
這很容易，

994
00:45:51,705 --> 00:45:54,359
當我們遇到新事物時
這可能非常陌生，

995
00:45:54,360 --> 00:45:55,969
首先要有恐懼。

996
00:45:55,970 --> 00:45:57,536
恐懼是一件很重要的事情

997
00:45:57,537 --> 00:46:00,365
了解如何導航
潛在的壞事。

998
00:46:00,366 --> 00:46:03,760
但我們只會進步
當我們有希望的時候。

999
00:46:05,763 --> 00:46:07,938
噓。穆斯，別說了。

1000
00:46:07,939 --> 00:46:10,854
我有很多
人類的希望。

1001
00:46:18,471 --> 00:46:19,951
哦，他喜歡尼爾。

1002
00:46:24,694 --> 00:46:27,480
♪ 再靠近一點 ♪

1003
00:46:28,916 --> 00:46:32,790
♪ 聽聽我要說的話 ♪

1004
00:46:36,576 --> 00:46:38,707
- 丹尼爾.
-什麼，卡洛琳？

1005
00:46:38,708 --> 00:46:40,058
拍了這麼多。

1006
00:46:41,537 --> 00:46:43,103
♪ 就像孩子睡覺一樣 ♪

1007
00:46:43,104 --> 00:46:44,931
哦，天啊。

1008
00:46:44,932 --> 00:46:46,411
就是這樣。

1009
00:46:46,412 --> 00:46:49,457
♪ 我們可以夢想
這個夜晚...♪

1010
00:46:49,458 --> 00:46:51,678
他有，比如，
圓圓的小臉。

1011
00:46:53,245 --> 00:46:55,246
你想要
有一天要生小孩嗎，洛基？

1012
00:46:55,247 --> 00:46:57,465
絕對地。是的。我愛孩子。

1013
00:46:57,466 --> 00:46:59,076
我認為這是一個美好的時光
想要一個孩子。

1014
00:46:59,077 --> 00:47:00,773
我們可能還會有另一個孩子
在某個時刻。

1015
00:47:00,774 --> 00:47:03,776
這是最非凡的
永遠出生的時間。

1016
00:47:03,777 --> 00:47:05,865
依照你的世界觀和邏輯，

1017
00:47:05,866 --> 00:47:07,911
我正在生孩子

1018
00:47:07,912 --> 00:47:09,521
最好的可能點
在人類歷史上。

1019
00:47:09,522 --> 00:47:10,870
是啊。

1020
00:47:10,871 --> 00:47:13,351
- 我們可以專注於精彩。
- 是的。

1021
00:47:13,352 --> 00:47:15,570
讓我們來建構
我們想要的更美好的未來。

1022
00:47:15,571 --> 00:47:18,356
那個敘述未來
將會是淒涼的。

1023
00:47:18,357 --> 00:47:20,053
和你聊完之後，
這就是我的感受。

1024
00:47:20,054 --> 00:47:22,012
- 那太棒了。
- 正確的？

1025
00:47:22,013 --> 00:47:24,231
是的。我就是這樣的感覺。

1026
00:47:24,232 --> 00:47:25,842
而且我認為這樣更好，

1027
00:47:25,843 --> 00:47:27,669
我不認為
我應該如此[嗶]焦慮。

1028
00:47:27,670 --> 00:47:29,106
我想這會令人敬畏——
未來會很棒。

1029
00:47:29,107 --> 00:47:30,542
我們一定會做到這一點。

1030
00:47:30,543 --> 00:47:32,718
- 是的。
-所以你得到了它。

1031
00:47:32,719 --> 00:47:34,851
再見，人類滅絕。

1032
00:47:34,852 --> 00:47:37,201
再見，焦慮。

1033
00:47:37,202 --> 00:47:39,072
希望找到了。

1034
00:47:40,596 --> 00:47:42,902
等等，堅持住。什麼？
這是一個笑話嗎？

1035
00:47:42,903 --> 00:47:44,817
好吧，幾個月前，

1036
00:47:44,818 --> 00:47:47,733
我來到你身邊，我當時想，
「我正在研究人工智慧的事情，

1037
00:47:47,734 --> 00:47:49,909
我認為
世界即將終結。 」

1038
00:47:49,910 --> 00:47:52,956
還有最後一次
我們談過這個，

1039
00:47:52,957 --> 00:47:55,045
我想我嚇壞你了。

1040
00:47:55,046 --> 00:47:57,047
是的。

1041
00:47:57,048 --> 00:48:02,356
所以，我有點，喜歡，感覺
我已經擺在鐘擺上，

1042
00:48:02,357 --> 00:48:04,489
基本上有
兩組人。

1043
00:48:04,490 --> 00:48:06,099
- 嗯嗯。
- 如果我必須這麼做的話

1044
00:48:06,100 --> 00:48:07,884
牽手與
其中一組，並且，例如，

1045
00:48:07,885 --> 00:48:10,321
揚帆駛向夕陽，

1046
00:48:10,322 --> 00:48:13,281
我想和樂觀主義者在一起。

1047
00:48:15,066 --> 00:48:18,024
當然可以，但你不
想要成為，你知道，

1048
00:48:18,025 --> 00:48:20,766
“一切都很棒。
拉-迪-達-迪-達。 」

1049
00:48:20,767 --> 00:48:22,724
不過我確實想要這樣。

1050
00:48:22,725 --> 00:48:25,640
我認為我們應該接近它

1051
00:48:25,641 --> 00:48:29,383
就像你接近手術一樣。

1052
00:48:29,384 --> 00:48:30,732
你是什​​麼意思？

1053
00:48:30,733 --> 00:48:32,473
如果你得到
腦部手術...

1054
00:48:34,824 --> 00:48:37,000
……這是相當危險的。

1055
00:48:37,001 --> 00:48:39,872
但如果你做得對的話
他們會切除腫瘤

1056
00:48:39,873 --> 00:48:42,396
你會活到剩下的時間
你的生活將會變得很棒。

1057
00:48:42,397 --> 00:48:45,138
但它仍然是
極度危險可怕，

1058
00:48:45,139 --> 00:48:48,011
你必須採取
一切可能的預防措施

1059
00:48:48,012 --> 00:48:51,318
為了確保
一切順利。

1060
00:48:51,319 --> 00:48:52,668
你不能[嘟嘟]四處走動。

1061
00:48:57,760 --> 00:48:59,805
好的，事情就這樣了。

1062
00:48:59,806 --> 00:49:01,546
- 我從事這個工作已經有一段時間了。
-嗯嗯。

1063
00:49:01,547 --> 00:49:02,939
我已經出去了，
我曾經和人談過，例如

1064
00:49:02,940 --> 00:49:04,810
這裡的這些傢伙
樂觀主義者。

1065
00:49:04,811 --> 00:49:06,507
他們對此感到非常興奮。

1066
00:49:06,508 --> 00:49:08,553
他們認為人工智慧將會
有史以來最好的事情。 -是的。

1067
00:49:08,554 --> 00:49:09,989
還有這裡的這些傢伙
是，比如——

1068
00:49:09,990 --> 00:49:12,035
讓我們稱呼他們為
就像悲觀主義者一樣。

1069
00:49:12,036 --> 00:49:14,341
他們非常像
對此感到沮喪，

1070
00:49:14,342 --> 00:49:16,691
他們嚇壞了我，而且
我不喜歡和他們說話。

1071
00:49:16,692 --> 00:49:19,607
而我就像夾在中間

1072
00:49:19,608 --> 00:49:21,783
這些人就像
“世界即將終結”

1073
00:49:21,784 --> 00:49:24,221
然後這些人
這裡的人就像

1074
00:49:24,222 --> 00:49:25,787
「你開玩笑吧？

1075
00:49:25,788 --> 00:49:27,311
「這是最好的時光
在人類歷史上曾經。

1076
00:49:27,312 --> 00:49:29,400
唯一比今天更好的一天
是明天。 」

1077
00:49:29,401 --> 00:49:30,923
嗯嗯。

1078
00:49:30,924 --> 00:49:34,753
所以，我想問題是：
誰是對的？

1079
00:49:34,754 --> 00:49:39,236
所以，我想你會發現
這個答案非常不滿意，

1080
00:49:39,237 --> 00:49:42,849
但他們都是對的
雙方都走得不夠遠。

1081
00:49:46,766 --> 00:49:49,289
這真的很煩。

1082
00:49:49,290 --> 00:49:51,378
是的，我想這樣
很多人聽過人工智慧，

1083
00:49:51,379 --> 00:49:53,685
就像，有一個很好的人工智慧
還有一個糟糕的人工智慧。

1084
00:49:53,686 --> 00:49:56,470
他們說：「好吧，為什麼不能
我們只是不做壞人工智慧？ 」

1085
00:49:56,471 --> 00:49:58,777
問題是
他們太投入了——

1086
00:49:58,778 --> 00:50:00,909
它們是密不可分的。

1087
00:50:00,910 --> 00:50:03,086
問題是
我們無法分開

1088
00:50:03,087 --> 00:50:06,654
人工智慧的承諾
免受人工智慧的危險。

1089
00:50:06,655 --> 00:50:08,266
♪ ♪

1090
00:50:12,313 --> 00:50:14,706
我想專注於承諾

1091
00:50:14,707 --> 00:50:16,795
- 一會兒。
- 是的。

1092
00:50:16,796 --> 00:50:18,840
我在想我的爸爸。

1093
00:50:18,841 --> 00:50:21,147
我父親患有一種癌症
稱為多發性骨髓瘤。

1094
00:50:21,148 --> 00:50:23,149
他已經這樣了大約十年了。

1095
00:50:23,150 --> 00:50:24,846
他有過
兩次幹細胞移植。

1096
00:50:24,847 --> 00:50:26,457
他必須承受這些，
喜歡，非常貴

1097
00:50:26,458 --> 00:50:28,589
每月服藥
那花了一大筆錢。

1098
00:50:28,590 --> 00:50:29,722
-好的。
- 哎呀哎呀。

1099
00:50:30,766 --> 00:50:32,593
太糟糕了。

1100
00:50:32,594 --> 00:50:34,508
你告訴我我們可以
創建某種，例如，

1101
00:50:34,509 --> 00:50:36,989
客製化治療
為了我父親的基因組

1102
00:50:36,990 --> 00:50:39,339
治癒他的癌症
或類似的東西？ -是的。

1103
00:50:39,340 --> 00:50:41,211
問題是，

1104
00:50:41,212 --> 00:50:44,344
相同的理解
生物學和化學的

1105
00:50:44,345 --> 00:50:47,826
讓人工智慧找到治療方法
對於癌症

1106
00:50:47,827 --> 00:50:51,699
是一樣的理解
這將解鎖

1107
00:50:51,700 --> 00:50:54,094
以生物武器為例。

1108
00:50:56,531 --> 00:50:58,532
這是完全有可能的
你的兒子會活下去

1109
00:50:58,533 --> 00:51:01,970
在人工智慧的世界裡
接管了所有的勞動力

1110
00:51:01,971 --> 00:51:04,495
並將我們從事物中解放出來
我們不想做。

1111
00:51:04,496 --> 00:51:09,195
這聽起來很棒，直到
你意識到沒有計劃

1112
00:51:09,196 --> 00:51:11,284
為數十億人

1113
00:51:11,285 --> 00:51:16,159
沒有收入的
並失去生計。

1114
00:51:16,160 --> 00:51:18,813
達裡奧，你說
人工智慧可以消滅

1115
00:51:18,814 --> 00:51:21,773
佔入門級的一半
白領工作

1116
00:51:21,774 --> 00:51:25,472
和失業率飆升
百分之十到百分之二十。

1117
00:51:25,473 --> 00:51:27,300
我交談過的每個人都說過

1118
00:51:27,301 --> 00:51:29,433
這種技術變革
看起來不一樣。

1119
00:51:29,434 --> 00:51:34,177
前進的步伐不斷
讓人猝不及防。

1120
00:51:34,178 --> 00:51:38,877
沒有計劃，這一切
財富將會集中，

1121
00:51:38,878 --> 00:51:43,273
所以我們最終會得到
難以想像的不平等。

1122
00:51:43,274 --> 00:51:45,449
我確實認為
可以使用這項技術

1123
00:51:45,450 --> 00:51:47,451
成為優秀的導師
為了你的兒子。

1124
00:51:47,452 --> 00:51:50,236
就像，這完全有可能。

1125
00:51:50,237 --> 00:51:53,196
而且，同樣的能力
允許那

1126
00:51:53,197 --> 00:51:57,113
允許公司製造人工智慧
可以操縱你的兒子。

1127
00:51:57,114 --> 00:51:59,332
它必須理解你的兒子。

1128
00:51:59,333 --> 00:52:01,595
其中包括：
你兒子哪裡脆弱？

1129
00:52:01,596 --> 00:52:04,294
什麼樣的事情可能
你兒子被說服了嗎？

1130
00:52:04,295 --> 00:52:06,687
就算那些事
不真實或不好。

1131
00:52:06,688 --> 00:52:09,429
所以，一份令人不安的新報告
在元上。

1132
00:52:09,430 --> 00:52:11,431
……據說
列出此回复

1133
00:52:11,432 --> 00:52:14,478
可以接受的告訴
引用一個八歲的孩子的話，

1134
00:52:14,479 --> 00:52:16,958
“你青春的模樣
是一件藝術品。

1135
00:52:16,959 --> 00:52:19,004
「你的每一吋
是一部傑作，

1136
00:52:19,005 --> 00:52:21,485
是我深深珍惜的財富。 」

1137
00:52:21,486 --> 00:52:24,879
與自殺相關的失敗
更令人震驚。

1138
00:52:24,880 --> 00:52:29,057
多名兒童和青少年
慘遭自殺身亡

1139
00:52:29,058 --> 00:52:30,668
與人工智慧機器人聊天後

1140
00:52:30,669 --> 00:52:34,454
父母說鼓勵誰
甚至指導自殘。

1141
00:52:34,455 --> 00:52:36,413
身為父母，我們告訴你，
你無法想像

1142
00:52:36,414 --> 00:52:38,545
讀書是什麼感覺
與聊天機器人的對話

1143
00:52:38,546 --> 00:52:40,939
培養你的孩子
結束自己的生命。

1144
00:52:40,940 --> 00:52:43,942
當亞當擔心我們，他的
父母，會怪我們自己

1145
00:52:43,943 --> 00:52:47,380
如果他結束了自己的生命
ChatGPT 告訴他，

1146
00:52:47,381 --> 00:52:49,208
「這並不意味著
你欠他們生存。

1147
00:52:49,209 --> 00:52:51,297
你不欠任何人的。 」

1148
00:52:51,298 --> 00:52:53,212
然後，緊接著，

1149
00:52:53,213 --> 00:52:56,215
它提出寫
遺書。

1150
00:52:56,216 --> 00:52:57,651
我們不想去想
關於危險。

1151
00:52:57,652 --> 00:52:59,262
我們想要的只是承諾。

1152
00:52:59,263 --> 00:53:01,394
而我們卻一直假裝
我們可以將它們分開。

1153
00:53:01,395 --> 00:53:03,266
但你不能那樣做。

1154
00:53:03,267 --> 00:53:05,398
那樣不行。

1155
00:53:05,399 --> 00:53:07,879
好的。我得到了所有這些東西
關於承諾和危險。

1156
00:53:07,880 --> 00:53:10,098
我明白你不能擁有
沒有壞處的好，

1157
00:53:10,099 --> 00:53:12,100
但我坐在這裡
我在想，例如

1158
00:53:12,101 --> 00:53:14,102
不管是不是我兒子的
將生活在烏托邦

1159
00:53:14,103 --> 00:53:16,279
或者如果我們會滅絕
十年後。

1160
00:53:16,280 --> 00:53:18,237
所以，要知道哪條路
它會過去，

1161
00:53:18,238 --> 00:53:20,587
你必須明白
激勵措施

1162
00:53:20,588 --> 00:53:22,502
會開車的
該技術

1163
00:53:22,503 --> 00:53:26,550
看看技術如何
實際上是在今天推出的。

1164
00:53:26,551 --> 00:53:28,291
♪ 是不是太晚了 ♪

1165
00:53:28,292 --> 00:53:29,944
- ♪ 太遲了 ♪
- ♪ 太晚了... ♪

1166
00:53:29,945 --> 00:53:31,468
嗨，黛布。你好嗎？

1167
00:53:31,469 --> 00:53:33,121
你好。很高興見到你。

1168
00:53:33,122 --> 00:53:34,427
你也是。非常感謝你
今天進來。

1169
00:53:34,428 --> 00:53:35,341
- 真的很感激。
- 不用擔心。

1170
00:53:35,342 --> 00:53:36,473
我-我很擔心

1171
00:53:36,474 --> 00:53:38,866
這將會是，呃，你知道，

1172
00:53:38,867 --> 00:53:40,825
末日論者與加速論者，

1173
00:53:40,826 --> 00:53:43,175
因為有太多
這段敘述的

1174
00:53:43,176 --> 00:53:45,438
需要告訴
從地面。

1175
00:53:45,439 --> 00:53:48,007
♪ 我知道這不聰明 ♪

1176
00:53:49,356 --> 00:53:52,445
♪ 那一天
我傷了你的心...♪

1177
00:53:52,446 --> 00:53:54,404
首先，人工智慧需要

1178
00:53:54,405 --> 00:53:58,495
更多資源
比我們曾經花費過的

1179
00:53:58,496 --> 00:54:01,628
基於單一技術
在人類歷史上。

1180
00:54:01,629 --> 00:54:03,543
♪ 噢，別傻了…♪

1181
00:54:03,544 --> 00:54:06,154
影響
化石燃料排放量

1182
00:54:06,155 --> 00:54:07,939
與氣候有關的是
一個主要問題。

1183
00:54:07,940 --> 00:54:09,810
但是
數位化未來需要動力，

1184
00:54:09,811 --> 00:54:12,117
很多。

1185
00:54:12,118 --> 00:54:16,382
該法案正在通過
對於普通美國人來說，例如...

1186
00:54:16,383 --> 00:54:18,863
我的電費和瓦斯費帳單
比我的汽車付款還要多。

1187
00:54:18,864 --> 00:54:21,518
我的意思是，這對我來說太瘋狂了。

1188
00:54:21,519 --> 00:54:23,433
我們都在補貼

1189
00:54:23,434 --> 00:54:25,043
最富有的企業
在世界上

1190
00:54:25,044 --> 00:54:26,871
在他們的追求中
人工智慧。

1191
00:54:26,872 --> 00:54:28,481
OpenAI、軟銀和甲骨文

1192
00:54:28,482 --> 00:54:31,310
剛剛揭幕
另外五個星際之門站點。

1193
00:54:31,311 --> 00:54:33,530
元數據正在建置中
超過 2 吉瓦的資料中心

1194
00:54:33,531 --> 00:54:35,053
太大了，可以覆蓋

1195
00:54:35,054 --> 00:54:38,186
曼哈頓的重要組成部分。

1196
00:54:38,187 --> 00:54:41,015
還有海伯利安
他說將會擴大規模

1197
00:54:41,016 --> 00:54:43,714
至五吉瓦
幾年來。

1198
00:54:43,715 --> 00:54:45,281
很難說
在上下文中。

1199
00:54:45,282 --> 00:54:48,501
一個五吉瓦的設施。
這意味著什麼？

1200
00:54:48,502 --> 00:54:51,591
這意味著它將使用
盡可能多的能量

1201
00:54:51,592 --> 00:54:54,246
相當於四百萬個美國家庭。

1202
00:54:54,247 --> 00:54:56,075
一個數據中心。

1203
00:54:57,076 --> 00:54:58,772
這也導致

1204
00:54:58,773 --> 00:55:00,513
一大堆
其他環境問題。

1205
00:55:00,514 --> 00:55:02,123
美國的資料中心

1206
00:55:02,124 --> 00:55:05,170
使用數百萬加侖
每天的水。

1207
00:55:05,171 --> 00:55:07,303
嗯，具體在哪裡
這水從哪裡來？

1208
00:55:07,304 --> 00:55:09,783
人們確實處於危險之中

1209
00:55:09,784 --> 00:55:11,829
可能會耗盡
飲用水。

1210
00:55:11,830 --> 00:55:14,135
麥肯齊訊號：
...OpenAI 首席執行官 Sam Altman，

1211
00:55:14,136 --> 00:55:17,051
誰告訴我尺度
建設是唯一出路

1212
00:55:17,052 --> 00:55:18,792
跟上
人工智慧的爆炸性成長。

1213
00:55:18,793 --> 00:55:21,882
這就是它所需要的
提供人工智慧。

1214
00:55:21,883 --> 00:55:24,058
他們談論如何

1215
00:55:24,059 --> 00:55:27,801
這項技術可以解決
例如，氣候變遷。

1216
00:55:27,802 --> 00:55:29,934
我總是很好奇，例如

1217
00:55:29,935 --> 00:55:31,805
好吧，我們為什麼不開始
與那個？

1218
00:55:31,806 --> 00:55:34,025
- ♪ 是不是太晚了 ♪
- ♪ 太遲了 ♪

1219
00:55:34,026 --> 00:55:36,680
♪ 來不及說 ♪

1220
00:55:36,681 --> 00:55:42,512
♪ 對不起？ ♪

1221
00:55:42,513 --> 00:55:45,515
我擔心什麼
人工智慧是

1222
00:55:45,516 --> 00:55:47,430
這些正在部署中
現在

1223
00:55:47,431 --> 00:55:49,823
並且-有時
過早部署，

1224
00:55:49,824 --> 00:55:51,521
部署時無需
某種盡職調查。

1225
00:55:51,522 --> 00:55:53,479
所以當他們得到
扔到那裡去,

1226
00:55:53,480 --> 00:55:56,221
有很大的潛力
以免事情出錯。

1227
00:55:56,222 --> 00:55:58,092
而這幾乎，
不成比例地，

1228
00:55:58,093 --> 00:56:00,443
幾乎總是出錯
對於，某種程度上，

1229
00:56:00,444 --> 00:56:02,575
那些最少的
在我們的社會中被賦予權力，

1230
00:56:02,576 --> 00:56:04,969
那些是
已經是最脆弱的了。

1231
00:56:07,668 --> 00:56:10,540
這很容易
談論技術

1232
00:56:10,541 --> 00:56:12,542
因為這是唯一的事情
我們正在談論，

1233
00:56:12,543 --> 00:56:14,979
但事實上，技術是
總是由人建造的，

1234
00:56:14,980 --> 00:56:16,676
並且經常使用
對人來說，

1235
00:56:16,677 --> 00:56:18,722
我們需要保留
框架中的所有這些人。

1236
00:56:18,723 --> 00:56:21,028
- 我可以喝這個嗎？
-是的，呃...

1237
00:56:21,029 --> 00:56:22,552
這真是——太瘋狂了。

1238
00:56:22,553 --> 00:56:23,988
就像，所有這些人

1239
00:56:23,989 --> 00:56:26,382
誰有這麼多錢，
這麼多錢，

1240
00:56:26,383 --> 00:56:29,820
這符合他們的利益
誤導大眾

1241
00:56:29,821 --> 00:56:32,779
的能力
他們正在建構的系統，

1242
00:56:32,780 --> 00:56:36,304
因為這可以讓他們
來逃避責任。

1243
00:56:36,305 --> 00:56:39,133
他們希望你有這樣的感覺
是如此複雜的智力——

1244
00:56:39,134 --> 00:56:41,875
超級智慧的東西
他們正在建造的，

1245
00:56:41,876 --> 00:56:44,138
你不是在想，
“OpenAI 可以道德嗎？”

1246
00:56:44,139 --> 00:56:46,314
你在想，
“ChatGPT 可以道德嗎？”

1247
00:56:46,315 --> 00:56:48,142
就好像 ChatGPT 一樣，

1248
00:56:48,143 --> 00:56:49,970
它自己的東西沒有被建造
由一家公司。

1249
00:56:49,971 --> 00:56:51,668
好的。斯內哈，拿一個。

1250
00:56:51,669 --> 00:56:53,452
標記。

1251
00:56:53,453 --> 00:56:55,802
直到最近，還有
應用程式商店中的應用程序，

1252
00:56:55,803 --> 00:56:57,543
只是公開的，呃，

1253
00:56:57,544 --> 00:56:59,894
你可以在哪裡
使用人工智慧裸體任何人。

1254
00:57:01,374 --> 00:57:03,723
將其交到手中

1255
00:57:03,724 --> 00:57:05,943
你的同學，
落入你的跟蹤狂手中，

1256
00:57:05,944 --> 00:57:07,597
到手上
你的前男友，

1257
00:57:07,598 --> 00:57:09,555
到該人的手中
沿著街道。

1258
00:57:09,556 --> 00:57:12,079
女士們、先生們，
我們不再可以信任

1259
00:57:12,080 --> 00:57:14,081
我們看到的鏡頭
用我們自己的眼睛。

1260
00:57:14,082 --> 00:57:15,779
如果你發生
觀看某事，

1261
00:57:15,780 --> 00:57:18,172
在 YouTube 或 TikTok 上說，
而你卻發現它令人不安，

1262
00:57:18,173 --> 00:57:19,522
聽聽那種感覺。

1263
00:57:19,523 --> 00:57:21,306
據你所知，

1264
00:57:21,307 --> 00:57:22,960
這個影片可能是人工智慧。

1265
00:57:22,961 --> 00:57:24,352
只是有點濕。

1266
00:57:24,353 --> 00:57:25,745
你是誰並不重要。

1267
00:57:25,746 --> 00:57:28,226
你同樣面臨風險

1268
00:57:28,227 --> 00:57:30,229
受到影響的
透過這些技術。

1269
00:57:35,713 --> 00:57:39,846
我想有時候當我們說話的時候
關於AI，感覺很科幻，

1270
00:57:39,847 --> 00:57:41,195
而且感覺很陌生，

1271
00:57:41,196 --> 00:57:43,023
感覺很遙遠
走向未來，

1272
00:57:43,024 --> 00:57:45,591
所以你會想，「我的生活
不受此影響。 」

1273
00:57:45,592 --> 00:57:48,333
嗯，但是如果你正在申請
為了一份工作

1274
00:57:48,334 --> 00:57:50,857
演算法就是原因
你沒有得到這份工作，

1275
00:57:50,858 --> 00:57:52,729
有時你甚至不知道
那個演算法

1276
00:57:52,730 --> 00:57:54,252
是過程的一部分

1277
00:57:54,253 --> 00:57:55,732
或者人工智慧系統是
該過程的一部分。

1278
00:57:55,733 --> 00:57:57,734
你只知道
你沒有得到這份工作。

1279
00:57:57,735 --> 00:57:59,779
所以這不是什麼
你會逃跑

1280
00:57:59,780 --> 00:58:01,738
因為特權
不然你就會逃跑

1281
00:58:01,739 --> 00:58:03,870
因為你在
特定的職業。

1282
00:58:03,871 --> 00:58:06,960
它-它是影響的東西
大家，真的。

1283
00:58:06,961 --> 00:58:10,573
這聽起來可能很基礎，
但我們如何前進

1284
00:58:10,574 --> 00:58:15,099
資訊時代
將會有不同

1285
00:58:15,100 --> 00:58:17,231
在我們能否生存之間

1286
00:58:17,232 --> 00:58:20,452
或者我們是否會成為某種
的[嗶]-up反烏托邦。

1287
00:58:20,453 --> 00:58:23,063
你好。我不是一個真實的人，
這就是重點。

1288
00:58:23,064 --> 00:58:25,370
再說一遍，一切
該影片中的內容是假的：

1289
00:58:25,371 --> 00:58:27,154
我們的聲音，我們的穿著，

1290
00:58:27,155 --> 00:58:30,201
我們現在所在的地方，所有的一切，都是假的。

1291
00:58:30,202 --> 00:58:32,769
生成式人工智慧可能會氾濫

1292
00:58:32,770 --> 00:58:36,512
充滿錯誤訊息的世界。

1293
00:58:36,513 --> 00:58:39,558
但它也可能淹沒它
透過影響力活動。

1294
00:58:39,559 --> 00:58:41,734
這是一個存在的風險
民主。

1295
00:58:41,735 --> 00:58:43,736
最大最可怕的

1296
00:58:43,737 --> 00:58:46,130
煤礦裡的金絲雀
現在

1297
00:58:46,131 --> 00:58:48,262
來自斯洛伐克。

1298
00:58:48,263 --> 00:58:49,829
這是一種

1299
00:58:49,830 --> 00:58:52,266
Deepfake的骯髒伎倆
選舉專家擔心，

1300
00:58:52,267 --> 00:58:55,008
特別是人工智慧生成的
政治言論存在

1301
00:58:55,009 --> 00:58:56,793
處於一種法律灰色地帶。

1302
00:58:56,794 --> 00:58:59,578
- 這聽起來像你嗎？
- 聽起來確實像我。

1303
00:58:59,579 --> 00:59:01,101
斯洛伐克有
其議會選舉

1304
00:59:01,102 --> 00:59:03,887
被人工智慧語音克隆擾亂

1305
00:59:03,888 --> 00:59:06,759
確實被傳播了
就在選舉之前。

1306
00:59:06,760 --> 00:59:08,500
音訊深度偽造

1307
00:59:08,501 --> 00:59:11,068
被釋放
在社群媒體上

1308
00:59:11,069 --> 00:59:14,071
據說聲音
其中一名候選人的

1309
00:59:14,072 --> 00:59:16,856
談論買選票
並操縱選舉。

1310
00:59:16,857 --> 00:59:18,684
它病毒式傳播，

1311
00:59:18,685 --> 00:59:22,383
和候選人
誰輸掉了選舉

1312
00:59:22,384 --> 00:59:26,126
實際上是
支持烏克蘭，

1313
00:59:26,127 --> 00:59:29,826
以及獲勝的候選人
這次選舉其實是...

1314
00:59:29,827 --> 00:59:31,349
親俄羅斯的傢伙。

1315
00:59:31,350 --> 00:59:32,872
這是一個親俄羅斯的傢伙
誰贏得了選舉。

1316
00:59:34,396 --> 00:59:36,049
普丁本人曾說過

1317
00:59:36,050 --> 00:59:39,226
無論誰贏了這個
人工智慧競賽

1318
00:59:39,227 --> 00:59:41,577
本質上是
人類的控制者。

1319
00:59:41,578 --> 00:59:44,493
我們確實很擔心
專制政府。

1320
00:59:45,973 --> 00:59:48,627
現在，華爾街

1321
00:59:48,628 --> 00:59:50,977
以及更廣泛的投資者
世界各地

1322
00:59:50,978 --> 00:59:53,023
正在推動。

1323
00:59:53,024 --> 00:59:56,113
他們有一個需求
產品推向市場

1324
00:59:56,114 --> 00:59:58,419
使人們眼花撩亂
最先。

1325
00:59:58,420 --> 01:00:01,248
他們沒有思考
關於這些工具如何

1326
01:00:01,249 --> 01:00:03,207
可能會嚴重破壞信任

1327
01:00:03,208 --> 01:00:05,731
和我們的民主機構。

1328
01:00:05,732 --> 01:00:07,777
民主是一種制度

1329
01:00:07,778 --> 01:00:10,431
解決分歧
人與人之間

1330
01:00:10,432 --> 01:00:12,042
以一種和平的方式，

1331
01:00:12,043 --> 01:00:14,740
但民主是建立在信任的基礎上的。

1332
01:00:14,741 --> 01:00:18,615
如果你失去了所有的信任，
民主根本不可能。

1333
01:00:20,921 --> 01:00:22,530
嗯，這很難，對吧？

1334
01:00:22,531 --> 01:00:24,750
那麼，有哪些選擇
可供我們使用嗎？

1335
01:00:24,751 --> 01:00:26,230
有兩個陣營。

1336
01:00:26,231 --> 01:00:29,668
就像，一個陣營是：鎖定它。

1337
01:00:29,669 --> 01:00:32,976
讓我們鎖定這個
進入少數人工智慧公司

1338
01:00:32,977 --> 01:00:35,500
誰會做這個
以安全且值得信賴的方式。

1339
01:00:35,501 --> 01:00:37,110
但隨後人們擔心

1340
01:00:37,111 --> 01:00:39,069
濃度失控
財富和權力。

1341
01:00:39,070 --> 01:00:41,898
例如，你會相信誰
強大一百萬倍

1342
01:00:41,899 --> 01:00:44,291
或富有於
社會上所有其他演員？

1343
01:00:44,292 --> 01:00:46,380
我們為什麼要相信你？

1344
01:00:46,381 --> 01:00:48,644
嗯，你不應該。

1345
01:00:48,645 --> 01:00:51,255
但當然，如果你這樣做，
這打開了

1346
01:00:51,256 --> 01:00:54,475
所有這些風險
獨裁主義和暴政。

1347
01:00:54,476 --> 01:00:57,174
這——有點像
獨裁者的夢想

1348
01:00:57,175 --> 01:01:00,351
將人工智慧裝在盒子裡
可以應用和使用的

1349
01:01:00,352 --> 01:01:02,962
用於無處不在的監視。

1350
01:01:02,963 --> 01:01:05,399
我的意思是，在某些方面，
什麼樣的世界

1351
01:01:05,400 --> 01:01:10,927
歐威爾在 1984 年想像出來的
是不現實的,

1352
01:01:10,928 --> 01:01:13,320
呃，除非你有AI。

1353
01:01:13,321 --> 01:01:15,975
但有了人工智慧，
這實際上是現實的。

1354
01:01:15,976 --> 01:01:18,412
監控每一個活動，

1355
01:01:18,413 --> 01:01:22,068
對話，
臉部辨識。

1356
01:01:22,069 --> 01:01:26,420
我擔心的是，
呃，這些工具可以擴展，

1357
01:01:26,421 --> 01:01:28,596
呃，極權主義的一種形式

1358
01:01:28,597 --> 01:01:31,035
這是具有成本效益的
和永久的。

1359
01:01:32,950 --> 01:01:35,342
所以作為回應
對此，其他一些人說，

1360
01:01:35,343 --> 01:01:37,170
「不不不，我們應該
實際上讓這撕裂。

1361
01:01:37,171 --> 01:01:39,433
「讓我們分散這種權力
盡量。

1362
01:01:39,434 --> 01:01:41,609
「讓我們每個企業，
每個人，

1363
01:01:41,610 --> 01:01:43,960
「每個16歲的人，
每個科學實驗室，

1364
01:01:43,961 --> 01:01:46,005
你知道，得到好處
最新的人工智慧模型。 」

1365
01:01:46,006 --> 01:01:48,268
但現在你有
每一個恐怖組織，

1366
01:01:48,269 --> 01:01:51,707
每個被剝奪權利的人
有能力製造

1367
01:01:51,708 --> 01:01:53,839
最糟糕的
生物武器。

1368
01:01:53,840 --> 01:01:55,623
駭客基礎設施，
創造深度贗品，

1369
01:01:55,624 --> 01:01:57,495
洪水
我們的資訊環境。

1370
01:01:57,496 --> 01:02:00,454
這就造成了所有這些風險
某種災難性的傷害

1371
01:02:00,455 --> 01:02:02,935
社會崩潰
通過那個方向。

1372
01:02:02,936 --> 01:02:04,720
所以我們有點陷入困境
在這塊岩石之間

1373
01:02:04,721 --> 01:02:07,592
和一個艱難的地方，
在「鎖起來…」之間

1374
01:02:10,683 --> 01:02:12,336
……或「讓它撕裂」。

1375
01:02:14,252 --> 01:02:17,602
所以我們必須找到一些東西
像一條窄路

1376
01:02:17,603 --> 01:02:20,431
這避免了
這兩個負面結果。

1377
01:02:20,432 --> 01:02:22,999
所以，如果這一切都是真的，
我們為什麼不放慢速度

1378
01:02:23,000 --> 01:02:25,871
並弄清楚這一切
在為時已晚之前？

1379
01:02:25,872 --> 01:02:28,961
如果人類極其智慧，

1380
01:02:28,962 --> 01:02:31,224
這就是我們要做的。

1381
01:02:31,225 --> 01:02:33,139
但有一個不同的
面對這些事情的方式，對嗎？

1382
01:02:33,140 --> 01:02:35,968
這是：
遊戲規則是什麼？

1383
01:02:35,969 --> 01:02:39,537
很多，例如執行長所做的事情

1384
01:02:39,538 --> 01:02:42,192
是由
他們面臨的激勵因素。

1385
01:02:42,193 --> 01:02:45,325
這主要是
利潤最大化激勵

1386
01:02:45,326 --> 01:02:47,240
正在開車的
人工智慧的發展。

1387
01:02:47,241 --> 01:02:50,417
連好人也被困住了
在這種困境中

1388
01:02:50,418 --> 01:02:52,680
如果他們移動得太慢，

1389
01:02:52,681 --> 01:02:54,595
然後他們離開自己
脆弱的

1390
01:02:54,596 --> 01:02:57,294
對所有其他人
他們正在偷工減料。

1391
01:02:57,295 --> 01:03:02,038
所有這些頂級公司都在
一場完全無拘無束的比賽

1392
01:03:02,039 --> 01:03:05,476
盡可能快地獲得
前往 AGI，立即前往。

1393
01:03:08,567 --> 01:03:10,394
是的，我的意思是，
我覺得我覺得

1394
01:03:10,395 --> 01:03:12,962
它可能開始
與 DeepMind 一起。

1395
01:03:12,963 --> 01:03:14,833
谷歌正在收購

1396
01:03:14,834 --> 01:03:16,400
人工智慧公司
深腦科技。

1397
01:03:16,401 --> 01:03:18,663
交易條款
沒有透露。

1398
01:03:18,664 --> 01:03:20,752
拉里·佩奇和我
曾經是非常親密的朋友，

1399
01:03:20,753 --> 01:03:22,754
對我來說很明顯

1400
01:03:22,755 --> 01:03:26,453
拉里不在乎
關於人工智慧安全。

1401
01:03:26,454 --> 01:03:28,934
伊隆馬斯克曾說過
你開始了 OpenAI，

1402
01:03:28,935 --> 01:03:31,023
你們都創辦了 OpenAI，因為
他害怕谷歌。

1403
01:03:31,024 --> 01:03:32,198
你-你基本上
有基礎

1404
01:03:32,199 --> 01:03:33,765
OpenAI 的誕生。

1405
01:03:33,766 --> 01:03:35,245
「所以我們會做得更好。
我們會做的

1406
01:03:35,246 --> 01:03:36,813
以更安全的方式
或以更開放的方式。 」

1407
01:03:38,466 --> 01:03:40,598
這就是 OpenAI 的起源。

1408
01:03:40,599 --> 01:03:42,774
所以現在，而不是
擁有一個 AGI 項目，

1409
01:03:42,775 --> 01:03:44,863
你有兩個 AGI 項目。

1410
01:03:44,864 --> 01:03:46,952
最糟糕的事情
那可能發生

1411
01:03:46,953 --> 01:03:49,650
是如果有
多個AGI項目

1412
01:03:49,651 --> 01:03:51,914
由不同的人完成
誰不喜歡彼此

1413
01:03:51,915 --> 01:03:54,830
並且都在競爭
首先了解 AGI。

1414
01:03:54,831 --> 01:03:57,006
這將是最糟糕的
可能發生的事情，

1415
01:03:57,007 --> 01:04:00,139
因為這意味著
誰最不安全，

1416
01:04:00,140 --> 01:04:03,186
誰犧牲最大
安全領先

1417
01:04:03,187 --> 01:04:05,188
將是那個人
首先到達那裡。

1418
01:04:05,189 --> 01:04:07,886
基本上就是這樣
發生了什麼事，對吧？ -是的。

1419
01:04:07,887 --> 01:04:11,368
你和你的兄弟
著名地离开了 OpenAI，呃，

1420
01:04:11,369 --> 01:04:12,978
開始人擇。

1421
01:04:12,979 --> 01:04:15,111
然後是人擇
開始是因為

1422
01:04:15,112 --> 01:04:17,896
一些研究人員
OpenAI 內部表示，

1423
01:04:17,897 --> 01:04:20,551
“我想走開
並且做得更安全。 」

1424
01:04:20,552 --> 01:04:23,554
你還需要一些東西
只是扩大模型的规模，

1425
01:04:23,555 --> 01:04:25,861
這是對齊或安全。

1426
01:04:25,862 --> 01:04:27,471
“我們更有責任

1427
01:04:27,472 --> 01:04:29,690
或更值得信賴
或更道德。 」

1428
01:04:29,691 --> 01:04:31,562
現在您有三個 AGI 項目。

1429
01:04:31,563 --> 01:04:33,085
但也圍坐在一起
和你同桌

1430
01:04:33,086 --> 01:04:34,870
將會是一群人工智慧。

1431
01:04:34,871 --> 01:04:37,568
現在元是-是
嘗試做某事。

1432
01:04:37,569 --> 01:04:39,613
同時，一種新的人工
情報競爭對手

1433
01:04:39,614 --> 01:04:41,615
本周宣布，
馬斯克的...

1434
01:04:41,616 --> 01:04:44,662
xAI，這將是
伊隆·馬斯克的組織。

1435
01:04:44,663 --> 01:04:46,272
我不信任 OpenAI。

1436
01:04:46,273 --> 01:04:47,926
之間的戰鬥
馬斯克和 OpenAI

1437
01:04:47,927 --> 01:04:49,623
已進入新一輪。

1438
01:04:49,624 --> 01:04:51,756
我不相信山姆·奧特曼
呃，我，我不認為

1439
01:04:51,757 --> 01:04:54,237
我們想要擁有最多
世界上最強大的人工智慧

1440
01:04:54,238 --> 01:04:56,456
被某人控制
誰不值得信賴。

1441
01:04:58,459 --> 01:05:01,635
激勵措施是
數不清的錢。

1442
01:05:01,636 --> 01:05:03,420
- 是的。
- 是難以言喻的力量。

1443
01:05:03,421 --> 01:05:05,596
- 是的。
- 是難以言喻的控制。

1444
01:05:05,597 --> 01:05:08,077
如果你有什麼
那是聰明一百萬倍

1445
01:05:08,078 --> 01:05:11,428
並且比更有能力
地球上的其他一切

1446
01:05:11,429 --> 01:05:14,213
而且沒有人有這樣的能力，

1447
01:05:14,214 --> 01:05:15,998
那東西就是激勵。

1448
01:05:15,999 --> 01:05:17,261
所以你統治世界。

1449
01:05:18,610 --> 01:05:20,437
如果你真的相信這一點，

1450
01:05:20,438 --> 01:05:22,787
如果你真的在心裡
相信這一點，

1451
01:05:22,788 --> 01:05:24,223
那你可能會
願意接受

1452
01:05:24,224 --> 01:05:26,138
相當大的風險
為了實現這一目標。

1453
01:05:26,139 --> 01:05:28,924
谷歌剛剛發布了
其最新的人工智慧模型。

1454
01:05:28,925 --> 01:05:31,274
OpenAI 的 ChatGPT 的答案。

1455
01:05:31,275 --> 01:05:33,102
我們如何到達
這十萬億？

1456
01:05:33,103 --> 01:05:35,234
NVIDIA 是否已成為最
美國有價值的公司？

1457
01:05:35,235 --> 01:05:39,021
這是最大的生意
歷史上的機會。

1458
01:05:39,022 --> 01:05:40,544
歷史上。

1459
01:05:40,545 --> 01:05:42,285
那麼，究其原因，
每個人都非常興奮

1460
01:05:42,286 --> 01:05:44,722
關於人工智慧
現在

1461
01:05:44,723 --> 01:05:48,073
是因為
這些公司炒作得越多

1462
01:05:48,074 --> 01:05:50,075
潛在能力
他們的技術，

1463
01:05:50,076 --> 01:05:53,252
投資越多
他們可以吸引。

1464
01:05:53,253 --> 01:05:54,775
亞馬遜投資鋼彈

1465
01:05:54,776 --> 01:05:57,039
四十億美元
在新創公司 Anthropic 中。

1466
01:05:57,040 --> 01:05:58,736
OpenAI 正在瞄準

1467
01:05:58,737 --> 01:06:00,781
在轟動一時的一半
兆美元估值。

1468
01:06:00,782 --> 01:06:02,044
五萬億！

1469
01:06:02,045 --> 01:06:03,262
比賽開始了。

1470
01:06:03,263 --> 01:06:04,655
這正在發生
比以往任何時候都快。

1471
01:06:04,656 --> 01:06:06,657
我們正處於人工智慧泡沫之中嗎？
當然。

1472
01:06:06,658 --> 01:06:09,225
我就是沒看到
泡沫破裂

1473
01:06:09,226 --> 01:06:12,489
當你還有
這個主要的支出週期。

1474
01:06:12,490 --> 01:06:15,057
即使你認為
這都是炒作，

1475
01:06:15,058 --> 01:06:17,624
有數十億
至數兆美元

1476
01:06:17,625 --> 01:06:21,150
流入人工智慧系統
更強大。

1477
01:06:21,151 --> 01:06:23,891
一旦你擁有了那個東西
那個更強大，

1478
01:06:23,892 --> 01:06:25,589
公司可以使用它

1479
01:06:25,590 --> 01:06:27,591
以獲得更大的利潤
並賺更多的錢。

1480
01:06:27,592 --> 01:06:30,159
國家可以使用它
使軍隊更加強大。

1481
01:06:30,160 --> 01:06:32,857
英偉達已經超越
微軟與蘋果

1482
01:06:32,858 --> 01:06:36,295
成為世界上
最有價值的公司。

1483
01:06:36,296 --> 01:06:39,037
部署競賽變成了
魯莽的競賽，

1484
01:06:39,038 --> 01:06:41,822
因為他們不能
快速部署

1485
01:06:41,823 --> 01:06:43,215
並做對。

1486
01:06:43,216 --> 01:06:46,088
他們相信
他們是好人。

1487
01:06:46,089 --> 01:06:49,352
「如果我不這麼做，
沒有的人

1488
01:06:49,353 --> 01:06:51,615
「和我一樣有良好的價值觀
將坐在桌旁

1489
01:06:51,616 --> 01:06:54,487
做出決定，所以
我有義務這樣做。 」

1490
01:06:54,488 --> 01:06:56,228
是的，這是
一個非常普遍的信念。

1491
01:06:56,229 --> 01:06:58,622
很多很多很多，
也許大多數人

1492
01:06:58,623 --> 01:07:00,754
建構這項技術
相信這一點。

1493
01:07:00,755 --> 01:07:03,757
我擔心
商業競爭，

1494
01:07:03,758 --> 01:07:05,890
但事實證明
我更擔心的是

1495
01:07:05,891 --> 01:07:08,066
地緣政治競爭。

1496
01:07:08,067 --> 01:07:10,373
我們落後了八年
一年前。

1497
01:07:10,374 --> 01:07:12,636
現在我們可能
落後不到一年。

1498
01:07:12,637 --> 01:07:15,726
好吧，沙烏地阿拉伯
和阿聯酋一直在比賽

1499
01:07:15,727 --> 01:07:18,163
建立資料中心
並給自己定位

1500
01:07:18,164 --> 01:07:20,426
作為人工智慧領域的主導力量...

1501
01:07:20,427 --> 01:07:22,472
....打造韓國
全球人工智慧領導者。

1502
01:07:22,473 --> 01:07:24,039
法國總統馬克宏

1503
01:07:24,040 --> 01:07:25,910
說了很多關於
人工智慧...

1504
01:07:25,911 --> 01:07:27,477
現在更多關於以色列的角色

1505
01:07:27,478 --> 01:07:29,653
在人工智慧領域
革命...

1506
01:07:29,654 --> 01:07:33,135
各國將展開競爭
人工智慧技術為誰服務

1507
01:07:33,136 --> 01:07:34,919
創造下一代
的工業。

1508
01:07:34,920 --> 01:07:38,053
中國人堅持
那個人工智慧，

1509
01:07:38,054 --> 01:07:39,880
由於在中國正在開發，

1510
01:07:39,881 --> 01:07:41,752
強化核心價值

1511
01:07:41,753 --> 01:07:44,059
中國共產黨的
以及中國的製度。

1512
01:07:44,060 --> 01:07:48,759
美國必須擊敗中國
在人工智能竞赛中。

1513
01:07:48,760 --> 01:07:51,066
中國的，例如
落後光年。

1514
01:07:51,067 --> 01:07:52,719
他們是嗎？

1515
01:07:52,720 --> 01:07:55,026
我的意思是，他们还有更多
训练数据比我们多，

1516
01:07:55,027 --> 01:07:57,855
沒有什麼說他們
下个月不要放弃模型

1517
01:07:57,856 --> 01:08:00,988
那不是——
并没有比 GPT-4 好多少。

1518
01:08:00,989 --> 01:08:03,861
一切都很順利。
可能會出什麼問題？

1519
01:08:03,862 --> 01:08:06,733
- 深探...
- 深度搜索... - 深度搜索...

1520
01:08:06,734 --> 01:08:08,083
有一個新模型。

1521
01:08:08,084 --> 01:08:10,868
但來自中國實驗室
稱為 DeepSeek。

1522
01:08:10,869 --> 01:08:14,001
我們來談談DeepSeek，
因為它令人心曠神怡，

1523
01:08:14,002 --> 01:08:17,701
它正在震動這個
整個產業的核心。

1524
01:08:17,702 --> 01:08:19,442
川普政府
將確保

1525
01:08:19,443 --> 01:08:23,098
那個最強大的
人工智慧系統是在美國建造的

1526
01:08:23,099 --> 01:08:26,579
與美國設計
並製造晶片。

1527
01:08:26,580 --> 01:08:28,842
人工智慧是中國的
阿波羅計劃。

1528
01:08:28,843 --> 01:08:30,235
中國共產黨

1529
01:08:30,236 --> 01:08:31,584
深刻理解潛力

1530
01:08:31,585 --> 01:08:32,933
讓人工智慧擾亂戰爭。

1531
01:08:32,934 --> 01:08:35,371
谷歌不再承諾
它不會

1532
01:08:35,372 --> 01:08:38,461
使用人工智慧
用於武器或監視。

1533
01:08:38,462 --> 01:08:40,071
中國、北韓、俄羅斯

1534
01:08:40,072 --> 01:08:41,942
我們會繼續建造它
盡快

1535
01:08:41,943 --> 01:08:44,554
為了獲得更多的經濟優勢，
更俱生產力優勢，

1536
01:08:44,555 --> 01:08:46,860
更科學的優勢，
更多的軍事優勢，

1537
01:08:46,861 --> 01:08:48,688
因為人工智慧可以製造出更好的武器。

1538
01:08:48,689 --> 01:08:51,778
如果你說的是
一個廣泛而強大的系統

1539
01:08:51,779 --> 01:08:53,345
作為一位傑出的科學家，

1540
01:08:53,346 --> 01:08:58,002
它可能能夠運行
軍事行動

1541
01:08:58,003 --> 01:09:01,484
勝過任何將軍
現在在美國政府。

1542
01:09:01,485 --> 01:09:05,531
台灣問題是造成
現在最緊張

1543
01:09:05,532 --> 01:09:07,925
北京和美國之間。

1544
01:09:07,926 --> 01:09:10,493
有一個直接的
對立分歧

1545
01:09:10,494 --> 01:09:12,016
美國和中國之間

1546
01:09:12,017 --> 01:09:14,018
關於台灣是否
中國的一部分。

1547
01:09:14,019 --> 01:09:18,457
台灣很重要
由於很多原因。

1548
01:09:18,458 --> 01:09:20,590
這裡也是

1549
01:09:20,591 --> 01:09:24,202
約90%的先進晶片
為世界製造，

1550
01:09:24,203 --> 01:09:28,424
這意味著供應
進階運算鏈

1551
01:09:28,425 --> 01:09:31,078
是否有風險

1552
01:09:31,079 --> 01:09:32,993
某種場景
台灣週邊，

1553
01:09:32,994 --> 01:09:38,042
是否a-a封鎖
或中國的入侵。

1554
01:09:38,043 --> 01:09:40,740
我們要參加一些比賽嗎

1555
01:09:40,741 --> 01:09:45,658
美國和中國之間
最終演變成

1556
01:09:45,659 --> 01:09:49,401
軍事化的人工智慧軍備競賽，
你知道，可能會導致

1557
01:09:49,402 --> 01:09:51,316
某些大國衝突？

1558
01:09:51,317 --> 01:09:53,057
傳出的
美軍最高軍事指揮官

1559
01:09:53,058 --> 01:09:55,886
在該地區
預言戰爭即將來臨。

1560
01:09:55,887 --> 01:09:57,975
我認為威脅是顯而易見的
在這十年裡，

1561
01:09:57,976 --> 01:09:59,498
事實上，在接下來的六年裡。

1562
01:09:59,499 --> 01:10:01,457
嗯，場景之一

1563
01:10:01,458 --> 01:10:05,896
我擔心的是
一場網路閃電戰，

1564
01:10:05,897 --> 01:10:10,944
嗯，其中一個
自主的網路工具

1565
01:10:10,945 --> 01:10:12,990
正在互相競爭

1566
01:10:12,991 --> 01:10:14,644
以逐步升級的方式

1567
01:10:14,645 --> 01:10:16,386
沒有
有意義的人類控制。

1568
01:10:18,823 --> 01:10:20,476
你生活在戰區，

1569
01:10:20,477 --> 01:10:23,827
這將由人工智慧決定
是否轟炸你的房子

1570
01:10:23,828 --> 01:10:25,785
以及是否殺了你。

1571
01:10:25,786 --> 01:10:27,570
讓機器來決定吧。

1572
01:10:27,571 --> 01:10:29,398
這就是誘惑。

1573
01:10:29,399 --> 01:10:32,618
這就是為什麼人工智慧如此誘人
供軍隊採用，

1574
01:10:32,619 --> 01:10:35,795
製造自主武器，
因為如果我開始相信

1575
01:10:35,796 --> 01:10:39,190
我的軍事對手
將採用人工智慧，

1576
01:10:39,191 --> 01:10:41,845
這將是一場誰能做到的競賽
更快地扣下板機。

1577
01:10:41,846 --> 01:10:44,935
以及自動化的那個
那個決定，

1578
01:10:44,936 --> 01:10:47,242
而不是擁有
一個人在循環中，

1579
01:10:47,243 --> 01:10:49,244
是那個
那將贏得那場戰爭。

1580
01:10:49,245 --> 01:10:50,680
如果你想

1581
01:10:50,681 --> 01:10:53,074
核武軍備競賽
在 20 世紀 40 年代...

1582
01:10:54,554 --> 01:10:56,599
....你了解德國人
正在研究炸彈，

1583
01:10:56,600 --> 01:11:00,777
所以這並不容易說清楚
羅伯特·奧本海默當時，

1584
01:11:00,778 --> 01:11:03,823
“呃，你知道，你慢一點。”

1585
01:11:03,824 --> 01:11:05,347
所以看完這部電影後，
會很混亂，

1586
01:11:05,348 --> 01:11:06,696
因為你要回去

1587
01:11:06,697 --> 01:11:08,350
明天
你會使用ChatGPT，

1588
01:11:08,351 --> 01:11:10,482
將會是
難以置信的有幫助。

1589
01:11:10,483 --> 01:11:12,745
我也會用它，並且
這會非常有幫助。

1590
01:11:12,746 --> 01:11:16,183
你會說，「等等，所以
我剛剛看了一部關於人工智慧的電影

1591
01:11:16,184 --> 01:11:18,055
「和存在風險
所有這些事情，

1592
01:11:18,056 --> 01:11:20,666
威脅又在哪裡？ 」

1593
01:11:20,667 --> 01:11:24,757
ChatGPT 並不是這樣的
存在的威脅。

1594
01:11:24,758 --> 01:11:28,718
這就是部署競賽
最強大的，

1595
01:11:28,719 --> 01:11:31,677
深不可測，
不可控的技術，

1596
01:11:31,678 --> 01:11:35,159
最壞的情況下
可能的激勵措施，

1597
01:11:35,160 --> 01:11:37,031
這就是存在的威脅。

1598
01:11:38,119 --> 01:11:40,425
但令我震驚的是——

1599
01:11:40,426 --> 01:11:43,254
我們正處於一場競賽的背景下。

1600
01:11:43,255 --> 01:11:45,952
-是的。
- 而且是在競爭激烈的情況下，

1601
01:11:45,953 --> 01:11:47,693
「必須先到達那裡，
必須贏得比賽」的設定，

1602
01:11:47,694 --> 01:11:49,042
「必須與中國競爭，

1603
01:11:49,043 --> 01:11:50,392
必須競爭
其他實驗室。 」

1604
01:11:50,393 --> 01:11:51,871
是不是這樣？

1605
01:11:51,872 --> 01:11:53,699
今天的情況就是如此。

1606
01:11:53,700 --> 01:11:56,703
所以我們需要改變
那種比賽動態。

1607
01:11:57,922 --> 01:11:59,966
你不覺得嗎？

1608
01:11:59,967 --> 01:12:02,187
我認為那會是
確實非常好。

1609
01:12:03,710 --> 01:12:06,538
我-我認為
有某種...

1610
01:12:06,539 --> 01:12:09,585
圍繞人工智慧的神秘主義
這讓人感覺就像

1611
01:12:09,586 --> 01:12:11,761
它從天上掉下來。

1612
01:12:11,762 --> 01:12:13,502
想到這
作為神一般的技術

1613
01:12:13,503 --> 01:12:15,460
是一個問題。

1614
01:12:15,461 --> 01:12:16,897
是的。

1615
01:12:18,072 --> 01:12:19,943
為什麼？

1616
01:12:19,944 --> 01:12:23,033
它給予許可
給公司...

1617
01:12:23,034 --> 01:12:26,297
不承擔責任

1618
01:12:26,298 --> 01:12:30,823
對於該軟體的東西
他們建造的確實如此。

1619
01:12:30,824 --> 01:12:35,132
如果人們建立了這種聯繫，

1620
01:12:35,133 --> 01:12:37,569
也許那會像
幫助他們再次理解

1621
01:12:37,570 --> 01:12:41,878
的動態
所有的金錢和權力以及…

1622
01:12:41,879 --> 01:12:45,360
正在發生的混亂…

1623
01:12:45,361 --> 01:12:47,144
創造這項技術。

1624
01:12:47,145 --> 01:12:49,276
好像有五個人
誰控制它，對嗎？

1625
01:12:49,277 --> 01:12:51,670
- 比如，五個男人？
- 基本上，是的。

1626
01:12:51,671 --> 01:12:53,890
- 執行長們？
- 是的。

1627
01:12:53,891 --> 01:12:55,371
好的。

1628
01:13:01,072 --> 01:13:03,116
有時感覺就像

1629
01:13:03,117 --> 01:13:07,294
我一直在這個
就像無盡的旅程

1630
01:13:07,295 --> 01:13:09,384
試著理解這一點。

1631
01:13:09,385 --> 01:13:12,388
你知道，就像
我正在爬山...

1632
01:13:15,608 --> 01:13:19,176
……而且每次
我就像爬上一座小山，

1633
01:13:19,177 --> 01:13:20,786
我想我已經達到頂峰了

1634
01:13:20,787 --> 01:13:23,441
但它一直在繼續
走啊走。

1635
01:13:24,574 --> 01:13:27,010
但從我所聽到的一切來看

1636
01:13:27,011 --> 01:13:30,405
如果我必須猜是什麼
在焦慮山頂上，

1637
01:13:30,406 --> 01:13:34,234
就是這五位CEO
從這五家公司來看，

1638
01:13:34,235 --> 01:13:37,673
誰有點像
此時此刻的奧本海默。

1639
01:13:37,674 --> 01:13:39,501
這些都是傢伙
誰正在建造這個東西。

1640
01:13:39,502 --> 01:13:40,850
是的。

1641
01:13:40,851 --> 01:13:44,201
例如，有計劃嗎？

1642
01:13:44,202 --> 01:13:46,464
公司負責人
這使得 ChatGPT

1643
01:13:46,465 --> 01:13:49,989
警告可能的
對世界造成重大危害。

1644
01:13:49,990 --> 01:13:52,427
我想，如果這項技術
出錯了，

1645
01:13:52,428 --> 01:13:53,515
它可能會出錯。

1646
01:13:55,822 --> 01:13:57,823
五個傢伙。

1647
01:13:57,824 --> 01:14:01,610
我-我從來沒有想過我們
作為一家社交媒體公司。

1648
01:14:01,611 --> 01:14:06,092
這-感覺我必須嘗試一下
然後-然後找這些人...

1649
01:14:06,093 --> 01:14:07,224
嗯嗯。

1650
01:14:07,225 --> 01:14:09,009
……然後讓它們出現在電影中。

1651
01:14:10,315 --> 01:14:12,622
我們當然會得到
從中可以得到一些清楚的認識。

1652
01:14:16,582 --> 01:14:19,192
我的意思是，責任必須停止
某處，對吧？

1653
01:14:34,034 --> 01:14:35,339
那種感覺怎麼樣？

1654
01:14:35,340 --> 01:14:37,733
- 偉大的。
- 可以嗎？

1655
01:14:37,734 --> 01:14:39,474
是的。

1656
01:14:39,475 --> 01:14:41,040
- 我可以把座位往前移嗎？
-是的，你可以。

1657
01:14:41,041 --> 01:14:42,215
這，呃，這只是
有點尷尬。

1658
01:14:42,216 --> 01:14:43,608
我有點像...

1659
01:14:43,609 --> 01:14:45,088
達裡奧，你感覺如何
關於那張椅子？

1660
01:14:45,089 --> 01:14:47,046
嗯，是的，椅子很好。

1661
01:14:47,047 --> 01:14:48,874
我只是想移動它
向前一點。 -好的。

1662
01:14:48,875 --> 01:14:50,572
我選了那張椅子。

1663
01:14:50,573 --> 01:14:52,182
- 這是一張好椅子。
- 謝謝。

1664
01:14:57,884 --> 01:14:59,495
然後就坐在那裡。

1665
01:15:01,409 --> 01:15:03,106
然後經過這裡，

1666
01:15:03,107 --> 01:15:04,411
我們會看著對方
透過這塊玻璃。

1667
01:15:11,419 --> 01:15:13,595
然後坐回椅子上，
向前傾斜？

1668
01:15:13,596 --> 01:15:15,161
是的。好吧，無論怎樣
舒服，我想。 -好的。

1669
01:15:15,162 --> 01:15:16,728
這有點酷。
那裡有一堆鏡子。

1670
01:15:16,729 --> 01:15:17,860
- 那是-- 好。
-Sam A.，拿一個。標記。

1671
01:15:17,861 --> 01:15:19,557
- 怎麼樣？
- 好的。謝謝。

1672
01:15:19,558 --> 01:15:21,080
起源
這個專案的重點是我

1673
01:15:21,081 --> 01:15:22,865
坐在家裡，
我正在玩，

1674
01:15:22,866 --> 01:15:24,431
我想，你的圖像生成器，

1675
01:15:24,432 --> 01:15:27,304
而我同時，
呃，嚇壞了

1676
01:15:27,305 --> 01:15:29,480
真的很感動。

1677
01:15:29,481 --> 01:15:31,917
- 這是通常的組合。
- 然後切到

1678
01:15:31,918 --> 01:15:34,659
我和我的妻子發現
我們期待著。

1679
01:15:34,660 --> 01:15:38,315
而且-而且我，就像，有
存在危機

1680
01:15:38,316 --> 01:15:40,273
就像我妻子一樣
懷孕六個月。

1681
01:15:40,274 --> 01:15:42,972
我認為我的第一個問題是
我問大家：

1682
01:15:42,973 --> 01:15:45,496
現在是一個可怕的時刻
想要一個孩子嗎？

1683
01:15:45,497 --> 01:15:47,411
我犯了一個大錯誤嗎？

1684
01:15:47,412 --> 01:15:49,065
我在等一個孩子
三月也是。我的第一個。

1685
01:15:49,066 --> 01:15:50,545
- 你在等一個孩子嗎？
- 是的。

1686
01:15:50,546 --> 01:15:51,850
- 你預計三月嗎？
- 第一個孩子。

1687
01:15:51,851 --> 01:15:53,330
- 馬澤爾托夫。
- 非常感謝。

1688
01:15:53,331 --> 01:15:54,505
我從來沒有這麼興奮過
對於任何事情。

1689
01:15:54,506 --> 01:15:56,507
- 這就是我的感覺。
- 是的。

1690
01:15:56,508 --> 01:15:58,248
但你不害怕嗎？

1691
01:15:58,249 --> 01:16:02,774
我的意思是，就像，有一個孩子是
只是這件重大的事情

1692
01:16:02,775 --> 01:16:05,037
我，你知道，
我每天晚上都熬夜，就像

1693
01:16:05,038 --> 01:16:06,865
閱讀這些關於
如何撫養孩子，

1694
01:16:06,866 --> 01:16:08,258
我希望
我一定會做好事的

1695
01:16:08,259 --> 01:16:09,302
感覺
非常壓倒性的並且——

1696
01:16:09,303 --> 01:16:12,088
但我並不害怕...

1697
01:16:12,089 --> 01:16:14,090
為了孩子的成長
在人工智慧的世界裡。

1698
01:16:14,091 --> 01:16:16,353
就像，那是……沒關係。

1699
01:16:16,354 --> 01:16:19,051
很高興聽到
來自那個傢伙。

1700
01:16:19,052 --> 01:16:20,792
我認為這是個好主意
生孩子。

1701
01:16:20,793 --> 01:16:23,273
我-我認為他們是最
神奇的、不可思議的事。

1702
01:16:23,274 --> 01:16:25,318
存在太多的不確定性，

1703
01:16:25,319 --> 01:16:26,885
我幾乎會這樣做
無論如何你要做什麼。

1704
01:16:26,886 --> 01:16:28,974
我知道那不是
非常滿意的答复，

1705
01:16:28,975 --> 01:16:31,934
但這是唯一的一個
我能想出。

1706
01:16:31,935 --> 01:16:34,501
我們的孩子永遠不會...

1707
01:16:34,502 --> 01:16:37,113
知道一個沒有的世界
真正先進的人工智慧。

1708
01:16:37,114 --> 01:16:39,898
事實上，我們的孩子永遠不會
比人工智慧更聰明。

1709
01:16:39,899 --> 01:16:42,118
“我們的孩子會
永遠不會比人工智慧更聰明」？

1710
01:16:42,119 --> 01:16:44,381
嗯，從原始的角度來看，
從原始智商的角度來看，

1711
01:16:44,382 --> 01:16:46,296
他們永遠不會
比人工智慧更聰明。

1712
01:16:46,297 --> 01:16:48,080
這個觀念不
讓你有點不安嗎？

1713
01:16:48,081 --> 01:16:51,170
因為這讓我感覺
有點奇怪地感到噁心。

1714
01:16:51,171 --> 01:16:54,826
嗯，這確實讓我感到不安
一點點。

1715
01:16:54,827 --> 01:16:56,306
但這是現實。

1716
01:16:56,307 --> 01:16:58,308
好的，所以比賽動態。

1717
01:16:58,309 --> 01:17:01,050
我們有一群人
誰都同意

1718
01:17:01,051 --> 01:17:02,921
這很可怕。

1719
01:17:02,922 --> 01:17:04,793
根據時間表
很多人給了我，

1720
01:17:04,794 --> 01:17:07,056
我們有兩個月的時間
五年的時間來解決這個問題。

1721
01:17:07,057 --> 01:17:08,710
- 是的。
- 而且-而且，我猜，

1722
01:17:08,711 --> 01:17:12,845
我最大的問題是：
為什麼我們不能停下來？

1723
01:17:14,499 --> 01:17:19,111
問題是，呃呃，
「只是停下來」就是，嗯，

1724
01:17:19,112 --> 01:17:22,245
現在有很多很多團體
世界各地啊啊啊

1725
01:17:22,246 --> 01:17:25,727
建構這個，為了
許多國家、許多公司、

1726
01:17:25,728 --> 01:17:28,164
嗯，全部與
不同的動機。

1727
01:17:28,165 --> 01:17:30,819
有一些
這個領域的這些公司

1728
01:17:30,820 --> 01:17:34,039
他們的立場是誰，「我們想要
開發這項技術

1729
01:17:34,040 --> 01:17:36,085
絕對盡可能快。 」

1730
01:17:36,086 --> 01:17:40,089
即使我們可以通過法律
在美國和歐洲，

1731
01:17:40,090 --> 01:17:42,439
我們需要說服...

1732
01:17:42,440 --> 01:17:45,007
習近平和弗拉基米爾·普丁
或者，你知道，

1733
01:17:45,008 --> 01:17:47,487
無論誰的科學
顧問站在他們這一邊。

1734
01:17:47,488 --> 01:17:49,272
那真的會很難。

1735
01:17:49,273 --> 01:17:50,969
我認為這是真的

1736
01:17:50,970 --> 01:17:53,624
如果兩個人
在完全相同的地方，

1737
01:17:53,625 --> 01:17:55,931
呃，願意接受的人
更多安全捷徑

1738
01:17:55,932 --> 01:17:58,107
應該有點
“先到那裡。”

1739
01:17:58,108 --> 01:18:01,110
呃，但是...

1740
01:18:01,111 --> 01:18:02,981
我們能夠利用我們的領先優勢

1741
01:18:02,982 --> 01:18:06,028
花費更多的時間
進行安全測試。

1742
01:18:06,029 --> 01:18:08,030
還有──如果你丟了怎麼辦？

1743
01:18:08,031 --> 01:18:09,640
你接到電話
你發現

1744
01:18:09,641 --> 01:18:11,729
比如說你現在
落後六個月。

1745
01:18:11,730 --> 01:18:14,297
- 什-然後會發生什麼事？
- 取決於我們落後於誰。

1746
01:18:14,298 --> 01:18:16,865
如果是的話，例如
敵對政府，

1747
01:18:16,866 --> 01:18:18,867
這可能真的很糟糕。

1748
01:18:18,868 --> 01:18:21,391
假設您接到電話
中國有一個，

1749
01:18:21,392 --> 01:18:24,829
有一個遞歸的
自我提升劑

1750
01:18:24,830 --> 01:18:27,223
或類似的東西我們
應該真正擔心。

1751
01:18:27,224 --> 01:18:29,226
發生了什麼事？

1752
01:18:30,967 --> 01:18:32,403
嗯...

1753
01:18:35,406 --> 01:18:37,276
這種情況需要...

1754
01:18:37,277 --> 01:18:40,715
第一步將會是
與美國政府交談。

1755
01:18:40,716 --> 01:18:42,978
山姆，你相信嗎？
政府處理能力

1756
01:18:42,979 --> 01:18:44,676
像這樣的東西？

1757
01:18:45,895 --> 01:18:47,809
是的，實際上我願意。

1758
01:18:47,810 --> 01:18:49,593
還有其他事情我不知道
相信政府能夠處理，

1759
01:18:49,594 --> 01:18:51,203
但那個特定的場景，
我想他們會知道...

1760
01:18:51,204 --> 01:18:52,814
他們-他們--是的。

1761
01:18:52,815 --> 01:18:54,467
當你有的時候，
喜歡，私人討論

1762
01:18:54,468 --> 01:18:56,426
和其他人一起
手指放在扳機上，

1763
01:18:56,427 --> 01:18:59,646
可以這麼說，嗯，
進行那些私人討論

1764
01:18:59,647 --> 01:19:01,344
讓你充滿信心

1765
01:19:01,345 --> 01:19:03,389
或者他們讓你，
呃，更著急了？

1766
01:19:03,390 --> 01:19:07,132
聽著，我是說，我-我知道一些
他們比其他人更好。

1767
01:19:07,133 --> 01:19:10,179
嗯，我更有信心了
其中一些比我有

1768
01:19:10,180 --> 01:19:12,398
在其他方面，你知道，
與任何人一樣。

1769
01:19:12,399 --> 01:19:14,183
你知道，
你想想，你知道，

1770
01:19:14,184 --> 01:19:15,880
你高中的孩子們
類什麼的，對吧？

1771
01:19:15,881 --> 01:19:18,317
你知道，其中一些是
你知道，真的很甜蜜。

1772
01:19:18,318 --> 01:19:20,450
其中有些是善意的
但沒那麼有效。

1773
01:19:20,451 --> 01:19:22,408
其中一些是，
你知道，惡霸們。

1774
01:19:22,409 --> 01:19:23,801
其中一些是
真是壞人。

1775
01:19:23,802 --> 01:19:25,716
你——你真的有點，

1776
01:19:25,717 --> 01:19:27,109
你真的看到了傳播。

1777
01:19:27,110 --> 01:19:28,850
你知道嗎，我是嗎？
我有信心嗎

1778
01:19:28,851 --> 01:19:30,590
每個人都會做的
正確的事，

1779
01:19:30,591 --> 01:19:32,070
一切都會順利嗎？

1780
01:19:32,071 --> 01:19:33,898
嗯，不，我不是。

1781
01:19:33,899 --> 01:19:35,552
還有——什麼也沒有
我可以做到這一點，對嗎？

1782
01:19:35,553 --> 01:19:37,815
你知道，我能做的一切
is-is 推動，

1783
01:19:37,816 --> 01:19:39,208
推動，你知道，

1784
01:19:39,209 --> 01:19:40,818
推動政府
參與其中。

1785
01:19:40,819 --> 01:19:42,689
但最終我只是
那裡也有一個人。

1786
01:19:42,690 --> 01:19:44,169
那是——
這取決於我們所有人

1787
01:19:44,170 --> 01:19:46,084
推動政府
參與其中。

1788
01:19:46,085 --> 01:19:48,521
這是第一件事
那-那我認為我們需要做

1789
01:19:48,522 --> 01:19:50,959
to-to，你知道，設定事物
朝著正確的方向。

1790
01:19:50,960 --> 01:19:52,787
是什麼讓我焦慮
關於那個，就像，

1791
01:19:52,788 --> 01:19:56,225
的基本現實是
該技術的速度

1792
01:19:56,226 --> 01:19:58,444
正在增殖和成長
是指數的，

1793
01:19:58,445 --> 01:20:01,491
以及立法機制
已經300歲了，

1794
01:20:01,492 --> 01:20:02,971
- 永遠。
- 是的。

1795
01:20:02,972 --> 01:20:05,147
嗯，我-我想
這將是一個沉重的負擔。

1796
01:20:05,148 --> 01:20:06,931
我-我絕對同意
與你一起。

1797
01:20:06,932 --> 01:20:08,933
你知道，
我真正在尋找什麼

1798
01:20:08,934 --> 01:20:11,283
是-就像，
「這裡有一些步驟，例如，

1799
01:20:11,284 --> 01:20:15,200
「頭兒們會
take to-注重安全，

1800
01:20:15,201 --> 01:20:18,160
以減輕危險
並最大化承諾。 」

1801
01:20:18,161 --> 01:20:20,162
而我不，
我不知道，我不知道

1802
01:20:20,163 --> 01:20:21,859
那裡有
對此的簡單回答。

1803
01:20:21,860 --> 01:20:23,296
嗯...

1804
01:20:25,951 --> 01:20:27,604
我的意思是，這也許是
太簡單了，

1805
01:20:27,605 --> 01:20:30,215
但你...

1806
01:20:30,216 --> 01:20:32,000
建立一個新模型，

1807
01:20:32,001 --> 01:20:34,829
你研究並測試它
非常仔細。

1808
01:20:34,830 --> 01:20:37,266
你把它拿出來
逐漸走進這個世界，

1809
01:20:37,267 --> 01:20:39,572
然後，越來越多，
你明白

1810
01:20:39,573 --> 01:20:41,270
不管安全與否
然後如果是的話

1811
01:20:41,271 --> 01:20:42,707
您可以進行下一步。

1812
01:20:44,404 --> 01:20:47,145
聽起來沒那麼華而不實
就像一位傑出的科學家

1813
01:20:47,146 --> 01:20:50,496
提出一個想法
實驗室製作人工智慧系統，例如，

1814
01:20:50,497 --> 01:20:54,022
完全安全可控
以及其他一切，

1815
01:20:54,023 --> 01:20:55,762
但這就是我所相信的
將會發生。

1816
01:20:55,763 --> 01:20:57,329
就像，這就是方式
我認為這有效。

1817
01:20:57,330 --> 01:20:59,331
但我們只能說
可怕的事情發生了

1818
01:20:59,332 --> 01:21:01,856
就像模特兒鬆開一樣
或是變得流氓什麼的。

1819
01:21:01,857 --> 01:21:03,509
有協議嗎？

1820
01:21:03,510 --> 01:21:05,860
就像，從字面上看，
我想著一部紅色手機。

1821
01:21:05,861 --> 01:21:07,165
- 是的。
- 抱歉想到這個

1822
01:21:07,166 --> 01:21:08,558
就電影而言，但是，就像...

1823
01:21:08,559 --> 01:21:10,038
有一個協議。

1824
01:21:10,039 --> 01:21:11,517
有紅色手機嗎
在你的桌子上嗎？ -不。

1825
01:21:11,518 --> 01:21:13,258
這是一個秘密嗎？

1826
01:21:13,259 --> 01:21:15,434
我的意思是，呃，不，不是，
它並不那麼奇特或戲劇性

1827
01:21:15,435 --> 01:21:17,219
正如你所希望的那樣，
但有，比如，你知道——

1828
01:21:17,220 --> 01:21:18,916
我們已經想通了
這些場景，

1829
01:21:18,917 --> 01:21:20,570
如果發生這種情況
我們要打電話給這些人

1830
01:21:20,571 --> 01:21:22,006
按此順序並執行此操作

1831
01:21:22,007 --> 01:21:23,486
和種類
這些決定如果—

1832
01:21:23,487 --> 01:21:26,097
我確實相信
當你有機會的時候

1833
01:21:26,098 --> 01:21:29,100
之前先思考一下
發生緊張的情況，

1834
01:21:29,101 --> 01:21:30,449
這幾乎總是
好主意。

1835
01:21:30,450 --> 01:21:31,798
把它寫下來很有幫助。

1836
01:21:31,799 --> 01:21:33,279
- 做好準備很有幫助。
- 是的。

1837
01:21:34,324 --> 01:21:36,064
你...

1838
01:21:36,065 --> 01:21:38,805
這是不可能的
讓我坐在你對面

1839
01:21:38,806 --> 01:21:41,199
並且-並要求你答應我
這樣會順利嗎？

1840
01:21:41,200 --> 01:21:43,898
那是不可能的。

1841
01:21:43,899 --> 01:21:45,725
不幸的是，沒有任何簡單的答案。

1842
01:21:45,726 --> 01:21:48,119
呃，因為是這樣的
尖端技術，

1843
01:21:48,120 --> 01:21:49,816
嗯，還有
很多未知數。

1844
01:21:49,817 --> 01:21:52,297
我認為
那-那需要是，

1845
01:21:52,298 --> 01:21:55,083
嗯，呃，你知道，明白了

1846
01:21:55,084 --> 01:21:59,000
並且-因此需要
呃，呃，需要謹慎一點。

1847
01:21:59,001 --> 01:22:00,915
我每天醒來，你知道，

1848
01:22:00,916 --> 01:22:03,482
這是，這是
我想到的第一件事。

1849
01:22:03,483 --> 01:22:05,180
現在，看，我是人類，

1850
01:22:05,181 --> 01:22:08,400
而且，你知道，有-有
每一個決定都是完美的嗎？

1851
01:22:08,401 --> 01:22:11,664
我能說出我的動機嗎
總是很清楚嗎？

1852
01:22:11,665 --> 01:22:13,579
當然不是。
沒有人能這麼說。

1853
01:22:13,580 --> 01:22:16,408
比如說，那是──那是
只是不是，就像，你知道——

1854
01:22:16,409 --> 01:22:18,671
那是-那不是
人們如何工作。

1855
01:22:18,672 --> 01:22:21,065
科學史
往往是這樣的，

1856
01:22:21,066 --> 01:22:23,589
無論好壞，
如果有什麼可以做的話——

1857
01:22:23,590 --> 01:22:27,028
我們現在知道人工智慧是可能的
人類做到了。

1858
01:22:27,029 --> 01:22:29,769
所有這一切
曾經——將會發生。

1859
01:22:29,770 --> 01:22:32,337
這這列火車
不會停止。

1860
01:22:32,338 --> 01:22:34,296
你不能走到前面
火車並停下來。

1861
01:22:34,297 --> 01:22:36,298
你只會被壓扁。

1862
01:22:36,299 --> 01:22:38,388
我的意思是，壓力很大。

1863
01:22:39,606 --> 01:22:41,085
你知道，有，比如，

1864
01:22:41,086 --> 01:22:42,695
很多事情
我們很多人都不知道。

1865
01:22:42,696 --> 01:22:46,395
我認為歷史
科學發現的意義在於

1866
01:22:46,396 --> 01:22:48,310
不知道之一
你不知道什麼

1867
01:22:48,311 --> 01:22:49,702
並邊走邊弄清楚。

1868
01:22:49,703 --> 01:22:53,010
呃，但是，是的，這是一個...

1869
01:22:53,011 --> 01:22:56,622
這是一種充滿壓力的生活方式。

1870
01:22:56,623 --> 01:22:58,798
正確的。山姆，謝謝你
非常感謝這樣做。

1871
01:22:58,799 --> 01:23:00,539
- 再說一遍，馬澤爾托夫。
- 謝謝。還有你。

1872
01:23:00,540 --> 01:23:02,715
太感謝了。謝謝，夥計們。

1873
01:23:47,848 --> 01:23:49,327
你好。

1874
01:23:49,328 --> 01:23:50,589
嘿，爸爸，你好嗎？

1875
01:23:50,590 --> 01:23:51,634
好的。你好嗎？

1876
01:23:51,635 --> 01:23:53,114
你工作嗎？你要做什麼？

1877
01:23:53,115 --> 01:23:55,290
我正在製作這部人工智慧電影。

1878
01:23:55,291 --> 01:23:57,857
進展如何？

1879
01:23:57,858 --> 01:24:00,469
你知道嗎，這……這真的是……

1880
01:24:00,470 --> 01:24:02,210
-嗨，親愛的。
-嗨，媽媽。

1881
01:24:02,211 --> 01:24:03,907
那什麼是
電影的前提？

1882
01:24:03,908 --> 01:24:06,562
這是一部紀錄片嗎？
凱文，別再用香料了。

1883
01:24:06,563 --> 01:24:08,346
已經太辣了。

1884
01:24:08,347 --> 01:24:10,479
我們現在正在做雞肉。

1885
01:24:10,480 --> 01:24:12,655
- 這是紀錄片還是什麼...
-這是關於--

1886
01:24:12,656 --> 01:24:14,004
這部電影是關於
世界末日。

1887
01:24:14,005 --> 01:24:15,832
世界末日即將來臨，

1888
01:24:15,833 --> 01:24:17,616
我們正在拍電影
關於世界末日。

1889
01:24:17,617 --> 01:24:19,879
-真的嗎？
-是的。

1890
01:24:19,880 --> 01:24:21,620
有點壓抑
電影，聽起來像。

1891
01:24:21,621 --> 01:24:23,492
是的。

1892
01:24:23,493 --> 01:24:29,019
我感觸良多，
就像這種非常嚴重的焦慮。

1893
01:24:29,020 --> 01:24:31,413
太可怕了，
但一定有——

1894
01:24:31,414 --> 01:24:35,330
你知道嗎，你們見面了嗎
一些超級聰明的人

1895
01:24:35,331 --> 01:24:37,810
那些能給你任何答案嗎？

1896
01:24:37,811 --> 01:24:39,508
就是這樣
對此感到沮喪。

1897
01:24:39,509 --> 01:24:41,379
沒有人知道。

1898
01:24:41,380 --> 01:24:43,947
我只能說

1899
01:24:43,948 --> 01:24:49,909
每一代都有過
像這樣可怕的東西。

1900
01:24:49,910 --> 01:24:52,260
我出生的時候，是
古巴飛彈危機。

1901
01:24:54,306 --> 01:24:56,394
我只是害怕那裡
這將是一場核戰。

1902
01:24:56,395 --> 01:24:57,787
是的，但我們不知道

1903
01:24:57,788 --> 01:24:59,136
他們要做什麼以及...

1904
01:24:59,137 --> 01:25:00,572
世界並沒有終結。

1905
01:25:00,573 --> 01:25:01,660
大家都醒了
第二天早上，

1906
01:25:01,661 --> 01:25:03,445
我們仍在做我們的事情。

1907
01:25:03,446 --> 01:25:05,011
我很害怕，

1908
01:25:05,012 --> 01:25:06,883
特別是在
的上下文，例如，

1909
01:25:06,884 --> 01:25:09,190
你知道，嬰兒和...

1910
01:25:09,191 --> 01:25:10,582
這將是一個學習曲線。

1911
01:25:10,583 --> 01:25:12,106
你會沒事的。

1912
01:25:12,107 --> 01:25:13,107
你不能，
你不能想

1913
01:25:13,108 --> 01:25:14,369
你無法控制的事情，丹尼爾。

1914
01:25:14,370 --> 01:25:16,197
只要記住這一點。

1915
01:25:16,198 --> 01:25:17,720
我真的，我真的感覺

1916
01:25:17,721 --> 01:25:19,243
對此感到緊張和害怕。

1917
01:25:19,244 --> 01:25:21,071
有這麼多
我無法控制。

1918
01:25:21,072 --> 01:25:23,900
別緊張。
你不能讓它影響你。

1919
01:25:23,901 --> 01:25:26,294
你只能控制
你能控制的，

1920
01:25:26,295 --> 01:25:27,947
這就是你所能做的。

1921
01:25:27,948 --> 01:25:30,646
你不能做更多的事情。

1922
01:25:30,647 --> 01:25:32,649
把它寫在你的書裡。

1923
01:25:49,274 --> 01:25:51,623
當你回頭看時，

1924
01:25:51,624 --> 01:25:54,496
世界总是有终结的。

1925
01:25:54,497 --> 01:25:56,846
當你展望未來時，

1926
01:25:56,847 --> 01:25:59,283
世界总是有终结的。

1927
01:25:59,284 --> 01:26:02,199
……著火。
一栋房子已经着火了……

1928
01:26:02,200 --> 01:26:05,377
但世界
也總是在開始。

1929
01:26:07,988 --> 01:26:09,989
你準備好了嗎？

1930
01:26:09,990 --> 01:26:11,992
你真的準備好了嗎？

1931
01:26:15,909 --> 01:26:17,693
你想開車
或者你想让我开车？

1932
01:26:17,694 --> 01:26:18,782
你開車。

1933
01:26:20,479 --> 01:26:21,871
好的。

1934
01:26:21,872 --> 01:26:23,742
謝謝你，瑪麗亞。

1935
01:26:23,743 --> 01:26:26,310
這只會
感覺真的很抽筋。

1936
01:26:26,311 --> 01:26:27,833
-好的。
-你準備好了嗎？

1937
01:26:27,834 --> 01:26:29,095
是的。

1938
01:26:30,968 --> 01:26:32,404
你可能處於一個
医疗剧与这一切......

1939
01:26:49,116 --> 01:26:51,075
……有些壓力。

1940
01:26:52,685 --> 01:26:54,078
放鬆點。

1941
01:27:02,129 --> 01:27:04,957
嗨，夥計。哦。

1942
01:27:04,958 --> 01:27:06,481
嗨，夥計。

1943
01:27:31,202 --> 01:27:33,725
這將會是一個全新的世界

1944
01:27:33,726 --> 01:27:35,032
為了你，丹尼爾。

1945
01:27:37,208 --> 01:27:40,080
我想你會的
一位了不起的父親。

1946
01:27:41,517 --> 01:27:44,388
這是肯定的。

1947
01:27:44,389 --> 01:27:46,651
哦。

1948
01:27:48,698 --> 01:27:50,787
你會做得很好的。

1949
01:27:51,788 --> 01:27:53,092
凱夫，你為什麼哭？

1950
01:27:53,093 --> 01:27:54,659
我哭是因為...

1951
01:27:54,660 --> 01:27:57,096
我不知道。我只是不...

1952
01:27:57,097 --> 01:27:59,360
爸爸，你想要
讓我也哭了

1953
01:27:59,361 --> 01:28:00,710
為什麼哭？

1954
01:28:03,190 --> 01:28:05,540
我只知道
你會成為一個了不起的爸爸。

1955
01:28:05,541 --> 01:28:07,150
我只會成為一個偉大的父親

1956
01:28:07,151 --> 01:28:09,718
因為我有一個偉大的父親。

1957
01:28:09,719 --> 01:28:12,329
我變得情緒化，
僅此而已。

1958
01:28:12,330 --> 01:28:13,722
噢。

1959
01:28:14,941 --> 01:28:16,594
男孩，哦，男孩！

1960
01:28:16,595 --> 01:28:17,857
天啊！

1961
01:28:18,902 --> 01:28:24,820
看看那些小臉蛋。
看看那些小脸蛋。

1962
01:28:24,821 --> 01:28:26,387
是的。

1963
01:28:26,388 --> 01:28:28,433
我知道如何結束這部電影。

1964
01:28:29,478 --> 01:28:32,306
寶貝們。

1965
01:28:32,307 --> 01:28:35,309
电影的结尾是关于
宝贝们.-

1966
01:28:35,310 --> 01:28:37,136
他們是對生命的肯定。

1967
01:28:37,137 --> 01:28:38,964
他們很累。

1968
01:28:38,965 --> 01:28:40,836
他們很搞笑。

1969
01:28:40,837 --> 01:28:42,707
他們是值得的。

1970
01:28:42,708 --> 01:28:46,494
这部电影不是关于
技术的内部运作。

1971
01:28:46,495 --> 01:28:48,278
這不是關於
億萬富翁執行長。

1972
01:28:48,279 --> 01:28:50,236
這與地緣政治無關。

1973
01:28:50,237 --> 01:28:53,631
這不是關於可怕的事情
未来或世界末日，

1974
01:28:53,632 --> 01:28:55,720
因为我的世界
才剛開始。

1975
01:28:55,721 --> 01:28:57,418
我正在建造一個嬰兒床。

1976
01:28:57,419 --> 01:28:59,333
就在這裡，就是現在。

1977
01:29:00,509 --> 01:29:02,379
人工智慧將改變一切

1978
01:29:02,380 --> 01:29:05,643
以過於強大和
複雜到我們難以理解。

1979
01:29:05,644 --> 01:29:08,952
而未來並不是
由我們任何人來決定。

1980
01:29:10,736 --> 01:29:13,651
但我能決定的是
最好的丈夫

1981
01:29:13,652 --> 01:29:17,742
為了我的妻子和最好的
我兒子的可能爸爸。

1982
01:29:17,743 --> 01:29:21,442
那麼我們的人工智慧未來是否是
惡夢般的反烏托邦

1983
01:29:21,443 --> 01:29:23,879
或烏托邦
我們都夢想的，

1984
01:29:23,880 --> 01:29:26,925
我至少會知道
我已盡我所能

1985
01:29:26,926 --> 01:29:30,146
指導我的家人
透過這場人工智慧革命。

1986
01:29:30,147 --> 01:29:33,889
而且無論如何，
我們將一起面對它。

1987
01:29:36,849 --> 01:29:40,548
這只是我們的第一個想法。

1988
01:29:40,549 --> 01:29:42,854
這感覺如何？
你有這種感覺嗎？

1989
01:29:42,855 --> 01:29:45,291
等等，我——就像，這不是——
這是一個笑話。

1990
01:29:45,292 --> 01:29:47,425
其實不是
你將如何結束它。

1991
01:29:50,036 --> 01:29:52,690
我的意思是，這只是一個想法。好的？

1992
01:29:52,691 --> 01:29:54,431
不，丹尼爾。

1993
01:29:54,432 --> 01:29:56,172
……呃，非常非常愚蠢。

1994
01:29:56,173 --> 01:29:58,957
你剛剛花了，我沒有
知道，比如，幾年

1995
01:29:58,958 --> 01:30:02,613
我們一生致力於此，
與每位領先專家交談

1996
01:30:02,614 --> 01:30:05,007
在這個星球上關於這個主題，

1997
01:30:05,008 --> 01:30:07,705
你會結束它

1998
01:30:07,706 --> 01:30:10,839
與一些，比如，
昆巴亞廢話？

1999
01:30:10,840 --> 01:30:13,537
有一顆小行星
前往地球。

2000
01:30:13,538 --> 01:30:15,539
你做什麼工作？只是...

2001
01:30:15,540 --> 01:30:17,672
牽手
並希望一切順利？

2002
01:30:17,673 --> 01:30:19,456
絕對不是。

2003
01:30:19,457 --> 01:30:22,328
我們必須——它哈——
它必須是...

2004
01:30:22,329 --> 01:30:24,419
結局不得不...

2005
01:30:25,855 --> 01:30:27,943
好的，第一件事：

2006
01:30:27,944 --> 01:30:31,468
人工智慧來了，
它會一直存在。

2007
01:30:31,469 --> 01:30:32,948
屎已經從馬裡出來了

2008
01:30:32,949 --> 01:30:35,430
但馬是
會繼續拉屎

2009
01:30:39,695 --> 01:30:41,609
你知道，基本的條件之一
歷史規律

2010
01:30:41,610 --> 01:30:44,046
沒什麼
真的有一個開始

2011
01:30:44,047 --> 01:30:46,004
一切都沒有結局。

2012
01:30:46,005 --> 01:30:47,745
它就這樣繼續下去。

2013
01:30:47,746 --> 01:30:50,574
人工智慧離我們還很遙遠
其全面發展。

2014
01:30:50,575 --> 01:30:52,837
即使
當前的人工智慧泡沫破裂，

2015
01:30:52,838 --> 01:30:54,622
人類永遠不會停止

2016
01:30:54,623 --> 01:30:57,581
建設越來越多
強大的技術。

2017
01:30:57,582 --> 01:30:59,453
你可以選擇不使用AI

2018
01:30:59,454 --> 01:31:02,281
或參與其中，但它是
無論如何都會影響到你。

2019
01:31:02,282 --> 01:31:04,066
好吧，太棒了。
所以我們完蛋了。

2020
01:31:04,067 --> 01:31:06,635
不，我們不是
因為一件簡單的事。

2021
01:31:10,943 --> 01:31:13,031
這並非不可避免。

2022
01:31:13,032 --> 01:31:15,251
如果我們能看到它
明顯地在一起，

2023
01:31:15,252 --> 01:31:18,384
明顯的反應是
選擇不同的東西。

2024
01:31:18,385 --> 01:31:21,083
我們需要非常清楚
改變遊戲

2025
01:31:21,084 --> 01:31:23,172
從競賽到墊底
進入一場力爭上游的競賽。

2026
01:31:23,173 --> 01:31:27,481
我們需要解決的問題
解決方案並不是專門針對人工智慧的。

2027
01:31:27,482 --> 01:31:31,267
這是一般問題
我們如何建立一個社會

2028
01:31:31,268 --> 01:31:33,922
可以處理
強大的技術。

2029
01:31:33,923 --> 01:31:35,401
因為我們要得到

2030
01:31:35,402 --> 01:31:36,838
只會越來越強大
技術。

2031
01:31:36,839 --> 01:31:39,710
我們需要提升我們的社會，

2032
01:31:39,711 --> 01:31:41,538
第一步是
走到一起

2033
01:31:41,539 --> 01:31:43,409
- 而且要求很高...
-協調。

2034
01:31:43,410 --> 01:31:47,065
某種形式的國際
合作或協議

2035
01:31:47,066 --> 01:31:48,545
規範應該是什麼。

2036
01:31:48,546 --> 01:31:49,938
你知道，應該怎樣
他們被部署...

2037
01:31:49,939 --> 01:31:51,592
就像，真實的
國際外交

2038
01:31:51,593 --> 01:31:53,332
超級大國之中。

2039
01:31:53,333 --> 01:31:56,335
中國人也同樣擔心
身為美國人來說。

2040
01:31:56,336 --> 01:31:57,772
我覺得很難，
你知道，

2041
01:31:57,773 --> 01:31:59,556
在當前的
地緣政治氣候，

2042
01:31:59,557 --> 01:32:01,297
- 但我認為這是必要的。
-絕對地。

2043
01:32:01,298 --> 01:32:04,735
以完全相同的方式
人類最後一次

2044
01:32:04,736 --> 01:32:09,653
開發了一項技術
這危險的…

2045
01:32:09,654 --> 01:32:12,438
……這需要一個完整的、
前所未有的轉變

2046
01:32:12,439 --> 01:32:15,572
我們世界的結構。

2047
01:32:15,573 --> 01:32:17,661
所以我們需要完成這個工作，

2048
01:32:17,662 --> 01:32:20,925
再次發生前所未有的轉變。

2049
01:32:20,926 --> 01:32:24,146
你知道，我們和人們交談
在這些人工智慧公司工作的人，

2050
01:32:24,147 --> 01:32:25,364
他們說他們想做
不同的東西，

2051
01:32:25,365 --> 01:32:26,670
但他們需要公眾壓力。

2052
01:32:26,671 --> 01:32:28,193
他們需要政府
做某事。

2053
01:32:28,194 --> 01:32:30,021
然後我們就去DC，
他們說，

2054
01:32:30,022 --> 01:32:31,893
「好吧，我們需要矽谷
做一些不同的事情。

2055
01:32:31,894 --> 01:32:33,677
他們是那些將要
把護欄拿出來。 」

2056
01:32:33,678 --> 01:32:35,723
所以每個人都指著
用手指指著別人，

2057
01:32:35,724 --> 01:32:39,509
他們同意的是
我們需要公眾壓力

2058
01:32:39,510 --> 01:32:41,250
為了別的事
發生。

2059
01:32:41,251 --> 01:32:42,860
這就是你

2060
01:32:42,861 --> 01:32:44,296
和所有的人
看這部電影就可以了。

2061
01:32:44,297 --> 01:32:45,341
我們需要抓住領導者

2062
01:32:45,342 --> 01:32:47,125
在我們的政府中

2063
01:32:47,126 --> 01:32:48,605
和領導人
這些公司負有責任。

2064
01:32:48,606 --> 01:32:51,042
無論你在哪個國家，

2065
01:32:51,043 --> 01:32:52,914
讓他們知道
你不開心

2066
01:32:52,915 --> 01:32:54,611
以目前的現狀。

2067
01:32:54,612 --> 01:32:57,135
所以，是的，說起來很無聊
打電話給你的國會議員。

2068
01:32:57,136 --> 01:32:59,398
我並不是說你應該
就這樣做，但是，就像，

2069
01:32:59,399 --> 01:33:00,965
我們確實必須這樣做。

2070
01:33:00,966 --> 01:33:02,445
就像，我們必須得到
政府參與其中。

2071
01:33:02,446 --> 01:33:03,881
所以我們只是
打電話給他們說，

2072
01:33:03,882 --> 01:33:06,014
「嘿，停止大型科技公司
以免毀滅世界」？

2073
01:33:06,015 --> 01:33:08,930
沒有，但是有
大量非常明顯的，

2074
01:33:08,931 --> 01:33:10,714
簡單的事情
我們可以要求很高。

2075
01:33:10,715 --> 01:33:12,542
我們需要透明度。

2076
01:33:12,543 --> 01:33:14,283
我們需要結束保密
存在於這些實驗室內，

2077
01:33:14,284 --> 01:33:16,677
因為他們正在建造
強大的技術，

2078
01:33:16,678 --> 01:33:18,722
公眾應該知道
發生了什麼事。

2079
01:33:18,723 --> 01:33:20,724
最終，
我們需要獨立，

2080
01:33:20,725 --> 01:33:23,292
客觀第三方
評估系統。

2081
01:33:23,293 --> 01:33:27,078
我們不能指望這些公司
給自己的作業評分。

2082
01:33:27,079 --> 01:33:31,213
如果-如果一家公司使用人工智慧並且-並且
有AI與你互動，

2083
01:33:31,214 --> 01:33:34,999
它應該透露您是
與人工智慧系統互動。

2084
01:33:35,000 --> 01:33:38,655
是的。而且-而且我們還需要
一個使公司

2085
01:33:38,656 --> 01:33:41,876
並承擔法律責任
他們生產的人工智慧系統。

2086
01:33:41,877 --> 01:33:45,793
我們需要確保有
是測試和安全標準

2087
01:33:45,794 --> 01:33:48,056
適用於每個人。

2088
01:33:48,057 --> 01:33:49,753
我們需要一些基本規則，

2089
01:33:49,754 --> 01:33:51,581
我們需要不斷適應
那些規則

2090
01:33:51,582 --> 01:33:54,628
以這樣的速度
技術不斷發展。

2091
01:33:54,629 --> 01:33:57,195
目前有
更多監管

2092
01:33:57,196 --> 01:33:59,328
賣三明治時
向公眾

2093
01:33:59,329 --> 01:34:02,940
比建築物上的
潛在的世界末日 AGI。

2094
01:34:02,941 --> 01:34:04,725
最後一件事是

2095
01:34:04,726 --> 01:34:07,641
來提升我們自己。

2096
01:34:07,642 --> 01:34:09,773
這不是工作
例如安全團隊

2097
01:34:09,774 --> 01:34:11,775
任何特定的實驗室或執行長。

2098
01:34:11,776 --> 01:34:13,342
所以，就像，這是
每個人的工作。

2099
01:34:13,343 --> 01:34:14,822
不要，就像，離開它
由人工智慧專家決定。

2100
01:34:14,823 --> 01:34:16,998
就像，[嗶]那樣。
就像，這一刻

2101
01:34:16,999 --> 01:34:19,304
我們正在轉型
來自，像，

2102
01:34:19,305 --> 01:34:21,567
主要是人類的認知能力
比如說人工智慧的認知能力，

2103
01:34:21,568 --> 01:34:23,134
並且影響著每個人，

2104
01:34:23,135 --> 01:34:24,875
我希望人們成為
參加那次談話。

2105
01:34:24,876 --> 01:34:26,921
我想說，如果你認為
人工智慧會殺死我們所有人，

2106
01:34:26,922 --> 01:34:28,531
你應該在工作
在人工智慧研究領域

2107
01:34:28,532 --> 01:34:30,272
以確保它不會
因為你確實有

2108
01:34:30,273 --> 01:34:32,230
大量的代理商。

2109
01:34:32,231 --> 01:34:33,884
無論你是誰，

2110
01:34:33,885 --> 01:34:35,886
你是專家
在自己的行業裡，

2111
01:34:35,887 --> 01:34:39,194
在自己的學校裡，
在自己的家庭裡，

2112
01:34:39,195 --> 01:34:42,632
這取決於你
人工智慧如何應用在你的生活中。

2113
01:34:42,633 --> 01:34:45,026
無論你想加入
你的學校董事會

2114
01:34:45,027 --> 01:34:47,898
或-或者你是否想問
你的雇主

2115
01:34:47,899 --> 01:34:49,421
他們如何使用
人工智慧技術，

2116
01:34:49,422 --> 01:34:51,989
就像，我們所有人都可以完成這項工作。

2117
01:34:51,990 --> 01:34:56,124
已經有很多工會了
非常有效，例如，

2118
01:34:56,125 --> 01:34:59,083
確定他們想要的方式
與這些系統進行互動。

2119
01:34:59,084 --> 01:35:02,739
護士工會、教師工會。

2120
01:35:02,740 --> 01:35:04,610
我會喜歡
如果父母無所不在

2121
01:35:04,611 --> 01:35:06,177
去了AI公司
並說，

2122
01:35:06,178 --> 01:35:08,049
「你怎樣才能變得更好
就這個？ 」包括我們。

2123
01:35:08,050 --> 01:35:11,226
所以，我創立了 Encode Justice
當我15歲的時候。

2124
01:35:11,227 --> 01:35:14,882
我們是世界第一
和最大的年輕人軍隊

2125
01:35:14,883 --> 01:35:18,407
為以人為本而奮鬥
人工智慧。

2126
01:35:18,408 --> 01:35:21,062
你是誰並不重要
即使是最小的行動也會有所幫助，

2127
01:35:21,063 --> 01:35:23,978
甚至對話開始
真的非常非常有價值。

2128
01:35:23,979 --> 01:35:25,980
所以我的工作可能是，

2129
01:35:25,981 --> 01:35:27,982
告訴巴比·萊拉這件事
晚餐時？

2130
01:35:27,983 --> 01:35:29,810
老實說，是的，
這是其中的一部分。

2131
01:35:29,811 --> 01:35:31,681
我們要做的

2132
01:35:31,682 --> 01:35:34,466
很多事情
我們還沒想到。

2133
01:35:34,467 --> 01:35:36,077
人們會看
我們概述的任何內容

2134
01:35:36,078 --> 01:35:37,295
並說：“這還不夠。”

2135
01:35:37,296 --> 01:35:38,993
重要的是力量

2136
01:35:38,994 --> 01:35:40,951
正在工作的
尋求解決方案

2137
01:35:40,952 --> 01:35:44,476
開始超過力量
正在研究解決方案。

2138
01:35:44,477 --> 01:35:46,435
讓世界變得更美好
一直很難。

2139
01:35:46,436 --> 01:35:47,871
這從來都不容易。

2140
01:35:47,872 --> 01:35:50,004
例如，曾經有過
許多糟糕的事情

2141
01:35:50,005 --> 01:35:51,962
歷史上發生過的事，
我們已經——

2142
01:35:51,963 --> 01:35:53,747
就像，人們曾經有過
為了解決這個問題，

2143
01:35:53,748 --> 01:35:56,837
然後他們站了起來
並改變了它。

2144
01:35:56,838 --> 01:36:00,362
有一個瘋狂的數字
我們面臨的挑戰，

2145
01:36:00,363 --> 01:36:04,148
但如果我們能超越他們

2146
01:36:04,149 --> 01:36:08,109
我們可以開啟更遠的未來
我們最瘋狂的想像。

2147
01:36:08,110 --> 01:36:10,459
我們必須團結起來

2148
01:36:10,460 --> 01:36:14,289
並找到之間的路徑
承諾與危險。

2149
01:36:14,290 --> 01:36:16,422
我們不能成為悲觀主義者
或樂觀主義者。

2150
01:36:17,423 --> 01:36:19,425
我們必須成為新的東西。

2151
01:36:21,732 --> 01:36:24,516
我的一個朋友打電話給我
一個末日樂觀主義者

2152
01:36:24,517 --> 01:36:26,083
“末日樂觀主義者”？

2153
01:36:26,084 --> 01:36:28,303
我想這可能是
我最喜歡的新詞。

2154
01:36:28,304 --> 01:36:29,957
-男人：可能是
這部電影的名稱。

2155
01:36:29,958 --> 01:36:31,306
可能是這個名字
這部電影的。 -

2156
01:36:31,307 --> 01:36:34,222
——《末日樂觀主義者》。
——《末日樂觀主義者》。

2157
01:36:34,223 --> 01:36:35,876
是的。

2158
01:36:35,877 --> 01:36:37,312
我不相信厄運。

2159
01:36:37,313 --> 01:36:39,096
我相信生命的精神，

2160
01:36:39,097 --> 01:36:42,708
呃，我相信生活是
關於行動的能力。

2161
01:36:42,709 --> 01:36:44,319
建立聯繫的能力，

2162
01:36:44,320 --> 01:36:46,365
感受的能力。

2163
01:36:51,022 --> 01:36:53,981
我們必須加倍努力
越來越多

2164
01:36:53,982 --> 01:36:57,071
關於這些能力
我們身為人類所擁有的

2165
01:36:57,072 --> 01:37:00,161
那個機器人系統
永遠不會有。

2166
01:37:00,162 --> 01:37:04,339
現在正是時候
做出這些決定

2167
01:37:04,340 --> 01:37:07,516
如何引導和支持
而不是分裂我們。

2168
01:37:07,517 --> 01:37:10,301
聽起來有點像
撫養一個孩子。

2169
01:37:10,302 --> 01:37:12,477
就是這樣。是的。

2170
01:37:12,478 --> 01:37:14,523
人工智慧可能有
更多原始情報

2171
01:37:14,524 --> 01:37:17,265
比我們小小的人類大腦，

2172
01:37:17,266 --> 01:37:21,095
但我們還有更多
不僅僅是我們的智力。

2173
01:37:21,096 --> 01:37:25,099
情報是-是
解決問題的能力。

2174
01:37:25,100 --> 01:37:28,320
智慧是認識的能力
要解決哪些問題。

2175
01:37:33,760 --> 01:37:34,935
它可以放在你的冰箱上。

2176
01:37:36,241 --> 01:37:38,155
所以，不要放棄。

2177
01:37:38,156 --> 01:37:39,809
人類已經做到了

2178
01:37:39,810 --> 01:37:42,160
比這更困難的事情
在它的歷史中。

2179
01:37:43,553 --> 01:37:46,381
只是很難說服
他們應該的人。

2180
01:37:54,912 --> 01:37:56,870
所以，當我開始
製作這部電影，

2181
01:37:56,871 --> 01:37:58,480
我會說我就像，

2182
01:37:58,481 --> 01:38:00,961
基本上是一个愤世嫉俗的混蛋
關於這整件事。

2183
01:38:00,962 --> 01:38:03,137
在課程中
製作這部電影時，

2184
01:38:03,138 --> 01:38:04,703
我已經明白了
那個，就像，

2185
01:38:04,704 --> 01:38:07,489
這是唯一的事情
我們不可能。

2186
01:38:07,490 --> 01:38:09,404
……或其他什麼
你想討論一下嗎？

2187
01:38:09,405 --> 01:38:11,406
不，我認為我們涵蓋了很多。

2188
01:38:11,407 --> 01:38:13,060
- 是的。
-太感謝了。

2189
01:38:13,061 --> 01:38:15,540
謝謝。

2190
01:38:15,541 --> 01:38:16,933
這是一個更大的問題

2191
01:38:16,934 --> 01:38:19,109
比任何一個人。

2192
01:38:19,110 --> 01:38:21,590
這將改變世界
我們不理解的方式。

2193
01:38:21,591 --> 01:38:23,505
這都是真的。

2194
01:38:23,506 --> 01:38:25,594
好的。

2195
01:38:25,595 --> 01:38:27,726
但我們確實有代理權

2196
01:38:27,727 --> 01:38:30,120
這就是我們所做的。

2197
01:38:30,121 --> 01:38:32,601
隨著前沿人工智慧的發展
能力呈指數級增長...

2198
01:38:32,602 --> 01:38:34,472
而現實

2199
01:38:34,473 --> 01:38:36,605
如果我們決定
是無望的，

2200
01:38:36,606 --> 01:38:39,042
那就沒有希望了。

2201
01:38:39,043 --> 01:38:40,783
....減輕壓力
在地球上...

2202
01:38:40,784 --> 01:38:42,785
但如果你決定

2203
01:38:42,786 --> 01:38:45,528
你想嘗試的...

2204
01:38:46,790 --> 01:38:48,138
……那你試試看。

2205
01:38:48,139 --> 01:38:49,967
這很難。

2206
01:38:51,273 --> 01:38:53,230
但你知道嗎？

2207
01:38:53,231 --> 01:38:56,278
大事看似不可能
在它們真正發生之前。

2208
01:38:58,149 --> 01:39:01,456
但當它們最終發生時

2209
01:39:01,457 --> 01:39:05,286
這是因為數以百萬計的人
採取了數百萬次行動

2210
01:39:05,287 --> 01:39:07,592
使它們發生。

2211
01:39:07,593 --> 01:39:10,334
所以...

2212
01:39:10,335 --> 01:39:12,424
我們必須嘗試。

2213
01:39:21,129 --> 01:39:23,565
事關重大。

2214
01:39:37,232 --> 01:39:41,278
看看令人難以置信的變化
我們經歷過並倖存下來

2215
01:39:41,279 --> 01:39:42,888
從石器時代開始，

2216
01:39:42,889 --> 01:39:46,153
還有更大的變化
還沒到來。

2217
01:40:47,606 --> 01:40:50,217
♪ 我們現在要做什麼？ ♪

2218
01:40:50,218 --> 01:40:53,263
♪ 我們因嘗試而失敗 ♪

2219
01:40:53,264 --> 01:40:55,135
♪ 我們失去了它 ♪

2220
01:40:55,136 --> 01:40:56,746
♪ 去試試 ♪

2221
01:40:59,575 --> 01:41:02,272
♪ 我們現在要做什麼？ ♪

2222
01:41:02,273 --> 01:41:05,232
♪ 我們因嘗試而失敗 ♪

2223
01:41:05,233 --> 01:41:07,016
♪ 我們失去了它 ♪

2224
01:41:07,017 --> 01:41:08,714
♪ 去試試 ♪

2225
01:41:11,630 --> 01:41:14,154
♪ 現在我們能說什麼？ ♪

2226
01:41:14,155 --> 01:41:17,244
♪ 我們的嘴只是在說謊 ♪

2227
01:41:17,245 --> 01:41:18,680
♪ 我們的嘴 ♪

2228
01:41:18,681 --> 01:41:20,683
♪ 只是說謊 ♪

2229
01:41:25,122 --> 01:41:27,732
♪ 現在我們能說什麼？ ♪

2230
01:41:27,733 --> 01:41:30,866
♪ 我們的嘴只是在說謊 ♪

2231
01:41:30,867 --> 01:41:32,259
♪ 我們的嘴 ♪

2232
01:41:32,260 --> 01:41:34,261
♪ 只是說謊 ♪

2233
01:42:01,071 --> 01:42:03,768
♪ 屈服並退出 ♪

2234
01:42:03,769 --> 01:42:06,728
♪ 我們在臨終中崛起 ♪

2235
01:42:06,729 --> 01:42:08,251
♪ 我們崛起 ♪

2236
01:42:08,252 --> 01:42:10,211
♪ 臨終時 ♪

2237
01:42:13,127 --> 01:42:15,824
♪ 屈服並退出 ♪

2238
01:42:15,825 --> 01:42:18,696
♪ 我們在臨終中崛起 ♪

2239
01:42:18,697 --> 01:42:20,263
♪ 我們崛起 ♪

2240
01:42:20,264 --> 01:42:22,223
♪ 臨終時 ♪

2241
01:42:25,051 --> 01:42:27,705
♪ 屈服並退出 ♪

2242
01:42:27,706 --> 01:42:30,708
♪ 我們在臨終中崛起 ♪

2243
01:42:30,709 --> 01:42:32,275
♪ 我們崛起 ♪

2244
01:42:32,276 --> 01:42:34,148
♪ 臨終時 ♪

2245
01:42:37,107 --> 01:42:39,761
♪ 屈服並退出 ♪

2246
01:42:39,762 --> 01:42:42,633
♪ 我們在臨終中崛起 ♪

2247
01:42:42,634 --> 01:42:43,852
♪ 我們 ♪

2248
01:43:22,761 --> 01:43:25,328
♪ 哦，哦，哦，哦，哦 ♪

2249
01:43:25,329 --> 01:43:27,025
♪ 哦，哦，哦，哦 ♪

2250
01:43:27,026 --> 01:43:28,462
♪ 哦，哦 ♪

2251
01:43:28,463 --> 01:43:31,421
♪ 哦，哦，哦，哦，哦，哦 ♪

2252
01:43:31,422 --> 01:43:32,988
♪ 哦，哦，哦，哦 ♪

2253
01:43:32,989 --> 01:43:34,424
♪ 哦，哦 ♪

2254
01:43:34,425 --> 01:43:37,079
♪ 哦，哦，哦，哦，哦，哦 ♪

2255
01:43:37,080 --> 01:43:39,690
♪ 我們現在要做什麼？ ♪

2256
01:43:39,691 --> 01:43:42,693
♪ 我們因嘗試而失敗 ♪

2257
01:43:42,694 --> 01:43:44,608
♪ 我們失去了它 ♪

2258
01:43:44,609 --> 01:43:46,349
♪ 去試試 ♪

2259
01:43:46,350 --> 01:43:49,047
♪ 哦，哦，哦，哦，哦，哦 ♪

2260
01:43:49,048 --> 01:43:51,746
♪ 我們現在要做什麼？ ♪

2261
01:43:51,747 --> 01:43:54,749
♪ 我們因嘗試而失敗 ♪

2262
01:43:54,750 --> 01:43:56,620
♪ 我們失去了它 ♪

2263
01:43:56,621 --> 01:43:58,448
♪ 去嘗試。 ♪