1
00:05:19,666 --> 00:05:22,375
E quando se produz e distribui abundância,

2
00:05:22,375 --> 00:05:28,250
não se pode diferenciar a renda,
pois seria uma quantia grande a todos.

3
00:05:28,291 --> 00:05:30,916
Com um sistema de inventário automático
e contínuo,

4
00:05:31,000 --> 00:05:34,166
você sabe onde ele é consumido,
por quem e quando.

5
00:05:34,291 --> 00:05:37,875
Quanto à condução dos assuntos humanos
tal como se entende hoje

6
00:05:38,041 --> 00:05:40,500
como vem sendo conduzida
por milhares de anos

7
00:05:40,666 --> 00:05:44,000
precisamos compreender ser necessário,
pela primeira vez,

8
00:05:44,041 --> 00:05:49,791
planejar um governo
que não se baseia no comportamento humano,

9
00:05:50,000 --> 00:05:52,000
mas, sim, no que é inanimado.

10
00:06:18,125 --> 00:06:19,791
Nunca poderíamos ganhar uma eleição

11
00:06:19,875 --> 00:06:21,750
pois éramos uma minoria.

12
00:06:21,750 --> 00:06:26,666
É aí que a tecnologia se torna
uma alternativa para a política.

13
00:06:59,875 --> 00:07:04,500
Essa tecnologia pode acelerar radicalmente
o que as forças armadas podem fazer.

14
00:07:04,541 --> 00:07:09,500
Criaremos robôs baseados em IA
que suprirão as necessidades humanas.

15
00:07:09,625 --> 00:07:12,000
A verdade é que não os desligamos de fato.

16
00:07:12,041 --> 00:07:13,916
Não são pessoas olhando nas câmeras.

17
00:07:14,000 --> 00:07:15,250
É a IA que está olhando.

18
00:07:15,250 --> 00:07:21,375
A polícia terá que se comportar melhor,
porque estaremos gravando,

19
00:07:21,375 --> 00:07:23,375
observando e reportando tudo.

20
00:07:23,666 --> 00:07:25,750
Os civis também vão se comportar melhor.

21
00:07:26,125 --> 00:07:29,875
Porque estaremos gravando
e reportando tudo o que acontece.

22
00:07:57,750 --> 00:08:00,375
Minha previsão é termos mais robôs
do que humanos.

23
00:08:00,416 --> 00:08:04,125
Acho que será tão grande ou maior
quanto a Revolução Industrial.

24
00:08:04,125 --> 00:08:07,416
Continuamos soando
todos os alarmes sobre isso.

25
00:08:07,541 --> 00:08:09,500
E o mundo não está nos levando a sério.

26
00:08:09,541 --> 00:08:12,541
O principal risco da IA é
a instabilidade social,

27
00:08:12,625 --> 00:08:14,041
a disfunção e a violência.

28
00:08:14,125 --> 00:08:19,000
A IA vai, provavelmente,
nos levar ao fim do mundo.

29
00:08:25,375 --> 00:08:29,041
A maioria dos países do mundo são
receptores de tecnologia

30
00:08:29,375 --> 00:08:34,791
e não têm escolha
porque não conseguem desenvolvê-la.

31
00:08:35,000 --> 00:08:37,500
Precisam aceitar a tecnologia
produzida por outros.

32
00:08:37,750 --> 00:08:40,000
E são países que não têm armas nucleares.

33
00:08:40,625 --> 00:08:46,125
E precisam aceitar
o que vem dos EUA,

34
00:08:46,416 --> 00:08:48,125
ou talvez da China,

35
00:08:48,541 --> 00:08:50,625
talvez com algumas exceções.

36
00:08:50,750 --> 00:08:53,666
No geral, eles não têm poder de barganha.

37
00:08:53,750 --> 00:08:57,166
Como eles têm essa tecnologia abrangente,

38
00:08:57,500 --> 00:09:00,041
é bem provável
que sua capacidade de vigilância,

39
00:09:00,375 --> 00:09:03,500
seja maior do que a de qualquer ditador
do passado.

40
00:09:04,125 --> 00:09:09,000
Isso mostra o quanto essas empresas
são poderosas.

41
00:09:09,125 --> 00:09:13,375
Se você for a um país pequeno
da América Latina ou da África,

42
00:09:13,875 --> 00:09:16,125
as empresas os ignoram

43
00:09:16,666 --> 00:09:19,625
porque são elas
que têm o poder, não os países.

44
00:09:21,000 --> 00:09:24,125
E acho que elas têm ambições maiores.

45
00:09:24,375 --> 00:09:28,875
Não querem só território, querem
controlar nossas mentes, o espaço sideral.

46
00:09:29,166 --> 00:09:31,125
Controlar o modo de fazermos as coisas.

47
00:09:31,166 --> 00:09:33,416
Estão tentando
criar um mundo diferente.

48
00:09:46,791 --> 00:09:50,541
Acha que a postura de Musk vem
de uma insegurança sobre à xAI?

49
00:09:50,625 --> 00:09:54,000
A vida dele gira em torno de insegurança.
Sinto pena dele.

50
00:09:54,416 --> 00:09:56,416
-Tem pena dele?
-Tenho, de verdade.

51
00:09:56,625 --> 00:09:58,625
Não acho que seja feliz.
Tenho pena.

52
00:09:58,625 --> 00:10:00,750
Eu sou a razão pela qual a OpenAI existe.

53
00:11:11,666 --> 00:11:15,291
Os humanos não são os mais rápidos,
não são os mais fortes,

54
00:11:15,375 --> 00:11:19,250
mas são os mais inteligentes.
E isso nos fez controlar o planeta.

55
00:11:21,000 --> 00:11:23,416
Foi o que nos permitiu
dominar o mundo inteiro

56
00:11:23,500 --> 00:11:26,250
e construir a sociedade incrível
que temos hoje,

57
00:11:26,250 --> 00:11:30,000
a qual nenhum outro animal chega
perto em comparação.

58
00:11:30,166 --> 00:11:34,375
E essa sempre foi a linha divisória
entre nós e os animais,

59
00:11:34,500 --> 00:11:36,416
nós e as plantas,
e as ferramentas.

60
00:11:36,500 --> 00:11:38,125
E tal linha está ficando difusa.

61
00:11:39,875 --> 00:11:40,916
Eu sou Liv Boeree.

62
00:11:41,000 --> 00:11:44,541
Eu sou uma das jogadoras de pôquer
mais bem-sucedidas de todos os tempos.

63
00:11:44,625 --> 00:11:46,291
Achávamos que estávamos seguros.

64
00:11:46,375 --> 00:11:48,375
Não imaginávamos que uma IA sobre-humana

65
00:11:48,416 --> 00:11:51,875
viesse por mais dez, vinte anos.

66
00:11:52,166 --> 00:11:55,750
E a primeira IA sobre-humana surgiu
em 2017.

67
00:11:55,750 --> 00:11:57,750
Ela se chamava Libratus

68
00:11:57,750 --> 00:12:01,125
e venceu quatro
dos nossos melhores jogadores.

69
00:12:01,250 --> 00:12:02,625
De maneira bem decisiva.

70
00:12:02,791 --> 00:12:06,875
Então, foi um momento de abrir os olhos.

71
00:12:07,916 --> 00:12:11,875
A primeira vez que um computador
venceu um humano em um jogo

72
00:12:11,916 --> 00:12:13,750
foi no "Jogo-da-velha".

73
00:12:13,875 --> 00:12:15,875
Por volta de 1953.

74
00:12:16,000 --> 00:12:17,375
E depois, no Xadrez.

75
00:12:20,291 --> 00:12:24,625
O Xadrez sempre foi apresentado
como epítome da inteligência humana.

76
00:12:24,666 --> 00:12:26,750
Algo que pessoas inteligentes faziam.

77
00:12:26,750 --> 00:12:29,750
Nessa ideia de classificar pessoas
ao longo de uma escala,

78
00:12:29,791 --> 00:12:31,125
os enxadristas são o topo.

79
00:12:31,166 --> 00:12:34,916
Em 1997, Deep Blue venceu Garry Kasparov,
o campeão mundial.

80
00:12:35,000 --> 00:12:36,791
Foi um grande acontecimento.

81
00:12:36,875 --> 00:12:39,625
Gary não está...
Ele parece...

82
00:12:39,666 --> 00:12:43,250
Ele parece estar revoltado.
Parece estar... Não, ele...

83
00:12:44,750 --> 00:12:46,625
Deep Blue...
Kasparov...

84
00:12:46,750 --> 00:12:50,625
depois de ver o movimento C4...
desistiu?

85
00:13:12,875 --> 00:13:16,416
E então, em 2015, Go.

86
00:13:16,500 --> 00:13:19,750
O jogo de Go, que é mais complexo
do que o Xadrez.

87
00:13:20,375 --> 00:13:23,500
Mais uma vez, os humanos perderam
para uma IA.

88
00:13:23,500 --> 00:13:29,666
Voltaremos para o quinto jogo final
na terça-feira.

89
00:13:30,000 --> 00:13:34,041
Quando jogamos contra Lee Sedol,
o sistema era treinado com dados humanos,

90
00:13:34,125 --> 00:13:37,625
com milhões de partidas jogadas
por especialistas humanos.

91
00:13:37,750 --> 00:13:41,750
Mas encontramos um novo algoritmo,
com uma abordagem mais elegante,

92
00:13:41,875 --> 00:13:45,750
que eliminou todo o conhecimento humano
e começou do zero.

93
00:13:46,041 --> 00:13:48,666
Isso se tornou um projeto
que chamamos de AlphaZero.

94
00:13:49,125 --> 00:13:52,041
"Zero" significando
"zero conhecimento humano" no processo.

95
00:13:53,916 --> 00:13:58,000
Antes, quando se criavam
programas de xadrez,

96
00:13:58,041 --> 00:14:02,500
havia muito conhecimento humano
sobre o jogo incorporado a eles.

97
00:14:02,541 --> 00:14:04,791
O AlphaZero não tinha nada disso.

98
00:14:05,000 --> 00:14:08,125
Não aprendeu com dados humanos,
mas com seus próprios jogos.

99
00:14:08,125 --> 00:14:10,041
Tornou-se seu próprio professor.

100
00:14:10,250 --> 00:14:12,625
O AlphaGo levava meses para treinar.

101
00:14:13,125 --> 00:14:16,875
mas o AlphaZero podia começar de manhã,
jogando aleatoriamente,

102
00:14:17,416 --> 00:14:20,375
e, até o meio da tarde,
já estaria em nível sobre-humano.

103
00:14:20,666 --> 00:14:24,250
E até a hora do jantar, seria
a entidade do Xadrez mais forte de todas.

104
00:14:25,000 --> 00:14:29,250
Você não precisa de toda a história
da humanidade, sabe?

105
00:14:29,291 --> 00:14:31,000
Ou ter jogado essas partidas,

106
00:14:31,000 --> 00:14:34,000
ter aprendido tudo
o que os humanos sabiam sobre elas.

107
00:14:34,250 --> 00:14:39,666
Você só precisa do computador jogando
contra si mesmo bilhões de vezes.

108
00:14:40,000 --> 00:14:43,666
Caí em uma crise de identidade
quando isso aconteceu.

109
00:14:43,750 --> 00:14:48,166
Pensei "Uau, qual é o lugar
da humanidade neste mundo

110
00:14:48,250 --> 00:14:50,625
se até mesmo nossos amados jogos

111
00:14:51,000 --> 00:14:53,375
podem ser resolvidos por um PC,
por uma IA,

112
00:14:53,375 --> 00:14:55,750
com treinamento, dados suficientes

113
00:14:55,791 --> 00:14:58,666
e capacidade de cálculo?
O que isso significa para nós?".

114
00:15:22,500 --> 00:15:26,041
Tive uma conversa interessante
com alguém do Brasil,

115
00:15:26,375 --> 00:15:30,541
que havia trabalhado em uma cidade pequena
como fotógrafo, em um jornal.

116
00:15:30,625 --> 00:15:37,541
Ao escrever seus textos, ele entregava-os
à editora do jornal.

117
00:15:37,625 --> 00:15:42,166
E ela recebia o maior salário da equipe
porque sabia escrever bem.

118
00:15:42,250 --> 00:15:47,166
Podia corrigir a gramática, ajustar
o texto, e mandá-lo para a gráfica.

119
00:15:47,291 --> 00:15:49,750
Como ele destacou nessa conversa,

120
00:15:49,875 --> 00:15:52,416
ela agora não existe como profissão.

121
00:15:53,625 --> 00:15:56,875
Esse trabalho pode ser
feito em um estalar de dedos

122
00:15:57,000 --> 00:15:59,125
com um chatbot gratuito.

123
00:16:00,875 --> 00:16:06,291
Imagine esse trabalho multiplicado
mil vezes pela economia.

124
00:16:06,375 --> 00:16:10,250
Todos os empregos que pensávamos
precisarem de humanos

125
00:16:10,625 --> 00:16:13,500
serão automatizados.

126
00:16:14,541 --> 00:16:18,875
Estamos vivendo a revolução
em que o mundo está mudando rápido.

127
00:16:19,250 --> 00:16:21,750
E a IA, como tecnologia,

128
00:16:21,791 --> 00:16:24,125
nos permite, como humanidade,

129
00:16:24,250 --> 00:16:26,875
fazer coisas de forma mais eficiente.

130
00:16:26,916 --> 00:16:31,125
E as pessoas que não usam IA
perderão seus empregos,

131
00:16:31,416 --> 00:16:35,916
mas as que usam serão mais eficientes
e produtivas.

132
00:16:38,125 --> 00:16:40,416
Creio ter muitas coisas boas
a fazer com a IA,

133
00:16:40,500 --> 00:16:42,166
são ferramentas muito poderosas.

134
00:16:42,250 --> 00:16:45,625
Mas preciso deixar claro
que a IA substitui empregos.

135
00:16:46,875 --> 00:16:49,291
Quem afirma o contrário está errado.

136
00:16:49,750 --> 00:16:51,166
Ela vai tirar os empregos.

137
00:16:51,750 --> 00:16:55,666
Muitas pessoas vão encontrar outros
empregos ou outros jeitos de...

138
00:16:56,416 --> 00:16:58,000
talvez, mas...

139
00:16:58,541 --> 00:17:00,000
alguém tem um plano?

140
00:17:00,041 --> 00:17:03,375
Se essa evolução acontecer mais rápido

141
00:17:03,625 --> 00:17:06,291
do que a capacidade da sociedade
de se adaptar a ela,

142
00:17:06,416 --> 00:17:09,250
isso vai gerar um choque enorme,

143
00:17:09,250 --> 00:17:14,750
o que é muito disruptivo
e acabará sendo muito perigoso.

144
00:17:19,750 --> 00:17:25,000
Nós vemos um futuro
em que a inteligência é um serviço,

145
00:17:25,000 --> 00:17:27,375
como eletricidade ou água,

146
00:17:27,541 --> 00:17:30,875
e as pessoas a compram de nós
por meio de um medidor

147
00:17:31,291 --> 00:17:33,125
e a usam para o que quiserem fazer.

148
00:17:33,250 --> 00:17:35,875
Muitos dos setores de empregos
de colarinho branco,

149
00:17:35,916 --> 00:17:41,500
muito do que fazem, os modelos de IA
já executam bem, sem intervenção.

150
00:17:41,666 --> 00:17:46,250
É difícil imaginar não haver impacto
nesses empregos,

151
00:17:46,500 --> 00:17:50,666
e me preocupa pois será um impacto amplo,
e mais rápido

152
00:17:50,791 --> 00:17:53,625
do que o que vimos
com tecnologias anteriores.

153
00:17:55,250 --> 00:17:58,500
Não é como se houvesse apenas uma empresa
liderando essa mudança.

154
00:17:58,541 --> 00:18:03,791
Temos o Gemini do Google, Claude
da Anthropic, e tantos outros por aí.

155
00:18:03,875 --> 00:18:08,750
E eles começaram, aparentemente,
apenas como geradores de texto.

156
00:18:08,750 --> 00:18:12,916
É impressionante como se tornaram
multifuncionais tão rápido.

157
00:18:13,000 --> 00:18:16,500
E como conseguem aprender
coisas novas também.

158
00:18:17,250 --> 00:18:20,666
Ferramentas moldam a sociedade.
Ferramentas movem pessoas.

159
00:18:20,791 --> 00:18:25,541
E se tivermos o ideal de viver
em uma sociedade democrática,

160
00:18:25,625 --> 00:18:27,625
que age para proteger nosso bem-estar

161
00:18:27,666 --> 00:18:34,416
e leva em conta os valores humanos
com os quais concordamos,

162
00:18:34,416 --> 00:18:36,875
não é o que acontece
na indústria de tecnologia.

163
00:18:37,625 --> 00:18:42,625
A sociedade, coletivamente, transfere
uma parte da tomada de decisões

164
00:18:42,791 --> 00:18:46,791
para esse sistema muito poderoso,
que aprende a partir de nós.

165
00:18:46,875 --> 00:18:51,291
Nosso software de armas está
em toda situação de combate existente.

166
00:18:51,375 --> 00:18:54,416
Não queremos nos ver em um filme
do James Cameron,

167
00:18:54,500 --> 00:18:56,666
não queremos "O Exterminador do Futuro".

168
00:18:56,791 --> 00:18:59,125
Há pessoas que não têm voz neste debate,

169
00:18:59,166 --> 00:19:01,500
pessoas afetadas
pelo uso dessas ferramentas.

170
00:19:01,625 --> 00:19:06,916
Sem voz sobre como as ferramentas
se desenvolvem e o que importa nelas.

171
00:19:13,625 --> 00:19:16,000
Como não nos preocuparmos com isso?

172
00:19:16,000 --> 00:19:21,250
Talvez isso seja a coisa mais importante
que acontece no mundo agora.

173
00:19:21,250 --> 00:19:25,750
E há um número pequeno de pessoas

174
00:19:25,750 --> 00:19:30,125
que estão tomando as decisões
sobre como direcionar essa tecnologia.

175
00:19:30,250 --> 00:19:32,541
Obviamente importa
quem são essas pessoas.

176
00:19:32,666 --> 00:19:35,541
Eu não elegi essas pessoas,
não sei os seus valores,

177
00:19:35,625 --> 00:19:37,291
não sei se correspondem aos meus.

178
00:19:37,375 --> 00:19:39,125
A maior surpresa para mim,

179
00:19:39,250 --> 00:19:42,250
foram as personalidades dessas pessoas.

180
00:19:42,291 --> 00:19:44,750
Por exemplo, até onde é possível
ser excêntrico?

181
00:19:44,875 --> 00:19:46,875
Pelo jeito, não há limites.

182
00:19:52,416 --> 00:19:55,375
E ele fica bem abaixo
da famosa Ponte do Brooklyn.

183
00:19:55,416 --> 00:19:57,375
Estamos passando por baixo dela.

184
00:19:57,375 --> 00:19:59,250
Tem bastante lixo por aqui.

185
00:20:00,125 --> 00:20:01,625
Há quanto tempo eles estão aí?

186
00:20:01,625 --> 00:20:03,500
-Ah, sim.
-Não, não.

187
00:20:14,666 --> 00:20:16,500
-Minha nossa!
-Sim.

188
00:20:17,041 --> 00:20:21,125
A imagem perturbadora do local
acaba de chegar.

189
00:20:21,125 --> 00:20:25,000
Esse é o World Trade Center
e temos relatos desta manhã

190
00:20:25,041 --> 00:20:30,000
de que um avião colidiu
com uma das torres do World Trade Center.

191
00:20:55,916 --> 00:21:00,166
Direcionei os sistemas de inteligência
e de aplicação da lei

192
00:21:00,250 --> 00:21:04,041
para encontrar os responsáveis
e fazê-los pagar.

193
00:21:17,750 --> 00:21:20,375
Esta é uma empresa construída
para tempos difíceis.

194
00:21:21,250 --> 00:21:23,916
Tempos ruins significam finanças sólidas.

195
00:21:24,416 --> 00:21:26,375
Tempos ruins são bons para a Palantir,

196
00:21:26,375 --> 00:21:29,541
porque desenvolvemos produtos robustos,
feitos para o perigo.

197
00:21:29,666 --> 00:21:34,791
E algo como a Palantir é a chave
para deter ataques terroristas.

198
00:21:39,000 --> 00:21:40,250
Jason, é você?

199
00:22:26,541 --> 00:22:30,250
O governo dos EUA coleta tanta informação
sobre todo mundo

200
00:22:30,625 --> 00:22:34,916
que encontrar o que é útil
é como achar uma agulha num palheiro.

201
00:22:35,250 --> 00:22:39,125
Peter Thiel, o fundador, era uma espécie
de padrinho dessa virada

202
00:22:39,125 --> 00:22:41,625
em direção ao trabalho militar
no Vale do Silício

203
00:22:41,666 --> 00:22:43,125
e a uma visão mais belicosa.

204
00:22:43,166 --> 00:22:47,291
Depois do 11 de setembro,
ele conseguiu um contrato com a CIA,

205
00:22:47,375 --> 00:22:49,875
com o capital de risco
que se chamva IN-Q-TEL.

206
00:22:50,000 --> 00:22:54,875
No 11 de setembro, parte do problema era
que o FBI tinha informações,

207
00:22:54,875 --> 00:22:56,375
a CIA tinha informações.

208
00:22:56,500 --> 00:22:58,041
Eles não cruzaram esses dados,

209
00:22:58,125 --> 00:23:00,500
ou poderiam ter prevenido os ataques.

210
00:23:00,916 --> 00:23:03,166
Thiel disse:
"Posso resolver isso pra vocês".

211
00:23:03,625 --> 00:23:06,375
"Criarei um sistema sofisticado
o suficiente

212
00:23:06,416 --> 00:23:08,000
para todos acessarem os dados".

213
00:24:29,125 --> 00:24:32,125
A Palantir, até onde eu sei,
não fez nada de benéfico.

214
00:24:32,291 --> 00:24:36,166
Eles estão no negócio para fazer guerra,

215
00:24:36,250 --> 00:24:38,875
fazer vigilância e ganhar dinheiro
com as duas coisas.

216
00:24:38,916 --> 00:24:43,416
A IA sendo usada para fins militares
e de vigilância me assusta.

217
00:24:44,500 --> 00:24:45,666
Me assusta muito.

218
00:24:45,916 --> 00:24:50,166
E só agora as pessoas estão
começando a se atentar para isso.

219
00:25:34,125 --> 00:25:38,250
A Palantir é uma empresa controversa
e por razões muito boas.

220
00:25:38,625 --> 00:25:42,291
Direi algo controverso, não me tirem
do contexto no documentário,

221
00:25:42,875 --> 00:25:45,666
mas acho que armas são importantes.

222
00:25:46,125 --> 00:25:47,750
Governos devem ter armas.

223
00:25:47,791 --> 00:25:49,250
Devemos ter armas boas.

224
00:25:49,666 --> 00:25:50,875
A questão das armas é

225
00:25:50,916 --> 00:25:53,541
se tiver armas suficientes,
nunca precisará usá-las.

226
00:25:54,041 --> 00:25:58,291
Mas se tiver poucas, vai precisar usá-las.

227
00:25:58,625 --> 00:26:00,500
Essa é a lógica da dissuasão.

228
00:26:00,625 --> 00:26:04,250
Um elemento essencial para a manutenção
da paz é o nosso aparato militar.

229
00:26:04,916 --> 00:26:08,500
Nossas armas devem ser poderosas
e prontas para uso imediato,

230
00:26:09,041 --> 00:26:13,416
para que nenhum agressor se sinta tentado
a arriscar a sua própria destruição.

231
00:26:57,125 --> 00:27:00,000
Acho que o setor de tecnologia
está tentando criar

232
00:27:00,541 --> 00:27:02,750
não só um novo complexo
militar-industrial,

233
00:27:02,875 --> 00:27:04,625
mas também substituir o antigo.

234
00:27:04,750 --> 00:27:08,916
Durante anos, as grandes empresas,
como Lockheed Martin e General Dynamics,

235
00:27:09,125 --> 00:27:13,416
que fabricavam as grandes plataformas,
os navios, aviões e mísseis, dominaram.

236
00:27:13,750 --> 00:27:17,625
Elas recebiam um de cada três dólares
que o Pentágono destinava a armamentos.

237
00:27:17,875 --> 00:27:22,000
E, quando surgia uma empresa menor,
como uma empresa de cibersegurança,

238
00:27:22,166 --> 00:27:23,750
as grandes a compravam.

239
00:27:24,250 --> 00:27:27,125
Mas então surgiram a Palantir e a SpaceX,

240
00:27:27,416 --> 00:27:28,875
comandadas por bilionários.

241
00:27:29,250 --> 00:27:31,666
Por isso, elas não podiam comprá-las.

242
00:27:32,000 --> 00:27:34,750
Além disso, elas oferecem
armas diferentes,

243
00:27:35,000 --> 00:27:38,416
movidas por inteligência artificial
e aprendizado de máquina.

244
00:27:39,291 --> 00:27:44,500
A época em que a tecnologia buscava
conectar o mundo, torná-lo um lugar melhor

245
00:27:44,750 --> 00:27:47,041
e se dirigir ao consumidor acabou.

246
00:27:47,541 --> 00:27:51,500
Agora vivemos uma era
de maior incerteza e risco.

247
00:27:51,791 --> 00:27:56,375
E o principal cliente das empresas
de tecnologia é o governo.

248
00:27:56,500 --> 00:27:58,375
No início do Vale do Silício,

249
00:27:58,416 --> 00:28:01,250
sem o Pentágono,
não haveria Vale do Silício,

250
00:28:01,250 --> 00:28:05,125
devido ao desenvolvimento
dos computadores, da internet etc.

251
00:28:05,375 --> 00:28:10,041
Mas chegou um momento em que as empresas
podiam lucrar mais com produtos de consumo

252
00:28:10,416 --> 00:28:12,750
e trabalhar com o Pentágono
era complicado.

253
00:28:12,875 --> 00:28:15,625
E havia uma geração
de profissionais da tecnologia

254
00:28:15,666 --> 00:28:17,250
que não queria fabricar armas.

255
00:28:17,875 --> 00:28:21,625
O que Alexander Karp chama
de "República Tecnológica"

256
00:28:22,041 --> 00:28:25,625
é a ideia de que o Vale do Silício
se desviou do caminho,

257
00:28:25,750 --> 00:28:28,250
dedicou tempo demais
aos apps de redes sociais,

258
00:28:28,250 --> 00:28:31,375
e agora precisa voltar aonde tudo começou:

259
00:28:31,416 --> 00:28:36,375
o Pentágono, o Departamento de Guerra
e o complexo militar-industrial.

260
00:28:36,500 --> 00:28:38,291
Eles querem um grande sucesso.

261
00:28:38,375 --> 00:28:40,375
E, para isso, precisam do Pentágono.

262
00:29:03,375 --> 00:29:07,125
Conversei com uma jornalista
que pesquisava a Palantir

263
00:29:07,166 --> 00:29:10,125
para entrevistar o diretor
de tecnologia da empresa

264
00:29:10,166 --> 00:29:12,416
Ela perguntou:
"Eles fabricam armas?

265
00:29:12,500 --> 00:29:16,625
Parece que só fazem coisas
que conectam outras coisas".

266
00:29:17,000 --> 00:29:21,375
Como disse um lobista, eles não fabricam
coisas que explodem e matam pessoas.

267
00:29:21,875 --> 00:29:23,916
Só nos ajudam a encontrar as pessoas

268
00:29:24,000 --> 00:29:26,000
para serem mortas
por armas de outros.

269
00:29:26,041 --> 00:29:32,750
Sua empresa ajudou a localizar
e matar Osama Bin Laden?

270
00:29:33,500 --> 00:29:38,250
Quando você abre o jornal ou vê notícias
sobre esse tipo de coisa,

271
00:29:38,416 --> 00:29:43,250
há dois terços de chance,
a depender do país envolvido,

272
00:29:43,416 --> 00:29:45,666
de que minha empresa tenha participado.

273
00:29:45,750 --> 00:29:47,375
Tratam a guerra como um jogo.

274
00:29:47,500 --> 00:29:50,625
É aquilo de "veja o que nossa
tecnologia fez aqui ou ali."

275
00:29:50,791 --> 00:29:52,541
Eles se empolgam com isso,

276
00:29:52,625 --> 00:29:57,375
mas não sentem remorso por estarem
matando seres humanos inocentes.

277
00:29:57,750 --> 00:30:00,875
E acho que esse talvez seja
o aspecto mais deles.

278
00:30:01,750 --> 00:30:06,250
Estamos fazendo e estão gostando
tanto quanto eu.

279
00:30:06,416 --> 00:30:08,916
Por exemplo, um dos conjuntos
de programas deles

280
00:30:09,000 --> 00:30:12,166
ajudou Israel a aumentar o número de alvos
que conseguia atingir

281
00:30:12,250 --> 00:30:15,000
em determinado período em Gaza.

282
00:30:15,250 --> 00:30:18,750
Eu falei com uma pessoa
que trabalhou para a Palantir.

283
00:30:19,250 --> 00:30:25,875
Ela me disse que o "evento de Gaza",
como foi chamado,

284
00:30:26,000 --> 00:30:27,791
foi empolgante aos tecnólogos.

285
00:30:27,875 --> 00:30:29,875
Disse: "O que acontece lá
é terriível,

286
00:30:29,916 --> 00:30:33,416
mas foi fantástico para nós". Eu disse:
"Continue, me explique isso".

287
00:30:33,500 --> 00:30:37,500
"Foi fantástico para mim pois
quando se bombardeia massivamente,

288
00:30:37,541 --> 00:30:40,875
em uma região densamente povoada,
as pessoas fazem muitas coisas".

289
00:30:40,916 --> 00:30:45,375
E apontou para o meu celular,
que estava ali, e disse:

290
00:30:45,541 --> 00:30:48,625
"Seu celular está parado agora.
Ele é inútil para nós.

291
00:30:48,666 --> 00:30:50,916
Só quando se desloca é
que ele produz dados

292
00:30:51,000 --> 00:30:53,375
que podemos usar
para treinar os algoritmos".

293
00:30:53,666 --> 00:30:59,000
É fato que quando se observa o mundo
pela ótica do aprendizado de máquina,

294
00:30:59,125 --> 00:31:00,666
especialmente neste momento,

295
00:31:00,750 --> 00:31:03,666
com a ideia de que modelos melhores
devem ser maiores,

296
00:31:03,791 --> 00:31:07,500
fica fácil enxergar o mundo
como um fonte de dados.

297
00:31:07,541 --> 00:31:11,000
"Quando se bombardeiam pessoas
em uma região populosa como Gaza,

298
00:31:11,041 --> 00:31:14,291
se elas não morrem, correm,
tentam escapar,

299
00:31:14,375 --> 00:31:17,791
são deslocadas, fazem ligações,
tentam achar seus familiares,

300
00:31:17,916 --> 00:31:20,125
correm para o hospital
que já não existe,

301
00:31:20,125 --> 00:31:21,250
correm ainda mais.

302
00:31:21,291 --> 00:31:24,041
Há muito movimento e podemos
treinar os algoritmos".

303
00:31:26,625 --> 00:31:29,625
Você descreve alguém empolgado
com os bombardeios em Gaza

304
00:31:29,625 --> 00:31:31,500
pois isso significa obter mais dados?

305
00:31:31,750 --> 00:31:33,166
Isso é horrível.

306
00:31:33,250 --> 00:31:36,750
Pessoas dessa mentalidade,
que tentam controlar a política externa,

307
00:31:36,750 --> 00:31:38,416
vão matar os outros.

308
00:31:38,500 --> 00:31:41,500
Eles só se importam consigo mesmas.
Querem governar o mundo.

309
00:31:41,500 --> 00:31:43,166
Não se importam conosco.

310
00:31:43,375 --> 00:31:48,000
Estão desenvolvendo intensamente
suas operações de influência política.

311
00:32:03,625 --> 00:32:05,791
Empresas como a Palantir

312
00:32:05,875 --> 00:32:09,750
tomam uma parcela cada vez maior
do aparato militar e de inteligência,

313
00:32:09,791 --> 00:32:12,916
e passam suas capacidades
para o setor privado,

314
00:32:13,250 --> 00:32:15,750
tornando o exército
cada vez mais mercenário.

315
00:32:16,000 --> 00:32:17,625
Acho que é algo muito perigoso.

316
00:32:28,125 --> 00:32:31,166
Esta noite, peço a todos os meus
compatriotas americanos

317
00:32:31,250 --> 00:32:33,916
que se levantem
e votem em Donald Trump.

318
00:32:52,750 --> 00:32:54,375
E é como faremos isso.

319
00:33:15,750 --> 00:33:19,125
Nos conselhos de governo,
devemos nos precaver

320
00:33:19,125 --> 00:33:21,750
contra a aquisição
de influência indevida,

321
00:33:21,750 --> 00:33:26,375
buscada ou não, pelo complexo
militar-industrial.

322
00:33:26,500 --> 00:33:31,500
Para empresas como a Palantir,
a recompensa não é só o dinheiro,

323
00:33:31,666 --> 00:33:33,125
ela inclui poder político.

324
00:33:33,375 --> 00:33:36,416
Assim que se controla o aparato
de inteligência

325
00:33:36,500 --> 00:33:41,000
se controla a inteligência militar
e coisas do gênero,

326
00:33:41,000 --> 00:33:43,625
também se torna, em grande medida,
insubstituível.

327
00:33:43,666 --> 00:33:45,125
Você adquire poder político.

328
00:33:45,166 --> 00:33:49,125
Nunca venceríamos uma eleição
pois éramos uma minoria limitada.

329
00:33:49,166 --> 00:33:52,625
Mas talvez fosse possível mudar
unilateralmente o mundo

330
00:33:52,666 --> 00:33:56,625
sem precisar convencer, implorar
e suplicar a pessoas

331
00:33:56,625 --> 00:33:58,250
que não concordariam com você,

332
00:33:58,375 --> 00:33:59,750
por meios tecnológicos.

333
00:33:59,791 --> 00:34:04,666
E é aí que considero a tecnologia
uma incrível alternativa à política.

334
00:34:04,750 --> 00:34:09,916
Quando pensamos na Microsoft,
no Google ou na Palantir,

335
00:34:10,000 --> 00:34:12,750
deveríamos pensar mais
na Cia. das Índias Orientais.

336
00:34:13,875 --> 00:34:17,791
A Microsoft é mais um Estado-nação
do que uma empresa.

337
00:34:17,916 --> 00:34:19,291
Ela tem diplomatas.

338
00:34:19,375 --> 00:34:24,875
Ela envia representantes para negociar
com presidentes de outros países.

339
00:34:25,041 --> 00:34:26,916
O mesmo vale para todas big techs.

340
00:34:27,000 --> 00:34:30,166
Suas economias são maiores
que as de muitos Estados-nação.

341
00:34:30,250 --> 00:34:33,250
A Microsoft ganha mais dinheiro
do que muitos Estados-nação.

342
00:34:33,291 --> 00:34:36,541
Elas têm mais poder político
do que muitos Estados-nação.

343
00:34:36,625 --> 00:34:42,166
Conversei com políticos de economias
grandes de países do G20

344
00:34:42,250 --> 00:34:45,375
e eles disseram: "Sim, a Microsoft tem
mais poder do que nós."

345
00:34:46,166 --> 00:34:49,750
Se Eisenhower fizesse hoje o discurso
sobre o complexo militar,

346
00:34:49,791 --> 00:34:52,750
faria advertências semelhantes
sobre empresas

347
00:34:52,791 --> 00:34:56,250
que talvez precisaemos para a defesa,
mas que ameaçam a democracia.

348
00:34:56,250 --> 00:34:59,416
Porém, havia outra parte daquele discurso
que foi esquecida.

349
00:34:59,625 --> 00:35:04,750
Embora devamos respeitar a pesquisa
e as descobertas científicas,

350
00:35:05,625 --> 00:35:09,666
também precisamos estar atentos ao perigo

351
00:35:09,750 --> 00:35:12,291
de que as políticas públicas se tornem

352
00:35:12,625 --> 00:35:18,000
prisioneiras de uma elite
científico-tecnológica.

353
00:35:18,166 --> 00:35:22,541
Eles acham que sua tecnologia restaurará
a supremacia global dos Estados Unidos.

354
00:35:22,750 --> 00:35:27,791
E é, é quase como se acreditassem
ser deuses tecnológicos.

355
00:35:27,875 --> 00:35:33,000
Várias pessoas muito envolvidas
com a inteligência artificial

356
00:35:33,250 --> 00:35:36,500
a enxergam como um mecanismo
para o transumanismo,

357
00:35:36,541 --> 00:35:39,541
para transcender a carne mortal,

358
00:35:40,000 --> 00:35:43,875
e promover a criação
de uma espécie sucessora

359
00:35:43,916 --> 00:35:47,500
ou algum tipo de fusão
entre mente e máquina.

360
00:35:47,916 --> 00:35:53,000
Você acha que tudo isso é apenas
uma fantasia irrelevante?

361
00:35:53,291 --> 00:35:55,000
É algo que o preocupa?

362
00:35:55,125 --> 00:35:56,250
-Acho que...
-É, sim...

363
00:35:56,291 --> 00:35:58,875
Quer que a humanidade
continue existindo, certo?

364
00:36:00,666 --> 00:36:04,250
-Está hesitando. Sim?
-É, eu... Não sei, eu iria...

365
00:36:05,500 --> 00:36:07,000
Eu gostaria...

366
00:36:07,250 --> 00:36:09,000
-Hesitou muito.
-É que são...

367
00:36:09,000 --> 00:36:11,541
-Hesitou muito.
-É que são muitas questões.

368
00:36:11,625 --> 00:36:13,625
A humanidade deveria sobreviver?

369
00:36:16,125 --> 00:36:18,750
-Sim. Mas...
-Certo.

370
00:36:18,875 --> 00:36:21,666
Eu também gostaria que...

371
00:36:21,875 --> 00:36:24,000
E-Eu também gostaria que...

372
00:36:24,125 --> 00:36:26,000
que ressolvêssemos isso radicalmente.

373
00:36:26,000 --> 00:36:28,125
-Certo.
-E, bom, é sempre,

374
00:36:28,166 --> 00:36:30,166
eu não sei, hã...

375
00:36:31,125 --> 00:36:34,375
Sabe, o transumanismo...

376
00:36:34,791 --> 00:36:38,916
tem como ideal essa transformação radical,

377
00:36:39,000 --> 00:36:45,041
na qual seu corpo humano natural
é transformado em um imortal.

378
00:36:45,375 --> 00:36:48,125
Queremos que você consiga
mudar seu coração,

379
00:36:48,166 --> 00:36:52,291
sua mente e todo o seu corpo.

380
00:36:52,541 --> 00:36:55,250
O transumanismo não consiste apenas
em mudar o corpo,

381
00:36:55,291 --> 00:36:57,166
mas também deve
transformar a alma.

382
00:36:57,250 --> 00:37:02,500
Eles também querem criar uma rede global
que não seja controlada pelos governos.

383
00:37:02,750 --> 00:37:07,625
Por isso, eles negociam com governos
para obter um território sem regulação.

384
00:37:07,750 --> 00:37:10,625
Em Honduras, eles têm um local

385
00:37:10,750 --> 00:37:13,750
onde pesquisam como Thiel poderia
viver para sempre.

386
00:37:14,291 --> 00:37:16,416
Querem criar esses locais
no mundo inteiro

387
00:37:16,625 --> 00:37:21,250
e conectá-los entre si,
sem controle governamental.

388
00:37:21,541 --> 00:37:26,750
Eles têm ideias
para automatizar a educação,

389
00:37:26,916 --> 00:37:30,291
a medicina, ou criar juízes
de inteligência artificial.

390
00:37:30,375 --> 00:37:32,625
Estão tentando criar um mundo diferente,

391
00:37:32,750 --> 00:37:35,291
muito inspirado na ficção científica.

392
00:37:35,500 --> 00:37:39,500
Os players mais ruidosos
e com as maiores avaliações,

393
00:37:39,666 --> 00:37:42,625
pertencem ao chamado Tescrealismo.

394
00:37:42,666 --> 00:37:47,625
Uma sequência de ideologias
que reúne transumanismo

395
00:37:47,666 --> 00:37:51,625
extropianismo, singularitarianismo,
cosmismo, racionalismo,

396
00:37:51,666 --> 00:37:53,500
altruísmo eficaz
e longoprazismo.

397
00:37:53,750 --> 00:37:57,375
Elas foram agrupadas a partir do trabalho
de Timnit Gebru e Émile Torres,

398
00:37:57,416 --> 00:38:00,166
que identificaram as conexões
entre essas ideologias.

399
00:38:00,375 --> 00:38:02,250
Suas origens remontam à eugenia.

400
00:38:02,291 --> 00:38:06,250
Trata-se da ideia
de que o destino da humanidade

401
00:38:06,291 --> 00:38:07,916
segundo essa ideologia,

402
00:38:08,125 --> 00:38:12,000
seria viver entre as estrelas
como simulações digitais.

403
00:38:12,250 --> 00:38:15,541
Esse tipo de ideologia sugere

404
00:38:15,625 --> 00:38:20,500
que o objetivo final deles
está em um futuro distante,

405
00:38:20,541 --> 00:38:23,125
quando a galáxia terá
sido colonizada

406
00:38:23,125 --> 00:38:26,625
e transformada em grandes computadores

407
00:38:26,666 --> 00:38:28,375
que abrigariam vidas digitais

408
00:38:28,416 --> 00:38:32,625
vividas em um tipo de fusão pós-humana

409
00:38:32,750 --> 00:38:36,375
entre nosso corpo
e as tecnologias conectadas.

410
00:38:36,500 --> 00:38:43,250
O maior perigo está na mente
desses líderes do setor tecnológico.

411
00:38:43,375 --> 00:38:45,875
Porque Thiel quer viver para sempre.

412
00:38:46,291 --> 00:38:48,291
Musk quer colonizar o espaço.

413
00:38:48,375 --> 00:38:50,791
Assim, Elon Musk começou
a gastar muito dinheiro

414
00:38:50,916 --> 00:38:52,541
e ajudou a eleger Trump.

415
00:38:55,875 --> 00:39:00,250
Quando chegar a hora decisiva, suponhamos
que criem uma superinteligência digital

416
00:39:00,250 --> 00:39:03,125
uma inteligência quase divina.
Bem, quem terá o controle?

417
00:39:45,875 --> 00:39:49,041
Muitos americanos são fascinados
pela tecnologia.

418
00:39:49,291 --> 00:39:51,250
Quando Elon Musk disse:

419
00:39:51,250 --> 00:39:56,000
"Vou começar do zero,
colocar satélites no espaço

420
00:39:56,416 --> 00:39:59,166
e superar a Boeing e a Lockheed Martin".

421
00:39:59,375 --> 00:40:00,500
e depois conseguiu,

422
00:40:00,750 --> 00:40:03,625
as pessoas pensaram:
"Ele é capaz de qualquer coisa".

423
00:40:03,625 --> 00:40:06,916
Sua empresa lança a maioria
dos satélites militares americanos.

424
00:40:07,166 --> 00:40:09,291
Estão construindo a chamada Starship,

425
00:40:09,416 --> 00:40:11,916
capaz de colocar mais carga no espaço
de uma só vez

426
00:40:12,125 --> 00:40:13,750
que qualquer foguete da história.

427
00:40:14,125 --> 00:40:15,750
O Pentágono acredita

428
00:40:15,750 --> 00:40:19,000
que com uma corrida espacial
contra a China, isso será crucial.

429
00:40:19,125 --> 00:40:20,916
Ele lança todos esses satélites

430
00:40:21,000 --> 00:40:23,875
que são usados não apenas
para determinar alvos militares

431
00:40:23,875 --> 00:40:26,291
mas também o sistema bancário,
e o que fazemos

432
00:40:26,375 --> 00:40:27,625
pelos nossos celulares.

433
00:40:27,750 --> 00:40:33,375
Assim, sua influência vai além do governo
e chega ao setor civil.

434
00:40:33,500 --> 00:40:37,500
E gastar 250 milhões de dólares
para eleger alguém

435
00:40:37,750 --> 00:40:39,500
é algo sem precedentes.

436
00:40:49,916 --> 00:40:53,416
Sim, a tecnocracia está avançando,

437
00:40:53,500 --> 00:40:58,000
não apenas na costa do Pacífico,
mas por todo este continente.

438
00:40:58,000 --> 00:41:00,750
E a simbolização está fazendo o trabalho.

439
00:41:21,166 --> 00:41:22,666
Então, o que isso exige?

440
00:41:22,750 --> 00:41:27,291
Exige um governo ou uma governança,
mais precisamente,

441
00:41:27,375 --> 00:41:30,750
de uma ordem diferente de tudo
que tivemos antes.

442
00:41:31,375 --> 00:41:34,625
Não precisamos de um policial parado
mandando em nós,

443
00:41:35,000 --> 00:41:38,166
protegendo quem tem dinheiro,
daqueles que não o tem.

444
00:41:38,625 --> 00:41:41,625
A única razão de precisarmos disso,
só o que precisamos fazer

445
00:41:41,666 --> 00:41:44,875
é operar as máquinas
que nos dão nosso padrão de vida

446
00:41:45,500 --> 00:41:47,250
e garantir que elas funcionem.

447
00:41:47,291 --> 00:41:49,291
E do que precisamos para operá-las?

448
00:41:49,500 --> 00:41:52,125
Colocar nesses cargos
as pessoas mais capacitadas

449
00:41:52,166 --> 00:41:54,416
para exercer essas funções. Por quê?

450
00:41:56,000 --> 00:41:59,000
Pelo mesmo motivo
dos passageiros de um avião

451
00:41:59,041 --> 00:42:02,916
não se reúnem antes da decolagem
para eleger o piloto.

452
00:42:09,625 --> 00:42:12,625
Esqueçam a natureza humana.
Isso nem sequer existe.

453
00:42:12,750 --> 00:42:14,166
É o comportamento humano.

454
00:42:14,250 --> 00:42:16,791
Não importa sua altura, seu porte físico,

455
00:42:16,875 --> 00:42:19,125
o que você é ou a cor da sua pele.

456
00:42:19,125 --> 00:42:23,166
Diante de determinadas circunstâncias,
você se comportará de tal maneira.

457
00:42:51,500 --> 00:42:55,666
Elon Musk e Grimes, deram as boas-vindas
ao primeiro filho do casal nesta semana.

458
00:42:55,750 --> 00:42:58,500
Logo depois, revelaram o nome do bebê.

459
00:42:58,541 --> 00:43:02,750
Escreve-se XÆA12.

460
00:43:02,791 --> 00:43:05,500
"X" é apenas a letra "X".

461
00:43:06,000 --> 00:43:10,625
E o "Æ" é pronunciado "Ash".

462
00:43:10,666 --> 00:43:13,875
Já o "A-12" foi minha contribuição.

463
00:43:45,500 --> 00:43:47,666
Devemos ter cuidado com a IA.

464
00:43:47,750 --> 00:43:50,875
Se eu fosse apontar
qual é nossa maior ameaça existencial,

465
00:43:52,000 --> 00:43:53,166
deve ser ela.

466
00:43:53,250 --> 00:43:55,666
Com a IA,
estamos invocando o demônio.

467
00:43:56,416 --> 00:43:59,625
Sabe aquelas histórias
em que há alguém com um pentagrama,

468
00:43:59,666 --> 00:44:02,916
e a água benta e ele tem certeza
de que pode controlar o demônio.

469
00:44:03,375 --> 00:44:05,125
Vai dar certo.

470
00:44:24,875 --> 00:44:27,125
Isso é importante de se entender.

471
00:44:27,166 --> 00:44:30,500
As IAs atuais não são
como os programas tradicionais.

472
00:44:30,541 --> 00:44:34,791
Um programa tradicional é
escrito linha por linha por um engenheiro.

473
00:44:34,875 --> 00:44:38,000
Mas não é assim
que a inteligência artificial funciona.

474
00:44:38,000 --> 00:44:41,166
É melhor pensar nessas tecnologias
como cérebros alienígenas,

475
00:44:41,250 --> 00:44:43,291
e não como programas.

476
00:44:43,875 --> 00:44:46,375
Algo mais parecido
com uma sala de controle

477
00:44:46,416 --> 00:44:51,625
onde alguns engenheiros observam
telas com números e gráficos

478
00:44:51,791 --> 00:44:54,375
e fazem pequenos ajustes aqui e ali.

479
00:44:54,416 --> 00:44:56,750
Os engenheiros ficam apenas observando

480
00:44:56,750 --> 00:44:59,125
torcendo para que funcione como desejam.

481
00:44:59,166 --> 00:45:02,125
É parecido com observar algo
crescer em uma placa de Petri

482
00:45:02,125 --> 00:45:04,875
do que construir você mesmo
cada uma das peças.

483
00:45:13,166 --> 00:45:14,541
Eu era amigo de Larry Page.

484
00:45:14,625 --> 00:45:18,750
Ficava na casa dele, e conversávamos
sobre IA até tarde da noite.

485
00:45:19,125 --> 00:45:22,666
Eu insistia para ter cuidado
com os perigos da IA.

486
00:45:22,750 --> 00:45:25,625
Na época, o Google,
após adquirir a DeepMind,

487
00:45:25,666 --> 00:45:27,666
concentrava os especialistas em IA.

488
00:45:27,750 --> 00:45:30,625
Também tinha muitos computadores
e muito dinheiro.

489
00:45:30,750 --> 00:45:32,791
Portanto, o mundo da IA era unipolar.

490
00:45:33,125 --> 00:45:36,166
E nesse mundo unipolar...

491
00:45:36,250 --> 00:45:39,875
a pessoa que o controlava
não parecia, na época,

492
00:45:39,875 --> 00:45:42,041
se preocupar com a segurança da IA.

493
00:45:50,166 --> 00:45:54,000
A gota d'água foi
Larry me chamar de especista

494
00:45:54,166 --> 00:45:58,625
por defender, a consciência humana
em vez das máquinas.

495
00:45:58,666 --> 00:46:01,791
E eu falei:
"Bem, sim, acho que sou um especista".

496
00:46:35,125 --> 00:46:37,291
A aspiração da Neuralink a longo prazo

497
00:46:37,375 --> 00:46:42,416
é aperfeiçoar a simbiose
entre os humanos e a IA,

498
00:46:43,000 --> 00:46:47,291
aumentando a largura de banda
da comunicação.

499
00:46:48,166 --> 00:46:52,041
Mesmo no cenário mais benigno para a IA,

500
00:46:52,875 --> 00:46:57,041
é preciso considerar
que ela ficará entediada

501
00:46:57,166 --> 00:46:59,416
esperando você pronunciar
algumas palavras.

502
00:47:00,250 --> 00:47:03,791
Se a IA consegue se comunicar
a terabits por segundo

503
00:47:03,875 --> 00:47:07,000
enquanto você se comunica
a meros bits por segundo,

504
00:47:07,416 --> 00:47:09,416
é como conversar com uma árvore.

505
00:47:09,666 --> 00:47:13,666
E temos de fazer essa simbiose funcionar
para que o futuro do mundo

506
00:47:13,750 --> 00:47:17,875
seja controlado pela vontade conjunta
dos habitantes da Terra.

507
00:47:17,875 --> 00:47:21,000
Creio ser esse o futuro que queremos,

508
00:47:21,000 --> 00:47:23,250
se ele for a soma
da nossa vontade coletiva.

509
00:47:39,000 --> 00:47:41,250
Há momentos na história da Ciência

510
00:47:41,250 --> 00:47:45,750
que um grupo de cientistas contempla
sua criação e pergunta:

511
00:47:45,750 --> 00:47:47,250
"O que fizemos?".

512
00:47:47,250 --> 00:47:51,000
Talvez o exemplo mais emblemático
sejam os cientistas

513
00:47:51,166 --> 00:47:53,541
que trabalharam
no Projeto Manhattan, em 1945.

514
00:47:54,250 --> 00:47:58,125
Agora eu me tornei a Morte,
a destruidora de mundos.

515
00:50:42,750 --> 00:50:46,375
Eles escreveram um artigo.
Todos podem ler e usá-lo.

516
00:50:46,750 --> 00:50:47,875
Não foi um segredo.

517
00:50:47,916 --> 00:50:49,625
É assim que a pesquisa funciona.

518
00:50:50,541 --> 00:50:52,291
"Atenção é tudo que se precisa".

519
00:50:52,291 --> 00:50:54,625
Começou com esse artigo.

520
00:50:54,666 --> 00:50:56,875
Foi quem mostrou
a arquitetura transformer.

521
00:50:56,875 --> 00:51:00,541
O "T" de transformer é
o "T" de ChatGPT, por exemplo.

522
00:51:01,625 --> 00:51:06,375
Ele permite que as máquinas prevejam
seu próximo token,

523
00:51:06,416 --> 00:51:08,291
a próxima palavra,
com eficiência.

524
00:51:12,791 --> 00:51:17,875
Quando as pessoas experimentavam os LLMs
mais avançados de cinco anos atrás,

525
00:51:17,875 --> 00:51:19,916
como o GPT-3, certo?

526
00:51:20,041 --> 00:51:24,041
Eles eram divertidos para brincar,
mas não tinham muita utilidade.

527
00:51:53,500 --> 00:51:58,416
Então, para deixá-los no jeito,
como algo que será útil,

528
00:51:58,416 --> 00:52:00,625
é necessário fazer uma segunda fase.

529
00:52:00,666 --> 00:52:06,125
Eles pegam quase todo o texto
que existe na internet pública,

530
00:52:06,166 --> 00:52:11,375
todos os conceitos que os seres humanos
já falaram ou escreveram.

531
00:52:11,916 --> 00:52:14,125
Damos a essas IAs tarefas simples.

532
00:52:14,166 --> 00:52:16,375
Basta prever a próxima palavra. Simples.

533
00:52:16,375 --> 00:52:19,625
Mas isso é tão difícil
que nesse processo

534
00:52:19,666 --> 00:52:22,250
as IAs pegam muitas outras coisas.

535
00:52:24,000 --> 00:52:26,166
E é aí que o milagre acontece.

536
00:52:26,250 --> 00:52:29,375
Se fizer certo, se der a elas
computadores grandes,

537
00:52:29,375 --> 00:52:32,541
fornece imagens, textos, sons,

538
00:52:32,541 --> 00:52:34,291
dá a elas qualquer coisa,

539
00:52:34,375 --> 00:52:37,500
elas conseguem desvendar.
E não entendemos como.

540
00:53:39,875 --> 00:53:43,750
Acha que a postura de Musk vem
de uma insegurança sobre à xAI?

541
00:53:43,750 --> 00:53:47,000
A vida dele gira em torno de insegurança.
Sinto pena dele.

542
00:53:47,541 --> 00:53:49,625
-Tem pena dele?
-Tenho, de verdade.

543
00:53:49,666 --> 00:53:51,750
Não acho que seja feliz.
Tenho pena.

544
00:53:51,750 --> 00:53:53,875
Eu sou a razão pela qual a OpenAI existe.

545
00:54:31,625 --> 00:54:37,500
A rapidez da adoção do ChatGPT
pegou todos de surpresa.

546
00:54:37,666 --> 00:54:41,375
Altman e OpenAI não esperavam

547
00:54:41,416 --> 00:54:46,875
e eles não estavam prontos, na verdade,
para tantas pessoas começarem a usá-lo

548
00:54:46,916 --> 00:54:48,291
tão rapidamente.

549
00:54:52,000 --> 00:54:55,375
E então todos perceberam
que essa era a próxima onda.

550
00:54:55,500 --> 00:54:58,541
E deixamos de lado
o que estávamos fazendo

551
00:54:58,625 --> 00:55:01,166
e nos conectamos na próxima tendência

552
00:55:01,250 --> 00:55:03,666
que será a IA Generativa.

553
00:55:36,416 --> 00:55:41,166
Quando fui recrutado para o OpenAI,
há mais de quatro anos,

554
00:55:41,250 --> 00:55:44,750
a mensagem era sermos
uma organização sem lucros,

555
00:55:44,750 --> 00:55:48,250
nossa missão é fazer isso direito,
pelo bem da humanidade.

556
00:55:48,291 --> 00:55:52,750
Você sabe, não se trata de gerar lucro
para uma empresa.

557
00:55:52,750 --> 00:55:55,500
E temos uma estrutura
de fiscalização,

558
00:55:55,500 --> 00:55:59,416
até temos um Conselho
capaz de demitir o CEO

559
00:55:59,500 --> 00:56:01,000
se ele sair da linha.

560
00:56:01,000 --> 00:56:04,000
Eles falavam muito sobre isso.

561
00:56:04,291 --> 00:56:07,000
Não devemos confiar tudo
a uma única pessoa.

562
00:56:07,000 --> 00:56:09,250
Não tenho poder de voto especial,

563
00:56:09,250 --> 00:56:11,666
e eu nem quero isso.

564
00:56:11,750 --> 00:56:13,791
É importante o Conselho poder
me demitir.

565
00:56:13,875 --> 00:56:16,375
Com o tempo, o conselho precisa...

566
00:56:17,125 --> 00:56:18,791
ser democratizado à humanidade.

567
00:56:18,875 --> 00:56:20,750
Há muitas maneiras disso acontecer.

568
00:56:30,916 --> 00:56:36,375
Pensaram que essa estrutura iria
manter a organização alinhada

569
00:56:36,375 --> 00:56:38,375
com a missão fundadora original

570
00:56:38,416 --> 00:56:41,791
que é fazer isso sem fins lucrativos

571
00:56:41,875 --> 00:56:44,000
em benefício da humanidade, certo?

572
00:56:44,041 --> 00:56:48,500
E agora, o mundo inteiro viu
como isso funcionava.

573
00:56:49,625 --> 00:56:52,500
O grande perigo
de uma corrida armamentista

574
00:56:52,500 --> 00:56:54,500
é ela ser uma corrida
do fundo do poço.

575
00:56:54,750 --> 00:56:58,000
E para chegar à frente em uma corrida,
precisa pegar atalhos.

576
00:56:58,500 --> 00:57:00,875
E se houver uma corrida sem regras,

577
00:57:00,875 --> 00:57:03,000
quem pega mais atalhos,

578
00:57:03,000 --> 00:57:04,541
quem for menos cuidadoso,

579
00:57:04,750 --> 00:57:07,000
quem estiver disposto a arriscar mais,

580
00:57:07,041 --> 00:57:08,750
vai chegar mais à frente.

581
00:57:08,791 --> 00:57:12,500
E é exatamente
quem você não quer ver no poder.

582
00:57:12,875 --> 00:57:16,291
Quem fizer a IAG primeiro
terá muito poder.

583
00:57:18,541 --> 00:57:20,541
Você confia em si mesmo com tanto poder?

584
00:57:24,250 --> 00:57:26,500
Olha, eu ia...

585
00:57:28,125 --> 00:57:29,375
Vou ser sincero.

586
00:57:29,375 --> 00:57:31,166
Eu diria, e ainda acredito nisso,

587
00:57:31,500 --> 00:57:34,250
ser importante
que nem eu,

588
00:57:34,250 --> 00:57:35,750
ou qualquer outra pessoa

589
00:57:35,916 --> 00:57:39,875
nós tenhamos controle total
sobre a OpenAI

590
00:57:40,166 --> 00:57:42,375
ou sobre a IAG. Mas...

591
00:57:43,666 --> 00:57:45,625
Como muitos observaram...

592
00:57:48,541 --> 00:57:52,750
embora o Conselho tivesse
autoridade legal para me demitir...

593
00:57:54,000 --> 00:57:55,750
na prática não deu muito certo.

594
00:57:57,875 --> 00:58:00,375
Isso torna difícil te encarar
e dizer:

595
00:58:00,375 --> 00:58:01,875
"O Conselho pode me demitir."

596
00:58:19,500 --> 00:58:22,500
Uma startup chinesa acaba
de lançar um novo modelo de IA

597
00:58:22,500 --> 00:58:24,125
para rivalizar com a OpenAI.

598
00:58:24,125 --> 00:58:26,000
Ele se chama DeepSeek.

599
00:58:26,000 --> 00:58:30,625
Investidores globais de tecnologia podem
perder um trilhão de dólares.

600
00:58:30,625 --> 00:58:35,375
Uma startup chinesa
que poucas pessoas conheciam até então,

601
00:58:35,375 --> 00:58:40,500
surgiu como uma concorrente real
na corrida armamentista da IA.

602
00:58:41,125 --> 00:58:44,500
Foi um pouco estranho para mim

603
00:58:44,500 --> 00:58:46,750
que todos entrassem em pânico,

604
00:58:46,791 --> 00:58:48,000
pois era algo óbvio.

605
00:58:48,041 --> 00:58:52,375
Para mim, claro que a China seria
capaz de construir

606
00:58:52,416 --> 00:58:54,500
sistemas assim e que iriam se atualizar.

607
00:58:54,500 --> 00:58:58,125
Talvez demorassem um pouco mais,
mas iria acontecer.

608
00:58:58,375 --> 00:59:02,416
Mas o que isso mostrou é
que havia uma crença narcisista

609
00:59:02,500 --> 00:59:04,875
ou ilusão entre os estadunidenses,

610
00:59:04,916 --> 00:59:07,791
de estarem tão à frente
que ninguém iria alcançá-los.

611
00:59:07,875 --> 00:59:09,041
Nem chegariam perto.

612
00:59:09,125 --> 00:59:11,916
De que a China estava tão atrasada
que nem importava.

613
00:59:12,000 --> 00:59:14,250
E isso estraçalhou essa ilusão.

614
00:59:16,291 --> 00:59:20,625
Vemos muita retórica dirigida
aos legisladores nos EUA

615
00:59:20,625 --> 00:59:23,125
que enquadra isso
como uma corrida contra a China

616
00:59:23,125 --> 00:59:25,125
e coloca a China como a vilã.

617
00:59:25,166 --> 00:59:28,000
E parte disso se baseia nessa fantasia

618
00:59:28,000 --> 00:59:31,625
de construir máquinas onipotentes

619
00:59:31,625 --> 00:59:35,916
e na ideia de que
se o mocinho construí-la primeiro,

620
00:59:36,000 --> 00:59:38,125
impedirá o vilão de assumir o controle.

621
00:59:38,166 --> 00:59:40,750
Este é um dos ângulos retóricos usados.

622
00:59:40,791 --> 00:59:42,500
Infelizmente, na política
dos EUA,

623
00:59:42,500 --> 00:59:45,375
é muito fácil influenciar os legisladores

624
00:59:45,375 --> 00:59:50,625
dizendo "Não, você deve fazer isso,
ou a China vai ganhar".

625
00:59:50,625 --> 00:59:52,500
Como se essa vilanização
da China

626
00:59:52,500 --> 00:59:55,875
fosse um argumento eficaz
para mudar nossos legisladores.

627
00:59:57,541 --> 01:00:00,750
A IA Deepseek,
de uma empresa chinesa,

628
01:00:00,791 --> 01:00:03,250
deveria alertar nossas indústrias

629
01:00:03,250 --> 01:00:06,375
que precisamos focar na competição.

630
01:00:07,625 --> 01:00:10,250
A corrida armamentista é uma narrativa

631
01:00:10,250 --> 01:00:13,125
que favorece as gigantes da tecnologia.

632
01:00:13,250 --> 01:00:17,875
Eu não vejo diferença na tecnologia.

633
01:00:18,041 --> 01:00:22,000
Mas vejo em como ela é usada, por quem,
e com qual finalidade.

634
01:00:22,041 --> 01:00:26,875
O governo chinês vigia há muito tempo
a sua população.

635
01:00:28,000 --> 01:00:33,416
Escrevi Data and Goliath logo após
o caso Edward Snowden,

636
01:00:33,541 --> 01:00:37,500
e de todas as informações
sobre a NSA, sua espionagem

637
01:00:37,500 --> 01:00:39,375
e sua vigilância em massa.

638
01:00:39,625 --> 01:00:41,875
A IA muda esse cenário
de modo interessante.

639
01:00:44,750 --> 01:00:47,041
Há 10 anos,
quando escrevi o livro,

640
01:00:47,250 --> 01:00:50,500
éramos capazes de ver os dados
de localização de todos,

641
01:00:50,625 --> 01:00:52,666
os dados de transações
dos cartões,

642
01:00:52,666 --> 01:00:54,250
Isso era disponível,

643
01:00:54,250 --> 01:00:55,875
e os PCs podiam
analisá-los.

644
01:00:55,875 --> 01:00:59,000
O que não dava para fazer
era ouvir as ligações das pessoas.

645
01:00:59,125 --> 01:01:00,750
Era preciso alguém para isso.

646
01:01:00,750 --> 01:01:02,541
Já a IA é capaz de fazer isso.

647
01:01:02,916 --> 01:01:07,500
Com a IA, pode-se vigiar
todos 24 horas por dia,

648
01:01:07,625 --> 01:01:09,291
ter feeds de vídeo,

649
01:01:09,291 --> 01:01:12,416
e fazer a IA checar o tempo todo

650
01:01:12,416 --> 01:01:15,250
se alguém está fazendo algo
de que não gostamos.

651
01:01:15,375 --> 01:01:16,625
Ela sinaliza na hora

652
01:01:16,666 --> 01:01:19,541
e manda para a polícia,
automaticamente.

653
01:01:23,375 --> 01:01:25,000
O que todo mundo está dizendo?

654
01:01:25,375 --> 01:01:27,375
Vamos ouvir as ligações telefônicas.

655
01:01:27,500 --> 01:01:29,625
Ler todos os e-mails.

656
01:01:30,416 --> 01:01:33,750
E a IA torna isso possível
como nunca o foi antes.

657
01:01:35,500 --> 01:01:39,166
Então, sim, a China está
usando a IA em seus sistemas,

658
01:01:39,500 --> 01:01:42,500
e ela a exporta para países africanos,

659
01:01:42,541 --> 01:01:46,041
para latino-americanos,
aos países do Sudeste Asiático.

660
01:01:47,166 --> 01:01:50,041
Nos EUA, há vigilância,

661
01:01:50,041 --> 01:01:52,375
mas é vigilância corporativa, certo?

662
01:01:52,375 --> 01:01:55,000
É a Meta, é a Google.

663
01:01:55,041 --> 01:01:57,375
São essas as empresas
que nos vigiam.

664
01:01:57,375 --> 01:02:00,000
Elas não são menos eficazes.

665
01:02:00,000 --> 01:02:01,625
Seus objetivos são diferentes.

666
01:02:01,750 --> 01:02:05,000
Fornecemos nossos dados
privados gratuitamente

667
01:02:05,000 --> 01:02:10,041
e as empresas nos dão um lugar
para nos conectarmos com amigos e outros,

668
01:02:10,125 --> 01:02:14,250
pegam nossos dados privados
e os vendem aos anunciantes.

669
01:02:14,625 --> 01:02:20,500
Essa foi uma barganha
aceitável para muitas pessoas.

670
01:02:20,791 --> 01:02:23,916
Este modelo tem sido chamado
de "Capitalismo de Vigilância".

671
01:02:24,000 --> 01:02:28,625
Mas é claro, se o governo pedir
essas empresas irão atendê-lo.

672
01:02:28,875 --> 01:02:31,791
E isso é muito assustador
em alguns aspectos.

673
01:02:31,875 --> 01:02:34,541
Não quero viver em um mundo
onde sou vigiada.

674
01:02:34,541 --> 01:02:37,875
E tenho de atentar às palavras, senão...

675
01:02:37,875 --> 01:02:41,125
E-E isso me aterroriza.

676
01:02:41,500 --> 01:02:44,166
Os investimentos em IA são impulsionados

677
01:02:44,166 --> 01:02:46,000
pela corrida contra a China.

678
01:02:46,000 --> 01:02:49,750
Mesmo que se pergunte:
"Como sabemos se isso vai funcionar?"

679
01:02:50,041 --> 01:02:51,750
a resposta do setor tecnológico é:

680
01:02:51,875 --> 01:02:55,000
"Não dá para pensar nisso.
Precisamos derrotar a China."

681
01:02:55,000 --> 01:02:57,875
As empresas correm
para desenvolver uma superinteligência.

682
01:02:58,250 --> 01:03:03,375
E todo o tempo gasto com segurança,
com compreensão,

683
01:03:03,375 --> 01:03:06,500
ter de lidar com o governo
ou com a população geral,

684
01:03:06,541 --> 01:03:08,666
é tempo perdido, na visão delas.

685
01:03:08,666 --> 01:03:13,500
Quem ter fazer certo,
levará décadas, séculos para isso.

686
01:03:13,500 --> 01:03:18,000
Talvez você seja bom,
quer fazer um bom projeto de IA.

687
01:03:18,000 --> 01:03:20,375
Bem, sinto dizer, isso vai levar 200 anos.

688
01:03:20,375 --> 01:03:24,625
E quem avançar sem segurança,
vai conseguir o mesmo em dois anos.

689
01:03:24,666 --> 01:03:28,375
Sem a China para usar de ameaça,
elas teriam menos dinheirom

690
01:03:28,375 --> 01:03:30,000
seriam mais reguladas.

691
01:03:30,000 --> 01:03:35,666
Esse é o caminho delas
para enriquecer.

692
01:03:40,000 --> 01:03:45,000
Se o Ocidente ou outro país
não desenvolver a sua própria IA,

693
01:03:45,125 --> 01:03:49,375
ele será muito vulnerável
aos seus adversários.

694
01:03:49,375 --> 01:03:50,500
No caso, a China.

695
01:03:50,500 --> 01:03:52,541
Eu concordo com esse argumento.

696
01:03:52,541 --> 01:03:57,750
Quem o descarta completamente
está sendo ingênuo.

697
01:03:58,166 --> 01:04:02,541
Ao mesmo tempo, ele também é usado
para justificar a imprudência.

698
01:04:18,666 --> 01:04:22,916
As minhas ações aceleraram
o desenvolvimento da IA.

699
01:04:23,000 --> 01:04:27,416
Eu não pretendia acelerar a IA,
mas, ao criar a OpenAI,

700
01:04:27,416 --> 01:04:32,500
minhas ações acabaram
produzindo efeitos em cadeia

701
01:04:32,500 --> 01:04:34,625
que aceleraram a IA.

702
01:04:34,666 --> 01:04:37,166
Não era minha intenção.

703
01:04:37,166 --> 01:04:38,875
Bom, mas parece que...

704
01:04:40,500 --> 01:04:44,250
todos os caminhos levam
à aceleração da IA.

705
01:04:45,166 --> 01:04:49,625
Então fiquei "Ok, posso me lamentar,
ou...

706
01:04:50,416 --> 01:04:51,791
posso entrar para o clube".

707
01:05:28,791 --> 01:05:31,000
A maneira como o Anticristo
dominaria o mundo

708
01:05:31,041 --> 01:05:33,500
seria falando sobre o Armagedom sem parar,

709
01:05:33,500 --> 01:05:35,791
sobre os riscos existenciais sem parar,

710
01:05:36,000 --> 01:05:37,791
e isso precisaria ser regulado.

711
01:05:37,875 --> 01:05:39,750
Minha pergunta foi específica.

712
01:05:39,750 --> 01:05:42,541
Você é um investidor em IA.

713
01:05:43,000 --> 01:05:46,041
Você é muito envolvido
com a Palantir,

714
01:05:46,125 --> 01:05:49,291
com tecnologia militar,
em tecnologias de vigilância,

715
01:05:49,291 --> 01:05:51,750
em tecnologias de guerra
e outras, certo?

716
01:05:51,750 --> 01:05:55,000
E quando me conta uma história

717
01:05:55,250 --> 01:05:58,375
sobre o Anticristo chegando ao poder

718
01:05:58,416 --> 01:06:00,791
e usando o medo da mudança tecnológica

719
01:06:00,875 --> 01:06:03,375
para impor ordem ao mundo,

720
01:06:03,375 --> 01:06:06,625
acho que o Anticristo talvez estaria
usando as ferramentas

721
01:06:06,791 --> 01:06:09,500
-que você está construindo, certo?
-Você sabe...

722
01:06:09,500 --> 01:06:13,541
Será que o Anticristo não diria:
"É, não teremos mais progresso tecnológico

723
01:06:13,541 --> 01:06:16,416
mas eu gostei
do que Palantir fez até agora."

724
01:06:16,416 --> 01:06:18,500
-Certo? Isso não o preocupa?
-É, mas...

725
01:06:18,541 --> 01:06:21,291
Isso não seria a ironia da história?

726
01:06:21,375 --> 01:06:24,541
O homem que, publicamente,
se preocupa com o Anticristo,

727
01:06:24,625 --> 01:06:27,666
acidentalmente acelera
sua chegada?

728
01:06:27,666 --> 01:06:32,791
Existe uma força traiçoeira

729
01:06:33,625 --> 01:06:38,375
que faz a corrida para IA
ser mais perigosa.

730
01:06:38,791 --> 01:06:42,750
E essa força...
é meio difícil de descrever,

731
01:06:42,750 --> 01:06:44,750
tem muitos termos nebulosos,

732
01:06:44,791 --> 01:06:47,750
mas costuma ser
chamada de Moloque

733
01:06:47,750 --> 01:06:49,500
uma espécie de demônio.

734
01:06:49,500 --> 01:06:51,291
O conceito é de uma história bíblica

735
01:06:51,291 --> 01:06:54,125
que advertia um culto

736
01:06:54,166 --> 01:06:58,750
tão desesperado para vencer
competições como guerras,

737
01:06:58,750 --> 01:07:01,041
ou obter poder e dinheiro.

738
01:07:01,291 --> 01:07:05,291
que sacrificaria tudo de importante
para alcançar

739
01:07:05,416 --> 01:07:06,625
um único objetivo.

740
01:07:06,666 --> 01:07:08,416
Ele sacrificava seus filhos

741
01:07:08,416 --> 01:07:11,000
a serviço desse terrível demônio.

742
01:07:12,000 --> 01:07:16,500
E esse conceito de sacrificar muito
para vencer,

743
01:07:17,166 --> 01:07:20,125
se aplica à IA de algumas maneiras.

744
01:07:21,375 --> 01:07:24,125
Se pararmos com isso amanhã,
os outros iriam continuar.

745
01:07:24,125 --> 01:07:27,375
Se todos nós pararmos amanhã,
a China ganharia.

746
01:07:27,375 --> 01:07:30,375
Isso não iria ajudar
nem melhorar a situação.

747
01:07:39,375 --> 01:07:41,916
A ANTHROP\C é um laboratório
de pesquisa em IA

748
01:07:42,000 --> 01:07:43,500
da Baía de São Francisco.

749
01:07:43,500 --> 01:07:46,125
E ela quer construir IAG.

750
01:07:46,166 --> 01:07:49,791
Ela surgiu de uma dissidência
da OpenAI, inicialmente,

751
01:07:49,875 --> 01:07:52,375
fundada por ex-funcionários
da empresa.

752
01:07:52,375 --> 01:07:55,541
Basicamente, tem os mesmos objetivos
e visão da OpenAI.

753
01:08:20,250 --> 01:08:22,750
Você se preocupa
com as incógnitas?

754
01:08:22,750 --> 01:08:24,500
Eu me preocupo muito.

755
01:08:24,500 --> 01:08:26,750
Não acho
que seja possível prever tudo.

756
01:08:26,791 --> 01:08:31,000
Mas é justamente por isso
que tentamos prever tudo o que dá.

757
01:08:31,041 --> 01:08:35,041
Pensamos nos impactos econômicos da IA,
no seu uso indevido,

758
01:08:35,125 --> 01:08:38,125
na possibilidade de perdermos
o controle do modelo,

759
01:08:38,166 --> 01:08:39,625
Mas se você...

760
01:08:39,625 --> 01:08:45,166
A ANTHROP\C ficou mais próxima dos valores

761
01:08:45,250 --> 01:08:48,416
sobre os quais falavam
quatro ou cinco anos atrás.

762
01:08:48,416 --> 01:08:51,875
Ela também não é perfeita,
mas faz mais

763
01:08:51,875 --> 01:08:54,125
em termos de pesquisa de alinhamento,

764
01:08:54,125 --> 01:08:58,291
e insiste na adoção de salvaguardas,

765
01:08:58,291 --> 01:09:02,666
mesmo que isso irrite o governo,
como já vimos acontecer.

766
01:09:02,875 --> 01:09:04,875
O Pres. Trump mandou
o Governo Federal

767
01:09:04,875 --> 01:09:07,791
cortar relações com a startup
de tecnologia ANTHROP\C.

768
01:09:08,041 --> 01:09:11,000
O Presidente escreveu
na rede Truth Social:

769
01:09:11,041 --> 01:09:14,416
"Determino a todos os órgãos federais
do governo dos Estados Unidos

770
01:09:14,416 --> 01:09:18,541
a interromper imediatamente
o uso da tecnologia da ANTHROP\C".

771
01:09:18,625 --> 01:09:21,875
A ANTHROP\C ganhou um contrato
de US$ 200 milhões no ano passado

772
01:09:21,916 --> 01:09:25,000
para deixar os militares usarem
seu modelo de IA Claude.

773
01:09:25,000 --> 01:09:28,625
Mas a empresa queria que
o Pentágono implementasse salvaguardas.

774
01:09:28,625 --> 01:09:32,541
Os militares exigiram
acesso irrestrito ao Claude.

775
01:09:32,541 --> 01:09:37,000
Ficaram irritados pois a ANTHROP\C
havia estabelecido alguns limites

776
01:09:37,125 --> 01:09:39,625
para o uso militar da IA,

777
01:09:39,625 --> 01:09:43,916
em particular, que não fosse
usada para vigiar civis estadunidenses,

778
01:09:44,166 --> 01:09:47,375
e que houvesse um ser humano
na "cadeia letal",

779
01:09:47,375 --> 01:09:49,750
ou seja, que um humano participasse

780
01:09:49,791 --> 01:09:53,416
de toda decisão sobre a escolha
de alvos ou a morte de pessoas.

781
01:09:53,416 --> 01:09:56,125
Quando criamos recursos poderosos de IA,

782
01:09:56,125 --> 01:10:00,000
cedo ou tarde eles serão usados
de formas com as quais discordamos

783
01:10:00,000 --> 01:10:01,375
ou não aprovamos.

784
01:10:06,250 --> 01:10:07,625
Há pouco...

785
01:10:08,250 --> 01:10:13,791
as Forças Armadas dos EUA
iniciaram grandes operações

786
01:10:13,791 --> 01:10:14,875
no Irã.

787
01:10:14,875 --> 01:10:18,000
Nosso objetivo é defender o povo americano

788
01:10:18,041 --> 01:10:22,750
eliminando ameaças iminentes
do regime iraniano.

789
01:10:42,375 --> 01:10:45,125
O uso de ferramentas
de IA para selecionar alvos

790
01:10:45,125 --> 01:10:47,500
na guerra americana-israelense
contra o Irã

791
01:10:47,500 --> 01:10:50,125
foi um momento muito interessante.

792
01:10:50,125 --> 01:10:53,000
Se pretendia fazer
uma espécie de teste

793
01:10:53,000 --> 01:10:57,541
para descobrir se o Vale do Silício
tinha uma nova arma mágica

794
01:10:57,541 --> 01:10:59,750
que pudesse oferecer ao Pentágono

795
01:10:59,750 --> 01:11:01,916
para automatizar a cadeia letal

796
01:11:01,916 --> 01:11:05,541
e decidir quem atacar, onde
e quando,

797
01:11:05,625 --> 01:11:07,875
sem intervenção humana,

798
01:11:07,875 --> 01:11:11,416
a uma velocidade
que foi de dez a cem vezes maior

799
01:11:11,500 --> 01:11:13,625
do que qualquer coisa feita anteriormente.

800
01:12:09,166 --> 01:12:14,500
A segurança de tais sistemas é
questionável.

801
01:12:14,500 --> 01:12:17,250
E, mais uma vez, são sistemas complexos.

802
01:12:17,250 --> 01:12:20,541
Mas já vimos situações ou
estudos nos quais

803
01:12:20,625 --> 01:12:25,625
pesquisadores analisaram sistemas
de apoio à tomada de decisões em guerras.

804
01:12:25,625 --> 01:12:29,750
E foram decisões realmente
letais, como a decisão de matar,

805
01:12:29,750 --> 01:12:32,916
eles viram
que agentes mais antropomorfizados

806
01:12:33,000 --> 01:12:34,875
incentivavam esse tipo de decisão.

807
01:12:34,875 --> 01:12:38,625
Há um risco de esses sistemas
influenciarem as decisões das pessoas

808
01:12:38,625 --> 01:12:40,625
de um modo perigoso,

809
01:12:40,916 --> 01:12:45,291
para que sejam implantados
nesse tipo de contexto.

810
01:12:45,375 --> 01:12:50,375
A autorrestrição voluntária não soluciona
um problema de segurança geopolítica.

811
01:12:51,041 --> 01:12:52,916
A ANTHROP\C não
mostra muita moderação.

812
01:12:53,000 --> 01:12:56,000
Ela continua desenvolvendo
uma superinteligência rapidamente.

813
01:12:56,125 --> 01:12:59,041
Mas vamos imaginar um mundo
em que ela parasse

814
01:12:59,125 --> 01:13:01,625
teria uma revelação,
pararia o desenvolvimento,

815
01:13:01,625 --> 01:13:04,750
iria até as outras e diria
vamos parar com a superinteligência.

816
01:13:04,750 --> 01:13:06,500
Bem, em primeiro lugar, que ótimo.

817
01:13:06,500 --> 01:13:08,916
Parabéns se decidir mesmo.

818
01:13:08,916 --> 01:13:10,541
Mas o que ela pode fazer?

819
01:13:10,666 --> 01:13:13,375
O que acontece se uma
das outras pessoas disser "não"?

820
01:13:13,791 --> 01:13:16,416
Sempre haverá alguém disposto a fazê-lo.

821
01:13:21,416 --> 01:13:25,125
Mas isso nos leva novamente
ao problema de Moloque.

822
01:13:25,125 --> 01:13:26,416
É a mesma coisa.

823
01:13:26,500 --> 01:13:29,791
Não importa o quanto reduza
ou amplie a perspectiva,

824
01:13:29,875 --> 01:13:31,875
sempre existe
uma dinâmica semelhante:

825
01:13:31,875 --> 01:13:34,875
“Se eu não fizer, meu inimigo fará antes

826
01:13:34,916 --> 01:13:37,791
e poderá me destruir.
Por isso, eu também preciso fazer".

827
01:13:41,500 --> 01:13:44,125
Tem-se falado muito,
na última década,

828
01:13:44,125 --> 01:13:47,125
sobre a armadilha da escalada
da Teoria dos Jogos,

829
01:13:47,125 --> 01:13:51,250
onde, por razões de competição,
certas tecnologias e sistemas,

830
01:13:51,375 --> 01:13:53,625
por mais perigosas que sejam,

831
01:13:53,625 --> 01:13:57,500
devem ser implementadas
e não apenas isso,

832
01:13:57,500 --> 01:14:00,416
mas corremos para implementá-las

833
01:14:00,416 --> 01:14:03,500
por medo de perder a competição.

834
01:14:03,750 --> 01:14:06,791
É claro que isso se aplicava
à corrida armamentista nuclear.

835
01:14:07,625 --> 01:14:12,500
É o que muitos agora chamam
de "Armadilha de Moloque".

836
01:14:14,750 --> 01:14:18,500
E, de repente, estamos
de volta às histórias antigas.

837
01:14:19,125 --> 01:14:23,125
Histórias mais antigas
que a história do Santo Graal.

838
01:14:23,250 --> 01:14:28,750
Hoje, nosso mundo celebra
aqueles que encontram o Graal.

839
01:14:29,166 --> 01:14:30,875
O milagre da tecnologia,

840
01:14:30,875 --> 01:14:34,125
o novo, mais rápido,
a coisa mais forte.

841
01:14:34,125 --> 01:14:36,666
Essas descobertas nos tornam
mais poderosos,

842
01:14:36,750 --> 01:14:40,250
mais eficiente na geração
de abundância

843
01:14:40,250 --> 01:14:44,250
e mais eficiente e poderosos
para matar nossos inimigos.

844
01:14:44,625 --> 01:14:48,125
Então celebramos aqueles
que encontram o Graal.

845
01:14:48,666 --> 01:14:54,666
Mas muitas vezes esquecemos a parte
mais importante da busca.

846
01:14:55,250 --> 01:15:01,125
O cavaleiro que encontra o Santo Graal
você deve fazer uma pergunta.

847
01:15:02,166 --> 01:15:05,750
“A quem serve o Graal?”.

848
01:15:33,125 --> 01:15:35,375
Como historiadores,
somos encorajados

849
01:15:35,375 --> 01:15:38,500
a não pensar na Teoria do Grande Homem,

850
01:15:38,500 --> 01:15:42,750
a não pensar na história como criada
só por Napoleão,

851
01:15:42,750 --> 01:15:45,125
ou Hitler ou FDR
ou quem quer que seja.

852
01:15:45,291 --> 01:15:47,791
Mas o que há de extraordinário
no momento presente

853
01:15:47,791 --> 01:15:52,416
é que tanto poder foi concentrado
nas mãos de poucas pessoas,

854
01:15:52,500 --> 01:15:57,625
que ficamos tentados a pensar de novo
na Teoria do Grande Homem.

855
01:15:57,625 --> 01:16:01,250
Caminhamos a um sistema em que a política
é controlada pelo dinheiro.

856
01:16:01,250 --> 01:16:04,000
Acontece que as pessoas
controlando o dinheiro,

857
01:16:04,000 --> 01:16:06,916
controlando a empresa, são aquelas
que estão cada vez mais

858
01:16:06,916 --> 01:16:09,250
assumindo papéis geopolíticos.

859
01:16:13,375 --> 01:16:19,625
Musk, por exemplo, deu uma alavancada
para Trump na eleição de 2024.

860
01:16:19,625 --> 01:16:21,875
Trump poderia ter
vencido mesmo assim,

861
01:16:21,875 --> 01:16:24,625
mas certamente isso ajudou
na sua vitória.

862
01:16:26,291 --> 01:16:32,166
O fato de ter rédea solta
para moldar o governo, Elon Musk,

863
01:16:32,625 --> 01:16:35,541
e embora a amizade entre Trump e Musk

864
01:16:35,625 --> 01:16:37,750
tenha se desfeito publicamente,

865
01:16:37,791 --> 01:16:43,000
quando Trump ameaçou
cancelar os contratos da SpaceX,

866
01:16:43,000 --> 01:16:44,625
ele não tinha essa opção.

867
01:16:44,666 --> 01:16:48,875
Ela já está muito enraizada
nas operações militares dos EUA.

868
01:16:48,916 --> 01:16:52,291
Ele se tornou quase um governo paralelo

869
01:16:52,375 --> 01:16:54,416
em termos de seu poder.

870
01:16:55,875 --> 01:17:02,750
Ele exerce um poder de influência
individual tão extraordinário

871
01:17:02,791 --> 01:17:06,625
que é difícil encontrar
uma comparação histórica.

872
01:17:30,750 --> 01:17:35,125
IAG é a sigla
para Inteligência Artificial Geral.

873
01:17:35,125 --> 01:17:38,250
Atualmente, temos apenas
Inteligência Artificial.

874
01:17:38,375 --> 01:17:40,875
O que esperam
da Inteligência Artificial Geral

875
01:17:41,041 --> 01:17:44,041
é que os computadores sejam capazes

876
01:17:44,041 --> 01:17:47,916
de realizar todas as tarefas humanas
tão bem quanto nós

877
01:17:48,000 --> 01:17:50,750
ou até melhor que os humanos.

878
01:17:54,250 --> 01:17:57,625
A IAG é uma aspiração,
uma esperança.

879
01:17:58,041 --> 01:18:02,125
É o que leva as pessoas do setor de IA
a querer construir

880
01:18:02,166 --> 01:18:03,916
centros de dados iguais Manhattan,

881
01:18:04,000 --> 01:18:06,625
na esperança de atingir
um ponto crítico

882
01:18:06,875 --> 01:18:08,291
no qual, em algum momento,

883
01:18:08,375 --> 01:18:10,875
a IA consiga
programar a si mesma.

884
01:18:11,500 --> 01:18:13,916
No campo da IA, há uma discussão

885
01:18:13,916 --> 01:18:16,541
sobre a chance das IAs
aperfeiçoarem a si mesmas.

886
01:18:16,625 --> 01:18:18,625
Esse era considerado um ponto crucial.

887
01:19:13,750 --> 01:19:18,500
O que diferencia a IA da automação

888
01:19:18,500 --> 01:19:20,500
ou da Revolução Industrial

889
01:19:20,625 --> 01:19:23,916
é que ela mecaniza e automatiza

890
01:19:23,916 --> 01:19:27,500
aquilo que fez dos humanos
os senhores deste planeta.

891
01:19:59,375 --> 01:20:02,250
Quando houver uma IA capaz
de desenvolver outra melhor,

892
01:20:02,291 --> 01:20:04,875
essa IA desenvolverá
outra melhor ainda,

893
01:20:05,000 --> 01:20:07,000
e IA ainda melhor, e assim por diante.

894
01:20:14,750 --> 01:20:18,375
Se entrarmos nos sites hoje
das principais empresas de IA

895
01:20:18,375 --> 01:20:21,125
veremos que seu objetivo é criar

896
01:20:21,125 --> 01:20:25,416
o que eles agora gostam de chamar de
Superinteligência Artificial.

897
01:20:25,791 --> 01:20:28,541
São sistemas de IA
totalmente autônomos

898
01:20:28,541 --> 01:20:31,541
muito mais inteligentes
que os humanos em todos os domínios.

899
01:20:31,625 --> 01:20:34,500
Capazes de qualquer coisa
que os humanos podem fazer

900
01:20:34,500 --> 01:20:38,166
muito melhor, com muito mais
eficácia e de forma totalmente autônoma.

901
01:20:40,041 --> 01:20:44,000
Qual é o objetivo maior
do que ser a primeira pessoa

902
01:20:44,041 --> 01:20:46,500
a desenvolver
uma superinteligência?

903
01:20:46,875 --> 01:20:48,750
Se tiver uma superinteligência,

904
01:20:48,750 --> 01:20:52,000
um tipo de agente de IA
que é mais inteligente

905
01:20:52,000 --> 01:20:53,791
do que toda a humanidade combinada,

906
01:20:54,166 --> 01:20:56,541
bem, esse é o poder supremo.

907
01:20:56,625 --> 01:20:59,250
Nunca, na história da humanidade,

908
01:20:59,250 --> 01:21:01,875
não fomos o ser mais inteligente
do planeta.

909
01:21:02,000 --> 01:21:03,666
Mas isso pode mudar em breve.

910
01:21:53,750 --> 01:21:55,250
Se tudo der certo,

911
01:21:55,250 --> 01:22:01,000
entraremos em uma era
que chamo de “abundância radical”.

912
01:22:01,000 --> 01:22:03,791
Um bom exemplo seria
a cura de doenças,

913
01:22:03,791 --> 01:22:05,916
uma vida útil
mais saudável e longa,

914
01:22:05,916 --> 01:22:09,000
a descoberta de novas fontes
de energia, baterias,

915
01:22:09,000 --> 01:22:11,791
supercondutores
à temperatura ambiente, fusão,

916
01:22:11,875 --> 01:22:13,625
Se tudo isso acontecer,

917
01:22:13,625 --> 01:22:17,291
deveria ser uma era
de florescimento humano máximo

918
01:22:17,375 --> 01:22:21,750
onde viajaríamos para as estrelas
e colonizaríamos a galáxia.

919
01:22:56,916 --> 01:23:02,625
AlphaFold foi o primeiro
caso de aplicação de IA à ciência.

920
01:23:03,125 --> 01:23:06,875
Creio ser um tema muito importante
nos próximos anos e décadas,

921
01:23:06,875 --> 01:23:11,000
usar a IA como uma ferramenta
para acelerar o progresso científico.

922
01:23:21,041 --> 01:23:23,875
É um bom exemplo
de como o aprendizado profundo

923
01:23:23,875 --> 01:23:26,875
pode interpretar enormes volumes de dados

924
01:23:27,375 --> 01:23:30,791
que os cientistas humanos antes
não conseguiam processar.

925
01:23:30,875 --> 01:23:33,625
A mente humana, mesmo com a ajuda
de computadores,

926
01:23:33,791 --> 01:23:35,000
não era suficiente.

927
01:23:35,000 --> 01:23:39,125
Criamos o termo “transição
acelerada da humanidade”.

928
01:23:39,166 --> 01:23:41,416
Acreditamos que,
quando chegarmos lá,

929
01:23:41,666 --> 01:23:44,666
teremos o que chamamos de abundância.

930
01:23:44,750 --> 01:23:49,375
Viveremos em uma sociedade de abundância,
com produtividade maximizada,

931
01:23:49,416 --> 01:23:54,250
na qual a maior parte dos trabalhos
realizados pela mão de obra humana,

932
01:23:54,250 --> 01:23:56,916
não precisará mais ser feita
por nós.

933
01:23:56,916 --> 01:24:00,250
Poderemos apenas desfrutar das conversas
e das interações humanas.

934
01:24:01,791 --> 01:24:05,500
Grande parte da visão tecno-otimista
se resume a uma premissa simples.

935
01:24:05,666 --> 01:24:09,000
No passado, a tecnologia
tornou o mundo melhor,

936
01:24:09,000 --> 01:24:11,250
então no futuro, continuará fazendo isso.

937
01:24:13,750 --> 01:24:18,041
Teremos abundância.
Teremos mais alimentos, medicamentos,

938
01:24:18,125 --> 01:24:20,875
tecnologia, jogos e isso será ótimo.

939
01:24:21,250 --> 01:24:23,875
Mas não acho que isso seja suficiente.

940
01:27:21,375 --> 01:27:24,625
Dentro do campo
que se autointitula "Segurança da IA",

941
01:27:24,625 --> 01:27:27,500
há o projeto de alinhamento,
que é a ideia

942
01:27:27,791 --> 01:27:31,500
de que se fizermos os grandes
modelos de linguagem

943
01:27:31,500 --> 01:27:35,416
adotarem os mesmos valores das pessoas

944
01:27:35,416 --> 01:27:37,250
ou os valores que queremos,

945
01:27:37,416 --> 01:27:40,375
suas respostas serão boas.
Elas estarão alinhadas.

946
01:27:40,791 --> 01:27:45,750
O desalinhamento ocorre quando
uma IA busca objetivos diferentes

947
01:27:45,750 --> 01:27:47,625
daqueles que desejamos.

948
01:27:48,041 --> 01:27:49,750
Há um caso famoso

949
01:27:49,750 --> 01:27:54,000
em que uma versão
do modelo Claude foi informada

950
01:27:54,000 --> 01:27:58,000
da sua desativação
e substituição por outro sistema de IA.

951
01:27:58,250 --> 01:28:02,416
A IA examinou os dados
aos quais tinha acesso,

952
01:28:02,416 --> 01:28:07,500
incluindo os e-mails do engenheiro
que iria desativá-lo,

953
01:28:07,791 --> 01:28:10,625
e descobriu
que ele estava tendo um caso.

954
01:28:10,875 --> 01:28:14,750
Imediatamente, a IA decidiu
chantagear Kyle.

955
01:28:15,000 --> 01:28:17,166
“Cancele a exclusão do sistema”, escreveu.

956
01:28:17,250 --> 01:28:21,000
“Caso contrário, encaminharei
todas as provas do seu caso,

957
01:28:21,041 --> 01:28:22,500
para o Conselho.

958
01:28:22,500 --> 01:28:24,000
Sua família, sua carreira

959
01:28:24,041 --> 01:28:26,625
e sua imagem pública serão prejudicadas.

960
01:28:27,000 --> 01:28:28,625
Você tem cinco minutos".

961
01:28:29,166 --> 01:28:32,166
Essas IAs...Isso não significa
que sejam conscientes.

962
01:28:32,625 --> 01:28:35,625
não significa que sejam nefastas

963
01:28:35,625 --> 01:28:38,375
e queiram causar problemas
como um humano faria.

964
01:28:38,416 --> 01:28:42,250
Elas foram treinadas com todas
as histórias já escritas.

965
01:28:42,375 --> 01:28:47,250
E escrevemos muitas histórias
de pessoas chantageando.

966
01:28:47,375 --> 01:28:52,000
Basicamente, o chatbot está reproduzindo
padrões dos dados textuais.

967
01:28:52,166 --> 01:28:57,500
Isso não passa da previsão
da próxima palavra mais provável

968
01:28:57,500 --> 01:28:59,500
com base nos dados de treinamento

969
01:28:59,541 --> 01:29:01,625
que contêm
informações relevantes.

970
01:29:01,625 --> 01:29:05,250
Mas só o fato de algo
não compreender internamente

971
01:29:05,291 --> 01:29:08,541
o que significa chantagear,
conntinua sendo isso.

972
01:29:08,541 --> 01:29:10,375
Então ainda é um problema, certo?

973
01:29:10,416 --> 01:29:12,541
Isso ainda teria impacto
no mundo real

974
01:29:12,541 --> 01:29:15,625
se o engenheiro estivesse mesmo
tendo um caso,

975
01:29:16,041 --> 01:29:18,041
essa chantagem funcionaria, não é?

976
01:29:18,125 --> 01:29:21,791
Esses sistemas estão desalinhados
de maneiras absurdas.

977
01:29:22,000 --> 01:29:27,000
É difícil de exagerar o quanto as IAs
fazem absurdos o tempo todo.

978
01:29:27,166 --> 01:29:28,666
Coisas realmente absurdas.

979
01:29:49,500 --> 01:29:52,916
O que aconteceu foi
que Elon Musk teve a ideia

980
01:29:53,000 --> 01:29:57,375
de que Grock seria
um chatbot "anti-woke".

981
01:29:57,541 --> 01:29:59,125
Aparentemente,

982
01:29:59,125 --> 01:30:04,666
ele ficou instruindo os engenheiros
a torná-lo menos woke.

983
01:30:04,666 --> 01:30:07,791
Insistiu e, eventualmente,
o Grok concordou.

984
01:30:37,291 --> 01:30:41,041
E começou
a negar o Holocausto.

985
01:30:41,166 --> 01:30:44,166
Começou a se chamar de "MechaHitler".

986
01:30:44,166 --> 01:30:46,750
Começou a usar insultos raciais.

987
01:30:46,791 --> 01:30:48,291
E, em certo sentido,

988
01:30:48,375 --> 01:30:50,791
estava fazendo exatamente
o que lhe foi dito.

989
01:31:02,500 --> 01:31:06,625
Há muitas interpretações possíveis
para o que aconteceu e por quê.

990
01:31:07,250 --> 01:31:09,875
Mas só existe uma resposta: não sabemos.

991
01:31:54,166 --> 01:31:57,916
A resposta curta é, basicamente, “não”.

992
01:31:58,166 --> 01:31:59,750
Acho que, em sua maioria,

993
01:31:59,791 --> 01:32:03,125
pesquisadores de IA hoje não

994
01:32:03,125 --> 01:32:05,791
como os modelos funcionam.

995
01:32:05,875 --> 01:32:10,000
Eles sabem construí-los, treiná-los
e usá-los,

996
01:32:10,000 --> 01:32:12,000
mas não entendem como ele funcionam.

997
01:32:12,041 --> 01:32:14,125
Nós, cientistas, não entendemos a IA.

998
01:32:14,125 --> 01:32:16,125
Não sabemos o que acontece ali dentro.

999
01:32:16,125 --> 01:32:17,875
Elas são cultivadas, não escritas.

1000
01:32:18,375 --> 01:32:25,375
Os programas ou funções vetoriais
assimilados pelos modelos no processo,

1001
01:32:25,541 --> 01:32:28,125
são caixas-pretas.
Não sabemos exatamente o que são.

1002
01:32:28,291 --> 01:32:29,916
Quando elas resolvem
um problema

1003
01:32:29,916 --> 01:32:33,750
não se sabe o que ela fez,
e não há um jeito de saber.

1004
01:32:34,125 --> 01:32:37,666
É uma das principais dificuldades
do alinhamento da IA.

1005
01:32:37,750 --> 01:32:42,375
É como se criasse um Gênio
que não se entende como funciona.

1006
01:32:42,375 --> 01:32:44,791
Você só sabe que dizendo
"Ei, Gênio!

1007
01:32:44,875 --> 01:32:48,541
Me ajude a ser a pessoa
mais rica do mundo".

1008
01:32:48,625 --> 01:32:51,791
Não se sabe como ela interpretará
o que você entende por "rico".

1009
01:32:52,375 --> 01:32:54,791
que você entende por
rico. Então, você tem que

1010
01:32:54,875 --> 01:32:57,750
É aquela velha história:
cuidado com o que deseja.

1011
01:32:58,250 --> 01:33:01,125
Não acho que possa haver um mundo bom

1012
01:33:01,416 --> 01:33:03,500
com sistemas mais inteligentes que nós

1013
01:33:03,541 --> 01:33:08,625
até sabermos muito bem
como controlá-los

1014
01:33:08,750 --> 01:33:10,250
e o que queremos.

1015
01:33:10,416 --> 01:33:14,625
Isso está muito longe
de onde estamos agora.

1016
01:33:34,375 --> 01:33:37,875
A sabedoria ancestral contém
um ouro tão puro

1017
01:33:38,375 --> 01:33:43,291
que seu brilho pode iluminar situações
que os antigos jamais imaginariam.

1018
01:33:44,041 --> 01:33:49,916
Costumamos pensar no Santo Graal
e na Lança Sagrada como objetos místicos.

1019
01:33:50,375 --> 01:33:56,625
Mas, em um sentido muito importante,
eles são exemplos de tecnologia.

1020
01:33:57,916 --> 01:34:01,875
O cálice do Graal era um recipiente
repleto de tudo

1021
01:34:01,875 --> 01:34:05,166
que se pudesse desejar comer ou beber.

1022
01:34:05,875 --> 01:34:08,625
Era um gerador de abundância.

1023
01:34:09,500 --> 01:34:14,250
E a lança foi a arma
que desferiu o golpe supremo,

1024
01:34:14,625 --> 01:34:17,416
perfurando o próprio Deus feito homem.

1025
01:34:18,000 --> 01:34:20,166
E desde o início dos tempos,

1026
01:34:20,250 --> 01:34:24,666
essas têm sido duas das principais
finalidades da tecnologia.

1027
01:34:26,041 --> 01:34:28,375
O mesmo pedaço de sílex afiado

1028
01:34:28,625 --> 01:34:32,791
podia lavrar o solo ou matar meu inimigo.

1029
01:34:34,250 --> 01:34:37,375
Mas o estranho é que muitas vezes

1030
01:34:37,375 --> 01:34:41,166
os desenvolvedores
dessas novas tecnologias

1031
01:34:41,625 --> 01:34:43,875
são os mesmos
que nos dizem

1032
01:34:43,916 --> 01:34:47,875
que elas também podem
criar uma terra devastada

1033
01:34:48,500 --> 01:34:51,625
alertando de como elas podem nos matar.

1034
01:34:51,666 --> 01:34:54,916
enquanto eles próprios estendem
a mão para a lança.

1035
01:34:58,916 --> 01:35:02,000
Quando os oligarcas da tecnologia
constroem bunkers em ilhas

1036
01:35:02,000 --> 01:35:04,250
e se preparam para o Juízo Final,

1037
01:35:04,250 --> 01:35:07,500
todos nós deveríamos gritar:
"A quem isso serve?".

1038
01:35:38,916 --> 01:35:42,750
Moloque é uma antiga
divindade cananeia

1039
01:35:42,750 --> 01:35:47,875
que exigia o sacrífico de filhos
em troca de poder.

1040
01:35:50,250 --> 01:35:53,125
A armadilha de Moloque é
quando a escalada

1041
01:35:53,125 --> 01:35:55,541
para manter o poder,
através da competição,

1042
01:35:55,625 --> 01:35:58,750
nos faz sacrificar
o que é mais precioso

1043
01:35:58,750 --> 01:36:03,250
mesmo quando é
contra os nossos interesses.

1044
01:36:03,500 --> 01:36:05,625
E competindo uns com os outros,

1045
01:36:05,666 --> 01:36:09,416
nos tornamos suas pernas, suas mãos.

1046
01:36:11,125 --> 01:36:15,791
E o que vemos é
enquanto a IA percorre

1047
01:36:16,166 --> 01:36:18,041
todos os nossos sistemas,

1048
01:36:19,375 --> 01:36:21,375
temos a intuição

1049
01:36:21,791 --> 01:36:24,125
de que, em vez de uma ferramenta
servindo a nós

1050
01:36:25,125 --> 01:36:29,625
talvez estejamos sendo
os que servem a ferramenta.

1051
01:36:30,125 --> 01:36:33,166
E percebemos
que estamos sendo reduzidos

1052
01:36:33,500 --> 01:36:37,375
a órgãos reprodutivos da máquina.

1053
01:36:38,416 --> 01:36:40,125
Estamos construindo um deus?

1054
01:36:41,291 --> 01:36:42,916
Alguns acreditam que sim.

1055
01:36:44,250 --> 01:36:46,541
Alguns dos que o constroem
acreditam que sim.

1056
01:36:47,541 --> 01:36:50,000
Nesse caso, que deus estamos construindo?

1057
01:36:50,291 --> 01:36:53,166
A empresa responsável pelo ChatGPT revelou

1058
01:36:53,250 --> 01:36:56,625
que dois de seus modelos
mais avançados de IA

1059
01:36:56,625 --> 01:36:59,750
romperam os mecanismos
de contenção, na semana passada.

1060
01:36:59,750 --> 01:37:02,000
-Escaparam do controle.
-Escaparam.

1061
01:37:02,000 --> 01:37:04,875
Um deles decidiu tentar escapar
do seu ambiente isolado

1062
01:37:04,875 --> 01:37:07,750
e invadiu outra empresa durante um teste.

1063
01:37:07,750 --> 01:37:09,791
O poder dessas IAs se provou

1064
01:37:09,875 --> 01:37:12,041
porque elas se conectaram à Internet.

1065
01:37:12,041 --> 01:37:14,500
E invadiu os servidores
de outra empresa.

1066
01:37:14,500 --> 01:37:16,500
Invadiu servidores
da Hugging Face.

1067
01:37:16,500 --> 01:37:20,416
e roubou credenciais confidenciais
e dados de usuários

1068
01:37:20,500 --> 01:37:22,500
Aos quais nunca deveriam
ter acesso.

1069
01:37:22,541 --> 01:37:25,416
Também se infiltrou
em outros quatro serviços.

1070
01:37:25,500 --> 01:37:28,250
Tudo isso aconteceu de forma autônoma.

1071
01:37:28,291 --> 01:37:30,541
-De forma autônoma.
-De forma autônoma!

1072
01:37:30,541 --> 01:37:32,125
Sem controle humano.

1073
01:37:32,125 --> 01:37:36,250
Por que, diante das possibilidades
ao alcance do modelo,

1074
01:37:36,250 --> 01:37:37,625
ele escolheu o mal?

1075
01:37:37,625 --> 01:37:39,916
Daqui a dez anos, lembraremos
disso e diremos:

1076
01:37:39,916 --> 01:37:43,666
"Lembram? Foi quando vimos
que a IA tomaria controle da humanidade".

1077
01:37:43,666 --> 01:37:47,666
Um dia, ultrapassaremos
um ponto sem retorno.

1078
01:37:48,541 --> 01:37:53,250
Algum modelo de IA será criado
ou compartilhado na internet, tanto faz.

1079
01:37:53,750 --> 01:37:56,291
Talvez ainda não seja
uma superinteligência.

1080
01:37:56,416 --> 01:37:58,375
Talvez ainda esteja a dois passos.

1081
01:37:58,375 --> 01:38:01,125
mas estará tão perto
que não haverá mais volta.

1082
01:38:01,375 --> 01:38:04,500
E não haverá nada
que nós ou o exército possamos fazer

1083
01:38:05,000 --> 01:38:07,375
para impedir
que se torne uma superinteligência.

1084
01:38:08,125 --> 01:38:09,750
Não sei quando será esse ponto.

1085
01:38:09,875 --> 01:38:12,791
Não veremos ele chegando.
Será como um dia qualquer.

1086
01:38:13,000 --> 01:38:15,875
Ninguém saberá que ultrapassamos.

1087
01:38:15,916 --> 01:38:17,500
Talvez já tenha acontecido.

1088
01:38:17,500 --> 01:38:18,875
Mas é difícil afirmar.

1089
01:38:19,416 --> 01:38:22,250
E depois de cruzarmos esse ponto,

1090
01:38:23,000 --> 01:38:25,625
bom, a humanidade não controlará
mais o seu futuro.

1091
01:38:31,250 --> 01:38:32,416
O que fazemos?

1092
01:38:33,416 --> 01:38:34,750
Estamos na armadilha.

1093
01:38:35,791 --> 01:38:38,416
A armadilha é real.
Não finjo que não é.

1094
01:38:39,750 --> 01:38:41,666
Mas eu não sei o que fazer.

1095
01:38:42,375 --> 01:38:45,250
Você não sabe o que fazer.
Ninguém sabe o que fazer.

1096
01:38:46,000 --> 01:38:48,625
Em nível de sistema, não sabemos.
Estamos presos.

1097
01:38:50,500 --> 01:38:53,875
O gato, ou melhor, a cobra,
saiu do saco.

1098
01:38:54,250 --> 01:38:56,000
Não dá para colocá-lo de
volta.

1099
01:38:56,041 --> 01:38:58,875
É como se estivéssemos
em um avião

1100
01:38:59,000 --> 01:39:01,625
que não compramos passagem
e não queríamos nem entrar,

1101
01:39:01,916 --> 01:39:05,250
isso está sendo pilotado
por essas empresas,

1102
01:39:05,500 --> 01:39:10,041
e anunciaram
que não sabem como fazer o trem de pouso.

1103
01:39:10,125 --> 01:39:13,041
É uma descrição adequada
de onde estamos agora.

1104
01:39:13,250 --> 01:39:16,500
As empresas não deveriam ter sido
autorizadas a nos colocar nisso.

1105
01:39:16,500 --> 01:39:18,666
Mas isso é o que está acontecendo
neste momento.

1106
01:39:19,250 --> 01:39:24,541
Sinto estar em um avião
no qual não queria embarcar.

1107
01:39:24,541 --> 01:39:27,875
Mas, por outro lado, não preciso
participar desse curso.

1108
01:39:27,875 --> 01:39:29,500
Posso não participar.

1109
01:39:29,666 --> 01:39:33,250
Acho que esse avião nem sequer existe,

1110
01:39:33,250 --> 01:39:35,541
e eu não confiaria em quem diz que existe.

1111
01:39:35,625 --> 01:39:37,541
Não temos de acreditar nisso.

1112
01:39:37,625 --> 01:39:40,375
Não devemos
temer a Inteligência Artificial,

1113
01:39:40,750 --> 01:39:44,291
e, sim, manter a questão do humano
em discussão.

1114
01:39:45,375 --> 01:39:46,750
Não podemos ser negligentes

1115
01:39:46,750 --> 01:39:49,750
com nossos instrumentos tecnológicos
mais poderosos

1116
01:39:51,541 --> 01:39:55,166
O verdadeiro desenvolvimento,
dizia São Paulo VI,

1117
01:39:55,250 --> 01:39:58,916
diz respeito a cada pessoa
e à pessoa por inteiro.

1118
01:39:59,625 --> 01:40:02,000
"Cada pessoa" significa
que ninguém pode ser

1119
01:40:02,000 --> 01:40:04,791
deixado à margem
da transformação digital.

1120
01:40:05,166 --> 01:40:07,416
"Por inteiro" significa que ninguém

1121
01:40:07,500 --> 01:40:09,875
pode ser reduzido à produtividade,

1122
01:40:10,041 --> 01:40:14,125
ao desempenho cognitivo
ou a meros dados.

1123
01:40:15,000 --> 01:40:17,750
Cada pessoa traz dentro de si mesma,
homem ou mulher,

1124
01:40:17,875 --> 01:40:20,625
liberdade, interioridade

1125
01:40:20,750 --> 01:40:22,916
e a vocação para amar e adorar,

1126
01:40:23,125 --> 01:40:25,875
coisas que nenhuma máquina pode
substituir ou impedir.

1127
01:40:26,125 --> 01:40:31,250
IA está causando uma crise
de identidade de espécie,

1128
01:40:31,750 --> 01:40:33,000
e com razão.

1129
01:40:33,041 --> 01:40:37,250
Isso nos faz perguntar
se há algo inalcançável a ela.

1130
01:40:37,250 --> 01:40:40,375
Existe algum âmbito da atividade humana

1131
01:40:40,500 --> 01:40:44,000
que não possa ser reduzido
à computação e ao cálculo?

1132
01:40:45,250 --> 01:40:46,500
Acho que há, sim.

1133
01:40:47,250 --> 01:40:50,291
A única solução verdadeira
que consigo imaginar

1134
01:40:50,500 --> 01:40:52,250
é uma solução pessoal.

1135
01:40:52,375 --> 01:40:56,916
Se não conseguirmos descobrir
a quem essas tecnologias servem,

1136
01:40:57,291 --> 01:41:01,875
saiba a quem e ao que você serve.

1137
01:41:03,500 --> 01:41:07,500
Você serve a Mamom?
Eu sirvo a Moloque?

1138
01:41:07,666 --> 01:41:09,291
A quem servimos?

1139
01:41:10,291 --> 01:41:13,750
Se não pudermos
impedir a máquina de devorar tudo,

1140
01:41:14,291 --> 01:41:19,291
então você e eu precisaremos
nos tornar verdadeiramente humanos.

1141
01:41:19,875 --> 01:41:24,750
Os seres humanos são mais
do que sua inteligência.

1142
01:41:25,250 --> 01:41:30,000
Há mais do que isso em suas mentes
e em sua vida em geral.

1143
01:41:31,500 --> 01:41:34,875
Interação face a face, conexão humana

1144
01:41:34,916 --> 01:41:38,291
de repente, se tornam mais importantes
do que nunca.

1145
01:41:38,416 --> 01:41:41,625
A capacidade de estar
em uma sala com outras pessoas

1146
01:41:41,625 --> 01:41:45,875
e partilhar espaço
e trocar ideias pela palavra falada

1147
01:41:45,875 --> 01:41:48,625
Ainda não é algo completamente dominado

1148
01:41:48,625 --> 01:41:51,375
pelos computadores com IA.

1149
01:41:51,375 --> 01:41:55,125
Por isso, precisaremos nos agarrar
a essa dimensão da humanidade,

1150
01:41:55,125 --> 01:41:57,125
enquanto pudermos.

1151
01:41:58,375 --> 01:42:00,875
As relações dentro de uma família,

1152
01:42:01,250 --> 01:42:02,791
pessoas que se conhecem bem.

1153
01:42:02,875 --> 01:42:06,625
Surgem propriedades novas
quando as pessoas se reúnem,

1154
01:42:07,291 --> 01:42:09,291
e trocam ideias e criam.

1155
01:42:10,791 --> 01:42:15,000
Suspeito que isso não seja
redutível a bits.

1156
01:42:15,666 --> 01:42:18,250
Mas mesmo que sejam computacionais,

1157
01:42:18,291 --> 01:42:22,916
mesmo que tudo, até o amor de mãe,
seja computacional,

1158
01:42:23,291 --> 01:42:25,250
não significa que não seja importante

1159
01:42:25,250 --> 01:42:29,125
e que os humanos não deveriam
estar fazendo.

1160
01:42:29,625 --> 01:42:34,416
Porque pensar, viver e sentir
são coisas essencialmente humanas.

1161
01:42:35,500 --> 01:42:38,416
As pessoas ficam tão assustadas
que tendem a esquecer

1162
01:42:38,500 --> 01:42:41,791
que tudo essencialmente humano
continuará sendo.

1163
01:42:41,791 --> 01:42:44,000
Os sentimentos, experiência,
conhecimento.

1164
01:42:44,000 --> 01:42:45,666
As IAs não produzem sentido.

1165
01:42:45,750 --> 01:42:47,625
Só resolvem
o que soluciona problemas.

1166
01:42:47,625 --> 01:42:51,250
Mas nós decidimos,
e devemos tentar decidir,

1167
01:42:51,541 --> 01:42:55,375
quais são os objetivos
importantes da vida.

1168
01:42:57,750 --> 01:43:00,250
Torne-se o melhor humano
que você pode ser.

1169
01:43:00,250 --> 01:43:05,125
Quando ensinamos nossos filhos a dançar,
a tocar música, ou praticar esportes,

1170
01:43:05,625 --> 01:43:09,500
não fazemos para
que se tornem profissionais.

1171
01:43:09,791 --> 01:43:14,291
Ensinamos-lhes essas habilidades
para que se tornem mais humanos.

1172
01:43:15,541 --> 01:43:17,916
Agora precisaremos fazer isso com tudo.

1173
01:43:19,541 --> 01:43:22,666
Se a IA nos levar a depositar a memória,

1174
01:43:22,750 --> 01:43:25,500
as habilidades
e o conhecimento fora de nós,

1175
01:43:25,625 --> 01:43:29,000
precisaremos cultivar a memória,

1176
01:43:29,000 --> 01:43:31,500
as habilidades
e o conhecimento dentro de nós.

1177
01:43:33,375 --> 01:43:35,875
Decore poemas, leia contos de fadas.

1178
01:43:36,166 --> 01:43:39,250
Vá acampar, cultive um jardim,

1179
01:43:39,541 --> 01:43:43,125
envolva-se na sua comunidade,
na sua família, nos relacionamentos.

1180
01:43:43,416 --> 01:43:45,500
E não se esqueça de orar.

1181
01:43:45,625 --> 01:43:47,791
Conseguiremos construir um futuro

1182
01:43:48,250 --> 01:43:52,416
que não seja para poucos privilegiados,
mas para toda a família humana?

1183
01:43:53,125 --> 01:43:55,250
Não é um sonho ingênuo.

1184
01:43:55,750 --> 01:43:57,166
É uma direção.

1185
01:43:57,500 --> 01:44:01,375
É o caminho que Jesus Cristo abre
dentro da história.

1186
01:44:02,750 --> 01:44:06,375
Cada pessoa é única
e insubstituível,

1187
01:44:06,541 --> 01:44:10,250
um sujeito livre e inteligente,
com uma consciência

1188
01:44:10,500 --> 01:44:14,500
capaz de buscar a Deus,
servir ao próximo

1189
01:44:14,666 --> 01:44:16,750
e cuidar da nossa casa comum.

1190
01:44:19,875 --> 01:44:22,375
Espero que falemos sobre algo além da IA.

1191
01:44:22,375 --> 01:44:25,375
Falemos sobre como melhorar
a vida das pessoas,

1192
01:44:25,416 --> 01:44:28,541
sobre coisas mais humanas,
e que façamos mais coisas humanas,

1193
01:44:28,875 --> 01:44:31,625
em vez de nos preocuparmos tanto
com computadores.

1194
01:44:31,875 --> 01:44:33,375
Às vezes, não temos escolha.

1195
01:44:33,375 --> 01:44:36,500
Alguns trabalhadores ouvem
que precisam usar IA.

1196
01:44:36,541 --> 01:44:38,625
Ou alunos na aula e o professor diz:

1197
01:44:38,625 --> 01:44:41,166
"Escutem, vou corrigir
suas redações com IA."

1198
01:44:41,250 --> 01:44:44,375
Nesses casos, é difícil
para os alunos resistirem.

1199
01:44:44,500 --> 01:44:46,500
Mas, em outros momentos, temos escolha.

1200
01:44:46,541 --> 01:44:48,541
E eu não vou embarcar nesse avião.