1
00:00:29,581 --> 00:00:32,549
- La inteligencia es
la capacidad de comprender.

2
00:00:32,549 --> 00:00:34,827
Pasamos lo que
conocemos a las máquinas.

3
00:00:34,827 --> 00:00:36,346
- El ascenso de
inteligencia artificial

4
00:00:36,346 --> 00:00:38,797
está sucediendo rápido, pero algunos
miedo a la nueva tecnología

5
00:00:38,797 --> 00:00:41,524
podría tener más problemas
de lo previsto.

6
00:00:41,524 --> 00:00:43,043
- No lo controlaremos.

7
00:01:42,378 --> 00:01:44,897
- Artificialmente
Los algoritmos inteligentes están aquí.

8
00:01:44,897 --> 00:01:46,485
pero esto es sólo el comienzo.

9
00:01:56,840 --> 00:01:59,395
- En la era de
IA, los datos son el nuevo petróleo.

10
00:02:01,673 --> 00:02:03,709
- Hoy, Amazonas,
google y facebook

11
00:02:03,709 --> 00:02:05,953
son más ricos y más
poderoso que cualquier empresa

12
00:02:05,953 --> 00:02:08,335
que alguna vez han existido
a lo largo de la historia humana.

13
00:02:09,543 --> 00:02:11,234
- Un puñado
de personas trabajando

14
00:02:11,234 --> 00:02:13,167
a un puñado de
empresas de tecnología

15
00:02:13,167 --> 00:02:15,894
dirigir qué mil millones
la gente está pensando hoy.

16
00:02:17,137 --> 00:02:19,139
- Esto
la tecnología está cambiando

17
00:02:19,139 --> 00:02:21,002
¿Qué significa ser humano?

18
00:03:16,334 --> 00:03:17,749
- Inteligencia artificial

19
00:03:17,749 --> 00:03:20,648
es simplemente no biológico
inteligencia.

20
00:03:21,822 --> 00:03:24,031
Y la inteligencia misma
es simplemente la capacidad

21
00:03:24,031 --> 00:03:25,446
para lograr metas.

22
00:03:27,966 --> 00:03:30,520
Estoy convencido de que la IA
en última instancia será cualquiera

23
00:03:30,520 --> 00:03:32,350
lo mejor que he visto nunca
que le suceda a la humanidad,

24
00:03:32,350 --> 00:03:34,144
o lo peor
que alguna vez suceda.

25
00:03:35,732 --> 00:03:38,977
Podemos usarlo para resolver todos.
del hoy y del mañana

26
00:03:38,977 --> 00:03:43,982
mayores problemas;
curar enfermedades, tratar
con el cambio climático,

27
00:03:45,259 --> 00:03:47,330
sacar a todos de la pobreza.

28
00:03:48,883 --> 00:03:51,783
Pero podríamos usar exactamente
la misma tecnología

29
00:03:51,783 --> 00:03:56,305
para crear una brutal global
dictadura con medidas sin precedentes

30
00:03:56,305 --> 00:03:59,135
vigilancia y
desigualdad y sufrimiento.

31
00:04:00,757 --> 00:04:02,759
Por eso este es el
conversación más importante

32
00:04:02,759 --> 00:04:04,244
de nuestro tiempo.

33
00:04:09,179 --> 00:04:12,079
- Inteligencia artificial
está en todas partes

34
00:04:13,253 --> 00:04:15,979
porque ahora tenemos
máquinas pensantes.

35
00:04:17,118 --> 00:04:20,294
Si vas a las redes sociales
medios o en línea,

36
00:04:20,294 --> 00:04:22,089
hay un artificial
motor de inteligencia

37
00:04:22,089 --> 00:04:24,781
eso decide qué recomendar.

38
00:04:26,196 --> 00:04:28,026
Si vas a facebook
y solo estás desplazándote

39
00:04:28,026 --> 00:04:29,890
a través de las publicaciones de tus amigos,

40
00:04:29,890 --> 00:04:31,443
hay un artificial
motor de inteligencia

41
00:04:31,443 --> 00:04:33,583
eso es elegir cual
uno para mostrarte primero

42
00:04:33,583 --> 00:04:35,344
y cuál enterrar.

43
00:04:35,344 --> 00:04:38,692
Si intentas conseguir un seguro,
hay un motor de IA

44
00:04:38,692 --> 00:04:40,763
tratando de descubrir
que arriesgado eres.

45
00:04:41,936 --> 00:04:45,250
Y si solicitas un
trabajo, es muy posible

46
00:04:45,250 --> 00:04:47,942
que un motor de IA
mira el currículum.

47
00:04:55,881 --> 00:04:57,573
- Estamos hechos de datos.

48
00:04:58,781 --> 00:05:01,024
Cada uno de nosotros está hecho de datos,

49
00:05:02,543 --> 00:05:04,234
en términos de cómo nos comportamos,

50
00:05:04,234 --> 00:05:07,479
como hablamos, como amamos,
lo que hacemos todos los días.

51
00:05:09,895 --> 00:05:11,552
Entonces, los informáticos

52
00:05:11,552 --> 00:05:14,141
se están desarrollando profundamente
algoritmos de aprendizaje

53
00:05:15,315 --> 00:05:19,042
que puede aprender a
identificar, clasificar,

54
00:05:19,042 --> 00:05:22,977
y predecir patrones dentro
cantidades masivas de datos.

55
00:05:35,887 --> 00:05:39,684
Estamos ante una forma de
vigilancia de precisión,

56
00:05:39,684 --> 00:05:43,308
podrías llamarlo
vigilancia algorítmica,

57
00:05:43,308 --> 00:05:46,311
y significa que tu
no puede pasar desapercibido.

58
00:05:47,623 --> 00:05:50,626
siempre estas bajo
la vigilancia de los algoritmos.

59
00:05:55,562 --> 00:05:58,875
- Casi toda la IA
desarrollo en el planeta hoy

60
00:05:58,875 --> 00:06:01,499
lo hacen un puñado de
grandes empresas tecnológicas

61
00:06:01,499 --> 00:06:03,224
o por unos pocos gobiernos grandes.

62
00:06:06,366 --> 00:06:10,611
Si miramos qué es la IA
desarrollado principalmente para,

63
00:06:10,611 --> 00:06:15,616
Yo diría que está matando,
espionaje y lavado de cerebro.

64
00:06:16,479 --> 00:06:18,239
Entonces, quiero decir, tenemos IA militar,

65
00:06:18,239 --> 00:06:21,346
tenemos toda una vigilancia
aparato en construcción

66
00:06:21,346 --> 00:06:23,521
uso de IA por parte de los principales gobiernos,

67
00:06:23,521 --> 00:06:26,213
y tenemos una publicidad
industria que está orientada

68
00:06:26,213 --> 00:06:30,355
hacia el reconocimiento de qué anuncios
intentar venderle a alguien.

69
00:06:33,531 --> 00:06:36,568
- Los humanos hemos llegado a
una bifurcación en el camino ahora.

70
00:06:38,018 --> 00:06:41,159
La IA que tenemos hoy
es muy estrecho.

71
00:06:42,505 --> 00:06:44,783
El santo grial de la investigación en IA
desde el principio

72
00:06:44,783 --> 00:06:47,786
es hacer una IA que pueda hacer
todo mejor que nosotros,

73
00:06:49,270 --> 00:06:50,858
y básicamente hemos construido un Dios.

74
00:06:52,204 --> 00:06:54,517
va a revolucionar
la vida tal como la conocemos.

75
00:06:57,693 --> 00:07:00,247
Es increíblemente importante
dar un paso atrás

76
00:07:00,247 --> 00:07:02,111
y piensa detenidamente en esto.

77
00:07:03,802 --> 00:07:05,942
¿Qué tipo de sociedad queremos?

78
00:07:09,567 --> 00:07:12,155
- Entonces, estamos en esto.
transformación histórica.

79
00:07:13,363 --> 00:07:15,711
como si estuviéramos criando
esta nueva criatura.

80
00:07:15,711 --> 00:07:18,679
tenemos un nuevo
descendencia de algún tipo.

81
00:07:20,578 --> 00:07:24,098
Pero al igual que la descendencia real,

82
00:07:24,098 --> 00:07:27,412
no puedes controlar
todo lo que va a hacer.

83
00:08:01,515 --> 00:08:04,691
- Estamos viviendo en
este momento privilegiado donde,

84
00:08:04,691 --> 00:08:09,696
por primera vez, nosotros
Probablemente veremos que la IA

85
00:08:11,042 --> 00:08:13,320
realmente va a superar
humanos en muchos, muchos,

86
00:08:13,320 --> 00:08:14,908
si no todos, los campos importantes.

87
00:08:18,739 --> 00:08:20,914
- Todo va a cambiar.

88
00:08:20,914 --> 00:08:24,262
Está surgiendo una nueva forma de vida.

89
00:08:49,494 --> 00:08:54,499
Cuando era niño pensaba:
¿Cómo puedo maximizar mi impacto?

90
00:08:56,536 --> 00:09:00,781
Y entonces quedó claro que
tengo que construir algo

91
00:09:00,781 --> 00:09:04,509
que aprende a convertirse
más inteligente que yo,

92
00:09:04,509 --> 00:09:06,131
tal que pueda jubilarme,

93
00:09:06,131 --> 00:09:08,893
y lo mas inteligente
puede mejorar aún más

94
00:09:08,893 --> 00:09:11,343
y resolver todos los problemas
que no puedo resolver.

95
00:09:16,452 --> 00:09:18,937
Multiplicando ese pequeño
un poco de creatividad

96
00:09:18,937 --> 00:09:20,801
que tengo hasta el infinito,

97
00:09:22,700 --> 00:09:25,219
y eso es lo que ha sido
conduciéndome desde entonces.

98
00:09:43,652 --> 00:09:45,101
¿Cómo estoy tratando de construir?

99
00:09:45,101 --> 00:09:47,759
un propósito general
inteligencia artificial?

100
00:09:50,003 --> 00:09:54,248
Si quieres ser inteligente,
tienes que reconocer el habla,

101
00:09:54,248 --> 00:09:59,150
vídeo y escritura a mano, y
caras y toda clase de cosas,

102
00:09:59,150 --> 00:10:02,015
y ahí hemos hecho
mucho progreso.

103
00:10:03,775 --> 00:10:06,502
Ver, LSTM, redes neuronales,

104
00:10:06,502 --> 00:10:11,369
que desarrollamos en nuestros laboratorios
en Munich y en Suiza,

105
00:10:11,369 --> 00:10:14,959
y ahora se usa para hablar
reconocimiento y traducción,

106
00:10:14,959 --> 00:10:16,616
y reconocimiento de vídeo.

107
00:10:18,065 --> 00:10:21,137
Ahora están en manos de todos.
smartphone, casi mil millones

108
00:10:21,137 --> 00:10:25,176
iPhones y en más de dos
mil millones de teléfonos Android.

109
00:10:26,626 --> 00:10:31,527
Entonces, estamos generando todos
tipos de subproductos útiles

110
00:10:32,390 --> 00:10:33,563
en el camino hacia la meta general.

111
00:10:44,574 --> 00:10:49,545
El objetivo principal, algo artificial.
inteligencia general,

112
00:10:49,545 --> 00:10:52,686
un AGI que puede aprender

113
00:10:52,686 --> 00:10:55,896
para mejorar el aprendizaje
algoritmo en sí.

114
00:10:57,518 --> 00:11:01,453
Entonces, básicamente puede aprender
para mejorar la forma en que aprende

115
00:11:01,453 --> 00:11:05,423
y también puede recursivamente
mejorar la forma en que aprende,

116
00:11:05,423 --> 00:11:08,944
la forma en que aprende sin
cualquier limitación excepto

117
00:11:08,944 --> 00:11:12,464
el fundamental basico
limitaciones de la computabilidad.

118
00:11:19,092 --> 00:11:22,405
uno de mis favoritos
robots es este de aquí.

119
00:11:22,405 --> 00:11:26,893
Usamos este robot para nuestro
Estudios de curiosidad artificial.

120
00:11:26,893 --> 00:11:31,898
Donde estamos tratando de enseñar
este robot se aprenda a sí mismo.

121
00:11:37,386 --> 00:11:38,663
¿Qué hace un bebé?

122
00:11:38,663 --> 00:11:42,356
Un bebe esta curiosamente
explorando su mundo.

123
00:11:44,531 --> 00:11:46,740
asi aprende
cómo funciona la gravedad

124
00:11:46,740 --> 00:11:49,674
y como ciertas cosas
derribar, etcétera.

125
00:11:51,262 --> 00:11:54,575
Y mientras aprende a preguntar
preguntas sobre el mundo,

126
00:11:54,575 --> 00:11:57,199
y mientras aprende a
responde estas preguntas,

127
00:11:57,199 --> 00:11:59,649
se vuelve cada vez más
solucionador de problemas generales.

128
00:12:01,030 --> 00:12:03,619
Y así, nuestro artificial
Los sistemas también están aprendiendo.

129
00:12:03,619 --> 00:12:07,416
para preguntar todo tipo de
preguntas, no sólo servilmente

130
00:12:07,416 --> 00:12:11,420
intenta responder las preguntas
que les han dado los humanos.

131
00:12:15,389 --> 00:12:19,048
Tienes que darle libertad a la IA
inventar sus propias tareas.

132
00:12:22,327 --> 00:12:25,054
Si no haces eso, no es
va a volverse muy inteligente.

133
00:12:26,815 --> 00:12:28,333
Por otra parte,

134
00:12:28,333 --> 00:12:31,543
es realmente difícil de predecir
lo que van a hacer.

135
00:12:53,980 --> 00:12:57,466
- Siento que la tecnología
es una fuerza de la naturaleza.

136
00:13:00,055 --> 00:13:02,402
Siento que hay mucho
similitud entre tecnología

137
00:13:02,402 --> 00:13:03,644
y evolución biológica.

138
00:13:13,275 --> 00:13:14,241
Jugando a ser Dios.

139
00:13:17,900 --> 00:13:20,765
Los científicos han sido acusados
de jugar a ser Dios por un rato,

140
00:13:22,456 --> 00:13:25,080
pero hay un sentido real

141
00:13:25,080 --> 00:13:26,875
en el que estamos
creando algo

142
00:13:28,255 --> 00:13:30,740
muy diferente a cualquier cosa
hemos creado hasta ahora.

143
00:13:54,247 --> 00:13:55,835
yo estaba interesado en
el concepto de IA

144
00:13:55,835 --> 00:13:57,353
desde una edad relativamente temprana.

145
00:13:59,666 --> 00:14:01,323
En algún momento, tuve
especialmente interesado

146
00:14:01,323 --> 00:14:02,358
en el aprendizaje automático.

147
00:14:06,155 --> 00:14:07,950
¿Qué es la experiencia?

148
00:14:07,950 --> 00:14:09,158
¿Qué es aprender?

149
00:14:09,158 --> 00:14:10,159
¿Qué es pensar?

150
00:14:11,333 --> 00:14:12,610
¿Cómo funciona el cerebro?

151
00:14:14,612 --> 00:14:16,338
Estas preguntas
son filosóficos,

152
00:14:16,338 --> 00:14:19,651
pero parece que podemos
idear algoritmos que

153
00:14:19,651 --> 00:14:22,965
ambos hacen cosas útiles y ayudan
Respondamos estas preguntas.

154
00:14:24,449 --> 00:14:26,693
Como es casi como
Filosofía aplicada.

155
00:14:52,546 --> 00:14:55,895
generales artificiales
Inteligencia, AGI.

156
00:14:57,620 --> 00:15:01,935
Un sistema informático que
puede hacer cualquier trabajo o cualquier tarea

157
00:15:01,935 --> 00:15:04,489
que hace un humano,
pero solo mejor.

158
00:15:17,640 --> 00:15:20,298
Sí, quiero decir, definitivamente
será capaz de crear

159
00:15:21,817 --> 00:15:24,475
completamente autónomo
seres con sus propios objetivos.

160
00:15:28,513 --> 00:15:30,067
Y será muy importante,

161
00:15:30,067 --> 00:15:34,934
especialmente porque estos seres
volverse mucho más inteligente que los humanos,

162
00:15:34,934 --> 00:15:39,145
va a ser importante
tener estos seres,

163
00:15:41,009 --> 00:15:43,873
que las metas de estos seres
estar alineados con nuestros objetivos.

164
00:15:47,153 --> 00:15:49,879
eso es lo que somos
intentando hacer en OpenAI.

165
00:15:49,879 --> 00:15:54,229
Estar a la vanguardia de la investigación
y dirigir la investigación,

166
00:15:54,229 --> 00:15:58,440
dirigir sus condiciones iniciales
para maximizar la oportunidad

167
00:15:58,440 --> 00:16:00,407
que el futuro será
ser bueno para los humanos.

168
00:16:16,734 --> 00:16:18,805
Ahora, la IA es una gran cosa
porque la IA resolverá

169
00:16:18,805 --> 00:16:20,945
todos los problemas
que tenemos hoy.

170
00:16:23,603 --> 00:16:27,538
Resolverá el empleo,
resolverá la enfermedad,

171
00:16:29,126 --> 00:16:30,990
resolverá la pobreza,

172
00:16:33,440 --> 00:16:35,822
pero también lo hará
crear nuevos problemas.

173
00:16:38,998 --> 00:16:40,551
creo que

174
00:16:43,002 --> 00:16:47,385
el problema de las noticias falsas
va a ser 1000,

175
00:16:47,385 --> 00:16:48,835
un millón de veces peor.

176
00:16:50,940 --> 00:16:53,357
Los ciberataques se convertirán
mucho más extremo.

177
00:16:55,152 --> 00:16:57,982
tendrás totalmente
Armas automatizadas de IA.

178
00:17:00,640 --> 00:17:01,986
Creo que la IA tiene potencial

179
00:17:01,986 --> 00:17:04,230
crear infinitamente
dictaduras estables.

180
00:17:10,339 --> 00:17:13,273
Vas a ver dramáticamente
sistemas más inteligentes

181
00:17:13,273 --> 00:17:17,036
dentro de 10 o 15 años,
y creo que es muy probable

182
00:17:17,036 --> 00:17:18,347
que esos sistemas

183
00:17:18,347 --> 00:17:21,523
tendrá completamente
Impacto astronómico en la sociedad.

184
00:17:23,904 --> 00:17:25,527
¿Se beneficiarán realmente los humanos?

185
00:17:27,046 --> 00:17:28,875
¿Y quién se beneficiará?
¿quién no lo hará?

186
00:17:49,033 --> 00:17:52,140
- En 2012, IBM estimó que

187
00:17:52,140 --> 00:17:56,523
una persona promedio es
generando 500 megas

188
00:17:56,523 --> 00:17:59,561
de huellas digitales
todos los días.

189
00:17:59,561 --> 00:18:01,839
Imagina que quisieras
hacer una copia de seguridad por valor de un día

190
00:18:01,839 --> 00:18:05,705
de datos que es la humanidad
dejando atrás, en el papel.

191
00:18:05,705 --> 00:18:08,811
¿Qué altura tendrá la pila?
de papel que contiene

192
00:18:08,811 --> 00:18:12,194
solo un día de datos
que la humanidad está produciendo?

193
00:18:14,023 --> 00:18:17,096
Es como de la tierra a
el sol, cuatro veces más.

194
00:18:18,994 --> 00:18:23,999
En 2025, estaremos generando
62 gigabytes de datos

195
00:18:25,069 --> 00:18:26,588
por persona, por día.

196
00:18:41,430 --> 00:18:45,745
Estamos dejando un montón de
huellas digitales mientras vas

197
00:18:45,745 --> 00:18:46,815
a través de nuestras vidas.

198
00:18:49,231 --> 00:18:52,165
Proporcionan algoritmos informáticos.
con una idea bastante buena

199
00:18:52,165 --> 00:18:53,891
sobre quiénes somos,

200
00:18:53,891 --> 00:18:56,721
lo que queremos, lo que estamos haciendo.

201
00:19:00,449 --> 00:19:02,762
En mi trabajo, miré
en diferentes tipos

202
00:19:02,762 --> 00:19:04,177
de huellas digitales.

203
00:19:04,177 --> 00:19:07,042
Miré los me gusta de Facebook,
Miré el lenguaje,

204
00:19:07,042 --> 00:19:11,253
registros de tarjetas de crédito,
historiales de navegación web,
registros de búsqueda.

205
00:19:12,737 --> 00:19:16,431
y cada vez descubrí que si
obtienes suficientes de estos datos,

206
00:19:16,431 --> 00:19:18,847
puedes con precisión
predecir el comportamiento futuro

207
00:19:18,847 --> 00:19:21,988
y revelar importante
rasgos íntimos.

208
00:19:23,576 --> 00:19:25,681
Esto se puede utilizar de excelentes maneras,

209
00:19:25,681 --> 00:19:28,926
pero también se puede utilizar
para manipular a la gente.

210
00:19:34,345 --> 00:19:38,280
Facebook está entregando
información diaria

211
00:19:38,280 --> 00:19:40,903
a dos mil millones de personas o más.

212
00:19:43,182 --> 00:19:45,356
si un poco
cambiar el funcionamiento

213
00:19:45,356 --> 00:19:47,289
del motor de Facebook,

214
00:19:47,289 --> 00:19:50,982
puedes mover el
opiniones y por lo tanto,

215
00:19:50,982 --> 00:19:54,262
los votos de millones de personas.

216
00:19:55,401 --> 00:19:57,230
- ¡Brexit!
- ¿Cuándo lo queremos?

217
00:19:57,230 --> 00:19:58,404
- ¡Ahora!

218
00:20:00,647 --> 00:20:03,202
- Un político
no sería capaz de entender

219
00:20:03,202 --> 00:20:07,275
que mensaje cada uno de
a sus votantes les gustaría,

220
00:20:07,275 --> 00:20:10,450
pero una computadora puede ver
¿Qué mensaje político?

221
00:20:10,450 --> 00:20:13,384
sería particularmente
convincente para usted.

222
00:20:15,766 --> 00:20:17,250
- Damas y caballeros,

223
00:20:17,250 --> 00:20:20,667
es mi privilegio hablar
a ti hoy sobre el poder

224
00:20:20,667 --> 00:20:24,947
de big data y psicografía
en el proceso electoral.

225
00:20:24,947 --> 00:20:26,880
- Datos de
Cambridge analítica

226
00:20:26,880 --> 00:20:29,538
cosechó en secreto el
información personal

227
00:20:29,538 --> 00:20:32,576
de 50 millones desprevenidos
Usuarios de Facebook.

228
00:20:32,576 --> 00:20:33,784
- ¡Estados Unidos, Estados Unidos, Estados Unidos!

229
00:20:36,235 --> 00:20:37,581
- La empresa de datos contratada.

230
00:20:37,581 --> 00:20:40,411
por Donald Trump
campaña electoral presidencial

231
00:20:40,411 --> 00:20:42,482
usado en secreto
información obtenida

232
00:20:42,482 --> 00:20:45,589
apuntar directamente
votantes estadounidenses potenciales.

233
00:20:45,589 --> 00:20:47,487
- Con eso, ellos
dicen que pueden predecir

234
00:20:47,487 --> 00:20:52,009
la personalidad de cada uno
adulto en los Estados Unidos.

235
00:20:52,009 --> 00:20:54,011
- Esta noche escucharemos
de Cambridge Analytica

236
00:20:54,011 --> 00:20:56,255
denunciante,
Cristóbal Wiley.

237
00:20:56,255 --> 00:20:59,568
- En lo que trabajamos fue
programas de recolección de datos

238
00:20:59,568 --> 00:21:01,501
donde extraeríamos datos y ejecutaríamos

239
00:21:01,501 --> 00:21:03,641
esos datos a través de algoritmos
que podría perfilar

240
00:21:03,641 --> 00:21:06,368
sus rasgos de personalidad y
otros atributos psicológicos

241
00:21:06,368 --> 00:21:10,061
explotar mentalmente
vulnerabilidades que
nuestros algoritmos mostraron

242
00:21:10,061 --> 00:21:11,442
que tenían.

243
00:21:19,968 --> 00:21:22,039
-Cambridge Analytica
mencionado una vez

244
00:21:22,039 --> 00:21:24,938
o dijo que sus modelos
se basaron en mi trabajo,

245
00:21:26,975 --> 00:21:29,633
pero Cambridge Analytica es
solo uno de los cientos

246
00:21:29,633 --> 00:21:34,534
de empresas que están utilizando
tales métodos para dirigirse a los votantes.

247
00:21:36,605 --> 00:21:40,229
Sabes, yo estaría
preguntas hechas por
periodistas como,

248
00:21:40,229 --> 00:21:41,714
"Entonces, ¿cómo te sientes acerca de

249
00:21:43,405 --> 00:21:46,581
elegir a Trump y
¿Apoyando el Brexit?".

250
00:21:46,581 --> 00:21:48,307
¿Cómo respondes?
a tal pregunta?

251
00:21:49,929 --> 00:21:54,899
Supongo que tengo que lidiar
con ser culpado por todo ello.

252
00:22:12,158 --> 00:22:16,921
- Cómo empezó la tecnología
como fuerza democratizadora,

253
00:22:16,921 --> 00:22:19,545
como una fuerza para el bien, como
una habilidad para los humanos

254
00:22:19,545 --> 00:22:21,961
para interactuar con cada uno
otros sin porteros.

255
00:22:24,688 --> 00:22:27,035
nunca ha habido
un experimento más grande

256
00:22:27,035 --> 00:22:29,555
en comunicaciones
para la raza humana.

257
00:22:30,970 --> 00:22:33,386
¿Qué pasa cuando todos
¿Podrá dar su opinión?

258
00:22:34,594 --> 00:22:36,355
Supondrías que
sería para mejor,

259
00:22:36,355 --> 00:22:37,597
que habría
ser más democracia,

260
00:22:37,597 --> 00:22:39,116
habría más discusión,

261
00:22:39,116 --> 00:22:42,153
habría más tolerancia,
pero lo que pasó es que

262
00:22:42,153 --> 00:22:44,121
estos sistemas tienen
sido secuestrado.

263
00:22:45,778 --> 00:22:48,159
- Nosotros defendemos
conectando a cada persona.

264
00:22:49,471 --> 00:22:50,783
Por una comunidad global.

265
00:22:52,301 --> 00:22:55,028
- Una empresa,
Facebook, es responsable

266
00:22:55,028 --> 00:22:58,031
para las comunicaciones de
gran parte de la raza humana.

267
00:23:00,171 --> 00:23:01,794
Lo mismo con Google.

268
00:23:01,794 --> 00:23:04,624
Todo lo que quieres saber sobre
el mundo proviene de ellos.

269
00:23:05,970 --> 00:23:09,560
esto es mundial
economía de la información

270
00:23:09,560 --> 00:23:12,529
que es controlado por un
pequeño grupo de personas.

271
00:23:19,052 --> 00:23:20,329
- Las empresas más ricas del mundo.

272
00:23:20,329 --> 00:23:21,917
Son todas empresas de tecnología.

273
00:23:23,263 --> 00:23:28,234
Google, Apple, Microsoft,
Amazonas, Facebook.

274
00:23:30,374 --> 00:23:35,379
Es asombroso cómo, en
probablemente sólo 10 años,

275
00:23:36,656 --> 00:23:39,314
que todo el
estructura de poder corporativo

276
00:23:39,314 --> 00:23:43,939
están básicamente en el negocio
del comercio de electrones.

277
00:23:45,734 --> 00:23:50,705
Estos pequeños bits y bytes
son realmente la nueva moneda.

278
00:23:58,091 --> 00:24:00,300
- La forma en que se monetizan los datos.

279
00:24:00,300 --> 00:24:03,096
está sucediendo a nuestro alrededor,
incluso si es invisible para nosotros.

280
00:24:05,409 --> 00:24:08,688
Google tiene todas las cantidades
de información disponible.

281
00:24:08,688 --> 00:24:11,519
Rastrean a las personas por
su ubicación GPS.

282
00:24:11,519 --> 00:24:14,453
Ellos saben exactamente cuál es tu
el historial de búsqueda ha sido.

283
00:24:14,453 --> 00:24:17,283
Ellos conocen tu
preferencias políticas.

284
00:24:17,283 --> 00:24:19,285
Tu historial de búsqueda
solo te lo puedo decir

285
00:24:19,285 --> 00:24:22,012
todo sobre un individuo
de sus problemas de salud

286
00:24:22,012 --> 00:24:23,910
a sus preferencias sexuales.

287
00:24:23,910 --> 00:24:26,568
Por tanto, el alcance de Google es ilimitado.

288
00:24:33,195 --> 00:24:36,060
- Entonces hemos visto
google y facebook

289
00:24:36,060 --> 00:24:38,580
ascender en estos grandes
maquinas de vigilancia

290
00:24:39,719 --> 00:24:42,653
y ambos son
en realidad agentes de publicidad.

291
00:24:42,653 --> 00:24:46,485
Suena muy mundano, pero
son agentes de publicidad de alta tecnología.

292
00:24:47,865 --> 00:24:50,523
Y la razón por la que son tan
rentable es que están usando

293
00:24:50,523 --> 00:24:55,010
inteligencia artificial para
procesar todos estos datos sobre usted,

294
00:24:56,184 --> 00:24:59,118
y luego coincidir contigo
con el anunciante

295
00:24:59,118 --> 00:25:04,088
que quiere llegar a la gente
como tú, para cualquier mensaje.

296
00:25:07,436 --> 00:25:09,231
- Uno de los problemas
con tecnología

297
00:25:09,231 --> 00:25:11,440
es que ha sido
desarrollado para ser adictivo.

298
00:25:12,545 --> 00:25:14,374
La forma en que estas empresas
diseñar estas cosas

299
00:25:14,374 --> 00:25:16,480
es para tirar
usted en y comprometerse.

300
00:25:17,861 --> 00:25:21,243
Quieren convertirse esencialmente
una máquina tragamonedas de atención.

301
00:25:23,038 --> 00:25:24,488
Así que siempre estás
prestando atención,

302
00:25:24,488 --> 00:25:26,214
siempre estás secuestrado
en la matriz,

303
00:25:26,214 --> 00:25:27,974
siempre estás comprobando.

304
00:25:31,012 --> 00:25:33,152
- Cuando alguien
controla lo que lees,

305
00:25:33,152 --> 00:25:34,878
ellos también controlan
lo que piensas.

306
00:25:36,569 --> 00:25:39,089
Obtienes más de lo que tienes
visto antes y gustado antes,

307
00:25:39,089 --> 00:25:42,368
porque esto da más tráfico
y eso da más anuncios,

308
00:25:43,852 --> 00:25:47,615
pero también te encierra
en tu cámara de eco.

309
00:25:47,615 --> 00:25:49,720
Y esto es lo que lleva
a esta polarización

310
00:25:49,720 --> 00:25:51,273
que vemos hoy.

311
00:25:51,273 --> 00:25:54,449
- Jair Bolsonaro,
¡Jair Bolsonaro!

312
00:25:54,449 --> 00:25:57,072
- Jair Bolsonaro,
La derecha brasileña

313
00:25:57,072 --> 00:26:00,455
candidato populista a veces
comparado con Donald Trump,

314
00:26:00,455 --> 00:26:03,044
ganar la presidencia el domingo
noche en ese país

315
00:26:03,044 --> 00:26:06,219
más polarizador
elección en décadas.

316
00:26:06,219 --> 00:26:07,220
-¡Bolsonaro!

317
00:26:08,532 --> 00:26:11,017
- Lo que estamos viendo
alrededor del mundo

318
00:26:11,017 --> 00:26:13,986
es agitación y
polarización y conflicto

319
00:26:15,194 --> 00:26:19,439
eso es parcialmente
impulsado por algoritmos

320
00:26:19,439 --> 00:26:23,512
eso se ha dado cuenta
extremos políticos,

321
00:26:23,512 --> 00:26:26,585
tribalismo y algo así
gritando por tu equipo,

322
00:26:26,585 --> 00:26:29,208
y sintiéndome bien
al respecto, es atractivo.

323
00:26:35,386 --> 00:26:37,596
- Las redes sociales pueden
estar añadiendo a la atención

324
00:26:37,596 --> 00:26:39,908
Odiar los crímenes en todo el mundo.

325
00:26:39,908 --> 00:26:42,566
- Se trata de cómo la gente
puede radicalizarse

326
00:26:42,566 --> 00:26:46,156
viviendo en la fiebre
pantanos de Internet.

327
00:26:46,156 --> 00:26:48,779
- Entonces, ¿es esta una clave?
¿Momento para los gigantes tecnológicos?

328
00:26:48,779 --> 00:26:50,436
¿Están ahora preparados?
asumir la responsabilidad

329
00:26:50,436 --> 00:26:53,335
como editores de lo que
comparten con el mundo?

330
00:26:54,647 --> 00:26:57,236
- Si implementas un
poderosa tecnología potente

331
00:26:57,236 --> 00:27:01,067
a escala, y si estás hablando
sobre Google y Facebook,

332
00:27:01,067 --> 00:27:03,932
estás implementando cosas
a una escala de miles de millones.

333
00:27:03,932 --> 00:27:07,177
Si tu inteligencia artificial
está impulsando la polarización,

334
00:27:07,177 --> 00:27:09,489
tienes globales
agitación potencialmente.

335
00:27:10,352 --> 00:27:11,457
- ¡Las vidas de los blancos importan!

336
00:27:11,457 --> 00:27:12,700
- ¡Las vidas de los negros son importantes!

337
00:27:12,700 --> 00:27:15,323
Las vidas de los negros importan
Las vidas de los negros importan

338
00:27:15,323 --> 00:27:18,602
Las vidas de los negros importan
¡Las vidas negras importan!

339
00:28:05,028 --> 00:28:07,168
- Generales artificiales
Inteligencia, AGI.

340
00:28:10,827 --> 00:28:12,794
Imagina a tu amigo más inteligente

341
00:28:14,002 --> 00:28:16,453
con 1.000 amigos,
igual de inteligente,

342
00:28:18,904 --> 00:28:21,976
y luego ejecutarlos a 1000
veces más rápido que el tiempo real.

343
00:28:21,976 --> 00:28:24,323
Entonces significa que en
cada día de nuestro tiempo,

344
00:28:24,323 --> 00:28:26,877
harán tres
años de pensamiento.

345
00:28:26,877 --> 00:28:29,880
¿Te imaginas cómo
mucho que podrías hacer

346
00:28:31,330 --> 00:28:35,955
si por cada día pudieras
¿Hacer tres años de trabajo?

347
00:28:56,838 --> 00:29:00,117
No sería un
comparación injusta para decir

348
00:29:00,117 --> 00:29:04,121
que lo que tenemos ahora
es incluso más emocionante que

349
00:29:04,121 --> 00:29:06,883
los físicos cuánticos de
principios del siglo XX.

350
00:29:06,883 --> 00:29:08,436
Descubrieron la energía nuclear.

351
00:29:10,127 --> 00:29:12,612
Me siento muy afortunado de
participar en esto.

352
00:29:19,723 --> 00:29:21,345
Muchos expertos en aprendizaje automático,

353
00:29:21,345 --> 00:29:23,209
que estan muy bien informados
y experimentado,

354
00:29:23,209 --> 00:29:24,935
tener un montón de
escepticismo sobre AGI.

355
00:29:26,765 --> 00:29:28,421
Sobre cuándo sucedería,

356
00:29:28,421 --> 00:29:30,354
y sobre si
podría suceder en absoluto.

357
00:29:35,843 --> 00:29:37,603
Pero ahora mismo esto es algo

358
00:29:37,603 --> 00:29:40,054
que no son tantos
la gente se ha dado cuenta todavía.

359
00:29:41,538 --> 00:29:45,369
Que la velocidad de las computadoras,
para redes neuronales, para IA,

360
00:29:45,369 --> 00:29:49,684
van a convertirse tal vez
100.000 veces más rápido

361
00:29:49,684 --> 00:29:51,168
en un pequeño número de años.

362
00:29:53,792 --> 00:29:56,553
Todo el hardware
industria durante mucho tiempo

363
00:29:56,553 --> 00:29:59,107
realmente no lo sabía
qué hacer a continuación,

364
00:30:00,246 --> 00:30:03,594
pero con artificial
redes neuronales,

365
00:30:03,594 --> 00:30:05,320
ahora que realmente funcionan,

366
00:30:05,320 --> 00:30:07,702
tienes una razón para
construir computadoras enormes.

367
00:30:08,979 --> 00:30:11,257
Puedes construir un cerebro en
silicio, es posible.

368
00:30:19,093 --> 00:30:23,166
Los primeros AGI
será básicamente muy,

369
00:30:23,166 --> 00:30:27,308
centros de datos muy grandes
repleto de especialistas

370
00:30:27,308 --> 00:30:30,104
procesadores de redes neuronales
trabajando en paralelo.

371
00:30:32,382 --> 00:30:35,419
Compacto, caliente, potente.
paquete hambriento,

372
00:30:36,869 --> 00:30:39,872
consumiendo como 10 millones
el valor energético de los hogares.

373
00:30:58,166 --> 00:31:00,134
Un sándwich de rosbif.

374
00:31:00,134 --> 00:31:01,860
si, algo
ligeramente diferente.

375
00:31:02,722 --> 00:31:03,689
Sólo esta vez.

376
00:31:08,556 --> 00:31:10,730
Incluso los primeros AGI

377
00:31:10,730 --> 00:31:13,595
será dramáticamente
más capaces que los humanos.

378
00:31:15,597 --> 00:31:17,876
Los humanos ya no
ser económicamente útil

379
00:31:17,876 --> 00:31:19,049
para casi cualquier tarea.

380
00:31:20,637 --> 00:31:22,328
¿Por qué querrías
contratar a un humano,

381
00:31:22,328 --> 00:31:24,123
si pudieras conseguir una computadora

382
00:31:24,123 --> 00:31:26,022
eso va a hacer mucho
¿Mejor y mucho más barato?

383
00:31:33,339 --> 00:31:35,479
AGI va a ser
como, sin lugar a dudas,

384
00:31:36,825 --> 00:31:39,173
lo mas importante
tecnología en la historia

385
00:31:39,173 --> 00:31:41,071
del planeta por un margen enorme.

386
00:31:44,005 --> 00:31:47,008
va a ser mas grande
que la electricidad, la energía nuclear,

387
00:31:47,008 --> 00:31:48,458
e Internet combinados.

388
00:31:50,253 --> 00:31:52,117
De hecho, se podría decir
que todo el propósito

389
00:31:52,117 --> 00:31:54,153
de toda la ciencia humana, la
propósito de la informática,

390
00:31:54,153 --> 00:31:57,294
El juego final, este es el
final del juego, para construir esto.

391
00:31:57,294 --> 00:31:58,709
Y se va a construir.

392
00:31:58,709 --> 00:32:00,504
va a ser
una nueva forma de vida.

393
00:32:00,504 --> 00:32:01,333
va a ser,

394
00:32:03,473 --> 00:32:05,061
nos va a dejar obsoletos.

395
00:32:13,897 --> 00:32:16,693
- Teníamos programas
baja donde enviamos

396
00:32:16,693 --> 00:32:18,281
Fuego AK47, cambio.

397
00:32:22,009 --> 00:32:26,841
- En espera para
cuatro un guión tres.

398
00:32:26,841 --> 00:32:28,774
- fabricantes europeos
conocer a los americanos

399
00:32:28,774 --> 00:32:31,915
han invertido mucho en
el hardware necesario.

400
00:32:31,915 --> 00:32:34,262
- Entra en un
Un nuevo y valiente mundo de poder,

401
00:32:34,262 --> 00:32:35,988
rendimiento y productividad.

402
00:32:37,403 --> 00:32:39,958
- Todas las imágenes que eres.
a punto de ver en la pantalla grande

403
00:32:39,958 --> 00:32:44,134
será generado por
¿Qué hay en ese Macintosh?

404
00:32:44,134 --> 00:32:46,757
- Es mi honor y
privilegio de presentarles

405
00:32:46,757 --> 00:32:48,449
el equipo de desarrollo de Windows 95.

406
00:32:50,140 --> 00:32:53,523
- El trabajo físico humano tiene
estado prácticamente obsoleto durante

407
00:32:53,523 --> 00:32:54,938
avanzando durante un siglo.

408
00:32:56,388 --> 00:32:59,805
Trabajo mental humano de rutina
se está volviendo rápidamente obsoleto

409
00:32:59,805 --> 00:33:01,013
y es por eso
estamos viendo mucho

410
00:33:01,013 --> 00:33:03,222
de la clase media
empleos que desaparecen.

411
00:33:05,397 --> 00:33:06,950
- De vez en cuando,

412
00:33:06,950 --> 00:33:10,781
llega un producto revolucionario
A lo largo de eso lo cambia todo.

413
00:33:10,781 --> 00:33:13,992
Hoy Apple es
reinventando el teléfono.

414
00:33:25,279 --> 00:33:28,696
- Inteligencia artificial
ya está a nuestro alrededor.

415
00:33:28,696 --> 00:33:30,422
La lista de cosas
que nosotros los humanos

416
00:33:30,422 --> 00:33:32,010
puede hacerlo mejor que las máquinas

417
00:33:32,010 --> 00:33:34,012
en realidad se está reduciendo
bastante rápido.

418
00:33:40,156 --> 00:33:41,847
- Los coches sin conductor son geniales.

419
00:33:41,847 --> 00:33:44,436
probablemente lo harán
reducir los accidentes.

420
00:33:44,436 --> 00:33:48,095
Excepto, junto con
que en Estados Unidos

421
00:33:48,095 --> 00:33:51,029
vas a perder
10 millones de empleos.

422
00:33:51,029 --> 00:33:54,135
¿Qué vas a hacer con
¿10 millones de desempleados?

423
00:33:59,416 --> 00:34:03,041
- El riesgo para la sociedad
conflictos y tensiones,

424
00:34:03,041 --> 00:34:07,114
si exacerbas las desigualdades,
es muy, muy alto.

425
00:34:16,157 --> 00:34:18,263
- AGI puede, por definición,

426
00:34:18,263 --> 00:34:21,093
hacer todos los trabajos mejor
de lo que podemos hacer.

427
00:34:21,093 --> 00:34:23,095
Personas que dicen,
"Siempre habrá empleos

428
00:34:23,095 --> 00:34:25,166
que los humanos pueden hacerlo mejor
que las máquinas", son simplemente

429
00:34:25,166 --> 00:34:28,135
apostar contra la ciencia y
diciendo que nunca habrá AGI.

430
00:34:35,280 --> 00:34:37,799
- Lo que estamos viendo
ahora es como un tren a toda velocidad

431
00:34:37,799 --> 00:34:42,287
por un túnel oscuro a un ritmo vertiginoso
velocidad y parece

432
00:34:42,287 --> 00:34:43,702
estamos durmiendo al volante.

433
00:35:33,579 --> 00:35:35,961
- Una gran fracción de
las huellas digitales

434
00:35:35,961 --> 00:35:39,171
estamos dejando atrás
Son imágenes digitales.

435
00:35:40,276 --> 00:35:41,863
Y específicamente, ¿qué es
realmente interesante

436
00:35:41,863 --> 00:35:43,693
para mi como psicóloga

437
00:35:43,693 --> 00:35:45,902
Son imágenes digitales de nuestros rostros.

438
00:35:48,939 --> 00:35:51,701
Aquí puedes ver la diferencia.
en el contorno facial

439
00:35:51,701 --> 00:35:54,566
de un gay promedio y un
cara seria promedio.

440
00:35:54,566 --> 00:35:57,120
Y puedes ver
que los hombres heterosexuales

441
00:35:57,120 --> 00:35:59,157
tienen mandíbulas ligeramente más anchas.

442
00:36:00,261 --> 00:36:03,333
Las mujeres homosexuales tienen
mandíbulas un poco más grandes,

443
00:36:03,333 --> 00:36:04,783
en comparación con las mujeres heterosexuales.

444
00:36:06,785 --> 00:36:10,098
Los algoritmos informáticos pueden
revelar nuestras opiniones políticas

445
00:36:10,098 --> 00:36:12,687
u orientación sexual,
o inteligencia,

446
00:36:12,687 --> 00:36:15,552
simplemente basado en el
imagen de nuestras caras.

447
00:36:16,726 --> 00:36:18,900
Incluso un cerebro humano puede
distinguir entre homosexuales

448
00:36:18,900 --> 00:36:21,524
y hombres heterosexuales
con cierta precisión.

449
00:36:21,524 --> 00:36:23,664
ahora resulta
que la computadora

450
00:36:23,664 --> 00:36:26,080
puede hacerlo con mucho
mayor precisión.

451
00:36:26,080 --> 00:36:29,601
lo que estas viendo
Aquí hay una precisión de

452
00:36:29,601 --> 00:36:33,812
facial listo para usar
software de reconocimiento.

453
00:36:33,812 --> 00:36:36,194
Esta es una noticia terrible

454
00:36:36,194 --> 00:36:38,851
para hombres y mujeres homosexuales
en todo el mundo.

455
00:36:38,851 --> 00:36:40,370
Y no sólo hombres y mujeres homosexuales,

456
00:36:40,370 --> 00:36:42,752
porque los mismos algoritmos
puede usarse para detectar otros

457
00:36:42,752 --> 00:36:46,825
rasgos íntimos, pensar en ser
un miembro de la oposición,

458
00:36:46,825 --> 00:36:49,552
o ser liberal,
o ser ateo.

459
00:36:51,243 --> 00:36:54,522
Ser ateo es
también castigado con la muerte

460
00:36:54,522 --> 00:36:57,007
en Arabia Saudita, por ejemplo.

461
00:37:04,152 --> 00:37:06,189
Mi misión como académico.
es advertir a la gente

462
00:37:06,189 --> 00:37:08,812
sobre los peligros de los algoritmos

463
00:37:08,812 --> 00:37:12,644
poder revelar
nuestros rasgos íntimos.

464
00:37:14,162 --> 00:37:18,443
El problema es que cuando
la gente recibe malas noticias,

465
00:37:18,443 --> 00:37:20,445
ellos muy a menudo eligen
para despedirlos.

466
00:37:22,240 --> 00:37:23,344
Bueno, da un poco de miedo.

467
00:37:23,344 --> 00:37:25,312
cuando empiezas
recibir amenazas de muerte

468
00:37:25,312 --> 00:37:26,623
de un día para otro,

469
00:37:26,623 --> 00:37:29,005
y he recibido bastante
algunas amenazas de muerte,

470
00:37:30,282 --> 00:37:34,252
pero como científico, yo
básicamente tienes que mostrar

471
00:37:34,252 --> 00:37:35,287
lo que es posible.

472
00:37:38,014 --> 00:37:41,051
entonces lo que realmente me interesa
en ahora es tratar de ver

473
00:37:41,051 --> 00:37:45,470
si podemos predecir otros
rasgos de los rostros de las personas.

474
00:37:50,682 --> 00:37:52,994
Ahora, si puedes detectar
depresión de una cara,

475
00:37:52,994 --> 00:37:58,034
o pensamientos suicidas,
tal vez un sistema de CCTV

476
00:37:59,207 --> 00:38:01,313
en la estación de tren
puede salvar algunas vidas.

477
00:38:03,488 --> 00:38:05,800
¿Qué pasaría si pudiéramos?
predecir que alguien

478
00:38:05,800 --> 00:38:08,182
¿Es más propenso a cometer un delito?

479
00:38:09,356 --> 00:38:11,427
Probablemente tuviste un
consejero escolar,

480
00:38:11,427 --> 00:38:14,775
un psicólogo contratado
allí para identificar a los niños

481
00:38:14,775 --> 00:38:19,227
que potencialmente puede tener
algunos problemas de conducta.

482
00:38:21,713 --> 00:38:24,440
Así que ahora imagina si pudieras
predecir con alta precisión

483
00:38:24,440 --> 00:38:27,028
que es probable que alguien
cometer un delito en el futuro

484
00:38:27,028 --> 00:38:29,168
del idioma
utilizar, desde la cara,

485
00:38:29,168 --> 00:38:32,102
de las expresiones faciales,
de los me gusta en Facebook.

486
00:38:36,693 --> 00:38:39,593
No estoy desarrollando nuevos
métodos, sólo estoy describiendo

487
00:38:39,593 --> 00:38:43,321
algo o probar algo
en un ambiente académico.

488
00:38:45,012 --> 00:38:47,186
Pero obviamente hay
es una posibilidad que,

489
00:38:47,186 --> 00:38:52,191
mientras advierte a la gente contra
riesgos de las nuevas tecnologías,

490
00:38:53,331 --> 00:38:54,884
También puedo dar algunos
gente nuevas ideas.

491
00:39:15,525 --> 00:39:17,078
- Aún no hemos visto el futuro.

492
00:39:17,078 --> 00:39:22,083
en términos de las formas en que
la nueva sociedad impulsada por los datos

493
00:39:23,153 --> 00:39:25,777
realmente va a evolucionar.

494
00:39:27,951 --> 00:39:31,127
Las empresas tecnológicas quieren
para obtener cada bit posible

495
00:39:31,127 --> 00:39:34,544
de información que ellos
puede cobrar a todos

496
00:39:34,544 --> 00:39:36,097
para facilitar los negocios.

497
00:39:37,858 --> 00:39:41,482
La policía y el ejército.
quiero hacer lo mismo

498
00:39:41,482 --> 00:39:43,242
para facilitar la seguridad.

499
00:39:46,384 --> 00:39:50,836
Los intereses que ambos
tienen en común son inmensos,

500
00:39:50,836 --> 00:39:55,634
y así la medida
de colaboración
entre lo que podrías

501
00:39:55,634 --> 00:40:00,639
llame al complejo tecnológico-militar
está creciendo dramáticamente.

502
00:40:04,816 --> 00:40:07,405
- La CIA, desde hace mucho tiempo,

503
00:40:07,405 --> 00:40:10,546
ha mantenido una estrecha
conexión con Silicon Valley.

504
00:40:11,719 --> 00:40:14,722
Su capital de riesgo
firma conocida como In-Q-Tel,

505
00:40:14,722 --> 00:40:18,312
realiza inversiones iniciales para
empresas de nueva creación en desarrollo

506
00:40:18,312 --> 00:40:21,936
tecnología innovadora que
la CIA espera desplegar.

507
00:40:23,110 --> 00:40:26,527
Palantir, el grande
empresa de análisis de datos,

508
00:40:26,527 --> 00:40:29,323
una de sus primeras semillas
Las inversiones fueron de In-Q-Tel.

509
00:40:33,396 --> 00:40:36,261
- In-Q-Tel ha atacado
oro en Palantir

510
00:40:36,261 --> 00:40:40,507
en ayudar a crear
un vendedor privado

511
00:40:40,507 --> 00:40:45,373
que tiene inteligencia y
inteligencia artificial

512
00:40:45,373 --> 00:40:48,135
capacidades que el gobierno
ni siquiera puedo competir.

513
00:40:50,862 --> 00:40:53,243
- Buenas noches, soy Peter Thiel.

514
00:40:54,693 --> 00:40:58,697
No soy un político, pero
Donald Trump tampoco.

515
00:40:58,697 --> 00:41:03,530
Él es un constructor y es
Es hora de reconstruir Estados Unidos.

516
00:41:05,704 --> 00:41:08,362
- Peter Thiel,
el fundador de Palantir,

517
00:41:08,362 --> 00:41:11,054
era un Donald Trump
asesor de transición

518
00:41:11,054 --> 00:41:13,609
y un amigo cercano y donante.

519
00:41:15,473 --> 00:41:18,130
Trump fue elegido
en gran medida en la promesa

520
00:41:18,130 --> 00:41:21,996
deportar a millones
de inmigrantes.

521
00:41:21,996 --> 00:41:26,691
La única forma en que puedes hacer eso
es con mucha inteligencia

522
00:41:26,691 --> 00:41:29,832
y ahí es donde
Entra Palantir.

523
00:41:33,111 --> 00:41:37,460
Ingieren enormes tesoros
de datos, que incluyen,

524
00:41:37,460 --> 00:41:41,809
donde vives, donde
tu trabajas, a quien conoces,

525
00:41:41,809 --> 00:41:45,433
quiénes son tus vecinos,
quien es tu familia,

526
00:41:45,433 --> 00:41:48,954
donde has visitado,
donde te quedas,

527
00:41:48,954 --> 00:41:50,784
su perfil de redes sociales.

528
00:41:53,752 --> 00:41:57,722
Palantir consigue todo eso
y es notablemente bueno

529
00:41:57,722 --> 00:42:02,658
en estructurarlo de una manera
que ayuda a hacer cumplir la ley,

530
00:42:03,866 --> 00:42:06,869
autoridades de inmigración
o agencias de inteligencia

531
00:42:06,869 --> 00:42:10,597
de cualquier tipo, pista
tú, encontrarte,

532
00:42:10,597 --> 00:42:13,669
y aprender todo allí
es saber de ti.

533
00:42:53,018 --> 00:42:55,538
- Estamos poniendo IA
carga ahora de siempre

534
00:42:55,538 --> 00:42:57,954
decisiones importantes que
afectan la vida de las personas.

535
00:42:59,404 --> 00:43:02,441
La IA de la vieja escuela solía tener
su inteligencia programada en

536
00:43:02,441 --> 00:43:05,755
por humanos que entendieron
cómo funcionó, pero hoy,

537
00:43:05,755 --> 00:43:08,482
potentes sistemas de IA tienen
acaban de aprender por sí mismos,

538
00:43:08,482 --> 00:43:11,865
y no tenemos ni idea
realmente cómo funcionan,

539
00:43:11,865 --> 00:43:13,936
lo que lo hace realmente
Es difícil confiar en ellos.

540
00:43:18,665 --> 00:43:22,220
- Esto no es algo futurista.
tecnología, esto es ahora.

541
00:43:23,877 --> 00:43:27,639
La IA podría ayudar a determinar
donde un departamento de bomberos

542
00:43:27,639 --> 00:43:30,331
se construye en una comunidad o
donde se construye una escuela.

543
00:43:30,331 --> 00:43:32,817
Podría decidir
si obtienes la libertad bajo fianza,

544
00:43:32,817 --> 00:43:35,095
o si permanecerás en la cárcel.

545
00:43:35,095 --> 00:43:37,338
Podría decidir dónde
la policía va a estar.

546
00:43:37,338 --> 00:43:39,202
Podría decidir
si vas a ir

547
00:43:39,202 --> 00:43:41,549
estar bajo adicional
escrutinio policial.

548
00:43:47,797 --> 00:43:51,421
- Es popular ahora en los EE. UU.
hacer vigilancia policial predictiva.

549
00:43:51,421 --> 00:43:53,389
Entonces lo que hacen es
ellos usan un algoritmo

550
00:43:53,389 --> 00:43:55,322
para descubrir donde
el crimen será,

551
00:43:56,323 --> 00:43:57,565
y lo usan para contar

552
00:43:57,565 --> 00:43:59,533
donde debemos enviar
agentes de policía.

553
00:44:00,879 --> 00:44:03,813
Entonces eso se basa en un
Medición de la tasa de criminalidad.

554
00:44:05,056 --> 00:44:06,713
Entonces sabemos que hay sesgo.

555
00:44:06,713 --> 00:44:09,474
negros e hispanos
la gente es detenida,

556
00:44:09,474 --> 00:44:11,579
y detenido por la policía
oficiales con mayor frecuencia

557
00:44:11,579 --> 00:44:14,168
que los blancos, entonces nosotros
tener estos datos sesgados entrando,

558
00:44:14,168 --> 00:44:16,343
y luego que pasa
¿Usas eso para decir?

559
00:44:16,343 --> 00:44:18,000
"Aquí es donde el
La policía debería irse."

560
00:44:18,000 --> 00:44:19,277
Bueno, la policía va a
esos barrios,

561
00:44:19,277 --> 00:44:22,073
y adivina lo que ellos
lo hacen, arrestan a la gente.

562
00:44:22,073 --> 00:44:25,628
Y luego se retroalimenta
datos sesgados en el sistema,

563
00:44:25,628 --> 00:44:27,319
y eso se llama
un circuito de retroalimentación.

564
00:44:40,539 --> 00:44:45,096
- Vigilancia predictiva
lleva a los extremos

565
00:44:46,235 --> 00:44:50,411
a los expertos diciendo,
"Muéstrame a tu bebé,

566
00:44:50,411 --> 00:44:53,311
y te diré si
ella va a ser una criminal."

567
00:44:55,693 --> 00:45:00,318
Ahora que podemos predecirlo,
luego vamos a vigilar

568
00:45:00,318 --> 00:45:05,254
esos niños mucho más de cerca
y vamos a saltar sobre ellos

569
00:45:06,117 --> 00:45:08,084
a la primera señal de un problema.

570
00:45:08,084 --> 00:45:11,398
Y eso va a hacer
para una actuación policial más eficaz.

571
00:45:11,398 --> 00:45:15,678
Lo hace, pero va a
crear una sociedad realmente sombría

572
00:45:15,678 --> 00:45:20,614
y está reforzando
dramáticamente
injusticias existentes.

573
00:45:27,345 --> 00:45:32,212
- Imagina un mundo en el que
redes de cámaras CCTV,

574
00:45:32,212 --> 00:45:35,353
vigilancia con drones
cámaras, tienen sofisticados

575
00:45:35,353 --> 00:45:38,839
tecnologías de reconocimiento facial
y están conectados

576
00:45:38,839 --> 00:45:41,186
a otro gobierno
bases de datos de vigilancia.

577
00:45:42,498 --> 00:45:45,639
tendremos el
tecnología disponible para tener

578
00:45:45,639 --> 00:45:50,126
todos nuestros movimientos
integralmente
rastreado y grabado.

579
00:45:52,094 --> 00:45:54,752
Lo que eso también significa
es que tendremos

580
00:45:54,752 --> 00:45:57,340
creó una vigilancia
maquina del tiempo

581
00:45:57,340 --> 00:46:00,965
que permitirá a los gobiernos
y corporaciones poderosas

582
00:46:00,965 --> 00:46:03,036
esencialmente golpear
retroceder en nuestras vidas.

583
00:46:03,036 --> 00:46:06,108
Puede que no estemos bajo
cualquier sospecha ahora

584
00:46:06,108 --> 00:46:08,248
y dentro de cinco años,
tal vez quieran saber

585
00:46:08,248 --> 00:46:12,493
más sobre nosotros, y puede
luego recrear granularmente

586
00:46:12,493 --> 00:46:14,668
todo lo que hemos hecho,
todos los que hemos visto,

587
00:46:14,668 --> 00:46:17,464
todos los que hemos estado alrededor
durante todo ese período.

588
00:46:20,191 --> 00:46:23,711
Eso es extraordinario
cantidad de poder

589
00:46:23,711 --> 00:46:26,024
para que podamos sembrar a cualquiera.

590
00:46:27,267 --> 00:46:29,752
Y es un mundo que yo
Creo que ha sido difícil

591
00:46:29,752 --> 00:46:33,549
para que la gente imagine,
pero ya hemos construido

592
00:46:33,549 --> 00:46:36,379
la arquitectura para permitir eso.

593
00:47:11,483 --> 00:47:14,659
- Soy periodista político.
y estoy muy interesado

594
00:47:14,659 --> 00:47:19,043
en la forma en que las industrias poderosas
usar su poder político

595
00:47:19,043 --> 00:47:21,562
para influir en el
proceso de política pública.

596
00:47:25,394 --> 00:47:28,811
Las grandes empresas tecnológicas y
sus cabilderos se juntan

597
00:47:28,811 --> 00:47:31,918
a puertas cerradas y
son capaces de elaborar políticas

598
00:47:31,918 --> 00:47:33,471
bajo el cual todos tenemos que vivir.

599
00:47:35,162 --> 00:47:38,683
Eso es cierto para la vigilancia.
políticas, para políticas en términos

600
00:47:38,683 --> 00:47:40,133
de recopilación de datos,

601
00:47:40,133 --> 00:47:43,446
pero también cada vez más importante
cuando se trata de militares

602
00:47:43,446 --> 00:47:44,585
y política exterior.

603
00:47:48,313 --> 00:47:51,869
A partir de 2016, el
Departamento de Defensa

604
00:47:51,869 --> 00:47:54,664
formó la defensa
Junta de Innovación.

605
00:47:54,664 --> 00:47:58,461
Ese es un cuerpo especial creado
traer a los mejores ejecutivos tecnológicos

606
00:47:58,461 --> 00:48:00,636
en un contacto más cercano
con los militares.

607
00:48:03,535 --> 00:48:06,124
Eric Schmidt, ex
presidente de Alfabeto,

608
00:48:06,124 --> 00:48:07,746
la empresa matriz de Google,

609
00:48:07,746 --> 00:48:10,749
se convirtió en presidente de la
Junta de Innovación de Defensa,

610
00:48:11,923 --> 00:48:14,270
y uno de sus primeros
prioridades era decir,

611
00:48:14,270 --> 00:48:17,101
"Necesitamos más artificiales
inteligencia integrada

612
00:48:17,101 --> 00:48:18,205
al ejército."

613
00:48:20,276 --> 00:48:23,555
- He trabajado con un grupo
de voluntarios durante el

614
00:48:23,555 --> 00:48:26,558
últimos años para tomar
una mirada a la innovación en el

615
00:48:26,558 --> 00:48:31,184
militar en general, y mi resumen
La conclusión es que tenemos

616
00:48:31,184 --> 00:48:34,601
personas fantásticas que son
atrapado en un sistema muy malo.

617
00:48:37,673 --> 00:48:40,089
- Del Departamento de
La perspectiva de la defensa,

618
00:48:40,089 --> 00:48:41,780
donde realmente comencé
interesarse en ello

619
00:48:41,780 --> 00:48:45,336
Fue cuando empezamos a pensar
sobre sistemas no tripulados y

620
00:48:45,336 --> 00:48:50,341
cómo los sistemas robóticos y no tripulados
comenzaría a cambiar la guerra.

621
00:48:51,756 --> 00:48:54,276
Cuanto más inteligente hicieras el
Sistemas no tripulados y robots,

622
00:48:54,276 --> 00:48:57,935
cuanto más poderoso puedas
poder hacer tu ejército.

623
00:48:59,937 --> 00:49:01,593
- Subsecretario de Defensa,

624
00:49:01,593 --> 00:49:04,803
Robert trabajo juntos
un importante memorando conocido como

625
00:49:04,803 --> 00:49:08,048
la guerra algorítmica
Equipo multifuncional,

626
00:49:08,048 --> 00:49:09,705
mejor conocido como Proyecto Maven.

627
00:49:12,190 --> 00:49:15,124
Eric Schmidt dio una serie de
discursos y apariciones en los medios

628
00:49:15,124 --> 00:49:18,645
donde dijo este esfuerzo
fue diseñado para aumentar el combustible

629
00:49:18,645 --> 00:49:22,062
eficiencia en la Fuerza Aérea,
para ayudar con la logística,

630
00:49:22,062 --> 00:49:25,410
pero detrás de puertas cerradas hay
Fue otro esfuerzo paralelo.

631
00:49:31,106 --> 00:49:34,109
A finales de 2017 como parte
del Proyecto Maven,

632
00:49:34,109 --> 00:49:38,078
Google, la empresa de Eric Schmidt,
se le encomendó trabajar en secreto

633
00:49:38,078 --> 00:49:40,494
en otra parte
del Proyecto Maven,

634
00:49:40,494 --> 00:49:43,359
y eso fue tomar
los vastos volúmenes

635
00:49:43,359 --> 00:49:45,879
de datos de imagen aspirados

636
00:49:45,879 --> 00:49:49,607
por drones que operan en
Irak y Afganistán

637
00:49:49,607 --> 00:49:51,402
y enseñar una IA

638
00:49:51,402 --> 00:49:54,060
para identificar rápidamente
objetivos en el campo de batalla.

639
00:49:56,994 --> 00:50:00,998
- Tenemos un sensor y el
El sensor puede hacer vídeo en movimiento completo.

640
00:50:00,998 --> 00:50:02,861
de una ciudad entera.

641
00:50:02,861 --> 00:50:06,106
Y tendríamos tres
equipos de siete personas trabajando

642
00:50:06,106 --> 00:50:10,766
constantemente y podrían
Procesar el 15% de la información.

643
00:50:10,766 --> 00:50:13,389
El otro 85% de la
la información acaba de quedar

644
00:50:13,389 --> 00:50:15,874
en la sala de corte
piso, entonces dijimos,

645
00:50:15,874 --> 00:50:18,463
"Oye, IA y aprendizaje automático

646
00:50:18,463 --> 00:50:21,466
nos ayudaría a procesar
100% de la información."

647
00:50:29,785 --> 00:50:33,168
- Google ha tenido durante mucho tiempo
el lema: "No seas malvado".

648
00:50:33,168 --> 00:50:35,032
Han creado una imagen pública

649
00:50:35,032 --> 00:50:39,208
que son devotos
a la transparencia pública.

650
00:50:39,208 --> 00:50:41,659
Pero para que Google
transformar lentamente

651
00:50:41,659 --> 00:50:43,626
en un contratista de defensa,

652
00:50:43,626 --> 00:50:46,250
ellos mantuvieron
el máximo secretismo.

653
00:50:46,250 --> 00:50:48,528
Y tenías Google
celebrar este contrato

654
00:50:48,528 --> 00:50:49,770
con la mayoría de los empleados,

655
00:50:49,770 --> 00:50:51,186
incluso los empleados que estaban trabajando

656
00:50:51,186 --> 00:50:53,119
en el programa completamente
dejado en la oscuridad.

657
00:51:06,201 --> 00:51:09,411
- Generalmente dentro de Google,
cualquiera en la empresa

658
00:51:09,411 --> 00:51:12,483
se le permite saber sobre cualquier
otro proyecto que esta sucediendo

659
00:51:12,483 --> 00:51:14,174
en alguna otra parte
de la empresa.

660
00:51:15,589 --> 00:51:18,696
Con Project Maven, el hecho
que se mantuvo en secreto,

661
00:51:18,696 --> 00:51:20,974
Creo que fue alarmante para la gente.

662
00:51:20,974 --> 00:51:22,907
porque eso no es
la norma en Google.

663
00:51:25,082 --> 00:51:27,394
- Cuando esta historia
fue revelado por primera vez,

664
00:51:27,394 --> 00:51:29,983
desató una tormenta de fuego
dentro de Google.

665
00:51:29,983 --> 00:51:32,848
Tenías varios empleados.
renunciar a las protestas,

666
00:51:32,848 --> 00:51:36,300
otros firmando una petición
oponerse a este trabajo.

667
00:51:38,578 --> 00:51:39,820
- Tienes que decir realmente,

668
00:51:39,820 --> 00:51:41,684
"No quiero ser
parte de esto."

669
00:51:43,272 --> 00:51:46,206
hay empresas
llamados contratistas de defensa

670
00:51:46,206 --> 00:51:50,279
y Google simplemente no debería
ser una de esas empresas

671
00:51:50,279 --> 00:51:54,835
porque la gente necesita confiar
Google para que Google funcione.

672
00:51:56,630 --> 00:52:00,255
- Buenos días y
Bienvenido a Google I/O.

673
00:52:01,704 --> 00:52:04,569
- Hemos visto correos electrónicos que
mostrar que Google simplemente

674
00:52:04,569 --> 00:52:07,745
continuó engañando a sus
empleados que el dron

675
00:52:07,745 --> 00:52:11,749
El programa de focalización fue sólo una
esfuerzo menor que podría a lo sumo

676
00:52:11,749 --> 00:52:13,820
valdrá 9 millones de dólares para la empresa,

677
00:52:13,820 --> 00:52:15,511
que son gotas en el balde

678
00:52:15,511 --> 00:52:17,927
por un gigantesco
empresa como Google.

679
00:52:19,032 --> 00:52:21,690
Pero desde el interior
correos electrónicos que obtuvimos,

680
00:52:21,690 --> 00:52:25,935
Google esperaba el proyecto
Maven aumentaría tanto

681
00:52:25,935 --> 00:52:30,940
como 250 millones de dólares, y que esto
todo el esfuerzo proporcionaría

682
00:52:32,321 --> 00:52:34,323
Google con defensa especial
Certificación del departamento para realizar

683
00:52:34,323 --> 00:52:37,119
Están disponibles incluso para
contratos de defensa más grandes,

684
00:52:37,119 --> 00:52:38,810
algunos valen tanto
como 10 mil millones de dólares.

685
00:52:50,167 --> 00:52:54,205
La presión para que Google
competir por contratos militares

686
00:52:54,205 --> 00:52:56,380
ha llegado en un momento
cuando sus competidores

687
00:52:56,380 --> 00:52:58,175
también están cambiando su cultura.

688
00:53:00,246 --> 00:53:04,422
Amazon, lanzando de manera similar el
militares y policiales.

689
00:53:04,422 --> 00:53:06,459
IBM y otras empresas líderes,

690
00:53:06,459 --> 00:53:09,289
están lanzando la ley
aplicación de la ley y militares.

691
00:53:10,704 --> 00:53:13,845
Para seguir siendo competitivo, Google
se ha transformado lentamente.

692
00:53:19,541 --> 00:53:23,269
- La ciencia de la defensa
Junta dijo de todos los

693
00:53:23,269 --> 00:53:26,548
avances tecnológicos que
están sucediendo ahora mismo,

694
00:53:26,548 --> 00:53:30,828
lo más importante
era inteligencia artificial

695
00:53:30,828 --> 00:53:35,177
y las operaciones autónomas
que conduciría.

696
00:53:35,177 --> 00:53:36,730
¿Estamos invirtiendo lo suficiente?

697
00:53:42,219 --> 00:53:45,670
- Una vez que desarrollemos
lo que se conoce como

698
00:53:45,670 --> 00:53:50,227
letal autónomo
armas, en otras palabras,

699
00:53:50,227 --> 00:53:53,195
armas que no son
controlado en absoluto,

700
00:53:53,195 --> 00:53:55,922
son genuinamente autónomos,

701
00:53:55,922 --> 00:53:58,165
sólo tienes que conseguir
un presidente que dice,

702
00:53:58,165 --> 00:54:00,858
"Al diablo con la internacional
ley, tenemos estas armas.

703
00:54:00,858 --> 00:54:03,136
vamos a hacer lo que
queremos con ellos."

704
00:54:06,933 --> 00:54:08,314
- Estamos muy cerca.

705
00:54:08,314 --> 00:54:10,557
Cuando tienes el
hardware ya configurado

706
00:54:10,557 --> 00:54:12,904
y todo lo que tienes que hacer
hacer es accionar un interruptor

707
00:54:12,904 --> 00:54:14,734
para hacerlo completamente autónomo,

708
00:54:14,734 --> 00:54:17,357
¿Qué hay ahí?
¿te impide hacer eso?

709
00:54:19,186 --> 00:54:21,603
hay algo
realmente hay que temer

710
00:54:21,603 --> 00:54:23,432
en la guerra a la velocidad de una máquina.

711
00:54:24,640 --> 00:54:26,332
¿Qué pasa si eres una máquina?
y has corrido millones

712
00:54:26,332 --> 00:54:28,748
y millones de
diferentes escenarios de guerra

713
00:54:28,748 --> 00:54:30,439
y tienes un equipo de drones

714
00:54:30,439 --> 00:54:32,441
y has delegado
controlar a la mitad de ellos,

715
00:54:32,441 --> 00:54:34,340
y estas colaborando
en tiempo real?

716
00:54:35,513 --> 00:54:37,653
¿Qué pasa cuando
ese enjambre de drones

717
00:54:37,653 --> 00:54:40,035
¿Tiene la tarea de involucrar a una ciudad?

718
00:54:41,864 --> 00:54:44,281
¿Cómo lo tomarán?
sobre esa ciudad?

719
00:54:44,281 --> 00:54:47,180
La respuesta es que no lo haremos.
saber hasta que suceda.

720
00:54:54,429 --> 00:54:58,467
- No queremos un
Sistema de IA para decidir

721
00:54:58,467 --> 00:55:00,538
¿A qué humano atacaría?

722
00:55:00,538 --> 00:55:03,852
pero nos vamos a enfrentar
competidores autoritarios.

723
00:55:03,852 --> 00:55:06,786
Entonces, en mi opinión, una
régimen autoritario

724
00:55:06,786 --> 00:55:10,065
tendra menos problema
delegar autoridad

725
00:55:10,065 --> 00:55:12,585
a una máquina para hacer
decisiones letales.

726
00:55:13,758 --> 00:55:17,797
Entonces, ¿cómo se desarrolla eso?
Queda por ver.

727
00:55:41,648 --> 00:55:45,342
- Casi el regalo de la IA ahora
es que nos obligará

728
00:55:45,342 --> 00:55:48,793
colectivamente para pensar
a un nivel muy básico,

729
00:55:48,793 --> 00:55:50,657
¿Qué significa ser humano?

730
00:55:53,039 --> 00:55:54,903
¿Qué hago como ser humano mejor?

731
00:55:54,903 --> 00:55:57,354
que cierto súper
¿Qué puede hacer una máquina inteligente?

732
00:56:00,667 --> 00:56:05,362
Primero, creamos nuestra tecnología.
y luego nos recrea.

733
00:56:05,362 --> 00:56:09,987
Necesitamos asegurarnos de que
no te pierdas algunas de las cosas

734
00:56:09,987 --> 00:56:11,782
que nos hacen tan hermosos humanos.

735
00:56:16,027 --> 00:56:18,754
- Una vez que construimos
máquinas inteligentes,

736
00:56:18,754 --> 00:56:21,274
el vocabulario filosófico
tenemos disponible para pensar

737
00:56:21,274 --> 00:56:25,036
sobre nosotros mismos como humanos
nos falla cada vez más.

738
00:56:27,522 --> 00:56:30,352
Si te pido que escribas un
lista de todos los términos que tienes

739
00:56:30,352 --> 00:56:33,355
disponible para describir
tú mismo como humano,

740
00:56:33,355 --> 00:56:35,461
no hay tantos términos.

741
00:56:35,461 --> 00:56:40,466
Cultura, historia, socialidad,
tal vez la política, la civilización,

742
00:56:43,261 --> 00:56:48,266
subjetividad, todas estas
términos molidos en dos posiciones

743
00:56:50,096 --> 00:56:52,029
que los humanos somos más
que simples animales

744
00:56:53,410 --> 00:56:56,413
y que los humanos somos
más que meras máquinas.

745
00:56:59,623 --> 00:57:03,592
Pero si las máquinas realmente
Creo que hay un conjunto grande

746
00:57:03,592 --> 00:57:07,872
de preguntas filosóficas clave
en el que lo que está en juego es:

747
00:57:09,253 --> 00:57:10,185
¿Quiénes somos?

748
00:57:10,185 --> 00:57:11,497
¿Cuál es nuestro lugar en el mundo?

749
00:57:11,497 --> 00:57:12,394
¿Qué es el mundo?

750
00:57:12,394 --> 00:57:13,568
¿Cómo está estructurado?

751
00:57:13,568 --> 00:57:16,536
¿Las categorías que
hemos confiado,

752
00:57:16,536 --> 00:57:17,986
¿todavía funcionan?

753
00:57:17,986 --> 00:57:19,436
¿Se equivocaron?

754
00:57:23,888 --> 00:57:26,615
- Mucha gente piensa
de la inteligencia como
algo misterioso

755
00:57:26,615 --> 00:57:30,550
que sólo puede existir dentro de
organismos biológicos, como nosotros,

756
00:57:30,550 --> 00:57:33,553
pero la inteligencia lo es todo
sobre el procesamiento de la información.

757
00:57:34,968 --> 00:57:36,453
No importa si
la inteligencia se procesa

758
00:57:36,453 --> 00:57:40,318
por átomos de carbono dentro de
células y cerebros, y personas,

759
00:57:40,318 --> 00:57:42,424
o por silicio
átomos en las computadoras.

760
00:57:45,047 --> 00:57:47,671
Parte del éxito de
La IA ha llegado recientemente

761
00:57:47,671 --> 00:57:51,951
de robar genial
ideas de la evolución.

762
00:57:51,951 --> 00:57:53,470
Notamos que el
cerebro, por ejemplo,

763
00:57:53,470 --> 00:57:57,335
tiene todas estas neuronas dentro
conectados de maneras complicadas.

764
00:57:57,335 --> 00:58:00,062
Así que robamos esa idea.
y lo abstrajo

765
00:58:00,062 --> 00:58:02,686
en neuronas artificiales
redes en computadoras,

766
00:58:04,204 --> 00:58:07,138
y eso es lo que
ha revolucionado
inteligencia de la máquina.

767
00:58:12,005 --> 00:58:14,629
Si algún día nos volvemos artificiales
inteligencia general,

768
00:58:14,629 --> 00:58:18,667
entonces, por definición, la IA puede
también hacer mejor el trabajo de la IA

769
00:58:18,667 --> 00:58:23,258
programación y eso significa
que se siga avanzando en la realización

770
00:58:23,258 --> 00:58:27,331
La IA no estará dominada por
programadores humanos, sino por IA.

771
00:58:30,196 --> 00:58:33,440
IA recursivamente automejorada
podría dejar la inteligencia humana

772
00:58:33,440 --> 00:58:37,341
muy atrás, creando
súper inteligencia.

773
00:58:39,343 --> 00:58:42,346
va a ser el ultimo
invento que alguna vez necesitamos hacer,

774
00:58:42,346 --> 00:58:44,900
porque entonces puede
inventar todo lo demás

775
00:58:44,900 --> 00:58:46,384
mucho más rápido de lo que podríamos.

776
00:59:58,456 --> 01:00:03,427
- Hay un futuro que
todos necesitamos hablar.

777
01:00:04,842 --> 01:00:06,775
Algunos de los fundamentales
preguntas sobre el futuro

778
01:00:06,775 --> 01:00:10,641
de inteligencia artificial,
no sólo hacia dónde va,

779
01:00:10,641 --> 01:00:14,024
pero lo que significa para
sociedad para ir allí.

780
01:00:15,370 --> 01:00:19,029
No es lo que las computadoras pueden hacer,

781
01:00:19,029 --> 01:00:21,997
sino lo que deberían hacer las computadoras.

782
01:00:21,997 --> 01:00:25,345
Como la generación de
gente que está trayendo IA

783
01:00:25,345 --> 01:00:26,657
al futuro,

784
01:00:26,657 --> 01:00:28,763
somos la generacion

785
01:00:28,763 --> 01:00:32,387
eso responderá a esto
pregunta ante todo.

786
01:00:38,980 --> 01:00:41,638
- No hemos creado
el nivel humano
máquina de pensar todavía,

787
01:00:41,638 --> 01:00:43,812
pero nos acercamos cada vez más.

788
01:00:45,572 --> 01:00:49,231
Tal vez lleguemos al nivel humano.
IA dentro de cinco años

789
01:00:49,231 --> 01:00:51,544
o tal vez sean necesarios 50
o dentro de 100 años.

790
01:00:51,544 --> 01:00:53,201
Casi no importa.

791
01:00:53,201 --> 01:00:55,997
como estos son todos
muy, muy pronto,

792
01:00:55,997 --> 01:01:00,657
en términos generales
historia de la humanidad.

793
01:01:05,662 --> 01:01:06,870
Muy lindo.

794
01:01:20,090 --> 01:01:23,714
Entonces, el campo de la IA es
extremadamente internacional.

795
01:01:23,714 --> 01:01:28,201
China está en ascenso y
está empezando a rivalizar con Estados Unidos,

796
01:01:28,201 --> 01:01:31,308
Europa y Japón en
términos de poner mucho

797
01:01:31,308 --> 01:01:34,173
del poder de procesamiento detrás de la IA

798
01:01:34,173 --> 01:01:37,555
y reuniendo un montón de
datos para ayudar a la IA a aprender.

799
01:01:40,386 --> 01:01:44,942
Tenemos una generación joven.
de los investigadores chinos ahora.

800
01:01:44,942 --> 01:01:46,841
nadie sabe donde
la próxima revolución

801
01:01:46,841 --> 01:01:48,049
va a venir de.

802
01:01:54,711 --> 01:01:58,611
- China siempre quiso convertirse en
la superpotencia del mundo.

803
01:02:00,820 --> 01:02:01,752
El gobierno chino cree que la IA

804
01:02:01,752 --> 01:02:03,202
les dio la oportunidad de convertirse

805
01:02:03,202 --> 01:02:08,207
uno de los más avanzados
En cuanto a tecnología, en cuanto a negocios.

806
01:02:09,070 --> 01:02:10,692
Así es como el gobierno chino mira

807
01:02:10,692 --> 01:02:11,969
en esto como una gran oportunidad.

808
01:02:13,557 --> 01:02:18,113
Como si hubieran levantado una bandera y
dijo: "Ese es un buen campo".

809
01:02:18,113 --> 01:02:20,702
Las empresas deberían
salta a ello."

810
01:02:20,702 --> 01:02:22,600
Entonces el comercial de China
El mundo y las empresas dicen:

811
01:02:22,600 --> 01:02:25,189
"Está bien, el gobierno
Levantó una bandera, eso es bueno.

812
01:02:25,189 --> 01:02:26,639
Pongamos el dinero en ello".

813
01:02:28,261 --> 01:02:30,298
Los gigantes tecnológicos chinos, como Baidu,

814
01:02:30,298 --> 01:02:32,507
como Tencent y como AliBaba,

815
01:02:32,507 --> 01:02:36,200
ponen mucho de
inversión en el campo de la IA.

816
01:02:37,823 --> 01:02:41,240
Entonces vemos que la IA de China
el desarrollo está en auge.

817
01:02:47,798 --> 01:02:51,768
- En China, todo el mundo tiene
Alipay y WeChat pagan,

818
01:02:51,768 --> 01:02:53,770
por eso el pago móvil está en todas partes.

819
01:02:55,254 --> 01:02:58,947
Y con eso pueden
hacer muchos análisis de IA

820
01:02:58,947 --> 01:03:03,676
para saber como tus gastos
hábitos, su calificación crediticia.

821
01:03:05,540 --> 01:03:10,476
Tecnología de reconocimiento facial
es ampliamente adoptado en China,

822
01:03:10,476 --> 01:03:12,443
en aeropuertos y estaciones de tren.

823
01:03:13,617 --> 01:03:15,930
Entonces, en el futuro, tal vez
en tan solo unos meses,

824
01:03:15,930 --> 01:03:19,519
no necesitas un papel
billete para abordar un tren.

825
01:03:19,519 --> 01:03:20,417
Sólo tu cara.

826
01:03:29,012 --> 01:03:32,670
- Generamos el
la plataforma más grande del mundo

827
01:03:32,670 --> 01:03:34,051
de reconocimiento facial.

828
01:03:35,639 --> 01:03:40,678
Contamos con 300.000 desarrolladores
utilizando nuestra plataforma.

829
01:03:42,749 --> 01:03:45,925
mucho de eso es
aplicaciones de cámara para selfies.

830
01:03:45,925 --> 01:03:48,341
te hace ver
más hermoso.

831
01:03:50,965 --> 01:03:54,175
Hay millones y millones
de cámaras en el mundo,

832
01:03:55,555 --> 01:03:59,249
cada cámara desde mi punto
es un generador de datos.

833
01:04:03,149 --> 01:04:06,843
En el ojo de una máquina, tu cara
cambiará a las características

834
01:04:06,843 --> 01:04:10,985
y te volverá la cara
en un párrafo de código.

835
01:04:12,434 --> 01:04:16,335
Para que podamos detectar cuántos años tienes
son, si eres hombre o mujer,

836
01:04:16,335 --> 01:04:17,819
y tus emociones.

837
01:04:21,547 --> 01:04:25,137
Ir de compras se trata de qué tipo
de lo que estás mirando.

838
01:04:25,137 --> 01:04:28,761
Podemos rastrear tus globos oculares,
entonces si te estás concentrando

839
01:04:28,761 --> 01:04:30,038
en algún producto,

840
01:04:30,038 --> 01:04:33,007
podemos rastrear eso
para que podamos saber

841
01:04:33,007 --> 01:04:36,389
¿Qué tipo de personas les gusta?
qué tipo de producto.

842
01:05:50,360 --> 01:05:52,396
- El gobierno chino
está usando múltiples

843
01:05:52,396 --> 01:05:55,192
diferentes tipos de
tecnologías, ya sea IA,

844
01:05:55,192 --> 01:05:58,023
ya sea big data
plataformas, reconocimiento facial,

845
01:05:58,023 --> 01:06:01,371
reconocimiento de voz,
esencialmente para monitorear

846
01:06:01,371 --> 01:06:03,131
lo que está haciendo la población.

847
01:06:06,203 --> 01:06:08,585
creo que los chinos
El gobierno ha dejado muy claro

848
01:06:08,585 --> 01:06:13,590
su intención de reunir masivamente
cantidades de datos sobre personas

849
01:06:14,763 --> 01:06:17,490
diseñar socialmente un
sociedad libre de disidencia.

850
01:06:20,355 --> 01:06:23,393
La lógica detrás de la
del gobierno chino

851
01:06:23,393 --> 01:06:27,121
sistema de crédito social,
es tomar la idea de que

852
01:06:27,121 --> 01:06:32,126
si eres credito
digno de un préstamo financiero

853
01:06:33,541 --> 01:06:36,199
y añadiéndole un muy
dimensión política para decir,

854
01:06:36,199 --> 01:06:38,649
"¿Es usted una persona confiable
ser humano?

855
01:06:40,997 --> 01:06:42,481
Lo que has dicho en línea,

856
01:06:42,481 --> 01:06:44,655
¿Alguna vez has sido crítico?
de las autoridades?

857
01:06:44,655 --> 01:06:46,312
¿Tiene antecedentes penales?".

858
01:06:48,073 --> 01:06:51,697
Y toda esa información es
empaquetados juntos para calificar

859
01:06:51,697 --> 01:06:56,219
usted de manera que si tiene
tuvo un buen desempeño en su opinión,

860
01:06:56,219 --> 01:06:58,842
lo tendrás más fácil
acceso a ciertos tipos

861
01:06:58,842 --> 01:07:00,809
de servicios o beneficios estatales.

862
01:07:02,087 --> 01:07:04,020
Pero si no lo has hecho
hecho muy bien,

863
01:07:04,020 --> 01:07:06,263
tu vas a ser
penalizado o restringido.

864
01:07:10,267 --> 01:07:13,374
No hay manera de que la gente
desafiar esas designaciones

865
01:07:13,374 --> 01:07:14,858
o, en algunos casos,

866
01:07:14,858 --> 01:07:16,446
Incluso sé que tienen
sido puesto en esa categoría,

867
01:07:16,446 --> 01:07:19,725
y no es hasta que ellos
intenta acceder a algún tipo

868
01:07:19,725 --> 01:07:22,314
del servicio estatal o
comprar un billete de avión,

869
01:07:22,314 --> 01:07:24,799
u obtener un pasaporte, o
inscribir a su hijo en la escuela,

870
01:07:24,799 --> 01:07:27,250
que vengan a aprender
que han sido etiquetados

871
01:07:27,250 --> 01:07:28,458
de esta manera,

872
01:07:28,458 --> 01:07:30,598
y que hay
consecuencias negativas

873
01:07:30,598 --> 01:07:31,909
para ellos como resultado.

874
01:07:49,341 --> 01:07:53,069
Hemos pasado la mejor parte
de los últimos uno o dos años

875
01:07:53,069 --> 01:07:57,521
mirando los abusos
de vigilancia
tecnología en toda China,

876
01:07:57,521 --> 01:08:00,490
y mucho de ese trabajo
nos ha llevado a Xinjiang,

877
01:08:01,870 --> 01:08:05,529
la región noroeste de
China que tiene más de la mitad

878
01:08:05,529 --> 01:08:09,947
población de musulmanes turcos,
uigures, kazajos y hui.

879
01:08:12,847 --> 01:08:15,298
Esta es una región
y una población la
gobierno chino

880
01:08:15,298 --> 01:08:19,164
ha considerado durante mucho tiempo ser
políticamente sospechoso o desleal.

881
01:08:21,925 --> 01:08:24,514
Vinimos a buscar información.
sobre como se llama

882
01:08:24,514 --> 01:08:27,482
la Junta Integrada
plataforma de operaciones,

883
01:08:27,482 --> 01:08:31,521
que es una vigilancia predictiva
programa y ese es uno

884
01:08:31,521 --> 01:08:35,007
de los programas que se han realizado
escupiendo listas de nombres

885
01:08:35,007 --> 01:08:37,906
de personas a ser sometidas
a la reeducación política.

886
01:08:43,395 --> 01:08:47,123
Varios de nuestros entrevistados
por el informe que acabamos de publicar

887
01:08:47,123 --> 01:08:50,471
sobre la educación política
campamentos en Xinjiang solo

888
01:08:50,471 --> 01:08:54,751
pintó un extraordinario
retrato de un
estado de vigilancia.

889
01:08:57,857 --> 01:09:00,722
Una región inundada de
camaras de vigilancia

890
01:09:00,722 --> 01:09:04,899
para fines de reconocimiento facial,
puestos de control, escáneres corporales,

891
01:09:04,899 --> 01:09:08,316
Códigos QR fuera de los hogares de las personas.

892
01:09:09,973 --> 01:09:13,873
Sí, realmente es el
cosas de peliculas distopicas

893
01:09:13,873 --> 01:09:15,323
que todos nos hemos ido
a y pensamiento,

894
01:09:15,323 --> 01:09:17,463
"Vaya, eso sería un
mundo espeluznante en el que vivir."

895
01:09:17,463 --> 01:09:20,811
Sí, bueno, 13 millones.
Musulmanes turcos en China

896
01:09:20,811 --> 01:09:22,917
están viviendo en eso
realidad ahora mismo.

897
01:09:35,171 --> 01:09:37,414
- Los informes de Intercepción
que Google planea

898
01:09:37,414 --> 01:09:40,797
lanzar una versión censurada de
su motor de búsqueda en China.

899
01:09:40,797 --> 01:09:43,075
- la búsqueda de Google
para nuevos mercados lo lidera

900
01:09:43,075 --> 01:09:46,492
a China, a pesar de la decisión de Beijing
normas sobre censura.

901
01:09:46,492 --> 01:09:48,391
- Cuéntanos más sobre
por qué sentiste que era

902
01:09:48,391 --> 01:09:50,979
tu ético
responsabilidad de renunciar,

903
01:09:50,979 --> 01:09:52,429
porque hablas
sobre ser cómplice

904
01:09:52,429 --> 01:09:55,398
en censura y
opresión y vigilancia.

905
01:09:55,398 --> 01:09:58,539
- Hay una empresa china.
empresa que tiene que ser

906
01:09:58,539 --> 01:10:00,575
configurar para google
para operar en China.

907
01:10:00,575 --> 01:10:03,233
Y la pregunta es, ¿a qué?
¿Hasta qué punto llegaron a controlar?

908
01:10:03,233 --> 01:10:06,305
la lista negra y a qué
grado ¿habrían simplemente

909
01:10:06,305 --> 01:10:09,584
acceso sin restricciones a
¿vigilar a los ciudadanos chinos?

910
01:10:09,584 --> 01:10:11,862
Y el hecho de que Google
se niega a responder

911
01:10:11,862 --> 01:10:13,623
a los derechos humanos
organizaciones sobre esto,

912
01:10:13,623 --> 01:10:16,488
Creo que debería ser extremadamente
perturbador para todos.

913
01:10:21,009 --> 01:10:22,735
Debido a mi convicción
ese disenso

914
01:10:22,735 --> 01:10:25,117
es fundamental para
democracias que funcionan

915
01:10:25,117 --> 01:10:27,878
y obligado a dimitir en
para evitar contribuir

916
01:10:27,878 --> 01:10:29,949
o beneficiarse de la erosión

917
01:10:29,949 --> 01:10:31,675
de protecciones para los disidentes.

918
01:10:33,263 --> 01:10:35,300
Las Naciones Unidas están actualmente
informando que entre

919
01:10:35,300 --> 01:10:38,613
200.000 y un millón
Los uigures han sido desaparecidos

920
01:10:38,613 --> 01:10:40,960
en campos de reeducación.

921
01:10:40,960 --> 01:10:42,307
Y hay un argumento serio.

922
01:10:42,307 --> 01:10:43,894
que Google sería cómplice

923
01:10:43,894 --> 01:10:46,483
¿Debería lanzar una vigilancia?
Versión de búsqueda en China.

924
01:10:49,590 --> 01:10:54,560
Dragonfly es un proyecto destinado
para iniciar la búsqueda en China bajo

925
01:10:55,941 --> 01:11:00,256
regulaciones del gobierno chino,
que incluyen la censura

926
01:11:00,256 --> 01:11:03,845
contenido sensible, básico
consultas sobre derechos humanos,

927
01:11:03,845 --> 01:11:07,539
informacion sobre politica
los representantes están bloqueados,

928
01:11:07,539 --> 01:11:11,405
información sobre el estudiante
Las protestas están bloqueadas.

929
01:11:11,405 --> 01:11:13,510
Y esa es una pequeña parte.

930
01:11:13,510 --> 01:11:16,410
Quizás una preocupación más profunda sea
el lado de la vigilancia de esto.

931
01:11:20,414 --> 01:11:22,174
Cuando levanté el
problema con mis gerentes,

932
01:11:22,174 --> 01:11:24,107
con mis compañeros,

933
01:11:24,107 --> 01:11:26,212
había mucha preocupación,
pero todos acaban de decir,

934
01:11:26,212 --> 01:11:27,386
"No sé nada".

935
01:11:32,149 --> 01:11:34,566
Y luego cuando hay
Finalmente fue una reunión,

936
01:11:34,566 --> 01:11:36,913
había esencialmente
sin direccionamiento

937
01:11:36,913 --> 01:11:39,018
las serias preocupaciones
asociado con él.

938
01:11:41,366 --> 01:11:44,230
Entonces presenté mi
renuncia formal,

939
01:11:44,230 --> 01:11:45,611
no sólo a mi gerente,

940
01:11:45,611 --> 01:11:47,337
pero en realidad distribuí
en toda la empresa.

941
01:11:47,337 --> 01:11:49,615
Y esa es la carta
que estaba leyendo.

942
01:11:54,793 --> 01:11:57,347
Personalmente, yo
no he dormido bien.

943
01:11:57,347 --> 01:12:00,316
he tenido bastante
horribles dolores de cabeza,

944
01:12:00,316 --> 01:12:02,835
despertar en medio de
la noche simplemente sudando.

945
01:12:04,975 --> 01:12:07,668
Dicho esto, lo que yo
encontrado desde que habló

946
01:12:07,668 --> 01:12:12,293
Así de positivo es el panorama mundial.
La respuesta a esto ha sido.

947
01:12:14,675 --> 01:12:17,954
Los ingenieros deben exigir
para saber cuales son los usos

948
01:12:17,954 --> 01:12:20,232
de sus técnicas
las contribuciones son

949
01:12:20,232 --> 01:12:23,235
y sentarse a la mesa
en esas decisiones éticas.

950
01:12:31,381 --> 01:12:33,935
La mayoría de los ciudadanos realmente no
entender lo que significa ser

951
01:12:33,935 --> 01:12:36,352
en una escala muy grande
tecnología prescriptiva.

952
01:12:38,112 --> 01:12:40,701
donde alguien ya ha
predividido el trabajo

953
01:12:40,701 --> 01:12:42,634
y todo lo que sabes sobre
es tu pedacito,

954
01:12:42,634 --> 01:12:45,499
y casi seguro que no
entender cómo encaja.

955
01:12:49,019 --> 01:12:51,401
entonces creo que vale la pena
dibujando la analogía

956
01:12:51,401 --> 01:12:55,440
al trabajo de los físicos
sobre la bomba atómica.

957
01:12:58,304 --> 01:13:00,928
De hecho, eso es en realidad
la comunidad de la que salí.

958
01:13:03,551 --> 01:13:05,588
Yo no era nuclear
científico por cualquier medio,

959
01:13:05,588 --> 01:13:07,313
pero yo era un aplicado
matemático

960
01:13:08,763 --> 01:13:11,145
y mi programa de doctorado
en realidad fue financiado

961
01:13:11,145 --> 01:13:13,734
formar personas para
trabajar en laboratorios de armas.

962
01:13:17,323 --> 01:13:18,532
Ciertamente se podría argumentar

963
01:13:18,532 --> 01:13:21,293
que hay un
amenaza existencial

964
01:13:22,708 --> 01:13:25,677
y quienquiera que esté liderando
La IA liderará militarmente.

965
01:13:35,756 --> 01:13:38,621
- China espera plenamente
pasar los estados unidos

966
01:13:38,621 --> 01:13:41,831
como la economía número uno en
el mundo y cree que

967
01:13:41,831 --> 01:13:46,836
La IA hará que ese salto sea más
rápida y dramáticamente.

968
01:13:48,285 --> 01:13:50,840
Y también lo ven como
ser capaz de saltar

969
01:13:50,840 --> 01:13:54,947
los Estados Unidos en
términos de poder militar.

970
01:14:01,920 --> 01:14:03,922
Su plan es muy simple.

971
01:14:03,922 --> 01:14:05,337
queremos atrapar
los estados unidos

972
01:14:05,337 --> 01:14:07,960
y estas tecnologías para 2020,

973
01:14:07,960 --> 01:14:09,617
queremos superar
los estados unidos

974
01:14:09,617 --> 01:14:12,240
en estas tecnologías para 2025,

975
01:14:12,240 --> 01:14:13,552
y queremos ser
el líder mundial

976
01:14:13,552 --> 01:14:16,935
en IA y autónomo
tecnologías para 2030.

977
01:14:19,455 --> 01:14:21,215
Es un plan nacional.

978
01:14:21,215 --> 01:14:26,151
Está respaldado por al menos
150 mil millones de dólares en inversiones.

979
01:14:26,151 --> 01:14:29,119
Entonces, esta es definitivamente una carrera.

980
01:14:54,455 --> 01:14:56,043
- La IA es un poco como el fuego.

981
01:14:57,734 --> 01:15:00,599
el fuego fue inventado
Hace 700.000 años,

982
01:15:01,773 --> 01:15:03,913
y tiene sus pros y sus contras.

983
01:15:06,294 --> 01:15:09,470
La gente se dio cuenta de que puedes
Usa el fuego para mantenerte caliente.

984
01:15:09,470 --> 01:15:10,885
por la noche y a cocinar,

985
01:15:12,818 --> 01:15:14,233
pero también se dieron cuenta

986
01:15:14,233 --> 01:15:18,306
que puedes matar
otras personas con eso.

987
01:15:24,209 --> 01:15:28,627
El fuego también tiene esto.
Calidad de crecimiento similar a la de la IA

988
01:15:28,627 --> 01:15:31,734
en un incendio forestal sin
más ruido humano,

989
01:15:34,875 --> 01:15:39,880
pero las ventajas superan
las desventajas por mucho

990
01:15:41,053 --> 01:15:43,608
que no vamos
para detener su desarrollo.

991
01:15:53,859 --> 01:15:55,551
Europa está despertando.

992
01:15:56,724 --> 01:16:00,521
Muchas empresas en
Europa se está dando cuenta

993
01:16:00,521 --> 01:16:02,730
que la próxima ola de IA

994
01:16:02,730 --> 01:16:05,871
será mucho más grande
que la ola actual.

995
01:16:07,597 --> 01:16:12,360
La próxima ola de IA
será sobre robots.

996
01:16:14,121 --> 01:16:19,126
Todas estas máquinas que hacen
cosas, que producen cosas,

997
01:16:20,506 --> 01:16:23,648
que construyen otras máquinas,
se volverán inteligentes.

998
01:16:31,241 --> 01:16:34,313
En el no tan lejano
En el futuro tendremos robots.

999
01:16:34,313 --> 01:16:37,593
que podemos enseñar
como enseñamos a los niños.

1000
01:16:39,974 --> 01:16:43,012
Por ejemplo, hablaré con un
pequeño robot y diré,

1001
01:16:44,358 --> 01:16:46,981
"Mira aquí, robot, mira aquí.

1002
01:16:46,981 --> 01:16:49,052
Montemos un teléfono inteligente.

1003
01:16:49,052 --> 01:16:50,951
Tomamos esta losa
de plastico asi

1004
01:16:50,951 --> 01:16:53,160
y tomamos un
destornillador como ese,

1005
01:16:53,160 --> 01:16:56,750
y ahora nos atornillamos
todo así.

1006
01:16:56,750 --> 01:16:58,752
No, no, así no.

1007
01:16:58,752 --> 01:17:01,962
Así, mira, robot,
mira, así."

1008
01:17:03,411 --> 01:17:06,173
Y fallará un par
de veces pero bastante rápido,

1009
01:17:06,173 --> 01:17:09,176
él aprenderá a hacer el
lo mismo mucho mejor

1010
01:17:09,176 --> 01:17:10,764
de lo que podría hacerlo.

1011
01:17:10,764 --> 01:17:14,353
Y luego detenemos el aprendizaje.
y hacemos un millón de copias,

1012
01:17:14,353 --> 01:17:15,423
y venderlo.

1013
01:17:36,686 --> 01:17:40,103
Regulación de los sonidos de la IA
como una idea atractiva,

1014
01:17:40,103 --> 01:17:42,243
pero no creo que sea posible.

1015
01:17:44,625 --> 01:17:47,041
Una de las razones
por qué no funcionará es

1016
01:17:47,041 --> 01:17:50,700
la pura curiosidad
de científicos.

1017
01:17:51,874 --> 01:17:53,910
No dan un
Maldita sea por la regulación.

1018
01:17:56,982 --> 01:18:01,055
Los poderes militares no darán una
Maldita sea por las regulaciones, tampoco.

1019
01:18:01,055 --> 01:18:03,609
Dirán: "Si nosotros,
los americanos no lo hacen

1020
01:18:03,609 --> 01:18:05,232
Entonces los chinos lo harán".

1021
01:18:05,232 --> 01:18:07,544
Y los chinos lo harán
decir: "Si no lo hacemos,

1022
01:18:07,544 --> 01:18:09,029
Entonces los rusos lo harán."

1023
01:18:11,963 --> 01:18:15,207
No importa qué tipo de política
la regulación está ahí fuera,

1024
01:18:15,207 --> 01:18:18,970
todos estos militares
complejos industriales,

1025
01:18:18,970 --> 01:18:21,800
casi lo harán
La definición tiene que ignorar eso.

1026
01:18:23,077 --> 01:18:25,183
porque quieren
Evite quedarse atrás.

1027
01:18:37,505 --> 01:18:40,474
- Un programa desarrollado por
la empresa OpenAI puede escribir

1028
01:18:40,474 --> 01:18:43,788
historias coherentes y creíbles
al igual que los seres humanos.

1029
01:18:43,788 --> 01:18:45,824
- es uno
pequeño paso para la máquina,

1030
01:18:45,824 --> 01:18:48,654
Un gran salto para el tipo de máquina.

1031
01:18:48,654 --> 01:18:51,485
El nuevo artificial de IBM
El sistema de inteligencia asumió

1032
01:18:51,485 --> 01:18:55,903
polemistas humanos experimentados
y ganó un debate en vivo.

1033
01:18:55,903 --> 01:18:58,526
- Generado por computadora
Vídeos conocidos como deep fakes.

1034
01:18:58,526 --> 01:19:02,254
se utilizan para poner a las mujeres
caras en videos pornográficos.

1035
01:19:06,811 --> 01:19:10,746
- Inteligencia artificial
evoluciona a un ritmo muy loco.

1036
01:19:12,299 --> 01:19:14,439
Ya sabes, es como
progresando tan rápido.

1037
01:19:14,439 --> 01:19:17,028
En cierto modo, sólo somos
al principio ahora mismo.

1038
01:19:18,754 --> 01:19:21,687
Tienes tanto potencial
aplicaciones, es una mina de oro.

1039
01:19:23,931 --> 01:19:27,763
Desde 2012, cuando el aprendizaje profundo
se convirtió en un gran cambio de juego

1040
01:19:27,763 --> 01:19:29,661
en la computadora
comunidad de visión,

1041
01:19:29,661 --> 01:19:33,044
Fuimos uno de los primeros en
realmente adoptar el aprendizaje profundo

1042
01:19:33,044 --> 01:19:35,425
y aplicarlo en el campo
de gráficos por computadora.

1043
01:19:38,946 --> 01:19:41,846
Gran parte de nuestra investigación
está financiado por el gobierno,

1044
01:19:41,846 --> 01:19:44,124
agencias de inteligencia militar.

1045
01:19:48,300 --> 01:19:52,132
La forma en que creamos estos
mapeos fotorrealistas,

1046
01:19:52,132 --> 01:19:54,617
normalmente la forma en que funciona es
que necesitamos dos sujetos,

1047
01:19:54,617 --> 01:19:57,827
una fuente y un destino, y
Puedo hacer un reemplazo de cara.

1048
01:20:03,177 --> 01:20:06,042
Una de las aplicaciones
es, por ejemplo,

1049
01:20:06,042 --> 01:20:08,113
quiero manipular
la cara de alguien

1050
01:20:08,113 --> 01:20:09,632
diciendo cosas que él no dijo.

1051
01:20:13,291 --> 01:20:16,501
Se puede utilizar para creatividad.
cosas, para contenidos divertidos,

1052
01:20:16,501 --> 01:20:20,470
pero obviamente también puede
ser utilizado para simplemente

1053
01:20:20,470 --> 01:20:22,990
manipular vídeos y
generar noticias falsas.

1054
01:20:25,406 --> 01:20:27,512
Esto puede ser muy peligroso.

1055
01:20:29,134 --> 01:20:31,343
Si cae en manos equivocadas,

1056
01:20:31,343 --> 01:20:33,345
puede salir de
controlar muy rápidamente.

1057
01:20:37,729 --> 01:20:40,180
- Estamos entrando en una era
en el que nuestros enemigos pueden

1058
01:20:40,180 --> 01:20:42,389
haz que se parezca a cualquiera
está diciendo cualquier cosa

1059
01:20:42,389 --> 01:20:44,046
en cualquier momento,

1060
01:20:44,046 --> 01:20:46,876
incluso si lo hicieran
Nunca digas esas cosas.

1061
01:20:46,876 --> 01:20:49,085
Para avanzar, necesitamos
estar más atento

1062
01:20:49,085 --> 01:20:51,570
con lo que confiamos
desde Internet.

1063
01:20:51,570 --> 01:20:54,401
Puede parecer básico,
pero como avanzamos

1064
01:20:55,851 --> 01:20:59,613
en la era de la información es
va a ser la diferencia

1065
01:20:59,613 --> 01:21:02,478
entre si sobrevivimos
o si nos convertimos

1066
01:21:02,478 --> 01:21:04,860
Una especie de jodida distopía.

1067
01:22:35,433 --> 01:22:38,056
- Una crítica que
se plantea con frecuencia

1068
01:22:38,056 --> 01:22:41,577
En contra de mi trabajo está decir que,

1069
01:22:41,577 --> 01:22:43,751
"Oye, sabes que hay
fueron ideas estúpidas

1070
01:22:43,751 --> 01:22:47,963
en el pasado como
frenología o fisonomía.

1071
01:22:49,550 --> 01:22:53,692
Había gente reclamando
que puedes leer un personaje

1072
01:22:53,692 --> 01:22:56,385
de una persona simplemente
basado en su cara."

1073
01:22:58,214 --> 01:23:00,320
La gente diría,
"Esto es basura.

1074
01:23:00,320 --> 01:23:05,325
Sabemos que fue apenas
racismo y superstición velados".

1075
01:23:09,985 --> 01:23:13,954
Pero el hecho de que alguien
hizo un reclamo en el pasado

1076
01:23:13,954 --> 01:23:18,959
y traté de apoyar esto
reclamación con razonamiento inválido,

1077
01:23:20,133 --> 01:23:22,721
no lo hace automáticamente
invalidar la reclamación.

1078
01:23:28,072 --> 01:23:30,005
Por supuesto, la gente
debería tener derechos

1079
01:23:30,005 --> 01:23:31,316
a su privacidad cuando se trata

1080
01:23:31,316 --> 01:23:34,595
a la orientación sexual
o opiniones políticas,

1081
01:23:36,666 --> 01:23:38,082
pero también tengo miedo

1082
01:23:38,082 --> 01:23:40,015
que en la actualidad
entorno tecnológico,

1083
01:23:40,015 --> 01:23:41,947
esto es esencialmente imposible.

1084
01:23:46,987 --> 01:23:49,231
La gente debería darse cuenta
no hay vuelta atrás.

1085
01:23:49,231 --> 01:23:52,717
No hay forma de huir
a partir de los algoritmos.

1086
01:23:55,444 --> 01:24:00,035
Cuanto antes aceptemos
lo inevitable y
verdad incómoda

1087
01:24:00,863 --> 01:24:03,659
esa privacidad se ha ido,

1088
01:24:06,041 --> 01:24:09,630
cuanto antes podamos
empieza a pensar en

1089
01:24:09,630 --> 01:24:11,770
cómo asegurarse
que nuestras sociedades

1090
01:24:11,770 --> 01:24:15,774
están listos para el
Edad posterior a la privacidad.

1091
01:24:39,350 --> 01:24:41,559
- Mientras habla de
reconocimiento facial,

1092
01:24:41,559 --> 01:24:45,528
En mis pensamientos profundos, a veces
llegar a la era muy oscura

1093
01:24:47,082 --> 01:24:48,048
de nuestra historia.

1094
01:24:49,877 --> 01:24:53,364
Cuando la gente tuvo
vivir en el sistema,

1095
01:24:53,364 --> 01:24:57,333
donde alguna parte del
la sociedad fue aceptada

1096
01:24:57,333 --> 01:25:01,096
y una parte de la sociedad
fue acusado de muerte.

1097
01:25:05,962 --> 01:25:09,311
¿Qué haría Mengele para
tener tal instrumento

1098
01:25:09,311 --> 01:25:10,139
en sus manos?

1099
01:25:15,317 --> 01:25:19,493
Sería muy rápido y
eficiente para la selección

1100
01:25:22,738 --> 01:25:26,604
y este es el
visión apocalíptica.

1101
01:26:20,175 --> 01:26:24,179
- Entonces, en un futuro próximo,
toda la historia de ti

1102
01:26:24,179 --> 01:26:29,184
existirá en una amplia gama de
bases de datos conectadas de caras,

1103
01:26:30,081 --> 01:26:32,704
Genomas, comportamientos y emociones.

1104
01:26:35,259 --> 01:26:39,642
Entonces tendrás un digital.
avatar de ti mismo en línea,

1105
01:26:39,642 --> 01:26:43,474
que registra lo bien que
estás haciendo como ciudadano,

1106
01:26:43,474 --> 01:26:46,201
¿Qué clase de
relación tienes,

1107
01:26:46,201 --> 01:26:50,205
¿Qué tipo de política?
orientación y
orientación sexual.

1108
01:26:54,347 --> 01:26:58,454
En base a todos esos datos,
esos algoritmos podrán

1109
01:26:58,454 --> 01:27:02,665
manipular tu comportamiento
con extrema precisión,

1110
01:27:02,665 --> 01:27:07,083
cambiando nuestra forma de pensar y
probablemente en el futuro,

1111
01:27:07,083 --> 01:27:08,119
cómo nos sentimos.

1112
01:27:29,968 --> 01:27:33,178
- Las creencias y
deseos de los primeros AGI

1113
01:27:33,178 --> 01:27:34,766
será sumamente importante.

1114
01:27:37,044 --> 01:27:39,254
Entonces, es importante
programarlos correctamente.

1115
01:27:40,496 --> 01:27:42,153
creo que si
esto no se hace,

1116
01:27:43,534 --> 01:27:48,124
entonces la naturaleza de la evolución
de la selección natural favorecerá

1117
01:27:49,505 --> 01:27:51,921
esos sistemas, priorizar su
propia supervivencia por encima de todo.

1118
01:27:56,201 --> 01:27:59,791
no es que vaya
odiar activamente a los humanos

1119
01:27:59,791 --> 01:28:00,827
y querer hacerles daño,

1120
01:28:03,070 --> 01:28:05,659
pero solo va
ser demasiado poderoso

1121
01:28:05,659 --> 01:28:06,833
y creo que es una buena analogía

1122
01:28:06,833 --> 01:28:09,732
sería el camino
los humanos tratan a los animales.

1123
01:28:11,251 --> 01:28:12,356
No es que odiemos a los animales.

1124
01:28:12,356 --> 01:28:13,874
Creo que los humanos aman a los animales.

1125
01:28:13,874 --> 01:28:15,738
y tener un montón de
cariño por ellos,

1126
01:28:16,636 --> 01:28:18,707
pero cuando llegue el momento

1127
01:28:18,707 --> 01:28:21,917
construir una carretera
entre dos ciudades,

1128
01:28:21,917 --> 01:28:24,368
no le estamos preguntando al
animales para pedir permiso.

1129
01:28:24,368 --> 01:28:27,302
Simplemente lo hacemos porque
es importante para nosotros.

1130
01:28:28,648 --> 01:28:30,753
Y creo que por defecto, eso es
el tipo de relación

1131
01:28:30,753 --> 01:28:33,342
eso va a ser entre nosotros

1132
01:28:33,342 --> 01:28:37,242
y AGI que son
verdaderamente autónomo

1133
01:28:37,242 --> 01:28:39,003
y operando en
su propio nombre.

1134
01:28:51,464 --> 01:28:55,675
Si tienes una carrera armamentista
dinámica entre múltiples reyes

1135
01:28:55,675 --> 01:28:57,297
tratando de construir el AGI primero,

1136
01:28:58,471 --> 01:29:00,749
tendrán menos
tiempo para asegurarse

1137
01:29:00,749 --> 01:29:02,302
que el AGI que construyen

1138
01:29:03,165 --> 01:29:04,546
se preocupará profundamente por los humanos.

1139
01:29:07,790 --> 01:29:10,828
Porque como lo imagino
es que hay una avalancha,

1140
01:29:10,828 --> 01:29:13,451
hay una avalancha
del desarrollo de AGI.

1141
01:29:13,451 --> 01:29:16,558
Imagínate que es enorme
fuerza imparable.

1142
01:29:20,078 --> 01:29:23,323
Y creo que es bastante probable
toda la superficie del

1143
01:29:23,323 --> 01:29:26,222
la tierra estaría cubierta de
paneles solares y centros de datos.

1144
01:29:30,330 --> 01:29:32,953
Ante este tipo de preocupaciones,

1145
01:29:32,953 --> 01:29:37,095
será importante que
el AGI se construye de alguna manera

1146
01:29:37,095 --> 01:29:39,857
como una cooperación con
múltiples países.

1147
01:29:42,377 --> 01:29:45,103
El futuro va a ser
Bueno para las IA, independientemente.

1148
01:29:46,553 --> 01:29:49,004
Sería bueno si lo hiciera
ser bueno también para los humanos.

1149
01:30:11,509 --> 01:30:14,926
- ¿Hay muchos
pesaje de responsabilidad
sobre mis hombros?

1150
01:30:14,926 --> 01:30:15,858
No precisamente.

1151
01:30:17,791 --> 01:30:21,070
¿Hubo muchos
responsabilidad sobre los hombros

1152
01:30:21,070 --> 01:30:23,038
de los padres de Einstein?

1153
01:30:24,488 --> 01:30:26,110
Los padres de alguna manera lo obligaron,

1154
01:30:26,110 --> 01:30:29,769
pero no tenían manera de
prediciendo lo que haría,

1155
01:30:29,769 --> 01:30:31,460
y como lo haría
cambiar el mundo.

1156
01:30:32,875 --> 01:30:36,845
Y entonces, realmente no puedes aguantar
hacerlos responsables de eso.

1157
01:31:01,939 --> 01:31:04,528
Entonces, no soy muy
persona centrada en el ser humano.

1158
01:31:06,081 --> 01:31:09,774
Creo que estoy dando un pequeño paso
piedra en la evolución

1159
01:31:09,774 --> 01:31:12,190
del Universo hacia
mayor complejidad.

1160
01:31:15,400 --> 01:31:19,163
Pero también tengo claro que
No soy la corona de la creación

1161
01:31:19,163 --> 01:31:23,616
y que la humanidad en su conjunto
no es la corona de la creación,

1162
01:31:25,480 --> 01:31:27,343
pero estamos poniendo el
escenario para algo

1163
01:31:27,343 --> 01:31:30,485
eso es más grande que
nosotros, que nos trasciende.

1164
01:31:33,004 --> 01:31:35,420
Y luego se irá
ahí fuera de una manera

1165
01:31:35,420 --> 01:31:36,629
donde los humanos no pueden seguir

1166
01:31:36,629 --> 01:31:39,563
y transformar todo
universo, o al menos,

1167
01:31:39,563 --> 01:31:41,565
El universo alcanzable.

1168
01:31:45,845 --> 01:31:50,850
Entonces encuentro belleza y
asombro al verme a mí mismo

1169
01:31:52,023 --> 01:31:53,577
como parte de esto
tema mucho más grandioso.

1170
01:32:18,360 --> 01:32:20,327
- La IA es inevitable.

1171
01:32:21,915 --> 01:32:26,920
Necesitamos asegurarnos de tener
la necesaria regulación humana

1172
01:32:28,404 --> 01:32:32,685
para impedir la militarización
de inteligencia artificial.

1173
01:32:33,893 --> 01:32:36,343
No necesitamos ninguno
más armamento

1174
01:32:36,343 --> 01:32:38,311
de una herramienta tan poderosa.

1175
01:32:41,452 --> 01:32:43,385
- Uno de los más
cosas críticas, creo,

1176
01:32:43,385 --> 01:32:46,284
es la necesidad de
gobernanza internacional.

1177
01:32:48,217 --> 01:32:51,427
Tenemos un desequilibrio de
poder aquí porque ahora

1178
01:32:51,427 --> 01:32:53,498
tenemos corporaciones con
más poder, poder y habilidad,

1179
01:32:53,498 --> 01:32:55,431
que países enteros.

1180
01:32:55,431 --> 01:32:58,400
¿Cómo nos aseguramos?
que las voces de la gente
¿Están siendo escuchados?

1181
01:33:02,059 --> 01:33:03,957
- No puede ser una zona libre de ley.

1182
01:33:03,957 --> 01:33:06,408
No puede ser una zona libre de derechos.

1183
01:33:06,408 --> 01:33:10,170
No podemos aceptar todos estos
maravillosas nuevas tecnologías

1184
01:33:10,170 --> 01:33:14,347
para el siglo XXI sin
tratando de traer con nosotros

1185
01:33:14,347 --> 01:33:19,248
el paquete de derechos humanos
que luchamos tan duro

1186
01:33:19,248 --> 01:33:23,598
lograr, y que
sigue siendo tan frágil.

1187
01:33:32,986 --> 01:33:36,507
- La IA no es buena y
tampoco es malo.

1188
01:33:36,507 --> 01:33:38,958
simplemente va a
amplificar los deseos

1189
01:33:38,958 --> 01:33:40,994
y objetivos de
quien lo controle.

1190
01:33:40,994 --> 01:33:42,789
Y la IA hoy es
bajo el control

1191
01:33:42,789 --> 01:33:45,378
de una muy, muy pequeña
grupo de personas.

1192
01:33:48,761 --> 01:33:50,901
La pregunta más importante
que tenemos los humanos

1193
01:33:50,901 --> 01:33:53,593
preguntarnos en
este punto en la historia

1194
01:33:53,593 --> 01:33:55,906
no requiere conocimientos técnicos.

1195
01:33:55,906 --> 01:33:57,321
es la pregunta

1196
01:33:57,321 --> 01:34:01,394
¿De qué tipo de futuro?
sociedad que queremos crear

1197
01:34:01,394 --> 01:34:03,396
con todo esto
tecnología que estamos haciendo?

1198
01:34:05,640 --> 01:34:09,574
¿Cuál queremos el papel de
¿Los humanos estarán en este mundo?