Original subtitles

Descargado de YTS.MX

Sitio oficial de películas de YIFY: YTS.MX

- La inteligencia es la capacidad de comprender.

Transmitimos lo que sabemos a las máquinas.

- El aumento de inteligencia artificial

está sucediendo rápido, pero algunos temer a la nueva tecnología

puede tener más problemas de los previstos.

- No lo controlaremos.

- Artificialmente los algoritmos inteligentes están aquí,

Pero esto es sólo el comienzo.

- En la era de la IA, Los datos son el nuevo aceite.

- Hoy, Amazon, Google y Facebook

son más ricos y más poderoso que cualquier empresa

que alguna vez ha existido a lo largo de la historia humana.

- Un puñado de personas que trabajan en un puñado de empresas de tecnología

conducir qué mil millones la gente piensa hoy.

- Esta tecnología está cambiando: ¿Qué significa ser humano?

- La inteligencia artificial es simplemente inteligencia no biológica.

Y la inteligencia misma es simplemente la capacidad de lograr metas.

Estoy convencido de que la IA será finalmente o

lo mejor que le ha pasado a la humanidad, o lo peor que haya pasado.

Podemos usarlo para resolver todos de hoy y de mañana

mayores problemas; curar enfermedades, lidiar con el cambio climático,

sacar a todos de la pobreza.

Pero, podríamos usar exactamente la misma tecnología

para crear un brutal global dictadura sin precedentes

vigilancia y desigualdad y sufrimiento.

Por eso esta es la mas importante conversación de nuestro tiempo.

- La inteligencia artificial está en todas partes

porque ahora tenemos máquinas pensantes.

Si va a las redes sociales o en línea,

hay un motor de inteligencia artificial que decide qué recomendar.

Si vas a Facebook y solo estás desplazarse por las publicaciones de sus amigos, -

hay un motor de IA que está seleccionando cual mostrarte primero

- y cuál enterrar.

Si intenta obtener un seguro, hay un motor de IA

tratando de averiguar qué tan arriesgado eres.

Y si solicita un trabajo, es bastante posible

que un motor de inteligencia artificial mira el currículum.

- Estamos hechos de datos.

Cada uno de nosotros está hecho de datos -en términos de cómo nos comportamos,

como hablamos, como amamos, lo que hacemos todos los días.

Entonces, los científicos de la computación desarrollando aprendizaje profundo

algoritmos que pueden aprender identificar, clasificar,

y predecir patrones dentro cantidades masivas de datos.

Estamos ante una forma de vigilancia de precisión,

podría llamarlo vigilancia algorítmica,

y significa que tu no puede pasar desapercibido.

Siempre estás debajo el reloj de los algoritmos.

- Casi toda la IA desarrollo en el planeta hoy

se hace con un puñado de grandes empresas tecnológicas

o por algunos grandes gobiernos.

Si miramos lo que es la IA principalmente desarrollado para,

Yo diria que esta matando espionaje y lavado de cerebro.

Entonces, quiero decir, tenemos IA militar,

tenemos toda una vigilancia aparato en construcción

el uso de IA por parte de los principales gobiernos,

y tenemos una publicidad industria que esta orientada

hacia el reconocimiento de qué anuncios para intentar venderle a alguien.

- Los humanos hemos llegado a una bifurcación en el camino ahora.

La IA que tenemos hoy es muy limitada.

El santo grial de la investigación de la IA desde el principio

es hacer una IA que pueda hacer todo mejor que nosotros,

y básicamente hemos construido un Dios.

Va a revolucionar La vida tal como la conocemos.

Es increiblemente importante dar un paso atrás

y piense detenidamente en esto.

¿Qué tipo de sociedad queremos?

- Entonces, estamos en esto transformación histórica.

Como si estuviéramos criando a esta nueva criatura.

Tenemos una especie de nueva descendencia.

Pero al igual que la descendencia real,

no puedes controlar todo lo que va a hacer.

Estamos viviendo en este momento privilegiado donde,

por primera vez, nosotros probablemente verá que la IA

realmente va a competir humanos en muchos, muchos,

si no todos, campos importantes.

- Todo va a cambiar.

Está surgiendo una nueva forma de vida.

Cuando era niño, pensaba ¿Cómo puedo maximizar mi impacto?

Y luego quedó claro que Tengo que construir algo

que aprende a ser más inteligente que yo,

para que pueda retirarme,

y lo mas inteligente puede mejorar aún más

y resolver todos los problemas que no puedo resolver.

Multiplicando ese diminuto un poco de creatividad

que tengo hasta el infinito,

y eso es lo que ha sido conduciéndome desde entonces.

Como estoy tratando de construir

una inteligencia artificial de propósito general?

Si quieres ser inteligente tienes que reconocer el habla,

video y escritura a mano, y caras, y todo tipo de cosas,

y ahí hemos avanzado mucho.

Ver, LSTM, redes neuronales,

que desarrollamos en nuestros laboratorios en Munich y en Suiza,

y ahora se usa para hablar reconocimiento y traducción,

y reconocimiento de video.

Ahora están en el de todos smartphone, casi mil millones

iPhones y más dos mil millones de teléfonos Android.

Entonces, estamos generando todos tipos de subproductos útiles

camino a la meta general.

El objetivo principal, algo artificial Inteligencia general,

un AGI que puede aprender a mejorar el propio algoritmo de aprendizaje.

Entonces, básicamente puede aprender para mejorar la forma en que aprende

y también puede recursivamente mejorar la forma en que aprende,

la forma en que aprende sin cualquier limitación excepto por

lo básico fundamental limitaciones de computabilidad.

Uno de mis favoritos robots es este de aquí.

Usamos este robot para nuestro estudios de curiosidad artificial.

Donde estamos tratando de enseñar este robot para aprender a sí mismo.

¿Qué está haciendo un bebé?

Un bebé explora con curiosidad su mundo.

Así es como aprende cómo funciona la gravedad.

y cómo se derrumban ciertas cosas, etc.

Y mientras aprende a preguntar preguntas sobre el mundo,

y a medida que aprende a responde estas preguntas,

se vuelve cada vez mas solucionador de problemas generales.

Y entonces, nuestro artificial los sistemas también están aprendiendo

pedir todo tipo de preguntas, no solo servilmente

intenta responder las preguntas dado a ellos por los humanos.

Tienes que darle libertad a la IA para inventar sus propias tareas.

Si no haces eso, no es va a volverse muy inteligente.

Por otro lado, es muy difícil para predecir lo que van a hacer.

- siento esa tecnología es una fuerza de la naturaleza.

Siento que hay mucha similitud entre tecnología y evolución biológica.

Jugar a ser Dios.

Los científicos han sido acusados de jugar a ser Dios por un tiempo,

- pero hay un sentido real en que estamos creando algo

muy diferente a cualquier cosa que hemos creado hasta ahora.

Estaba interesado en el concepto de IA desde una edad relativamente temprana.

En algún momento, obtuve especialmente interesado en el aprendizaje automático.

¿Qué es la experiencia?

¿Qué es aprender?

¿Qué está pensando?

¿Cómo trabaja el cerebro?

Estas preguntas son filosóficas,

pero parece que podemos idear algoritmos que

ambos hacen cosas útiles y ayudan respondamos estas preguntas.

Como si fuera casi una filosofía aplicada.

Inteligencia General Artificial, AGI.

Un sistema informático que puede hacer cualquier trabajo o tarea

que hace un humano, pero solo mejor.

Sí, quiero decir, definitivamente será capaz de crear

completamente autónomo seres con sus propias metas.

Y será muy importante,

especialmente porque estos seres ser mucho más inteligente que los humanos,

va a ser importante tener estos seres,

que las metas de estos seres estar alineados con nuestras metas.

Eso es lo que estamos intentando que hacer en OpenAI.

Estar a la vanguardia de la investigación y dirigir la investigación,

dirigir sus condiciones iniciales así que para maximizar la oportunidad

que el futuro será bueno para los humanos.

Ahora, la IA es una gran cosa porque la IA resolverá

todos los problemas que tenemos hoy.

Resolverá el empleo, solucionará la enfermedad,

solucionará la pobreza,

pero también creará nuevos problemas.

Creo que...

El problema de las noticias falsas va a ser mil,

un millón de veces peor.

Los ciberataques se vuelven mucho más extremos.

Tendrás totalmente armas de IA automatizadas.

Creo que la IA tiene el potencial de crear dictaduras infinitamente estables.

Vas a ver dramáticamente sistemas más inteligentes

en 10 o 15 años a partir de ahora, y creo que es muy probable

que esos sistemas tendrán Impacto completamente astronómico en la sociedad.

¿Se beneficiarán realmente los humanos?

¿Y quién se beneficiará y quién no?

- En 2012, IBM estimó que

una persona promedio es generando 500 megabytes

de huellas digitales todos los días.

Imagina que querias para respaldar el valor de un día

de datos que la humanidad es dejando atrás, sobre papel.

¿Qué altura tendrá la pila? de papel que contiene

solo un día de datos que esta produciendo la humanidad?

Es como de la tierra al sol, cuatro veces más.

En 2025, generaremos 62 gigabytes de datos

por persona, por día.

Estamos dejando un montón de huellas digitales mientras pasamos por nuestras vidas.

Proporcionan algoritmos informáticos con una idea bastante clara de quiénes somos,

lo que queremos, lo que estamos haciendo.

En mi trabajo, miré diferentes tipos de huellas digitales.

Miré los me gusta de Facebook, Miré el lenguaje,

registros de tarjetas de crédito, navegación web historias, registros de búsqueda.

y cada vez que encontré que si obtienes suficiente de estos datos,

puede predecir con precisión el comportamiento futuro

y revelar importantes rasgos íntimos.

Esto se puede utilizar de grandes maneras,

pero también se puede utilizar manipular a la gente.

Facebook ofrece información diaria

a dos mil millones de personas o más.

Si cambia ligeramente el funcionamiento del motor de Facebook,

puedes mover las opiniones y de ahí,

los votos de millones de personas.

- ¡Brexit! - ¿Cuándo lo queremos?

- ¡Ahora!

- Un político no sería capaz de entender

cual mensaje cada uno de a sus votantes les gustaría,

pero una computadora puede ver que mensaje politico

sería particularmente convincente para ti.

- Damas y caballeros,

es mi privilegio hablar para ti hoy sobre el poder

de big data y psicografía en el proceso electoral.

- Datos de Cambridge Analytica

cosechado en secreto el informacion personal

de 50 millones de usuarios desprevenidos de Facebook.

¡ESTADOS UNIDOS!

- La firma de datos contratada por Donald Trump campaña electoral presidencial

utilizó información obtenida en secreto para apuntar directamente a los votantes estadounidenses potenciales.

- Con eso, dicen que pueden predecir

la personalidad de cada uno adulto en los Estados Unidos.

- esta noche estamos escuchando de Cambridge Analytica

denunciante, Christopher Wiley.

- En lo que trabajamos fue programas de recolección de datos

donde extraeríamos datos y ejecutaríamos datos a través de algoritmos que podrían perfilar

sus rasgos de personalidad y otros atributos psicológicos

explotar vulnerabilidades mentales que nuestros algoritmos demostraron que tenían.

- Cambridge Analytica mencionado una vez

o dijo que sus modelos se basaron en mi trabajo,

pero Cambridge Analytica es solo uno de los cientos

de empresas que utilizan tales métodos para apuntar a los votantes.

Sabes, me preguntarían preguntas de periodistas como,

"Entonces, ¿cómo te sientes

"¿Elegir a Trump y apoyar el Brexit?"

¿Cómo respondes a esa pregunta?

Supongo que tengo que lidiar con ser culpado de todo.

- Cómo empezó la tecnología fue como fuerza democratizadora,

como una fuerza para el bien, como una habilidad para los humanos

para interactuar con cada uno otros sin porteros.

Nunca ha habido un experimento más grande en comunicaciones para la raza humana.

Que pasa cuando todos llega a dar su opinión?

Asumirías que sería para mejor,

que habría más democracia, habría más discusión,

habría más tolerancia, pero lo que pasó es que

estos sistemas han sido secuestrados.

- Defendemos la conexión de todas las personas.

Para una comunidad global.

- Una compania, Facebook, es responsable

para las comunicaciones de gran parte de la raza humana.

Lo mismo pasa con Google.

Todo lo que quieres saber el mundo viene de ellos.

Esta es la economía de la información global

que está controlado por un pequeño grupo de personas.

- Las empresas más ricas del mundo son todas empresas de tecnología.

Google, Apple, Microsoft, Amazon, Facebook.

Es asombroso cómo

en probablemente solo 10 años,

que toda la estructura de poder corporativa

están básicamente en el negocio del comercio de electrones.

Estos pequeños bits y bytes son realmente la nueva moneda.

- La forma en que se monetizan los datos

está sucediendo a nuestro alrededor, incluso si es invisible para nosotros.

Google tiene todas las cantidades de información disponible.

Rastrean a las personas por su ubicación GPS.

Ellos saben exactamente lo que tu el historial de búsqueda ha sido.

Conocen sus preferencias políticas.

Tu historial de búsqueda solo puede decirte

todo sobre un individuo de sus problemas de salud

a sus preferencias sexuales.

Entonces, el alcance de Google es ilimitado.

- Así que hemos visto Google y Facebook.

sube a estos grandes maquinas de vigilancia

y ambos son agentes de publicidad.

Suena muy mundano pero son corredores de publicidad de alta tecnología.

Y la razón por la que son tan rentable es que están usando

inteligencia artificial para procesar todos estos datos sobre ti,

y luego relacionarte con el anunciante

que quiere llegar a la gente como tú, - para cualquier mensaje.

- Uno de los problemas de la tecnología es que ha sido desarrollado para ser adictivo.

La forma en que estas empresas diseña estas cosas

es para atraerlos y comprometerlos.

Quieren volverse esencialmente una máquina tragamonedas de atención.

Entonces siempre estás prestando atención siempre estás conectado a la matriz,

siempre estás comprobando.

- Cuando alguien controla lo que lees, también controlan lo que piensas.

Obtienes más de lo que tienes visto antes y gustado antes,

porque esto da más tráfico y eso da más anuncios,

pero también te encierra en su cámara de eco.

Y esto es lo que lleva a esta polarización que vemos hoy.

¡Jair Bolsonaro!

- Jair Bolsonaro, La derecha de Brasil

candidato populista a veces comparado con Donald Trump,

ganar la presidencia el domingo noche en ese pais

elección más polarizante en décadas.

- ¡Bolsonaro!

- Qué estamos viendo alrededor del mundo es agitación y polarización y conflicto

que es parcialmente impulsado por algoritmos

eso ha descubierto que extremos políticos,

tribalismo, y una especie de gritando por tu equipo,

y sentirse bien al respecto, es interesante.

- Las redes sociales pueden estar agregando a la atención

a los delitos de odio en todo el mundo.

- Se trata de cómo la gente puede radicalizarse

viviendo en la fiebre pantanos de Internet.

- ¿Es este un momento clave para los gigantes tecnológicos? ¿Están ahora preparados para asumir la responsabilidad?

como editores de lo que que comparten con el mundo?

- Si implementa un potente tecnología potente

a escala, y si estás hablando sobre Google y Facebook,

estas desplegando cosas a escala de miles de millones.

Si tu inteligencia artificial está empujando la polarización,

potencialmente tiene un trastorno global.

¡Las vidas blancas importan!

¡Las vidas negras importan!

- Inteligencia General Artificial, AGI.

Imagina a tu amigo más inteligente

con 1000 amigos, igual de inteligente,

y luego ejecutarlos a 1,000 veces más rápido que el tiempo real.

Entonces significa que en todos los días de nuestro tiempo,

harán tres años de pensar.

¿Te imaginas cuanto podrías hacer?

si por cada día pudieras hacer tres años de trabajo?

No sería una comparación injusta decir

que lo que tenemos ahora mismo es incluso más emocionante que

los físicos cuánticos de principios del siglo XX.

Descubrieron la energía nuclear.

Me siento muy afortunado de participar en esto.

Muchos expertos en aprendizaje automático que tienen mucho conocimiento y experiencia,

tienen mucho escepticismo sobre AGI.

Sobre cuando sucedería y sobre si podría suceder en absoluto.

Pero ahora mismo, esto es algo que no mucha gente se ha dado cuenta todavía.

Que la velocidad de las computadoras, para redes neuronales, para IA,

se van a convertir en tal vez 100,000 veces más rápido

en un pequeño número de años.

Todo el hardware industria durante mucho tiempo

realmente no sabía qué hacer a continuación,

pero con redes neuronales artificiales, ahora que realmente funcionan,

tienes una razón para construir computadoras enormes.

Puedes construir un cerebro en silicio, es posible.

Los primeros AGI será básicamente muy,

centros de datos muy grandes lleno de especialistas

procesadores de redes neuronales trabajando en paralelo.

Paquete compacto, caliente y hambriento de energía,

consumiendo como 10 millones valor de la energía de los hogares.

Un sándwich de rosbif.

Sí, algo ligeramente diferente.

Solo esta vez.

Incluso los primeros AGI

será dramáticamente más capaz que los humanos.

Los humanos ya no serán económicamente útil para casi cualquier tarea.

¿Por qué querrías contratar a un humano?

si pudieras conseguir una computadora que hacerlo mucho mejor y mucho más barato?

AGI va a ser, sin lugar a dudas,

el más importante tecnología en la historia

del planeta por un gran margen.

Va a ser mas grande que la electricidad, nuclear,

e Internet combinados.

De hecho, podrías decir que todo el propósito

de toda la ciencia humana, el propósito de la informática,

el juego final, este es el End Game, para construir esto.

Y se va a construir.

Va a ser una nueva forma de vida.

Va a ser...

Nos va a volver obsoletos.

- fabricantes europeos conocer a los americanos

han invertido mucho en el hardware necesario.

- Entra en un valiente nuevo mundo de poder,

rendimiento y productividad.

- Todas las imágenes que eres a punto de ver en la pantalla grande

será generado por qué hay en ese Macintosh.

- Es mi honor y privilegio de presentarte

el equipo de desarrollo de Windows 95.

- El trabajo físico humano ha sido en su mayoría obsoleto para

avanzando durante un siglo.

Trabajo mental humano de rutina se está volviendo obsoleto rápidamente

y es por eso que estamos viendo muchos desaparecen los trabajos de la clase media.

- De vez en cuando,

viene un producto revolucionario a lo largo que cambia todo.

Hoy, Apple está reinventando el teléfono.

- Inteligencia de máquina ya está a nuestro alrededor.

La lista de cosas que los humanos puede hacerlo mejor que las máquinas

es en realidad encogiéndose bastante rápido.

- Los autos sin conductor son geniales.

Probablemente reducirán los accidentes.

Excepto, junto con que, en Estados Unidos,

vas a perder 10 millones de puestos de trabajo.

Que vas a hacer con 10 millones de parados?

- El riesgo social conflictos y tensiones,

si agrava las desigualdades, es muy, muy alto.

- AGI puede, por definición,

hacer todos los trabajos mejor que nosotros.

Gente que dice "Oh, siempre habrá trabajos

"que los humanos pueden hacerlo mejor que las máquinas ", son simplemente

apostando contra la ciencia y diciendo que nunca habrá AGI.

- lo que estamos viendo ahora es como un tren corriendo

por un túnel oscuro en velocidad vertiginosa y parece

estamos durmiendo al volante.

- Una gran fracción de las huellas digitales lo que estamos dejando atrás son las imágenes digitales.

Y específicamente, lo que realmente interesante para mi como psicólogo

son imágenes digitales de nuestros rostros.

Aqui puedes ver la diferencia en el contorno facial

de un gay promedio y una cara seria promedio.

Y puedes ver que los hombres heterosexuales

tienen mandíbulas ligeramente más anchas.

Las mujeres gay tienen mandíbulas un poco más grandes en comparación con las mujeres heterosexuales.

Los algoritmos informáticos pueden revelar nuestras opiniones políticas

u orientación sexual, o inteligencia,

basándonos únicamente en la imagen de nuestras caras.

Incluso un cerebro humano puede distinguir entre hombres homosexuales y heterosexuales con cierta precisión.

Ahora resulta que la computadora puede hacerlo con mucha mayor precisión.

Lo que ves aquí es una precisión de

software de reconocimiento facial listo para usar.

Esta es una noticia terrible

para hombres y mujeres homosexuales alrededor del mundo.

Y no solo hombres y mujeres homosexuales,

porque los mismos algoritmos se puede utilizar para detectar otros

rasgos íntimos, piensa ser un miembro de la oposición,

o ser liberal, o ser ateo.

Ser ateo es también punible con la muerte

en Arabia Saudita, por ejemplo.

Mi misión como académico es advertir a la gente sobre los peligros de los algoritmos

pudiendo revelar nuestros rasgos íntimos.

El problema es que cuando la gente recibe malas noticias,

muy a menudo eligen despedirlos.

Bueno, da un poco de miedo cuando empiezas a recibir amenazas de muerte de un día para otro,

y he recibido bastante pocas amenazas de muerte, -

-pero como científico, tengo que básicamente mostrar lo que es posible.

Entonces, lo que realmente me interesa en ahora es para tratar de ver

si podemos predecir otros rasgos de los rostros de las personas.

Ahora, si puedes detectar depresión de una cara,

o pensamientos suicidas, tal vez un sistema de CCTV

en la estación de tren puede salvar algunas vidas.

¿Y si pudiéramos predecir que alguien ¿Es más propenso a cometer un delito?

Probablemente tuviste un consejero escolar,

un psicólogo contratado allí para identificar a los niños

que potencialmente puede tener algunos problemas de comportamiento.

Así que ahora imagina si pudieras predecir con alta precisión

que es probable que alguien cometer un crimen en el futuro

del uso del lenguaje, del rostro,

de las expresiones faciales, de los me gusta en Facebook.

No me estoy desarrollando nuevo métodos, solo estoy describiendo

algo o probando algo en un entorno académico.

Pero, obviamente, existe la posibilidad de que,

mientras advierte a la gente contra riesgos de las nuevas tecnologías,

También puedo dar a algunas personas nuevas ideas.

- aún no hemos visto el futuro en términos de

las formas en que el nueva sociedad basada en datos

realmente va a evolucionar.

Las empresas tecnológicas quieren para obtener todo lo posible

de información que ellos puede cobrar a todos

para facilitar los negocios.

La policia y el ejercito quiero hacer lo mismo

para facilitar la seguridad.

Los intereses que los dos tienen en común son inmensos,

y así el alcance de la colaboración entre lo que podrías

llamar al complejo de tecnología militar está creciendo de forma espectacular.

- La CIA, durante mucho tiempo,

ha mantenido un cierre conexión con Silicon Valley.

Su capital de riesgo firma conocida como In-Q-Tel,

realiza inversiones iniciales para empresas de nueva creación en desarrollo

tecnología de vanguardia que la CIA espera desplegarse.

Palantir, la firma de análisis de big data,

una de sus primeras semillas las inversiones fueron de In-Q-Tel.

- In-Q-Tel ha encontrado oro en Palantir

para ayudar a crear un proveedor privado

que tiene inteligencia y inteligencia artificial

capacidades que el gobierno ni siquiera puedo competir con.

- Buenas noches, soy Peter Thiel.

No soy un politico, pero tampoco lo es Donald Trump.

Es un constructor y es hora de reconstruir América.

- Peter Thiel, el fundador de Palantir,

fue asesor de transición de Donald Trump

y un amigo cercano y donante.

Trump fue elegido en gran parte por la promesa

deportar a millones de inmigrantes.

La única forma en que puedes hacer eso es con mucha inteligencia

y ahí es donde entra Palantir.

Ellos ingieren enormes tesoros de datos, que incluyen,

donde vives, donde tu trabajas, a quien conoces,

quiénes son tus vecinos, quien es tu familia,

donde has visitado, donde te hospedas,

su perfil de redes sociales.

Palantir obtiene todo eso y es notablemente bueno

en estructurarlo de una manera que ayuda a la aplicación de la ley,

autoridades de inmigracion o agencias de inteligencia

de cualquier tipo, rastrearte, encontrarte,

y aprende todo lo que hay es saber de ti.

- Estamos poniendo IA carga ahora de siempre

decisiones importantes que afectar la vida de las personas.

La IA de la vieja escuela solía tener su inteligencia programada en

por humanos que entendieron cómo funcionó, pero hoy,

potentes sistemas de IA tienen acaban de aprender por sí mismos,

y no tenemos ni idea de cómo funcionan,

lo que hace que sea muy difícil confiar en ellos.

- Esto no es algo futurista. tecnología, esto es ahora.

La IA podría ayudar a determinar donde un departamento de bomberos

está construido en una comunidad o donde se construye una escuela.

Podría decidir si obtienes fianza,

o si permanece en la cárcel.

Podría decidir dónde la policía va a ser.

Podría decidir si vas a ser bajo escrutinio policial adicional.

- Es popular ahora en los EE. UU. para hacer vigilancia policial predictiva.

Entonces, lo que hacen es usar un algoritmo para averiguar dónde estará el crimen,

- y lo usan para decir dónde deberíamos enviar policías.

Entonces eso está basado en un medición de la tasa de criminalidad.

Entonces sabemos que hay sesgo.

Negros e hispanos la gente es detenida,

y detenido por la policía oficiales con más frecuencia

que los blancos, entonces nosotros tienen estos datos sesgados,

y luego que pasa ¿Usas eso para decir?

"Oh, aquí es donde debería ir la policía".

Bueno, la policía va a esos barrios y adivinen lo que hacen, arrestan gente.

Y luego retroalimenta datos sesgados en el sistema,

y eso se llama ciclo de retroalimentación.

- Vigilancia predictiva conduce a los extremos

a los expertos que dicen: "Enséñame a tu bebé,

"y te diré si ella va a ser una criminal ".

Ahora que podemos predecirlo, luego vamos a vigilar

esos niños mucho más de cerca y vamos a saltar sobre ellos

a la primera señal de un problema.

Y eso va a hacer para una vigilancia más eficaz.

Lo hace, pero va a hacer una sociedad realmente sombría

y se refuerza injusticias dramáticamente existentes.

- Imagina un mundo en el que redes de cámaras CCTV,

vigilancia con drones cámaras, tienen sofisticadas

tecnologías de reconocimiento facial y están conectados

a otro gobierno bases de datos de vigilancia.

Tendremos el tecnología en el lugar para tener

todos nuestros movimientos de manera integral rastreado y grabado.

Lo que eso también significa es que tendremos

creó una máquina del tiempo de vigilancia

que permitirá a los gobiernos y corporaciones poderosas

esencialmente, rebobinar nuestras vidas.

Puede que no estemos bajo sospecha ahora

y dentro de cinco años, es posible que quieran saber

más sobre nosotros, y puede luego recrear granularmente

todo lo que hemos hecho todos los que hemos visto,

todos con los que hemos estado durante todo ese período.

Esa es una cantidad extraordinaria de poder

para que podamos sembrar a cualquiera.

Y es un mundo que yo pensar ha sido dificil

para que la gente se imagine, pero ya hemos construido

la arquitectura para permitir eso.

- soy un reportero político y estoy muy interesado

en las formas en que las industrias poderosas usar su poder político

influir en el proceso de políticas públicas.

Las grandes empresas tecnológicas y sus cabilderos se juntan

a puerta cerrada y son capaces de elaborar políticas

que todos tenemos que vivir.

Eso es cierto para las políticas de vigilancia, para las políticas en términos de recopilación de datos,

pero también cada vez más importante cuando llega a la política militar y exterior.

A partir de 2016, el Departamento de Defensa formó la Junta de Innovación de Defensa.

Eso es un cuerpo especial creado para traer altos ejecutivos tecnológicos

en contacto más estrecho con los militares.

Eric Schmidt, ex presidente de Alphabet,

la empresa matriz de Google,

se convirtió en el presidente de la Junta de Innovación de Defensa,

y uno de sus primeros prioridades era decir,

"Necesitamos más inteligencia artificial integrado en el ejército ".

- he trabajado con un grupo de voluntarios en el

últimos años para tomar una mirada a la innovación en el

militar en general, y mi resumen La conclusión es que tenemos

gente fantástica que es atrapado en un sistema muy malo.

- Del Departamento de La perspectiva de la defensa,

donde realmente comencé interesarse en eso

fue cuando empezamos a pensar sobre sistemas no tripulados y

cómo los sistemas robóticos y no tripulados empezaría a cambiar la guerra.

Cuanto más inteligente hiciste el Sistemas y robots no tripulados,

cuanto más poderoso puedas ser capaz de hacer su ejército.

- Subsecretario de Defensa,

Robert Work juntos un memorando importante conocido como

la guerra algorítmica Equipo multidisciplinar,

más conocido como Project Maven.

Eric Schmidt dio una serie de discursos y apariciones en los medios

donde dijo este esfuerzo fue diseñado para aumentar el combustible

eficiencia en la Fuerza Aérea, para ayudar con la logística,

pero a puerta cerrada hay fue otro esfuerzo paralelo.

A finales de 2017 como parte del Proyecto Maven,

Google, la firma de Eric Schmidt, tenía la tarea de trabajar en secreto

en otra parte del Proyecto Maven,

y eso fue para tomar el vasto volúmenes de datos de imágenes aspirados

por drones que operan en Irak y Afganistán y para enseñar una IA

para identificar rápidamente objetivos en el campo de batalla.

- Tenemos un sensor y el sensor puede hacer videos de movimiento completo de una ciudad entera.

Y tendríamos tres equipos de siete personas trabajando

constantemente y podrían procesar el 15% de la información.

El otro 85% de los se acaba de dejar información

en el piso de la sala de despiece, así que dijimos, "Oye, IA y aprendizaje automático

"nos ayudaría a procesar 100% de la información ".

- Google ha tenido durante mucho tiempo el lema, "No seas malvado".

Han creado una imagen pública

que son devotos a la transparencia pública.

Pero para que Google lentamente transformarse en un contratista de defensa,

ellos mantuvieron el mayor secreto.

Y tenías a Google entrando en este contrato con la mayoría de los empleados,

incluso los empleados que estaban trabajando en el programa quedó completamente en la oscuridad.

- Generalmente dentro de Google, cualquiera en la empresa

se le permite saber sobre cualquier otro proyecto que esta pasando

en alguna otra parte de la empresa.

Con Project Maven, el hecho que se mantuvo en secreto,

Creo que fue alarmante para la gente porque esa no es la norma en Google.

- Cuando se reveló esta historia por primera vez,

desató una tormenta de fuego dentro de Google.

Tenías varios empleados renunciar en protestas,

otros firmando una petición objetando este trabajo.

- Tienes que decir realmente, "Ya no quiero ser parte de esto".

Hay empresas llamados contratistas de defensa

y Google simplemente no debería ser una de esas empresas

porque la gente necesita confiar Google para que Google funcione.

- Buenos días y bienvenido a Google I / O.

- Hemos visto correos electrónicos que mostrar que Google simplemente

continuó engañando a sus empleados que el dron

El programa de orientación fue solo un esfuerzo menor que a lo sumo

valdrá $ 9 millones para la empresa, que es gotas en el balde

para una empresa gigantesca como Google.

Pero de los correos electrónicos internos que obtuvimos,

Google esperaba Project Maven aumentaría tanto

como $ 250 millones, y que esto todo el esfuerzo proporcionaría

Google con defensa especial Certificación del departamento para realizar

ellos disponibles para incluso contratos de defensa más grandes,

algunos valen hasta $ 10 mil millones.

La presión para que Google competir por contratos militares

ha llegado en un momento en que sus competidores también están cambiando su cultura.

Amazon, lanzando de manera similar fuerzas del orden y militares.

IBM y otras firmas líderes,

están lanzando la ley aplicación y militar.

Para seguir siendo competitivo, Google se ha transformado lentamente.

- La ciencia de la defensa Junta dijo de todos los

avances tecnológicos que están sucediendo ahora mismo,

lo más importante era inteligencia artificial

y las operaciones autónomas que conduciría.

¿Estamos invirtiendo lo suficiente?

- Una vez que desarrollamos lo que se conoce como

armas letales autónomas, en otras palabras,

armas que no están controladas en absoluto, son genuinamente autónomos,

solo tienes que conseguir un presidente que dice,

"Al diablo con el derecho internacional, tenemos estas armas.

"Vamos a hacer lo que queremos con ellos ".

- Estaban muy cerca.

Cuando tienes el hardware ya configurado

y todo lo que tienes que hacer es encender un interruptor para hacerlo completamente autónomo,

¿Qué hay ahí? impidiéndote hacer eso?

Hay algo realmente a lo que temer en guerra a velocidad de máquina.

¿Y si eres una máquina y has corrido? millones y millones de escenarios de guerra diferentes

y tienes un equipo de drones y ha delegado el control a la mitad de ellos,

y estás colaborando en tiempo real?

¿Qué pasa cuando ese enjambre de drones tiene la tarea de involucrar a una ciudad?

¿Cómo se apoderarán de esa ciudad?

La respuesta es que no lo haremos saber hasta que suceda.

- No queremos que un sistema de IA decida

que humano atacaría,

pero vamos en contra competidores autoritarios.

Entonces, en mi opinión, un régimen autoritario

tendrá menos problemas delegar autoridad

a una máquina para tomar decisiones letales.

Entonces, queda por ver cómo se desarrolla eso.

- Casi el don de la IA ahora es que nos va a obligar

colectivamente para pensar a un nivel muy básico,

¿Qué significa ser humano?

¿Qué hago mejor como humano?

que cierto máquina súper inteligente puede hacer?

Primero, creamos nuestra tecnología y luego nos recrea.

Necesitamos asegurarnos de que no te pierdas algunas de las cosas

que nos hacen tan hermosos humanos.

- Una vez que construimos máquinas inteligentes,

el vocabulario filosófico tenemos disponible para pensar

sobre nosotros mismos como humanos cada vez más nos falla.

Si te pido que escribas un lista de todos los términos que tienes

disponible para describirte a ti mismo como humano,

no hay tantos términos.

Cultura, historia, sociabilidad, tal vez política, civilización,

subjetividad, todos estos términos molidos en dos posiciones

que los humanos somos más que simples animales

y que los humanos somos más que meras máquinas.

Pero si las máquinas realmente creo que hay un gran conjunto

de preguntas filosóficas clave en el que lo que está en juego es:

¿Quienes somos? ¿Cuál es nuestro lugar en el mundo? Que es el mundo Como esta estructurado

¿Las categorías en las que nos hemos basado

- ¿Todavía funcionan? ¿Estaban equivocados?

- Mucha gente piensa en inteligencia como algo misterioso

que solo puede existir dentro de organismos biológicos, como nosotros,

pero la inteligencia lo es todo sobre el procesamiento de la información.

No importa si la inteligencia se procesa

por átomos de carbono dentro de células y cerebros, y personas,

o por átomos de silicio en computadoras.

Parte del éxito de La IA ha llegado recientemente

de robar grandes ideas de la evolución.

Notamos que el cerebro, por ejemplo,

tiene todas estas neuronas adentro conectado de formas complicadas.

Así que robamos esa idea y la abstraemos

en neuronales artificiales redes en computadoras,

y eso es lo que ha revolucionado inteligencia de la máquina.

Si un día nos volvemos artificiales Inteligencia general,

entonces, por definición, la IA puede también hacen mejor el trabajo de la IA

programación y eso significa que un mayor progreso en la realización

La IA no estará dominada por programadores humanos, sino por IA.

IA de mejora automática recursiva podría dejar la inteligencia humana

muy por detrás de, creando super inteligencia.

Va a ser el ultimo invención que siempre necesitamos hacer,

porque luego puede inventar todo lo demás

mucho más rápido de lo que pudimos.

- Hay un futuro que todos necesitamos hablar.

Algunos de los fundamentales preguntas sobre el futuro

de inteligencia artificial, no solo a donde va,

sino lo que significa para la sociedad ir allí.

No es lo que pueden hacer las computadoras,

pero qué deberían hacer las computadoras.

Como la generación de personas que está llevando la IA al futuro,

somos la generación que lo hará responda esta pregunta en primer lugar.

- No hemos creado el máquina de pensar a nivel humano todavía,

pero nos acercamos más y más.

Tal vez lleguemos al nivel humano IA en cinco años a partir de ahora

o tal vez se necesiten 50 o dentro de 100 años.

Casi no importa. Como si todos fueran muy, muy pronto,

en términos de la general historia de la humanidad.

Muy agradable.

Entonces, el campo de la IA es extremadamente internacional.

China está en auge y es comenzando a rivalizar con los Estados Unidos,

Europa y Japón en términos de poner mucho

de potencia de procesamiento detrás de la IA

y reuniendo un montón de datos para ayudar a la IA a aprender.

Tenemos una generación joven de los investigadores chinos ahora.

Nadie sabe donde el próximo la revolución va a venir.

- China siempre quiso convertirse la superpotencia del mundo.

El gobierno chino piensa que la IA les dio la oportunidad de convertirse

uno de los mas avanzados en tecnología, en negocios.

Entonces el gobierno chino mira esto como una gran oportunidad.

Como si hubieran levantado una bandera y dijo: "Ese es un buen campo.

"Las empresas deberían lanzarse a ello".

Entonces el mundo comercial de China y las empresas dicen,

"Está bien, el gobierno levantó una bandera, eso es bueno.

"Pongamos el dinero en ello".

Gigantes tecnológicos chinos, como Baidu, como Tencent y como AliBaba,

pusieron un montón de inversión en el campo de la IA.

Entonces vemos que la IA de China el desarrollo está en auge.

- En China, todos ¿Alipay y WeChat pagan?

por lo que el pago móvil está en todas partes.

Y con eso pueden hacer muchos análisis de IA

saber como tu gasto hábitos, su calificación crediticia.

Tecnología de reconocimiento facial es ampliamente adoptado en China,

en aeropuertos y estaciones de tren.

Entonces, en el futuro, tal vez en solo unos meses,

no necesitas un papel billete para abordar un tren.

Solo tu cara.

- Generamos la plataforma más grande del mundo de reconocimiento facial.

Contamos con 300.000 desarrolladores utilizando nuestra plataforma.

Mucho de esto son aplicaciones de cámara para selfies.

Te hace lucir más bella.

Hay millones y millones de cámaras en el mundo,

cada cámara desde mi punto es un generador de datos.

En el ojo de una máquina, tu cara cambiará a las características

y te volverá la cara en un párrafo de código.

Para que podamos detectar tu edad son, si eres hombre o mujer,

y tus emociones.

Ir de compras se trata de qué tipo de lo que estás mirando.

Podemos rastrear tus ojos, por lo que si se centra en algún producto,

podemos rastrear eso para que podamos saber

que tipo de gente le gusta qué tipo de producto.

Nuestra misión es crear una plataforma

que permitirá a millones de IA desarrolladores en China.

Estudiamos todos los datos que podemos obtener.

No solo perfiles de usuario,

pero lo que estas haciendo en este momento,

su ubicación geográfica.

Esta plataforma será tan valiosa que no incluso preocuparse por las ganancias ahora,

porque definitivamente está ahí.

El sistema de crédito social de China es solo una de las aplicaciones.

- El gobierno chino está utilizando múltiples

diferentes tipos de tecnologías, ya sea IA,

si es big data plataformas, reconocimiento facial,

reconocimiento de voz, esencialmente para monitorear

lo que hace la población.

Creo que los chinos el gobierno ha dejado muy claro

su intención de reunir masiva cantidades de datos sobre personas

para diseñar socialmente un sociedad libre de disensiones.

La lógica detrás del gobierno chino

sistema de crédito social, es tomar la idea de que

si eres crédito digno de un préstamo financiero

y añadiéndole un muy dimensión política para decir,

"¿Eres un ser humano de confianza?

"Lo que has dicho en línea, ¿alguna vez has estado crítico de las autoridades?

"¿Tiene antecedentes penales?"

Y toda esa información es empaquetados juntos para calificar

tú de maneras que si tienes funcionó bien en su opinión,

tendrás un acceso más fácil a ciertos tipos de los servicios o beneficios estatales.

Pero si no lo has hecho muy bien,

vas a ser sancionado o restringido.

No hay forma de que la gente desafiar esas designaciones

o, en algunos casos, incluso saber que han sido puestos en esa categoría,

y no es hasta que intentan acceder a algún tipo del servicio estatal o comprar un boleto de avión,

u obtener un pasaporte, o inscribir a su hijo en la escuela,

que vienen a aprender que han ha sido etiquetado de esta manera,

y que hay negativas consecuencias para ellos como resultado.

Hemos gastado la mejor parte de los últimos uno o dos años

mirando abusos de vigilancia tecnología en China,

y mucho de ese trabajo nos ha llevado a Xinjiang,

la región noroeste de China que tiene más de la mitad

población de musulmanes turcos, Uigures, kazajos y hui.

Esta es una región y una población el gobierno chino

ha considerado durante mucho tiempo ser políticamente sospechoso o desleal.

Vinimos a buscar información sobre lo que se llama

la Plataforma Integrada de Operaciones Conjuntas,

que es una vigilancia predictiva programa y ese es uno

de los programas que ha sido escupir listas de nombres

de personas a ser sometidas a la reeducación política.

Algunos de nuestros entrevistados para el informe que acabamos de publicar

sobre la educación política campamentos en Xinjiang solo

pintó un extraordinario retrato de un estado de vigilancia.

Una región inundada de cámaras de vigilancia

para fines de reconocimiento facial, puestos de control, escáneres corporales,

Códigos QR fuera de las casas de las personas.

Sí, realmente es cosa distópica películas a las que todos hemos ido y pensado,

"Vaya, eso sería un mundo espeluznante para vivir ".

Sí, bueno, 13 millones Musulmanes turcos en China

están viviendo en esa realidad ahora mismo.

- Los informes de Intercept que Google planea

lanzar una versión censurada de su motor de búsqueda en China.

- Búsqueda de Google para nuevos mercados lo lidera

a China, a pesar de la reglas sobre censura.

- Cuéntanos más sobre por qué sentiste que era

tu responsabilidad ética de dimitir,

porque hablas de ser cómplice de censura y opresión y vigilancia.

- hay un chino empresa de riesgo que tiene que ser

configurado para que Google opere en China.

Y la pregunta es, ¿a qué grado llegaron a controlar

la lista negra y a que grado tendrían solo

acceso sin restricciones a vigilar a los ciudadanos chinos?

Y el hecho de que Google se niega a responder

a las organizaciones de derechos humanos sobre esto,

Creo que debería ser extremadamente perturbador para todos.

Debido a mi convicción de que la disidencia es fundamental para el funcionamiento de las democracias

y obligado a dimitir para evitar contribuyendo o beneficiándose de la erosión

de protecciones para disidentes.

La ONU está actualmente informando que entre

200.000 y un millón Los uigures han desaparecido

en campos de reeducación.

Y hay un argumento serio que Google sería cómplice

¿Debería lanzar un vigilado versión de búsqueda en China.

Dragonfly es un proyecto destinado para iniciar la búsqueda en China bajo

Regulaciones del gobierno chino, que incluyen censurar

contenido sensible, básico consultas sobre derechos humanos,

información sobre política representantes está bloqueado,

información sobre el estudiante Las protestas están bloqueadas.

Y esa es una pequeña parte.

Quizás una preocupación más profunda es el lado de la vigilancia de esto.

Cuando planteé el problema a mis gerentes, con mis colegas,

había mucha preocupación, pero todos sólo dijo: "No sé nada".

Y luego, cuando finalmente hubo una reunión,

esencialmente no había direccionamiento las graves preocupaciones asociadas con él.

Entonces presenté mi renuncia formal,

no solo a mi gerente, pero en realidad lo distribuí en toda la empresa.

Y esa es la carta del que estaba leyendo.

Personalmente, no he dormido bien. He tenido unos dolores de cabeza bastante horribles

despierta en medio de la noche acaba sudando.

Dicho esto, lo que yo encontrado desde que hablé

es lo positivo que es el global La respuesta a esto ha sido.

Los ingenieros deben exigir para saber para que sirve

de sus contribuciones técnicas son

y tomar asiento a la mesa en esas decisiones éticas.

La mayoría de los ciudadanos realmente no entender lo que significa ser

en una escala muy grande tecnología prescriptiva.

Donde alguien ya ha pre-dividido el trabajo

y todo lo que sabes sobre es tu pedacito,

y casi seguro que no entender cómo encaja.

Entonces, creo que vale la pena dibujar la analogía al trabajo de los físicos sobre la bomba atómica.

De hecho, eso es en realidad la comunidad de la que salí.

No era un científico nuclear de ninguna manera, pero yo era un matemático aplicado

y mi programa de doctorado fue financiado capacitar a las personas para que trabajen en laboratorios de armas.

Ciertamente se podría argumentar que hay una amenaza existencial

y quien sea que lidere en AI liderará militarmente.

- China espera plenamente pasar los Estados Unidos

como la economía número uno en el mundo y cree que

La IA hará que ese salto sea más rápida y dramáticamente.

Y también lo ven como ser capaz de saltar

los Estados Unidos en términos de poder militar.

Su plan es muy simple.

Queremos atrapar a los Estados Unidos y estas tecnologías para 2020,

queremos superar a Estados Unidos en estas tecnologías para 2025,

y queremos ser el líder mundial en IA y tecnologías autónomas para 2030.

Es un plan nacional.

Está respaldado por al menos $ 150 mil millones en inversiones.

Entonces, esta es definitivamente una carrera.

- La IA es un poco como el fuego.

El fuego se inventó hace 700.000 años,

y tiene sus pros y sus contras.

La gente se dio cuenta de que puedes usar fuego para calentarme por la noche y cocinar,

pero también se dieron cuenta de que puedes matar a otras personas con eso.

El fuego también tiene esto Calidad de cultivo similar a la IA

en un incendio forestal sin más preámbulos humanos,

pero las ventajas superan las desventajas por tanto

que no vamos para detener su desarrollo.

Europa está despertando.

Muchas empresas en Europa se están dando cuenta de que la próxima ola de IA

será mucho más grande que la ola actual.

La próxima ola de IA será sobre robots.

Todas estas maquinas que hacen cosas que producen cosas

que construyen otras máquinas, se volverán inteligentes.

En un futuro no muy lejano, tendremos robots

que podemos enseñar como enseñamos a los niños.

Por ejemplo, hablaré con un pequeño robot y te diré,

"Mira aquí, robot, mira aquí.

"Armemos un teléfono inteligente.

"Tomamos esta losa de plástico así y cogemos un destornillador así,

"y ahora lo arruinamos todo así.

"No, no, no así.

"Así, mira, robot, mira, así".

Y fallará un par de veces, pero bastante rápido,

el aprenderá a hacer lo mismo mucho mejor de lo que podría hacerlo.

Y luego paramos el aprendizaje y hacemos un millón de copias y lo vendemos.

Regulación de los sonidos de la IA como una idea atractiva,

pero no creo que sea posible.

Una de las razones por las que no funcionará es

la pura curiosidad de los científicos.

Les importa un comino la regulación.

Los poderes militares no darán un maldita sea por las regulaciones.

Ellos diran, "Si nosotros, los estadounidenses no lo hacemos,

"Entonces los chinos lo harán".

Y los chinos dirán "Oh, si no lo hacemos,

"Entonces los rusos lo harán".

No importa qué tipo de política la regulación está ahí fuera,

todos estos complejos industriales militares,

casi lo harán definición tiene que ignorar eso

porque quieren evitar quedarse atrás.

Bienvenidos a Xinhua.

Soy la primera mujer del mundo Presentador de noticias de IA desarrollado

conjuntamente por Xinhua y empresa de motores de búsqueda Sogou.

- Un programa desarrollado por la empresa OpenAI puede escribir

historias coherentes y creíbles como los seres humanos.

- Es un pequeño paso para la máquina,

un gran salto para el tipo de máquina.

El artificial más nuevo de IBM el sistema de inteligencia asumió

debatidores humanos experimentados y ganó un debate en vivo.

- Generado por computadora videos conocidos como deep fakes

se utilizan para poner a las mujeres caras en videos pornográficos.

- Inteligencia artificial evoluciona a un ritmo muy loco.

Sabes, es como progresar tan rápido.

De alguna manera, somos solo al principio ahora mismo.

Tienes tanto potencial aplicaciones, es una mina de oro.

Desde 2012, cuando el aprendizaje profundo se convirtió en un gran cambio de juego

en la comunidad de visión artificial,

fuimos uno de los primeros en realmente adoptar el aprendizaje profundo

y aplicarlo en el campo de gráficos por computadora.

Gran parte de nuestra investigación está financiada por gobierno, agencias de inteligencia militar.

La forma en que creamos estos mapeos fotorrealistas,

generalmente la forma en que funciona es que necesitamos dos sujetos,

una fuente y un objetivo, y Puedo hacer un reemplazo de cara.

Una de las aplicaciones es, por ejemplo, Quiero manipular la cara de alguien

diciendo cosas que no hizo.

Se puede utilizar para creativos cosas, para contenidos divertidos,

pero obviamente, también puede ser utilizado para simplemente

manipular videos y generar noticias falsas.

Esto puede resultar muy peligroso.

Si llega a las manos equivocadas, puede salirse de control muy rápidamente.

- Estamos entrando en una era en el que nuestros enemigos pueden

haz que parezca que alguien es decir cualquier cosa en cualquier momento,

incluso si lo hicieran nunca digas esas cosas.

De cara al futuro, necesitamos ser más vigilantes con lo que confiamos en Internet.

Puede parecer básico, pero ¿cómo avanzamos

en la era de la información va a ser la diferencia

entre si sobrevivimos o si nos convertimos

una especie de distopía jodida.

- Una crítica que se plantea con frecuencia. en contra de mi trabajo es decir eso,

"Oye, sabes que hubo ideas estúpidas en el pasado como frenología o fisonomía.-

- "Había gente reclamando que puedes leer un personaje

"de una persona solo por su rostro".

La gente decía: "Esto es una tontería.

"Sabemos que fue apenas racismo y superstición velados ".

Pero el hecho de que alguien hizo un reclamo en el pasado

y traté de apoyar esto reclamo con razonamiento inválido,

no automáticamente invalidar la reclamación.

Por supuesto, la gente debería tener derechos

a su privacidad cuando se trata de orientación sexual u opiniones políticas,

pero también me temo que en el entorno tecnológico actual,

esto es esencialmente imposible.

La gente debería darse cuenta no hay vuelta atrás.

No hay huida de los algoritmos.

Cuanto antes aceptemos el verdad inevitable e inconveniente

que la privacidad se ha ido,

cuanto antes podamos realmente empezar a pensar en

Cómo hacer seguro que nuestras sociedades

están listos para la era posterior a la privacidad.

- Al hablar de reconocimiento facial,

en mis pensamientos profundos, a veces llego a la era muy oscura de nuestra historia.

Cuando la gente tuvo que vivir en el sistema,

donde alguna parte de la sociedad fue aceptada

y una parte de la sociedad fue acusado de muerte.

¿Qué haría Mengele para tener tal instrumento en sus manos?

Sería muy rápido y eficiente para la selección

y esta es la visión apocalíptica.

- Entonces, en un futuro cercano, toda la historia de ti

existirá en una amplia gama de bases de datos conectadas de rostros,

genomas, comportamientos y emociones.

Entonces, tendrás un digital avatar de ti mismo en línea,

que registra lo bien que estamos haciendo como ciudadano,

qué tipo de relación tienes,

que tipo de orientación política y orientación sexual.

Basado en todos esos datos, esos algoritmos podrán

manipular tu comportamiento con extrema precisión,

cambiando nuestra forma de pensar y probablemente en el futuro, cómo nos sentimos.

- Las creencias y deseos del Los primeros AGI serán extremadamente importantes.

Entonces, es importante programarlos correctamente.

Creo que si esto no se hace

entonces la naturaleza de la evolución de la selección natural favorecerá

esos sistemas, priorizar sus propia supervivencia por encima de todo.

No es que vaya a activamente Odio a los humanos y quiero hacerles daño,

pero es solo va a ser demasiado poderoso

y creo que una buena analogía sería la forma en que los humanos tratan a los animales.

No es que odiemos a los animales.

Creo que los humanos aman a los animales y tener mucho cariño por ellos,

pero cuando llegue el momento de construye una carretera entre dos ciudades,

no estamos preguntando los animales por permiso.

Solo lo hacemos porque es importante para nosotros.

Y creo que, por defecto, ese es el tipo de relación que va a haber entre nosotros

y AGI que son verdaderamente autónomos y operando en su propio nombre.

Si tienes una carrera armamentista dinámica entre varios reyes

tratando de construir el AGI primero,

tendrán menos tiempo para asegurarse que el AGI que construyen

se preocupará profundamente por los humanos.

Porque de la forma en que lo imagino es que hay una avalancha,

hay una avalancha del desarrollo de AGI.

Imagínese que es una enorme fuerza imparable.

Y creo que es bastante probable toda la superficie del

la tierra estaría cubierta con paneles solares y centros de datos.

Dado este tipo de preocupaciones,

será importante que el AGI está construido de alguna manera

como una cooperación con varios países.

El futuro va a ser bueno para las IA, independientemente.

Sería bueno si pudiera ser bueno para los humanos también.

- Hay mucha responsabilidad pesando sobre mis hombros?

Realmente no.

¿Hubo mucho responsabilidad sobre los hombros

de los padres de Einstein?

Los padres de alguna manera lo hicieron,

pero no tenían forma de prediciendo lo que haría,

y cómo cambiaría el mundo.

Y entonces, realmente no puedes sostener ellos responsables de eso.

Entonces, no soy una persona muy centrada en los humanos.

Creo que estoy dando un pequeño paso piedra en la evolución

del Universo hacia una mayor complejidad.

Pero también tengo claro que No soy la corona de la creacion

y que la humanidad en su conjunto no es la corona de la creación,

pero estamos preparando el escenario para algo que es más grande que nosotros que nos trasciende.

Y luego saldrá de alguna manera donde los humanos no pueden seguir

y transformar todo el Universo, o al menos, el Universo alcanzable.

Entonces, encuentro belleza y asombro al verme a mí mismo

como parte de este tema mucho más grandioso.

- La IA es inevitable.

Necesitamos asegurarnos de tener la necesaria regulación humana

para prevenir el armamentismo de inteligencia artificial.

No necesitamos más armas

de una herramienta tan poderosa.

- Una de las cosas más críticas, creo, es la necesidad de gobernanza internacional.

Tenemos un desequilibrio de poder aquí porque ahora

tenemos corporaciones con más poder, poder y habilidad,

que países enteros.

¿Cómo nos aseguramos de que la gente ¿Se escuchan voces?

- No puede ser una zona libre de leyes.

No puede ser una zona libre de derechos.

No podemos abrazar todos estos maravillosas nuevas tecnologías

para el siglo XXI sin tratando de traer con nosotros

el paquete de derechos humanos que luchamos tan duro

lograr, y eso sigue siendo tan frágil.

- La IA no es buena y tampoco es mala.

Solo va a amplificar los deseos y metas de quien lo controla.

Y la IA de hoy está bajo el control de un grupo muy, muy pequeño de personas.

La pregunta más importante que los humanos tenemos que preguntarnos en este momento de la historia

no requiere conocimientos técnicos.

Es la pregunta de que tipo de la sociedad futura que queremos crear

con todo esto tecnología que estamos haciendo?

¿Qué queremos el papel de humanos para estar en este mundo?