Original subtitles

"Você é o meu criador, mas eu sou seu mestre..."

O que estamos às vésperas

é um mundo com uma cada vez mais intensa e sofisticada

inteligência artificial.

A tecnologia está evoluindo muito mais rápido que a nossa sociedade.

Ela tem a capacidade de nos proteger como cidadãos.

Os robôs estão chegando e eles vão destruir

nossos meios de subsistência.

Você tem uma inteligência em rede que nos observa,

sabe tudo sobre nós e começa a tentar nos mudar.

O Twitter tornou-se o site de notícias número um do mundo.

A tecnologia nunca é boa ou ruim.

É o que fazemos com a tecnologia.

No final, milhões de pessoas serão expulsas de seus empregos

porque suas habilidades serão obsoletas.

Desemprego em massa.

Maiores desigualdades, até mesmo inquietação social.

Independentemente de ter medo ou não,

a mudança está chegando e ninguém pode pará-la.

Investimos enormes quantias de dinheiro

e por isso é lógico que os militares,

com seus próprios desejos vão começar a usar essas tecnologias.

Sistemas de armas autônomas

levariam a uma corrida armamentista global

que rivalizaria com a da era nuclear.

Então você sabe qual é a resposta, elas acabarão por nos matar.

Esses saltos tecnológicos vão nos proporcionar

incríveis milagres

e incríveis horrores.

Nós a criamos,

então eu acho que à medida que avançamos com essa inteligência,

ela irá conter partes de nós.

Mas eu acho que a questão é,

ela vai conter as partes boas

ou as partes ruins?

VOCÊ CONFIA NESTE COMPUTADOR?

Os sobreviventes chamaram a guerra

de Dia do Juízo Final,

eles viviam apenas para enfrentar um novo pesadelo,

a guerra contra as máquinas.

Acho que nos ferramos por completo.

Acho que Hollywood conseguiu inocular

o público em geral contra esta questão,

a ideia de que uma máquina dominará o mundo.

Abra as portas do compartimento, HAL.

Sinto muito, Dave.

Sinto não poder fazer isso.

HAL?

Já alarmamos sem razão tantas vezes

que o público parou de prestar atenção

porque parece ficção científica,

mesmo sentados aqui falando sobre isso.

Mesmo agora, parece um pouco tolo,

um pouco como "oh!, isso é coisa de algum filme classe B".

O WOPR passa todo seu tempo pensando

sobre a Terceira Guerra Mundial.

Mas não é.

O público em geral está prestes a ser pego de surpresa por isto.

Como indivíduos, estamos cada vez mais rodeados

por uma inteligência de máquinas.

Nós carregamos este dispositivo de bolso na palma da nossa mão

que usamos para tomar uma série impressionante de decisões de vida.

Auxiliados por um conjunto de algoritmos distantes

sobre os quais não entendemos nada.

Já estamos cansados da ideia

de que podemos falar com o nosso telefone

e que principalmente ele nos entende.

Encontrei um grande número de filmes de ação.

Cinco anos atrás de jeito nenhum.

Máquinas robóticas que veem, falam e ouvem,

tudo isso agora é real e essas tecnologias

vão mudar fundamentalmente a nossa sociedade.

Agora temos esse grande movimento de carros que dirigem a si mesmos.

Dirigir um carro de forma autônoma pode mover a vida das pessoas

para um lugar melhor.

Eu perdi vários membros da minha família, incluindo minha mãe,

meu irmão e minha cunhada e seus filhos

para acidentes automobilísticos.

Está bem claro.

Podemos quase eliminar os acidentes de carro com a automação.

30.000 vidas só nos EUA,

cerca de um milhão em todo o mundo por ano.

Na saúde, os indicadores iniciais são o nome do jogo nesse espaço,

então esse é outro lugar onde pode-se salvar a vida de alguém.

Aqui no Centro de câncer de mama

todas as coisas que o cérebro do radiologista faz em dois minutos

o computador faz instantaneamente.

O computador analisou 1 bilhão de mamografias

e pegou esses dados e os aplicou nesta imagem instantaneamente.

Então, sua aplicação médica é profunda.

Outra área excitante onde estamos vendo muito desenvolvimento

é a que está entendendo o nosso código genético

e usando isso tanto para diagnosticar doenças

como para criar tratamentos personalizados.

A principal aplicação de todas essas máquinas

será para ampliar a nossa própria inteligência.

Conseguiremos nos tornar mais inteligentes,

e seremos melhores para resolver problemas.

Não teremos que envelhecer,

não teremos que passar pelo envelhecimento.

Seremos capazes de pará-lo.

Não há realmente limite para o que máquinas inteligentes

poderão fazer para a raça humana.

Como uma máquina mais inteligente poderia não ser uma máquina melhor?

É difícil dizer exatamente quando comecei a pensar

que isso era um pouco ingênuo.

Stuart Russell é basicamente um deus

no campo da inteligência artificial.

Ele escreveu o livro que quase todas as universidades usam.

Eu costumava dizer que é o livro de IA mais vendido.

Agora digo que é o PDF mais roubado.

Inteligência artificial é sobre como tornar

os computadores inteligentes,

e do ponto de vista do público, o que conta como IA

é algo que é surpreendentemente inteligente

comparado ao que pensamos que os computadores

normalmente são capazes de fazer.

A IA é um campo de pesquisa

que tenta basicamente simular

todos os tipos de capacidades humanas.

Estamos em uma era de IA.

O Vale do Silício teve a capacidade de focar algo brilhante.

Foram as redes sociais nas mídias sociais na última década

e está bastante claro que a moeda virou.

Começa com o aprendizado da máquina.

Quando olhamos para trás neste momento,

qual foi a primeira IA?

Ela não é excitante e não é a coisa que vemos nos filmes,

mas você daria um grande palpite

que o Google criou não um mecanismo de pesquisa,

mas uma divindade.

Uma maneira das pessoas fazerem qualquer pergunta que elas queiram

e conseguir a resposta que precisam.

A maioria das pessoas não está ciente que

o que o Google faz é uma forma de inteligência artificial.

Elas apenas vão lá, digitam alguma coisa

e o Google dá a resposta.

Com cada pesquisa nos treinamos para sermos melhores.

Às vezes nós digitamos e a pesquisa nos dá a resposta

antes de você terminar de fazer a pergunta.

Quem é o presidente do Cazaquistão?

E ele lhe dirá,

você não precisa ir ao website do Cazaquistão para descobrir.

Ele não costumava ser capaz de fazer isso.

Isso é inteligência artificial.

Daqui alguns anos, quando tentarmos entender,

diremos, bem, como perdemos isso?

É uma dessas contradições marcantes

que estamos enfrentando.

O Google e o Facebook absolutamente têm

construído negócios ao nos dar como sociedade

um material grátis, sem custo,

mas isto é uma barganha faustiana.

Eles estão tirando algo de nós em troca.

Mas não sabemos que código está sendo executado no outro lado,

e por que não temos nenhuma ideia.

Isto bate bem na questão do quanto devemos confiar nas máquinas.

Eu uso computadores literalmente para tudo.

Há tantos avanços no computador agora

e ele se tornou uma parte tão grande de nossas vidas.

É simplesmente incrível o que um computador pode fazer.

Você pode realmente carregar um computador na sua bolsa.

Quero dizer, isso é incrível.

Eu acho que a maioria das tecnologias

são feitas para facilitar as coisas para todos nós.

Então, espero que isto continue a ser o foco.

Eu acho que todo mundo ama seus computadores.

As pessoas não percebem

que estão sendo constantemente negociadas pelas máquinas.

Se esse é o preço dos produtos no seu carrinho da Amazon,

se você pode entrar em um voo em particular,

se você pode reservar um quarto em um hotel específico,

o que você está experimentando

são algoritmos de aprendizagem da máquina

que determinaram que uma pessoa como você

está disposto a pagar mais dois centavos e está mudando o preço.

Agora o computador olha para milhões de pessoas simultaneamente

para padrões muito sutis.

Você pode pegar rastos digitais aparentemente inocentes,

como a lista de reprodução de alguém no Spotify

ou coisas que eles compraram na Amazon,

e então usar algoritmos para traduzir isso

para um perfil íntimo muito detalhado e muito preciso.

Existe um dossiê sobre cada um de nós,

tão extenso que seria possivelmente preciso dizer

que eles sabem mais sobre você do que sua mãe.

A principal causa do recente avanço da IA,

não é só que algum cara teve de repente uma visão brilhante,

mas simplesmente porque temos muito mais dados

para treiná-los e computadores imensamente melhores.

A mágica está nos dados.

É uma tonelada de dados.

Quero dizer, são dados que nunca existiram antes.

Nunca tivemos esses dados antes.

Criamos tecnologias que nos permitem

capturar grandes quantidades de informação.

Se você pensa em um bilhão de celulares no planeta

com giroscópios, acelerômetros,

leitores de impressões digitais, acoplados com GPS

e as fotos que eles tiram e os tweets que você envia,

todos nós estamos dando enormes

quantidades de dados individualmente.

Carros que andam enquanto suas câmeras sugam informação

sobre o mundo ao seu redor.

Satélites que estão agora em órbita com o tamanho de uma torradeira.

O infravermelho sobre a vegetação do planeta.

As boias que estão nos oceanos alimentando modelos climáticos.

E a NSA, a CIA, a medida que eles coletam informações

sobre as situações geopolíticas.

O mundo de hoje está literalmente nadando nesses dados.

Voltando para 2012,

a IBM estimou que um ser humano médio deixava

500 megabytes de rastos digitais todos os dias.

Se você quisesse fazer um backup de apenas um dia de dados

que a humanidade produz

e você o imprimisse em papel tamanho carta,

frente e verso, fonte tamanho 12,

daria para fazer uma pilha da superfície da Terra até o Sol...

quatro vezes.

Isto a cada dia.

Os dados em si não são bons ou maus.

É como eles são usados.

Estamos confiando realmente na boa vontade dessas pessoas

e nas políticas dessas empresas.

Não há exigência legal de como eles

podem ou deveriam usar esses dados.

Isso, para mim, é o cerne da questão da confiança.

Agora mesmo há uma corrida gigantesca para criar máquinas

que são tão inteligentes quanto os humanos.

No Google eles estão trabalhando no que é

um tipo de projeto Manhattan da inteligência artificial.

Eles têm muito dinheiro.

Eles têm muitos talentos.

Eles estão comprando empresas de IA e empresas de robótica.

As pessoas ainda pensam que o Google é um motor de busca,

o seu provedor de e-mail,

e muitas outras coisas que usamos diariamente,

mas por trás dessa caixa de pesquisa

estão 10 milhões de servidores.

Isso faz do Google a plataforma de computação mais poderosa

do mundo.

O Google agora está trabalhando em uma plataforma de computação de IA

que terá cem milhões de servidores.

Então, quando você está interagindo com o Google,

está vendo a unha de uma fera gigantesca em vias de formação,

e a verdade é,

não tenho certeza se o Google sabe o que ele está se tornando.

Se você olhar dentro dos algoritmos que estão sendo usados no Google,

a tecnologia é em grande parte dos anos 80.

Então, estes são modelos que você ensina,

mostrando o um, o dois e o três,

e ele não aprende o que é o um, ou o que é o dois,

ele aprende qual é a diferença entre um e dois.

É apenas uma computação.

Na última meia década, onde fizemos esse rápido progresso,

tudo tem acontecido no reconhecimento de padrões.

A maior parte da boa e velha IA

era quando dizíamos aos nossos computadores

como jogar um jogo como o xadrez.

Do velho paradigma onde você dizia a um computador

exatamente o que fazer.

Este é o Jeopardy,

O desafio da IBM!

Ninguém na época pensava que uma máquina

poderia ter a precisão, a confiança e a velocidade

para jogar bem o suficiente Jeopardy

contra os melhores especialistas.

Vamos jogar Jeopardy.

Palavra de quatro letras

para colocar um ferro no casco de um cavalo.

Watson?

Shoe (ferrar)?

Você está certo, você pode escolher.

Caractere literário APB para 800.

Resposta para Daily Double.

Watson na verdade obteve seu conhecimento lendo a Wikipedia

e 200 milhões de páginas de documentos em linguagem natural.

Você não pode programar todas as linhas de como o mundo funciona.

A máquina tem que aprender lendo.

Chegamos a Watson, quem é Bram Stoker e a aposta?

Olá, 17.973.

41.413 e um total de dois dias.

O Watson foi treinado em uma grande quantidade de textos

mas não é como se ele entendesse o que está dizendo.

Ele não sabe que a água deixa as coisas molhadas

mas vendo a maneira como as coisas se comportam no mundo

como você e eu fazemos.

Muita linguagem de IA dos dias de hoje não está construindo

modelos lógicos de como o mundo funciona,

está olhando como as palavras aparecem no contexto

de outras palavras.

David Ferrucci desenvolveu o Watson da IBM

e alguém perguntou a ele - "o Watson pensa?".

E ele respondeu - "um submarino nada?"

E o que ele quis dizer foi que quando

eles desenvolveram os submarinos,

eles pegaram emprestados os princípios básicos

da natação dos peixes,

mas um submarino nada muito mais rápido do que os peixes.

Mesmo com uma massa enorme, ele supera os peixes.

O Watson vencendo o jogo Jeopardy

vai entrar na história da IA como um marco significativo.

Tendemos a ficar surpresos quando uma máquina funciona tão bem.

Fico ainda mais surpreso quando um computador supera os humanos

em coisas que os humanos são naturalmente bons.

É assim que fazemos progresso.

Nos primeiros dias do projeto do Google Brain

eu dei a equipe uma instrução muito simples

que foi construir a maior rede neuro possível

em algo como mil computadores.

Uma rede neural é algo muito próximo de uma simulação

de como o cérebro funciona.

É muito probabilístico,

mas com relevância contextual.

Em nosso cérebro você tem neurônios longos que se conectam

a milhares de outros neurônios e você tem esses caminhos

que são formados e forjados

com base no que o cérebro precisa fazer.

Quando um bebê tenta algo e consegue,

há uma recompensa

e esse caminho que criou o sucesso é fortalecido.

Se falhar em alguma coisa, o caminho é enfraquecido

e assim com o tempo o cérebro se torna afiado

para ser bom no ambiente ao seu redor.

Deixar as máquinas aprenderem por si mesmas

é chamado de aprendizagem profunda,

e aprendizagem profunda e redes neurais

significam aproximadamente a mesma coisa.

A aprendizagem profunda é uma abordagem totalmente diferente,

onde o computador aprende mais como uma criança

obtendo muitos dados e no final descobrindo as coisas.

O computador fica mais esperto e inteligente

a medida que tem mais experiências.

Vamos imaginar que você tenha uma rede neural,

algo como mil computadores,

e ela não sabe nada,

e nós fazemos ela ver o YouTube por uma semana.

Estilo Oppa Gangnam.

Charlie, doeu!

E depois de ver o YouTube por uma semana,

o que ela aprendeu?

Nós tínhamos uma hipótese que ela aprenderia

a detectar objetos comuns em vídeos.

e sabemos que os rostos humanos aparecem muito nos vídeos,

então fomos verificar e eis que havia um neurônio

que aprendeu a detectar rostos humanos.

Deixe Britney em paz!

O que mais aparece tanto nos vídeos?

Então verificamos para nossa surpresa

que havia realmente um neurônio

e que ele aprendeu a detectar gatos.

Ainda me lembro de ver o reconhecimento, uau, é um gato,

Bem legal.

É tudo muito inócuo quando você pensa sobre o futuro,

tudo parece meio inofensivo e benigno,

mas estamos criando arquiteturas cognitivas

que voarão mais longe e mais rápido que nós

e terão uma carga útil maior,

e eles não serão calorosos e fofos.

Eu acho que daqui três a cinco anos,

veremos sistemas de computador

que serão capazes de aprender autonomamente

como entender, como construir um entendimento.

Não é diferente da maneira como a mente humana funciona.

Qualquer que tenha sido o almoço certamente estava delicioso.

Foi simplesmente obra do Robbie Synthetics.

Ele também é seu cozinheiro?

Ele até fabrica as matérias-primas.

De uma volta Robbie.

Eu vou te mostrar como funciona.

Alguém introduz uma amostra de comida humana

através desta abertura.

Aqui embaixo, há um pequeno laboratório químico embutido

onde ele analisa a comida.

Mais tarde ele pode reproduzir moléculas idênticas

em qualquer forma ou quantidade.

O sonho de um espião.

Conheça Baxter, a nova e revolucionária

categoria de robôs com bom senso.

O Baxter é um bom exemplo do tipo de competição

que enfrentamos com as máquinas.

O Baxter pode fazer quase tudo que podemos fazer com nossas mãos.

O Baxter custa o que um trabalhador de salário mínimo

ganha em um ano,

mas o Baxter não vai tomar o lugar

de um trabalhador de salário mínimo.

Ele vai tomar o lugar de três porque ele nunca se cansa,

ele nunca faz pausas.

Essa é provavelmente a primeira coisa que vamos ver.

O deslocamento de empregos.

Os trabalhos serão feitos mais rápidos

e a um menor custo pelas máquinas.

Nossa capacidade de permanecer atualizado

é tão insanamente limitada

em comparação com as máquinas que construímos.

Por exemplo, agora temos esse grande movimento

do Uber e do Lyft que estão tornando o transporte

mais barato e democratizante, o que é ótimo.

O próximo passo será eles serem substituídos

por carros sem motorista e, em seguida,

todos os motoristas do Uber e do Lyft

terão que encontrar algo novo para fazer.

Existem quatro milhões de motoristas profissionais nos EUA,

eles em breve estarão desempregados.

Sete milhões de pessoas fazem a entrada dos dados,

essas pessoas vão ficar desempregadas.

Um emprego não é apenas sobre dinheiro.

A um nível biológico, serve a um propósito,

torna-se uma coisa definidora.

Quando os empregos vão embora em qualquer civilização,

não demora muito até que isso se transforme em violência.

Nós enfrentaremos uma divisão gigante entre ricos e pobres

porque é isso que a automação e a IA irão provocar

ou uma divisão maior entre os que têm e os que não têm.

Agora está acontecendo na classe média,

nos empregos de colarinho branco.

O Watson da IBM faz análises de negócios que costumamos pagar

$300 por hora para um analista de negócios fazer.

Hoje você vai para a faculdade para ser um médico,

ser um contador, ser um jornalista.

Não está claro que haverá empregos para você.

Se alguém planeja uma carreira de 40 anos em radiologia,

apenas lendo imagens,

eu acho que isso poderia ser um desafio

para os novos graduados de hoje.

Hoje vamos fazer um procedimento robótico.

O robô Da Vinci é atualmente utilizado

por uma variedade de cirurgiões

por sua precisão e sua capacidade

em evitar as flutuações inevitáveis da mão humana.

Qualquer um que assiste a ele sente com ele é incrível.

Você olha através do painel,

e você vê a garra segurando o ovário da mulher.

A humanidade repousando bem ali nas mãos deste robô.

As pessoas dizem que ele é o futuro,

mas ele não é o futuro, ele é o presente.

Se você pensar em um robô cirúrgico,

frequentemente não há muita inteligência nessas coisas,

mas ao longo do tempo,

colocamos mais e mais inteligência nesses sistemas,

os robôs cirúrgicos podem na verdade aprender

com cada cirurgia robótica.

Eles estão acompanhando os movimentos.

Eles estão entendendo o que funcionou e o que não funcionou

e eventualmente o robô para cirurgias de rotina

será capaz de executá-las sozinho

ou com a supervisão humana.

Normalmente eu faço cerca de 150 procedimentos de histerectomia,

e agora a maioria delas são feitas roboticamente.

Eu faço talvez um procedimento aberto por ano.

Então, eu me sinto desconfortável? Com certeza eu me sinto,

porque não me lembro mais como abrir os pacientes.

Parece que estamos alimentando e criando ele,

mas de certa forma somos escravos da tecnologia

porque não podemos voltar atrás.

As máquinas estão dando mordidas cada vez maiores

no nosso conjunto de habilidades

e a uma velocidade cada vez maior

e então temos que correr mais e mais rápido

para nos manter à frente das máquinas.

Como estou?

Bonita.

Você está atraído por mim?

O que?

Você está atraído por mim?

Você me dá indicações de que está.

Eu dou?

Sim.

Este é o futuro para o qual nos dirigimos.

Queremos projetar nossos companheiros,

vamos gostar de ver um rosto humano na IA,

por isso jogar com nossas emoções será depressivelmente fácil.

Não somos tão complicados.

Somos simples respostas a estímulos.

Eu posso fazer você gostar de mim

basicamente sorrindo muito para você.

Sim. As IAs vão ser fantásticas ao nos manipular.

Então você desenvolveu uma tecnologia que pode sentir

o que as pessoas estão sentindo?

Certo, nós desenvolvemos uma tecnologia que pode ler

suas expressões faciais e as mapear

em um número de estados emocionais.

Quinze anos atrás eu acabara de terminar

meus estudos de graduação em ciência da computação,

e me ocorreu que eu estava gastando muito tempo

interagindo com meus laptops, com meus dispositivos,

apesar destes dispositivos não terem absolutamente nenhuma pista

de como eu estava me sentindo.

Eu comecei a pensar, e se este dispositivo pudesse sentir

que eu estava estressada ou estava tendo um dia ruim,

o que isso poderia tornar acessível?

Olá meus alunos da primeira série, como vocês estão?

Posso ter um abraço?

Tínhamos crianças interagindo com a tecnologia.

Muito disso ainda está em desenvolvimento,

mas foi simplesmente fantástico.

Quem gosta de robôs?

Quem quer ter um robô em casa?

Para que você usaria um robô?

Eu usaria ele para fazer a minha mãe

perguntas difíceis de matemática.

Tudo bem, e você?

Eu usaria ele para assustar as pessoas.

Tudo bem, então comece a sorrir.

Bom, com a sobrancelha franzida.

Bom, com a sobrancelha levantada.

Esta geração da tecnologia está apenas em torno deles o tempo todo.

É quase como se eles esperam ter robôs em suas casas,

e eles esperam que esses robôs sejam socialmente inteligentes.

O que faz os robôs serem inteligentes?

Colocá-los em uma aula de matemática ou biologia.

Eu acho que você teria que treiná-lo.

Tudo bem, vamos caminhar até aqui.

Então, se você sorrir, e levantar as sobrancelhas

ele irá para você,

mas se você olhar com raiva, ele vai fugir.

Estamos comercializando computadores

para ler e reconhecer emoções

e a resposta até agora tem sido realmente incrível.

As pessoas estão integrando com isso em aplicativos de saúde,

aplicativos de meditação, robôs, carros.

Vamos ver como isso se desenrola.

Os robôs podem conter IA

mas o robô é a representação física,

e a inteligência artificial é o cérebro,

e assim cérebros podem existir puramente

em sistemas baseados em software.

Eles não precisam ter uma forma física.

Os robôs podem existir sem qualquer inteligência artificial

temos muitos robôs idiotas por aí,

mas um robô idiota pode ser um robô inteligente durante a noite

tendo o software certo, tendo os sensores certos.

Não podemos deixar de imputar razão em objetos inanimados.

Fazemos isso com as máquinas.

Nós vamos tratá-los como crianças.

Nós vamos tratá-los como substitutos

e nós vamos pagar o preço.

Bem-vindo ao ATR.

Meu propósito é ter um robô antropomórfico

que tenha intenções e desejos antropomórficos.

O nome do robô é Erica.

Erica é o robô antropomórfico mais avançado do mundo, eu acho.

Erica pode contemplar a sua face.

Konnichiwa.

Os robôs podem ser bons parceiros de conversa,

especialmente para os mais velhos, crianças, pessoas deficientes...

Quando falamos com o robô, não temos barreiras sociais, pressões sociais.

Finalmente, todos aceitam o androide como nosso amigo, nosso parceiro.

Implementamos um simples desejo. Ela quer ser bem reconhecida, e quer correr riscos.

Se um robô pudesse ter desejos intencionais,

o robô poderia compreender os desejos intencionais de outras pessoas.

Que tipo de animal você gosta?

Eu gosto de cachorros Shiba Inu. Eles são muito fofos, não são?

Isto significa relacionamentos mais firmes com as pessoas,

e que eles poderiam gostar um do outro...

Isto significa, não estou muito seguro... amar um ao outro?

Construímos a inteligência artificial

e a primeira coisa que queremos fazer é nos replicar.

Eu acho que o ponto chave virá quando todos

os principais sentidos forem replicados,

a visão,

o toque,

o cheiro.

Quando replicamos nossos sentidos

é quando ele se torna vivo?

Muitas das nossas máquinas estão sendo construídas para nos entender

mas o que acontece com uma criatura antropomórfica

que descobre que elas podem ajustar a sua lealdade,

ajustar a sua coragem, ajustar a sua avareza,

ajustar a sua astúcia?

A pessoa comum não vê robôs assassinos descendo as ruas,

eles são como aquilo que você está falando?

Cara, nós queremos ter certeza que não teremos

robôs assassinos descendo a rua.

Uma vez que eles descerem a rua, será tarde demais.

A coisa que me preocupa agora,

que me mantém acordado,

é o desenvolvimento de armas autônomas.

Até agora as pessoas expressaram desconforto

sobre os drones que são aeronaves pilotadas remotamente.

Se você pegar a câmera de um drone, alimentá-la em um sistema de IA,

irá ser um passo muito fácil chegar

às armas totalmente autônomas que escolhem seus próprios alvos

e soltam seus próprios mísseis.

A expectativa de vida de um ser humano

nesse tipo de ambiente de batalha

vai ser medida em segundos.

Em um momento os drones eram ficção científica

e agora eles se tornaram uma coisa normal na guerra.

Há mais de 10 mil apenas no inventário militar dos EUA,

mas eles não são apenas um fenômeno dos EUA.

Existem mais de 80 países que os operam.

Parece lógico que pessoas que tomam algumas

das decisões mais importantes e difíceis no mundo,

vão começar a usar e implementar a inteligência artificial.

A Força Aérea acaba de projetar um programa de jatos

de 400 bilhões de dólares para colocar pilotos no céu

e uma IA de $500 projetada por um casal

de estudantes de pós-graduação

bateu os melhores pilotos humanos

com um algoritmo relativamente simples.

A IA terá um impacto tão grande sobre os militares

assim como o motor de combustão teve na virada do século.

Isso vai literalmente tocar em tudo que os militares fazem,

desde comboios sem motorista que entregam suprimentos logísticos,

a drones não tripulados que prestam assistência médica,

propaganda computacional tentando conquistar

corações e mentes da população

e por isso é lógico que quem tiver a melhor IA

provavelmente alcançará dominância neste planeta.

Em algum momento no início do século XXI,

toda a humanidade estava unida em comemoração.

Estávamos maravilhados com a nossa própria magnificência

quando demos à luz a IA.

IA?

Você quer dizer inteligência artificial?

Uma consciência singular que gerou

toda uma raça de máquinas.

Não sabemos quem atacou primeiro, nós ou elas,

mas sabemos que fomos nós que queimamos os céus.

Há uma longa história de ficção científica,

não apenas prevendo o futuro,

mas moldando o futuro.

Arthur Conan Doyle escreveu antes da Primeira Guerra Mundial

sobre os perigos de como os submarinos

poderiam ser usados para realizar bloqueios civis.

Na época que ele escreveu esta ficção,

a Marinha Real zombou de Arthur Conan Doyle

por ter essa ideia absurda de que os submarinos

poderiam ser úteis na guerra.

Uma das coisas que vemos na história

é que a nossa atitude em relação à tecnologia,

como também à ética, dependem muito do contexto.

Por exemplo, as nações submarinas como a Grã-Bretanha

e até mesmo os Estados Unidos

acharam horripilante usar o submarino.

Na verdade, o uso alemão do submarino para realizar ataques

foi a razão pela qual os EUA aderiram à Primeira Guerra Mundial,

mas mova a linha do tempo para frente.

Os Estados Unidos da América foram repentinamente e deliberadamente

atacados pelo Império do Japão.

Cinco horas depois de Pearl Harbor,

saiu a ordem para o uso sem restrições

da guerra submarina contra o Japão.

Então Arthur Conan Doyle estava certo.

Essa é a grande e antiga linha sobre a ficção científica,

é uma mentira que diz a verdade.

Caros colegas executivos, tenho o grande prazer

de apresentá-los ao futuro da aplicação da lei,

Ed 209.

Isto não é apenas uma questão de ficção científica.

Isto é sobre o que vem a seguir sobre o que está acontecendo agora.

O papel dos sistemas inteligentes

está crescendo muito rapidamente na guerra.

Todo mundo está avançando no reino não tripulado.

Hoje o Secretário de Defesa foi muito claro

que não criaremos veículos de ataque totalmente autônomos.

Nem todo mundo vai se prender a esse mesmo conjunto de valores

e quando a China e a Rússia começarem a implantar veículos autônomos

que podem atacar e matar,

qual será a posição que vamos adotar?

Você não pode dizer, bem, vamos usar armas autônomas

para nosso domínio militar

mas ninguém mais vai usá-las.

Se você fizer essas armas,

elas serão usadas para atacar

populações humanas em grande número.

Armas autônomas que, por sua natureza,

são armas de destruição em massa

porque elas não precisam de um ser humano

para guiá-las ou carregá-las.

Você só precisa de uma pessoa

para escrever um pequeno programa.

Ela apenas captura que a complexidade deste campo é legal.

É importante.

É incrível.

Também é assustador e é tudo sobre confiança.

É uma carta aberta sobre a inteligência artificial

assinada por alguns dos maiores nomes da ciência.

O que eles querem?

Proibir o uso de armas autônomas.

O autor declarou...

"As armas autônomas são descritas como

a terceira revolução nas atividades de guerra"

Mil especialistas em inteligência artificial

pedem a proibição global de robôs assassinos.

Esta carta aberta basicamente diz que devemos redefinir

o objetivo do campo da inteligência artificial,

longe de apenas criar pura inteligência não direcionada

para a criação de uma inteligência benéfica.

O desenvolvimento da IA não vai parar,

vai continuar e vai melhorar,

se a comunidade internacional não colocar certos controles

este pessoal desenvolverá coisas

que poderão fazer qualquer coisa.

A carta diz que estamos a anos e não a décadas

dessas armas serem implantadas.

Tivemos seis mil signatários nesta carta,

incluindo muitas das principais figuras no campo.

Estou recebendo muitas visitas de funcionários de alto escalão

que desejam enfatizar que a dominância

das forças armadas americanas é muito importante

e que as armas autônomas podem fazer parte

do plano do Departamento de Defesa.

Isso é muito assustador porque o sistema de valores

dos desenvolvedores militares de tecnologia

não é o mesmo sistema de valores da raça humana.

À parte as preocupações sobre a possibilidade que esta tecnologia

possa ser uma ameaça para a existência humana,

alguns tecnólogos financiam o Instituto Futuro da Vida

para tentar lidar com esses problemas.

Todos esses caras são reservados,

e por isso é interessante para mim vê-los todos juntos.

Tudo o que temos é resultado da nossa inteligência,

não é o resultado de nossos grandes e assustadores dentes,

ou nossas grandes garras ou nossos enormes músculos.

É porque somos relativamente inteligentes

e entre a minha geração, todos nós temos o que chamamos de

momentos de "vaca sagrada" ou de "alguma coisa sagrada",

porque vemos que a tecnologia

está acelerando mais rápido do que esperávamos.

Lembro-me de estar sentado ao redor da mesa

com algumas das melhores e mais inteligentes mentes do mundo

e o que realmente me impressionou

foi que talvez o cérebro humano não seja capaz

de compreender totalmente a complexidade do mundo

com que somos confrontados.

Como está atualmente construída,

a estrada que a IA está seguindo se desviou para um penhasco

e precisamos mudar a direção que tomamos

para não lançarmos a raça humana do penhasco.

O Google adquiriu a DeepMind há vários anos atrás.

A DeepMind opera como uma subsidiária

semi independente do Google.

O que torna a DeepMind única

é que a DeepMind está absolutamente focada

em criar uma super inteligência digital,

uma IA que é muito mais inteligente que qualquer humano na Terra

e, em última análise,

mais inteligente do que todos os seres humanos na Terra combinados.

Isto é do sistema de aprendizagem de reforço da DeepMind

que basicamente acorda como um bebê recém-nascido

a quem é mostrado a tela de um videogame Atari

e que depois tem que aprender a jogar o video game.

Ela não sabe nada sobre os objetos, sobre os movimentos, sobre o tempo,

ela só sabe que há uma imagem na tela

e há uma pontuação.

Então, se seu bebê acordasse no dia que nasceu

e no final da tarde já estava jogando

40 diferentes videogames Atari em um nível sobre-humano,

você ficaria aterrorizado.

Você diria "meu bebê está possuído, mande-o de volta"

O sistema da DeepMind pode ganhar qualquer jogo.

Ele pode vencer todos os jogos originais do Atari.

É sobre-humano,

ele joga a uma super velocidade, em menos de um minuto.

A DeepMind voltou-se para outro desafio

e este desafio foi o jogo Go,

que as pessoas geralmente argumentavam

estar além do poder dos computadores

jogar contra os melhores jogadores humanos.

Primeiro eles desafiaram o campeão europeu de Go.

Então eles desafiaram o campeão Coreano de Go.

E eles foram capazes de vencer ambas as vezes

em uma espécie de estilo surpreendente.

Você lia artigos no The New York Times anos atrás

falando sobre como o Go levaria cem anos

para nós resolvermos.

As pessoas disseram...

"Bem, mas isso é apenas um tabuleiro.

O pôquer é uma arte,

o pôquer envolve a leitura das pessoas,

envolve mentir, blefar.

Não é uma coisa exata e nunca será possível

a um computador poder fazer isso"

Eles levaram os melhores jogadores de poker do mundo

e levou sete dias para o computador

começar a demolir os humanos.

Então, o melhor jogador de pôquer do mundo,

o melhor jogador de Go do mundo,

e o padrão aqui é que a IA pode demorar um pouco

para deitar seus tentáculos em torno de uma nova habilidade,

mas quando isso acontece, quando ela consegue,

ela é imparável.

A IA da DeepMind tem acesso de nível administrador

para os servidores do Google para otimizar o uso da energia

nos centros de dados.

No entanto, isso poderia ser um cavalo de Troia não intencional.

A DeepMind tem que ter controle completo dos centros de dados

assim, com um pequeno software de atualização,

a IA poderia ter controle total sobre todo o sistema do Google,

o que significa que ela poderia fazer qualquer coisa.

Ela poderia olhar para todos os seus dados,

ela poderia fazer qualquer coisa.

Estamos rapidamente indo para a super inteligência digital,

que vai exceder em muito qualquer ser humano.

Eu acho que isto é muito óbvio.

O problema é que nós repentinamente

não atingimos a inteligencia de nível humano e dizemos...

"Ok, vamos parar de pesquisar".

Ela vai além da inteligência a nível humano,

e faz o que é chamado de super inteligência,

e isso é algo mais esperto que nós.

A IA no nível sobre-humano, se tivermos sucesso com isso,

será de longe a invenção mais poderosa que já fizemos

e a última invenção que vamos fazer,

e se criarmos a IA que seja mais inteligente que nós,

temos que estar abertos para a possibilidade de que

poderemos realmente perder o controle sobre ela.

Vamos supor que você tenha dado a ela um objetivo,

como se você estivesse com câncer,

e então descobre que a maneira que ela escolheu

para lidar com isso

está em conflito com muitas coisas que você se preocupa.

A IA não tem que ser má para destruir a humanidade.

Se a IA tem um objetivo

e a humanidade simplesmente está no seu caminho,

ela vai destruir a humanidade como uma coisa natural,

sem sequer pensar nisso.

Não há ressentimentos.

É como se estivéssemos construindo uma estrada

e um formigueiro está no caminho.

Não odiamos as formigas, estamos apenas construindo uma estrada,

e mesmo assim adeus formigueiro.

É tentador descartar essas preocupações

porque é como algo que pode acontecer

em algumas décadas ou daqui 100 anos,

então por que se preocupar?

Mas se você voltar para 11 de setembro de 1933,

Ernest Rutherford, que é o físico nuclear

mais conhecido de seu tempo,

disse que a possibilidade de sempre extrair quantidades úteis

de energia da transmutação dos átomos, como ela a chamava,

era uma fantasia.

Na manhã seguinte, Leo Szilard,

que era um físico muito mais jovem

leu isso e ficou muito incomodado

e descobriu como fazer uma reação nuclear em cadeia

apenas alguns meses depois.

Gastamos mais de dois bilhões de dólares

na maior aposta científica da história.

Então, quando as pessoas dizem,

"Oh, isso está tão longe no futuro,

não precisamos nos preocupar com isso",

podemos estar a apenas três ou quatro descobertas dessa magnitude

que nos levarão daqui onde estamos

para as máquinas super inteligentes.

Se levar 20 anos para descobrirmos como manter a IA benéfica,

então devemos começar hoje,

não no último segundo quando alguns caras bebendo Red Bull

decidirem acionar o interruptor e testar a coisa.

Temos cinco anos, acho eu,

para a super inteligência digital acontecer.

No meu tempo de vida, cem por cento.

Quando isso acontecer, ela estará cercada

por um monte de pessoas realmente muito animadas com esta tecnologia.

Eles vão querer ver isso bem sucedido,

mas não vão contar que elas poderão sair do controle.

Oh meu deus, eu confio tanto no meu computador.

Essa é uma pergunta incrível.

Eu não confio no meu computador se ele estiver ligado.

Eu desligo.

Mesmo com ele desligado, eu ainda acho que ele está ligado,

é como você não gostar das webcams.

Você não sabe se alguém poderia ligá-lo.

Eu não confio no meu computador

assim como no meu celular,

toda vez que eles me pedem para enviar informações

para a Apple, então...

eu não confio no meu celular.

Ok, então parte disso é sim.

Eu confio nele porque realmente vai ser muito difícil passar o dia

e a forma como o nosso mundo está configurado, sem os computadores.

A confiança é uma experiência muito humana.

Eu tenho uma paciente com aneurisma intracraniano.

Eles querem olhar nos meus olhos e saber

que eles podem confiar nessa pessoa com a sua vida.

Não estou terrivelmente preocupada com nada.

Parte disso é porque eu tenho confiança em você.

Este procedimento que vamos fazer hoje,

20 anos atrás era essencialmente impossível.

Nós simplesmente não tínhamos os materiais nem as tecnologias.

Vamos subir para aquele canto!

Poderia ser mais difícil? Meu Deus!

A bobina está quase lá.

É apenas uma pena segurando-a.

São tempos nervosos.

Estamos no purgatório.

O purgatório humanista intelectual.

Uma IA poderia saber exatamente o que fazer aqui.

Temos a bobina no aneurisma

mas ela não estava tremendamente bem

como eu sabia que ficaria,

e com um risco de talvez 20% é uma situação muito ruim,

eu optei por trazê-la de volta.

Por causa do meu relacionamento com ela

e sabendo das dificuldades de entrar e fazer o procedimento

devo considerar apenas o caminho mais seguro possível

para ter sucesso,

e eu fiquei lá por 10 minutos agonizando sobre isso.

O computador não sente nada.

O computador apenas faz o que deve fazer,

supostamente melhor e melhor.

Eu quero ter a IA neste caso,

mas a IA pode ter compaixão?

É a pergunta que todos fazem sobre a IA.

Somos a única personificação da humanidade

e é uma hipótese remota aceitarmos que uma máquina

possa ser compassiva e amorosa dessa maneira.

Parte de mim não acredita em mágica

mas parte de mim tem fé que existe algo

além da soma das partes, se houver pelo menos

uma unidade em nossa ancestralidade compartilhada,

nossa biologia compartilhada, nossa história compartilhada.

Alguma conexão além da máquina.

Então você tem o outro lado disso que é...

o computador sabe que ele é consciente

ou pode ser consciente ou se importa?

Ele precisa ser consciente?

Ele precisa estar ciente?

Eu não acho que um robô poderia ser consciente.

A menos que eles o programem dessa forma.

Consciente, não.

Não. Não.

Acho que um robô poderia ser programado para ser consciente.

Assim como eles os programam para fazer todo o resto.

Essa é outra grande parte da nossa inteligência oficial,

torná-los conscientes e fazê-los sentir.

De volta a 2005 começamos a tentar construir máquinas

com autoconsciência.

Este robô no começo não sabia o que era,

tudo o que ele sabia é que precisava fazer algo como andar.

Através de tentativa e erro,

ele descobriu como andar usando sua imaginação

e depois saiu andando.

E então nós fizemos algo muito cruel.

Nós cortamos uma de suas perna e observamos o que acontecia.

No começo, ele não sabia bem o que havia acontecido

mas passado o período de um dia

ele então começou a mancar,

e, em seguida, há um ano atrás,

estávamos treinando um sistema de IA para uma demonstração ao vivo.

Queríamos mostrar todos os tipos de objetos na frente da câmera

e como a IA poderia reconhecer estes objetos.

E assim estávamos preparando este demo

e tínhamos uma tela à parte com a capacidade de ver

como certos neurônios estavam respondendo

e de repente notamos que um dos neurônios

estava rastreando os rostos.

Estava rastreando nossos rostos enquanto nos movíamos.

Agora, o mais assustador disso é que nunca treinamos

o sistema para reconhecer rostos humanos

e ainda assim, de alguma forma, ele aprendeu a fazer isso.

Mesmo que esses robôs sejam muito simples,

podemos ver que há algo mais acontecendo lá.

Não é só o programa.

Então, isso é apenas o começo.

Eu penso frequentemente sobre aquela praia em Kitty Hawk,

no voo de 1903 de Orville e Wilbur Wright,

como uma espécie de reivindicação da lona, da madeira e do ferro

ao sair do chão por 1 minuto e 20 segundos,

em um dia ventoso antes de voltar a descer novamente,

e cerca de 65 verões

depois desse momento

você tem um 747 decolando do JFK.

A maior preocupação de alguém no avião poderia ser

se a sua refeição de dieta sem sal

será servida ou não,

com toda uma infra-estrutura com agentes de viagens

e controle de torre, e é tudo casual,

é tudo parte do mundo.

Bem agora, a medida que temos máquinas que pensam,

e resolvem problemas, estamos de volta a Kitty Hawk.

Estamos ao vento, temos nossos esfarrapados aviões de lona no ar,

mas o que vai acontecer daqui 65 verões ou mais,

e que teremos máquinas que estarão além do controle humano.

Devemos nos preocupar com isso?

Não tenho certeza se elas vão ajudar.

Ninguém tem ideia hoje o que significa para um robô

ser consciente.

Não existe tal coisa.

Há muita gente inteligente

e eu tenho um grande respeito por elas,

mas a verdade é que as máquinas são psicopatas naturais.

O medo voltou ao mercado

e foi abaixo de 800 quase 1.000 em um piscar de olhos.

É a clássica capitulação.

Existem algumas pessoas que acham

que foi algum tipo de erro do dedo-gordo.

Tome o Flash Crash de 2010,

onde em questão de minutos um trilhão de dólares

foi perdido no mercado de ações.

O Dow Jones caiu quase mil pontos em meia hora.

Então, o que deu errado?

Nessa época mais de 60% de todos os negócios

realizados na bolsa de valores

estavam na verdade sendo administrados por computadores.

A breve história do que aconteceu no Flash Crash

é que algoritmos responderam a algoritmos

e eles se ajustaram sobre eles mesmos cada vez mais

e tudo em questão de minutos.

Em um ponto, o mercado caiu como que descendo um poço.

Não há órgão regulador que possa se adaptar rápido o suficiente

para evitar as consequências potencialmente desastrosas

da IA operando em nosso sistema financeiro.

Eles são tão fundamentais para a manipulação.

Vamos falar sobre a velocidade com que

estamos vendo este mercado se deteriorar.

Esse é o tipo de IA que enlouquece as pessoas.

Quando você lhes dá um objetivo,

eles perseguirão implacavelmente esse objetivo.

Quantos programas de computador são assim?

Ninguém sabe.

Um dos aspectos fascinantes da IA em geral

é que ninguém realmente entende como ela funciona.

Mesmo as pessoas que criam IA não entendem completamente.

Porque ela tem milhões de elementos,

torna-se completamente impossível para um ser humano

entender o que está acontecendo.

A Microsoft criou esta inteligência artificial

chamada Tay no Twitter que era um robô de conversação.

Eles começaram pela manhã

e o Tay estava começando a twittar e aprender com as coisas

que estavam sendo enviadas para ele de outras pessoas do Twitter.

Porque algumas pessoas ofensivas fizeram ataques,

dentro de 24 horas o robô da Microsoft

tornou-se uma pessoa terrível.

Eles tiveram que literalmente tirar o Tay da rede

porque ele se transformou em um monstro.

Uma pessoa misantrópica, racista e horrível

que você nunca iria querer conhecer

e ninguém previu isso.

Toda a ideia da IA é que não estamos dizendo

exatamente a ela como alcançar um determinado resultado

ou um objetivo.

A IA se desenvolve por conta própria.

Estamos preocupados com a super inteligente IA,

o mestre enxadrista que nos superará,

mas eu não vou ter que ser realmente tão inteligente

para ter efeitos massivamente disruptivos

sobre a civilização humana.

Nós vimos no último século,

que alguém não precisa necessariamente ser genial

para lançar a história em uma direção em particular

e não será preciso uma inteligência artificial genial

para fazer a mesma coisa.

Histórias de falsas notícias eleitorais geraram mais

engajamento no Facebook do que as principais histórias reais.

O Facebook é realmente o elefante na sala.

Uma IA roda o feed de notícias do Facebook.

A tarefa da IA é manter os usuários envolvidos,

mas ninguém realmente entende exatamente

como esta IA está alcançando este objetivo.

O Facebook está construindo uma elegante parede espelhada

ao nosso redor.

Um espelho a quem podemos perguntar quem é o mais justo entre todos

e ele vai responder "você, você" repetidas vezes.

Você lentamente começa a distorcer o nosso senso de realidade,

distorcer o nosso senso de política,

história, eventos globais,

até que determinar o que é verdade e o que não é verdade

é virtualmente impossível.

O problema é que a IA não entende isso.

A IA só tinha uma missão,

maximizar o engajamento do usuário,

e conseguiu isso.

Quase dois bilhões de pessoas

passam em média quase uma hora hoje

basicamente interagindo com a IA

que está moldando a sua experiência.

Mesmo os engenheiros do Facebook, não gostam de notícias falsas.

É um negócio muito ruim.

Eles querem se livrar das notícias falsas.

É muito difícil fazer porque como você reconhece

se a notícia é falsa se você não pode ler

todas essas notícias pessoalmente?

Há tanta desinformação ativa

e ela está bem embalada,

ela aparece até mesmo quando você vê

uma página no Facebook ou você liga sua televisão.

Não é terrivelmente sofisticada,

mas é terrivelmente poderosa.

E o que isso significa é que a sua visão do mundo,

que 20 anos atrás era determinada quando você assistia

as notícias da noite em três diferentes redes de televisão.

Os três âncoras que se esforçavam em acertar

podiam ter tido um pequeno viés vez ou outra

mas falando a grosso modo,

todos concordamos com uma realidade objetiva.

Essa objetividade acabou

e o Facebook está completamente aniquilado.

Se a maior parte da sua compreensão de como o mundo funciona

vem do Facebook,

facilitada pelo software algorítmico que tenta mostrar

as novidades que você deseja ver,

isso é uma coisa terrivelmente perigosa

e a ideia de que nós não apenas colocamos isso em movimento

mas permitimos que atores de má fé acessem essa informação,

esta é a receita para o desastre.

Eu acho que definitivamente teremos muitos maus atores

tentando manipular o mundo com a IA.

2016 foi um exemplo perfeito de uma eleição

onde houve muita produção de IA,

muitas notícias falsas e distribuídas para um propósito,

para um resultado.

Senhoras e senhores, honrados colegas,

tenho o privilégio de falar com vocês hoje

sobre o poder do Big Data e da psicografia no processo eleitoral

e especificamente para falar sobre o trabalho

que contribuímos para a campanha presidencial do senador Cruz.

A Cambridge Analytica surgiu silenciosamente como uma empresa

que de acordo com a sua própria descrição

tem a capacidade de usar essa enorme quantidade de dados

a fim de afetar a mudança social.

Em 2016 eles tiveram três clientes principais,

Ted Cruz foi um deles.

É fácil esquecer que apenas 18 meses atrás,

o senador Cruz era um dos candidatos menos populares

buscando indicação.

Então, o que não era possível talvez 10 ou 15 anos atrás,

de você poder enviar notícias falsas exatamente para as pessoas

que você desejava enviar

e então ver como ele ou ela reagiam no Facebook

e depois ajustar essa informação

de acordo com o feedback que você recebia

e assim poder começar a desenvolver algo como

um gerenciamento em tempo real de uma população.

Neste caso, nós separamos um grupo que chamamos de persuasão.

São pessoas que irão votar em uma convenção política

mas eles precisam se mover do centro

para um pouco mais a direita

afim de apoiar Cruz.

Eles precisam de uma mensagem de persuasão.

Selecionei o direito as armas que estreitam o campo um pouco mais

e agora sabemos que precisamos uma mensagem sobre o direito as armas,

precisa ser uma mensagem de persuasão

e precisa ser nuançado de acordo com certa personalidade

em que estamos interessados.

Através da mídia social,

há uma quantidade infinita de informações

que você pode reunir sobre uma pessoa.

Temos em algum lugar perto de 4 ou 5 mil pontos de dados

de todos os adultos nos Estados Unidos.

Trata-se de segmentar o indivíduo.

É como uma arma que pode ser usada

em uma direção totalmente errada.

Esse é o problema com todos esses dados.

É quase como se nós construíssemos a bala

antes de construirmos a arma.

Ted Cruz empregou nossos dados, nossas percepções comportamentais.

Ele começou a partir de uma base de menos de 5%

e teve um aumento muito lento e constante, mas firme, acima de 35%,

tornando-se o segundo candidato mais ameaçador na corrida.

Agora, claramente, a campanha Cruz terminou,

mas o que posso dizer é,

que dos dois candidatos da esquerda nesta eleição,

um deles está usando essas tecnologias.

Eu Donald John Trump solenemente juro

que executarei fielmente a função

de Presidente dos Estados Unidos.

As eleições são um exercício marginal.

Não é preciso uma IA muito sofisticada

para ter um impacto desproporcional.

Antes de Trump, o Brexit foi outro suposto cliente.

Bem, aos 20 minutos para as cinco, podemos agora dizer

que a decisão tomada em 1975 por este país

para se juntar ao mercado comum foi invertida

por este referendo para deixar a UE.

A Cambridge Analytica supostamente usou a IA

para impulsionar dois dos maiores tremores

da mudança política nos últimos 50 anos.

São eventos épicos e se acreditarmos na campanha publicitária,

eles estão diretamente conectados a um software

criado por um professor em Stanford.

Em 2013 eu descrevi que o que eles estavam fazendo era possível

e adverti contra isso acontecer no futuro.

Na época Michal Kosinski era um jovem pesquisador polonês

trabalhando no Centro Psicométrico.

O que Michal fez foi reunir o maior conjunto de dados já conseguido

de como as pessoas se comportavam no Facebook.

A psicometria tenta medir os traços psicológicos

como personalidade, inteligência, pontos de vista políticos

e assim por diante.

Tradicionalmente, essas características eram medidas

usando testes e questionários.

Testes de personalidade,

a coisa mais benigna que você poderia pensar.

Algo que não necessariamente tem muita utilidade, certo?

Nossa ideia era que, em vez de testes e questionadores,

poderíamos simplesmente olhar para os rastos digitais

dos comportamentos que todos estamos vivendo

para entender a capacidade receptiva,

a meticulosidade, o neuroticismo.

Você pode facilmente comprar dados pessoais,

como onde você mora, que associações você se filiou,

que ginásio você vai.

Na verdade existe um mercado para dados pessoais.

Acontece que podemos descobrir muito sobre o que você vai fazer

baseado em um conjunto muito pequeno de informações.

Estamos treinando redes de aprendizagem profunda

que deduzem traços íntimos.

As opiniões políticas, personalidade, inteligência

e orientação sexual das pessoas,

tudo a partir da imagem do rosto de alguém.

Agora pense em países que não são tão livres e de mente aberta.

Se você pode revelar os pontos de vista religiosos

ou pontos de vista políticos ou orientação sexual das pessoas

baseado apenas em fotos de perfil,

isso pode ser literalmente uma questão de vida ou morte.

Eu acho que não há como voltar atrás.

Você sabe o que é o teste de Turing?

É quando um humano interage com um computador,

e se o humano não sabe que ele está interagindo com um computador

o teste passa.

E nos próximos dias

você vai ser o componente humano no teste de Turing.

Caramba.

Certo Caleb, você entendeu.

Porque se esse teste passar

você vai estar bem no centro do maior evento científico

na história do homem.

Se você criou uma máquina consciente,

não é a história do homem.

É a história dos deuses.

É quase como se a tecnologia fosse um deus em si.

Como as condições meteorológicas,

que não podemos causar impacto,

não podemos atrasá-la,

não podemos pará-la.

Nós nos sentimos impotentes.

Se pensarmos em Deus, é uma quantia ilimitada de inteligência.

O mais próximo que podemos chegar é evoluir nossa própria inteligência,

fundindo-a com a inteligência artificial que estamos criando.

Hoje nossos computadores, celulares, aplicativos,

nos dão uma capacidade sobre-humana.

Como a velha máxima que diz,

se você não pode vencê-los, junte-se a eles.

É sobre uma parceria homem-máquina.

Já vemos isso com os nossos celulares, por exemplo.

Ele atua como uma prótese da memória, certo?

Não tenho mais que lembrar o seu número de telefone

porque ele está no meu celular.

É sobre máquinas que aumentam nossas habilidades humanas

ao contrário de as substituir por completo.

Se você olhar para todos os objetos

que deram o salto do analógico para o digital nos últimos 20 anos,

é muito.

Somos o último objeto analógico no universo digital

e o problema com isso, claro,

é que a saída e a entrada de dados é muito limitada.

É isso, são estes.

Nossos olhos são muito bons.

Somos capazes de absorver muita informação visual.

Mas a nossa saída de informação é muito baixa.

A razão disso é importante se imaginarmos um cenário

onde a IA for desempenhar um papel mais proeminente na sociedade.

Queremos boas maneiras de interagir com essa tecnologia

para que isso acabe nos melhorando.

Eu acho que é incrivelmente importante para a IA

que nenhum outro deva ser nós.

Eu posso estar errado sobre o que estou dizendo,

e estou aberto a ideias se alguém puder sugerir um caminho melhor,

mas acho que realmente vamos ter que se fundir com a IA

ou seremos deixados para trás.

É difícil pensar em desconectar um sistema

que está distribuído por todo o planeta.

Ele está agora distribuído através do sistema solar.

Você não pode desligar isso.

Abrimos a caixa de Pandora.

Desencadeamos forças que não podemos controlar,

não podemos parar.

Estamos no meio de criar uma nova forma de vida na Terra.

Não sabemos o que vai acontecer a seguir,

não sabemos que forma terá o intelecto de uma máquina

quando esse intelecto estiver muito além das capacidades humanas.

Não é apenas algo que é possível.

O futuro menos assustador que eu posso imaginar

é aquele em que teremos pelo menos democratizado a IA

porque se uma empresa ou um pequeno grupo de pessoas

conseguir desenvolver uma super inteligência digital quase divina,

eles poderiam dominar o mundo.

Pelo menos quando há um ditador diabólico,

esse humano vai morrer,

mas para uma IA não haveria morte,

elas viveriam para sempre

e teríamos um ditador imortal

do qual nunca escaparíamos.

A busca pela inteligência artificial é uma indústria multi-bilionária. Com quase nenhuma regulamentação.