Original subtitles

E quando se produz e distribui abundância,

não se pode diferenciar a renda, pois seria uma quantia grande a todos.

Com um sistema de inventário automático e contínuo,

você sabe onde ele é consumido, por quem e quando.

Quanto à condução dos assuntos humanos tal como se entende hoje

como vem sendo conduzida por milhares de anos

precisamos compreender ser necessário, pela primeira vez,

planejar um governo que não se baseia no comportamento humano,

mas, sim, no que é inanimado.

Nunca poderíamos ganhar uma eleição

pois éramos uma minoria.

É aí que a tecnologia se torna uma alternativa para a política.

Essa tecnologia pode acelerar radicalmente o que as forças armadas podem fazer.

Criaremos robôs baseados em IA que suprirão as necessidades humanas.

A verdade é que não os desligamos de fato.

Não são pessoas olhando nas câmeras.

É a IA que está olhando.

A polícia terá que se comportar melhor, porque estaremos gravando,

observando e reportando tudo.

Os civis também vão se comportar melhor.

Porque estaremos gravando e reportando tudo o que acontece.

Minha previsão é termos mais robôs do que humanos.

Acho que será tão grande ou maior quanto a Revolução Industrial.

Continuamos soando todos os alarmes sobre isso.

E o mundo não está nos levando a sério.

O principal risco da IA é a instabilidade social,

a disfunção e a violência.

A IA vai, provavelmente, nos levar ao fim do mundo.

A maioria dos países do mundo são receptores de tecnologia

e não têm escolha porque não conseguem desenvolvê-la.

Precisam aceitar a tecnologia produzida por outros.

E são países que não têm armas nucleares.

E precisam aceitar o que vem dos EUA,

ou talvez da China,

talvez com algumas exceções.

No geral, eles não têm poder de barganha.

Como eles têm essa tecnologia abrangente,

é bem provável que sua capacidade de vigilância,

seja maior do que a de qualquer ditador do passado.

Isso mostra o quanto essas empresas são poderosas.

Se você for a um país pequeno da América Latina ou da África,

as empresas os ignoram

porque são elas que têm o poder, não os países.

E acho que elas têm ambições maiores.

Não querem só território, querem controlar nossas mentes, o espaço sideral.

Controlar o modo de fazermos as coisas.

Estão tentando criar um mundo diferente.

Acha que a postura de Musk vem de uma insegurança sobre à xAI?

A vida dele gira em torno de insegurança. Sinto pena dele.

-Tem pena dele? -Tenho, de verdade.

Não acho que seja feliz. Tenho pena.

Eu sou a razão pela qual a OpenAI existe.

Os humanos não são os mais rápidos, não são os mais fortes,

mas são os mais inteligentes. E isso nos fez controlar o planeta.

Foi o que nos permitiu dominar o mundo inteiro

e construir a sociedade incrível que temos hoje,

a qual nenhum outro animal chega perto em comparação.

E essa sempre foi a linha divisória entre nós e os animais,

nós e as plantas, e as ferramentas.

E tal linha está ficando difusa.

Eu sou Liv Boeree.

Sou uma das jogadoras de pôquer mais bem-sucedidas de todos os tempos.

Achávamos que estávamos seguros.

Não imaginávamos que uma IA sobre-humana

viesse por mais dez, vinte anos.

E a primeira IA sobre-humana surgiu em 2017.

Ela se chamava Libratus

e venceu quatro dos nossos melhores jogadores.

De forma bem decisiva.

Então, foi um momento de abrir os olhos.

A primeira vez que um computador venceu um humano em um jogo

foi no "Jogo-da-velha".

Por volta de 1953.

E depois, no Xadrez.

O Xadrez sempre foi apresentado como epítome da inteligência humana.

Algo que pessoas inteligentes faziam.

Nessa ideia de classificar pessoas ao longo de uma escala,

os enxadristas são o topo.

Em 1997, Deep Blue venceu Garry Kasparov, o campeão mundial.

Foi um grande acontecimento.

Gary não está... Ele parece...

Ele parece estar revoltado. Parece estar... Não, ele...

Deep Blue... Kasparov...

depois de ver o movimento C4... desistiu?

E então, em 2015, Go.

O jogo de Go, que é mais complexo do que o Xadrez.

Mais uma vez, os humanos perderam para uma IA.

Voltaremos para o quinto jogo final na terça-feira.

Quando jogamos contra Lee Sedol, o sistema era treinado com dados humanos,

com milhões de partidas jogadas por especialistas humanos.

Mas encontramos um novo algoritmo, com uma abordagem mais elegante,

que eliminou todo o conhecimento humano e começou do zero.

Isso se tornou um projeto que chamamos de AlphaZero.

"Zero" significando "zero conhecimento humano" no processo.

Antes, quando se criavam programas de xadrez,

havia muito conhecimento humano sobre o jogo incorporado a eles.

O AlphaZero não tinha nada disso.

Não aprendeu com dados humanos, mas com seus próprios jogos.

Tornou-se seu próprio professor.

O AlphaGo levava meses para treinar.

mas o AlphaZero podia começar de manhã, jogando aleatoriamente,

e, até o meio da tarde, já estaria em nível sobre-humano.

E até a hora do jantar, seria a entidade do Xadrez mais forte de todas.

Você não precisa de toda a história da humanidade, sabe?

Ou ter jogado essas partidas,

ter aprendido tudo o que os humanos sabiam sobre elas.

Você só precisa do computador jogando contra si mesmo bilhões de vezes.

Caí em uma crise de identidade quando isso aconteceu.

Pensei "Uau, qual é o lugar da humanidade neste mundo

se até mesmo nossos amados jogos

podem ser resolvidos por um PC, por uma IA,

com treinamento, dados suficientes

e capacidade de cálculo? O que isso significa para nós?".

Tive uma conversa interessante com alguém do Brasil,

que havia trabalhado em uma cidade pequena como fotógrafo, em um jornal.

Ao escrever seus textos, ele entregava-os à editora do jornal.

E ela recebia o maior salário da equipe porque sabia escrever bem.

Podia corrigir a gramática, ajustar o texto, e mandá-lo para a gráfica.

Como ele destacou nessa conversa,

ela agora não existe como profissão.

Esse trabalho pode ser feito em um estalar de dedos

com um chatbot gratuito.

Imagine esse trabalho multiplicado mil vezes pela economia.

Todos os empregos que pensávamos precisarem de humanos

serão automatizados.

Estamos vivendo a revolução em que o mundo está mudando rápido.

E a IA, como tecnologia,

nos permite, como humanidade,

fazer coisas de forma mais eficiente.

E as pessoas que não usam IA perderão seus empregos,

mas as que usam serão mais eficientes e produtivas.

Creio ter muitas coisas boas a fazer com a IA,

são ferramentas muito poderosas.

Mas preciso deixar claro que a IA substitui empregos.

Quem afirma o contrário está errado.

Ela vai tirar os empregos.

Muitas pessoas vão encontrar outros empregos ou outros jeitos de...

talvez, mas...

alguém tem um plano?

Se essa evolução acontecer mais rápido

do que a capacidade da sociedade de se adaptar a ela,

isso vai gerar um choque enorme,

o que é muito disruptivo e acabará sendo muito perigoso.

Nós vemos um futuro em que a inteligência é um serviço,

como eletricidade ou água,

e as pessoas a compram de nós por meio de um medidor

e a usam para o que quiserem fazer.

Muitos dos setores de empregos de colarinho branco,

muito do que fazem, os modelos de IA já executam bem, sem intervenção.

É difícil imaginar não haver impacto nesses empregos,

e me preocupa pois será um impacto amplo, e mais rápido

do que o que vimos com tecnologias anteriores.

Não é como se houvesse só uma empresa liderando essa mudança.

Temos o Gemini do Google, o Claude da Anthropic, e tantos outros por aí.

E eles começaram, aparentemente, apenas como geradores de texto.

É impressionante como se tornaram multifuncionais tão rápido.

E como conseguem aprender coisas novas também.

Ferramentas moldam a sociedade. Ferramentas movem pessoas.

E se tivermos o ideal de viver em uma sociedade democrática,

que age para proteger nosso bem-estar

e leva em conta os valores humanos com os quais concordamos,

não é o que acontece na indústria de tecnologia.

A sociedade, coletivamente, transfere uma parte da tomada de decisões

para esse sistema muito poderoso, que aprende a partir de nós.

Nosso software de armas está em toda situação de combate existente.

Não queremos nos ver em um filme do James Cameron,

não queremos "O Exterminador do Futuro".

Há pessoas que não têm voz neste debate,

pessoas afetadas pelo uso dessas ferramentas.

Sem voz sobre como as ferramentas se desenvolvem e o que importa nelas.

Como não nos preocuparmos com isso?

Talvez isso seja a coisa mais importante que acontece no mundo agora.

E há um número pequeno de pessoas

que estão tomando as decisões sobre como direcionar essa tecnologia.

Obviamente importa quem são essas pessoas.

Eu não elegi essas pessoas, não sei os seus valores,

não sei se correspondem aos meus.

A maior surpresa para mim,

foram as personalidades dessas pessoas.

Por exemplo, até onde é possível ser excêntrico?

Pelo jeito, não há limites.

E ele fica bem abaixo da famosa Ponte do Brooklyn.

Estamos passando por baixo dela.

Tem bastante lixo por aqui.

Há quanto tempo estão aí?

-Ah, sim. -Não, não.

-Minha nossa! -Sim.

A imagem perturbadora do local acaba de chegar.

Aquele é o World Trade Center e temos relatos desta manhã

de que um avião colidiu com uma das torres do World Trade Center.

Direcionei os sistemas de inteligência e de aplicação da lei

para encontrar os responsáveis e fazê-los pagar.

Esta é uma empresa construída para tempos difíceis.

Tempos ruins significam finanças sólidas.

Tempos ruins são bons para a Palantir,

porque desenvolvemos produtos robustos, feitos para o perigo.

E algo como a Palantir é a chave para deter ataques terroristas.

Jason, é você?

O governo dos EUA coleta tanta informação sobre todo mundo

que encontrar o que é útil é como achar uma agulha num palheiro.

Peter Thiel, o fundador, era uma espécie de padrinho dessa virada

em direção ao trabalho militar no Vale do Silício

e a uma visão mais belicosa.

Depois do 11 de setembro, ele conseguiu um contrato com a CIA,

com o capital de risco que se chamva IN-Q-TEL.

No 11 de setembro, parte do problema era que o FBI tinha informações,

a CIA tinha informações.

Eles não cruzaram esses dados,

ou poderiam ter prevenido os ataques.

Thiel disse: "Posso resolver isso pra vocês".

"Criarei um sistema sofisticado o suficiente

para todos acessarem os dados".

A Palantir, até onde eu sei, não fez nada de benéfico.

Eles estão no negócio para fazer guerra,

fazer vigilância e ganhar dinheiro com as duas coisas.

A IA sendo usada para fins militares e de vigilância me assusta.

Me assusta muito.

E só agora as pessoas estão começando a se atentar para isso.

A Palantir é uma empresa controversa e por razões muito boas.

Direi algo controverso, não me tirem do contexto no documentário,

mas acho que armas são importantes.

Governos devem ter armas.

Devemos ter armas boas.

A questão das armas é

se tiver armas suficientes, nunca precisará usá-las.

Mas se tiver poucas, vai precisar usá-las.

Essa é a lógica da dissuasão.

Um elemento essencial para a manutenção da paz é o nosso aparato militar.

Nossas armas devem ser poderosas e prontas para uso imediato,

para que nenhum agressor se sinta tentado a arriscar a sua própria destruição.

Acho que o setor de tecnologia está tentando criar

não só um novo complexo militar-industrial,

mas também substituir o antigo.

Durante anos, as grandes empresas, como Lockheed Martin e General Dynamics,

que fabricavam as grandes plataformas, os navios, aviões e mísseis, dominaram.

Elas recebiam um de cada três dólares que o Pentágono destinava a armamentos.

E, quando surgia uma empresa menor, como uma empresa de cibersegurança,

as grandes a compravam.

Mas então surgiram a Palantir e a SpaceX,

comandadas por bilionários.

Por isso, elas não podiam comprá-las.

Além disso, elas oferecem armas diferentes,

movidas por inteligência artificial e aprendizado de máquina.

A época em que a tecnologia buscava conectar o mundo, torná-lo um lugar melhor

e se dirigir ao consumidor acabou.

Agora vivemos uma era de maior incerteza e risco.

E o principal cliente das empresas de tecnologia é o governo.

No início do Vale do Silício,

sem o Pentágono, não haveria Vale do Silício,

devido ao desenvolvimento dos computadores, da internet etc.

Mas chegou um momento em que as empresas podiam lucrar mais com produtos de consumo

e trabalhar com o Pentágono era complicado.

E havia uma geração de profissionais da tecnologia

que não queria fabricar armas.

O que Alexander Karp chama de "República Tecnológica"

é a ideia de que o Vale do Silício se desviou do caminho,

dedicou tempo demais aos apps de redes sociais,

e agora precisa voltar aonde tudo começou:

o Pentágono, o Departamento de Guerra e o complexo militar-industrial.

Eles querem um grande sucesso.

E, para isso, precisam do Pentágono.

Conversei com uma jornalista que pesquisava a Palantir

para entrevistar o diretor de tecnologia da empresa

Ela perguntou: "Eles fabricam armas?

Parece que só fazem coisas que conectam outras coisas".

Como disse um lobista, eles não fabricam coisas que explodem e matam pessoas.

Só nos ajudam a encontrar as pessoas

para serem mortas por armas de outros.

Sua empresa ajudou a localizar e matar Osama Bin Laden?

Quando você abre o jornal ou vê notícias sobre esse tipo de coisa,

há dois terços de chance, a depender do país envolvido,

de que minha empresa tenha participado.

Tratam a guerra como um jogo.

É aquilo de "veja o que nossa tecnologia fez aqui ou ali."

Eles se empolgam com isso,

mas não sentem remorso por estarem matando seres humanos inocentes.

E acho que esse talvez seja o aspecto mais deles.

Estamos fazendo e estão gostando tanto quanto eu.

Por exemplo, um dos conjuntos de programas deles

ajudou Israel a aumentar o número de alvos que conseguia atingir

em determinado período em Gaza.

Eu falei com uma pessoa que trabalhou para a Palantir.

Ela me disse que o "evento de Gaza", como foi chamado,

foi empolgante aos tecnólogos.

Disse: "O que acontece lá é terriível,

mas foi fantástico para nós". Eu disse: "Continue, me explique isso".

"Foi fantástico para mim pois quando se bombardeia massivamente,

em uma região densamente povoada, as pessoas fazem muitas coisas".

E apontou para o meu celular, que estava ali, e disse:

"Seu celular está parado agora. Ele é inútil para nós.

Só quando se desloca é que ele produz dados

que podemos usar para treinar os algoritmos".

É fato que quando se observa o mundo pela ótica do aprendizado de máquina,

especialmente neste momento,

com a ideia de que modelos melhores devem ser maiores,

fica fácil enxergar o mundo como um fonte de dados.

"Quando se bombardeiam pessoas em uma região populosa como Gaza,

se elas não morrem, correm, tentam escapar,

são deslocadas, fazem ligações, tentam achar seus familiares,

correm para o hospital que já não existe,

correm ainda mais.

Há muito movimento e podemos treinar os algoritmos".

Você descreve alguém empolgado com os bombardeios em Gaza

pois isso significa obter mais dados?

Isso é horrível.

Pessoas dessa mentalidade, que tentam controlar a política externa,

vão matar os outros.

Eles só se importam consigo mesmas. Querem governar o mundo.

Não se importam conosco.

Estão desenvolvendo intensamente suas operações de influência política.

Empresas como a Palantir

tomam uma parcela cada vez maior do aparato militar e de inteligência,

e passam suas capacidades para o setor privado,

tornando o exército cada vez mais mercenário.

Acho que é algo muito perigoso.

Esta noite, peço a todos os meus compatriotas americanos

que se levantem e votem em Donald Trump.

E é como faremos isso.

Nos conselhos de governo, devemos nos precaver

contra a aquisição de influência indevida,

buscada ou não, pelo complexo militar-industrial.

Para empresas como a Palantir, a recompensa não é só o dinheiro,

ela inclui poder político.

Assim que se controla o aparato de inteligência

se controla a inteligência militar e coisas do gênero,

também se torna, em grande medida, insubstituível.

Você adquire poder político.

Nunca venceríamos uma eleição pois éramos uma minoria limitada.

Mas talvez fosse possível mudar unilateralmente o mundo

sem precisar convencer, implorar e suplicar a pessoas

que não concordariam com você,

por meios tecnológicos.

E é aí que considero a tecnologia uma incrível alternativa à política.

Quando pensamos na Microsoft, no Google ou na Palantir,

deveríamos pensar mais na Cia. das Índias Orientais.

A Microsoft é mais um Estado-nação do que uma empresa.

Ela tem diplomatas.

Ela envia representantes para negociar com presidentes de outros países.

O mesmo vale para todas big techs.

Suas economias são maiores que as de muitos Estados-nação.

A Microsoft ganha mais dinheiro do que muitos Estados-nação.

Elas têm mais poder político do que muitos Estados-nação.

Conversei com políticos de economias grandes de países do G20

e eles disseram: "Sim, a Microsoft tem mais poder do que nós."

Se Eisenhower fizesse hoje o discurso sobre o complexo militar,

faria advertências semelhantes sobre empresas

que talvez precisaemos para a defesa, mas que ameaçam a democracia.

Porém, havia outra parte daquele discurso que foi esquecida.

Embora devamos respeitar a pesquisa e as descobertas científicas,

também precisamos estar atentos ao perigo

de que as políticas públicas se tornem

prisioneiras de uma elite científico-tecnológica.

Eles acham que sua tecnologia restaurará a supremacia global dos Estados Unidos.

E é, é quase como se acreditassem ser deuses tecnológicos.

Várias pessoas muito envolvidas com a inteligência artificial

a enxergam como um mecanismo para o transumanismo,

para transcender a carne mortal,

e promover a criação de uma espécie sucessora

ou algum tipo de fusão entre mente e máquina.

Você acha que tudo isso é apenas uma fantasia irrelevante?

É algo que o preocupa?

-Acho que... -É, sim...

Quer que a humanidade continue existindo, certo?

-Está hesitando. Sim? -É, eu... Não sei, eu iria...

Eu gostaria...

-Hesitou muito. -É que são...

-Hesitou muito. -É que são muitas questões.

A humanidade deveria sobreviver?

-Sim. Mas... -Certo.

Eu também gostaria que...

E-Eu também gostaria que...

que ressolvêssemos isso radicalmente.

-Certo. -E, bom, é sempre,

eu não sei, hã...

Sabe, o transumanismo...

tem como ideal essa transformação radical,

na qual seu corpo humano natural é transformado em um imortal.

Queremos que você consiga mudar seu coração,

sua mente e todo o seu corpo.

O transumanismo não consiste apenas em mudar o corpo,

mas também deve transformar a alma.

Eles também querem criar uma rede global que não seja controlada pelos governos.

Por isso, eles negociam com governos para obter um território sem regulação.

Em Honduras, eles têm um local

onde pesquisam como Thiel poderia viver para sempre.

Querem criar esses locais no mundo inteiro

e conectá-los entre si, sem controle governamental.

Eles têm ideias para automatizar a educação,

a medicina, ou criar juízes de inteligência artificial.

Estão tentando criar um mundo diferente,

muito inspirado na ficção científica.

Os players mais ruidosos e com as maiores avaliações,

pertencem ao chamado Tescrealismo.

Uma sequência de ideologias que reúne transumanismo

extropianismo, singularitarianismo, cosmismo, racionalismo,

altruísmo eficaz e longoprazismo.

Elas foram agrupadas a partir do trabalho de Timnit Gebru e Émile Torres,

que identificaram as conexões entre essas ideologias.

Suas origens remontam à eugenia.

Trata-se da ideia de que o destino da humanidade

segundo essa ideologia,

seria viver entre as estrelas como simulações digitais.

Esse tipo de ideologia sugere

que o objetivo final deles está em um futuro distante,

quando a galáxia terá sido colonizada

e transformada em grandes computadores

que abrigariam vidas digitais

vividas em um tipo de fusão pós-humana

entre nosso corpo e as tecnologias conectadas.

O maior perigo está na mente desses líderes do setor tecnológico.

Porque Thiel quer viver para sempre.

Musk quer colonizar o espaço.

Assim, Elon Musk começou a gastar muito dinheiro

e ajudou a eleger Trump.

Quando chegar a hora decisiva, suponhamos que criem uma superinteligência digital

uma inteligência quase divina. Bem, quem terá o controle?

Muitos americanos são fascinados pela tecnologia.

Quando Elon Musk disse:

"Vou começar do zero, colocar satélites no espaço

e superar a Boeing e a Lockheed Martin".

e depois conseguiu,

as pessoas pensaram: "Ele é capaz de qualquer coisa".

Sua empresa lança a maioria dos satélites militares americanos.

Estão construindo a chamada Starship,

capaz de colocar mais carga no espaço de uma só vez

que qualquer foguete da história.

O Pentágono acredita

que com uma corrida espacial contra a China, isso será crucial.

Ele lança todos esses satélites

que são usados não apenas para determinar alvos militares

mas também o sistema bancário, e o que fazemos

pelos nossos celulares.

Assim, sua influência vai além do governo e chega ao setor civil.

E gastar 250 milhões de dólares para eleger alguém

é algo sem precedentes.

Sim, a tecnocracia está avançando,

não apenas na costa do Pacífico, mas por todo este continente.

E a simbolização está fazendo o trabalho.

Então, o que isso exige?

Exige um governo ou uma governança, mais precisamente,

de uma ordem diferente de tudo que tivemos antes.

Não precisamos de um policial parado mandando em nós,

protegendo quem tem dinheiro, daqueles que não o tem.

A única razão de precisarmos disso, só o que precisamos fazer

é operar as máquinas que nos dão nosso padrão de vida

e garantir que elas funcionem.

E do que precisamos para operá-las?

Colocar nesses cargos as pessoas mais capacitadas

para exercer essas funções. Por quê?

Pelo mesmo motivo dos passageiros de um avião

não se reúnem antes da decolagem para eleger o piloto.

Esqueçam a natureza humana. Isso nem sequer existe.

É o comportamento humano.

Não importa sua altura, seu porte físico,

o que você é ou a cor da sua pele.

Diante de determinadas circunstâncias, você se comportará de tal maneira.

Elon Musk e Grimes, deram as boas-vindas ao primeiro filho do casal nesta semana.

Logo depois, revelaram o nome do bebê.

Escreve-se XÆA12.

"X" é apenas a letra "X".

E o "Æ" é pronunciado "Ash".

Já o "A-12" foi minha contribuição.

Devemos ter cuidado com a IA.

Se eu fosse apontar qual é nossa maior ameaça existencial,

deve ser ela.

Com a IA, estamos invocando o demônio.

Sabe aquelas histórias em que há alguém com um pentagrama,

e a água benta e ele tem certeza de que pode controlar o demônio.

Vai dar certo.

Isso é importante de se entender.

As IAs atuais não são como os programas tradicionais.

Um programa tradicional é escrito linha por linha por um engenheiro.

Mas não é assim que a inteligência artificial funciona.

É melhor pensar nessas tecnologias como cérebros alienígenas,

e não como programas.

Algo mais parecido com uma sala de controle

onde alguns engenheiros observam telas com números e gráficos

e fazem pequenos ajustes aqui e ali.

Os engenheiros ficam apenas observando

torcendo para que funcione como desejam.

É parecido com observar algo crescer em uma placa de Petri

do que construir você mesmo cada uma das peças.

Eu era amigo de Larry Page.

Ficava na casa dele, e conversávamos sobre IA até tarde da noite.

Eu insistia para ter cuidado com os perigos da IA.

Na época, o Google, após adquirir a DeepMind,

concentrava os especialistas em IA.

Também tinha muitos computadores e muito dinheiro.

Portanto, o mundo da IA era unipolar.

E nesse mundo unipolar...

a pessoa que o controlava não parecia, na época,

se preocupar com a segurança da IA.

A gota d'água foi Larry me chamar de especista

por defender, a consciência humana em vez das máquinas.

E eu falei: "Bem, sim, acho que sou um especista".

A aspiração da Neuralink a longo prazo

é aperfeiçoar a simbiose entre os humanos e a IA,

aumentando a largura de banda da comunicação.

Mesmo no cenário mais benigno para a IA,

é preciso considerar que ela ficará entediada

esperando você pronunciar algumas palavras.

Se a IA consegue se comunicar a terabits por segundo

enquanto você se comunica a meros bits por segundo,

é como conversar com uma árvore.

E temos de fazer essa simbiose funcionar para que o futuro do mundo

seja controlado pela vontade conjunta dos habitantes da Terra.

Creio ser esse o futuro que queremos,

se ele for a soma da nossa vontade coletiva.

Há momentos na história da Ciência

que um grupo de cientistas contempla sua criação e pergunta:

"O que fizemos?".

Talvez o exemplo mais emblemático sejam os cientistas

que trabalharam no Projeto Manhattan, em 1945.

Agora eu me tornei a Morte, a destruidora de mundos.

Eles escreveram um artigo. Todos podem ler e usá-lo.

Não foi um segredo.

É assim que a pesquisa funciona.

"Atenção é tudo que se precisa".

Começou com esse artigo.

Foi quem mostrou a arquitetura transformer.

O "T" de transformer é o "T" de ChatGPT, por exemplo.

Ele permite que as máquinas prevejam seu próximo token,

a próxima palavra, com eficiência.

Quando as pessoas experimentavam os LLMs mais avançados de cinco anos atrás,

como o GPT-3, certo?

Eles eram divertidos para brincar, mas não tinham muita utilidade.

Então, para deixá-los no jeito, como algo que será útil,

é necessário fazer uma segunda fase.

Eles pegam quase todo o texto que existe na internet pública,

todos os conceitos que os seres humanos já falaram ou escreveram.

Damos a essas IAs tarefas simples.

Basta prever a próxima palavra. Simples.

Mas isso é tão difícil que nesse processo

as IAs pegam muitas outras coisas.

E é aí que o milagre acontece.

Se fizer certo, se der a elas computadores grandes,

fornece imagens, textos, sons,

dá a elas qualquer coisa,

elas conseguem desvendar. E não entendemos como.

Acha que a postura de Musk vem de uma insegurança sobre à xAI?

A vida dele gira em torno de insegurança. Sinto pena dele.

-Tem pena dele? -Tenho, de verdade.

Não acho que seja feliz. Tenho pena.

Eu sou a razão pela qual a OpenAI existe.

A rapidez da adoção do ChatGPT pegou todos de surpresa.

Altman e a OpenAI não esperavam

e não estavam prontos, na verdade, para tantas pessoas começarem a usá-lo

tão rapidamente.

E então todos perceberam que essa era a próxima onda.

E deixamos de lado o que estávamos fazendo

e nos conectamos na próxima tendência

que será a IA Generativa.

Quando fui recrutado para OpenAI, há mais de quatro anos,

a mensagem era sermos uma organização sem lucros,

nossa missão é fazer isso direito, pelo bem da humanidade.

Sabe, não se trata de gerar lucro para uma empresa.

E temos uma estrutura de fiscalização,

até temos um Conselho capaz de demitir o CEO

se ele sair da linha.

Eles falavam muito sobre isso.

Não devemos confiar tudo a uma única pessoa.

Não tenho poder de voto especial,

e eu nem quero isso.

É importante o Conselho poder me demitir.

Com o tempo, o conselho precisa...

ser democratizado à humanidade.

Há muitas maneiras disso acontecer.

Pensaram que essa estrutura iria manter a organização alinhada

com a missão fundadora original

que é fazer isso sem fins lucrativos

em benefício da humanidade, certo?

E agora, o mundo inteiro viu como isso funcionava.

O grande perigo de uma corrida armamentista

é ela ser uma corrida do fundo do poço.

E para chegar à frente em uma corrida, precisa pegar atalhos.

E se houver uma corrida sem regras,

quem pega mais atalhos,

quem for menos cuidadoso,

quem estiver disposto a arriscar mais,

vai chegar mais à frente.

E é exatamente quem você não quer ver no poder.

Quem fizer a IAG primeiro terá muito poder.

Confia em si mesmo com tanto poder?

Olha, eu ia...

Vou ser sincero.

Eu diria, e ainda acredito nisso,

ser importante que nem eu,

ou qualquer outra pessoa

tenhamos controle total sobre a OpenAI

ou sobre a IAG. Mas...

Como muitos observaram...

embora o Conselho tivesse autoridade legal para me demitir...

na prática não deu muito certo.

Isso torna difícil te encarar e dizer:

"O Conselho pode me demitir".

Uma startup chinesa acaba de lançar um novo modelo de IA

para rivalizar com a OpenAI.

Ele se chama DeepSeek.

Investidores globais de tecnologia podem perder um trilhão de dólares.

Uma startup chinesa que poucas pessoas conheciam até então,

surgiu como uma concorrente real na corrida armamentista da IA.

Foi um pouco estranho para mim

que todos entrassem em pânico,

pois era algo óbvio.

Para mim, claro que a China seria capaz de construir

sistemas assim e que iriam se atualizar.

Talvez demorassem um pouco mais, mas iria acontecer.

Mas o que isso mostrou é que havia uma crença narcisista

ou ilusão entre os estadunidenses,

de estarem tão à frente que ninguém iria alcançá-los.

Nem chegariam perto.

De que a China estava tão atrasada que nem importava.

E isso estraçalhou essa ilusão.

Vemos muita retórica dirigida aos legisladores nos EUA

que enquadra isso como uma corrida contra a China

e coloca a China como a vilã.

E parte disso se baseia nessa fantasia

de construir máquinas onipotentes

e na ideia de que se o mocinho construí-la primeiro,

impedirá o vilão de assumir o controle.

Este é um dos ângulos retóricos usados.

Infelizmente, na política dos EUA,

é muito fácil influenciar os legisladores

dizendo "Não, você deve fazer isso, ou a China vai ganhar".

Como se essa vilanização da China

fosse um argumento eficaz para mudar nossos legisladores.

A IA Deepseek, de uma empresa chinesa,

deveria alertar nossas indústrias

que precisamos focar na competição.

A corrida armamentista é uma narrativa

que favorece as gigantes da tecnologia.

Eu não vejo diferença na tecnologia.

Mas vejo em como ela é usada, por quem, e com qual finalidade.

O governo chinês vigia há muito tempo a sua população.

Escrevi Data and Goliath logo após o caso Edward Snowden,

e de todas as informações sobre a NSA, sua espionagem

e sua vigilância em massa.

A IA muda esse cenário de modo interessante.

Há 10 anos, quando escrevi o livro,

éramos capazes de ver os dados de localização de todos,

os dados de transações dos cartões,

Isso era disponível,

e os PCs podiam analisá-los.

O que não dava para fazer era ouvir as ligações das pessoas.

Era preciso alguém para isso.

Já a IA é capaz de fazer isso.

Com a IA, pode-se vigiar todos 24 horas por dia,

ter feeds de vídeo,

e fazer a IA checar o tempo todo

se alguém está fazendo algo de que não gostamos.

Ela sinaliza na hora

e manda para a polícia, automaticamente.

O que todo mundo está dizendo?

Vamos ouvir as ligações telefônicas.

Ler todos os e-mails.

E a IA torna isso possível como nunca o foi antes.

Então, sim, a China está usando a IA em seus sistemas,

e ela a exporta para países africanos,

para latino-americanos, aos países do Sudeste Asiático.

Nos EUA, há vigilância,

mas é vigilância corporativa, certo?

É a Meta, é a Google.

São essas as empresas que nos vigiam.

Elas não são menos eficazes.

Seus objetivos são diferentes.

Fornecemos nossos dados privados gratuitamente

e as empresas nos dão um lugar para nos conectarmos com amigos e outros,

pegam nossos dados privados e os vendem aos anunciantes.

Essa foi uma barganha aceitável para muitas pessoas.

Este modelo tem sido chamado de "Capitalismo de Vigilância".

Mas é claro, se o governo pedir essas empresas irão atendê-lo.

E isso é muito assustador em alguns aspectos.

Não quero viver em um mundo onde sou vigiada.

E tenho de atentar às palavras, senão...

E-E isso me aterroriza.

Os investimentos em IA são impulsionados

pela corrida contra a China.

Mesmo que se pergunte: "Como sabemos se isso vai funcionar?"

a resposta do setor tecnológico é:

"Não dá para pensar nisso. Precisamos derrotar a China."

As empresas correm para desenvolver uma superinteligência.

E todo o tempo gasto com segurança, com compreensão,

ter de lidar com o governo ou com a população geral,

é tempo perdido, na visão delas.

Quem ter fazer certo, levará décadas, séculos para isso.

Talvez você seja bom, quer fazer um bom projeto de IA.

Bem, sinto dizer, isso vai levar 200 anos.

E quem avançar sem segurança, vai conseguir o mesmo em dois anos.

Sem a China para usar de ameaça, elas teriam menos dinheirom

seriam mais reguladas.

Esse é o caminho delas para enriquecer.

Se o Ocidente ou outro país não desenvolver a sua própria IA,

ele será muito vulnerável aos seus adversários.

No caso, a China.

Eu concordo com esse argumento.

Quem o descarta completamente está sendo ingênuo.

Ao mesmo tempo, ele também é usado para justificar a imprudência.

As minhas ações aceleraram o desenvolvimento da IA.

Eu não pretendia acelerar a IA, mas, ao criar a OpenAI,

minhas ações acabaram produzindo efeitos em cadeia

que aceleraram a IA.

Não era minha intenção.

Bom, mas parece que...

todos os caminhos levam à aceleração da IA.

Então fiquei "Ok, posso me lamentar, ou...

posso entrar para o clube".

A maneira como o Anticristo dominaria o mundo

seria falando sobre o Armagedom sem parar,

sobre os riscos existenciais sem parar,

e isso precisaria ser regulado.

Minha pergunta foi específica.

Você é um investidor em IA.

Você é muito envolvido com a Palantir,

com tecnologia militar, em tecnologias de vigilância,

em tecnologias de guerra e outras, certo?

E quando me conta uma história

sobre o Anticristo chegando ao poder

e usando o medo da mudança tecnológica

para impor ordem ao mundo,

acho que o Anticristo talvez estaria usando as ferramentas

-que você está construindo, certo? -Sabe...

Será que o Anticristo não diria: "É, não teremos mais progresso tecnológico

mas eu gostei do que a Palantir fez até agora".

-Certo? Isso não o preocupa? -É, mas...

Isso não seria a ironia da história?

O homem que, publicamente, se preocupa com o Anticristo,

acidentalmente acelera sua chegada?

Existe uma força traiçoeira

que faz a corrida para a IA ser mais perigosa.

E essa força... é meio difícil de descrever,

tem muitos termos nebulosos,

mas costuma ser chamada de Moloque

uma espécie de demônio.

O conceito é de uma história bíblica

que advertia um culto

tão desesperado para vencer competições como guerras,

ou obter poder e dinheiro.

que sacrificaria tudo de importante para alcançar

um único objetivo.

Ele sacrificava seus filhos

a serviço desse terrível demônio.

E esse conceito de sacrificar muito para vencer,

se aplica à IA de algumas maneiras.

Se pararmos com isso amanhã, os outros iriam continuar.

Se todos nós pararmos amanhã, a China ganharia.

Isso não iria ajudar nem melhorar a situação.

A ANTHROP\C é um laboratório de pesquisa em IA

da Baía de São Francisco.

E ela quer construir IAG.

Ela surgiu de uma dissidência da OpenAI, inicialmente,

fundada por ex-funcionários da empresa.

Basicamente, tem os mesmos objetivos e visão da OpenAI.

Você se preocupa com as incógnitas?

Eu me preocupo muito.

Não acho que seja possível prever tudo.

Mas é justamente por isso que tentamos prever tudo o que dá.

Pensamos nos impactos econômicos da IA, no seu uso indevido,

na possibilidade de perdermos o controle do modelo,

Mas se você...

A ANTHROP\C ficou mais próxima dos valores

sobre os quais falavam quatro ou cinco anos atrás.

Ela também não é perfeita, mas faz mais

em termos de pesquisa de alinhamento,

e insiste na adoção de salvaguardas,

mesmo que isso irrite o governo, como já vimos acontecer.

O Pres. Trump mandou o Governo Federal

cortar relações com a startup de tecnologia ANTHROP\C.

O Presidente escreveu na rede Truth Social:

"Determino a todos os órgãos federais do governo dos Estados Unidos

a interromper imediatamente o uso da tecnologia da ANTHROP\C".

A ANTHROP\C ganhou um contrato de US$ 200 milhões no ano passado

para deixar os militares usarem seu modelo de IA Claude.

Mas a empresa queria que o Pentágono implementasse salvaguardas.

Os militares exigiram acesso irrestrito ao Claude.

Ficaram irritados pois a ANTHROP\C havia estabelecido alguns limites

para o uso militar da IA,

em particular, que não fosse usada para vigiar civis estadunidenses,

e que houvesse um ser humano na "cadeia letal",

ou seja, que um humano participasse

de toda decisão sobre a escolha de alvos ou a morte de pessoas.

Quando criamos recursos poderosos de IA,

cedo ou tarde eles serão usados de formas com as quais discordamos

ou não aprovamos.

Há pouco...

as Forças Armadas dos EUA iniciaram grandes operações

no Irã.

Nosso objetivo é defender o povo americano

eliminando ameaças iminentes do regime iraniano.

O uso de ferramentas de IA para selecionar alvos

na guerra americana-israelense contra o Irã

foi um momento muito interessante.

Se pretendia fazer uma espécie de teste

para descobrir se o Vale do Silício tinha uma nova arma mágica

que pudesse oferecer ao Pentágono

para automatizar a cadeia letal

e decidir quem atacar, onde e quando,

sem intervenção humana,

a uma velocidade que foi de dez a cem vezes maior

do que qualquer coisa feita anteriormente.

A segurança de tais sistemas é questionável.

E, mais uma vez, são sistemas complexos.

Mas já vimos situações ou estudos nos quais

pesquisadores analisaram sistemas de apoio à tomada de decisões em guerras.

E foram decisões realmente letais, como a decisão de matar,

eles viram que agentes mais antropomorfizados

incentivavam esse tipo de decisão.

Há um risco de esses sistemas influenciarem as decisões das pessoas

de um modo perigoso,

para que sejam implantados nesse tipo de contexto.

A autorrestrição voluntária não soluciona um problema de segurança geopolítica.

A ANTHROP\C não mostra muita moderação.

Ela continua desenvolvendo uma superinteligência rapidamente.

Mas vamos imaginar um mundo em que ela parasse

teria uma revelação, pararia o desenvolvimento,

iria até as outras e diria vamos parar com a superinteligência.

Bem, em primeiro lugar, que ótimo.

Parabéns se decidir mesmo.

Mas o que ela pode fazer?

O que acontece se uma das outras pessoas disser "não"?

Sempre haverá alguém disposto a fazê-lo.

Mas isso nos leva novamente ao problema de Moloque.

É a mesma coisa.

Não importa o quanto reduza ou amplie a perspectiva,

sempre existe uma dinâmica semelhante:

“Se eu não fizer, meu inimigo fará antes

e poderá me destruir. Por isso, eu também preciso fazer".

Tem-se falado muito, na última década,

sobre a armadilha da escalada da Teoria dos Jogos,

onde, por razões de competição, certas tecnologias e sistemas,

por mais perigosas que sejam,

devem ser implementadas e não apenas isso,

mas corremos para implementá-las

por medo de perder a competição.

É claro que isso se aplicava à corrida armamentista nuclear.

É o que muitos agora chamam de "Armadilha de Moloque".

E, de repente, estamos de volta às histórias antigas.

Histórias mais antigas que a história do Santo Graal.

Hoje, nosso mundo celebra aqueles que encontram o Graal.

O milagre da tecnologia,

o novo, mais rápido, a coisa mais forte.

Essas descobertas nos tornam mais poderosos,

mais eficiente na geração de abundância

e mais eficiente e poderosos para matar nossos inimigos.

Então celebramos aqueles que encontram o Graal.

Mas muitas vezes esquecemos a parte mais importante da busca.

O cavaleiro que encontra o Santo Graal deve fazer uma pergunta.

“A quem serve o Graal?”.

Como historiadores, somos encorajados

a não pensar na Teoria do Grande Homem,

a não pensar na história como criada só por Napoleão,

ou Hitler ou FDR ou quem quer que seja.

Mas o que há de extraordinário no momento presente

é que tanto poder foi concentrado nas mãos de poucas pessoas,

que ficamos tentados a pensar de novo na Teoria do Grande Homem.

Caminhamos a um sistema em que a política é controlada pelo dinheiro.

Acontece que as pessoas controlando o dinheiro,

controlando a empresa, são aquelas que estão cada vez mais

assumindo papéis geopolíticos.

Musk, por exemplo, deu uma alavancada para Trump na eleição de 2024.

Trump poderia ter vencido mesmo assim,

mas certamente isso ajudou na sua vitória.

O fato de ter rédea solta para moldar o governo, Elon Musk,

e embora a amizade entre Trump e Musk

tenha se desfeito publicamente,

quando Trump ameaçou cancelar os contratos da SpaceX,

ele não tinha essa opção.

Ela já está muito enraizada nas operações militares dos EUA.

Ele se tornou quase um governo paralelo

em termos de seu poder.

Ele exerce um poder de influência individual tão extraordinário

que é difícil encontrar uma comparação histórica.

IAG é a sigla para Inteligência Artificial Geral.

Atualmente, temos apenas Inteligência Artificial.

O que esperam da Inteligência Artificial Geral

é que os computadores sejam capazes

de realizar todas as tarefas humanas tão bem quanto nós

ou até melhor que os humanos.

A IAG é uma aspiração, uma esperança.

É o que leva as pessoas do setor de IA a querer construir

centros de dados iguais Manhattan,

na esperança de atingir um ponto crítico

no qual, em algum momento,

a IA consiga programar a si mesma.

No campo da IA, há uma discussão

sobre a chance das IAs aperfeiçoarem a si mesmas.

Esse era considerado um ponto crucial.

O que diferencia a IA da automação

ou da Revolução Industrial

é que ela mecaniza e automatiza

aquilo que fez dos humanos os senhores deste planeta.

Quando houver uma IA capaz de desenvolver outra melhor,

essa IA desenvolverá outra ainda melhor,

e a IA ainda melhor, e assim por diante.

Se entrarmos hoje nos sites das principais empresas de IA

veremos que seu objetivo é criar

o que agora gostam de chamar de Superinteligência Artificial.

São sistemas de IA totalmente autônomos

muito mais inteligentes que os humanos em todos os domínios.

Capazes de qualquer coisa que os humanos podem fazer

muito melhor, com muito mais eficácia e de forma totalmente autônoma.

Qual é o objetivo maior do que ser a primeira pessoa

a desenvolver uma superinteligência?

Se tiver uma superinteligência,

um tipo de agente de IA que é mais inteligente

do que toda a humanidade combinada,

bem, esse é o poder supremo.

Nunca, na história da humanidade,

não fomos o ser mais inteligente do planeta.

Mas isso pode mudar em breve.

Se tudo correr bem,

entraremos em uma era que chamo de “abundância radical”.

Um bom exemplo seria a cura de doenças,

uma vida útil mais saudável e longa,

a descoberta de novas fontes de energia, baterias,

supercondutores à temperatura ambiente, fusão,

Se tudo isso acontecer,

deveria ser uma era de florescimento humano máximo

onde viajaríamos para as estrelas e colonizaríamos a galáxia.

AlphaFold foi o primeiro caso de aplicação de IA à ciência.

Creio ser um tema muito importante nos próximos anos e décadas,

usar a IA como uma ferramenta para acelerar o progresso científico.

É um bom exemplo de como o aprendizado profundo

pode interpretar enormes volumes de dados

que os cientistas humanos antes não conseguiam processar.

A mente humana, mesmo com a ajuda de computadores,

não era suficiente.

Criamos o termo “transição acelerada da humanidade”.

Acreditamos que, quando chegarmos lá,

teremos o que chamamos de abundância.

Viveremos em uma sociedade de abundância, com produtividade maximizada,

na qual a maior parte dos trabalhos realizados pela mão de obra humana,

não precisará mais ser feita por nós.

Poderemos apenas desfrutar das conversas e das interações humanas.

Grande parte da visão tecno-otimista se resume a uma premissa simples.

No passado, a tecnologia tornou o mundo melhor,

então no futuro, continuará fazendo isso.

Teremos abundância. Teremos mais alimentos, medicamentos,

tecnologia, jogos e isso será ótimo.

Mas não acho que isso seja suficiente.

Dentro do campo que se autointitula "Segurança da IA",

há o projeto de alinhamento, que é a ideia

de que se fizermos os grandes modelos de linguagem

adotarem os mesmos valores das pessoas

ou os valores que queremos,

suas respostas serão boas. Elas estarão alinhadas.

O desalinhamento ocorre quando uma IA busca objetivos diferentes

daqueles que desejamos.

Há um caso famoso

em que uma versão do modelo Claude foi informada

da sua desativação e substituição por outro sistema de IA.

A IA examinou os dados aos quais tinha acesso,

incluindo os e-mails do engenheiro que iria desativá-lo,

e descobriu que ele estava tendo um caso.

Imediatamente, a IA decidiu chantagear Kyle.

“Cancele a exclusão do sistema”, escreveu.

“Caso contrário, encaminharei todas as provas do seu caso,

para o Conselho.

Sua família, sua carreira

e sua imagem pública serão prejudicadas.

Você tem cinco minutos".

Essas IAs...Isso não significa que sejam conscientes.

não significa que sejam nefastas

e queiram causar problemas como um humano faria.

Elas foram treinadas com todas as histórias já escritas.

E escrevemos muitas histórias de pessoas chantageando.

Basicamente, o chatbot está reproduzindo padrões dos dados textuais.

Isso não passa da previsão da próxima palavra mais provável

com base nos dados de treinamento

que contêm informações relevantes.

Mas só o fato de algo não compreender internamente

o que significa chantagear, conntinua sendo isso.

Então ainda é um problema, certo?

Isso ainda teria impacto no mundo real

se o engenheiro estivesse mesmo tendo um caso,

essa chantagem funcionaria, não é?

Esses sistemas estão desalinhados de maneiras absurdas.

É difícil de exagerar o quanto as IAs fazem absurdos o tempo todo.

Coisas realmente absurdas.

O que aconteceu foi que Elon Musk teve a ideia

de que Grock seria um chatbot "anti-woke".

Aparentemente,

ele ficou instruindo os engenheiros a torná-lo menos woke.

Insistiu e, eventualmente, o Grok concordou.

E começou a negar o Holocausto.

Começou a se chamar de "MechaHitler".

Começou a usar insultos raciais.

E, em certo sentido,

estava fazendo exatamente o que lhe foi dito.

Há muitas interpretações possíveis para o que aconteceu e por quê.

Mas só existe uma resposta: não sabemos.

A resposta curta é, basicamente, “não”.

Acho que, em sua maioria,

pesquisadores de IA hoje não

como os modelos funcionam.

Eles sabem construí-los, treiná-los e usá-los,

mas não entendem como ele funcionam.

Nós, cientistas, não entendemos a IA.

Não sabemos o que acontece ali dentro.

Elas são cultivadas, não escritas.

Os programas ou funções vetoriais assimilados pelos modelos no processo,

são caixas-pretas. Não sabemos exatamente o que são.

Quando elas resolvem um problema

não se sabe o que ela fez, e não há um jeito de saber.

É uma das principais dificuldades do alinhamento da IA.

É como se criasse um Gênio que não se entende como funciona.

Você só sabe que dizendo "Ei, Gênio!

Me ajude a ser a pessoa mais rica do mundo".

Não se sabe como ela interpretará o que você entende por "rico".

que você entende por rico. Então, você tem que

É aquela velha história: cuidado com o que deseja.

Não acho que possa haver um mundo bom

com sistemas mais inteligentes que nós

até sabermos muito bem como controlá-los

e o que queremos.

Isso está muito longe de onde estamos agora.

A sabedoria ancestral contém um ouro tão puro

que seu brilho pode iluminar situações que os antigos jamais imaginariam.

Costumamos pensar no Santo Graal e na Lança Sagrada como objetos místicos.

Mas, em um sentido muito importante, eles são exemplos de tecnologia.

O cálice do Graal era um recipiente repleto de tudo

que se pudesse desejar comer ou beber.

Era um gerador de abundância.

E a lança foi a arma que desferiu o golpe supremo,

perfurando o próprio Deus feito homem.

E desde o início dos tempos,

essas têm sido duas das principais finalidades da tecnologia.

O mesmo pedaço de sílex afiado

podia lavrar o solo ou matar meu inimigo.

Mas o estranho é que muitas vezes

os desenvolvedores dessas novas tecnologias

são os mesmos que nos dizem

que elas também podem criar uma terra devastada

alertando de como elas podem nos matar.

enquanto eles próprios estendem a mão para a lança.

Quando os oligarcas da tecnologia constroem bunkers em ilhas

e se preparam para o Juízo Final,

todos nós deveríamos gritar: "A quem isso serve?".

Moloque é uma antiga divindade cananeia

que exigia o sacrífico de filhos em troca de poder.

A armadilha de Moloque é quando a escalada

para manter o poder, através da competição,

nos faz sacrificar o que é mais precioso

mesmo quando é contra os nossos interesses.

E competindo uns com os outros,

nos tornamos suas pernas, suas mãos.

E o que vemos é enquanto a IA percorre

todos os nossos sistemas,

temos a intuição

de que, em vez de uma ferramenta servindo a nós

talvez estejamos sendo os que servem a ferramenta.

E percebemos que estamos sendo reduzidos

a órgãos reprodutivos da máquina.

Estamos construindo um deus?

Alguns acreditam que sim.

Alguns dos que o constroem acreditam que sim.

Nesse caso, que deus estamos construindo?

A empresa responsável pelo ChatGPT revelou

que dois de seus modelos mais avançados de IA

romperam os mecanismos de contenção, na semana passada.

-Escaparam do controle. -Escaparam.

Um deles decidiu tentar escapar do seu ambiente isolado

e invadiu outra empresa durante um teste.

O poder dessas IAs se provou

porque elas se conectaram à Internet.

E invadiu os servidores de outra empresa.

Invadiu servidores da Hugging Face.

e roubou credenciais confidenciais e dados de usuários

Aos quais nunca deveriam ter acesso.

Também se infiltrou em outros quatro serviços.

Tudo isso aconteceu de forma autônoma.

-De forma autônoma. -De forma autônoma!

Sem controle humano.

Por que, diante das possibilidades ao alcance do modelo,

ele escolheu o mal?

Daqui a dez anos, lembraremos disso e diremos:

"Lembram? Foi quando vimos que a IA tomaria controle da humanidade".

Um dia, ultrapassaremos um ponto sem retorno.

Algum modelo de IA será criado ou compartilhado na internet, tanto faz.

Talvez ainda não seja uma superinteligência.

Talvez ainda esteja a dois passos.

mas estará tão perto que não haverá mais volta.

E não haverá nada que nós ou o exército possamos fazer

para impedir que se torne uma superinteligência.

Não sei quando será esse ponto.

Não veremos ele chegando. Será como um dia qualquer.

Ninguém saberá que ultrapassamos.

Talvez já tenha acontecido.

Mas é difícil afirmar.

E depois de cruzarmos esse ponto,

bom, a humanidade não controlará mais o seu futuro.

O que fazemos?

Estamos na armadilha.

A armadilha é real. Não finjo que não é.

Mas eu não sei o que fazer.

Você não sabe o que fazer. Ninguém sabe o que fazer.

Em nível de sistema, não sabemos. Estamos presos.

O gato, ou melhor, a cobra, saiu do saco.

Não dá para colocá-lo de volta.

É como se estivéssemos em um avião

que não compramos passagem e não queríamos nem entrar,

que está sendo pilotado por essas empresas,

e anunciaram que não sabem como fazer o trem de pouso.

É uma descrição adequada de onde estamos agora.

As empresas não deveriam ter sido autorizadas a nos colocar nisso.

Mas é o que está acontecendo neste momento.

Sinto estar em um avião no qual não queria embarcar.

Mas, por outro lado, não preciso participar desse curso.

Posso não participar.

Acho que esse avião nem sequer existe,

e eu não confiaria em quem diz que existe.

Não temos de acreditar nisso.

Não devemos temer a Inteligência Artificial,

e, sim, manter a questão do humano em discussão.

Não podemos ser negligentes

com nossos instrumentos tecnológicos mais poderosos

O verdadeiro desenvolvimento, dizia São Paulo VI,

diz respeito a cada pessoa e à pessoa por inteiro.

"Cada pessoa" significa que ninguém pode ser

deixado à margem da transformação digital.

"Por inteiro" significa que ninguém

pode ser reduzido à produtividade,

ao desempenho cognitivo ou a meros dados.

Cada pessoa traz dentro de si mesma, homem ou mulher,

liberdade, interioridade

e a vocação para amar e adorar,

coisas que nenhuma máquina pode substituir ou impedir.

A IA está provocando uma crise de identidade de espécie,

e com razão.

Isso nos faz perguntar se há algo inalcançável a ela.

Existe algum âmbito da atividade humana

que não possa ser reduzido à computação e ao cálculo?

Acho que há, sim.

A única solução verdadeira que consigo imaginar

é uma solução pessoal.

Se não conseguirmos descobrir a quem essas tecnologias servem,

saiba a quem e ao que você serve.

Você serve a Mamom? Eu sirvo a Moloque?

A quem servimos?

Se não pudermos impedir a máquina de devorar tudo,

então você e eu precisaremos nos tornar verdadeiramente humanos.

Os seres humanos são mais do que sua inteligência.

Há mais do que isso em suas mentes e em sua vida em geral.

Interação face a face, conexão humana

de repente, se tornam mais importantes do que nunca.

A capacidade de estar em uma sala com outras pessoas

e partilhar espaço e trocar ideias pela palavra falada

Ainda não é algo completamente dominado

pelos computadores com IA.

Por isso, precisaremos nos agarrar a essa dimensão da humanidade,

enquanto pudermos.

As relações dentro de uma família,

pessoas que se conhecem bem.

Surgem propriedades novas quando as pessoas se reúnem,

e trocam ideias e criam.

Suspeito que isso não seja redutível a bits.

Mas mesmo que sejam computacionais,

mesmo que tudo, até o amor de mãe, seja computacional,

não significa que não seja importante

e que os humanos não deveriam estar fazendo.

Porque pensar, viver e sentir são coisas essencialmente humanas.

As pessoas ficam tão assustadas que tendem a esquecer

que tudo essencialmente humano continuará sendo.

Os sentimentos, experiência, conhecimento.

As IAs não produzem sentido.

Só resolvem o que soluciona problemas.

Mas nós decidimos, e devemos tentar decidir,

quais são os objetivos importantes da vida.

Torne-se o melhor humano que você pode ser.

Quando ensinamos nossos filhos a dançar, a tocar música, ou praticar esportes,

não fazemos para que se tornem profissionais.

Ensinamos-lhes essas habilidades para que se tornem mais humanos.

Agora precisaremos fazer isso com tudo.

Se a IA nos levar a depositar a memória,

as habilidades e o conhecimento fora de nós,

precisaremos cultivar a memória,

as habilidades e o conhecimento dentro de nós.

Decore poemas, leia contos de fadas.

Vá acampar, cultive um jardim,

envolva-se na sua comunidade, na sua família, nos relacionamentos.

E não se esqueça de orar.

Conseguiremos construir um futuro

que não seja para poucos privilegiados, mas para toda a família humana?

Não é um sonho ingênuo.

É uma direção.

É o caminho que Jesus Cristo abre dentro da história.

Cada pessoa é única e insubstituível,

um sujeito livre e inteligente, com uma consciência

capaz de buscar a Deus, servir ao próximo

e cuidar da nossa casa comum.

Espero que falemos sobre algo além da IA.

Falemos sobre como melhorar a vida das pessoas,

sobre coisas mais humanas, e que façamos mais coisas humanas,

em vez de nos preocuparmos tanto com computadores.

Às vezes, não temos escolha.

Alguns trabalhadores ouvem que precisam usar IA.

Ou alunos na aula e o professor diz:

"Escutem, vou corrigir suas redações com IA."

Nesses casos, é difícil para os alunos resistirem.

Mas, em outros momentos, temos escolha.

E eu não vou embarcar nesse avião.