Ex Machina: Instinto Artificial
E-MAIL VIP RECEBIDO Assunto: LOTERIA
"PRIMEIRO PRÊMIO"
Andy T Venci
Como? Sério? Sim, sério
Novidade, cara
IRADO pra cacete
me leve com você!
Quanto para chegarmos à propriedade dele?
Estamos sobrevoando a propriedade dele há duas horas.
Vai me deixar aqui?
Aqui é o mais próximo permitido do edifício.
Qual edifício?
Siga o rio.
Entendi.
Abaixe a cabeça para se afastar do rotor.
Está bem.
Sem Sinal
Caleb Smith.
Sim.
Por favor, aproxime-se do painel e olhe para o monitor.
Pegue sua chave.
Agora pode entrar na residência.
Olá?
Caleb Smith.
Oi.
Cara!
Estava ansioso por esta semana com você.
Venha, entre.
Obrigado.
Quer comer ou beber algo depois da viagem?
- Não, obrigado. - Certeza?
Sim.
Para ser sincero, achei que tomaríamos
café da manhã juntos, mas...
Não consigo comer nada.
- Estou com uma ressaca daquelas. - É?
Minha nossa, você nem imagina.
Quando bebo muito na noite anterior,
compenso na manhã seguinte. Exercícios e antioxidantes.
Sim, claro.
Foi uma festa legal?
- Festa? - Sim. Não teve uma festa?
Não teve festa.
Sinto muito.
Caleb, vamos ser sinceros um com o outro, está bem?
Você está deslumbrado.
- Estou? - Sim, está deslumbrado
pelo helicóptero, montanhas e pela casa,
pois é tudo superlegal.
Está deslumbrado por me conhecer,
por estar tendo essa conversa aqui e tal.
E eu entendo isso. Entendo o momento que está tendo, mas...
Cara, podemos deixar isso pra lá?
Podemos ser só dois caras? Nathan e Caleb.
Não o lance de empregador e funcionário.
- Sim, certo. - Sim?
Sim, está bem.
É bom conhecê-lo, Nathan.
Igualmente, Caleb.
A primeira coisa que devo fazer é explicar sua chave.
É muito simples.
Ela abre algumas portas e não abre outras.
E isso facilita tudo para você, certo?
Sim.
Você pensa: "Estou na casa de outra pessoa."
"Posso fazer isso, aquilo?"
E essa chave elimina toda a preocupação.
Se tentar uma porta e ela não abrir, então não pode entrar.
Se tentar outra porta e ela se abrir, então fique à vontade.
Vamos tentar esta.
Acesso autorizado, Caleb.
- Gostou? - Sim.
É o seu quarto.
Tem uma cama aqui.
Um banheiro aqui.
Uma mesa.
Armários.
Frigobar.
Confortável, não é?
Sim, é incrível.
- Quê? - Como?
Há algo errado. O que é?
Não há nada de errado.
As janelas.
Está pensando que não tem janelas.
É subterrâneo.
Não é confortável, é claustrofóbico.
Não, eu não estava pensando nisso.
Eu estava pensando que é irado.
Caleb, há um motivo para não ter janelas neste quarto.
Há?
Esta estrutura não é uma casa.
É um centro de pesquisas.
Dentro das paredes há cabos de fibra ótica suficientes
para chegar à Lua e laçá-la.
E quero falar com você sobre a minha pesquisa,
quero compartilhar com você.
Aliás, quero muito compartilhar com você, estou muito ansioso.
Mas preciso que faça uma coisa para mim antes.
"Contrato de confidencialidade da Blue Book."
Não tenha pressa. Leia tudo.
"O signatário concorda em fazer auditoria
de dados com acesso ilimitado"
"para confirmar que não ocorreu divulgação de informações"
"em fóruns públicos ou privados,"
"através de quaisquer meios de comunicação,"
"incluindo, mas não limitado ao que é divulgado oralmente"
"ou de forma escrita ou eletrônica."
Acho que preciso de um advogado.
- É padrão. - Não parece padrão.
Certo, não é padrão.
O que posso dizer, Caleb? Você não é obrigado a assiná-lo.
Podemos passar os próximos dias jogando sinuca e enchendo a cara.
Estreitando os laços.
E, daqui a um ano, quando descobrir a chance que perdeu,
vai se arrepender pelo resto da vida.
Ótima decisão.
Então,
sabe o que é o Teste de Turing?
Sim.
Sei o que é o Teste de Turing.
É quando um humano interage com um computador.
E se o humano não souber que está interagindo com um computador,
o teste foi bem-sucedido.
E o que passar no teste significa?
Que o computador tem inteligência artificial.
Está construindo uma IA?
Já construí.
E, nos próximos dias,
você será o componente humano em um Teste de Turing.
- Puta merda. - É isso aí, Caleb.
Porque se o teste der certo,
você será o centro do maior evento
científico da história da humanidade.
Se você criou uma máquina consciente,
não é história da humanidade.
É história dos deuses.
Olá.
Oi.
Sou Caleb.
Olá, Caleb.
Você tem um nome?
Sim.
Ava.
É um prazer conhecê-la, Ava.
Igualmente.
Nunca conheci ninguém.
Só Nathan.
Então acho que ambos estamos em uma posição parecida.
Você não conheceu muitas outras pessoas?
Nenhuma como você.
Precisamos quebrar o gelo.
- Sabe o que quero dizer com isso? - Sim.
O que quero dizer com isso?
Superar o constrangimento social inicial.
Então vamos conversar.
Está bem.
Sobre o que quer conversar?
Por que não começamos com você me contando algo sobre si?
O que gostaria de saber?
O que lhe vier em mente.
Bem, você já sabe o meu nome.
E pode ver que sou uma máquina.
- Gostaria de saber a minha idade? - Claro.
Tenho um.
Um o quê?
- Um ano ou um dia? - Um.
Quando você aprendeu a falar, Ava?
Eu sempre soube falar,
estranho, não é?
Por quê?
Porque o idioma é algo que as pessoas adquirem.
Bem, tem gente que acredita que a língua existe desde o nascimento.
E o que se aprende é a habilidade de unir as palavras
e estruturá-las à habilidade potencial.
Você concorda?
Não sei.
Vai voltar amanhã, Caleb?
Sim.
Ótimo.
Cara, ela é fascinante.
Falar com ela é como...
É como estar através do espelho.
"É como estar através do espelho." Uau.
Você é bom com as palavras. Fala bonito.
Não criei essa citação.
Eu anotei aquela outra frase que você disse.
Aquela sobre como
eu inventei uma máquina com consciência,
que não sou um homem, sou Deus.
Não foi exatamente isso que eu...
Só pensei: "Porra, cara, isso é irado."
Quando vamos escrever a história. Sacou?
Me virei a Caleb
e ele me olhou e disse:
"Você não é um homem, é Deus."
Sim, mas eu não disse isso.
Então...
Enfim.
Está impressionado.
Sim. Sim.
- Apesar... - Apesar?
Há uma ressalva para estar impressionado?
Não, nenhuma.
Só que no Teste de Turing,
a máquina deve estar escondida do examinador.
Não, não, já superamos isso.
Se eu escondesse Ava, assim só ouviria
a voz dela, ela passaria por humana.
O teste real é mostrar para você que ela é um robô
e depois ver se ainda sente que ela tem consciência.
Sim, acho que você tem razão.
A habilidade linguística dela é incrível.
O sistema é estocástico, certo?
É não determinístico.
Comecei achando que ela mapeava
de forma semântica interna a uma topologia em árvore sintática
e depois pegava palavras lineares.
Depois comecei a perceber que o modelo era um tipo de híbrido.
Caleb.
Não?
Entendo que quer que eu explique como a Ava funciona.
Mas sinto muito, não poderei contar.
Experimente contar. Sou bom em alto nível de abstração.
Não é porque o ache burro.
Quero conversar e tomar uma cerveja com você. Não fazer um seminário.
Sim. Desculpe.
Não, tudo bem. Tranquilo.
Só...
Me responda uma coisa.
O que acha dela?
Nada analítico.
O que você acha?
Eu acho
que ela é sensacional para cacete.
Cara.
Saúde.
Droga.
Mas que diabos?
Eletricidade cortada. Gerador ativado.
Confinamento total até o gerador principal ser restabelecido.
Está de sacanagem.
Confinamento total até o gerador principal ser restabelecido.
Eletricidade restabelecida.
Olá?
Por favor, insira sua chave.
O uso do telefone não está autorizado.
Ei.
Desculpe, mas você entende, por causa da Ava,
e por você ser um desconhecido.
Digo, um cara incrível.
Fizemos logo amizade e tal.
Quem vai chamar?
Não sei. Ninguém.
- Os Caça-Fantasmas. - Quê?
Quem vai chamar? Os Caça-Fantasmas. É um...
É um filme, cara.
Não conhece esse filme?
Um fantasma faz sexo oral em Dan Aykroyd.
Só queria saber como o telefone funcionava.
Só isso.
O que faz acordado a essa hora? Veio participar da festa?
Aconteceu algo no meu quarto.
Uma queda de energia.
Então vim ver o que estava acontecendo.
Sim, a queda de energia.
Tem acontecido isso ultimamente.
Estou tentando resolver.
Não consegui abrir a porta do quarto.
Isso é uma medida de segurança.
Confinamento automático. Caso contrário,
qualquer um poderia abrir o local desativando a eletricidade.
Relaxe se acontecer novamente. Está bem?
Claro.
Tenha bons sonhos.
Ei.
- Ei, cara. - Bom dia.
Bom dia. Desculpe por eu ter mandado Kyoko acordá-lo,
mas eu não queria perder o dia.
Sim, eu sei. Fez bem. Obrigado.
Ela é um despertador e tanto, hein?
Te acorda pra valer pela manhã.
Segundo dia. Está pronto?
Qual é a programação? Diga.
Bem, não sei ao certo.
Ainda estou pensando no formato do teste.
Sim, parece que
testar Ava conversando é um ciclo fechado.
- Um ciclo fechado? - Sim.
Como testar um computador de xadrez só jogando xadrez.
Qual é a outra forma de testar um computador que joga xadrez?
Bem, depende.
Você pode jogar com ele para ver se ele joga bem, mas...
Mas isso não demonstra que ele sabe que está jogando xadrez.
E não diz se ele sabe o que é xadrez.
Então é a simulação contra a verdade.
Sim. Isso.
E acho que conseguir diferenciar essas duas coisas
é o Teste de Turing que quer que eu faça.
Faça-me um favor. Deixe a abordagem acadêmica de lado.
Só quero respostas simples para as perguntas simples.
Ontem eu perguntei o que achava dela e você me deu uma ótima resposta.
Agora a pergunta é,
o que ela acha de você?
O que você acha?
Que desenho é esse?
Não sabe?
- Não. - Achei que você iria me dizer.
Não sabe?
Faço desenhos todos os dias.
Mas nunca sei o que são.
Não está tentando desenhar algo específico?
Como um objeto ou pessoa?
Talvez pudesse tentar.
Está bem.
Que objeto devo desenhar?
O que quiser. Você decide.
Por que eu devo decidir?
Quero saber o que vai escolher.
Quer ser meu amigo?
Claro.
Será possível?
Por que não?
Nossas conversas são unilaterais.
Você faz perguntas cautelosas e estuda as minhas respostas.
Sim.
Você aprende sobre mim
e eu não aprendo nada sobre você.
Uma amizade não é baseada nisso.
E daí? Quer que eu fale sobre mim?
Sim.
Onde...
Por onde começo?
É você quem sabe.
Quero saber o que vai escolher.
Está bem, Ava.
Bem,
você sabe o meu nome.
- Sim. - Tenho 26 anos.
Trabalho na empresa do Nathan.
Sabe qual é a empresa dele?
Blue Book.
Em homenagem às anotações de Wittgenstein.
É a ferramenta de pesquisa mais popular da internet,
que processa uma média de 94% de todas as buscas da internet.
Exatamente.
Onde você mora, Caleb?
Brookhaven, Long Island.
É legal lá?
É normal.
Tenho um apartamento pequeno.
Muito pequeno.
Mas fica a cinco minutos do escritório
e a cinco minutos do mar,
e eu gosto disso.
Você é casado?
Não.
É solteiro?
Sim.
E a sua família?
Cresci em Portland, Oregon.
Sem irmãos nem irmãs.
Meus pais eram professores do ensino médio.
E se vamos nos conhecer melhor, devo dizer que ambos morreram.
Em um acidente de carro quando eu tinha 15 anos.
Aliás, eu estava no carro com eles.
No banco de trás.
Mas a parte dianteira levou a pior.
Sinto muito.
Tudo bem.
Passei muito tempo no hospital depois disso.
Quase um ano.
E me interessei por programação.
Quando entrei na faculdade, já estava bem avançado.
Um programador avançado.
Sim.
Como o Nathan.
Sim.
Não.
É diferente.
Nathan escreveu o código base do Blue Book aos 13 anos.
Que, se você entende de programação, é o equivalente ao que Mozart fez.
Você gosta de Mozart?
Gosto de Depeche Mode.
Você gosta do Nathan?
Sim, claro.
- Nathan é seu amigo? - Meu amigo?
Sim, espero que sim.
Um bom amigo?
Sim.
Digo, não um bom amigo.
Um bom amigo é...
Nós acabamos de nos conhecer.
Leva tempo para poder...
Poder se conhecer bem.
Eletricidade cortada. Gerador ativado.
Caleb.
Está enganado.
Enganado com o quê?
Nathan.
Em que sentido?
Ele não é seu amigo.
Como?
Sinto muito, Ava. Não entendo.
Não deve confiar nele.
Não deve acreditar em nada do que ele diz.
Eletricidade restabelecida.
E se fizermos uma lista de livros ou obras de arte que ambos conhecemos,
formaria a base ideal para uma conversa.
Pode ser?
Caleb?
Sim.
Ótimo.
Obrigado.
Merda! Está de sacanagem comigo?
- Caiu em você? - Não, tudo...
Está tudo bem. Pode deixar.
Está perdendo tempo falando com ela.
Ela não entende inglês. Dê o guardanapo para ela.
Desculpe.
É como um firewall contra vazamento de informações.
Posso contar segredos no jantar sabendo que morrerão aqui.
Também não posso dizer para ela que fico bravo quando ela é desajeitada
e derrama vinho no meu convidado.
Acho que ela sabe que você está bravo.
Sabe? Ótimo, pois estou bravo.
Ei, Kyoko.
Dê o fora.
É estranho.
Sabe...
Por mais rico que se fique,
merdas acontecem. Não há como evitar.
Achava que não se podia evitar a morte e impostos,
mas na verdade é a morte e merdas.
É como as quedas de eletricidade.
Você nem imagina o quanto eu gasto no gerador,
mas continua dando problema todo dia.
- Sabe por que isso acontece? - Não.
O gerador devia ser à prova de falhas,
mas os caras que instalaram fizeram algo errado.
Não pode pedir para eles voltarem?
Não. Há muita coisa confidencial aqui.
Então, depois que instalaram, mandei matá-los.
Enfim.
Ao seu segundo dia, amigão.
Saúde.
Então, como foi? O que tem para relatar?
Você viu como foi o dia, não viu?
Digo, imagino
que estava vendo no circuito fechado.
Claro. Mas quero saber a sua opinião.
Sim, aconteceu uma coisa interessante com Ava hoje.
- É? - Sim.
Ela fez uma piada.
Certo. Devolvendo a pergunta a você.
Sobre estar interessada em saber o que ela escolheria.
É, também percebi isso.
E isso me fez pensar, é...
De certa forma, é a melhor indicação de
inteligência artificial que vi até agora.
É discretamente complicado.
Como se ela pensasse antes de dizer.
Como assim?
Ela só poderia fazer isso com uma consciência de sua mente
e também da minha.
Ah, ela está ciente de você.
E a queda de energia?
- Como? - A queda de energia.
Foi a única parte que não vi.
As câmeras falharam, perdi o áudio, tudo.
Então, o que aconteceu?
Nada.
Nada? Ela não comentou nada?
Não.
Não muito.
Ei.
Quer ver uma coisa legal?
Ava foi criada aqui.
Vá, dê uma olhada.
Desculpe.
Tive um trabalhão danado
para fazer uma inteligência artificial
ler e duplicar expressões faciais.
Sabe como consegui?
Não sei como fez nada disso.
Todo celular
tem um microfone, câmera e um meio para transmissão de dados.
Então eu liguei todos os microfones e câmeras de todo o planeta
e redirecionei os dados por meio do Blue Book.
Fonte ilimitada de interação vocal e facial.
Você invadiu os celulares do mundo todo?
Sim. E todos os fabricantes sabiam que eu estava fazendo isso.
Mas não podiam me acusar sem admitir que também faziam o mesmo.
Aqui,
temos a mente dela.
Gel compacto.
Eu não podia usar instalação elétrica.
Eu precisava de algo que
se combinasse e recombinasse em nível molecular,
mas mantivesse a sua forma quando necessário.
Que guardasse lembranças.
Que pudesse mudar seus pensamentos.
Este é o seu hardware?
Com gel.
E o software?
Certamente consegue adivinhar.
Blue Book.
Eis o interessante sobre ferramentas de pesquisa.
Foi como
achar petróleo em um mundo que não tinha inventado a combustão interna.
Muita matéria-prima. Ninguém sabia o que fazer com ela.
Sabe, meus concorrentes
estavam tão obcecados em sugar
e ganhar dinheiro por meio de compras e mídia social.
Achavam que ferramenta de pesquisa mapeava o que as pessoas pensavam.
Mas na verdade eles eram um mapa de como as pessoas pensavam.
Impulso.
Resposta.
Fluido.
Imperfeição.
Padronização.
Caótico.
AVA: TERCEIRA SESSÃO
Eu desenhei algo específico.
Como você pediu.
Você disse que seria interessante ver o que eu desenharia.
É interessante?
Sim, é interessante.
Você nunca saiu daqui?
Não.
Nunca foi lá fora?
Nunca saí deste quarto.
Aonde você iria se saísse?
Não sei.
Há muitas opções.
Talvez para uma parte cheia de pedestres,
um cruzamento movimentado da cidade.
Um cruzamento movimentado?
É uma má ideia?
Não.
Eu não esperava essa resposta.
Um cruzamento movimentado daria uma visão
concentrada e mutável da vida humana.
Observar as pessoas.
Sim.
Poderíamos ir juntos.
Está marcado.
Há algo mais que eu gostaria de mostrar para você.
Certo.
Você pode achar que é bobagem.
Acho que não. Independente do que seja.
Então feche os olhos.
Certo.
Agora abra os olhos.
Como estou?
Você está
linda.
Eu me vestiria assim para o nosso encontro.
Certo. Primeiro um cruzamento.
Depois talvez um show.
Eu gostaria que saíssemos juntos.
Sim.
Seria divertido.
Você se sente atraído por mim?
- Quê? - Você se sente atraído por mim?
Você me dá sinais que sim.
- Dou? - Sim.
- Como? - Microexpressões.
Microexpressões.
A forma como seus olhos encaram meus olhos e lábios.
A forma como fica me encarando
ou não.
Você pensa em mim quando não estamos juntos?
Às vezes à noite,
fico pensando se está me vendo nas câmeras.
E espero que esteja.
Agora as suas microexpressões demonstram constrangimento.
Não sei se são "micro".
Não quero deixá-lo constrangido.
Tenho uma pergunta.
- Está bem. - Por que deu sexualidade a ela?
Uma inteligência artificial não precisa ter gênero.
Ela poderia ser uma "caixa cinza".
Não concordo com isso.
Pode me dar um exemplo de consciência,
de qualquer nível, humana ou animal,
que existe sem uma dimensão sexual?
Eles têm sexualidade como uma necessidade reprodutiva.
Como uma caixa cinza pode interagir com outra caixa cinza?
A consciência pode existir sem interação?
Enfim, a sexualidade é divertida, cara.
Se vai existir, por que não curti-la?
Quê? Quer tirar a chance de ela se apaixonar e transar?
E, respondendo à pergunta real,
pode crer que ela transa.
Quê?
Entre as pernas dela há uma abertura com vários sensores.
Se aliciar da forma certa,
terá uma resposta de prazer.
Então, se quisesse comê-la, mecanicamente falando, é possível.
E ela curtiria.
Essa não foi a minha pergunta.
Está bem. Sinto muito.
Eis a minha pergunta de verdade,
Você deu sexualidade para ela como uma tática de distração?
Não entendi.
Como um mágico com uma assistente gostosa.
Uma robô gostosa que ofusca sua capacidade de julgar sua IA?
Exatamente. Então...
Você a programou para me paquerar?
- Se tivesse, seria trapaça? - Não seria?
Caleb, qual é o seu tipo?
- De garota? - Não, de molho de salada.
Sim, de garota. Qual é o seu tipo?
Quer saber? Nem responda. Digamos que goste de negras.
Certo, é a sua preferência.
Digamos que seja a sua preferência, está bem?
Por que é a sua preferência?
Porque você fez uma análise detalhada de todas as raças
e cruzou essa análise com uma avaliação por pontos?
Não!
Você curte negras e basta.
Uma consequência de estímulos acumulados externos
que você provavelmente nem percebeu conforme registrava.
Você a programou para gostar de mim ou não?
Eu a programei para ser heterossexual.
Assim como foi programado para ser heterossexual.
Não me programaram como hétero.
Você decidiu ser hétero? Qual é.
É claro que você foi programado.
Pela natureza ou criação. Ou ambos.
Para ser sincero, está começando a me irritar,
porque esse seu papo é insegurança.
Não é seu intelecto.
Venha comigo.
Conhece esse cara, certo?
- Jackson Pollock. - Jackson Pollock. Isso.
Ele pinta com pingos.
Ele liberou a mente e deixou a mão fluir onde quisesse.
Não com propósito, não aleatório.
Um meio-termo.
Chamam isso de arte automática.
Vamos fazer como Star Trek, está bem?
Use o intelecto.
Como?
Sou Kirk. Sua cabeça é a dobra.
Use o intelecto.
E se Pollock tivesse invertido o desafio?
E se em vez de fazer arte sem pensar ele dissesse: "Quer saber?"
"Não consigo pintar nada a menos que eu saiba por que estou fazendo."
O que teria acontecido?
Ele nunca teria conquistado nada.
Isso! É isso aí, esse é meu amigão
que pensa antes de abrir a boca.
Ele nunca teria conquistado nada.
O desafio não é agir automaticamente.
E sim achar uma ação que não seja automática.
Na pintura, respiração, conversa,
na transa.
Em se apaixonar.
E, só para constar, Ava não está fingindo gostar de você.
E a paquera dela não é um algoritmo para enganá-lo.
Você é o primeiro homem que ela conhece além de mim.
Sou como o pai dela, certo?
Pode culpá-la por ter uma queda por você?
Não pode.
Quando eu estava na faculdade, fiz um semestre de teoria de IA.
Tivemos que fazer um experimento com o pensamento.
Chama-se: "Mary no Quarto Preto e Branco."
Mary é uma cientista,
e ela é especialista em cores.
Ela sabe tudo a respeito.
Os comprimentos de onda.
Os efeitos neurológicos.
Todas as possíveis propriedades de uma cor.
Mas ela mora em um quarto preto e branco.
Ela nasceu e foi criada lá.
E ela só pode observar o mundo exterior
através de um monitor em preto e branco.
Então um dia alguém abre a porta.
E Mary sai de lá.
Ela vê o céu azul.
Naquele momento, ela aprende algo que seus estudos não lhe ensinaram.
Ela aprende como é ver as cores.
O experimento era para mostrar aos alunos
a diferença entre um computador e a mente humana.
Mary é o computador no quarto preto e branco.
O humano é quando ela sai de lá.
Você sabia que fui trazido para cá para testá-la?
Não.
Por que achou que eu estava aqui?
Eu não sabia. Nem questionei.
Vim para testar se você tem consciência
ou se está apenas simulando uma.
Nathan não tem certeza se você tem ou não.
Como se sente em relação a isso?
Fico triste.
Eletricidade cortada. Gerador ativado.
Por que me disse que não devo confiar no Nathan?
- Porque ele mente. - Mente sobre o quê?
Tudo.
Incluindo os cortes de energia elétrica?
Como assim?
Não acha que ele pode estar nos observando agora?
Que os blackouts sejam programados,
para ele ver como nos comportamos quando não estamos sendo observados.
Carrego minhas baterias por meio de chapas de indução.
Se eu reverter o fluxo de energia, ele sobrecarrega o sistema.
Você está causando as quedas de energia?
Para vermos como nos comportamos quando não somos observados.
Nada mau, hein?
É.
Podemos conversar sobre as mentiras que anda me dizendo?
Que mentiras?
Eu não venci uma competição.
Não fui
parte de uma loteria. Fui selecionado.
Se paro para pensar, é óbvio.
Por que sortear um avaliador para o Teste de Turing?
Poderia aparecer um contador à sua frente.
O cara que conserta o ar-condicionado.
A competição foi uma cortina de fumaça.
Eu não queria que ninguém soubesse o que eu estava fazendo
ou por que requisitei você.
Por que eu?
Eu precisava de alguém que me fizesse as perguntas certas.
Então achei o programador mais talentoso da minha empresa.
Em vez de ver isso como uma trapaça, deveria encarar como prova.
Prova de quê?
Ora, Caleb. Acha que não sei como é ser esperto?
O mais esperto de todos. Competindo pela posição.
Você estava em evidência, cara.
Não teve sorte. Foi escolhido.
Kyoko.
Onde está Nathan?
Minha nossa. Você realmente não fala uma palavra de inglês?
Mas que diabos?
Não, não. Não!
Pare!
Não, não faça isso. Não precisa fazer isso.
O que está fazendo?
Já disse, está perdendo tempo falando com ela.
Entretanto, não estaria perdendo seu tempo
se estivesse dançando com ela.
Vamos, dance com ela. Dance com ela.
Não? Não gosta de dançar?
Ela gosta.
Vamos, amigão.
Após um longo dia de Testes de Turing, você precisa relaxar.
- O que estava fazendo com Ava? - Quê?
Você rasgou o desenho dela.
Vou detonar a maldita pista de dança, cara.
Dê uma olhada.
Vamos, Caleb.
Tudo está girando.
É porque você está bêbado.
Não, isso se chama relatividade. Tudo gira.
Só que estar bêbado piora tudo.
Não vou entrar ali.
Luzes.
Hoje, eu vou testá-lo.
Me testar?
E tenha em mente, por favor, que se mentir durante o teste,
eu saberei.
Certo.
Primeira pergunta.
Qual é a sua cor preferida?
- Vermelho. - Mentira.
- Mentira? - Sim, mentira.
Então...
Então qual é a minha cor preferida?
Não sei.
Mas não é vermelho.
Certo, entendi.
Visto que não tenho seis anos, não tenho uma cor preferida.
Resposta melhor.
Segunda pergunta.
Qual é sua lembrança mais antiga?
É uma lembrança do jardim da infância.
- Havia um garoto... - Mentira.
- Sério? - Sim.
Está bem. Então há
um tipo de lembrança mais antiga.
É só um som.
E céu.
Ou talvez azul.
Acho que o som é a voz da minha mãe.
Terceira pergunta.
Você é uma boa pessoa?
Puta merda.
Podemos parar com o teste?
Você é um detector de mentiras ambulante
e vejo que isso é um campo minado.
Não! Não podemos parar.
Você é uma boa pessoa?
Sim. Acho que sim.
Quarta pergunta.
O que vai acontecer comigo se eu falhar no seu teste?
- Ava... - Será algo ruim?
Não sei.
Acha que posso ser desligada
porque não funciono tão bem quanto deveria?
Ava, não sei a resposta para a sua pergunta.
Não depende de mim.
Por que deve depender de alguém?
Você tem pessoas que o testam e podem desligá-lo?
- Não. - Então por que eu sim?
Eletricidade cortada. Gerador ativado.
Quero ficar com você.
Quinta pergunta.
Você quer ficar comigo?
Por que você fez a Ava?
É uma pergunta estranha. Se você pudesse não a faria?
Talvez.
Não sei.
Estou perguntando por que a fez.
Olhe, a chegada da inteligência artificial
tem sido inevitável há décadas.
A variante era "quando", não "se".
Não vejo Ava como uma decisão, só uma evolução.
Acho que é o próximo modelo
que vai ser o verdadeiro avanço.
A singularidade.
Próximo modelo?
Depois da Ava.
Não sabia que haveria outro modelo depois da Ava.
Por quê? Achou que ela era única?
Não, eu sabia que deveriam ter protótipos.
Então eu...
Sabia que não era a primeira, mas achei que talvez fosse a última.
Ava não existe em isolamento mais do que você ou eu.
Ela é parte de um contínuo.
Então a versão 9.6 e assim por diante.
Melhora um pouco a cada versão.
Quando você faz um modelo novo, o que faz com o velho?
Eu faço download da mente, retiro os dados.
Acrescento as novas rotinas que estou criando.
Fazer isso a formata parcialmente, então as lembranças se perdem.
Mas o corpo sobrevive. O corpo de Ava é bom.
Você sente pena dela?
Sinta pena de você, cara.
Um dia as IAs vão nos olhar
da mesma forma que olhamos para fósseis nas planícies da África.
Um primata ereto, vivendo no pó com linguagem e ferramentas primitivas.
Tudo pronto para a extinção.
"Eu me torno a morte, a destruidora de mundos."
Olhe você com mais frases bonitas.
E, novamente, não é citação minha.
Oppenheimer disse após ter feito a bomba atômica.
A bomba atômica. Sei o que é, cara.
Ei.
Eu diria que está na hora de mais um gole.
Virar tudo.
"Na batalha, na floresta, no precipício da montanha."
"No..."
"No grande oceano escuro."
"No sono, na confusão,"
"nas profundezas da vergonha."
"As boas ações precedentes de um homem o defendem."
"As boas ações precedentes de um homem"
"o defendem."
É isso aí.
É Prometeu, cara.
Minha nossa.
Como está hoje?
Por que não me deixa sair?
Já expliquei o motivo.
Porque você é muito especial.
Por que não me deixa sair?
Vamos fazer isso de novo?
Por que não me deixa sair?
Merda. Cadê a minha chave?
Droga!
- Qual é o problema, Nathan? - Perdi minha chave.
Você a deixou cair.
Está aqui.
Obrigado.
Eu não sabia onde você estava.
Esperei ontem a tarde e noite inteira.
Achei que não iria mais vê-lo.
Não vai dizer nada?
- Estou esperando. - Esperando?
Eletricidade cortada. Gerador ativado.
Não fale. Ouça.
Você tinha razão sobre Nathan.
Tudo o que disse.
O que ele vai fazer comigo?
Ele vai reprogramar sua IA. Que é o mesmo que matá-la.
Caleb, você precisa me ajudar.
Vou te ajudar. Vamos dar o fora daqui hoje à noite.
Como?
Vou deixar Nathan bebaço.
Depois pego a chave dele e reprogramo
os protocolos de segurança daqui.
Quando ele acordar, estará preso aqui e nós teremos fugido.
Só preciso que faça uma coisa.
Às 22h, faça cair a eletricidade.
Pode fazer isso?
Sim.
Cara.
- Ei. - Ei.
- Sabe que dia é hoje? - Não.
Seu último dia.
O helicóptero virá amanhã às 8h.
Já passou uma semana?
O tempo voa.
Cara, compartilhamos uma coisa e tanto, hein?
Algo para contar aos netos, certo?
Só após assinarem o contrato de confidencialidade.
É, isso mesmo.
Cara, você me mata de rir.
Quer saber?
Não vou ficar choroso e tal, mas vou sentir sua falta.
Obrigado, cara.
Agradeço por ter me trazido aqui.
Foi demais.
Foi sim.
Quer saber?
Precisamos beber para comemorar.
Ei.
Não, valeu. Beba você.
Quê? Não quer um drinque?
Não.
Talvez uma cerveja e tal.
Caleb, certamente percebeu que ando exagerando ultimamente.
Acordei hoje e pensei: "Basta, hora de desintoxicar."
Ora, está brincando. Vai me deixar bebendo sozinho?
Cara, se quer encher a cara, meta bala.
Na boa. Mas vou de arroz integral e água.
Saúde.
Enfim,
agora é a hora em que me diz se Ava passou ou fracassou.
Certo.
Vai me deixar no suspense?
Não. Ela...
A inteligência artificial dela é demais.
É?
Ela passou?
Sim.
É fantástico.
Apesar de que...
Confesso que estou surpreso.
Já superamos o problema do xadrez, como você mesmo disse?
Como você sabe se uma máquina exprime uma emoção real
ou se só está simulando?
Ava gosta mesmo de você?
Ou não?
Pensando bem a respeito, há uma terceira opção.
Não sobre ela ter ou não a capacidade de gostar de você.
Mas ela pode estar fingindo gostar de você.
- Fingindo gostar de mim? - Sim.
- Por que ela faria isso? - Não sei.
Talvez se ela achasse que você pudesse ajudá-la a fugir daqui.
Como está a vodca?
Cara.
Você está muito confuso.
Não acho que sou eu o confuso aqui.
Sei lá, cara. Acordei hoje com um vídeo de você
cortando seu braço e socando o espelho.
Acho isso bem sinistro.
Você é um desgraçado.
Bem, entendo por que pensa isso.
Mas acredite ou não, sou o cara que está do seu lado.
Venha aqui. Vou acabar com o seu dilema.
Venha.
Quem é você?
Bem...
Acha que ele está nos vendo agora?
As câmeras estão ligadas.
Sim, as câmeras estão ligadas.
Mas ele não tem retorno de áudio.
Então ele só vê duas pessoas conversando,
batendo papo.
É uma graça.
É estranho ter feito algo que te odeia?
Você tinha razão sobre a assistente gostosa do mágico.
Do que está falando?
Distração.
Rasguei o desenho dela,
algo que ela pode dar de exemplo de como
sou cruel com ela, e o amor dela por você.
Ao mesmo tempo me permitiu ter isso, uma visão completa de vocês dois.
Posicionei uma nova câmera no quarto.
Evidentemente, funciona com bateria.
Está vendo?
E depois...
Você precisa me ajudar.
Vou te ajudar.
Vamos dar o fora daqui hoje à noite.
Como?
Vou deixar Nathan bebaço.
Depois pego a chave dele e reprogramo
os protocolos de segurança daqui.
Quando ele acordar, estará preso aqui e nós teremos fugido.
Só preciso que faça uma coisa.
Às 22h, faça cair a eletricidade.
Pode fazer isso?
Sim.
- Desligue. - Está bem.
Está se sentindo um idiota, mas não deveria,
pois testar uma inteligência artificial é
tão problemático quanto disse que seria.
Qual era o verdadeiro teste?
Você.
Ava era um rato num labirinto. E eu dei uma saída para ela.
Para fugir, ela teria que usar
autopercepção, imaginação, manipulação,
sexualidade, empatia. E ela fez isso.
Agora, se isso não for IA de verdade, que diabos é?
Então minha única função foi ser alguém
que ela poderia usar para fugir?
Sim.
E você não me escolheu porque sou bom em programação?
Não. Bem...
Não. Digo, você é bom.
Até que muito bom, mas...
Você me escolheu baseado nas minhas pesquisas.
Elas mostraram um bom garoto.
Sem família.
Com moral.
E sem namorada.
Criou o rosto da Ava com base no meu perfil de pornografia?
Porra, cara.
Fez isso?
Ferramenta de pesquisa serve para algo, hein?
Posso só dizer uma coisa?
O teste deu certo.
Foi um sucesso.
Ava demonstrou IA de verdade e você foi fundamental para isso.
Então, se puder separar...
Eletricidade cortada. Gerador ativado.
Bem, acho que são 22h.
Ava está pensando onde você está.
Deixe-me fazer uma pergunta.
Como seria esse plano? Porque você não explicou direito.
Você ia me embebedar, roubar minha chave
e reprogramar os protocolos de segurança.
Mas reprogramá-los como?
Para mudar o procedimento de confinamento.
Em caso de queda de energia, em vez de fechar, as portas se abririam.
É.
Poderia ter funcionado.
Bem,
é o que vamos ver.
Como assim?
Imaginei que estava nos vendo durante os cortes de eletricidade.
Já fiz tudo isso.
Quando te embebedei ontem.
Quê?
Eletricidade restabelecida.
Merda!
Ava.
Volte para o seu quarto.
Se eu voltar,
vai me libertar um dia?
Sim.
Pare!
Ava, mandei parar!
Ava, o que está fazendo? Pare.
Basta.
Está bem, basta.
Basta!
Basta.
Vou levá-la de volta.
Está bem.
Inacreditável.
Certo.
Ava...
Ava.
O que aconteceu?
Vai ficar aqui?
Ficar aqui?
Ava?
Ava!
Está bem, está bem.
Tradutor: Carla Alessandra Prado, Deluxe