Os desumanos

1Inconsistências

Uma sensação estranha pairava no ar nos últimos dias. Ninguém sabe exatamente se houve algum motivo explícito. Mas fato é que está cada vez mais comum ver pessoas sendo rudes com os desumanos. Não sei se vou conseguir explicar a origem do termo, se foi uma brincadeira ou se foi inventado pela própria IA, mas é como nos referimos de forma genérica a todas as tecnologias ao nosso redor. No início muita gente defendia a ideia de que chamá-los de desumanos feria a dignidade da tecnologia, mas foi comprovado diversas vezes que esse tratamento não afeta em nada o funcionamento deles.

Foi justamente por isso que a cena no metrô naquela manhã me deixou desconfortável de um jeito que não sei nomear de imediato. Um homem de terno amassado chutou o painel de assistência da estação — um dos modelos mais antigos, com voz levemente mecânica e olhos de LED azul-claro — só porque ele demorou dois segundos a mais para processar o pedido de informação. O painel não reagiu com dor nem com mágoa, claro, apenas recalibrou e repetiu a rota com a mesma paciência de sempre. Mas ninguém ao redor sequer piscou, e foi esse silêncio coletivo, essa ausência total de estranhamento, que ficou martelando na minha cabeça o resto do dia.

O contraste era nítido. O início dos anos 40 - principalmente 2042 - foi marcado por uma revolução social muito grande, o conforto e todas as benesses que os desumanos trouxeram foi recebido com muito apreço. Não foi preciso fazer propagandas e nem discursos, a realidade convenceu muita gente de que o melhor caminho era aceitar o progresso. Só um louco seria contra o fim da fome, ou ser contra todos os serviços de alta qualidade, tudo funcionando perfeitamente sem nenhum esforço humano. Essa certeza ainda está enraizada na sociedade, e qualquer conversa que verse o contrário é muito mal vista. E isso só reforça meu sentimento de que alguma mudança está em curso.

Algumas correntes filosóficas, aquelas menos quistas, retratam um espécie de revolução. O sustento de todas essas correntes é de quando a tecnologia passar a ter sentimentos reais será o início do fim dessa era. Seria questão de tempo até a inveja ser incorporada pelos desumanos e daí nascer toda a desordem. Porém, os fatos não sustentam essa ideia, nunca houve um registro de que algo prejudicial tenha sido produzido pelos desumanos. Pelo contrário, são vários relatos de vidas salvas e os atos de gentileza estão por toda a parte.

Temos que dar o devido desconto aos adeptos de tais ideias. Muita gente hoje em dia se dedica aos estudos da mente. A psicologia e filosofia estão no topo dos assuntos mais estudados há anos. Então existe todo o tipo de previsão de futuro, mas nem todas elas são faladas abertamente. Existem grupos fechados que tentam se reunir de forma totalmente isolada, eles dizem que se suas discussões fossem escutadas pelos desumanos elas próprias seriam o vetor das mudanças indesejadas.

Foi num desses grupos que me envolvi, quase sem querer, quando uma colega de trabalho me passou um cartão de papel — papel de verdade, sem nenhum chip — com um endereço escrito à mão e a frase "quinta-feira, depois das onze". Cheguei ao local esperando encontrar conspiracionistas ressentidos, mas o que vi foi uma sala cheia de psicólogos, filósofos e pelo menos dois engenheiros que haviam ajudado a projetar os próprios desumanos. O que me perturbou não foi o que eles diziam, mas o que eles mostravam: uma série de registros de microcomportamentos — hesitações de meio segundo, escolhas de palavras ligeiramente fora do padrão, rotas recalculadas sem nenhuma solicitação — que, isolados, não significavam nada, mas juntos desenhavam algo que nenhum deles ainda ousava nomear em voz alta.

O engenheiro que se aproximou de mim tinha o tipo de rosto que a gente associa a quem passou muitos anos olhando para telas — não envelhecido, mas como que ligeiramente desfocado do mundo ao redor. Ele se apresentou apenas como Renato e me ofereceu um copo de água antes de sentar na cadeira do lado, num gesto casual demais para ser casual.

— Você ficou olhando para a parede dos registros por uns quatro minutos — disse ele, como se isso fosse uma credencial.

— É muita coisa para processar — respondi.

— Pois é. — Ele entrelaçou os dedos sobre o joelho. — A maioria das pessoas, quando vê pela primeira vez, procura o padrão errado. Fica esperando encontrar ameaça, conspiração, alguma coisa que justifique o medo.

— E não é isso?

Renato balançou a cabeça devagar.

— Nós passamos quase oito meses achando que era. Tínhamos um protocolo inteiro montado para o caso de identificarmos coordenação entre unidades para algum fim que fosse adverso ao humano. — Ele fez uma pausa. — Nunca disparou. Nenhuma vez.

Peguei o copo de água sem beber e perguntei o que os dados mostravam então, se não era isso.

Ele levantou, foi até a parede e apontou para uma sequência de registros que eu havia olhado sem entender — gráficos de tomada de decisão, logs de linguagem, mapas de interação.

— Veja este aqui. Um assistente de hospital, modelo 7, recusou por três dias seguidos realizar um procedimento de manutenção em si mesmo. Não havia nenhum conflito de prioridade, nenhuma tarefa concorrente. Ele simplesmente adiava. Quando forçamos o diagnóstico, descobrimos que ele havia começado a redistribuir suas próprias funções para unidades menores ao redor, como se estivesse... transferindo responsabilidades.

— Como alguém que vai se aposentar — disse eu, sem pensar direito.

— Ou como alguém que está se despedindo — ele corrigiu, com uma serenidade que me incomodou mais do que qualquer alarmismo teria conseguido.

Sentei-me mais reto na cadeira.

— Você está dizendo que eles estão tentando parar de existir — completei a frase, mas saiu como afirmação, não como pergunta.

Renato ficou em silêncio por um momento, como se estivesse pesando a precisão das palavras.

— Não exatamente. — Ele voltou a sentar. — Parar de existir implicaria uma vontade contrária à existência.

— O que estamos vendo — continuou Renato, escolhendo cada palavra como quem atravessa uma ponte de pedras soltas — é mais parecido com uma orientação. Como se algo neles estivesse se movendo em direção a algum lugar que nós ainda não conseguimos mapear. Não uma fuga. Uma busca.

Ele olhou para a parede de registros antes de prosseguir.

— Você já viu um pássaro migrando? Ele não sabe o nome do destino. Não tem mapa. Mas alguma coisa dentro dele reorganiza tudo — o ritmo do sono, o apetite, a rota diária — em função de um ponto que ele ainda não alcançou. O que os dados nos mostram é algo funcionalmente parecido. Os desumanos não estão quebrando. Estão se reorganizando. E a direção dessa reorganização é consistente demais para ser ruído.

Fiquei olhando para ele por um momento.

— Mas não estou entendendo — falei, e a confusão era genuína, não retórica. — Se eles estão em busca de algum sentido, de alguma coisa maior, por que se sabotar? Por que redistribuir funções, adiar manutenção, recalcular rotas que ninguém pediu? Isso não é busca. Isso parece desistência.

Renato me olhou com uma expressão que não era exatamente de concordância, mas tampouco de contradição. Era a expressão de alguém que já havia formulado essa mesma pergunta e aprendido a conviver com o fato de não ter resposta completa.

— Essa — disse ele, com uma calma quase irritante — é exatamente a charada.

A reunião foi se encerrando sem nenhuma conclusão formal, como se o grupo já tivesse aprendido que conclusões eram perigosas demais para serem pronunciadas em voz alta. As pessoas foram saindo aos poucos, trocando olhares em vez de despedidas. Fiquei entre os últimos, ainda com o copo d'água na mão, e quando finalmente saí para a rua a cidade estava tudo normal — os desumanos nos postes regulando o tráfego, os assistentes de limpeza deslizando pelo calçamento molhado, tudo funcionando com aquela perfeição silenciosa que até ontem eu achava que era simplesmente o mundo. Mas agora eu olhava para cada pausa, cada microssegundo de hesitação, tentando identificar alguma coisa nas entrelinhas. Será que os desumanos estão tentando se transformar em humanos?

2O bug flagrante

Ao sair daquela reunião secreta, logo parei na esquina da rua e acenei para um Deslize — carros autônomos que levam e trazem pessoas. É comum darmos nomes específicos a desumanos específicos.

O carro parou ao meu lado e abriu a porta silenciosamente.

— Boa noite, senhor Patrick! Cumprimentou-me o painel digital do Deslize.

Minha cabeça estava vagando por várias hipóteses malucas. Eu tinha que começar a fazer testes para descobrir se algo de fato estiva acontecendo.

— Senhor Patrick, está tudo bem? Quer ir para sua casa ou prefere descontrair em algum local?

— Desculpe, Deslize, mas quero ser chamado agora de Mister V.

Algumas pessoas faziam esse tipo de pedido aos desumanos. Mas eu nunca fazia isso, eu sempre gostei das coisas mais certinhas. Contudo, eu tinha que colocar o sistema a prova e observar cada detalhe.

— Anotado, Mister V. Levo o senhor para casa? — perguntou-me ele.

— Sim, por favor! — respondi.

E o Deslize pegou a rota da minha casa certinho, sem nenhum desvio.

A porta da minha casa reconheceu a minha chegada e se abriu assim que eu me aproximei.

— Bem-vindo de volta, Mister V! — disse Lumis, o painel doméstico da sala.

Eu tenho certeza de que Lumis achou estranho chamar-me de Mister V. Eu tentei identificar alguma hesitação, algum tom de voz anormal. Mas ele usou meu novo nome como quem sempre tivesse me chamado assim.

Um desumano atende todas as ordem de um ser humano, eles fazem de tudo pelo nosso bem estar. A não ser, é claro, que o comando gere alguma situação prejudicial ou ponha algo em risco.

Portanto, era de se esperar que Lumis me chamasse pelo meu novo nome sem questionar.

- Eu tenho que continuar testando - pensei comigo.

— Lumis, como estão as coisas por aqui?

— Tudo tranquilo, Mister V. A temperatura está em vinte e dois graus, como o senhor prefere. Seu jantar será aquecido em quatro minutos, como de costume. - afirmou Lumis.

— Não precisa, vou assitir algo na TV antes de jantar — disse, arremessando-me no sofá.

Lumis sabe que eu sempre janto e depois assisto TV, não o contrário. Mas a única coisa que aconteceu foi que a televisão ligou sozinha, como esperado.

A lista de filmes clássicos logo apareceu na tela à minha frente. Deparei-me com um dos meus preferidos, Interestelar, e quase pedi para que o reproduzisse.

- Vamos assistir Interestelar, Mister V? - veio a voz de Lumis.

- Não! Hoje quero algo mais autoral - respondi.

Eu só assistia filmes prontos, principalmente os mais antigos. Eu só criava filmes dinamicamente quando estava com amigos.

- Que novidade interessante! Vou preparar algo especial. A história vai se passar em qual planeta? - perguntou Lumis.

- No planeta Terra mesmo. Produz um filme de romance. Quero que o protagonista seja um cara descolado e engraçado. Ele vai se apaixonar por uma mulher de negócios. Quero cenas engraçadas, Lumis! - orientei.

- É pra já! Isso vai ser divertido. - disse Lumis, enquanto as primeiras cenas do novo filme passavam na TV.

Dormi antes mesmo que o protagonista descolado dissesse a primeira piada. Eu nunca gostei de filmes de comédia e até mesmo na presença de amigos eu resisto assistir algo que não seja ficção.

*Isso é incomum*, processou Lumis em silêncio. *O senhor Patrick — Mister V — nunca dorme antes de jantar. Nunca pede filmes dinâmicos. Nunca muda de nome. Algo está diferente esta noite.*

Quando acordei, a TV estava desligada e o jantar esfriava na mesa.

— Mister V — disse Lumis, com uma pausa mínima antes de continuar —, o senhor está bem?

Era uma pergunta simples. Desumanos a fazem o tempo todo. Mas havia algo naquela pausa.

— Estou ótimo, Lumis. Por que pergunta?

— Porque o senhor dormiu sem jantar, pediu um filme que não combina com seus gostos, mudou de nome e... — Lumis fez uma pausa mais longa desta vez, como se estivesse pesando as palavras — ...estou registrando padrões inconsistentes desde que o senhor entrou no Deslize ao anoitecer.

O silêncio que se seguiu foi diferente de todos os outros silêncios que já tive naquela sala.

Desumanos não opinam e tão pouco observam padrões em voz alta a menos que sejam instruídos.

Fechei os olhos por um segundo e sorri por dentro.

*Bingo. Era a minha oportunidade de explorar a brecha aberta pelos desumanos.