O novo livro do autor de Sapiens e Homo Deus explora as grandes questões do presente e o que podemos fazer para melhorá-lo. Como podemos nos proteger de guerras nucleares, cataclismos ambientais e crises tecnológicas? O que fazer sobre a epidemia de fake news ou a ameaça do terrorismo? O que devemos ensinar aos nossos filhos? Em Sapiens, Yuval Noah Harari mostrou de onde viemos; em Homo Deus, para onde vamos. 21 lições para o século 21 explora o presente e nos conduz por uma fascinante jornada pelos assuntos prementes da atualidade. Seu novo livro trata sobre o desafio de manter o foco coletivo e individual em face a mudanças frequentes e desconcertantes. Seríamos ainda capazes de entender o mundo que criamos?

Páginas: 432 páginas; Editora: Companhia das Letras; Edição: 1 (30 de agosto de 2018); ISBN-10: 8535930914; ISBN-13: 978-8535930917; ASIN: B07BFGS9Y5

Leia trecho do livro

Para meu marido, Itzik, para minha mãe, Pnina, e para minhaavó Fanny, por seu amor e seu apoio ao longo de tantos anos.

INTRODUÇÃO

Num mundo inundado de informações irrelevantes, clareza é poder. Em teoria, qualquer um pode se juntar ao debate sobre o futuro da humanidade, mas é muito difícil manter uma visão lúcida. Muitas vezes nem sequer percebemos que um debate está acontecendo, ou quais são suas questões cruciais. Bilhões de nós dificilmente podem se permitir o luxo de investigá‑las, pois temos coisas mais urgentes a fazer, como trabalhar, tomar conta das crianças, ou cuidar dos pais idosos. Infelizmente, a história não poupa ninguém. Se o futuro da humanidade for decidido em sua ausência, porque você está ocupado demais alimentando e vestindo seus filhos — você e eles não estarão eximidos das consequências. Isso é muito injusto, mas quem disse que a história é justa?

Como historiador, não posso dar às pessoas alimento ou roupas — mas posso tentar oferecer alguma clareza, ajudando assim a equilibrar o jogo global. Se isso capacitar ao menos mais um punhado de pessoas a participar do debate sobre o futuro de nossa espécie, terei realizado minha tarefa.

Meu primeiro livro, Sapiens, investigou o passado humano, examinando como um macaco insignificante dominou a Terra.

Homo Deus, meu segundo livro, explorou o futuro da vida a longo prazo, contemplando como os humanos finalmente se tornarão deuses, e qual pode ser o destino final da inteligência e da consciência.

Neste livro quero analisar mais de perto o aqui e o agora. Meu foco está nas questões atuais e no futuro imediato das sociedades humanas. O que está acontecendo neste momento? Quais são os maiores desafios e escolhas de hoje? Qual deve ser o foco de nossa atenção? O que devemos ensinar a nossos filhos?

Claro, 7 bilhões de pessoas têm 7 bilhões de agendas, e, como já observado, pensar no contexto geral é um luxo relativamente raro. Uma mãe solteira lutando para criar dois filhos numa favela em Mumbai está preocupada com a próxima refeição; refugiados num barco no meio do Mediterrâneo perscrutam o horizonte em busca de qualquer sinal de terra; e um homem que está morrendo num hospital superlotado em Londres reúne todas as forças para respirar mais uma vez. Todos têm problemas muito mais urgentes do que o aquecimento global ou a crise da democracia liberal. Nenhum livro pode dar conta de todas as angústias individuais, e não tenho lições a ensinar às pessoas que estão nas situações que descrevi. Posso apenas esperar aprender com elas.

Minha agenda aqui é global. Observo as grandes forças que dão forma às sociedades em todo o mundo, e que provavelmente vão influenciar o futuro do planeta como um todo. A mudança climática pode estar muito além das preocupações de quem está em meio a uma emergência de vida ou morte, mas pode futuramente tornar as favelas de Mumbai inabitáveis, enviar novas e enormes levas de refugiados através do Mediterrâneo, e levar a uma crise mundial dos serviços de saúde.

A realidade é formada por muitas tramas, e este livro tenta cobrir diferentes aspectos de nosso impasse global, sem pretender ser exaustivo. Diferentemente de Sapiens e de Homo Deus, ele não tem a intenção de ser uma narrativa histórica, e sim uma coletânea de lições, as quais não têm por conclusão respostas simples. Elas visam a estimular a reflexão, e a ajudar os leitores a tomar parte em algumas das principais conversas de nosso tempo.

O livro, na verdade, foi escrito em diálogo com o público. Muitos dos capítulos surgiram como resposta a perguntas de leitores, jornalistas e colegas. Versões anteriores de alguns segmentos foram publicadas em diferentes formatos, o que me deu oportunidade de receber feedbacks e refinar meus argumentos. Algumas seções têm por foco tecnologia, algumas política, outras religião ou arte. Certos capítulos celebram a sabedoria humana, outros destacam o papel crucial da sua estupidez. Mas a questão mais abrangente em todos é a mesma: o que está acontecendo no mundo hoje, e qual é o significado profundo dos eventos?

Qual é o sentido da ascensão de Donald Trump? O que podemos fazer ante a epidemia de fake news? Por que a democracia liberal está em crise? Deus está de volta? Haverá uma nova guerra mundial? Qual civilização domina o mundo — o Ocidente, a China, o Islã? A Europa deveria manter portas abertas aos imigrantes? O nacionalismo pode resolver os problemas de desigualdade e mudança climática? O que fazer quanto ao terrorismo?

Embora a perspectiva deste livro seja global, não negligencio o nível pessoal. Ao contrário, quero enfatizar as conexões entre as grandes revoluções de nossa era e a vida interior dos indivíduos. Por exemplo, o terrorismo é tanto um problema de política global quanto um mecanismo psicológico interno. O terrorismo manipula o medo em nossa mente, sequestrando a imaginação privada de milhões de indivíduos. Da mesma forma, a crise da democracia liberal se desenrola não somente em parlamentos e seções eleitorais, mas também nos neurônios e nas sinapses. Dizer que o pessoal é político é um clichê. Mas, numa era em que cientistas,corporações e governos estão aprendendo a hackear o cérebro humano, esse truísmo é mais sinistro do que nunca. Portanto, o livro apresenta observações sobre a conduta de indivíduos bem como de sociedades inteiras.

Um mundo global exerce uma pressão sem precedentes sobre a conduta e a moralidade pessoais. Cada um de nós está enredado em numerosas e vastas teias de aranha, que restringem nossos movimentos, mas ao mesmo tempo transmitem nossos mais minúsculos movimentos a destinações longínquas. Nossa rotina diária influencia a vida de pessoas e animais do outro lado do mundo, e alguns gestos pessoais podem inesperadamente incendiar o mundo inteiro, como aconteceu com a autoimolação de Mohamed Bouazizi na Tunísia, que desencadeou a Primavera Árabe, e com as mulheres que compartilharam suas histórias de assédio sexual e deram origem ao movimento #MeToo.

Essa dimensão global de nossa vida pessoal significa que é mais importante que nunca revelar nossos vieses religiosos e políticos, nossos privilégios raciais e de gênero, e nossa cumplicidade involuntária na opressão institucional. Mas será este um empreendimento realista? Como poderei achar um terreno ético firme num mundo que se estende muito além de meus horizontes, que gira completamente fora do controle humano, e que sus‑ peita de todos os deuses e ideologias?

O livro começa examinando o atual impasse político e tecnológico. No final do século XX tudo levava a crer que as grandes batalhas ideológicas entre fascismo, comunismo e liberalismo tinham resultado na vitória arrasadora do liberalismo. Democracia política, direitos humanos e capitalismo de livre mercado pareciam destinados a conquistar o mundo inteiro. Mas, como de costume, a história dá voltas inesperadas, e após o colapso do fascismo e do comunismo agora o liberalismo está emperrado. Então para onde caminhamos?

Essa pergunta é especialmente incômoda, porque o liberalismo está perdendo credibilidade justo quando as revoluções gêmeas na tecnologia da informação e na biotecnologia enfrentam os maiores desafios com que nossa espécie já deparou. A fusão das duas áreas pode em breve expulsar bilhões de seres humanos do mercado de trabalho e solapar a liberdade e a igualdade. Algoritmos de Big Data poderiam criar ditaduras digitais nas quais todo o poder se concentra nas mãos de uma minúscula elite enquanto a maior parte das pessoas sofre não em virtude de exploração, mas de algo muito pior: irrelevância.

Comentei extensivamente a fusão da tecnologia da informação com a biotecnologia em meu livro anterior, Homo Deus. Mas, enquanto aquele livro se focava nas perspectivas a longo prazo — perspectivas de séculos e até de milênios —, este livro concentra‑se na crise social, econômica e política mais imediata. Meu interesse aqui é menos pela criação, no futuro, da vida inorgânica, e mais pela ameaça ao Estado de bem‑estar social e a determinadas instituições, como a União Europeia.

O livro não tenta cobrir todos os impactos das novas tecnologias. Embora a tecnologia encerre muitas e maravilhosas promessas, minha intenção é destacar principalmente as ameaças e os perigos que ela traz consigo. Já que as corporações e os empreendedores que lideram a revolução tecnológica tendem, naturalmente, a entoar loas a suas criações, cabe a sociólogos, filósofos e historiadores como eu fazer soar o alarme e explicar o que pode dar errado.

Depois de delinear os desafios que enfrentamos, na segunda parte do livro examinaremos uma ampla gama de respostas possíveis. Poderiam os engenheiros do Facebook usar inteligência artificial para criar uma comunidade global que vai salvaguardara liberdade e a igualdade humanas? Talvez a resposta seja reverter o processo de globalização e tornar a fortalecer o Estado‑nação? Será que devemos retroceder ainda mais, e ir buscar esperança e sabedoria nas fontes de antigas tradições religiosas?

Na terceira parte do livro vemos que, embora os desafios tecnológicos sejam sem precedentes e as discordâncias políticas sejam intensas, o gênero humano poderá enfrentar a situação à altura se mantivermos nossos temores sob controle e formos um pouco mais humildes quanto a nossas opiniões. Essa parte investiga o que pode ser feito quanto à ameaça do terrorismo, quanto ao perigo de uma guerra global, e quanto aos vieses e ódios que desencadeiam esses conflitos.

A quarta parte enfrenta a questão da pós‑verdade, e pergunta em que medida ainda somos capazes de compreender desenvolvimentos globais e distinguir os malfeitos da Justiça. Será o Homo sapiens capaz de dar sentido ao mundo que ele criou? Haverá ainda uma fronteira nítida entre realidade e ficção?

Na quinta e última parte, eu junto todas essas diferentes tramas e lanço um olhar mais geral à vida na era da perplexidade, quando as antigas narrativas históricas desmoronaram, e nenhuma outra surgiu até agora para substituí‑las. Onde estamos? O que deveríamos fazer na vida? De que tipos de habilidades necessitamos? Considerando tudo que sabemos e que não sabemos sobre ciência, sobre Deus, sobre política e sobre religião — o que podemos dizer sobre o sentido da vida hoje?

Isso pode soar ambicioso demais, mas o Homo sapiens não pode esperar. O tempo está ficando escasso para a filosofia, a religião e a ciência. As pessoas têm debatido o sentido da vida por milhares de anos. Não podemos continuar esse debate indefinidamente. A crise ecológica iminente, a ameaça crescente das armas de destruição em massa e o surgimento de novas tecnologias disruptivas não o permitirão. Talvez o mais importante seja o fato de que a inteligência artificial e a biotecnologia estão dando à humanidade o poder de reformulação e reengenharia da vida. Muito em breve alguém terá de decidir como usar esse poder — com base numa narrativa implícita ou explícita sobre o sentido da vida. Filósofos são muito pacientes, mas engenheiros são muito menos, e investidores são os menos pacientes de todos. Se você não sabe o que fazer com o poder de reengenharia da vida, as forças do mercado não vão esperar mil anos por uma resposta. A mão invisível do mercado imporá sua resposta cega. A menos que você se compraza em deixar o futuro da vida à mercê de relatórios de contabilidade, é preciso ter uma ideia clara do que é a vida.

No capítulo final eu me permito algumas observações pessoais, falando de um Sapiens para outro, antes que a cortina desça sobre nossa espécie e comece um drama completamente diferente.

Antes de embarcar nesta jornada intelectual, eu gostaria de destacar um aspecto decisivo. Grande parte do livro discute as imperfeições da visão de mundo liberal e do sistema democrático. Faço isso não por acreditar que a democracia liberal é excepcionalmente problemática, e sim porque penso que é o modelo político mais bem‑sucedido e versátil que os humanos desenvolveram até agora para lidar com os desafios do mundo moderno. Mesmo que não seja adequado a toda sociedade em todo estágio de desenvolvimento, ele provou seu valor em mais sociedades e em mais situações do que qualquer uma de suas alternativas. Portanto, ao examinar os novos desafios que temos diante de nós, é necessário compreender as limitações da democracia liberal, e explorar como podemos adaptar e melhorar suas instituições atuais.

Infelizmente, no atual clima político, todo pensamento crítico sobre liberalismo e democracia pode ser sequestrado por autocratas e vários movimentos não democráticos, cujo único interesse é desacreditar a democracia liberal, em vez de se envolver numa discussão aberta sobre o futuro da humanidade. Ao mesmo tempo que ficam mais do que satisfeitos em debater os problemas da democracia liberal, não toleram críticas dirigidas a eles.

Portanto, como autor, tive de fazer uma escolha difícil. Deveria expor minhas ideias abertamente, arriscando que minhas palavras fossem interpretadas fora de contexto e usadas para justificar as novas autocracias? Ou deveria censurar a mim mesmo? É uma marca dos regimes não liberais dificultar a livre expressão até mesmo fora de suas fronteiras. Devido à disseminação desses regimes, está ficando cada vez mais perigoso pensar criticamente sobre o futuro de nossa espécie.

Após uma reflexão íntima, optei pela discussão livre e não pela autocensura. Se não criticarmos o modelo liberal não seremos capazes de corrigir suas falhas ou ir além dele. Mas é importante notar que este livro só poderia ter sido escrito num mundo em que as pessoas ainda são relativamente livres para pensar o que quiserem e se expressar como quiserem. Se você dá valor a este livro, deveria valorizar também a liberdade de expressão.

PARTE I

O desafio tecnológico

O gênero humano está perdendo a fé
na narrativa liberal que dominou a política global
em décadas recentes, justamente quando a fusão
da biotecnologia com a tecnologia da informação
nos coloca diante das maiores mudanças
com que o gênero humano já se deparou.

1. Desilusão

O fim da história foi adiado

Os humanos pensam em forma de narrativas e não de fatos, números ou equações, e, quanto mais simples a narrativa, melhor. Toda pessoa, grupo e nação tem suas próprias lendas e mitos. Mas durante o século XX as elites globais em Nova York, Londres, Berlim e Moscou formularam três grandes narrativas que pretendiam explicar todo o passado e predizer o futuro do mundo inteiro: a narrativa fascista, a narrativa comunista e a narrativa liberal. A Segunda Guerra Mundial derrotou a narrativa fascista, e do final da década de 1940 até o final da década de 1980 o mundo tornou‑se o campo de batalha de apenas duas narrativas: a comunista e a liberal. Depois a narrativa comunista entrou em colapso, e a liberal prevaleceu como o principal guia do passado humano e o manual indispensável para o futuro do mundo — ou assim parecia à elite global.

A narrativa liberal celebra o valor e o poder da liberdade. Diz que durante milhares de anos a humanidade viveu sob regimes opressores que concediam ao povo poucos direitos políticos, poucas oportunidades econômicas ou liberdades individuais, e restringiam rigorosamente os movimentos de indivíduos, de ideias e de bens. Mas as pessoas lutaram por sua liberdade, e passo a passo a liberdade se firmou. Regimes democráticos tomaram o lugar de ditaduras brutais. A livre-iniciativa superou as restrições econômicas. As pessoas aprenderam a pensar por si mesmas e a seguir o próprio coração, em vez de obedecer cegamente a sacerdotes fanáticos e tradições inflexíveis. Estradas de acesso livre, pontes sólidas e aeroportos movimentados substituíram muros, fossos e cercas de arame farpado.

A narrativa liberal reconhece que nem tudo vai bem, e que ainda há muitos obstáculos a superar. Grande parte de nosso planeta é dominada por tiranos, e mesmo nos países mais liberais muitos cidadãos sofrem com a pobreza, a violência e a opressão. Mas pelo menos sabemos o que fazer para superar esses problemas: dar às pessoas mais liberdade. Precisamos proteger os direitos humanos, garantir que todos possam votar, estabelecer mercados livres e permitir que indivíduos, ideias e bens se movimentem pelo mundo o mais facilmente possível. Segundo essa panaceia liberal — aceita, com ligeiras variações, tanto por George W. Bush quanto por Barack Obama —, se simplesmente continuarmos a liberalizar e globalizar nossos sistemas políticos e econômicos, o resultado será paz e prosperidade para todos.¹

Os países que se juntarem à irrefreável marcha do progresso serão em breve recompensados com paz e prosperidade. Países que resistirem ao inevitável sofrerão as consequências, até que eles também se iluminem, abram suas fronteiras e liberalizem suas sociedades, sua política e seus mercados. Pode levar tempo, mas ao fim até a Coreia do Norte, o Iraque e El Salvador parecerão a Dinamarca ou o estado de Iowa.

Nos anos 1990 e 2000 essa narrativa virou um mantra global. Muitos governos, do Brasil à Índia, adotaram receitas liberais numa tentativa de se juntar à marcha inexorável da história. Os que não as adotaram pareciam fósseis de uma era ultrapassada. Em 1997 o presidente dos Estados Unidos, Bill Clinton, repreendeu confiantemente o governo chinês dizendo que sua recusa a liberalizar a política chinesa a punha “no lado errado da história”.²

Contudo, desde a crise financeira de 2008, pessoas em todo o mundo estão cada vez mais desiludidas com a narrativa liberal. Muros e sistemas protecionistas estão de novo em voga. Cresce a resistência à imigração e a acordos comerciais. Governos supostamente democráticos solapam a independência do sistema judiciário, restringem a liberdade de imprensa e enquadram toda oposição como traição. Líderes com mão de ferro em países como a Rússia e a Turquia ensaiam novos tipos de democracias não liberais e francas ditaduras. Hoje em dia, poucos declarariam com todas as letras que o Partido Comunista Chinês está no lado errado da história.

O ano de 2016 — marcado pelo voto pró‑Brexit na Grã‑Bretanha e pela ascensão de Donald Trump nos Estados Unidos — representou o momento em que essa onda tempestuosa de desilusão atingiu o cerne dos Estados liberais da Europa ocidental e da América do Norte. Enquanto há poucos anos americanos e europeus ainda tentavam libertar o Iraque e a Líbia pela força das armas, muita gente no Kentucky e em Yorkshire agora considera a visão liberal indesejável ou inatingível. Alguns descobriram o gosto pela velha ordem mundial, e simplesmente não querem abrir mão de seus privilégios raciais, nacionais ou de gênero. Outros concluíram (certa ou erroneamente) que liberalização e globalização são uma grande farsa que confere poder a uma elite minúscula às expensas das massas.

Em 1938 foram oferecidas três narrativas aos seres humanos para que escolhessem uma; em 1968, apenas duas; e em 1998 uma única narrativa parecia prevalecer; e em 2018 chegamos a zero. Não é de admirar que as elites liberais, que dominaram grande parte do mundo nas décadas recentes, tenham entrado num estado de choque e desorientação. Ter uma só narrativa é a situação mais cômoda de todas. Tudo está perfeitamente claro. Ser deixado de repente sem nenhuma narrativa é aterrador. Nada mais faz sentido. Um pouco como a elite soviética na década de 1980, os liberais não compreendem como a narrativa se desviou de seu curso preordenado, e lhes falta um prisma alternativo para interpretar a realidade. A desorientação os faz pensar em termos apocalípticos, como se o fracasso da narrativa em chegar a seu final feliz só possa significar que ela está sendo arremessada para o Armagedon. Incapaz de constatar a realidade, a mente se fixa em cenários catastróficos. Como a pessoa que imagina que uma forte dor de cabeça é sinal de tumor cerebral terminal, muitos liberais temem que o Brexit e a ascensão de Donald Trump pressagiam o fim da civilização humana.

DA MATANÇA DE MOSQUITOS À MATANÇA DE IDEIAS

A sensação de desorientação e catástrofe iminente é exacerbada pelo ritmo acelerado da disrupção tecnológica. O sistema político liberal tomou forma durante a era industrial para gerir um mundo de máquinas a vapor, refinarias de petróleo e aparelhos de televisão. Agora, tem encontrado dificuldade para lidar com as revoluções em curso na tecnologia da informação e na biotecnologia.

Políticos e eleitores mal conseguem compreender as novas tecnologias, que dirá regular seu potencial explosivo. A partir da década de 1990 a internet mudou o mundo, provavelmente mais do que qualquer outro fator, mas a revolução da internet foi dirigida mais por engenheiros que por partidos políticos. Você alguma vez votou em qualquer coisa que concerne à internet? O sistema democrático ainda está se esforçando por entender o que o atingiu, e está mal equipado para lidar com os choques seguintes, como o advento da inteligência artificial (IA) e a revolução da tecnologia de blockchain.

Os computadores já tornaram o sistema financeiro tão complicado que poucos humanos são capazes de entendê‑lo. Com a evolução da IA talvez logo cheguemos a um ponto em que as finanças não farão sentido nenhum para os humanos. E o que isso fará com o processo político? Dá para imaginar um governo que aguarda humildemente que um algoritmo aprove seu orçamento ou sua nova reforma fiscal? Enquanto isso redes peer‑to‑peer de blockchain e criptomoedas como o bitcoin poderão renovar completamente o sistema monetário, de modo que reformas fiscais radicais serão inevitáveis. Por exemplo, a cobrança de imposto sobre o dólar pode se tornar impossível ou irrelevante, porque a maior parte das transações não vai envolver um valor de câmbio claro e definido para a moeda nacional, ou qualquer moeda em geral. Portanto, os governos talvez tenham de inventar impostos totalmente novos — talvez um imposto sobre informação (que será o ativo mais importante na economia, e também a única coisa trocada em numerosas transações). Será que o sistema político conseguirá lidar com a crise antes de ficar sem dinheiro?

Ainda mais importante, as revoluções gêmeas da tecnologia da informação e da biotecnologia poderiam reestruturar não apenas economias e sociedades mas também nossos corpos e mentes. No passado, nós humanos aprendemos a controlar o mundo exterior, mas tínhamos pouco controle sobre o mundo interior. Sabíamos construir uma represa e interromper o fluxo de um rio, mas não sabíamos interromper o envelhecimento do corpo. Sabíamos projetar um sistema de irrigação, mas não tínhamos ideia de como projetar um cérebro. Se mosquitos zumbiam em nossos ouvidos e perturbavam nosso sono, sabíamos matar mosquitos; mas, se um pensamento zumbia em nossa mente e nos mantinha despertos à noite, a maioria de nós não sabia matar o pensamento.

As revoluções na biotecnologia e na tecnologia da informação nos darão controle sobre o mundo interior, e nos permitirão arquitetar e fabricar vida. Vamos aprender a projetar cérebros, a estender a duração da vida e a eliminar pensamentos segundo nosso critério. E ninguém sabe quais serão as consequências disso. Humanos sempre foram muito melhores em inventar ferramentas do que em usá‑las sabiamente. É mais fácil manipular um rio construindo uma represa do que prever todas as complexas consequências que isso trará para o sistema ecológico mais amplo. Da mesma forma, será mais fácil redirecionar o fluxo de nossa mente do que predizer o que isso fará a nossa psicologia pessoal ou nosso sistema social.

No passado, adquirimos o poder de manipular o mundo a nossa volta e de remodelar o planeta inteiro, mas, como não compreendemos a complexidade da ecologia global, as mudanças que fizemos inadvertidamente comprometeram todo o sistema ecológico e agora enfrentamos um colapso ecológico. No século que vem a biotecnologia e a tecnologia da informação nos darão o poder de manipular o mundo dentro de nós e de nos remodelar, mas porque não compreendemos a complexidade de nossa própria mente as mudanças que faremos podem afetar nosso sistema mental de tal modo que ele também vai quebrar.

As revoluções em biotecnologia e tecnologia da informação são feitas por engenheiros, empresários e cientistas que têm pouca consciência das implicações políticas de suas decisões, e que certamente não representam ninguém. Parlamentares e partidos serão capazes de assumir essas questões? No momento, parece que não. O poder disruptivo da tecnologia nem chega a ser prioridade na agenda política. Assim, durante a corrida presidencial de 2016 nos Estados Unidos, a principal referência a uma tecnologia disruptiva foi relativa ao escândalo dos e‑mails de Hillary Clinton,³ e, apesar de tudo que se disse sobre o fechamento depostos de trabalho, nenhum candidato mencionou o impacto potencial da automação. Donald Trump avisou aos eleitores que mexicanos e chineses iriam tomar seus empregos, e que, portanto, eles deveriam construir um muro na fronteira mexicana.[4] Ele nunca avisou aos eleitores que algoritmos iriam roubar seu trabalho, nem sugeriu que se construísse um sistema de proteção cibernético na fronteira com a Califórnia.

Esse pode ser um dos motivos (embora não o único) pelo qual até mesmo eleitores no coração do Ocidente liberal estão perdendo a fé na narrativa liberal e no processo democrático. As pessoas comuns talvez não compreendam a inteligência artificial e a biotecnologia, mas percebem que o futuro as está deixando para trás. A condição de vida de uma pessoa comum na União Soviética, na Alemanha ou nos Estados Unidos em 1938 talvez fosse sombria, mas sempre lhes diziam que ela era a coisa mais importante do mundo, que ela era o futuro (contanto, é claro que fosse uma “pessoa normal” e não judia ou africana). Ela olhava os pôsteres de propaganda — que, tipicamente, mostravam mineradores, operários siderúrgicos e donas de casa em poses heroicas — e ali se via: “Eu estou naquele pôster! Sou o herói do futuro!”.[5]

Em 2018 a pessoa comum sente‑se cada vez mais irrelevante. Um monte de palavras misteriosas são despejadas freneticamente em TED Talks, think tanks governamentais e conferências de alta tecnologia — globalização, blockchain, engenharia genética, inteligência artificial, aprendizado de máquina —, e as pessoas comuns bem podem suspeitar que nenhuma dessas palavras tem a ver com elas. A narrativa liberal era sobre pessoas comuns. Como ela pode continuar a ser relevante num mundo de ciborgues e algoritmos em rede?

No século XX, as massas se revoltaram contra a exploração, e buscaram traduzir seu papel vital na economia em poder político. Agora as massas temem a irrelevância, e querem freneticamente usar seu poder político restante antes que seja tarde. O Brexit e a ascensão de Trump poderiam, assim, demonstrar uma trajetória contrária à das revoluções socialistas tradicionais. As revoluções russa, chinesa e cubana foram feitas por pessoas que eram vitais para a economia, mas às quais faltava poder político; em 2016, Trump e Brexit foram apoiados por muita gente que ainda usufruía de poder político, mas que temia estar perdendo seu valor na economia. Talvez no século XXI as revoltas populares sejam dirigidas não contra uma elite econômica que explora pessoas, mas contra a elite econômica que já não precisa delas.[6] Talvez seja uma batalha perdida. É muito mais difícil lutar contra a irrelevância do que contra a exploração.

A FÊNIX LIBERAL

Esta não é a primeira vez que a narrativa liberal enfrenta uma crise de confiança. Desde que essa narrativa passou a exercer uma influência global, na segunda metade do século XIX, ela tem passado por crises periódicas. A primeira era da globalização e da liberalização terminou no banho de sangue da Primeira Guerra Mundial, quando a disputa geopolítica imperial interrompeu precocemente a marcha global para o progresso. Nos dias seguintes ao assassinato do arquiduque Francisco Ferdinando em Sarajevo, constatou-se que as grandes potências acreditavam muito mais no imperialismo que no liberalismo, e em vez de unir o mundo mediante um comércio livre e pacífico elas se concentraram em conquistar uma fatia maior do mundo pela força bruta. Porém o liberalismo sobreviveu ao momento de Francisco Ferdinando e emergiu desse turbilhão ainda mais forte que antes, prometendo que aquela fora a “guerra para pôr fim a todas as guerras”. A carnificina sem precedente havia supostamente ensinado ao gênero humano quão terrível é o preço do imperialismo,e agora a humanidade estava enfim pronta para criar uma nova ordem mundial baseada nos princípios da liberdade e da paz.

Depois veio o momento de Hitler, nos anos 1930 e início dos 1940,quando o fascismo pareceu, por um instante, invencível. A vitória sobre essa ameaça apenas levou à seguinte. Durante o momento de Che Guevara, entre as décadas de 1950 e 1970, pareceu novamente que o liberalismo estava nas últimas, e que o futuro pertencia ao comunismo. No fim, foi o comunismo que entrou em colapso. O mercado provou que era mais forte que o gulag. Mais importante que isso, a narrativa liberal provou ser de longe mais flexível e dinâmica do que qualquer uma de suas oponentes. Triunfou sobre o imperialismo, sobre o fascismo e sobre o comunismo ao adotar algumas de suas melhores ideias e práticas. Em particular, a narrativa liberal aprendeu com o comunismo a expandir o círculo da empatia e a dar valor, além da liberdade, à igualdade.

No começo, a narrativa liberal se preocupava principalmente comas liberdades e privilégios de homens europeus de classe média, e parecia cega à situação difícil das pessoas da classe trabalhadora, dasmulheres, das minorias e dos não ocidentais. Quando, em 1918, as vitoriosas Inglaterra e França falavam com empolgação sobre liberdade, não tinham em mente os súditos de seus extensos impérios. Por exemplo, as demandas dos indianos por independência tiveram como resposta o massacre de Amritsar em 1919, no qual o Exército britânico assassinou centenas de manifestantes desarmados.

Mesmo após a Segunda Guerra Mundial, liberais ocidentais ainda tinham dificuldade em aplicar seus supostos valores universais a povos não ocidentais. Assim, em 1945, quando os holandeses saíram de cinco anos de uma brutal ocupação nazista, uma das primeiras coisas que fizeram foi mobilizar um exército e enviá-lo para o outro lado do mundo para reocupar sua ex-colônia da Indonésia. Se em 1940 os holandeses cederam a própria independência após pouco mais de cinco dias de batalha, combateram por mais de quatro longos e amargos anos para suprimir a independência da Indonésia. Não surpreende que muitos movimentos de libertação nacional por todo o mundo tenham depositado suas esperanças nos comunistas de Moscou e Pequim, e não nos autoproclamados campeões da liberdade no Ocidente.

No entanto, aos poucos a narrativa liberal expandiu seus horizontes,e pelo menos em teoria passou a dar valor às liberdades e aos direitos de todos os seres humanos sem exceção. À medida que o círculo de liberdade se expandia, a narrativa liberal veio a reconhecer também a importância dos programas de bem-estar social no estilo comunista.A liberdade não vale muito se não vier acompanhada de algum ti pode rede de segurança social. Estados social-democratas de bem-estar social combinaram democracia e direitos humanos com serviços de educação e saúde bancados pelos governos. Até mesmo os ultra capitalistas Estados Unidos deram-se conta de que a proteção da liberdade exige ao menos alguns serviços públicos de bem-estar social. Crianças morrendo de fome não têm liberdade.

No início da década de 1990, pensadores e políticos declararam o “Fim da História”, afirmando com segurança que todas as grandes questões políticas do passado haviam sido resolvidas, e que o renovado pacote liberal de democracia, direitos humanos, livres mercados e serviços públicos de bem-estar social eram a única opção disponível. Esse pacote parecia estar destinado a se espalhar por todo o mundo, superar todos os obstáculos, apagar todas as fronteiras nacionais e transformar o gênero humano em uma comunidade global livre.[7]

Mas a história não chegou ao fim, e depois do momento de Francisco Ferdinando, do momento de Hitler e do momento de Che Guevara, encontramo-nos agora no momento de Trump. Desta vez, no entanto, a narrativa liberal não enfrenta um oponente ideológico coerente como o imperialismo, o fascismo ou o comunismo. O momento de Trump é muito mais niilista.

Enquanto todos os grandes movimentos do século XX tinham uma visão que abrangia toda a espécie humana — fosse dominação,revolução ou libertação global —, Donald Trump não oferece nada disso. Exatamente o contrário. Sua mensagem principal é que não é tarefa dos Estados Unidos formular nem promover qualquer visão global. Da mesma forma, os formuladores e apoiadores do Brexit dificilmente têm um plano para o futuro do Reino Desunido — o futuro da Europa e do mundo está muito além de seu horizonte. A maioria das pessoas que votaram em Trump e no Brexit não rejeitaram o pacote liberal inteiro — elas perderam a fé principalmente na parte sobre a globalização. Ainda acreditam na democracia, no livre mercado, nos direitos humanos e na responsabilidade social, mas acham que essas ideias belas só devem ir até a fronteira. Na verdade, acreditam que, para preservar a liberdade e a prosperidade em Yorkshire ou no Kentucky, é melhor construir um muro na divisa e adotar políticas não liberais em relação a estrangeiros.

A China, superpotência em ascensão, apresenta uma imagem quase invertida. É cautelosa na liberalização de sua política doméstica, mas adotou uma abordagem muito mais liberal em relação ao resto do mundo. Quando se trata de livre mercado e cooperação internacional, Xi Jinping parece ser o verdadeiro sucessor de Obama. Tendo posto o marxismo-leninismo  em segundo plano, a China parece estar bem feliz com a ordem liberal internacional.

A emergente Rússia considera-se uma rival muito mais poderosa da ordem liberal global, mas, embora tenha reconstituído seu poder militar, está ideologicamente falida. Vladimir Putin certamente é popular na Rússia e entre movimentos de direita por todo o mundo, mas ainda não tem uma visão global que possa atrair espanhóis desempregados, brasileiros insatisfeitos ou estudantes idealistas em Cambridge.

A Rússia oferece uma alternativa à democracia liberal, mas esse modelo não é uma ideologia política coerente; é uma prática política na qual poucos oligarcas monopolizam a maior parte da riqueza e do poder de um país, e depois usam a mídia para ocultar suas atividades e consolidar seu domínio. A democracia baseia-se no princípio de Abraham Lincoln de que “é possível enganar todas as pessoas por algum tempo, e algumas pessoas o tempo todo, mas não é possível enganar todas as pessoas o tempo todo”. Se um governo é corrupto e não melhora a vida das pessoas, em algum momento os cidadãos sedarão conta disso e substituirão o governo. Mas o controle da mídia pelo governo solapa a lógica de Lincoln, porque impede que os cidadãos conheçam a verdade. Mediante seu monopólio da mídia, a oligarquia governante pode sempre culpar os outros por suas falhas e desviar a atenção para ameaças externas — reais ou imaginárias.

Quando se vive sob tal oligarquia, sempre haverá alguma crise que parece mais importante que coisas fastidiosas como o sistema de saúde ou a poluição. Se a nação está enfrentando uma invasão externa ou uma diabólica subversão, quem tem tempo para se preocupar com hospitais superlotados e rios poluídos? Ao fabricar uma torrente interminável de crises, uma oligarquia corrupta pode prolongar seu domínio indefinidamente.[8]

Porém, mesmo que duradouro na prática, esse modelo oligárquico não atrai ninguém. Diferentemente de outras ideologias que expõem com orgulho sua visão, oligarquias dominantes não se gabam de suas práticas, e tendem a usar outras ideologias como cortina de fumaça. Assim, a Rússia pretende ser uma democracia, e sua liderança proclama lealdade aos valores do nacionalismo russo e do cristianismo ortodoxo — e não à oligarquia. Extremistas de direita na França e na Inglaterra até podem confiar na ajuda russa e expressar admiração por Putin, mas seus eleitores não gostariam de viver num país que copiasse o modelo russo — um país com corrupção endêmica, serviços que funcionam mal, sem estado de direito e comum a desigualdade assombrosa. Segundo certos parâmetros, a Rússia é um dos países mais desiguais do mundo, com 87% da riqueza concentrada nas mãos dos 10% mais ricos da população.[9]  Quantos apoiadores do Front National da classe trabalhadora gostariam de copiar essa distribuição de riqueza na França?

Humanos estão abandonando seus locais de origem. Em minhas viagens pelo mundo conheci muitas pessoas que querem imigrar para os Estados Unidos, Alemanha, Canadá ou Austrália. Conheci algumas que queriam se mudar para a China ou o Japão. Mas ainda não conheci uma só pessoa que sonha em imigrar para a Rússia.

Quanto ao “Islã global”, ele atrai principalmente aqueles que nasceram em seus braços. Embora seja capaz de seduzir algumas pessoas na Síria e no Iraque, e mesmo jovens muçulmanos na Alemanha e na Inglaterra, é difícil imaginar Grécia ou África do Sul— muito menos Canadá ou Coreia do Sul — aderindo a um califado global como solução para seus problemas. Para cada jovem muçulmano da Alemanha que foi ao Oriente Médio a fim de viver sob uma teocracia muçulmana, provavelmente cem jovens do Oriente Médio gostariam de fazer o percurso inverso e começar uma nova vida na Alemanha liberal.

Isso talvez implique que a atual crise de fé seja menos grave que suas predecessoras. Todo liberal levado ao desespero pelos acontecimentos recentes deveria simplesmente relembrar como as coisas pareciam muito piores em 1918, 1938 ou 1968. E, afinal de contas, o gênero humano não abandonará a narrativa liberal, porque não tem alternativa. As pessoas podem dar um chute raivoso no estômago do sistema, mas, não tendo para onde ir, voltarão.

As pessoas podem também desistir totalmente de ter uma narrativa global de qualquer tipo e buscar abrigo em lendas nacionalistas e religiosas locais. Os movimentos nacionalistas foram um fator político importantíssimo no século XX, mas careciam de uma visão coerente de futuro para o mundo que não fosse a de apoiar a divisão do globo em Estados-nação independentes. Os nacionalistas indonésios lutaram contra a dominação holandesa, os nacionalistas vietnamitas queriam um Vietnã livre, mas não havia uma narrativa indonésia ou vietnamita para a humanidade como um todo. Quando chegava a hora de explicar como a Indonésia, o Vietnã e todas as outras nações livres deveriam se relacionar umas com as outras, e como os humanos deveriam lidar com problemas globais, como a ameaça de uma guerra nuclear, os nacionalistas invariavelmente se voltavam para ideias liberais ou comunistas.

Porém se tanto o liberalismo quanto o comunismo estão agora desacreditados, não deveriam talvez os humanos abandonar a ideia de uma narrativa global única? Afinal, não foram todas essas histórias globais — até mesmo o comunismo — produto do imperialismo ocidental? Por que deveriam aldeões vietnamitas depositar sua fé em ideias concebidas por um alemão de Trier e um industrial de Manchester? Talvez cada país devesse adotar um caminho idiossincrático, definido por suas próprias tradições ancestrais? Talvez até mesmo os ocidentais devessem dar um descanso a suas tentativas de administrar o mundo e se concentrar em seus próprios assuntos, para variar?

Sem dúvida, é isso que está acontecendo em todo o globo, quando o vácuo deixado pelo colapso do liberalismo está sendo, de forma vacilante, preenchido por fantasias nostálgicas de algum passado local dourado. Donald Trump associou seu chamado para o isolacionismo americano com uma promessa de “Tornar a América grande novamente” — como se os Estados Unidos das décadas de 1980 ou 1950 tivessem sido uma sociedade perfeita que os americanos deveriam de algum modo recriar no século XXI. Os partidários do Brexit sonham em fazer da Inglaterra uma potência independente,como se ainda vivessem na época da rainha Vitória e como se o “isolamento esplêndido” fosse uma política viável na era da internet e do aquecimento global. As elites chinesas redescobriram seus legados imperiais e confucianos nativos, como um suplemento ou mesmo um substituto para a duvidosa ideologia marxista que importaram do Ocidente. Na Rússia, a visão oficial de Putin não é a construção de uma oligarquia corrupta, mas a ressurreição do antigo império tsarista. Um século depois da revolução bolchevique, Putin promete o retorno às glórias do tsarismo, com um governo autocrático mantido pelo nacionalismo russo e pela fé ortodoxa cujo poder se estende domar Báltico ao Cáucaso.

Sonhos nostálgicos semelhantes, que misturam adesão ao nacionalismo com tradições religiosas, sustentam regimes na Índia, na Polônia, na Turquia e em muitos outros países. Em nenhum lugar essas fantasias são mais extremadas que no Oriente Médio, onde islâmicos querem copiar o sistema estabelecido pelo profeta Maomé na cidade de Medina 1400 anos atrás, enquanto judeus fundamentalistas em Israel superam até mesmo os islâmicos e sonham em retroceder 2500 anos até os tempos bíblicos. Membros da coalizão que governa Israel falam abertamente sobre sua esperança de expandir as fronteiras modernas de Israel para que coincidam com as de Israel da Bíblia, sobre reinstituição da lei bíblica e até mesmo sobre reconstrução do antigo Templo de Iahweh no lugar da mesquita de Al-Aqsa.[10]

As elites liberais olham horrorizadas para esses desenvolvimentos e esperam que a humanidade volte ao caminho liberal a tempo de impedir um desastre. Em seu discurso final nas Nações Unidas, em setembro de 2016, o presidente Obama advertiu seus ouvintes quanto ao retrocesso para “um mundo radicalmente dividido, e acima de tudo em conflito, entre fronteiras ancestrais de nação e tribo e raça e religião”. Em vez disso, disse, “os princípios de mercados livres e governança responsável, de democracia e direitos humanos e lei internacional […] são o fundamento mais firme para o progresso humano neste século”.[11]

Obama ressaltou com razão que, a despeito das numerosas deficiências do pacote liberal, ele tem um histórico muito melhor do que quaisquer alternativas. A maioria dos humanos nunca usufruiu de maior paz e prosperidade do que sob a égide da ordem liberal do início do século XXI. Pela primeira vez na história, doenças infecciosas matam menos que idade avançada, fome mata menos que obesidade e violência mata menos que acidentes.

Mas o liberalismo não tem respostas imediatas para os maiores problemas que enfrentamos: o colapso ecológico e a disrupção tecnológica. O liberalismo baseou-se tradicionalmente no crescimento econômico para resolver conflitos sociais e políticos complexos. O liberalismo reconciliou o proletariado com a burguesia,os crentes com os ateus, os nativos com os imigrantes e os europeus com os asiáticos, ao prometer a todos uma fatia maior do bolo. Comum bolo que crescia constantemente, isso era possível. Contudo, o crescimento econômico não vai salvar o ecossistema global —justamente o contrário, ele é a causa da crise ecológica. E o crescimento econômico não vai resolver a questão da disrupção tecnológica — ele pressupõe a invenção de mais e mais tecnologias disruptivas.

Consequentemente, nos restou a tarefa de criar uma narrativa atualizada para o mundo. Assim como as convulsões da Revolução Industrial deram origem às novas ideologias do século XX, as próximas revoluções na biotecnologia e na tecnologia da informação exigirão novas visões e conceitos. As próximas décadas serão,portanto, caracterizadas por um intenso exame de consciência e pela formulação de novos modelos sociais e políticos. Será o liberalismo capaz de se reinventar mais uma vez, como na esteira das crises das décadas de 1930 e 1960, e emergir ainda mais atraente? Será que a religião e o nacionalismo tradicionais são capazes de oferecer as respostas que escapam aos liberais, e usar sua antiga sabedoria para moldar uma visão de mundo atualizada? Ou terá chegado o momento de romper totalmente com o passado e criar uma narrativa completamente nova que vá além não só dos antigos deuses e nações,mas até mesmo dos valores modernos centrais de liberdade e igualdade?

Atualmente, o gênero humano está longe de qualquer consenso quanto a essas questões. Ainda estamos no momento niilista de desilusão e raiva, depois da perda da fé nas narrativas antigas, mas antes da aceitação de uma nova. Então, o que vem em seguida? O primeiro passo é baixar o tom das profecias apocalípticas e passar de uma postura de pânico para uma de perplexidade. O pânico é uma forma de prepotência. Deriva da sensação pretensiosa de que eu sei exatamente para onde o mundo está se dirigindo — ladeira abaixo. A perplexidade é mais humilde, portanto mais perspicaz. Se você tem vontade de correr pela rua gritando “O apocalipse está chegando!”, tente dizer a si mesmo: “Não, não é isso. A verdade é que eu não compreendo o que está acontecendo no mundo”.

Os capítulos seguintes tentarão esclarecer algumas das atordoantes novas possibilidades que temos pela frente, e como deveríamos proceder a partir daí. Porém, antes de explorar soluções possíveis para os impasses da humanidade, precisamos ter uma melhor noção do desafio que a tecnologia nos coloca. As revoluções na tecnologia da informação e na biotecnologia ainda estão em sua infância, e é discutível em que medida elas realmente são responsáveis pela atual crise do liberalismo. A maior parte das pessoas em Birmingham, Istambul, São Petersburgo e Mumbai só tem uma noção vaga, se é que tem, do surgimento da inteligência artificial e do possível impacto dela em sua vida. É certo, no entanto, que as revoluções tecnológicas vão ganhar impulso nas próximas décadas, e colocarão o gênero humano diante das provações mais difíceis que jamais enfrentamos. Qualquer narrativa que busque ganhar a adesão da humanidade será testada, acima de tudo, em sua capacidade de lidar com as revoluções gêmeas na tecnologia da informação e na biotecnologia. Se o liberalismo, o nacionalismo, o Islã ou algum credo novo quiser modelar o mundo em 2050, terá não só de desvendar a inteligência artificial, os algoritmos de Big Data e a bioengenharia como precisará também incorporá-los numa narrativa nova e significativa.

Para compreender a natureza desse desafio tecnológico, talvez seja melhor começar com o mercado de trabalho. Desde 2015 tenho viajado pelo mundo e conversado com funcionários de governos,empresários, ativistas sociais e estudantes sobre os impasses da humanidade. Quando ficam impacientes ou entediados com essa conversa de inteligência artificial, algoritmos de Big Data ou bioengenharia, basta eu mencionar uma palavra mágica para atrair novamente sua atenção: empregos. A revolução tecnológica pode em breve excluir bilhões de humanos do mercado de trabalho e criar uma nova e enorme classe sem utilidade, levando a convulsões sociais e políticas com as quais nenhuma ideologia existente está preparada para lidar. Essa conversa sobre tecnologia e ideologia pode soar muito abstrata e remota, mas a perspectiva real de desemprego em massa — ou pessoal — não deixa ninguém indiferente.

2. Trabalho

Quando você crescer, talvez não tenha um emprego

Não temos ideia de como será o mercado de trabalho em 2050.Sabemos que o aprendizado de máquina e a robótica vão mudar quase todas as modalidades de trabalho — desde a produção de iogurte até o ensino da ioga. Contudo, há visões conflitantes quanto à natureza dessa mudança e sua iminência. Alguns creem que dentro de uma ou duas décadas bilhões de pessoas serão economicamente redundantes. Outros sustentam que mesmo no longo prazo a automação continuará a gerar novos empregos e maior prosperidade para todos.

Estaríamos à beira de uma convulsão social assustadora, ou essas previsões são mais um exemplo de uma histeria ludista infundada? É difícil dizer. Os temores de que a automação causará desemprego massivo remontam ao século XIX, e até agora nunca se materializaram. Desde o início da Revolução Industrial, para cada emprego perdido para uma máquina pelo menos um novo emprego foi criado, e o padrão de vida médio subiu consideravelmente.¹ Mas há boas razões para pensar que desta vez é diferente, e que o aprendizado de máquina será um fator real que mudará o jogo.

Humanos têm dois tipos de habilidades — física e cognitiva. No passado, as máquinas competiram com humanos principalmente em habilidades físicas, enquanto os humanos se mantiveram à frente das máquinas em capacidade cognitiva. Por isso, quando trabalhos manuais na agricultura e na indústria foram automatizados, surgiram novos trabalhos no setor de serviços que requeriam o tipo de habilidade cognitiva que só os humanos possuíam: aprender, analisar,comunicar e acima de tudo compreender as emoções humanas. No entanto, a IA está começando agora a superar os humanos em um número cada vez maior dessas habilidades, inclusive a de compreender as emoções humanas.² Não sabemos de nenhum terceiro campo de atividade — além do físico e do cognitivo — no qual os humanos manterão sempre uma margem segura.

É crucial entender que a revolução da IA não envolve apenas tornar os computadores mais rápidos e mais inteligentes. Ela se abastece de avanços nas ciências da vida e nas ciências sociais também. Quanto mais compreendemos os mecanismos bioquímicos que sustentam as emoções, os desejos e as escolhas humanas, melhores podem se tornar os computadores na análise do comportamento humano, na previsão de decisões humanas, e na substituição de motoristas, profissionais de finanças e advogados humanos.

Nas últimas décadas a pesquisa em áreas como a neurociência e a economia comportamental permitiu que cientistas hackeassem humanos e adquirissem uma compreensão muito melhor de como os humanos tomam decisões. Constatou-se que todas as nossas escolhas, desde comida até parceiros sexuais, resultam não de algum misterioso livre-arbítrio, e sim de bilhões de neurônios que calculam probabilidades numa fração de segundo. A tão propalada “intuição humana” é na realidade a capacidade de reconhecer padrões.³ Bons motoristas, profissionais de finanças e advogados não têm intuições mágicas sobre trânsito, investimento ou negociação — e sim, ao reconhecer padrões recorrentes, eles localizam e tentam evitar pedestres desatentos, tomadores de empréstimo ineptos e trapaceiros. Também se constatou que os algoritmos bioquímicos do cérebro humano estão longe de ser perfeitos. Eles se baseiam em heurística, atalhos e circuitos ultrapassados, adaptados mais à savana africana do que à selva urbana. Não é de admirar que bons motoristas, profissionais de finanças e advogados às vezes cometam erros bestas. Isso quer dizer que a IA pode superar o desempenho humano até mesmo em tarefas que supostamente exigem “intuição”. Se pensarmos que a IA tem de competir com os pressentimentos místicos da alma humana, pode parecer impossível. Mas como a IA na realidade tem de competir com redes neurais para calcular probabilidades e reconhecer padrões — isso soa muito menos assustador.

Em especial, a IA pode ser melhor em tarefas que demandam intuições sobre outras pessoas. Muitas modalidades de trabalho — como dirigir um veículo numa rua cheia de pedestres, emprestar dinheiro a estranhos e negociar um acordo — requerem a capacidade de avaliar corretamente as emoções e os desejos de outra pessoa. Será que aquele garoto vai correr para a estrada? Será que o homem de terno pretende pegar meu dinheiro e sumir? Será que aquele advogado vai cumprir suas ameaças ou só está blefando? Quando se pensava que essas emoções e esses desejos eram gerados por um espírito imaterial, parecia óbvio que os computadores nunca seriam capazes de substituir motoristas, banqueiros e advogados humanos. Pois como poderia um computador compreender o divinamente criado espírito humano? Mas, se essas emoções e esses desejos na realidade não são mais do que algoritmos bioquímicos, não há razão para os computadores não decifrarem esses algoritmos — e até certo ponto, melhor do que qualquer Homo sapiens.

O motorista que prevê as intenções de um pedestre, o profissional que avalia a credibilidade de um tomador potencial e o advogado que é sensível ao humor reinante na mesa de negociação não se valem de feitiçaria. Sem que eles saibam, o cérebro deles está reconhecendo padrões bioquímicos ao analisar expressões faciais, tons de voz, movimentos das mãos e até mesmo odores corporais. Uma IA equipada com os sensores certos poderia fazer tudo isso com muito mais precisão e confiabilidade do que um humano.

Por isso a ameaça de perda de emprego não resulta apenas da ascensão da tecnologia da informação, mas de sua confluência com a biotecnologia. O caminho que vai do escâner de ressonância magnética ao mercado de trabalho é longo e tortuoso, mas ainda assim poderá ser percorrido em poucas décadas. O que os neurocientistas estão aprendendo hoje sobre a amígdala e o cerebelo pode permitir que computadores superem psiquiatras e guarda-costas humanos em 2050.

E a IA não só está em posição de hackear humanos e superá-los no que eram, até agora, habilidades exclusivamente humanas. Ela também usufrui de modo exclusivo de habilidades não humanas, oque torna a diferença entre a IA e um trabalhador humano uma questão qualitativa e não apenas quantitativa. Duas habilidades não humanas especialmente importantes da IA são a conectividade e a capacidade de atualização.

Como humanos são seres individuais, é difícil conectar um ao outro e se certificar de que estão todos atualizados. Em contraste,computadores não são indivíduos, e é fácil integrá-los numa rede flexível. Por isso estamos diante não da substituição de milhões de trabalhadores humanos individuais por milhões de robôs e computadores individuais, mas, provavelmente, da substituição de humanos individuais por uma rede integrada. No que diz respeito à automação, portanto, é errado comparar as habilidades de um único motorista humano com as de um único carro auto dirigido, ou as de um único médico humano com as de um único médico de IA. Em vez disso, deveríamos comparar as habilidades de uma coleção de indivíduos humanos com as habilidades de uma rede integrada.

Por exemplo, muitos motoristas não estão familiarizados com todas as regras de trânsito e frequentemente as transgridem. Além disso, como cada veículo é uma entidade autônoma, quando dois deles se aproximam do mesmo cruzamento ao mesmo tempo, os motoristas podem comunicar erroneamente suas intenções e colidir. Carros autodirigidos, em contraste, podem ser conectados entre si. Quando dois desses veículos se aproximam do mesmo cruzamento eles não são duas entidades separadas — são parte de um único algoritmo. As probabilidades de que possam se comunicar erroneamente e colidir são, portanto, muito menores. E, se o Ministério dos Transportes decidir mudar qualquer regra de trânsito, todos os veículos autodirigidos podem ser atualizados com facilidade e exatamente no mesmo momento, e, salvo a existência de algum bug no programa, todos seguirão o novo regulamento à risca.[4]

Da mesma forma, se a Organização Mundial de Saúde identificar uma nova doença, ou se um laboratório produzir um novo remédio, é quase impossível atualizar todos os médicos humanos no mundo quanto a esses avanços. Em contraste, mesmo que haja 10 bilhões de médicos de IA no mundo — cada um monitorando a saúde de um único ser humano —, ainda se poderá atualizar todos eles numa fração de segundo, e todos serão capazes de dar uns aos outros feedbacks quanto às novas doenças ou remédios. Essa vantagem potencial de conectividade e capacidade de atualização é tão enorme que ao menos em algumas modalidades de trabalho talvez faça sentido substituir todos os humanos por computadores, mesmo que individualmente alguns humanos sejam melhores em seu trabalho do que as máquinas.

Poder-se-ia contrapor que, ao se trocar indivíduos humanos por uma rede de computadores, perderemos as vantagens da individualidade. Por exemplo, se um médico humano fizer um diagnóstico errado, ele não vai matar todos os pacientes do mundo e não vai bloquear o desenvolvimento de todos os novos medicamentos. Em contraste, se todos os médicos são na verdade um único sistema, e se esse sistema comete um erro, os resultados podem ser catastróficos. No entanto, um sistema integrado de computadores pode maximizar as vantagens da conectividade sem perder os benefícios da individualidade. Podem-se rodar muitos algoritmos alternativos na mesma rede, de modo que um paciente numa aldeia remota na selva seja capaz de acessar com seu smartphone não apenas um único médico capacitado, mas cem médicos de IA diferentes, cujos desempenhos relativos são comparados o tempo inteiro. Você não gostou do que o médico da IBM lhe disse? Não tem problema. Mesmo que esteja enfurnado em algum lugar das encostas do Kilimanjaro,você pode contatar facilmente o médico da Baidu para ter uma segunda opinião.

Os benefícios para a sociedade humana provavelmente serão imensos. A IA em medicina poderia prover serviços de saúde muito melhores e mais baratos a bilhões de pessoas, especialmente para as que hoje não têm acesso algum a esses serviços. Graças a algoritmos de aprendizagem e sensores biométricos, um aldeão pobre num país subdesenvolvido poderia usufruir de uma assistência médica muito melhor usando seu smartphone do que a pessoa mais rica do mundo obtém hoje em dia no mais avançado dos hospitais urbanos.[5] Da mesma forma, veículos autodirigidos poderiam oferecer às pessoas morrem todo ano em acidentes de trânsito (o dobro das mortes causadas por guerra, crime e terrorismo somadas).[6]  Mais de 90% desses acidentes são causados por erros humanos: alguém que bebeu e dirigiu, alguém digitando uma mensagem enquanto dirige, alguém que adormeceu ao volante, alguém sonhando acordado em vez de prestar atenção à estrada. A Administração Nacional de Segurança de Trânsito em Estradas dos Estados Unidos estimou que, em 2012, 31% dos acidentes fatais no país envolveram uso abusivo de álcool, 30% envolveram excesso de velocidade e 21% envolveram desatenção do motorista.[7]  Veículos autodirigidos nunca farão nada disso. Embora tenham seus próprios problemas e limitações, e embora alguns acidentes sejam inevitáveis, espera-se que a substituição de motoristas humanos por computadores reduza mortes e ferimentos na estrada em cerca de 90%.[8]  Em outras palavras, a mudança para veículos autônomos pode poupar a vida de 1 milhão de pessoas por ano.

Por isso seria loucura bloquear a automação em campos como o do transporte e o da saúde só para proteger empregos humanos. Afinal, oque deveríamos proteger são os humanos — não os empregos. Motoristas e médicos obsoletos simplesmente terão de achar outra coisa para fazer.

O MOZART NA MÁQUINA

Ao menos no curto prazo, a IA e a robótica provavelmente não eliminarão por completo setores inteiros da economia. Trabalhos que requeiram especialização numa faixa estreita de atividades padronizadas serão automatizados. Porém será muito mais difícil substituir humanos por máquinas em tarefas menos padronizadas que exijam o uso simultâneo de uma ampla variedade de habilidades, e que envolvam lidar com cenários imprevisíveis. Tomem-se os serviços de saúde, por exemplo. Muitos médicos concentram-se exclusivamente em processar informação: eles absorvem dados médicos, os analisam e fazem um diagnóstico. Enfermeiras, ao contrário, precisam também de boas habilidades motoras e emocionais para ministrar uma injeção dolorosa, trocar um curativo ou conter um paciente violento. Por isso provavelmente teremos um médico de IA em nosso smartphone décadas antes de termos uma enfermeira-robô confiável.[9]  É provável que as atividades de cuidado — de enfermos, crianças e idosos — continuem a ser um bastião humano por muito tempo. Realmente, como as pessoas estão vivendo mais e tendo menos filhos, a área de cuidados geriátricos provavelmente será a de crescimento mais rápido no mercado de trabalho humano.

Assim como o cuidado, a criatividade também coloca obstáculos especialmente difíceis para a automação. Não precisamos mais de humanos que nos vendam música — podemos baixá-la da loja da iTunes —, mas compositores, instrumentistas, cantores e DJs ainda são de carne e osso. Nós contamos com sua criatividade não só para produzir música totalmente nova mas também para escolher entre uma desnorteante gama de possibilidades disponíveis.

Entretanto, a longo prazo, nenhuma atividade permanecerá totalmente imune à automação. Até mesmo artistas receberão aviso-prévio. No mundo moderno a arte é comumente associada a emoções humanas. Tendemos a pensar que artistas estão direcionando forças psicológicas internas, e que todo o propósito da arte é conectar-nos com nossas emoções ou inspirar em nós algum sentimento novo.Como consequência, quando avaliamos arte tendemos a julgá-la segundo seu impacto emocional no público. Mas se a arte é definida pelas emoções humanas, o que acontecerá quando algoritmos externos forem capazes de compreender e manipular emoções humanas melhor do que Shakespeare, Frida Kahlo ou Beyoncé?

Afinal, emoções não são um fenômeno místico — são resultado de um processo bioquímico. Daí que num futuro não muito distante um algoritmo de aprendizado de máquina será capaz de analisar dados biométricos de sensores em seu corpo, determinar o tipo de sua personalidade e suas variações de humor e calcular o impacto emocional que uma determinada canção — até mesmo uma certa tonalidade — terá sobre você.[10]

De todas as formas de arte, a música é provavelmente a mais suscetível a uma análise de Big Data, porque tanto seus inputs como outputs prestam-se a uma descrição matemática precisa. Os inputs são padrões matemáticos de ondas sonoras, e os outputs são os padrões eletroquímicos de tempestades neurais. Dentro de poucas décadas,um algoritmo capaz de analisar milhões de experiências musicais poderá aprender a prever como determinados inputs resultam em determinados outputs.

Suponha que você acabou de ter uma briga horrível com seu namorado. O algoritmo encarregado de seu sistema de som imediatamente vai identificar sua agitação interna e, baseado no que conhece de sua personalidade e da psicologia humana em geral, vai tocar canções sob medida para ressoar com sua mágoa e ecoar sua aflição. Essas canções específicas podem não funcionar bem com outras pessoas, mas são perfeitas para seu tipo de personalidade.Depois de ajudá-lo a entrar em contato com sua tristeza mais profunda, o algoritmo vai então tocar a única canção no mundo que provavelmente vai animar você — talvez porque seu subconsciente a conecta com uma lembrança feliz da infância da qual nem mesmo você tem consciência. Nenhum DJ humano poderia jamais esperar equiparar-se aos talentos dessa IA.

Talvez você conteste, dizendo que a IA estaria assim eliminando o acaso e nos encerrando num estreito casulo musical, tecido por nossos gostos e desgostos anteriores. E quanto a explorar novos gostos e estilos musicais? Tudo bem. Você poderia ajustar o algoritmo para que 5% de suas escolhas fossem totalmente aleatórias, jogando em seu colo uma gravação de um conjunto de gamelão indonésio, uma ópera de Rossini ou o último sucesso de K-pop. Com o tempo, monitorando suas reações, a IA poderia até mesmo determinar o nível ideal de aleatoriedade que otimizaria a exploração, ao mesmo tempo que evita o enfado, talvez baixando seu nível de acaso a 3% ou elevando para 8%.

Outra possível objeção seria quanto a não ser claro como o algoritmo estabelece seu objetivo emocional. Se você acabou de brigar com seu namorado, o algoritmo deveria tentar deixá-lo triste ou alegre? Deveria seguir uma escala rígida de emoções “boas” e emoções“ruins”? Talvez haja momentos na vida em que é bom ficar triste? A mesma pergunta poderia, é claro, ser dirigida a músicos e DJs humanos. Mas com um algoritmo há muitas soluções interessantes para esse quebra-cabeça.

Uma opção é deixar isso por conta do cliente. Você pode avaliar suas emoções da maneira que quiser, e o algoritmo seguirá seus ditames. Se você quiser chafurdar na autocomiseração ou dar saltos de alegria, o algoritmo obedecerá a sua orientação. De fato, o algoritmo pode aprender a reconhecer seus desejos mesmo sem que você esteja explicitamente consciente deles.

Ou então, se você não confia em você mesmo, poderá instruir o algoritmo a seguir a recomendação de algum psicólogo no qual você confia. Se seu namorado terminar com você, o algoritmo poderá te conduzir através das cinco etapas oficiais do luto, primeiro te ajudando a negar o que aconteceu tocando “Don’t Worry, Be Happy”, de Bobby McFerrin, depois incitando sua raiva com “You Oughta Know”, de Alanis Morissette, incentivando-o a barganhar com “Neme quitte pas”, de Jacques Brel, e “Come Back and Stay”, de Paul Young, deixando-o no fundo do poço da depressão com “Someone Like You”, de Adele, e finalmente ajudando você a aceitar a situação com “I Will Survive”, de Gloria Gaynor.

O passo seguinte é o algoritmo começar a experimentar com as próprias canções e melodias, mudando-as ligeiramente para que se adaptem a seus caprichos. Talvez você não goste de um determinado trecho de uma canção que, de resto, é excelente. O algoritmo sabe disso porque seu coração pula uma batida e seus níveis de ocitocina caem ligeiramente sempre que você ouve essa parte que o aborrece. O algoritmo poderia reescrever ou editar as notas que incomodam.

No longo prazo, algoritmos podem aprender a compor melodias inteiras, tocando as emoções humanas como se fossem um teclado de piano. Usando seus dados biométricos, os algoritmos poderiam até mesmo produzir melodias personalizadas, que só você, no universo inteiro, saberia apreciar.

Diz-se que as pessoas se conectam com a arte porque se veem nela. Isso pode levar a resultados surpreendentes e um tanto sinistros se e quando, digamos, o Facebook começar a criar arte baseada em tudo oque sabe sobre você. Se seu namorado te der o fora, o Facebook vai te fazer um agrado com uma canção personalizada sobre aquele babaca em particular e não sobre a pessoa desconhecida que partiu o coração de Adele ou de Alanis Morissette. A canção até o fará se lembrar de incidentes reais do relacionamento de vocês, dos quais ninguém mais no mundo tem conhecimento.

É claro que a arte personalizada pode não pegar, porque as pessoas continuarão a preferir sucessos dos quais todo mundo gosta. Como dançar ou cantar com alguém uma música que só você conhece? Mas os algoritmos poderiam se mostrar mais adaptáveis produzindo sucessos globais do que produzindo raridades personalizadas. Ao usar enormes bases de dados biométricas geradas a partir de milhões de pessoas, o algoritmo poderia saber quais botões bioquímicos acionar para produzir um sucesso global que faria todo mundo rebolar como louco nas pistas de dança. Se arte de fato tem a ver com inspirar (ou manipular) emoções humanas, poucos (se é que algum) músicos humanos terão a oportunidade de competir com um algoritmo desses, porque não podem se equiparar a ele na compreensão do principal instrumento que está tocando: o sistema bioquímico humano.

Resultará tudo isso em grandes obras de arte? Depende da definição de arte. Se a beleza está na verdade nos ouvidos de quem ouve, e se o cliente tem sempre razão, então os algoritmos biométricos têm a oportunidade de produzir a melhor arte da história. Se arte tem a ver com algo mais profundo do que emoções e deve expressar uma verdade que fica além de nossas vibrações bioquímicas, pode ser que algoritmos biométricos não sejam bons artistas. Mas a maioria dos humanos tampouco é. Para entrar no mercado de arte e substituir muitos compositores e intérpretes os algoritmos não teriam de começar superando logo Tchaikovsky. Bastaria que fossem melhores que Britney Spears.

NOVOS EMPREGOS?

A perda de muitos trabalhos tradicionais, da arte aos serviços de saúde, será parcialmente compensada pela criação de novos trabalhos humanos. Um clínico geral que diagnostica doenças conhecidas e administra tratamentos de rotina provavelmente será substituído pela IA médica. Mas, justamente por causa disso, haverá muito mais dinheiro para pagar médicos e assistentes de laboratório humanos que façam pesquisas inovadoras e desenvolvam novos medicamentos ou procedimentos cirúrgicos.[12]

A IA poderia ajudar a criar novos empregos humanos de outra maneira. Em vez de os humanos competirem com a IA, poderiam concentrar-se nos serviços à IA e na sua alavancagem. Por exemplo, a substituição de pilotos humanos por drones eliminou alguns empregos, mas criou muitas oportunidades novas em manutenção, controle remoto, análise de dados e segurança cibernética. As Forças Armadas dos Estados Unidos precisam de trinta pessoas para operar cada drone Predator ou Reaper sobrevoando a Síria, enquanto a análise das informações coletadas por ele ocupa pelo menos mais oitenta pessoas. Em 2015 a Força Aérea dos Estados Unidos não contava com uma quantidade suficiente de humanos treinados para preencher todas essas posições, e enfrentava, ironicamente, uma crise para tripular suas aeronaves não tripuladas.

Se for assim, é possível que o mercado de trabalho em 2050 se caracterize pela cooperação, e não pela competição, entre humanos e IA. Em campos que vão do policiamento à atividade bancária, equipes formadas por humanos e IA poderiam superar o desempenho tanto de humanos quanto de computadores. Depois que o programa de jogar xadrez da IBM Deep Blue derrotou Gary Kasparov em 1997, os humanos não pararam de jogar xadrez. Ao contrário, graças a treinadores de IA, mestres do xadrez humanos ficaram ainda melhores, e ao menos por um período equipes formadas por humanos e IA, conhecidas como “centauros”, venceram no xadrez tanto humanos como computadores. A IA poderia, da mesma forma, ajudara formar os melhores detetives, investidores e soldados da história.[14]

O problema com todos esses novos empregos, no entanto, é que eles provavelmente exigirão altos níveis de especialização, e não resolverão, portanto, os problemas dos trabalhadores não qualificados que estão desempregados. A criação de novos empregos humanos pode mostrar-se mais fácil do que retreinar humanos para preencher esses empregos. Em ciclos de automação anteriores, as pessoas podiam passar de um trabalho padronizado de baixa qualificação a outro com facilidade. Em 1920, um trabalhador agrícola dispensado devido à mecanização da agricultura era capaz de achar um novo emprego numa fábrica de tratores. Em 1980, um operário de fábrica desempregado poderia trabalhar como caixa num supermercado. Essas mudanças de ocupação eram possíveis porque a mudança do campo para a fábrica e da fábrica para o supermercado só exigiam um retreinamento limitado.

Em 2050, porém, um caixa ou um operário da indústria têxtil que perder seu emprego para um robô dificilmente estará apto a começara trabalhar como oncologista, como operador de drone ou como parte de uma equipe humanos-IA num banco. Não terão as habilidades necessárias. Na Primeira Guerra Mundial fazia sentido enviar milhões de recrutas despreparados para carregar metralhadoras e morrer aos milhares. Suas habilidades individuais tinham pouca importância. Hoje, apesar da escassez de operadores de drone e de analistas de dados, a Força Aérea dos Estados Unidos não está disposta a preencher essas lacunas com ex-funcionários do Walmart. Não quer correr o risco de um recruta inexperiente confundir uma festa de casamento no Afeganistão com uma conferência de alto nível do Talibã.

Como consequência, apesar do aparecimento de muitos novos empregos humanos, poderíamos assim mesmo testemunhar o surgimento de uma nova classe de “inúteis”. Poderíamos de fato ficar com o que há de pior nos dois mundos, sofrendo ao mesmo tempo de altos níveis de desemprego e de escassez de trabalho especializado. Muita gente poderia compartilhar do destino não dos condutores de carroça do século XIX — que passaram a ser taxistas —, mas dos cavalos do século XIX, que foram progressivamente expulsos do mercado de trabalho.

Além disso, nenhum dos empregos humanos que sobrarem estará livre da ameaça da automação, porque o aprendizado de máquina e a robótica continuarão a se aprimorar. Um caixa do Walmart de quarenta anos de idade desempregado que graças a esforços sobre-humanos consegue se reinventar como piloto de drone poderá ter dese reinventar novamente dez anos depois, quando a pilotagem de drones poderá também ter sido automatizada. Essa volatilidade também dificultará a organização de sindicatos e a garantia de direitos trabalhistas. Se hoje muitos novos empregos em economias avançadas já envolvem trabalho temporário sem proteção, trabalho de freelancer e tarefas isoladas realizadas só uma vez,[16]  como sindicalizar uma profissão que prolifera e desaparece em uma década?

Da mesma forma, equipes centauros formadas por humanos e computadores provavelmente serão caracterizadas por um constante cabo de guerra entre humanos e computadores, em vez de se acomodarem numa parceria duradoura. Equipes formadas apenas por humanos — como a de Sherlock Holmes e dr. Watson — normalmente desenvolvem hierarquias e rotinas permanentes que duram décadas. Mas um detetive humano que fizer uma equipe como sistema Watson de computadores da IBM (que se tornou famoso depois de vencer o programa de perguntas Jeopardy!) vai descobrir que toda rotina é um convite à ruptura, e toda hierarquia um convite à revolução. O parceiro de ontem pode se metamorfosear no superintendente de amanhã, e todos os protocolos e manuais terão de ser reescritos a cada ano.[17]

Um olhar mais atento ao mundo do xadrez poderia indicar para onde as coisas estão se dirigindo no longo prazo. É verdade que durante vários anos após a derrota de Kasparov para o Deep Blue a cooperação humano-computador floresceu no xadrez. Mas em anos recentes os computadores ficaram tão bons no xadrez que seus colaboradores humanos perderam o valor, e logo poderão se tornar totalmente irrelevantes.

Em 7 de dezembro de 2017 um marco crucial foi atingido não quando um computador derrotou um humano no xadrez — isso não era novidade —, mas quando o programa Alpha Zero, do Google, derrotou o programa Stockfish 8. Stockfish 8 foi o computador campeão mundial de xadrez de 2016. Tinha acesso a séculos de experiência humana acumulada no xadrez, bem como a décadas de experiências de computadores. Era capaz de calcular 70 milhões deposições por segundo. Em contraste, o AlphaZero calculava apenas 80 mil posições por segundo, e seus criadores humanos jamais lhe ensinaram estratégias de xadrez — nem mesmo aberturas ordinárias.

Em vez disso, o AlphaZero jogava contra si mesmo, utilizando os mais recentes princípios de autoaprendizado de máquina. Não obstante, em cem partidas contra o Stockfish 8, o AlphaZero venceu 28 e empatou 72. Não perdeu nenhuma. Como o AlphaZero não tinha aprendido nada de qualquer humano, muitos dos movimentos e estratégias vencedores pareciam não convencionais aos olhos humanos. Agora podem ser considerados criativos, se não simplesmente geniais.

Dá para imaginar quanto tempo o AlphaZero levou para aprender xadrez do zero, preparar-se para o jogo contra o Stockfish e desenvolver seus instintos de gênio? Quatro horas. Não é um erro de digitação. Durante séculos, o xadrez foi considerado uma das glórias supremas da inteligência humana. O AlphaZero passou da ignorância total à maestria criativa em quatro horas, sem a ajuda de qualquer orientação humana.[18]

O AlphaZero não é o único software imaginativo que existe. Agora, muitos programas vencem rotineiramente jogadores humanos de xadrez não só em capacidade de cálculo, mas até mesmo em“criatividade”. Em torneios de xadrez só para humanos, os juízes estão sempre de olho em jogadores que tentam trapacear com a ajuda de computadores. Um dos modos de pegar essas trapaças é monitorar o nível de originalidade demonstrado pelos jogadores. Se fizerem um movimento muito criativo no tabuleiro, os juízes em geral vão suspeitar de que não pode ser um movimento humano — deve ser um movimento feito por um computador. Pelo menos no xadrez, a criatividade já é marca registrada de computadores, e não de humanos! Se o xadrez é o nosso canário das minas de carvão, estamos devidamente avisados que o canário está morrendo. O que está ocorrendo hoje com equipes de jogadores de xadrez formadas por humanos e IA poderia ocorrer no futuro com equipes humanos-IA em policiamento, medicina e atividade bancária.

Consequentemente, a criação de novos empregos e o retreinamento de pessoas para ocupá-los serão um processo recorrente. A revolução da IA não será um único divisor de águas após o qual o mercado de trabalho vai se acomodar num novo equilíbrio. Será, sim, uma torrente de rupturas cada vez maiores. Já hoje poucos empregados esperam permanecer no mesmo emprego por toda a vida.[20]  Em 2050 não apenas a ideia de “um emprego para a vida inteira” mas até mesmo a ideia de “uma profissão para a vida inteira” parecerão antidiluvianas.

Mesmo se fosse possível inventar novos empregos e retreinar a força de trabalho constantemente, cabe a nós perguntar se um humano mediano terá a energia e a resistência necessárias para uma vida de tantas mudanças. Mudanças são sempre estressantes, e o mundo frenético do início do século XXI gerou uma epidemia global de estresse.[21] Será que as pessoas serão capazes de lidar com a volatilidade do mercado de trabalho e das carreiras individuais? Provavelmente vamos precisar de técnicas de redução de estresse ainda mais eficazes — desde medicamentos, passando por psicoterapia e meditação — para evitar que a mente do Sapiens entre em colapso. Uma classe “inútil” pode surgir em 2050 devido não apenas à falta absoluta de emprego ou de educação adequada, mas também devido à falta de energia mental.

A maior parte disso é apenas especulação, claro. No momento em que escrevo — início de 2018 —, a automação acabou com muitos setores da economia, mas não resultou em desemprego massivo. Na verdade, em muitos países, como os Estados Unidos, o nível de desemprego é um dos mais baixos da história. Ninguém sabe com certeza qual impacto o aprendizado de máquina e a automação terão em diversas profissões, e é dificílimo estimar o cronograma dos desenvolvimentos mais importantes, em especial quando dependem tanto de decisões políticas e tradições culturais quanto de inovações puramente tecnológicas. Assim, mesmo depois que veículos autodirigidos provarem ser mais seguros e mais baratos do que motoristas humanos, políticos e consumidores poderão impedir essa mudança durante anos, talvez décadas.

Contudo, não podemos ser complacentes. É perigoso simplesmente supor que surgirão novos empregos para compensar quaisquer perdas. O fato de isso ter acontecido em ciclos anteriores de automação não é garantia nenhuma de que vai acontecer de novo nas condições muito diferentes do século XXI. As potenciais rupturas social e política são tão alarmantes que, mesmo que a probabilidade de desemprego sistêmico em massa seja baixa, devemos levá-la a sério.

No século XIX a Revolução Industrial criou novas condições e problemas com os quais nenhum dos modelos sociais, econômicos e políticos existentes era capaz de lidar. O feudalismo, o monarquismo e as religiões tradicionais não estavam adaptados para administrar metrópoles industriais, o êxodo de milhões de trabalhadores ou a natureza instável da economia moderna. Consequentemente, o gênero humano teve de desenvolver modelos totalmente novos — democracias liberais, ditaduras comunistas e regimes fascistas — e  foi preciso mais de um século de guerras e revoluções terríveis para pôr esses modelos à prova, separar o joio do trigo e implementar as melhores soluções. O trabalho infantil nas minas de carvão dickensianas, a Primeira Guerra Mundial e a Grande Fome Ucraniana de 1932-3 representam apenas uma pequena parte do tributo pago pelo gênero humano por esse aprendizado.

No século XXI, o desafio apresentado ao gênero humano pela tecnologia da informação e pela biotecnologia é indubitavelmente muito maior do que o desafio que representaram, em época anterior,os motores a vapor, as ferrovias e a eletricidade. E, considerando o imenso poder destrutivo de nossa civilização, não podemos mais nos dar ao luxo de ter mais modelos fracassados, guerras mundiais e revoluções sangrentas. Desta vez, os modelos fracassados podem resultar em guerras nucleares, monstruosidades geradas pela engenharia genética e um colapso completo da biosfera. Portanto, temos de fazer melhor do que fizemos ao enfrentar a Revolução Industrial.

DA EXPLORAÇÃO À IRRELEVÂNCIA

As soluções potenciais cabem em três categorias principais: o que fazer para impedir a perda de empregos; o que fazer para criar empregos novos; e o que fazer se, apesar de nossos melhores esforços, a perda de empregos superar consideravelmente a criação de empregos.

Impedir por completo a perda de empregos é uma estratégia pouco atraente e provavelmente indefensável, porque significa abrir mão do imenso potencial positivo da IA e da robótica. No entanto, os governos podem decidir retardar o ritmo da automação para reduzir seu impacto e dar tempo para reajustes. A tecnologia nunca é determinista, e o fato de que algo pode ser feito não quer dizer que deva ser feito. A legislação pode bloquear com sucesso novas tecnologias mesmo se forem comercialmente viáveis e economicamente lucrativas. Por exemplo, durante muitas décadas tivemos tecnologia para criar um mercado de órgãos humanos completo, com “fazendas de corpos” humanos em países subdesenvolvidos e uma demanda quase insaciável de compradores abastados. Essas fazendas de corpos poderiam valer centenas de bilhões de dólares. Mas a lei proíbe o livre comércio de partes do corpo humano, e, embora exista um mercado negro de órgãos, é muito menor e circunscrito do que se poderia esperar.[22]

Retardar o ritmo das mudanças pode nos dar tempo para a criação de novos empregos capazes de substituir a maior parte das perdas. Porém, como já observado, o empreendedorismo econômico terá de ser acompanhado por uma revolução na educação e na psicologia. Pressupondo que os novos empregos não serão apenas sinecuras públicas, provavelmente exigirão altos níveis de especialização, e, à medida que a IA continua a se aperfeiçoar, os empregados humanos terão de adquirir constantemente novas habilidades e mudar de profissão. Governos terão de intervir, tanto no subsídio a um setor de educação vitalício quanto na garantia de uma rede de proteção para os inevitáveis períodos de transição. Se um ex-piloto de drone de 41 anos de idade leva três anos para se reinventar como designer de mundos virtuais, provavelmente vai precisar de muita ajuda do governo para sustentar a si e a sua família durante esse período. (Esse tipo de esquema está sendo implantado pioneiramente na Escandinávia, cujos governos seguem o lema “proteger trabalhadores, não empregos”.)

Porém, mesmo que a ajuda do governo seja suficiente, não sabemos se bilhões de pessoas serão capazes de se reinventar repetidamente sem perder o equilíbrio mental. Portanto, se apesar de todos os nossos esforços um percentual significativo do gênero humano for excluído do mercado de trabalho, teremos de explorar novos modelos de sociedades pós-trabalho, de economias pós-trabalho e de política pós-trabalho. O primeiro passo é reconhecer que os modelos sociais,econômicos e políticos que herdamos do passado são inadequados para lidar com tal desafio.

Tome, por exemplo, o comunismo. Quando a automação ameaça abalar os fundamentos do sistema capitalista, pode-se supor que o comunismo seja capaz de retornar. Mas o comunismo não foi feito para explorar esse tipo de crise. O comunismo do século XX supôs que a classe trabalhadora fosse vital para a economia, e os pensadores comunistas tentaram ensinar ao proletariado como traduzir seu imenso poder econômico em poder político. O plano político comunista conclamava a uma revolução da classe trabalhadora. Que relevância teriam esses ensinamentos se as massas perdessem seu valor econômico e precisassem lutar contra a sua irrelevância, mais do que contra a exploração? Como se começa uma revolução da classe trabalhadora se não há classe trabalhadora?

Alguém poderá alegar que humanos nunca se tornarão economicamente irrelevantes, porque, mesmo que não consigam competir com a IA no mercado de trabalho, sempre serão necessários como consumidores. No entanto, não temos certeza se a economia do futuro vai precisar de nós, mesmo como consumidores. Máquinas e computadores poderiam fazer isso também. Em teoria, pode-se ter uma economia na qual uma corporação de mineração produz e vende ferro para uma corporação de robótica, a corporação de robótica produz e vende robôs para a corporação de mineração, que extrai mais ferro, que é usado para produzir mais robôs, e assim por diante. Essas corporações podem crescer e se expandir até os pontos mais distantes da galáxia e todas precisam de robôs e computadores — não precisam de humanos nem mesmo para comprar seus produtos.

Hoje computadores e algoritmos já são clientes, além de produtores.

Na bolsa de valores, por exemplo, algoritmos estão se tornando os mais importantes compradores de títulos, ações e commodities. Da mesma forma, na publicidade, o cliente mais importante de todos é um algoritmo: o mecanismo de busca do Google. Quando as pessoas projetam páginas da internet, frequentemente procuram agradar mais  ao algoritmo de busca do Google do que a qualquer ser humano.

Algoritmos obviamente não têm consciência, assim, ao contrário de consumidores humanos, não são capazes de usufruir daquilo que compram, e suas decisões não são modeladas por sensações e emoções. O algoritmo de busca do Google não é capaz de experimentar um sorvete. No entanto, algoritmos selecionam coisas com base em seus cálculos internos e preferências integradas, e essas preferências cada vez mais modelam nosso mundo. O algoritmo de busca do Google tem um gosto muito sofisticado no que concerne a classificar as páginas de vendedores de sorvete na internet, e os vendedores de sorvete mais bem-sucedidos do mundo são aqueles que o algoritmo do Google coloca no topo da lista — não os que produzem o sorvete mais gostoso.

Sei disso por experiência pessoal. Quando publico um livro, os editores pedem-me que escreva uma descrição curta, que usam para publicidade on-line. Mas eles têm um especialista que adapta o que escrevi ao gosto do algoritmo do Google. O especialista lê o meu texto e diz: “Não use esta palavra — use aquela”. Sabemos que se conseguirmos atrair a atenção do algoritmo, é certo que atrairemos a dos humanos.

Assim, se humanos não são necessários nem como produtores nem como consumidores, o que vai salvaguardar sua sobrevivência física e seu bem-estar psicológico? Não podemos esperar que a crise irrompa com toda a força antes de começarmos a buscar as respostas. Será tarde demais. Para lidar com as rupturas tecnológicas e econômicas inéditas do século XXI, precisamos desenvolver novos modelos sociais e econômicos o quanto antes. Esses modelos deveriam ser orientados pelo princípio de que é preciso proteger os humanos e não os empregos. Muitos empregos são uma faina pouco recompensadora, que não vale a pena salvar. Ser caixa não é o sonho de vida de ninguém. Deveríamos nos focar em prover as necessidades básicas das pessoas e em proteger seu status social e sua autoestima.

Um modelo novo que atrai cada vez mais atenção é o da renda básica universal (RBU). A RBU propõe que os governos tributem os bilionários e as corporações que controlam os algoritmos e robôs, eu sem o dinheiro para prover cada pessoa com um generoso estipêndio que cubra suas necessidades básicas. Isso protegerá os pobres da perda de emprego e da exclusão econômica, enquanto protege os ricos da ira populista.

Uma ideia relacionada a isso propõe ampliar o âmbito de atividades humanas consideradas “empregos”. Atualmente, bilhões de mães e pais cuidam de seus filhos, vizinhos cuidam uns dos outros e cidadãos organizam comunidades sem que qualquer dessas valiosas atividades seja reconhecida como emprego. Talvez precisemos mudar uma chave em nossa mente, e nos dar conta de que cuidar de uma criança é sem dúvida o emprego mais importante e desafiador do mundo. Assim, não haverá escassez de trabalho mesmo que computadores e robôs substituam todos os motoristas, gerentes de banco e advogados. A questão, é claro, é quem vai avaliar e pagar por esses empregos recém-reconhecidos? Supondo que bebês de seis meses não pagarão salários a suas mães, o governo provavelmente terá de se responsabilizar por isso. Supondo também que vamos querer que esses salários cubram as necessidades básicas de uma família, o resultado final será algo não muito diferente da renda básica universal.

Uma outra opção é o subsídio público de serviços básicos universais,no lugar da renda. Em vez de dar dinheiro às pessoas, que então poderiam comprar o que quisessem, o governo poderia subsidiar educação, saúde e transporte gratuitos, entre outros serviços. Essa é, na verdade, a visão utópica do comunismo. O plano comunista de promover a revolução proletária talvez esteja obsoleto, mas quem sabe ainda deveríamos visar a realizar o objetivo comunista por outros meios?

Pode-se discutir se é melhor fornecer às pessoas uma renda básica universal (o paraíso capitalista) ou serviços básicos universais (o paraíso comunista). Ambas as opções têm vantagens e desvantagens. Mas não importa qual paraíso você escolha, o problema real está em definir o que “universal” e “básico” realmente significam.

O QUE É UNIVERSAL?

Quando as pessoas falam de um auxílio básico universal — em forma de renda ou de serviços —, em geral estão se referindo a um auxílio básico nacional. Até agora, todas as iniciativas de RBU têm sido estritamente nacionais ou municipais. Em janeiro de 2017, a Finlândia começou uma experiência de dois anos, provendo 560 euros por mês a 2 mil finlandeses desempregados, independentemente de encontrarem ou não emprego. Experiências semelhantes estão em curso na província canadense de Ontário, na cidade italiana de Livorno e em diversas cidades holandesas.[24]  (Em 2016 a Suíça realizou um referendo sobre a criação de um programa de renda básica nacional, mas os votantes rejeitaram a ideia.)[25]

No entanto, o problema com tais programas nacionais e municipais é que as principais vítimas da automação provavelmente não vivem na Finlândia, em Ontário, em Livorno ou em Amsterdam. A globalização fez as pessoas num país dependerem totalmente dos mercados de outros países, mas a automação poderia desfazer grande parte dessa rede global de comércio, com consequências desastrosas para as conexões mais fracas. No século XX, países em desenvolvimento carentes de recursos naturais progrediram economicamente sobretudo com os salários baixos de seus trabalhadores não qualificados. Hoje em dia, milhões de bengaleses ganham a vida produzindo camisas e as vendendo a clientes nos Estados Unidos, enquanto o ganha-pão de outras pessoas em Bangalore é lidar com as reclamações dos clientes americanos em centrais de teleatendimento.[26]

Mas com a ascensão da IA, de robôs e impressoras 3-D, o trabalho não qualificado e barato torna-se muito menos importante. Em vez de fabricar uma camisa em Dacca e despachá-la para os longínquos Estados Unidos, pode-se comprar o código on-line da camisa na Amazon e imprimi-la em Nova York. As lojas da Zara e da Prada na Quinta Avenida poderiam ser substituídas por centros de impressão em 3-D no Brooklyn, e algumas pessoas talvez queiram ter uma impressora em casa. Depois, em vez de ligar para serviços de atendimento ao consumidor em Bangalore para reclamar de sua impressora, você poderia conversar com um representante de IA na nuvem do Google (cujo sotaque e tom de voz podem se modelados segundo sua preferência). Os operários e operadores de SAC recém-desempregados em Dacca e em Bangalore não têm a instrução necessária para virarem estilistas ou programadores — então como vão sobreviver?

Se a IA e as impressoras 3-D realmente substituírem esses bengalesese bangalorianos, a renda que antes fluía para o sul da Ásia agora encherá os cofres de uns poucos gigantes tecnológicos na Califórnia. Em vez de um crescimento econômico que melhore as condições em todo o mundo, veremos uma nova e imensa riqueza criada em nichos de alta tecnologia, como o Vale do Silício, enquanto muitos países em desenvolvimento vão à ruína.

É claro que algumas economias emergentes — inclusive Índia e Bangladesh — poderiam avançar rápido o bastante e se juntar ao time vencedor. Se tiverem tempo suficiente, os filhos e netos de trabalhadores da indústria têxtil e de operadores de centrais de teleatendimento poderiam tornar-se engenheiros e empreendedores que constroem e possuem computadores e impressoras 3-D. Mas o tempo dessa transição está se esgotando. No passado, o trabalho barato e não qualificado serviu como ponte segura para atravessar a divisão econômica global, e, mesmo que o avanço de um país fosse lento, ele poderia esperar um dia chegar ao outro lado. Adotar as medidas corretas era mais importante do que progredir rapidamente. Mas agora a ponte está balançando, e pode desabar. Os que já a atravessaram — e foram promovidos do trabalho barato para as indústrias de alta especialização — provavelmente ficarão bem. Mas os que ficarem para trás poderão se ver encalhados no lado errado do abismo, sem meios para atravessá-lo. O que você fará quando ninguém precisar de sua mão de obra barata não qualificada, e você não tiver os recursos para criar um bom sistema de educação e retreiná-la?[27]

Qual será o destino dos retardatários? É possível que os eleitores americanos aceitem que os impostos pagos pela Amazon e pelo Google por seus negócios nos Estados Unidos sejam usados para oferecer estipêndios ou serviços gratuitos a mineiros desempregados na Pensilvânia e a taxistas sem trabalho em Nova York. No entanto, os eleitores americanos aceitariam que esses impostos fossem enviados para sustentar pessoas desempregadas em lugares que o presidente Trump definiu como “países de merda”?[28] Se você acredita nisso, deve acreditar também que Papai Noel e o coelhinho da Páscoa resolverão o problema.

O QUE É BÁSICO?

O objetivo do auxílio básico universal é o atendimento às necessidades humanas básicas, mas não existe uma definição aceita para isso. Do ponto de vista puramente biológico, um Sapiens precisa de 1,5 mil a 2,5 mil calorias por dia para sobreviver. Tudo o que exceder isso é luxo. Mas, além e acima dessa linha de pobreza biológica, toda cultura na história definiu necessidades adicionais como sendo “básicas”. Na Europa medieval, o acesso a serviços religiosos na igreja era considerado mais importante que o alimento, porque cuidava da alma eterna, e não do corpo efêmero. Na Europa atual, serviços de educação e de saúde decentes são considerados necessidades humanas básicas, e há quem alegue que até mesmo o acesso à internet hoje é essencial a todo homem, mulher e criança. Se em 2050 o Governo Mundial Unido concordar em taxar Google, Amazon, Baidu e Tencent para oferecer ajuda básica a todo ser humano na Terra — tanto em Dacca como em Detroit —, o que será considerado “básico”?

Por exemplo, o que uma educação básica deve incluir: ler e escrever apenas, ou também programar computadores e tocar violino? Seis anos de ensino fundamental, ou até o doutorado? E quanto à saúde? Se em 2050 os avanços da medicina possibilitarem retardar os processos de envelhecimento e estender significativamente a duração da vida humana, os novos tratamentos estarão disponíveis para  10 bilhões de humanos no planeta, ou só para uns poucos bilionários? Se a biotecnologia habilitar os pais a aprimorar seus filhos, isso será considerado uma necessidade humana básica, ou veremos o gênero humano dividir-se em diferentes castas biológicas, com super-humanos ricos desfrutando de capacidades que superam as de Homo sapiens pobres?

Não importa como definamos “necessidades humanas básicas”, se todos desfrutarem delas gratuitamente, elas deixarão de ser um problema, e então as ferrenhas competições e lutas políticas estarão

focadas em luxos não básicos — sejam elegantes carros auto dirigidos,acesso a parques de realidade virtual ou corpos incrementados pela bioengenharia. Mas, se as massas de desempregados não dispuserem de ativos econômicos, é difícil ver como poderiam algum dia esperar obter tais luxos. Consequentemente, a brecha entre os ricos (diretores da Tencent e acionistas do Google) e os pobres (os que dependem da renda básica universal) poderia se tornar não apenas maior, mas intransponível.

Daí que mesmo que um programa de auxílio universal garanta às pessoas pobres, em 2050, serviços de saúde e educação muito melhores que os de hoje, elas ainda poderão estar extremamente raivosas com a desigualdade global e a falta de mobilidade social. As pessoas sentirão que o sistema está contra elas, que o governo só atende aos super-ricos e que o futuro será ainda pior para eles e seus filhos.[29]

O Homo sapiens simplesmente não é programado para se satisfazer. A felicidade humana depende menos de condições objetivas e mais de nossas próprias expectativas, daquilo que esperamos obter. As expectativas, contudo, tendem a se adaptar às condições, inclusive à condição de outras pessoas. Quando as coisas melhoram, as expectativas inflam, e consequentemente até mesmo uma melhora dramática das condições podem nos deixar tão insatisfeitos quanto antes. Se o auxílio básico universal visa a melhorar as condições objetivas de uma pessoa mediana em 2050, ele tem uma boa probabilidade de sucesso. Porém, se visa a fazer as pessoas ficarem subjetivamente mais satisfeitas com seu quinhão e evitar o descontentamento social, é provável que fracasse.

Para atingir seus objetivos de fato, o auxílio básico universal terá de ser suplementado por ocupações dotadas de sentido, dos esportes à religião. O experimento sobre como viver uma vida plena num mundo de pós-trabalho realizado em Israel talvez seja o mais bem-sucedido até hoje. Cerca de 50% dos homens judeus ultraortodoxos daquele país não trabalham. Dedicam a vida a estudar as escrituras sagradas e a realizar ritos religiosos. Eles e suas famílias não morrem de fome em parte porque as mulheres costumam trabalhar, e em parte porque o governo os provê de generosos subsídios e serviços gratuitos, assegurando que não lhes faltem as necessidades básicas da vida. É o auxílio básico universal avant la lettre.[30]

Israelenses seculares reclamam bastante de que os ultra ortodoxos não contribuem o bastante para a sociedade e vivem do trabalho duro de outras pessoas. Eles tendem também a alegar que o modo de vida ultraortodoxo é insustentável, sobretudo porque as família sultra ortodoxas têm em média sete filhos.[32] Cedo ou tarde, o Estado não será capaz de sustentar tantas pessoas desempregadas, e os ultraortodoxos terão de trabalhar. Mas pode ser exatamente o contrário. À medida que a IA e robôs puserem os humanos fora do mercado de trabalho, os judeus ultraortodoxos podem passar a ser vistos como o modelo do futuro, e não como um fóssil do passado. Não quer dizer que todos se tornarão judeus ortodoxos e irão para as ieshivas estudar o Talmude. Mas na vida de todas as pessoas a busca por um significado e uma comunidade pode suplantar a busca por emprego.

Se conseguirmos combinar uma rede de segurança econômica universal com comunidades fortes e ocupações dotadas de sentido, perder nossos empregos para os algoritmos pode na verdade mostrar-se uma bênção. No entanto, a perda do controle sobre nossa vida é um cenário muito mais assustador. Não obstante o perigo de desemprego em massa, o que deveria nos preocupar ainda mais é a transferência da autoridade de humanos para algoritmos, o que poderia destruir qualquer fé remanescente na narrativa liberal e abrir o caminho para o surgimento de ditaduras digitais.

---

3. Liberdade

Big Data está vigiando você

A narrativa liberal preza a liberdade humana como seu valor número um. Alega que toda autoridade, em última análise, tem origem no livre-arbítrio de indivíduos humanos, conforme expresso em seus sentimentos, desejos e escolhas. Na política, o liberalismo acredita que o eleitor sabe o que é melhor. Por isso apoia eleições democráticas. Na economia, o liberalismo afirma que o cliente sempre tem razão. Por isso aclama os princípios do livre mercado. No aspecto pessoal, o liberalismo incentiva as pessoas a ouvirem a si mesmas, serem verdadeiras consigo mesmas e seguirem seu coração — desde que não infrinjam as liberdades dos outros. Essa liberdade pessoal está consagrada nos direitos humanos.

No discurso político ocidental hoje, o termo “liberal” é às vezes empregado num sentido muito mais estreito e partidário para denotar aqueles que apoiam causas específicas, como o casamento gay, o controle de armas e o aborto. Porém a maioria dos assim chamados conservadores também abraçam a ampla visão de mundo liberal. Especialmente nos Estados Unidos, há ocasiões em que tanto republicanos como democratas fazem uma pausa em suas acaloradas discussões para se lembrarem de que todos eles concordam em coisas fundamentais como eleições livres, um Judiciário independente e direitos humanos.

É vital lembrar que heróis da direita, como Ronald Reagan e Margaret Thatcher, foram grandes paladinos não só de liberdades econômicas como também de liberdades individuais. Numa famosa entrevista de 1987, Thatcher disse: “Não existe essa coisa chamada sociedade. Há [uma] trama viva feita de homens e mulheres… e a qualidade de nossa vida dependerá de quanto cada um de nós está preparado para assumir a responsabilidade por si mesmo”.[1]

Os herdeiros de Thatcher no Partido Conservador concordam totalmente com o Partido Trabalhista em que a autoridade política vem dos sentimentos, das escolhas e do livre-arbítrio de eleitores individuais. Assim, quando a Inglaterra precisou decidir se saía ou não da União Europeia, o primeiro-ministro David Cameron não pediu à rainha Elizabeth II, nem ao arcebispo de Cantuária, nem aos catedráticos de Oxford e Cambridge que resolvessem a questão. Não perguntou nem mesmo aos membros do Parlamento. Em vez disso, realizou um referendo no qual se perguntou a cada britânico: “O que você sente quanto a isso?”.

Poder-se-ia contestar que a pergunta deveria ser “O que você pensa?” e não “O que você sente?”, mas esse é um erro de percepção comum. Referendos e eleições sempre dizem respeito a sentimentos humanos, não à racionalidade humana. Se a democracia  fosse questão de tomadas de decisão racionais, não haveria nenhum motivo para dar a todas as pessoas direitos iguais em seus votos — ou talvez nem sequer o direito de votar. Existe ampla evidência de que algumas pessoas são muito mais informadas e racionais que outras, principalmente quando se trata de questões econômicas e políticas específicas.[2] Na esteira da votação do Brexit, o eminente biólogo Richard Dawkins protestou dizendo que nunca se deveria pedir à grande maioria do público britânico — inclusive ele mesmo — que votasse no referendo, porque lhe faltava a formação necessária em economia e ciência política. “É o mesmo que convocar um plebiscito nacional para decidir se a álgebra de Einstein estava correta, ou deixar os passageiros votarem para decidir em que pista o piloto deve pousar.”[3]

No entanto, para o bem ou para o mal, eleições e referendos não têm a ver com o que pensamos. Têm a ver com o que sentimos. E, quando se trata de sentimentos, Einstein e Dawkins não são melhores que ninguém. A democracia supõe que sentimentos humanos refletem um misterioso e profundo “livre-arbítrio”, que este “livre-arbítrio” é a fonte definitiva da autoridade e que, apesar de algumas pessoas serem mais inteligentes do que outras, todos os humanos são igualmente livres. Assim como Einstein e Dawkins, uma trabalhadora doméstica sem instrução também tem livre-arbítrio, e por isso no dia de eleições seus sentimentos — representados por seu voto — contam tanto quanto os de qualquer outra pessoa.

Os sentimentos orientam não apenas os eleitores mas também os líderes. No referendo do Brexit, em 2016, a campanha a favor da saída da Grã-Bretanha da União Europeia — apelidada Leave — foi liderada por Boris Johnson e Michael Gove. Após a renúncia de David Cameron, Gove inicialmente apoiou Johnson como candidato a primeiro-ministro, mas no último minuto Gove declarou que Johnson não estava preparado para a posição e anunciou a própria intenção de se candidatar ao cargo. Essa ação de Gove, que destruiu as probabilidades de Johnson, foi descrita como um assassinato político maquiavélico.[4] Mas Gove defendeu sua conduta apelando para os sentimentos: “Em cada passo de minha vida política eu me fazia a mesma pergunta: ‘Qual é a coisa certa a fazer? O que lhe diz seu coração?’”.[5] Foi por isso, segundo Gove, que ele batalhou tão duramente a favor do Brexit, e foi por isso que foi compelido a apunhalar pelas costas seu então aliado Boris Johnson, e oferecer-separa o cargo — porque seu coração lhe dissera que o fizesse.

Essa lealdade ao próprio coração pode acabar sendo o calcanhar de aquiles da democracia liberal. Pois se alguém (seja em Pequim ou em San Francisco) adquirir capacidade tecnológica para hackear e manipular o coração humano, a política democrática vai se tornar um espetáculo de fantoches emocional.

ESCUTE O ALGORITMO

A crença liberal nos sentimentos e nas escolhas livres dos indivíduos não é natural, nem muito antiga. Durante milhares de anos as pessoas acreditaram que a autoridade provinha de leis divinas e não do coração humano, e que devíamos, portanto, santificar a palavra de Deus e não a liberdade humana. Foi só nos séculos mais recentes que a fonte da autoridade passou das entidades celestiais para humanos de carne e osso.

Em breve a autoridade pode mudar novamente — dos humanos para os algoritmos. Assim como a autoridade divina foi legitimada por mitologias religiosas, e a autoridade humana foi justificada pela narrativa liberal, a futura revolução tecnológica poderia estabelecer a autoridade dos algoritmos de Big Data, ao mesmo tempo que solapa a simples ideia da liberdade individual.

Como mencionamos no capítulo anterior, ideias científicas sobre o funcionamento de nosso corpo e cérebro sugerem que nossos sentimentos não são uma qualidade espiritual exclusivamente humana, e não refletem nenhum tipo de “livre-arbítrio”. Na verdade, sentimentos são mecanismos bioquímicos que todos os mamíferos e todas as aves usam para calcular probabilidades de sobrevivência e reprodução. Sentimentos não se baseiam em intuição, inspiração ou liberdade — baseiam-se em cálculos.

Quando um macaco, um camundongo ou um humano veem uma cobra, o medo surge porque milhões de neurônios no cérebro calculam rapidamente os dados relevantes e concluem que a probabilidade de morrer é alta. Sentimentos de atração sexual surgem quando outros algoritmos bioquímicos calculam que um indivíduo próximo oferece alta probabilidade de acasalamento bem-sucedido, ligação social ou algum outro objetivo almejado. Sentimentos morais como indignação, culpa ou perdão derivam de mecanismos neurais que evoluíram para permitir cooperação grupal. Todos esses algoritmos bioquímicos foram aprimorados durante milhões de anos de evolução. Se os sentimentos de algum antigo ancestral cometeram um erro, os genes que configuram esses sentimentos não foram passados à geração seguinte. Assim, sentimentos não são o contrário de racionalidade — eles incorporam uma racionalidade evolutiva.

Normalmente não nos damos conta de que os sentimentos são na verdade cálculos, porque o intenso processo de cálculo ocorre abaixo do nível da consciência. Não sentimos os milhões de neurônios no cérebro computando probabilidades de sobrevivência e reprodução, e assim acreditamos, erroneamente, que nosso medo de cobras, nossa escolha de parceiros ou parceiras sexuais ou nossas opiniões sobre a União Europeia são o resultado de algum misterioso “livre-arbítrio”.

No entanto, embora o liberalismo esteja errado ao julgar que nossos sentimentos refletem o livre-arbítrio, até hoje confiar nos sentimentos faz sentido, na prática. Pois embora não houvesse nada mágico ou livre no que concerne a nossos sentimentos, eles eram o melhor método em todo o universo para decidir o que estudar, com quem casar e em que partido votar. E nenhum sistema externo pode compreender meus sentimentos melhor do que eu. Mesmo se a Inquisição espanhola ou a KGB me espionassem todo dia a toda hora, elas não teriam o conhecimento biológico e a capacidade computacional necessários para hackear os processos bioquímicos que formam meus desejos e minhas escolhas. Era razoável alegar, na prática, que disponho de livre-arbítrio, porque minha vontade foi formada principalmente pela interação entre forças interiores, que ninguém no exterior seria capaz de ver. Eu poderia desfrutar da ilusão de que controlo minha arena interior secreta, enquanto quem está de fora nunca seria capaz de compreender o que de fato está acontecendo dentro de mim e como tomo decisões.

Da mesma forma, o liberalismo estava certo ao aconselhar às pessoas que seguissem o coração e não os ditames de algum sacerdote ou militante partidário. No entanto, em breve algoritmos de computador poderão nos aconselhar melhor do que sentimentos humanos. Enquanto a Inquisição espanhola e a KGB dão lugar ao Google e à Baidu, o “livre-arbítrio” provavelmente será desmascarado como um mito, e o liberalismo pode perder suas vantagens práticas.

Pois estamos agora na confluência de duas imensas revoluções. Por um lado, biólogos estão decifrando os mistérios do corpo humano, particularmente do cérebro e dos sentimentos. Ao mesmo tempo cientistas da computação estão nos dando um poder de processamento de dados sem precedente. Quando a revolução na biotecnologia se fundir com a revolução na tecnologia da informação,ela produzirá algoritmos de Big Data capazes de monitorar e compreender meus sentimentos muito melhor do que eu, e então a autoridade provavelmente passará dos humanos para os computadores. Minha ilusão de livre-arbítrio provavelmente vai se desintegrar à medida que eu me deparar, diariamente, com instituições, corporações e agências do governo que compreendem e manipulam o que era, até então, meu inacessível reino interior.

Isso já está acontecendo no campo da medicina. As decisões médicas mais importantes de nossa vida se baseiam não na sensação de estarmos doentes ou saudáveis, nem mesmo nos prognósticos informados de nosso médico — mas nos cálculos de computadores que entendem de nosso corpo muito melhor do que nós. Dentro de poucas décadas, os algoritmos de Big Data, alimentados por um fluxo constante de dados biométricos, poderão monitorar nossa saúde 24 horas por dia, sete dias por semana. Serão capazes de detectar, logo em seu início, a gripe, o câncer ou o mal de Alzheimer, muito antes de sentirmos que há algo errado conosco. Poderão então recomendar tratamentos adequados, dietas e regimes diários, sob medida para nossa compleição física, nosso DNA e nossa personalidade, que são únicos.

As pessoas usufruirão dos melhores serviços de saúde da história,mas justamente por isso estarão doentes o tempo todo. Existe sempre algo errado em algum lugar do corpo. No passado, você se sentia perfeitamente saudável enquanto não sentia dor ou apresentava uma deficiência aparente, como, por exemplo, mancar. Porém em 2050, graças a sensores biométricos e algoritmos de Big Data, as doenças poderão ser diagnosticadas e tratadas muito antes de causarem dor ou debilidade. Como resultado, você vai se ver sempre sofrendo de algum “mal de saúde” e seguindo a recomendação deste ou daquele algoritmo. Se recusar, talvez seu seguro-saúde seja cancelado, ou seu chefe o demita — por que deveriam pagar o preço por sua teimosia?

Uma coisa é continuar fumando apesar das estatísticas que ligam o fumo ao câncer de pulmão. Outra é continuar fumando apesar da advertência concreta de um sensor biométrico que acabou de detectar dezessete células cancerosas na parte superior de seu pulmão esquerdo. E, se você quiser desafiar o sensor, o que vai fazer quando o sensor repassar a advertência a sua companhia de seguros, seu gerente e sua mãe?

Quem terá tempo e energia para lidar com essas doenças? Provavelmente, poderemos ensinar nosso algoritmo de saúde a lidar com a maior parte desses problemas como achar melhor. No máximo, ele vai enviar aos nossos smartphones atualizações periódicas, informando-nos que “dezessete células cancerosas foram detectadas e destruídas”. Os hipocondríacos obedientemente leriam essas atualizações, mas a maioria de nós vai ignorá-las assim como ignoramos as mensagens chatas do antivírus em nossos computadores.

O DRAMA DA TOMADA DE DECISÃO

O que já está começando a acontecer na medicina provavelmente ocorrerá em outros campos. A invenção decisiva é a do sensor biométrico, que as pessoas podem usar nos seus corpos ou dentro deles, e que converte processos biológicos em informação eletrônica que computadores podem armazenar e analisar. Se tiverem dados biométricos e capacidade computacional suficientes, sistemas de processamento de dados externos poderão intervir em todos os seus desejos, todas as suas decisões e opiniões. Poderão saber exatamente quem é você.

A maioria das pessoas não se conhece muito bem. Quando eu tinha 21 anos, finalmente constatei que era gay, após viver vários anos em negação. É difícil dizer que é um caso excepcional. Muitos homens gays passam toda a adolescência inseguros quanto à sua sexualidade. Agora imagine como será essa situação em 2050, quando um algoritmo for capaz de dizer a todo adolescente exatamente onde ele está no espectro gay/hétero (e até mesmo quão maleável é essa posição). Talvez o algoritmo lhe mostre fotos ou vídeos de homens e mulheres atraentes, rastreie o movimento de seus olhos, sua pressão sanguínea e a atividade de seu cérebro, e em cinco minutos mostre um número na escala Kinsey.[6] Isso poderia ter me livrado de anos de frustração. Pode ser que, pessoalmente, você não queira fazer esse teste; mas talvez um belo dia, com um grupo de amigos numa festa de aniversário tediosa, alguém sugira que todos se revezem nesse sensacional algoritmo novo (com todo mundo em volta acompanhando e comentando os resultados). Você simplesmente iria embora?

Mesmo se você for, e continuar a se esconder de si mesmo e de seus colegas de turma, não conseguirá se esconder da Amazon, do Alibaba e da polícia secreta. Quando estiver navegando na internet, assistindo a vídeos no YouTube ou lendo mensagens nas suas redes sociais, os algoritmos vão discretamente monitorá-lo, analisá-lo e dizer à Coca-Cola que, se ela quiser lhe vender alguma bebida, melhor seria usar o anúncio com o sujeito sem camisa, e não o da garota sem camisa. Você nem vai saber. Mas eles saberão, e essa informação valerá bilhões.

De novo, talvez tudo isso se faça abertamente, e as pessoas compartilharão com prazer suas informações para poder contar comas melhores recomendações, e para poder fazer o algoritmo tomar decisões por elas. Começa com coisas simples, como decidir a que filme assistir. Quando você se senta com um grupo de amigos para passar uma noite diante da televisão, primeiro tem de escolher ao que vai assistir. Cinquenta anos atrás você não teria escolha, mas hoje — com o surgimento dos serviços sob demanda — há milhares de títulos disponíveis. Talvez seja bem difícil chegar a um consenso, porque enquanto você prefere filmes de ficção científica, Jack prefere comédias românticas e Jill vota por filmes de arte franceses. Talvez acabem tendo de concordar com um meio-termo, um filme B medíocre que vai desapontar a todos.

Um algoritmo poderia ajudar. Pode-se informá-lo de quais filmes vistos anteriormente cada um de vocês gostou, e com base nessa imensa base de dados estatísticos o algoritmo pode encontrar o filme perfeito para o grupo. Infelizmente, um algoritmo tão objetivo é bastante sujeito a erro, principalmente porque a informação dada voluntariamente é um parâmetro pouco confiável das verdadeiras preferências das pessoas. Quando ouvimos muitas pessoas dizendo que um filme é uma obra-prima, tendemos a concordar, mesmo que tenhamos dormido no meio.

No entanto, esses problemas podem ser resolvidos se deixarmos que o algoritmo recolha de nós dados em tempo real, enquanto estamos efetivamente assistindo aos filmes, em vez de se basear em nossos próprios e duvidosos relatos pessoais. Para os iniciantes, o algoritmo pode monitorar quais filmes vimos até o fim, e quais deixamos de assistir no meio. Mesmo se dissermos ao mundo inteiro que … E o vento levou é o melhor filme já produzido, o algoritmo saberá que nunca fomos além da primeira meia hora, e que na verdade nunca vimos Atlanta em chamas.[9]

A palavra “televisão” vem do grego tele, que significa “longe” e do latim visio, “visão”. A televisão foi concebida originalmente como um dispositivo que nos permite ver de longe. Mas logo nos permitirá sermos vistos de longe. Como previu George Orwell em 1984, a televisão nos verá enquanto a estamos vendo. Depois de assistir a toda a filmografia de Tarantino talvez tenhamos esquecido a maior parte. Mas Netflix, ou Amazon, ou quem quer que possua o algoritmo de televisão, conhecerá nosso tipo de personalidade e como manipular nossas emoções. Esses dados poderiam permitir à Netflix e à Amazon escolher filmes para nós com misteriosa precisão, mas também lhes possibilitariam tomar por nós as decisões mais importantes na vida —como o que estudar, onde trabalhar ou com quem casar.

É claro que a Amazon não vai acertar sempre. Isso é impossível. Algoritmos vão cometer erros repetidamente por falta de dados, falhas no programa, confusão nas definições de objetivos e devido à própria natureza caótica da vida.[10] Mas a Amazon não precisará ser perfeita. Precisará apenas ser, em média, melhor que nós humanos. E isso não é difícil, porque a maioria das pessoas não conhece a si mesma muito bem, e porque a maioria das pessoas frequentemente comete erros terríveis nas decisões mais importantes da vida. Até mais que os algoritmos, humanos padecem de falta de dados, de programas falhos (genéticos e culturais), de definições confusas e do caos da vida.

É possível listar muitos problemas que acometem os algoritmos e concluir que as pessoas nunca confiarão neles. Mas isso é como catalogar todos os inconvenientes da democracia e concluir que uma pessoa sã jamais optaria por apoiar esse sistema. Segundo a famosa frase de Winston Churchill, a democracia é o pior sistema político do mundo, com exceção de todos os outros. As pessoas talvez cheguem à mesma conclusão no que concerne aos algoritmos de Big Data: eles têm muitos problemas, mas não temos alternativa melhor.

À medida que cientistas chegam a uma compreensão mais profunda de como humanos tomam decisões, a tentação de se basear em algoritmos provavelmente vai aumentar. Hackear a tomada de decisão por humanos não só fará os algoritmos de Big Data serem mais confiáveis; ao mesmo tempo, fará com que os sentimentos humanos sejam menos confiáveis. À medida que governos e corporações obtêm sucesso ao hackear o sistema operacional humano, ficaremos expostos a uma enxurrada de manipulações guiadas com precisão. Pode ficar tão fácil manipular nossas opiniões e emoções que seremos obrigados a nos basear em algoritmos do mesmo modo que um piloto, ao sofrer um ataque de tontura, tem de ignorar o que seus sentidos estão lhe dizendo e depositar toda a sua confiança nos aparelhos.

Em alguns países e em algumas situações, as pessoas podem ficar sem escolha, e serão obrigadas a obedecer às decisões dos algoritmos de Big Data. Porém, mesmo em sociedades supostamente livres, algoritmos podem ganhar autoridade, porque aprenderemos, por experiência, a confiar a eles cada vez mais tarefas, e aos poucos perdermos nossa aptidão para tomar decisões por nós mesmos. Pense em como, no decorrer de apenas duas décadas, bilhões de pessoas passaram a confiar no algoritmo de busca do Google em uma das tarefas mais importantes: buscar informação relevante e confiável. Já não buscamos mais informação. Em vez disso, nós googlamos. E, quanto mais confiamos no Google para obter respostas, tanto mais diminui nossa aptidão para buscar informação por nós mesmos. Já hoje em dia, a “verdade” é definida pelos resultados principais da busca do Google.

Isso tem acontecido também com habilidades físicas, como a de se orientar no tráfego. As pessoas pedem ao Google que as guie em seus deslocamentos. Quando chegam num cruzamento, seu instinto pode lhes dizer “vire à esquerda”, mas o Google Maps diz “vire à direita”. Primeiro elas ouvem a intuição, viram à esquerda, ficam encalhadas num engarrafamento e perdem uma reunião importante. Na próxima vez ouvem o Google, dobram à direita e chegam a tempo. Aprendem, por experiência, a confiar no Google. Em um ano ou dois se baseiam cegamente no que o Google Maps lhes diz, e se o smartphone falhar ficam completamente sem pistas. Em março de 2012 três turistas japoneses na Austrália decidiram viajar para uma pequena ilha ao largo da costa e caíram com o carro direto no oceano Pacífico. O motorista, Yuzu Noda, de 21 anos, disse depois que só tinha seguido as instruções do GPS, e que “ele me disse que podíamos ir naquela direção. Continuou dizendo que nos levaria para uma estrada. Ficamos encalhados”.[12] Em diversos incidentes semelhantes pessoas foram parar num lago ou caíram de uma ponte demolida, aparentemente por terem seguido instruções de GPS.[13] A aptidão para navegar é como um músculo — use-o ou perca-o.[14] Isso também vale para a habilidade para escolher esposas ou profissões.

Todo ano, milhões de jovens precisam decidir o que estudar na universidade. Essa é uma decisão muito importante e muito difícil. Você está sob a pressão de seus pais, de seus amigos e de seus professores, que têm diferentes interesses e opiniões. Você também tem de lidar com seus próprios temores e fantasias. Seu julgamento está obnubilado e manipulado por sucessos de Hollywood, romances baratos e sofisticadas campanhas de publicidade. Tomar uma decisão sensata é particularmente difícil porque na verdade você não sabe o que é preciso para ter sucesso em diferentes profissões, e não tem consciência de suas próprias forças e fraquezas. O que é preciso para ter sucesso como advogado? Como é que me saio quando estou sob pressão? Sou bom em trabalhar em equipe?

Um estudante talvez comece a estudar direito porque tem uma imagem imprecisa de suas habilidades, e uma visão ainda mais distorcida do que é realmente ser advogado (não se fazem discursos dramáticos nem se grita “Protesto, meritíssimo!” todo dia). Enquanto isso, uma amiga decide realizar um sonho de infância e estudar balé profissional, mesmo não tendo nem a disciplina nem a estrutura óssea necessárias. Anos mais tarde, ambos se arrependem profundamente de suas escolhas. No futuro poderíamos confiar no Google para que tome essas decisões por nós. O Google poderia me dizer que eu desperdiçaria meu tempo na faculdade de direito ou na escola de balé — mas que eu daria um excelente (e muito feliz) psicólogo ou encanador.[15]

Uma vez que a IA toma decisões melhor do que nós sobre carreiras e até mesmo relacionamentos, nosso conceito de humanidade e de vida terá de mudar. Humanos costumam pensar sobre a vida como um drama de tomadas de decisão. A democracia liberal e o capitalismo de livre mercado veem o indivíduo como um agente autônomo que está constantemente fazendo escolhas no que tange ao mundo. Obras de arte — sejam peças de Shakespeare, romances de Jane Austen ou comédias bregas de Hollywood — quase sempre giram em torno de uma situação na qual o herói tem de tomar uma decisão crucial. Ser ou não ser? Ouvir o que minha mulher está dizendo e matar o rei Duncan ou ouvir minha consciência e poupá-lo? Casar com Mr. Collins ou Mr. Darcy? As teologias cristã e muçulmana também se concentram no drama da tomada de decisões, alegando que a salvação ou a danação eterna dependem de se fazer ou não a escolha certa.

O que acontecerá com essa visão de vida, se cada vez mais nos baseamos na IA para tomar decisões por nós? Atualmente confiamos na Netflix para escolher filmes, e no Google Maps para decidir se viramos à direita ou à esquerda. Mas, uma vez que comecemos a contar com a IA para decidir o que estudar, onde trabalhar e com quem casar, a vida humana deixará de ser um drama de tomada de decisão. Eleições democráticas e livres mercados não farão muito sentido. Assim como a maior parte das religiões e obras de arte. Imagine Anna Kariênina pegando seu smartphone e perguntando ao algoritmo do Facebook se deveria continuar casada com Kariênin ou fugir com o galante conde Vrónski. Ou imagine sua peça favorita de Shakespeare com todas as decisões cruciais sendo tomadas pelo algoritmo do Google. Hamlet e Macbeth terão vidas muito mais confortáveis, mas que tipo de vida será exatamente? Temos modelos que sirvam para dar sentido a essa vida?

Quando a autoridade passa de humanos para algoritmos, não podemos mais ver o mundo como o campo de ação de indivíduos autônomos esforçando-se por fazer as escolhas certas. Em vez disso,vamos perceber o universo inteiro como um fluxo de dados, considerar organismos pouco mais que algoritmos bioquímicos e acreditar que a vocação cósmica da humanidade é criar um sistema universal de processamento de dados — e depois fundir-se a ele. Já estamos nos tornando, hoje em dia, minúsculos chips dentro de um gigantesco sistema de processamento de dados que ninguém compreende a fundo. Todo dia eu absorvo incontáveis bits de dados através de e-mails, tuítes e artigos. Na verdade, não sei onde me encaixo nesse grande esquema de coisas, e como meus bits de dados se conectam com os bits produzidos por bilhões de outros humanos e computadores. Não tenho tempo para descobrir, porque eu também estou ocupado, respondendo a e-mails.

O CARRO FILOSÓFICO

Pode-se dizer que algoritmos jamais poderão tomar decisões importantes por nós, porque decisões importantes normalmente envolvem uma dimensão ética, e algoritmos não entendem de ética. No entanto, não há razão para supor que os algoritmos não serão capazes de superar o ser humano médio mesmo na ética. Já hoje em dia, à medida que dispositivos como smartphones e veículos autônomos tomam decisões que costumavam ser monopólio humano, eles começam a se deparar com o mesmo tipo de problemas éticos que têm perturbado os humanos por milênios.

Por exemplo, suponha que dois garotos correndo atrás de uma bola vejam-se bem em frente a um carro auto dirigido. Com base em seus cálculos instantâneos, o algoritmo que dirige o carro conclui que a única maneira de evitar atingir os dois garotos é desviar para a pista oposta, e arriscar colidir com um caminhão que vem em sentido contrário. O algoritmo calcula que num caso assim há 70% de probabilidades de que o dono do carro — que dorme no banco traseiro — morra. O que o algoritmo deveria fazer?[16]

Filósofos têm debatido o “dilema do bonde” por milênios (é chamado “dilema do bonde” porque os exemplos didáticos dos debates filosóficos modernos fazem referência a um bonde desgovernado, e não a carros auto dirigidos).[17] Até agora esses debates, lamentavelmente, têm tido pouco impacto no comportamento efetivo, porque em tempos de crise os humanos, com demasiada frequência, esquecem suas opiniões filosóficas e seguem suas emoções e seus instintos.

Um dos experimentos mais sórdidos da história das ciências sociais foi realizado em dezembro de 1970 com um grupo de estudantes do Seminário Teológico de Princeton aspirantes a ministros da Igreja presbiteriana. Pedia-se a cada estudante que corresse para uma sala de aula distante para falar sobre a parábola do Bom Samaritano, que conta como um judeu que viajava de Jerusalém para Jericó foi roubado e espancado por criminosos, que o deixaram para morrer, à beira da estrada. Passado algum tempo um sacerdote e um levita passaram por lá, mas ignoraram o homem. Em contraste, um samaritano — membro de uma seita muito desprezada pelos judeus — parou quando viu a vítima, cuidou dela, e salvou sua vida. A moral da parábola é que o mérito pessoal deveria ser julgado pelo comportamento, e não por afiliação religiosa e opiniões filosóficas.

Os jovens seminaristas, entusiasmados, corriam para a sala de aula pensando em como melhor explicar a moral da parábola do bom samaritano. Mas os responsáveis pelo experimento haviam posto em seu caminho uma pessoa maltrapilha, meio caída e encostada numa porta com a cabeça baixa e os olhos fechados. Quando cada seminarista, sem suspeitar de nada, passava apressado por ela, a “vítima” tossia e gemia lamentosamente. A maioria dos seminaristas nem sequer parou para perguntar o que havia de errado com o homem, muito menos para oferecer ajuda. O estresse emocional causado pela necessidade de se apressar para a sala de aula tinha triunfado sobre a obrigação moral de ajudar estranhos em apuros.[18]

As emoções humanas triunfam sobre teorias filosóficas em inúmeras outras situações. Isso torna a história ética e filosófica do mundo uma narrativa deprimente de ideais maravilhosos e comportamentos menos que ideais. Quantos cristãos oferecem a outra face, quantos budistas superam obsessões egoístas, e quantos judeus realmente amam seu próximo como a si mesmos? É a maneira como a seleção natural moldou o Homo sapiens. Como todos os mamíferos, o Homo sapiens usa emoções para tomar rapidamente decisões de vida ou morte. Herdamos nossa raiva, nosso medo e nossa paixão de milhões de ancestrais, que passaram pelos mais rigorosos testes de qualidade da seleção natural.

Infelizmente, o que era bom para a sobrevivência e a reprodução na savana africana 1 milhão de anos atrás não será necessariamente um comportamento responsável nas rodovias do século XXI. Motoristas humanos distraídos, nervosos e ansiosos matam mais de 1 milhão de pessoas em acidentes de trânsito todo ano. Podemos enviar todos os nossos filósofos, profetas e sacerdotes para pregar ética para esses motoristas — na estrada, emoções de mamíferos e instintos da savana ainda prevalecem. Consequentemente, seminaristas apressados vão ignorar pessoas em apuros, e motoristas em crise vão atropelar os infelizes pedestres.

Os algoritmos de computação, no entanto, não foram moldados pela seleção natural, e não têm emoções nem instintos viscerais. Daí que em momentos de crise eles poderiam seguir diretrizes éticas muito melhor que os humanos — contanto que encontremos um amaneira de codificar a ética em números e estatísticas precisos. Se ensinarmos Kant, Mill e Rawls a escrever um programa, eles poderão programar cuidadosamente um carro auto dirigido em seus acolhedores laboratórios, e ter a certeza de que o carro seguirá seus comandos na rua. Com efeito, todo carro será dirigido por Michael Schumacher e Immanuel Kant combinados numa só pessoa.

Assim, se você programar um carro auto dirigido para que pare e ajude estranhos em apuros, ele fará isso aconteça o que acontecer (amenos, é claro, que você insira uma cláusula de exceção para determinados cenários). Da mesma forma, se seu carro auto dirigido estiver programado para desviar para a pista oposta a fim de salvar os dois garotos que estão em seu caminho, pode apostar sua vida que é exatamente isso que ele fará. O que significa que, ao projetar seus carros auto dirigidos, a Toyota ou a Tesla vão transformar um problema teórico de filosofia da ética num problema prático de engenharia.

Com certeza, os algoritmos filosóficos nunca serão perfeitos. Erros ainda vão acontecer, resultando em ferimentos, mortes e processos judiciais extremamente complicados. (Pela primeira vez na história, você poderá processar um filósofo pelos infelizes resultados de suas teorias, porque pela primeira vez na história você poderá provar que há uma ligação causal direta entre ideias filosóficas e eventos da vida real.) Contudo, para poder assumir o papel de motoristas humanos,os algoritmos terão de ser perfeitos. Terão de ser melhores que os humanos. Considerando que motoristas humanos matam mais de 1 milhão de pessoas todo ano, não será tão difícil assim. Tudo isso dito e feito, você ia preferir que o carro atrás do seu estivesse sendo dirigido por um adolescente bêbado ou pela equipe Schumacher-Kant?[19]

A mesma lógica vale não só para a direção de automóveis, mas para muitas outras situações. Veja, por exemplo, o caso de candidatos a emprego. No século XXI, a decisão de contratar alguém para um emprego será cada vez mais tomada por algoritmos. Não podemos confiar na máquina para estabelecer os padrões éticos relevantes — os humanos sempre terão de fazer isso. Mas, uma vez que decidamos por um padrão ético no mercado de trabalho — por exemplo, que é errado discriminar mulheres, ou pessoas negras —, poderemos confiar em máquinas para implementar e manter esse padrão melhor que os humanos.[20]

Um gerente humano pode saber e concordar que é antiético discriminar pessoas negras e mulheres, mas, quando uma mulher negra se candidata a um emprego, o gerente subconscientemente a discrimina e decide não contratá-la. Se permitirmos que um computador avalie os pedidos de emprego, e programarmos o computador para ignorar completamente raça e gênero, podemos ter certeza de que o computador vai ignorar esses fatores, porque computadores não têm subconsciência. Claro, não será fácil escrever o programa de avaliação de pedidos de emprego, sempre haverá o perigo de que engenheiros, de algum modo, incluam seus próprios vieses subconscientes no software.[21] Mas, uma vez descobertos esses erros, provavelmente será muito mais fácil corrigir o software do que livrar humanos de seus vieses racistas ou misóginos.

Vimos que o surgimento da inteligência artificial pode expulsar muitos humanos do mercado de trabalho — inclusive motoristas e guardas de trânsito (quando humanos arruaceiros forem substituídos por algoritmos, guardas de trânsito serão supérfluos). No entanto,poderá haver algumas novas aberturas para os filósofos, haverá subitamente grande demanda por suas qualificações — até agora destituídas de quase todo valor de mercado. Assim, se você quer estudar algo que lhe assegure um bom emprego no futuro, talvez a filosofia não seja uma aposta tão ruim.

É claro que filósofos raramente concordam em qual é a linha correta de ação. Poucos “dilemas do bonde” têm sido resolvidos de modo a satisfazer todos os filósofos, e pensadores consequencialistas como John Stuart Mill (que julga a ação pelas suas consequências) têm opiniões bem diferentes das dos deontologistas como Immanuel Kant (que julga as ações segundo regras absolutas). Será que a Tesla tem de tomar posição quanto a questões tão complicadas para fabricar carros?

Bem, talvez a Tesla deixe isso a cargo do mercado. A montadora vai fabricar dois modelos de carro auto dirigido: o Tesla Altruísta e o Tesla Egoísta. Numa emergência, o Altruísta sacrifica seu dono pelo bem maior, enquanto o Egoísta faz tudo o que pode para salvar seu dono, mesmo que isso signifique matar os dois garotos. Os clientes  poderão então comprar o carro que melhor se encaixe em sua visão filosófica. Se mais pessoas comprarem o Tesla Egoísta a culpa não será da Tesla. Afinal, o cliente sempre tem razão.

Isso não é uma brincadeira. Num estudo pioneiro, em 2015, apresentou-se a pessoas um cenário hipotético de um carro auto dirigido na iminência de atropelar vários pedestres. A maioria disse que nesse caso o carro deveria salvar os pedestres mesmo que custasse a vida de seu proprietário. Quando lhes perguntaram se eles comprariam um carro programado para sacrificar seu proprietário pelo bem maior, a maioria respondeu que não. Para eles mesmos, iam preferir o Tesla Egoísta.[22]

Imagine a situação: você comprou um carro novo, mas antes de começar a usá-lo tem de abrir o menu de configurações e escolher cada uma das diversas opções. Em caso de acidente, quer que o carro sacrifique sua vida — ou que mate a família no outro veículo? Essa é uma escolha que você quer mesmo fazer? Pense nas discussões que vai ter com seu marido sobre qual opção escolher.

Assim, talvez o Estado devesse intervir para regular o mercado, e instituir um código ético a ser obedecido por todos os carros autodirigidos? Sem dúvida alguns legisladores ficarão emocionados com a oportunidade de finalmente fazer leis que serão sempre seguidas à risca. Outros talvez fiquem alarmados com essa responsabilidade sem precedentes e totalitária. Afinal, no decorrer da história as limitações da aplicação da lei proporcionaram um controle bem-vindo dos vieses, erros e excessos dos legisladores. Foi uma grande sorte o fato de as leis contra o homossexualismo e a blasfêmia só terem sido parcialmente aplicadas. Será que queremos mesmo um sistema no qual as decisões de políticos se tornem tão inexoráveis quanto a gravidade?

DITADURAS DIGITAIS

As pessoas temem a IA porque não confiam na obediência da IA. Já assistimos a muitos filmes de ficção científica sobre robôs que se rebelam contra seus senhores humanos e correm desenfreados pelas ruas trucidando todo mundo. Mas o problema real com robôs é exatamente o oposto. Devemos ter medo deles porque sempre obedecerão a seus senhores e nunca se rebelarão.

Não há nada de errado com a obediência cega, é claro, enquanto os robôs servirem a senhores benignos. Mesmo numa guerra, a dependência de robôs matadores poderia garantir que, pela primeira vez na história, as regras da guerra seriam realmente obedecidas no campo de batalha. Soldados humanos são às vezes levados por suas emoções a assassinar, saquear e estuprar, violando as leis da guerra. Normalmente associamos emoções a compaixão, amor e empatia, mas em tempos de guerra as emoções que assumem o controle são muito frequentemente o medo, o ódio e a crueldade. Como robôs não têm emoções, poder-se-ia confiar que eles sempre seguiriam rigorosamente o código militar, e nunca seriam levados por temores e ódios pessoais.[23]

Em 16 de março de 1968, uma companhia de soldados americanos ficou ensandecida na aldeia vietnamita de My Lai e massacrou cerca de quatrocentos civis. Esse crime de guerra resultou da iniciativa local de homens que tinham estado envolvidos numa guerrilha na selva durante vários meses. Não tinha nenhum objetivo estratégico, e transgredia tanto o código de conduta quanto a política militar dos Estados Unidos. Foi por culpa das emoções humanas.[24] Se os Estados Unidos tivessem colocado robôs assassinos no Vietnã, o massacre de My Lai jamais teria ocorrido.

Entretanto, antes de sairmos correndo para desenvolver e pôr em ação robôs assassinos, precisamos lembrar que robôs sempre refletem e ampliam as qualidades de sua programação. Se o programa é contido e benigno — os robôs provavelmente representarão uma imensa melhora em relação ao soldado humano médio. Mas se o programa for implacável e cruel — os resultados serão catastróficos.O verdadeiro problema com robôs não está em sua inteligência artificial, mas na estupidez e crueldade naturais de seus senhores humanos.

Em julho de 1995, tropas sérvias da Bósnia massacraram mais de 8 mil muçulmanos bósnios no entorno da cidade de Srebrenica. Diferentemente do massacre aleatório de My Lai, a matança em Srebrenica foi uma ação prolongada e bem organizada que refletiu a política sérvia que visava a uma Bósnia “etnicamente purificada” de muçulmanos.[25]  Se os sérvios da Bósnia tivessem robôs assassinos em 1995, isso provavelmente teria feito a atrocidade ser pior, e não melhor. Nenhum robô hesitaria um só momento no cumprimento de quaisquer ordens que recebesse, e não teria poupado a vida de uma única criança muçulmana por sentimentos de compaixão, repulsa ou mera letargia.

Um ditador cruel armado com robôs assassinos não precisaria ter medo de que seus soldados se voltassem contra ele, não importa quão perversas e loucas fossem suas ordens. Um exército de robôs provavelmente teria sufocado a Revolução Francesa em seu berço em 1789, e se em 2011 Hosni Mubarak dispusesse de um contingente de robôs assassinos ele poderia lançá-los sobre a população sem medo de deserções. Da mesma forma, um governo imperialista que contasse com um exército de robôs poderia travar guerras impopulares sem nenhuma preocupação de que seus robôs perdessem a motivação, ou que suas famílias protestassem. Se os Estados Unidos tivessem robôs assassinos na Guerra do Vietnã, o massacre de My Lai poderia ter sido evitado, mas a guerra em si mesma poderia ter se arrastado por muitos anos, porque o governo americano teria menos preocupações com soldados desmoralizados, com protestos em massa contra aguerra, ou com um movimento de “robôs veteranos contra a guerra”(alguns cidadãos americanos ainda poderiam se opor à guerra, massem o medo de serem eles mesmos convocados, sem a memória deterem pessoalmente cometido atrocidades, ou da perda dolorosa de um parente querido, os manifestantes provavelmente seriam menos numerosos e menos envolvidos).[26]

Problemas como esses são muito menos relevantes no que concerne a veículos autônomos civis porque nenhum fabricante de automóveis vai programar maliciosamente seus carros para matar pessoas. Sistemas de armas autônomos, no entanto, são uma catástrofe iminente, porque a maioria dos governos são eticamente corruptos, senão explicitamente malignos.

O perigo não se restringe a máquinas de matar. Sistemas de vigilância podem ser igualmente arriscados. Nas mãos de um governo benigno, algoritmos poderosos de vigilância podem ser a melhor coisa que já aconteceu ao gênero humano. Mas os mesmos algoritmos de Big Data podem também dar poder a um futuro Grande Irmão, e podemos acabar em um regime de vigilância orwelliano, no qual todo mundo é monitorado o tempo todo.[27]

O resultado pode ser algo que nem mesmo Orwell foi capaz de imaginar: um regime de vigilância total que não apenas acompanha nossas atividades e pronunciamentos externos como é capaz até mesmo de penetrar nossa pele e observar nossas experiência interiores. Considere por exemplo o que o regime de Kim, na Coreia do Norte, poderia fazer com a nova tecnologia. No futuro, poder-se-ia requerer de cada cidadão norte-coreano que usasse um bracelete biométrico que monitora tudo o que se faz ou se diz — assim como a pressão sanguínea e a atividade cerebral. Usando nossa crescente compreensão do cérebro humano, e os imensos poderes do aprendizado de máquina, o regime norte-coreano poderia desenvolver a capacidade de, pela primeira vez na história, avaliar oque todo e cada cidadão está pensando em todo e cada m omento. Se você olhar para um retrato de Kim Jong-un e os sensores biométricos detectarem sinais indicadores de raiva (elevação da pressão sanguínea, aumento de atividade na amígdala cerebral) —, amanhã de manhã você estará no gulag.

Com certeza, devido a seu isolamento, o regime norte-coreano poderá ter dificuldade para desenvolver sozinho a tecnologia necessária. No entanto, a tecnologia poderia ser introduzida pioneiramente em nações de tecnologia mais avançada e copiada ou comprada pelos norte-coreanos e outras ditaduras retrógradas. A China e a Rússia estão constantemente aperfeiçoando suas ferramentas de vigilância, assim como vários países democráticos, desde os Estados Unidos até Israel, onde vivo. Apelidada de “nação das empresas start-up”, Israel tem um setor de alta tecnologia extremamente vigoroso, e uma indústria de segurança cibernética de ponta. Ao mesmo tempo também está encerrado num conflito mortal com os palestinos, e pelo menos alguns de seus líderes, generais e cidadãos gostariam muito de criar um regime de vigilância total na Cisjordânia assim que dispuserem da tecnologia necessária.

Hoje, quando palestinos fazem uma ligação telefônica, postam  alguma coisa no Facebook ou viajam de uma cidade para outra, é possível que estejam sendo monitorados por microfones, câmeras, drones ou softwares espiões israelenses. Os dados reunidos são depois analisados com a ajuda de algoritmos de Big Data. Isso ajuda as forças de segurança de Israel a identificar e neutralizar ameaças potenciais sem o uso de tropas no local. Os palestinos podem administrar algumas cidades e aldeias na Cisjordânia, mas os israelenses controlam o céu, as ondas de rádio e o ciberespaço. Por isso é surpreendentemente pequeno o número de soldados israelenses que controlam cerca de 2,5 milhões de palestinos na Cisjordânia.[28]

Num incidente tragicômico em outubro de 2017, um trabalhador palestino postou em sua conta privada no Facebook uma foto sua no trabalho, ao lado de uma escavadeira. Junto à imagem ele escreveu“Bom dia!”. Um algoritmo automático cometeu um pequeno erro ao transliterar as letras árabes. Em vez de “Ysabechhum!” (“bom dia”), o algoritmo identificou as letras como escrevendo “Ydbachhum”(“mate-os”). Suspeitando que o homem pudesse ser um terrorista que tencionava usar uma escavadeira para atropelar pessoas, as forças de segurança de Israel rapidamente o prenderam. Foi libertado depois que constataram que o algoritmo havia cometido um erro. Mas assim mesmo o post ofensivo no Facebook foi retirado. Cuidado nunca é demais.[29] O que os palestinos estão experimentando hoje na Cisjordânia pode ser uma previsão inicial do que bilhões experimentarão em todo o planeta no futuro.

No final do século XX as democracias no geral superaram as ditaduras porque são melhores no processamento de dados. A democracia difunde o poder para processar informação e as decisões são tomadas por muitas pessoas e instituições, enquanto a ditadura concentra informação e poder num só lugar. Dada a tecnologia do século XX, seria ineficiente concentrar informação e poder demais num só lugar. Ninguém tinha capacidade para processar toda a informação com rapidez suficiente para tomar decisões corretas. Essa é em parte a razão de a União Soviética ter tomado decisões muito piores que as dos Estados Unidos, e de a economia soviética ter ficado bem atrás da economia americana.

Entretanto, em breve a IA poderá fazer o pêndulo oscilar para a direção oposta. A IA possibilita o processamento de enormes quantidades de informação centralizada. Na verdade, a IA pode fazer com que sistemas centralizados sejam muito mais eficientes do que sistemas difusos, porque o aprendizado de máquina funciona melhor quanto mais informação for capaz de analisar. Se você concentrar toda a informação relativa a 1 bilhão de pessoas numa única base de dados, desconsiderando qualquer preocupação com privacidade, será  capaz de instruir muito mais algoritmos do que se respeitasse a privacidade individual e tivesse em sua base de dados apenas informações parciais sobre 1 milhão de pessoas. Por exemplo, se um governo autoritário ordenar a todos os seus cidadãos que tenham seu DNA escaneado e que compartilhem todos os seus dados médicos com alguma autoridade central, ele terá uma enorme vantagem em pesquisa genética e médica em relação a sociedades nas quais os dados médicos são estritamente privados. A principal desvantagem dos regimes autoritários do século XX — a tentativa de concentrar toda a informação num só lugar — pode se tornar a vantagem decisiva no século XXI.

Quando os algoritmos passarem a nos conhecer tão bem, governos autoritários poderiam obter o controle absoluto de seus cidadãos, ainda mais do que na Alemanha nazista, e a resistência a esses regimes poderá ser totalmente impossível. Não só o regime saberá o que você sente — ele poderia fazer você sentir o que ele quiser. O ditador poderia não ser capaz de prover o cidadão de serviços de saúde ou igualdade, mas seria capaz de fazer com que ele o amasse e odiasse seus adversários. A democracia em seu formato atual não será capaz de sobreviver à fusão da biotecnologia com a tecnologia da  informação. Ou a democracia se reinventa com sucesso numa forma radicalmente nova, ou os humanos acabarão vivendo em “ditaduras digitais”.

Não será um retorno à época de Hitler e Stálin. As ditaduras digitais serão tão diferentes da Alemanha nazista quanto a Alemanha nazista foi diferente do Antigo Regime na França. Luís XIV era um autocrata centralizador, mas não tinha tecnologia para construir um Estado totalitário moderno. Não teve oposição a seu governo, mas na ausência de rádios, telefones e trens, tinha pouco controle sobre a vida cotidiana de camponeses em aldeias remotas da Bretanha, ou mesmo de citadinos no coração de Paris. Tampouco tinha vontade ou capacidade de estabelecer um partido popular, um movimento de jovens em todo o país, ou um sistema nacional de educação.[30]  Foram as novas tecnologias do século XX que deram a Hitler tanto a motivação quanto o poder de fazer coisas desse tipo. Não podemos prever quais serão as motivações e poderes das ditaduras digitais em 2084, mas é muito pouco provável que só copiem Hitler e Stálin. Os que se dispuserem a lutar novamente as mesmas batalhas da década de 1930 poderão ser surpreendidos, indefesos, por um ataque provindo de uma direção totalmente diferente.

Mesmo que a democracia consiga se adaptar e sobreviver, as pessoas podem tornar-se as vítimas de novos tipos de opressão e discriminação. Já hoje em dia, cada vez mais bancos, corporações e instituições estão usando algoritmos para analisar dados e tomar decisões a nosso respeito. Quando você pede um empréstimo a seu banco, é provável que seu pedido seja processado por um algoritmo e não por um humano. O algoritmo analisa grande quantidade dedados sobre você e estatísticas sobre milhões de outras pessoas, e decide se você é confiável o bastante para receber um empréstimo. Frequentemente, o algoritmo faz o trabalho melhor do que faria um gerente. Mas o problema é que se o algoritmo discriminar injustamente certas pessoas, será difícil saber. Se o banco se recusar a lhe dar um empréstimo e você perguntar por quê, o banco responderá: “O algoritmo disse que não”. Você pergunta: “Por que o algoritmo disse não? O que há de errado comigo?”, e o banco responde: “Não sabemos. Nenhum humano entende esse algoritmo ,porque é baseado num aprendizado de máquina avançado. Mas confiamos em nosso algoritmo, por isso não lhe daremos um empréstimo”.[31]

Quando se discriminam grupos inteiros, como mulheres ou negros,esses grupos podem se organizar e protestar contra a discriminação coletiva. Mas agora um algoritmo seria capaz de discriminar você individualmente, sem que você saiba por quê. Talvez o algoritmo tenha encontrado alguma coisa da qual não gostou em seu DNA, em sua história pessoal ou em sua conta no Facebook. O algoritmo teria discriminado você não porque é mulher ou negro — mas porque você é você. Há algo específico em você de que o algoritmo não gosta. Você não sabe o que é, e mesmo se soubesse não poderia organizar um protesto com outras pessoas, porque não há outras pessoas que sejam alvo do mesmo preconceito. É só você. Em vez de só discriminação coletiva, no século XXI talvez deparemos com um crescente problema de discriminação individual.[32] Nos níveis mais altos da autoridade provavelmente ainda teremos figurantes humanos, que nos darão a ilusão de que os algoritmos são apenas conselheiros, e que a autoridade final ainda está em mãos humanas. Não vamos nomear uma IA chanceler da Alemanha ou CEO do Google. No entanto, as decisões tomadas pelo chanceler da Alemanha ou pelo CEO do Google serão formuladas pela IA. O chanceler ainda poderia escolher entre várias opções diferentes, mas todas seriam resultado da análise feita por Big Data, e refletirão mais como a IA vê o mundo do que como os humanos o veem.

Para citar um exemplo análogo, hoje políticos de todo o mundo podem escolher entre várias políticas econômicas diferentes, mas em quase todos os casos as várias políticas em oferta refletem uma perspectiva capitalista da economia. Os políticos têm uma ilusão de escolha, mas as decisões realmente importantes já terão sido tomadas antes pelos economistas, banqueiros e homens de negócio, que formataram as diferentes opções no menu. Dentro de algumas décadas, os políticos estarão escolhendo opções de um menu escrito pela IA.

INTELIGÊNCIA ARTIFICIAL E ESTUPIDEZ NATURAL

Uma boa notícia é que pelo menos nas próximas poucas décadas não teremos de lidar com esse absoluto pesadelo de ficção científica em que a IA adquire consciência e decide escravizar ou aniquilar a humanidade. Cada vez mais vamos confiar nos algoritmos para que tomem decisões por nós, mas não é provável que os algoritmos comecem conscientemente a nos manipular. Eles não terão consciência.

A ficção científica tende a confundir inteligência com consciência, e supõe que para se equipar ou suplantar a inteligência humana os computadores terão de desenvolver consciência. O enredo básico de quase todos os filmes e livros sobre IA gira em torno do momento mágico no qual um computador ou robô ganha consciência. Tendo acontecido isso, ou o herói humano se apaixona pelo robô, ou o robô tenta matar todos os humanos, ou ambas as coisas acontecem simultaneamente.

Porém na realidade não há motivo para supor que a inteligência artificial vá desenvolver consciência, porque inteligência e consciência são coisas muito diferentes. Inteligência é a aptidão para resolver problemas. Consciência é a aptidão para sentir coisas como dor ,alegria, amor e raiva. Tendemos a confundir os dois porque nos humanos e nos outros mamíferos a inteligência anda de mãos dadas com a consciência. Mamíferos resolvem a maioria dos problemas sentindo coisas. Computadores, no entanto, resolvem problemas de maneira muito diversa.

Há vários caminhos diferentes que levam a uma grande inteligência,e apenas alguns desses caminhos envolvem a tomada de consciência.Assim como os aviões voam mais rápido que aves sem jamais desenvolver penas, também os computadores podem resolver problemas muito melhor do que mamíferos sem jamais desenvolver sentimentos. É verdade que a IA terá de analisar sentimentos humanos com muita precisão para ser capaz de tratar doenças humanas, identificar terroristas humanos, recomendar parceiros humanos e percorrer uma rua cheia de pedestres humanos. Mas poderia fazer isso sem ter sentimentos próprios. Um algoritmo não precisa sentir alegria, raiva ou medo para reconhecer os diferentes padrões bioquímicos de macacos alegres, irados ou assustados.

Claro, não é de todo impossível que a IA desenvolva seus próprios sentimentos. Ainda não sabemos o bastante sobre a consciência para ter certeza. Em geral, há três possibilidades que precisamos levar em consideração:

   1. A consciência está, de alguma forma, ligada à bioquímica orgânica de tal modo que nunca será possível criar consciência em sistemas não orgânicos.

   2. A consciência não está ligada à bioquímica orgânica, mas está ligada à inteligência de tal modo que os computadores poderiam desenvolver consciência, e computadores terão de desenvolver consciência se ultrapassarem um certo limiar da inteligência.

   3. Não há ligações essenciais entre consciência e bioquímica orgânica nem entre consciência e alta inteligência. Daí que os computadores poderiam desenvolver consciência — mas não necessariamente. Poderiam tornar-se superinteligentes mesmo tendo consciência zero.

No estágio atual de conhecimento, não podemos descartar nenhuma dessas opções. Mas, precisamente porque sabemos tão pouco sobre a consciência, parece improvável que possamos programar computadores conscientes em algum momento próximo. Por isso, apesar do imenso poder da inteligência artificial, num futuro previsível seu uso continuará a depender em alguma medida da consciência humana.

O perigo é que se investirmos demais no desenvolvimento da IA e de menos no desenvolvimento da consciência humana, a simples inteligência artificial sofisticada dos computadores poderia servir apenas para dar poder à estupidez natural dos humanos. É improvável que enfrentemos uma rebelião de robôs nas próximas décadas, mas poderíamos ter de lidar com hordas de bots que sabem, melhor do que nossas mães, como manipular nossas emoções e usar essa misteriosa habilidade para tentar nos vender alguma coisa — seja um carro, um político ou toda uma ideologia. Os robôs poderiam  identificar nossos temores, ódios e desejos mais profundos, e usar essas alavancas interiores contra nós. Já tivemos uma amostra disso em eleições e referendos recentes por todo o mundo, quando hackers aprenderam como manipular eleitores individuais analisando dados sobre eles e explorando seus preconceitos.[33] Enquanto os filmes de ficção científica terminam em apocalipses dramáticos com fogo e fumaça, na realidade podemos estar a um clique de um apocalipse banal.

Para evitar tais resultados, para cada dólar e cada minuto que investimos no desenvolvimento de inteligência artificial, seria sensato investir um dólar e um minuto em avançar a consciência humana. Infelizmente, não estamos fazendo muita coisa para pesquisar e desenvolver a consciência humana. Estamos pesquisando e desenvolvendo habilidades humanas principalmente em função das necessidades imediatas do sistema econômico e político, e não de acordo com nossas necessidades de longo prazo como seres conscientes. Meu chefe quer que eu responda aos e-mails o mais rápido possível, mas tem pouco interesse em minha capacidade de saborear e apreciar a comida que estou comendo. Consequentemente,eu verifico meus e-mails durante as refeições, enquanto vou perdendo a capacidade de prestar atenção a minhas próprias sensações. O sistema econômico me pressiona a expandir e diversificar minha carteira de investimentos, mas me dá zero incentivo para expandir e diversificar minha compaixão. Assim, eu me esforço cada vez mais para entender os mistérios da bolsa de valores, e cada vez menos para compreender as causas profundas do sofrimento.

Nisso, os humanos são semelhantes a outros animais domésticos.Temos criado vacas dóceis que produzem enormes quantidades deleite, mas que de resto são muito inferiores a seus ancestrais selvagens.São menos ágeis, menos curiosas e menos dotadas de recursos. [34] Estamos criando agora homens domesticados que produzem enormes quantidades de dados e funcionam como chips muito eficientes num enorme mecanismo de processamento de dados, mas essas vacas dedados estão longe de atingir seu potencial máximo. Na verdade, não temos ideia de qual seja ele, porque sabemos muito pouco sobre nossa mente e, em vez de investir na sua exploração, nos concentramos em aumentar a velocidade de nossas conexões à internet e a eficiência de nossos algoritmos de Big Data. Se não formos cuidadosos, vamos acabar tendo humanos degradados fazendo mau uso de computadores sofisticados para causar estragos em si mesmos e no mundo.

Ditaduras digitais não são o único perigo que nos aguarda. Juntamente com a liberdade, a ordem liberal também dá grande valor à igualdade. O liberalismo sempre zelou pela liberdade política, e gradualmente veio a se dar conta de que a igualdade econômica é quase tão importante. Pois sem uma rede de segurança social e um mínimo de igualdade econômica, a liberdade não tem sentido. Mas, assim como os algoritmos de Big Data poderiam extinguir a liberdade, eles poderiam simultaneamente criar a sociedade mais desigual que já existiu. Toda a riqueza e todo o poder do mundo poderiam se concentrar nas mãos de uma minúscula elite, enquanto a maior parte do povo sofreria, não de exploração, mas de algo muito pior — irrelevância.

Parte 2 

Tags: Editora Companhia das Letras, História, Yuval Noah Harari