[Por: Leonardo Boff]
O tom geral da encíclica Magnifica Humanitas do Papa Leão XIV é de modo geral positivo. Chega até a ver a IA como um instrumento a serviço do ato criador de Deus. Mas dá-se conta dos riscos e ameaças que ela pode representar. Ao largo e ao longo de toda a sua exposição lança a pergunta fundamental: que imagem de ser humano ela pressupõe e alimenta? Que tipo de sociedade quer construir? Não se trata apenas de verificar se seus efeitos são benéficos ou maléficos. Trata-se de identificar e submeter à crítica seus pressupostos antropológicos e sociais.Se melhoram ou não a condição humana e se introduzam uma maior justiça social a nível planetário.
1. A centralidade da razão como vontade de poder e de controle
Eu diria que a IA comparece como a expressão mais alta do paradigma da modernidade. Seus pais fundadores, Descartes, Newton, Copérnico, Francis Bacon e outros colocaram como valor axial a razão. Mas não qualquer razão. A razão a serviço do poder como dominação de pessoas, classes, países (colonialismo) e principamente da natureza. Famosa é a frase atribuída a Francisci Bacon, o fundador do método científico: “devemos torturar a natureza como o esbirro faz com sua vítima, até arrancar-lhe todos os segredos”.
A razão foi logo traduzida numa prática e assim deu origem à tecno-ciência que domina a nossa história até os dias de hoje, encontrando seu point d’honneur na IA.
Esta centralidade da razão (ratio e logos), se serviu especialmente da física e da matemática, categorias válidas, mas incapazes de captar adequadamente a natureza dos seres vivos. Esse paradigma dificilmente integrou outras dimensões humanas, como a do coração (éros e péthos) que representam o mundo das excelências, do amor, da amizade, da compaixão, da ética e da espiritualidade.
Levada a seu extremo, criou seres humanos com uma espécie de lobotomia: tornaram-se insensíveis aos valores intangíveis, especialmente, a compaixão para com os que sofrem, a observância dos direito humanos, o respeito e o cuidado para com a natureza.
Para esses pais fundadores, o mundo natural não possui sentido em si a não ser quando posto a serviço dos seres humanos. Da mesma forma a Terra que, na tradição dos povos, sempre foi tida como a Grande Mãe, a geradora de toda a vida, a Pachamama dos andinos e a Gaia dos modernos. Tais pensadores a consideraram apenas como uma res extensa, uma realidade extensa e um reservatório de recursos, do qual se pode criar e acumular riqueza.
Esta cosmologia subjaz à IA. Ela é a razão desencarnada e desgarrada do corpo, por isso, artificial. Também dos sentimentos reais e não apenas virtuais, das situações existências da condição humana como a alegria, a tristeza, a decepção, o sofrimento e o amor que exige presença real, a carícia e o afeto sensível e não apenas virtual. Nisso reside a limitação de todas as plataformas da IA. Elas podem falar do amor, suscitar no usuário, sentimentos amorosos, mas não é ela que lhe enxuga as lágrimas, que garante fidelidade e lealdade do amor real.
Há vários tipos de IA, cada qual a serviço de certos propósitos. O Papa se refere às ameaças que elas podem representar, todas praticamente de domínio privado, ao menos no Ocidente. Neurólogos como Miguel Nicolelis tem observado que neurônios celebrais estão sendo negativamente afetados pelo excesso de exposição à ondas eletromagnéticas. Steven D.Shaw cunhou uma expressão assumida pela comunidade científica: a rendição cognitiva.
Essa rendição significa que mais e mais pessoas renunciam a pensar por elas mesmas e delegam à IA o pensamento pessoal e se fazem seguidores de seus comandos. Assim não o faz a inteligência natural que é reflexa, inclui a dúvida, a incerteza, a busca e o real que faz resistência e está continuamente mudando.
Politicamente esta delegação pode permitir que os extremismos tomem conta da sociedade. Na linguagem do exímio intelectual francês Jacques Attali, “a barbárie poderá ser provável; o político” – afirma ele – “é como uma rolha flutuando à deriva na tempestade das paixões”.
2. Os riscos da IA autônoma
Extremo risco representa a IA Autônoma com seus bilhões e bilhões de algoritmos. Foi delegado a ela decisões que escapam ao controle humano. Podemos delegar nosso destino sem renunciarmos à nossa liberdade de fazermos o nosso próprio caminho? Essa é questão filosófica e antropológica da maior gravidade. Os humanos acabam renunciando ao que é intrínseco à sua humanidade: a liberdade de fazer a sua própria história.
Ela pode internamente tomar decisões que prejudicam porções da humanidade. No seu limite, pode considerar que a inteira humanidade ou grande parte dela representam um obstáculo a sua própria reprodução e desenvolvimento e decida eliminá-la. Uma vez construída, dificilmente pode ser posta sob algum controle. Ela capta esse intento e se antecipa montando as suas defesas.
Especialmente a IA Palantir cabe aqui ser citada e também denunciada. No lugar da Anthropos cujo fundador foi Dario Amodei, uma das maiores plataformas, possuía alguns parâmetros éticos a ponto de renunciar às duas solicitações feitas pela Administração de Trump que a havia contratado: de controlar o mais possível a população norte-americana e fazer uso bélico dela. Ela negou-se prontamente a esse uso. Em seu lugar entrou imediatamente a Palantir, a mais perversa de todas, pois sua meta não é tanto econômica nas de poder controlar o mais possível inteiras populações e permitir seu uso para fins bélicos. Isso foi feito com precisão na Faixa de Gaza por parte do exército israelense e na guerra dos USA contra o Irã.
Por este simples exemplo, podemos nos dar conta a que pode levar a exacerbação da razão humana, separada da totalidade complexa e multifacetada do humano, a ponto de pôr a civilização e a vida em risco.
Mas cremos ainda da razoabilidade da razão, submetida a uma instância mais alta, à sabedoria existencial, que poderá impedir que a razão seja totalmente irracional ao construir um meio de autodestruição. A vida se mostrou sempre mais forte contra todos os ataques que no processo evolucionário e histórico se fizeram contra ela.Por isso a esperança nunca pode ser abandonada. A alternativa a ela seia o suicídio, que jamais teria a última palavra. Vale o esperançar de Paulo Freire, vale dizer, criar as condições e meios para a esperança se tornar viável e vencedora. Todas as plataformas de IA estariam a serviço da vida e de sua expansão.
Leonardo Boff é ecoteólogo e filósofo e escreve para a revista LIBERTA do ICL (https://www.revistaliberta.com.br) por muitos anos professor de teologia sistemática e de filosofia da ética e da religião e membro da Iniciativa Internacional da Carta da Terra e escritor (https://www.leonardoboff.org).
