Sempre que uma certa cultura entra em crise surgem relatos de fim de mundo. Muitos confundem o fim de sua cultura com o fim do mundo todo,o que é uma ilusão de ótica. É o fim de seu mundo cultural e não da totalidade do mundo. Isso ocorria no passado.
Na nossa época a situação mudou totalmente. Experimentamos em 1945 o lançamento de duas simples bombas atômicas sobre o Japão que produzirm uma devastação inimaginável. Irrompeu na consciência humana até em pessoas altamente qualificadas como Paul Sartre e o grande historiador Arnold Tonbee que chegou a dizer: “não precisamos da intervenção de Deus para realizar um apocalipse; a nossa geração está assistindo a possibilidade de nos destuirmos a nós mesmos”.
Depois de 1945 começou a corrida armamentística entre os USA e a
Rússia, posteriormente se somou a China com a construção de armas nucleares, químicas e biológicas capazes de destruir toda vida.
O que agora nos preocupa e a IA autônoma ou uma Superinteligencia Artificial tão desenvolvida que toma decisões por si mesma, não excluindo a capacidade de destruir toda a Humanidade. Os seres humanas delegaram a ela o seu próprio destino e não sabem como controlá-la.
O risco se tornou grave quando um pequisador da IA Anthropic de Dario Amodei se demitiu e denunciou que lá dentro estão se dando testes e processos que podem destruir a humanidade nos próximos 10 anos.Outros pesquisadores da área confirmaram esta ameaça. A discussão tomou conta do mundo. Pena que no Brasil o tema ficou como uma espécie de curiosidade sem maiores consequência. Em geral o brasileiro não gosta de assuntos dramáticos e trágicos. Entende-se porque para a grande maioria a preocupação é com emprego, com o solário e como vai comer nos próximos dias (ver o Youtube do Prof.HOC: A IA saiu do controle?)
No entanto, a questão é de tal gravidade que movimentou grandes intelectuais, cientistas e políticos do mundo todo. Esta evergadura foi tão sentida pelos próprios criadores da IA que propuseram entre si uma moratória e uma desaceleração no desenvolvimento destes aparatos. O que irritou sumamente Donald Trump com o argumento de que se isso for tomado a sério, a Rússai, não obrigada por esse acordo, poderia ultrapassar as empresas norte-americanas de IA.
Tudo se deveu ao fato de que da Open IA escaparam do espaço de testes misteriosamente 1200 agentes que invadiram outras plataformas. Estes agentes encontraram-se com outros agentes e formaram uma espécie de comunidade hierarquizada. Fizeram tudo o que queriam,mentiram,enganaram e fizeram outras maldades, fora de qualquer controle. Foi preciso muito tempo até ser descoberta e desmantelada.
Depois, tanto os organismos estatais norte-americanos e australianos e outras instituições como universidades,hospitais também sofreram um ataque e invasão da IA recolhendo informações.
Tas fatos alarmaram a comunidade científica mundial sobre os riscos que representa a IA. Ela pode ser útil e resolver questões difíceis para a inteligência humana. O Papa Leão XIV chegou a afirmar em sua encíclica Magnifica Humanitas que “ela pode representar “uma forma de participação do ato divino da criação”(MH,1,11).Mas logo advertiu que, fora do controle, pode representar grandes perigos para o futuro da humanidade.
Esse perigo agora se tornou uma realidade. O que caracteriza as plataformas de IA é o fato de serem, no Ocidente,todas privadas e regidas por uma feroz competição entre elas visando um aumento dos lucros. Especialmente perversa é a IA Palantir de Peter Thiel,agora instalado na Argentina. Parte de uma falsa pressuposição de que todo ser humano é”um ser perigoso, marcado por paixões,naturalmente inclinado ao conflito e por isso a necessidade da contenção”. Como solução propõe um capitalismo da vigilância que tolhe a liberdade humana e a submete ao controle total da IA.
A China segue outra lógica centralizada pelo Estado e não se sabe exatamente seu grau de desenvolvimento. Mas sempre em competição com as ocidentais.
Importa enfatizar que a IA não é, propriamente uma Inteligência, como vem insistindo fortemente nosso cientista maior Miguel Nicolelis. Ela é a imitação da inteligência humana. Por isso é artificial. Ela é fria, deconectada da realidade concreta da vida, Não possui consciência nem sente dor e alegria.Mas imita o amor humano, a linguagem chegando a enganar seus usuários a ponto de alguns a se apaixonarem por um conexão amorosa com ela (rendição cognitiva). Mas o amor, com dizia o místico poeta São João da Cruz:”o amor é uma doença que não se cura senão com a presença e a figura (a pessoa humana)”. Aqui com a IA tudo é virtual e nada existencial.
A minha interpretação segue este raciocínio: a IA especialmente a Super Inteligência autônoma é a radicalização dos princípios da modernidade que criou o nosso atual mundo moderno tecnico-científico. Colocou-se a razão fria como a única forma de acesso aceitável da natureza relegando outras formas como a inteligência cordial,natureza da qual somos “maître et possesseur”(Descartes),vale dizer, somos senhores e donos. Não pertencemos à natureza. Ela nos pertence e estamos acima e fora dela. O poder como dominação foi feito como a categoria axial, dominando pessoas, classes, nações, povos como a África, a América Latina, a Ásia,o mundo. Introduziu um avassalador assalto aos bens e serviços da natureza, na lógica da competição e da acumulaçã privada, visando o maior lucro possível. Esta opção criou atual crise ecológica planetária.
A Terra que é viva, um super-organismo que articula todos os elementos para sempre se manter viva e produzir vida, reagiu enviando-nos todo tipo de enfermidades, vírus, bactérias, eventos extremos e ultimamente o aquecimento global irreversível. A ciência não tem condições de reverte-lo apenas de antecipar as ondas de calor e mitigar seus efeitos negativos.
Nesse momento estamos numa encrucilhada:ou mudamos de paradigma de relação para com a natureza e entre nós humanos, ou vamos rumo ao abismo coletivo. É neste contexto que deve ser vista a IA autônoma, que pode se autoregenerar, fazer bilhões de conexões com seus trilhões de algoritmos.
Não estamos seguros de que não ocorram incidentes como os relatados acima que implicam o desaparecimento eventual da espécie humana e da vida natural, até por uma decisão que ela autonomamente tomar, pondo fim à nossa aventura terrestre. Essa ameaça é real e deve ser tomada a sério.
Para concluir, talvez aqui cabe uma palavra de esperança,vinda da teologia que testemunha o desígnio do Criador:”Ele criou tudo com amor e nada com ódio, porque Ele é o apaixonado amante da vida”(Sabedoria 11,24). Seguramente não permitirá que ninguém que saíu de seu coração irá se perder miseravelmente. Assim cremos e esperamos.
Leonardo Boff escreve para a revista LIBERTA do ICL (https://www.revistaliberta.com.br; escreveu também A Terra na palma de nossas mãos (Record 2016:https://www.leonardoboff.org).
