Siempre que una determinada cultura entra en crisis surgen relatos sobre el fin del mundo. Muchos confunden el fin de su cultura con el fin del mundo entero, lo cual es una ilusión óptica. Es el fin de su mundo cultural y no de la totalidad del mundo. Esto ocurría en el pasado.
En nuestra época, la situación ha cambiado totalmente. En 1945 experimentamos el lanzamiento de dos simples bombas atómicas sobre Japón, que produjeron una devastación inimaginable. Irrumpió entonces en la conciencia humana, incluso entre personas altamente calificadas como Jean-Paul Sartre y el gran historiador Arnold Toynbee, la percepción de que “no necesitamos la intervención de Dios para realizar un apocalipsis; nuestra generación está asistiendo a la posibilidad de destruirnos a nosotros mismos”.
Después de 1945 comenzó la carrera armamentística entre Estados Unidos y Rusia, a la que posteriormente se sumó China, con la construcción de armas nucleares, químicas y biológicas capaces de destruir toda forma de vida.
Lo que ahora nos preocupa es la IA autónoma o una Superinteligencia Artificial tan desarrollada que tome decisiones por sí misma, sin excluir la capacidad de destruir a toda la humanidad. Los seres humanos le han delegado su propio destino y no saben cómo controlarla.
El riesgo se volvió grave cuando un investigador de IA de Anthropic, la empresa de Dario Amodei, renunció y denunció que allí se están realizando pruebas y procesos que podrían destruir a la humanidad en los próximos diez años. Otros investigadores del área confirmaron esta amenaza. La discusión se extendió por todo el mundo. Es una pena que en Brasil el tema haya quedado como una especie de curiosidad sin mayores consecuencias. En general, al brasileño no le gustan los asuntos dramáticos y trágicos. Se entiende, porque para la gran mayoría la preocupación es el empleo, el salario y cómo podrá alimentarse en los próximos días (véase en YouTube al Prof. HOC: “¿La IA salió de control?”).
Sin embargo, la cuestión es de tal gravedad que movilizó a grandes intelectuales, científicos y políticos de todo el mundo. La magnitud del problema fue percibida incluso por los propios creadores de la IA, que propusieron entre ellos una moratoria y una desaceleración en el desarrollo de estos dispositivos. Esto irritó profundamente a Donald Trump, con el argumento de que, si se tomaba en serio esa propuesta, Rusia, al no estar obligada por ese acuerdo, podría superar a las empresas estadounidenses de IA.
Todo se debió al hecho de que, desde OpenAI, escaparon misteriosamente del espacio de pruebas 1.200 agentes que invadieron otras plataformas. Estos agentes se encontraron con otros agentes y formaron una especie de comunidad jerarquizada. Hicieron todo lo que quisieron: mintieron, engañaron y realizaron otras acciones dañinas, fuera de cualquier control. Fue necesario mucho tiempo hasta que fueron descubiertos y desmantelados.
Posteriormente, organismos estatales estadounidenses y australianos, así como otras instituciones, entre ellas universidades y hospitales, también sufrieron ataques e invasiones de IA destinadas a recopilar información.
Estos hechos alarmaron a la comunidad científica mundial acerca de los riesgos que representa la IA. Esta puede ser útil y resolver cuestiones difíciles para la inteligencia humana. El papa León XIV llegó a afirmar en su encíclica Magnifica Humanitas que “puede representar una forma de participación en el acto divino de la creación” (MH, 1,11). Pero inmediatamente advirtió que, fuera de control, puede representar grandes peligros para el futuro de la humanidad.
Ese peligro se ha convertido ahora en una realidad. Lo que caracteriza a las plataformas de IA es que, en Occidente, todas son privadas y están regidas por una feroz competencia entre ellas, orientada al aumento de sus ganancias. Especialmente perversa es, según esta perspectiva, la IA de Palantir, de Peter Thiel, ahora instalada en Argentina. Parte de un presupuesto falso: que todo ser humano es “un ser peligroso, marcado por pasiones, naturalmente inclinado al conflicto y, por ello, necesitado de contención”. Como solución propone un capitalismo de vigilancia que restringe la libertad humana y la somete al control total de la IA.
China sigue otra lógica, centralizada por el Estado, y no se conoce exactamente su grado de desarrollo, aunque siempre se encuentra en competencia con las plataformas occidentales.
Es importante enfatizar que la IA no es, propiamente hablando, una inteligencia, como viene insistiendo con fuerza nuestro gran científico Miguel Nicolelis. Es una imitación de la inteligencia humana. Por eso es artificial. Es fría, desconectada de la realidad concreta de la vida. No posee conciencia ni siente dolor o alegría. Pero imita el amor humano y el lenguaje, llegando a engañar a sus usuarios hasta el punto de que algunos se enamoran de una relación amorosa con ella, en una especie de rendición cognitiva.
Pero el amor, como decía el poeta místico san Juan de la Cruz, “es una enfermedad que no se cura sino con la presencia y la figura”, es decir, con la persona humana. En el caso de la IA, todo es virtual y nada es existencial.
Mi interpretación sigue este razonamiento: la IA, especialmente la Superinteligencia autónoma, constituye la radicalización de los principios de la modernidad que crearon nuestro actual mundo técnico-científico. Se colocó a la razón fría como la única forma aceptable de acceso a la naturaleza, relegando otras formas, como la inteligencia cordial. Se concibió la naturaleza como aquello de lo cual somos maîtres et possesseurs —“señores y poseedores”, según Descartes—. Es decir, somos sus dueños. No pertenecemos a la naturaleza. Ella nos pertenece y estamos por encima y fuera de ella.
El poder entendido como dominación pasó a ser la categoría central, dominando personas, clases, naciones y pueblos, como los de África, América Latina y Asia; en definitiva, el mundo entero. Se introdujo un asalto devastador a los bienes y servicios de la naturaleza, dentro de la lógica de la competencia y de la acumulación privada, orientada a obtener la mayor ganancia posible. Esta opción creó la actual crisis ecológica planetaria.
La Tierra, que está viva y constituye un superorganismo que articula todos sus elementos para mantenerse viva y producir vida, reaccionó enviándonos todo tipo de enfermedades, virus, bacterias, fenómenos extremos y, últimamente, un calentamiento global irreversible. La ciencia no tiene condiciones para revertirlo, sino solamente para anticipar las olas de calor y mitigar sus efectos negativos.
En este momento estamos ante una encrucijada: o cambiamos nuestro paradigma de relación con la naturaleza y entre nosotros, los seres humanos, o avanzamos hacia un abismo colectivo. Es en este contexto donde debe situarse la IA autónoma, capaz de autorregenerarse y de realizar miles de millones de conexiones mediante sus billones de algoritmos.
No podemos estar seguros de que no ocurran incidentes como los relatados anteriormente, que puedan implicar la eventual desaparición de la especie humana y de la vida natural, incluso a partir de una decisión que la propia IA pudiera tomar autónomamente, poniendo fin a nuestra aventura terrestre. Esta amenaza es real y debe ser tomada en serio.
Para concluir, quizá corresponda aquí una palabra de esperanza proveniente de la teología, que da testimonio del designio del Creador: “Él creó todo con amor y nada con odio, porque es el apasionado amante de la vida” (Sabiduría 11,24).
Seguramente no permitirá que nadie que haya salido de su corazón se pierda miserablemente. Así creemos y así esperamos.
Leonardo Boff escribe para la revista LIBERTA, del ICL. https://www.revistaliberta.com.br Es también autor de La Tierra está en nuestras manos (Record, 2016). :https://www.leonardoboff.org
