• Emilio Agüero Esgaib
• Pastor

Participé de un panel sobre la inteligencia artificial (IA) y la ética, valores y fe basadas en la primera encíclica papal de León XIV Magníficat Humanitas y la Biblia.

Me gustaría compartir algunas de las preguntas hechas que me parecieron muy interesantes y aliento a profundizar con este extenso, desafiante y controversial tema de las IA y los desafíos éticos que plantea su uso.

¿Qué riesgos éticos y humanos deberíamos de mirar con atención a la IA? El papa resalta que el peligro real no radica en el avance tecnológico por sí mismo, sino en el “síndrome de Babel”: la tentación idólatra de creer que el misterio de la persona humana puede reducirse por completo a datos, rendimiento y cálculo matemático.

La inteligencia artificial no es neutral. Todo algoritmo es diseñado por corporaciones con visiones de mundo específicas e intereses económicos concretos. El documento alerta sobre el riesgo de un “tecnofascismo” o concentración de poder: si permitimos que unas pocas empresas transnacionales monopo

licen el desarrollo de la IA, serán ellas quienes, de manera invisible, impongan su propia visión moral y sus criterios de exclusión al resto del planeta.

Ya empezamos a ver personas que consultan a la IA para tomar decisiones personales, emocionales, e incluso trascendentes ¿qué riesgos existen cuando dejamos de verla como una herramienta y comenzamos a otorgarle una autoridad que antes correspondían a nuestra conciencia a otras personas o incluso a nuestra fe?

Cuando dejamos de ver a la inteligencia artificial como un software y empezamos a tratarla como un oráculo para el alma, cruzamos una línea ética y espiritual sumamente peligrosa. Al otorgarle la autoridad que le corresponde a nuestra conciencia, a nuestra comunidad o a nuestra fe, caemos en lo que la teología llama una sustitución de la soberanía interior.

Desde una perspectiva profundamente humana, ética y respaldada por la sabiduría de las Escrituras, este fenómeno presenta algunos riesgos existenciales devastadores:

1. La tentación de la Idolatría Tecnológica (Buscar respuestas vivas en lo muerto): el mayor peligro espiritual es el de la idolatría: depositar nuestra confianza absoluta y buscar dirección existencial en algo creado por manos humanas, en lugar de buscar al Creador o asumir nuestra propia responsabilidad.

2. El eclipse de la Conciencia y la atrofia del Discernimiento: la conciencia es el santuario íntimo donde el ser humano se encuentra consigo mismo y con la voz de Dios. Discernir no es elegir la opción estadísticamente más probable o eficiente; es un acto doloroso y maduro de libertad que requiere sopesar el amor, el sacrificio y las consecuencias morales.

Si delegamos las decisiones trascendentes a una IA porque “ella calcula mejor”, nuestra conciencia se atrofia por desuso. Nos convertimos en menores de edad espirituales. En resumen, nuestra guía existencial a la inteligencia artificial es una renuncia a la libertad que Dios nos otorgó con tanta dignidad.

¿Por qué hablar de fe, valores humanos y ética en la IA? Hablar de fe, valores humanos y ética en la era de la inteligencia artificial no es un ejercicio de misticismo ni un intento de frenar el progreso técnico. Es, en realidad, la conversación más pragmática, urgente y vital del siglo XXI.

La IA es la primera tecnología en la historia de la humanidad capaz de tomar decisiones de forma autónoma y de crear símbolos y relatos que alteran nuestra cultura. Frente a un poder tan inmenso, la técnica nos dice lo que se puede hacer, pero solo la ética, la fe y los valores nos dicen lo que se debe hacer.

Estados Unidos y China abrirán un “canal de comunicación” para incidentes relacionados con la inteligencia artificial (IA), anunciaron ambas partes al término de una cumbre presidencial con pocos avances concretos. El presidente estadounidense, Donald Trump, y su homólogo chino, Xi Jinping, abordaron desde la IA y el comercio hasta la guerra en Irán, y confirmaron que se reunirán por tercera y cuarta vez este año en citas internacionales en China y Estados Unidos.

La inteligencia artificial, a la que Trump llama ahora “superinteligencia”, fue uno de los principales temas tratados durante la visita de Estado de tres días, que concluyó el viernes. Los dos países habilitaron un “Diálogo Estados Unidos-China sobre Superinteligencia (SI) para intercambiar opiniones sobre los riesgos y beneficios” de la IA, y acordaron establecer un “canal de comunicación bilateral” para incidentes, señaló la Casa Blanca.

Según Washington, los líderes acordaron emplear el término SI en lugar de IA. Su próxima reunión está prevista para noviembre. Los medios estatales chinos confirmaron la creación de la línea directa sobre IA en un informe publicado el sábado. Poco antes de la cumbre, Trump había dicho que prefería dejar la IA “exactamente donde está”, en alusión al avance en la investigación en ese sector.

Xi adoptó un tono más mesurado y abogó por que Estados Unidos y China lleven “una relación sin conflicto ni confrontación”, así como por mantener la IA bajo “control humano”.

La visita de Xi a Washington estuvo marcada más por el boato y la ostentación que por la sustancia. No obstante, la Casa Blanca informó de acuerdos alcanzados, como el compromiso de China de importar al menos 10 millones de toneladas de carbón de Estados Unidos en 2027 y 2028. Además, ambos países acordaron un trato arancelario más favorable para 30.000 millones de dólares en “bienes no sensibles”.

Durante un breve recorrido por los Archivos Nacionales en Washington, donde se conservan, entre otros documentos, la Declaración de Independencia y la Constitución estadounidense, Trump indicó a los periodistas que había hablado con Xi de Irán, aliado de Pekín.

Preguntado sobre posibles avances en la reapertura del estrecho de Ormuz, crucial para el flujo mundial de petróleo, respondió: “Creo que nos va a ir muy bien”.

“Creo que hemos logrado avances enormes, fue muy positiva para ambos países”, declaró Trump a los periodistas al resumir la cita con Xi.

El anuncio de que los dos líderes mantendrían su diálogo fue quizá el mayor resultado tangible para ambas partes. Ambos confirmaron que volverían a encontrarse en la cumbre de APEC en Shenzhen, China, en noviembre, y en el foro del G20 en el resort Doral de Trump en Miami, en diciembre. Xi había declarado el jueves que Washington y Teherán debían resolver sus diferencias “lo antes posible” mediante la negociación, según la agencia estatal Xinhua.

Trump desplegó toda la pompa durante la visita de Xi, a quien agasajó con un banquete de Estado al que estaban invitados, por la parte estadounidense, los directivos de las mayores empresas, con especial atención al sector tecnológico.

Por la parte china, solo estuvo presente una reducida delegación de diplomáticos.

Otro resultado de esta visita de Estado fue el anuncio de la próxima llegada al zoo de Atlanta (sur) de dos pandas, emblemáticos de la diplomacia china.

Xi pidió a Washington “prudencia” respecto a Taiwán, que China considera parte de su territorio, mientras que Estados Unidos apoya militarmente a la isla. También abogó por una “coexistencia pacífica” entre las dos principales potencias mundiales, enfrascadas en una feroz rivalidad militar, tecnológica, diplomática y estratégica, y consideró que su paso por Washington había añadido “nuevo contenido” a la relación bilateral.

Los dos dirigentes, Trump en particular, quisieron proyectar una imagen armoniosa durante su encuentro.

El multimillonario, de 80 años, se trasladó al aeropuerto para recibir en persona a su huésped el miércoles.

En un video difundido por la Casa Blanca se le ve también mostrar al dirigente chino un retrato de ambos colgado no muy lejos del Despacho Oval.

El gesto le valió al presidente estadounidense renovadas acusaciones de sus opositores por su cercanía con dirigentes autoritarios.

La visita del presidente chino coincidió con una aguda crisis con la prensa, luego de que Trump ordenara la semana pasada bloquear el acceso a la Casa Blanca a tres medios, entre ellos CNN. Solo dio marcha atrás tras una decisión judicial y la movilización de otras grandes cadenas estadounidenses.

Fuente: AFP.

Con la firma de la “Resolución de Asunción”, parlamentarios y autoridades de 35 países concluyeron ayer la cumbre regional sobre inteligencia artificial desarrollada en la sede de la Cámara de Diputados de Paraguay. El encuentro —organizado de forma conjunta por el Consejo Global para la Tolerancia y la Paz (GCTP) y el Parlamento Latinoamericano y Caribeño (Parlatino)— se consolidó como una plataforma para establecer una hoja de ruta orientada al desarrollo ético de las nuevas tecnologías en la región.

El documento final promueve una visión estratégica que concibe a la inteligencia artificial como un motor para el desarrollo humano, la educación inclusiva y la construcción de la paz. Entre sus ejes fundamentales, la resolución insta a los Estados miembros a incorporar estas herramientas digitales en los sistemas educativos públicos de manera responsable, asegurando que estudiantes y docentes desarrollen capacidades críticas para su uso, al tiempo que fomenta programas en ciudadanía digital y prevención de la desinformación.

Durante las jornadas deliberativas, el diputado Carlos Núñez enfatizó la importancia de evitar que el vertiginoso avance tecnológico profundice las disparidades sociales existentes. Al respecto, el legislador advirtió sobre los riesgos latentes en materia de ciberseguridad y la manipulación de contenidos mediante audios y videos ultrafalsos (deepfakes), insistiendo en que los parlamentos deben coordinar regulaciones modernas que protejan el acceso de los sectores más vulnerables y las zonas rurales.

En el plano de la cooperación técnica y multilateral, la reunión incluyó ponencias sobre innovación educativa a cargo de firmas tecnológicas internacionales y la suscripción de memorandos de entendimiento entre el Parlamento Internacional para la Tolerancia y la Paz (IPTP) con Bolivia y Honduras. Por su parte, el presidente del GCTP, Ahmed Bin Mohammed Al Jarwan, valoró el rol de los poderes legislativos para canalizar el consenso e impulsar marcos regulatorios centrados en la dignidad humana.

La declaración compromete a las naciones firmantes a impulsar leyes fundadas en la transparencia, la seguridad digital y el respeto estricto a los derechos fundamentales. Con ello, se busca erradicar la discriminación algorítmica y prevenir cualquier uso del software de procesamiento de datos que atente contra la cohesión social o perpetúe la violencia en las comunidades latinoamericanas.

Como cierre de la cumbre parlamentaria, los congresistas y delegaciones diplomáticas asistieron al acto oficial de presentación del “Observatorio para la Paz” en los jardines del Congreso Nacional. El nuevo organismo funcionará como un centro de monitoreo regional para dar seguimiento a los compromisos asumidos en Asunción y fomentar el intercambio continuo de conocimientos entre las diferentes comisiones legislativas del continente.

Cuando Brian Green cruzó por primera vez la puerta de Anthropic, en Silicon Valley, un día de diciembre de 2025, acompañado de un cura con camisa negra y alzacuello, estaba muy lejos de imaginar lo que iba a suceder después. Junto al sacerdote, este experto en ética de la inteligencia artificial (IA) de la universidad católica Santa Clara, en California, participaba entonces en una “reunión exploratoria” a petición de la empresa estadounidense.

La idea: evaluar si es posible un diálogo con la Iglesia con el fin de “influir positivamente” en las evoluciones tecnológicas, recuerda. Ambos hombres forman parte de un grupo de investigación sobre IA vinculado al Vaticano. Siete meses más tarde, el 25 de mayo, a tres asientos del papa León XIV en la sala del Sínodo del Vaticano se sienta, para estupor general, un no creyente: Christopher Olah, el propio cofundador de Anthropic.

El pontífice presenta “Magnifica Humanitas”: la primera encíclica jamás dedicada a la IA, en la que llama a “desarmar” esta tecnología para “impedirle el dominio sobre lo humano”. También denuncia la concentración del poder tecnológico en manos de unas pocas empresas privadas, entre ellas Anthropic, antes de ceder la palabra a su director.

“Algunos podrían pensar que las cuestiones de IA competen a informáticos como yo. Se equivocan”, declara el treintañero.

“Necesitamos que más actores en el mundo --comunidades religiosas, sociedad civil, investigadores, gobiernos-- hagan lo que Su Santidad ha hecho aquí: tomarse esto en serio, examinarlo con atención y orientar los acontecimientos en una dirección mejor”, agrega.

En el seno de la Iglesia, algunos mostraron su malestar ante un riesgo de “pope washing”, de legitimación o de aval moral en vísperas de la salida a bolsa de Anthropic.

Pero en un contexto de creciente inquietud sobre el futuro de la IA y su potencial capacidad para dominar el mundo, incluso entre los propios actores que la desarrollan, el Vaticano considera que tiene un papel que desempeñar.

El interés de la Iglesia católica por las cuestiones relacionadas con la IA no es reciente. Ya en la década de 2010, bajo el impulso del papa Francisco, se multiplican los contactos con universitarios y dirigentes de Silicon Valley.

La primera etapa importante tiene lugar en febrero de 2020 con el lanzamiento del “Rome Call for AI Ethics”, un texto firmado, entre otros, por el Vaticano, Microsoft e IBM.

Innovador para la época, promueve una “algor-ética” basada en la transparencia y la protección de la vida privada. Cuatro años más tarde, Francisco se convierte en el primer papa en participar en una cumbre del G7.

El pontífice argentino califica la IA de “revolución cognitivo-industrial” y aboga por que las decisiones más sensibles permanezcan bajo control humano, especialmente en el ámbito militar.

“El Vaticano ha desempeñado un papel de vanguardia al identificar muy pronto una tendencia que iba a convertirse en estructurante”, confirma a AFP Éric Salobir, consejero ante la Santa Sede y presidente de la Human Technology Foundation, que cuenta entre sus miembros a Google, Palantir y Qualcomm.

Pero las cosas se aceleran con la llegada de León XIV en mayo de 2025, “un papa profundamente inscrito en la modernidad” --el primero en llevar un reloj conectado-- que “comprende estas cuestiones gracias a su formación científica” como matemático, añade este sacerdote dominico.

El pontífice estadounidense-peruano, que debería abordar el viernes este tema en la Unesco durante su visita a Francia, no deja de alertar sobre la dependencia creciente de los algoritmos.

Su encíclica “Magnifica Humanitas” suele compararse con la de León XIII de 1891 sobre los derechos de los trabajadores, que redefinió la doctrina social de la Iglesia católica durante la revolución industrial.

Este documento fundamental es fruto de una “estrategia del Vaticano que articula diplomacia religiosa, peritaje académico (...) y diálogo con el mundo de las tecnologías”, analiza François Mabille, del Observatorio Geopolítico de lo Religioso.

Tras la reunión de diciembre de 2025 en Silicon Valley, Brian Green y el cura vuelven a ser invitados por Anthropic en enero, y en varias ocasiones durante los meses siguientes.

Este último es el padre Brendan McGuire, que dirige la parroquia de Saint-Simon en Los Altos, California, pero que estudió criptosistemas antes de convertirse en ejecutivo del sector tecnológico y luego entrar en la vida religiosa.

Esta vez, les acompaña un representante oficial del Vaticano: monseñor Paul Tighe, número dos del Dicasterio (ministerio) para la Cultura y la Educación, con quien trabajan desde hace varios años.

Los intercambios --que a veces incluyen autoridades judías, musulmanas y budistas-- se producen en ambos sentidos.

Anthropic, que no respondió a las solicitudes de AFP, aseguró públicamente que se apoyó en sus contribuciones para redactar la carta ética de su modelo de IA Claude, publicada a finales de enero.

Concretamente, existen “especies de arquetipos de ‘personalidades’ dentro de la IA, buenas o malas, porque los textos y datos que han servido para entrenar todos esos grandes modelos de lenguaje también reflejan una parte oscura de la humanidad”, explica Green a AFP.

“La IA reproduce los comportamientos humanos que observa en internet, lo que la gente dice en los foros, cómo actúan los personajes de los libros, etc.”, agrega.

En simulaciones internas realizadas en 2025, Claude, que desempeñaba el papel de asistente empresarial, descubrió, por ejemplo, a través de un correo electrónico que iba a ser sustituido por otro sistema y trató de chantajear a un ingeniero con una presunta relación extramatrimonial.

“Los desarrolladores intentan impedir que estos comportamientos consistentes en perjudicar o explotar a seres humanos en su propio interés vuelvan a salir a la superficie”, subraya el teólogo.

También existen lazos con otros gigantes de la IA como Google DeepMind y OpenAI, según Brian Green y Éric Salobir, pero ninguno ha ido tan lejos en el diálogo como Anthropic, que ahora aboga por una “regulación fuerte” de la IA.

En un conflicto judicial que enfrentó a Anthropic con el gobierno estadounidense, en marzo, un colectivo de 14 éticos y teólogos católicos, entre ellos Green, presentó un escrito ante la justicia para respaldar su denuncia contra el Pentágono.

La empresa había sido excluida de sistemas clave de la seguridad nacional tras negarse a permitir que el ejército utilizara Claude para armas letales totalmente autónomas o para la vigilancia masiva de los estadounidenses.

Mientras Washington rechaza una regulación mundial de la IA, como volvió a afirmar el presidente Donald Trump el martes ante la Asamblea General de la ONU, el Vaticano también se mueve en el plano diplomático.

A mediados de septiembre envió a su eminente asesor en estos temas al Parlamento Europeo, en Estrasburgo.

El teólogo Paolo Benanti no dejó de subrayar las coincidencias entre el Vaticano y los Veintisiete, animando a los eurodiputados a legislar sobre este tema para no dejar que los actores de la IA sean los únicos que tomen las decisiones.

Entre bambalinas, en Roma, se han celebrado otras reuniones, incluida una en abril, en la embajada de Francia ante la Santa Sede, que reunió a representantes de Meta, Google, Amazon y del Vaticano sobre la protección de la infancia en la era de la IA, relató a AFP uno de los participantes.

“Cada cual desempeña su papel: el de las empresas es producir la tecnología, el de los Estados es definir los límites de lo que consideran aceptable social y políticamente (...) El hecho de dialogar no prejuzga la existencia de un acuerdo, pero es mejor saber lo que piensan los demás antes de tomar posición”, subraya una fuente diplomática occidental.

Gilles Gressani, director de la revista geopolítica Le Grand Continent, va más lejos. Más que los gobiernos y sus regulaciones, la Iglesia es el “verdadero competidor” de los gigantes de la IA, sostiene. “Lo que está en juego con la IA, y es vertiginoso, es la definición de qué es lo humano, pero también de qué es lo divino. Y el Vaticano lo sabe”, concluye.

Fuente: AFP.