Antiqua et nova – Nota sobre la relación entre la inteligencia artificial y la inteligencia humana

Por su interés para los millones de católicos que se rigen por su magisterio y por el admirable trabajo que han hecho en explicar en lenguaje asequible todos los retos y preguntas a los que nos enfrentamos con el desarrollo y despliegue de la Inteligencia Artificial, reproducimos este documento del Vaticano, publicado el 28 de enero de 2025.

Aviso: Es largo, pero muy interesante.

I. Introducción

En la perspectiva de la sabiduría, los creyentes podrán actuar como
agentes responsables capaces de utilizar esta tecnología para promover
una visión auténtica de la persona humana y de la sociedad[215], a partir
de una comprensión del progreso tecnológico como parte del plan de
Dios para la creación: una actividad que la humanidad está llamada a
ordenar hacia el Misterio Pascual de Jesucristo, en la constante búsqueda
de la Verdad y del Bien.

El Sumo Pontífice Francisco, en la Audiencia concedida el día 14 de enero
de 2025 a los suscritos Prefectos y Secretarios del Dicasterio para la
Doctrina de la Fe y del Dicasterio para la Cultura y la Educación, ha
aprobado la presente Nota y ha ordenado la publicación

Dado en Roma, ante las sedes del Dicasterio para la Doctrina de la Fe y
del Dicasterio para la Cultura y la Educación, el 28 de enero de 2025,
Memoria Litúrgica de santo Tomás de Aquino, Doctor de la Iglesia.

[Antiqua et nova] Con antigua y nueva sabiduría (cf. Mt 13,52) estamos
llamados a considerar los cotidianos desafíos y oportunidades propuestos
por el saber científico y tecnológico, en particular los del reciente
desarrollo de la inteligencia artificial (IA). La tradición cristiana considera
que el don de la inteligencia es un aspecto esencial de la creación de los
seres humanos «a imagen de Dios» (Gen 1,27). A partir de una visión
integral de la persona y de la valoración de la llamada a «cultivar» y
«custodiar» la tierra (cf. Gen 2,15), la Iglesia subraya que ese don debería
encontrar su expresión a través de un uso responsable de la racionalidad
y de la capacidad técnica al servicio del mundo creado.

La Iglesia promueve los progresos en la ciencia, en la tecnología, en las
artes y en toda empresa humana, viéndolos como parte de la
«colaboración del hombre y de la mujer con Dios en el perfeccionamiento
de la creación visible»[1]. Como afirma el Sirácida, Dios «quien da la
ciencia a los humanos, para que lo glorifiquen por sus maravillas» (Sir
38,6). Las habilidades y la creatividad del ser humano provienen de Él y, si
se usan rectamente, a Él rinden gloria, en cuanto reflejo de Su sabiduría y
bondad. Por lo tanto, cuando nos preguntamos qué significa “ser
humanos”, no podemos excluir también la consideración de nuestras
capacidades científicas y tecnológicas.

Es al interno de esta perspectiva que la presente Nota afronta las
cuestiones antropológicas y éticas planteadas por la IA, cuestiones que
son particularmente relevantes en cuanto que uno de los objetivos de esta
tecnología es el de imitar la inteligencia humana que la ha diseñado. Por
ejemplo, a diferencia de otras muchas creaciones humanas, la IA puede
ser entrenada en producciones del ingenio humano y por tanto generar
nuevos “artefactos” con un nivel de velocidad y habilidad que, con
frecuencia, igualan o superan las capacidades humanas, como generar
textos o imágenes que resultan indistinguibles de las composiciones
humanas, suscitando, por tanto, preocupación por su posible influjo en la
creciente crisis de verdad en el debate público. Además, como tal
tecnología está diseñada para aprender y adoptar determinadas
decisiones de forma autónoma, adecuándose a nuevas situaciones y
aportando soluciones no previstas por sus programadores, se derivan
problemas sustanciales de responsabilidad ética y de seguridad, con
repercusiones más amplias para toda la sociedad. Esta nueva situación
lleva a la humanidad a cuestionarse su identidad y su papel en el mundo.

Con todo, existe un amplio consenso en que la IA marca una nueva y
significativa fase en la relación de la humanidad con la tecnología,
situándose en el centro de lo que el Papa Francisco ha descrito como un
«cambio de época»[2]. Su influencia se hace sentir a nivel global en una
amplia gama de sectores, incluidas las relaciones personales, la
educación, el trabajo, el arte, la sanidad, el derecho, la guerra y las
relaciones internacionales. Puesto que la IA sigue avanzando rápidamente
hacia cotas aún mayores, es de importancia decisiva considerar sus
implicaciones antropológicas y éticas. Esto implica no sólo mitigar los
riesgos y prevenir los daños, sino también garantizar que sus aplicaciones
se dirijan a promover el progreso humano y el bien común.

Para contribuir positivamente a un discernimiento sobre la IA, en
respuesta a la invitación de Papa Francisco a una renovada «sabiduría del
corazón»[3], la Iglesia ofrece su experiencia a través de las reflexiones de
la presente Nota que se concentran sobre el ámbito antropológico y ético.
Empeñada en un papel activo al interno del debate general sobre estos
temas, exhorta a cuantos tienen el encargo de transmitir la fe (padres,
enseñantes, pastores y obispos) a dedicarse con cuidado y atención a
esta cuestión urgente. Si bien está dirigido especialmente a ellos, el
presente documento está pensado para ser accesible a un público más
amplio, es decir, a aquellos que comparten la exigencia de un desarrollo
científico y tecnológico que esté al servicio de la persona y del bien
común[4].

Con tal propósito, se intenta sobre todo distinguir el concepto de
“inteligencia” en referencia a la IA y al ser humano. En un primer momento,
se considera la perspectiva cristiana sobre la inteligencia humana,
ofreciendo un marco general de reflexión fundado sobre la tradición
filosófica y teológica de la Iglesia. A continuación, se proponen algunas
líneas de acción, con el objetivo de asegurar que el desarrollo y el uso de
la IA respeten la dignidad humana y promuevan el desarrollo integral de la
persona y de la sociedad.

II. ¿Qué es la Inteligencia Artificial?

El concepto de inteligencia en la IA ha evolucionado en el tiempo,
recogiendo en sí mismo una multiplicidad de ideas provenientes de varias
disciplinas. Si bien tiene raíces que se remontan a algunos siglos atrás, un
momento importante de este desarrollo se produjo en el año 1956,
cuando el informático estadounidense John McCarthy organizó un
congreso veraniego en la Universidad de Dartmouth para afrontar el
problema de la «Inteligencia Artificial», definido como «hacer una
máquina capaz de mostrar un comportamiento que se calificaría de
inteligente si fuera un ser humano quien lo produjera»[5]. El congreso
lanzó un programa de investigación destinado a utilizar máquinas para
realizar tareas típicamente asociadas al intelecto humano y al
comportamiento inteligente.

Desde entonces, la investigación en este sector ha progresado
rápidamente, llevando al desarrollo de sistemas complejos capaces de
llevar a cabo tareas muy sofisticadas[6]. Estos sistemas de la llamada “IA
débil” (narrow AI) están, generalmente, diseñados para desarrollar tareas
limitadas y específicas, como traducir de una lengua a otra, prever la
evolución de una tormenta, clasificar imágenes, ofrecer respuestas a
preguntas, o generar imágenes a petición del usuario. Si bien en el campo
de estudios de la IA se encuentra todavía una variedad de definiciones de
“inteligencia”, la mayor parte de los sistemas contemporáneos, en
particular aquellos que usan el aprendizaje automático, se basa sobre
inferencias estadísticas más que sobre deducciones lógicas. Analizando
grandes conjuntos de datos con el objetivo de identificar patrones, la IA
puede “predecir”[7] los efectos y proponer nuevas vías de investigación,
imitando así ciertos procesos cognitivos típicos de la capacidad humana
de resolución de problemas. Tal logro ha sido posible gracias a los
progresos de la tecnología informática (como las redes neuronales, el
aprendizaje automático no supervisado y los algoritmos evolutivos) junto
con las innovaciones en equipamiento (como los procesadores
especializados). Estas tecnologías permiten a los sistemas de IA de
responder a diferentes tipos de estímulos procedentes de los seres
humanos, de adaptarse a nuevas situaciones e incluso ofrecer soluciones
novedosas no previstas por los programadores originales[8].

Debido a estos rápidos avances, muchos trabajos que antes se
realizaban exclusivamente por personas se confían ahora a la IA. Estos
sistemas pueden complementar o incluso sustituir las capacidades
humanas en muchos ámbitos, sobre todo en tareas especializadas como
el análisis de datos, el reconocimiento de imágenes y el diagnóstico
médico. Si bien cada aplicación de la IA “débil” se adapta para una tarea
específica, muchos investigadores esperan llegar a la llamada
“Inteligencia Artificial General” (Artificial General Intelligence, AGI), es
decir a un único sistema, el cual, operando en todos los ámbitos
cognitivos, sería capaz de realizar cualquier tarea al alcance de la mente
humana. Algunos sostienen que una tal IA podría un día alcanzar el estado
de “superinteligencia”, sobrepasando la capacidad intelectual humana, o
contribuir a la “superlongevidad” gracias a los progresos de las
biotecnologías. Otros temen que estas posibilidades, por hipotéticas que
sean, eclipsen un día a la propia persona humana, mientras que otros
acogen con satisfacción esta posible transformación[9].

Subyacente a estas y otras muchas opiniones sobre el tema, existe
una presunción implícita de que la palabra “inteligencia” debe utilizarse
del mismo modo para referirse tanto a la inteligencia humana como a la IA.
Sin embargo, esto no parece reflejar el alcance real del concepto. En lo
que respecta al ser humano, la inteligencia es de hecho una facultad
relativa a la persona en su conjunto, mientras que, en el contexto de la IA,
se entiende en un sentido funcional, asumiendo a menudo que las
actividades características de la mente humana pueden descomponerse
en pasos digitalizados, de modo que incluso las máquinas puedan
replicarlas[10].

Esta perspectiva funcional queda ejemplificada en el Test de Turing,
por el cual una maquina debe ser considerada “inteligente” si una persona
no es capaz de distinguir su comportamiento de otro ser humano[11]. En
particular, en este contexto, la palabra “comportamiento” se refiere a
tareas intelectuales específicas, mientras que no tiene en cuenta la
experiencia humana en toda su amplitud, que comprende tanto las
capacidades de abstracción y las emociones, la creatividad, el sentido
estético, moral y religioso, abrazando toda la variedad de manifestaciones
de las que es capaz la mente humana. De ahí que, en el caso de la IA, la
“inteligencia” de un sistema se evalúe, metodológica pero también
reduccionistamente, en función de su capacidad para producir respuestas
adecuadas, es decir, las que se asocian a la razón humana,
independientemente de la forma en que se generen dichas respuestas.

Sus características avanzadas confieren a la IA capacidades
sofisticadas para llevar a cabo tareas, pero no la de pensar[12]. Esta
distinción tiene una importancia decisiva, porque el modo como se define
la “inteligencia” va, inevitablemente, a determinar la comprensión de la
relación entre el pensamiento humano y dicha tecnología[13]. Para darse
cuenta de ello, hay que recordar que la riqueza de la tradición filosófica y
de la teología cristiana ofrece una visión más profunda y completa de la
inteligencia, que a su vez es central en la enseñanza de la Iglesia sobre la
naturaleza, la dignidad y la vocación de la persona humana[14].

III. La inteligencia en la tradición filosófica y teológica

Racionalidad

Desde los albores de la reflexión de la humanidad sobre sí misma, la
mente ha jugado un papel central en la comprensión de lo que significa
ser “humanos”. Aristóteles observaba que «todos los seres humanos por
naturaleza tienden al saber»[15]. Este saber humano, con su capacidad
de abstracción que capta la naturaleza y el sentido de las cosas, le
distingue del mundo animal[16]. La naturaleza exacta de la inteligencia ha
sido objeto de las investigaciones de filósofos, teólogos y psicólogos, los
cuales han examinado también el modo como el ser humano comprende
el mundo y forma parte de él, al tiempo que ocupa un lugar peculiar en él.
A través de esta investigación, la tradición cristiana ha llegado a entender
la persona como un ser hecho de cuerpo y alma, ambos profundamente
conectados a este mundo y, sin embargo, llegando más allá de él[17].

En la tradición clásica, el concepto de inteligencia suele declinarse en
los términos complementarios de “razón” (ratio) e “intelecto” (intellectus).
No se trata de facultades separadas, sino, como explica Santo Tomás de
Aquino, de dos modos de obrar de la misma inteligencia: «el término
intelecto se deduce de la íntima penetración de la verdad; mientras razón
deriva de la investigación y del proceso discursivo»[18]. Esta sintética
descripción permite poner en evidencia las dos prerrogativas
fundamentales y complementarias de la inteligencia humana: el intellectus
se refiere a la intuición de la verdad, es decir, al captarla con los “ojos” de
la mente, que precede y sustenta la misma argumentación, mientras la
ratio se refiere al razonamiento real, es decir, al proceso discursivo y
analítico que conduce al juicio. Juntos, intelecto y razón, constituyen las
dos caras del único acto del intelligere, «operación del hombre en cuanto
hombre»[19].

Presentar al ser humano como ser “racional” no significa reducirlo a un
modo específico de pensamiento, sino reconocer que la capacidad de
comprensión intelectual de la realidad conforma e impregna todas sus
actividades[20], constituyendo también, ejercitada en el bien o en el mal,
un aspecto intrínseco de la naturaleza humana. En este sentido, la
«palabra “racional” engloba todas las capacidades del ser humano: tanto
la cognitiva como la volitiva, amar, elegir, desear. El término “racional”
incluye también todas las capacidades corporales íntimamente
relacionadas con las anteriores»[21]. Una perspectiva tan amplia pone de
relieve cómo en la persona humana, creada a “imagen de Dios”, la
racionalidad se integra para elevar, modelar y transformar tanto su
voluntad como sus actos[22].

Encarnación

El pensamiento cristiano considera las facultades intelectuales en el
marco de una antropología integral que concibe el ser humano como un
ser esencialmente encarnado. En la persona humana, espíritu y materia
«no son dos naturalezas unidas, sino que su unión constituye una única
naturaleza»[23]. En otras palabras, el alma no es la “parte” inmaterial de
la persona encerrada en el cuerpo, así como este no es la envoltura
exterior de un “núcleo” sutil e intangible, sino que es todo el ser humano
el que es, al mismo tiempo, material y espiritual. Este modo de pensar
refleja la enseñanza de la Sagrada Escritura, que considera la persona
humana como un ser que vive sus relaciones con Dios y con los otros, de
ahí su dimensión típicamente espiritual, dentro y a través de esta
existencia corpórea[24]. El significado profundo de esta condición recibe
más luz del misterio de la Encarnación, por el que Dios mismo asumió
nuestra carne que «ha sido elevada también en nosotros a dignidad sin
igual»[25].

Aunque profundamente arraigada en una existencia corpórea, la
persona humana trasciende el mundo material a través de su alma, que
«es como si estuviera en el horizonte de la eternidad y el tiempo»[26]. A
ella pertenecen la capacidad de trascendencia del intelecto y la auto
posesión del libre albedrío, por lo que el ser humano «participa de la luz
de la inteligencia divina»[27]. A pesar de ello, el espíritu humano no pone
en práctica su modo normal de conocimiento sin el cuerpo[28]. De este
modo, las capacidades intelectuales del ser humano forman parte
integrante de una antropología que reconoce que él es «unidad de alma y
cuerpo»[29]. A continuación, se desarrollarán otros aspectos de esta
visión.

Relacionalidad

Los seres humanos «por su propia naturaleza están ordenados a la
comunión interpersonal»[30], teniendo la capacidad de conocerse
recíprocamente, de donarse por amor y de entrar en comunión con los
otros. Por tanto, la inteligencia humana no es una facultad aislada, al
contrario, se ejercita en las relaciones, encontrando su plena expresión en
el dialogo, en la colaboración y en la solidaridad. Aprendemos con los
otros, aprendemos gracias a los otros.

La orientación relacional de la persona humana se fundamenta en
última instancia, en la donación eterna de sí mismo del Dios Uno y Trino,
cuyo amor se revela tanto en la creación como en la redención[31]. La
persona está llamada «a participar, por el conocimiento y el amor, en la
vida de Dios»[32].

Esta vocación a la comunión con Dios va necesariamente unida a una
llamada a la comunión con los otros. El amor a Dios no puede separarse
del amor al prójimo (cf. 1Jn 4,20; Mt 22,37-39). En virtud de la gracia de
participar de la vida de Dios, los cristianos llegan a ser imitadores del don
desbordante de Cristo (cf. 2Cor 9,8-11; Ef 5,1-2) siguiendo su
mandamiento: «que os améis unos a otros; como yo os he amado, amaos
también unos a otros» (Jn 13,34)[33]. El amor y el servicio, que se hacen
eco de la íntima vida divina de auto-donación, trascienden el interés
propio para responder más plenamente a la vocación humana (cf. 1Jn
2,9). Aún más sublime que saber tantas cosas es el compromiso de
cuidarnos los unos a los otros: «conociera todos los secretos y todo el
saber […] pero no tengo amor, no sería nada» (1Cor 13, 2).

Relación con la Verdad

La inteligencia humana es, en definitiva, un «don de Dios otorgado
para captar la verdad»[34]. En la doble acepción de intellectus-ratio,
permite a la persona acceder a aquellas realidades que van más allá de la
mera experiencia sensorial o de la utilidad, ya que «el deseo de verdad
pertenece a la naturaleza misma del hombre. El interrogarse sobre el
porqué de las cosas es inherente a su razón»[35]. Yendo más allá de los
datos empíricos, la inteligencia humana «tiene capacidad para alcanzar la
realidad inteligible con verdadera certeza»[36]. Incluso cuando la realidad
se conozca sólo parcialmente, «el deseo de la verdad mueve […] a la
razón a ir siempre más allá; queda incluso como abrumada al constatar
que su capacidad es siempre mayor que lo que alcanza»[37]. Aunque la
Verdad en sí misma excede los límites del intelecto humano, éste se siente
sin embargo irresistiblemente atraído hacia ella[38] e impulsado por esta
atracción, el ser humano se ve llevado a buscar «una verdad más
profunda»[39].

Esta tensión innata a la búsqueda de la verdad se manifiesta de una
manera especial en las capacidades típicamente humanas de
comprensión semántica y de producción creativa[40], a través de las
cuales esta búsqueda se desarrolla «de modo apropiado a la dignidad de
la persona humana y a su naturaleza social»[41]. Asimismo, una
orientación estable hacia la verdad es esencial para que la caridad sea
auténtica y universal[42].

La búsqueda de la verdad alcanza su máxima expresión en la apertura
a aquellas realidades que trascienden el mundo físico y creado. En Dios
todas las verdades obtienen su sentido más elevado y original[43].
Confiar en Dios es «un momento de elección fundamental, en la cual está
implicada toda la persona»[44]. De este modo, la persona se convierte en
plenitud en aquello que está llamada a ser: «inteligencia y voluntad
desarrollan al máximo su naturaleza espiritual para permitir que el sujeto
cumpla un acto en el cual la libertad personal se vive de modo
pleno»[45].

Custodia del mundo

La fe cristiana considera la creación un acto libre del Dios Uno y Trino,
el cual, como explica san Buenaventura, crea «no para hacer crecer la
propia gloria, sino para manifestarla y para comunicarla»[46]. Puesto que
Dios crea según su Sabiduría (cf. Sab 9,9; Jer 10,12), el mundo creado
esta empapado de un orden intrínseco que refleja su diseño (cf. Gen 1; Dn
2,21-22; Is 45,18; Sal 74,12-17; 104)[47], dentro del cual Él ha llamado a
los seres humanos a asumir un papel peculiar: cultivar y hacerse cargo del
mundo[48].

Plasmado por el divino Artesano, el ser humano vive su identidad de
ser una imagen de Dios «custodiando» y «cultivando» (cf. Gen 2,15) la
creación, ejercitando su inteligencia y su pericia para ayudarla y
desarrollarla según el plan del Padre[49]. En esto, la inteligencia humana
refleja la Inteligencia divina que creó todas las cosas (cf. Gen 1-2; Jn 1)
[50], continuamente la sostiene y la guía a su fin último en Él[51]. Además,
el ser humano está llamado a desarrollar sus capacidades en ciencia y en
técnica porque en ellas Dios es glorificado (cf. Sir 38,6). Por lo tanto, en
una relación adecuada con la creación, por un lado, los seres humanos
emplean su inteligencia y habilidad para cooperar con Dios en guiar la
creación hacia el propósito al que Él la ha llamado[52], mientras que, por
otra parte, el mismo mundo, como observa san Buenaventura, ayuda a la
mente humana a «ascender gradualmente, como por los distintos
escalones de una escalera, hasta el sumo principio que es Dios»[53].

Una comprensión integral de la inteligencia humana

En este contexto, la inteligencia humana se muestra más claramente
como una facultad que es parte integrante del modo en el que toda la
persona se involucra en la realidad. Un auténtico involucrarse implica
abarcar la totalidad del ser: espiritual, cognitivo, corporal y relacional.

Este interés al afrontar la realidad se manifiesta de varios modos, en
cuanto que cada persona, en su unicidad multiforme[54], busca
comprender el mundo, se relaciona con los otros, resuelve problemas,
expresa su creatividad y busca el bienestar integral a través de la sinergia
de las diferentes dimensiones de la inteligencia[55]. Esto implica
capacidades lógicas y lingüísticas, pero también puede incluir otras
formas de interactuar con la realidad. Pensemos en el trabajo del
artesano, que «debe ser capaz de discernir en la materia inerte una forma
particular que los demás no pueden reconocer»[56] y sacarla a la luz a
través de su intuición y experiencia. Los pueblos indígenas, que viven
cerca de la tierra, suelen tener un profundo sentido de la naturaleza y sus
ciclos[57]. Del mismo modo, el amigo que sabe encontrar la palabra
adecuada o la persona que sabe gestionar bien las relaciones humanas
ejemplifican una inteligencia que es «producto de la reflexión, del diálogo
y del encuentro generoso entre las personas»[58]. Como observa el Papa
Francisco, «en el tiempo de la inteligencia artificial no podemos olvidar
que para salvar lo humano hacen falta la poesía y el amor»[59].

En el corazón de la visión cristiana de la inteligencia está la integración
de la verdad en la vida moral y espiritual de la persona, orientando sus
acciones a la luz de la bondad y la verdad de Dios. Según el plan de Dios,
la inteligencia entendida en sentido pleno incluye también la posibilidad
de gustar de aquello que es verdadero, bueno y bello, por lo que se puede
afirmar, con la palabras del poeta francés del siglo XX Paul Claudel, que
«la inteligencia es nada sin deleite»[60]. Incluso Dante Alighieri, cuando
alcanza el cielo más alto en el Paraíso, puede atestiguar que el culmen de
este placer intelectual se encuentra en la «luz intelectual, plena de amor; /
amor de verdadero bien, lleno de dicha; / dicha que trasciende toda
dulzura»[61].

Una correcta concepción de la inteligencia humana, por tanto, no
puede reducirse a la mera adquisición de hechos o a la capacidad de
realizar determinadas tareas específicas; sino que implica la apertura de la
persona a las cuestiones ultimas de la vida y refleja una orientación hacia
lo Verdadero y lo Bueno[62]. Expresión en la persona de la imagen divina,
la inteligencia es capaz de acceder a la totalidad del ser, es decir, de
considerar la existencia en su integridad que no se agota en lo
mensurable, captando así el sentido de lo que ha llegado a comprender.
Para los creyentes, esta capacidad implica, de manera especial, la
posibilidad de crecer en el conocimiento de los misterios de Dios a través
de la profundización racional de las verdades reveladas (intellectus fidei)
[63]. La verdadera intelligentia está moldeada por el amor divino, que «ha
sido derramado en nuestros corazones por el Espíritu Santo» (Rm 5,5). De
esto se deduce que la inteligencia humana posee una dimensión
contemplativa esencial, es decir, una apertura desinteresada a lo que es
Verdadero, Bueno y Bello, más allá de cualquier utilidad particular.

Límites de la IA

A la luz de cuanto se ha dicho, las diferencias entre la inteligencia
humana y los actuales sistemas de IA parecen evidentes. Si bien, se trata
de una extraordinaria conquista tecnológica capaz de imitar algunas
acciones asociadas a la racionalidad, la IA obra solamente realizando
tareas, alcanzando objetivos o tomando decisiones basadas sobre datos
cuantitativos y sobre la lógica computacional. Con su potencia analítica,
por ejemplo, destaca en la integración de datos procedentes de diversos
campos, en la construcción de sistemas complejos y el fomento de
vínculos interdisciplinarios. De este modo, podría facilitar la colaboración
entre expertos para resolver problemas cuya complejidad es tal que «no
se pueden abordar desde una sola mirada o desde un solo tipo de
intereses»[64].

Sin embargo, aunque la IA procesa y simula ciertas expresiones de la
inteligencia, permanece fundamentalmente confinada en un ámbito
lógico-matemático, que le impone ciertas limitaciones inherentes.
Mientras que la inteligencia humana se desarrolla continuamente de forma
orgánica en el transcurso del crecimiento físico y psicológico de una
persona y es moldeada por una miríada de experiencias vividas en el
cuerpo, la IA carece de la capacidad de evolucionar en este sentido.
Aunque los sistemas avanzados pueden “aprender” mediante procesos
como el aprendizaje automático, este tipo de formación es esencialmente
diferente del desarrollo de crecimiento de la inteligencia humana, ya que
está moldeada por sus experiencias corporales: estímulos sensoriales,
respuestas emocionales, interacciones sociales y el contexto único que
caracteriza cada momento. Estos elementos configuran y modelan el
individuo en su propia historia personal. En cambio, la IA, al carecer de
cuerpo físico, se basa en el razonamiento computacional y el aprendizaje
a partir de vastos conjuntos de datos que comprenden experiencias y
conocimientos recogidos, en cualquier caso, por los seres humanos.

Por consiguiente, aunque la IA puede simular algunos aspectos del
razonamiento humano y realizar ciertas tareas con increíble rapidez y
eficacia, sus capacidades computacionales representan sólo una fracción
de las posibilidades más amplias de la mente humana. Por ejemplo,
actualmente no puede reproducir el discernimiento moral ni la capacidad
de establecer relaciones auténticas. Además, la inteligencia de una
persona forma parte de una historia personal de formación intelectual y
moral, que configura fundamentalmente la perspectiva de la persona
individual, implicando las dimensiones físicas, emocionales, sociales,
morales y espirituales de su vida. Dado que la IA no puede ofrecer esta
amplitud de comprensión, los enfoques basados únicamente en esta
tecnología, o que la asumen como la principal forma de interpretar el
mundo, pueden conducir a «perder el sentido de la totalidad, de las
relaciones que existen entre las cosas, del horizonte amplio»[65].

La inteligencia humana no consiste, principalmente, en realizar tareas
funcionales, sino en comprender e implicarse activamente en la realidad
en todos sus aspectos, y también es capaz de sorprendentes intuiciones.
Dado que la IA no posee la riqueza de la corporeidad, la relacionalidad y la
apertura del corazón humano a la verdad y al bien, sus capacidades,
aunque parezcan infinitas, son incomparables con las capacidades
humanas de captar la realidad. Se puede aprender tanto de una
enfermedad, como de un abrazo de reconciliación e incluso de una simple
puesta de sol. Tantas cosas que experimentamos como seres humanos
nos abren nuevos horizontes y nos ofrecen la posibilidad de alcanzar una
nueva sabiduría. Ningún dispositivo, que sólo funciona con datos, puede
estar a la altura de estas y otras tantas experiencias presentes en
nuestras vidas.

Establecer una equivalencia demasiado fuerte entre la inteligencia
humana y la IA conlleva el riesgo de sucumbir a una visión funcionalista,
según la cual las personas son evaluadas en función de las tareas que
pueden realizar. Sin embargo, el valor de una persona no depende de la
posesión de capacidades singulares, logros cognitivos y tecnológicos o
éxito individual, sino de su dignidad intrínseca basada en haber sido
creada a imagen de Dios[66]. Por lo tanto, dicha dignidad permanece
intacta más allá de toda circunstancia, incluso en aquellos que son
incapaces de ejercer sus capacidades, ya sea un feto, una persona en
estado de inconsciencia o un anciano que sufre[67]. Ella está en la base
de la tradición de los derechos humanos – y específicamente de aquellos
que hoy son denominados los “neuroderechos” – que «constituyen un
punto de convergencia importante para la búsqueda de un terreno
común»[68] y que, por tanto, puede servir de guía ética fundamental en
los debates sobre el desarrollo y el uso responsables de la IA.

A la luz de esto, como observa el Papa Francisco, «el uso mismo de la
palabra “inteligencia”» en referencia a la IA «es engañoso»[69] y corre el
riesgo de descuidar lo más valioso de la persona humana. Desde esta
perspectiva, la IA no debe verse como una forma artificial de la
inteligencia, sino como uno de sus productos[70].

IV. El papel de la ética para guiar el desarrollo y el uso de la IA

Partiendo de estas consideraciones, cabe preguntarse cómo puede
entenderse la IA dentro del designio de Dios. La actividad técnico-
científica no tiene un carácter neutro, siendo una empresa humana que
pone en cuestión las dimensiones humanísticas y culturales del ingenio
humano[71].

Vista como fruto de las potencialidades inscritas en la inteligencia
humana[72], la investigación científica y el desarrollo de habilidades
técnicas forman parte de la «colaboración del hombre y de la mujer con
Dios en el perfeccionamiento de la creación visible»[73]. Al mismo
tiempo, todos los logros científicos y tecnológicos son, en última
instancia, dones de Dios[74]. Por lo tanto, los seres humanos deben
emplear siempre sus talentos con vistas al fin superior para el que Él se
los ha concedido[75].

Podemos reconocer con gratitud como la tecnología ha «remediado
innumerables males que dañaban y limitaban al ser humano»[76], y no
podemos sino alegrarnos de ello. Sin embargo, no todas las innovaciones
tecnológicas representan en sí mismas un auténtico progreso[77]. Por
ello, la Iglesia se opone especialmente a aquellas aplicaciones que atentan
contra la santidad de la vida o la dignidad de la persona[78]. Como
cualquier otra empresa humana, el desarrollo tecnológico debe estar al
servicio del individuo y contribuir a los esfuerzos para lograr «más justicia,
mayor fraternidad y un más humano planteamiento en los problemas
sociales», que «vale más que los progresos técnicos»[79]. La
preocupación por las implicaciones éticas del desarrollo tecnológico es
compartida no sólo en el seno de la Iglesia, sino también por científicos,
estudiosos de la tecnología y asociaciones profesionales, que reclaman
cada vez más una reflexión ética para orientar ese progreso de manera
responsable.

Para responder a estos desafíos, hay que llamar la atención sobre la
importancia de la responsabilidad moral basada en la dignidad y la
vocación de la persona. Este principio es válido también para las
cuestiones relativas a la IA. En este ámbito, la dimensión ética es
primordial, ya que son las personas las que diseñan los sistemas y
determinan para qué se utilizan[80]. Entre una máquina y un ser humano,
sólo este último es verdaderamente un agente moral, es decir, un sujeto
moralmente responsable que ejerce su libertad en sus decisiones y
acepta las consecuencias de las mismas[81]; sólo el ser humano está en
relación con la verdad y el bien, guiado por la conciencia moral que le
llama a «amar y practicar el bien y que debe evitar el mal»[82],
certificando «la autoridad de la verdad con referencia al Bien supremo por
el cual la persona humana se siente atraída»[83]; sólo el ser humano
puede ser lo suficientemente consciente de sí mismo como para escuchar
y seguir la voz de la conciencia, discerniendo con prudencia y buscando
el bien posible en cada situación[84]. En realidad, esto también pertenece
al ejercicio de la inteligencia por parte de la persona.

Como cualquier producto del ingenio humano, la IA también puede
orientarse hacia fines positivos o negativos[85]. Cuando se utiliza de
manera que respete la dignidad humana y promueva el bienestar de los
individuos y las comunidades, puede contribuir favorablemente a la
vocación humana. Sin embargo, como en todas las esferas en las que los
seres humanos están llamados a tomar decisiones, la sombra del mal
también se extiende aquí. Allí donde la libertad humana permite la
posibilidad de elegir lo que es malo, la valoración moral de esta tecnología
depende de cómo sea orientada y empleada.

Ahora bien, no son sólo los fines, sino también los medios empleados
para alcanzarlos los que son éticamente significativos; también son
importantes la visión global y la comprensión de la persona integrada en
tales sistemas. Los productos tecnológicos reflejan la visión del mundo de
sus creadores, propietarios, usuarios y reguladores[86], y con su poder
«modelan el mundo y comprometen a las conciencias en el ámbito de los
valores»[87]. A nivel social, algunos avances tecnológicos también
podrían reforzar relaciones y dinámicas de poder que no se ajustan a una
visión correcta de la persona y la sociedad.

Por eso, tanto los fines como los medios utilizados en una
determinada aplicación de la IA, así como la visión global que encarna,
deben evaluarse para garantizar que respetan la dignidad humana y
promueven el bien común[88]. De hecho, como ha dicho el Papa
Francisco, la «dignidad intrínseca de todo hombre y mujer» debe ser «el
criterio clave para evaluar las tecnologías emergentes, que revelan su
positividad ética en la medida en que contribuyen a manifestar esa
dignidad y a incrementar su expresión, en todos los niveles de la vida
humana»[89], incluida la esfera social y económica. En este sentido, la
inteligencia humana desempeña un papel crucial no solo en el diseño y en
la producción de la tecnología, sino también a la hora de orientar su uso
en función del bien auténtico de la persona[90]. La responsabilidad de
ejercer sabiamente esta gestión corresponde a cada nivel de la sociedad,
bajo la guía del principio de subsidiariedad y de los demás principios de la
Doctrina Social de la Iglesia.

Una ayuda a la libertad humana y a las decisiones

El compromiso de garantizar que la IA defienda y promueva siempre el
valor supremo de la dignidad de todo ser humano y la plenitud de su
vocación es un criterio de discernimiento que afecta a desarrolladores,
propietarios, operadores y reguladores, así como a los usuarios finales, y
sigue siendo válido para cualquier empleo de la tecnología en todos los
niveles de su uso.

Un análisis de las implicaciones de este principio, por tanto, podría
comenzar tomando en consideración la importancia de la responsabilidad
moral. Dado que una causalidad moral en sentido pleno sólo pertenece a
los agentes personales, no a los artificiales, es de suma importancia poder
identificar y definir quién es responsable de los procesos de IA, en
particular de aquellos que incluyen posibilidades de aprendizaje,
corrección y reprogramación. Si bien, por un lado, los métodos empíricos
(bottom-up) y las redes neuronales muy profundas permiten a la IA
resolver problemas complejos, por otro lado, dificultan la comprensión de
los procesos que condujeron a tales soluciones. Esto complica la
determinación de responsabilidades ya que, si una aplicación de IA
produjera resultados no deseados, sería difícil determinar a qué persona
atribuirlos. Para resolver este problema, hay que prestar atención a la
naturaleza de los procesos de atribución de responsabilidad
(accountability) en contextos complejos y altamente automatizados, en
los que los resultados a menudo sólo son observables a medio o largo
plazo. Por lo tanto, es importante que quienes tomen decisiones
basándose en la IA se hagan responsables de ellas y que sea posible dar
cuenta del uso de la IA en cada fase del proceso de toma de
decisiones[91].

Además de determinar las responsabilidades, se deben establecer los
fines que se asignan a los sistemas de IA. Aunque estos puedan utilizar
mecanismos de aprendizaje autónomo no supervisado y a veces seguir
caminos que no pueden reconstruirse, en última instancia persiguen
objetivos que les han sido asignados por los humanos y se rigen por
procesos establecidos por quienes los diseñaron y programaron. Esto
representa un desafío, ya que, a medida que los modelos de IA son cada
vez más capaces de aprendizaje independiente, puede reducirse de
hecho la posibilidad de ejercer un control sobre ellos para garantizar que
dichas aplicaciones estén al servicio de los fines humanos. Esto plantea el
problema crítico de cómo garantizar que los sistemas de IA se ordenen
para el bien de las personas y no contra ellas.

Si un uso ético de los sistemas de IA cuestiona, en primer lugar, a
quienes los desarrollan, producen, gestionan y supervisan, también es
compartida esta responsabilidad por los usuarios. En efecto, como
observa el Papa Francisco, «lo que hace la máquina es una elección
técnica entre varias posibilidades y se basa en criterios bien definidos o
en inferencias estadísticas. El ser humano, en cambio, no sólo elige, sino
que en su corazón es capaz de decidir»[92]. Quien utiliza la IA para
realizar un trabajo y sigue los resultados crea un contexto en el que él, en
última instancia, es responsable del poder que ha delegado. Por lo tanto,
en la medida en que la IA puede asistir a los seres humanos a tomar
decisiones, los algoritmos que la guían deben ser fiables, seguros, lo
suficientemente robustos como para manejar inconsistencias y
transparentes en su funcionamiento para mitigar sesgos (bias) y efectos
secundarios indeseados[93]. Los marcos normativos deben garantizar
que todas las personas jurídicas puedan dar cuenta del uso de la IA y de
todas sus consecuencias, con medidas adecuadas para salvaguardar la
transparencia, la privacidad y la responsabilidad (accountability)[94].
Además, los usuarios deben tener cuidado de no depender
excesivamente de la IA para sus decisiones, aumentando el ya alto grado
de subordinación a la tecnología que caracteriza a la sociedad
contemporánea.

La enseñanza moral y social de la Iglesia ayuda a proponer un uso de
la IA que preserve la capacidad humana de acción. Las consideraciones
relacionadas con la justicia, por ejemplo, deben abordar cuestiones como
el fomento de dinámicas sociales justas, la defensa de la seguridad
internacional y la promoción de la paz. Ejerciendo la prudencia, los
individuos y las comunidades pueden discernir cómo utilizar la IA en
beneficio de la humanidad, evitando al mismo tiempo aplicaciones que
puedan menoscabar la dignidad humana o dañar el planeta. En este
contexto, el concepto de “responsabilidad” debe entenderse no sólo en
su sentido más estricto, sino «hacerse cargo del otro, y no solo […] dar
cuenta de aquello que se ha hecho»[95].

Por lo tanto, la IA, como cualquier tecnología, puede formar parte de
una respuesta consciente y responsable a la vocación de la humanidad al
bien. Sin embargo, como ya se ha dicho, debe ser dirigida por la
inteligencia humana para alinearse con esa vocación, garantizando el
respeto a la dignidad de la persona. Reconociendo esta «eminente
dignidad», el Concilio Vaticano II afirma que «el orden social […] y su
progresivo desarrollo deben en todo momento subordinarse al bien de la
persona»[96]. A la luz de esto, el uso de la IA, como ha dicho el Papa
Francisco, debe venir acompañado «de una ética basada en una visión
del bien común, una ética de libertad, responsabilidad y fraternidad,
capaz de favorecer el pleno desarrollo de las personas en relación con los
demás y con la creación»[97].

V. Cuestiones específicas

Dentro de esta perspectiva general, a continuación, algunas
observaciones ilustrarán cómo los argumentos expuestos pueden
contribuir a orientar en situaciones concretas, de acuerdo con la
«sabiduría del corazón» propuesta por Papa Francisco[98]. Aun no
siendo exhaustiva, esta propuesta se ofrece al servicio de un diálogo que
busca identificar aquellas modalidades en las que la IA puede defender la
dignidad humana y promover el bien común[99].

La IA y la sociedad

Como ha dicho el Papa Francisco «la dignidad intrínseca de cada
persona y la fraternidad que nos vincula como miembros de una única
familia humana, deben estar en la base del desarrollo de las nuevas
tecnologías y servir como criterios indiscutibles para valorarlas antes de
su uso»[100].

Considerada en esta óptica, la IA podría «introducir importantes
innovaciones en la agricultura, la educación y la cultura, un mejoramiento
del nivel de vida de enteras naciones y pueblos, el crecimiento de la
fraternidad humana y de la amistad social», y por tanto ser «utilizada para
promover el desarrollo humano integral»[101]. También podría ayudar a
las organizaciones a identificar a las personas que se encuentran en
estado de necesidad y a contrarrestar los casos de discriminación y
marginación. De ésta y otras formas similares, la IA podría contribuir al
desarrollo humano y al bien común[102].

Sin embargo, aunque la IA encierra muchas posibilidades para el bien,
también puede obstaculizar o incluso oponerse al desarrollo humano y al
bien común. El Papa Francisco ha observado que «los datos disponibles
hasta ahora parezcan sugerir que las tecnologías digitales han servido
para aumentar las desigualdades en el mundo. No sólo las diferencias de
riqueza material, que son importantes, sino también las diferencias de
acceso a la influencia política y social»[103]. En este sentido, la IA podría
usarse para prolongar las situaciones de marginación y discriminación,
para crear nuevas formas de pobreza, para agrandar la “brecha digital” y
agravar las desigualdades sociales[104].

Además, el hecho de que, actualmente, la mayor parte del poder
sobre las principales aplicaciones de la IA esté concentrado en manos de
unas pocas y poderosas empresas plantea importantes problemas éticos.
Para agravar este problema está también la naturaleza inherente de los
sistemas de IA, en los que ningún individuo puede tener una supervisión
completa de los vastos y complejos conjuntos de datos utilizados para el
cálculo. Esta falta de una responsabilidad (accountability) bien definida
produce el riesgo que la IA pueda ser manipulada para ganancias
personales o empresariales, o para orientar la opinión pública hacia los
intereses de un sector. Tales entidades, motivadas por sus propios
intereses, poseen la capacidad de ejercer «formas de control tan sutiles
como invasivas, creando mecanismos de manipulación de las conciencias
y del proceso democrático»[105].

Además de esto, existe el riesgo de que la IA se utilice para promover
lo que el Papa Francisco ha llamado «paradigma tecnocrático», que
tiende a resolver todos los problemas del mundo sólo con medios
tecnológicos[106]. Según este paradigma, la dignidad humana y la
fraternidad, a menudo, se dejan de lado en nombre de la eficacia, «como
si la realidad, el bien y la verdad brotaran espontáneamente del mismo
poder tecnológico y económico»[107]. Por el contrario, la dignidad
humana y el bien común nunca deben abandonarse en nombre de la
eficacia[108], mediante «los desarrollos tecnológicos que no llevan a una
mejora de la calidad de vida de toda la humanidad, sino que, por el
contrario, agravan las desigualdades y los conflictos, no podrán ser
considerados un verdadero progreso»[109]. Más bien, la IA debe ponerse
«al servicio de otro tipo de progreso más sano, más humano, más social,
más integral»[110].

Para alcanzar este objetivo es necesaria una reflexión más profunda
sobre la relación entre autonomía y responsabilidad, ya que una mayor
autonomía conlleva una mayor responsabilidad de cada persona en los
diversos aspectos de la vida en común. Para los cristianos, el fundamento
de esta responsabilidad es el reconocimiento de que toda capacidad
humana, incluida la autonomía de la persona, procede de Dios y está
destinada a ser puesta al servicio de los demás[111]. Por lo tanto, en lugar
de perseguir únicamente objetivos económicos o tecnológicos, la IA debe
utilizarse en favor del «bien común de toda la familia humana», es decir
del conjunto «de condiciones de la vida social que hacen posible a las
asociaciones y a cada uno de sus miembros el logro más pleno y más fácil
de la propia perfección»[112].

La IA y las relaciones humanas

El Concilio Vaticano II afirma que el ser humano es por «su íntima
naturaleza, un ser social, y no puede vivir ni desplegar sus cualidades sin
relacionarse con los demás»[113]. Esta convicción subraya que la vida en
sociedad pertenece a la naturaleza y a la vocación de la persona[114].
Como seres sociales, los seres humanos buscan relaciones que impliquen
el intercambio recíproco y la búsqueda de la verdad, «unos exponen a
otros la verdad que han encontrado o creen haber encontrado, para
ayudarse mutuamente en la búsqueda de la verdad»[115].

Esta búsqueda, junto con otros aspectos de la comunicación humana,
presupone el encuentro y intercambio mutuo entre personas que llevan
dentro la impronta de las propias historias, de los propios pensamientos,
convicciones y relaciones. Tampoco podemos olvidar que la inteligencia
humana es una realidad múltiple, plural y compleja: individual y social;
racional y afectiva; conceptual y simbólica. El Papa Francisco pone en
evidencia esta dinámica, señalando como «podemos buscar juntos la
verdad en el diálogo, en la conversación reposada o en la discusión
apasionada. Es un camino perseverante, hecho también de silencios y de
sufrimientos, capaz de recoger con paciencia la larga experiencia de las
personas y de los pueblos. […] El problema es que un camino de
fraternidad, local y universal, sólo puede ser recorrido por espíritus libres
y dispuestos a encuentros reales»[116].

Es en este contexto, donde se pueden considerar los desafíos puestos
por la IA a las relaciones. Al igual que otros medios tecnológicos, la IA
tiene la capacidad de favorecer las conexiones dentro de la familia
humana. Sin embargo, la IA también podría obstaculizar un verdadero
encuentro con la realidad y, en definitiva, llevar a las personas a «una
profunda y melancólica insatisfacción en las relaciones interpersonales, o
un dañino aislamiento»[117]. Las auténticas relaciones humanas, por el
contrario, requieren la riqueza humana de saber estar con los demás,
compartiendo su dolor, sus exigencias y su alegría[118]. Dado que la
inteligencia humana también se expresa y enriquece a través de formas
interpersonales y encarnadas, los encuentros auténticos y espontáneos
con los demás son indispensables para comprometerse con la realidad en
su totalidad.

Porque «la verdadera sabiduría supone el encuentro con la
realidad»[119], los progresos de la IA lanzan un desafío posterior: dado
que es capaz de imitar con eficacia los trabajos de la inteligencia humana,
ya no se puede dar por sentado si se está interactuando con un ser
humano o con una máquina. Aunque la IA “generativa” es capaz de
producir texto, voz, imágenes y otros output avanzados que suelen ser
obra de seres humanos, hay que considerarla como lo que es: una
herramienta, no una persona[120]. Esta distinción se ve a menudo
oscurecida por el lenguaje utilizado por los profesionales, que tiende a
antropomorfizar la IA y difumina así la línea que separa lo humano de lo
artificial.

La antropomorfización de la IA plantea problemas particulares para el
crecimiento de los niños, que pueden sentirse alentados a desarrollar
patrones de interacción que entiendan las relaciones humanas de forma
utilitaria, como es el caso de los chatbots. Tales enfoques corren el riesgo
de inducir a los más jóvenes a percibir a los profesores como
dispensadores de información y no como maestros que les guían y
apoyan en su crecimiento intelectual y moral. Las relaciones auténticas,
arraigadas en la empatía y en un compromiso leal con el bien del otro, son
esenciales e insustituibles para fomentar el pleno desarrollo de la persona.
Relaciones genuinas, enraizadas en la empatía y con un compromiso leal
por el bien del otro, son esenciales e insustituibles para favorecer el pleno
desarrollo de la persona.

En este contexto, es importante aclarar – aunque con frecuencia se
recurre a una terminología antropomórfica – que ninguna aplicación de la
IA es capaz de sentir de verdad empatía. Las emociones no se pueden
reducir a expresiones faciales o frases generadas en respuesta a las
peticiones del usuario; en cambio, las emociones se entienden en el modo
como una persona, en su totalidad, se relaciona con el mundo y con su
propia vida, con el cuerpo que juega un papel central. La empatía requiere
la capacidad de escuchar, de reconocer la irreductible singularidad del
otro, de acoger su alteridad y, también, de comprender el significado de
sus silencios[121]. En contraste con la esfera de los juicios analíticos,
donde predomina la IA, la verdadera empatía existe en la esfera relacional.
Pone en tela de juicio la percepción y la apropiación de la experiencia del
otro, al tiempo que mantiene la distinción de cada individuo[122]. Aunque
la IA puede simular respuestas empáticas, los sistemas artificiales no
pueden reproducir la naturaleza personal y relacional de la empatía
genuina[123].

Por lo tanto, siempre se debería evitar representar, en modo
equivocado, a la IA como una persona, y hacerlo con fines fraudulentos
constituye una grave violación ética que podría erosionar la confianza
social. Del mismo modo, utilizar la IA para engañar en otros contextos –
como la educación o las relaciones humanas, incluida la esfera de la
sexualidad –debe considerarse inmoral y requiere una cuidadosa
vigilancia para prevenir posibles daños, mantener la transparencia y
garantizar la dignidad de todos[124].

En un mundo siempre más individualista, algunos recurren a la IA en
busca de relaciones humanas profundas, de simple compañía o incluso de
relaciones afectivas. Sin embargo, aun reconociendo que los seres
humanos están hechos para experimentar relaciones auténticas, hay que
reiterar que la IA solo puede simularlas. Estas relaciones con otros seres
humanos son parte integrante del modo como una persona humana crece
hasta convertirse en lo que está destinada a ser. Por tanto, si la IA es
usada para favorecer contactos genuinos entre las personas, puede
contribuir positivamente a la plena realización de la persona; por el
contrario, si en lugar de esas relaciones y de la vinculación con Dios se
sustituyen las relaciones por los medios tecnológicos, corremos el riesgo
de sustituir la auténtica relacionalidad por un simulacro sin vida (cf. Sal
160,20; Rm 1,22-23). En lugar de replegarnos en mundos artificiales,
estamos llamados a implicarnos de manera seria y comprometida con la
realidad, hasta el punto de identificarnos con los pobres y los que sufren,
para consolar a quien está en el dolor y crear lazos de comunión con
todos.

IA, economía y trabajo

Dada su naturaleza transversal, la IA también encuentra una creciente
aplicación en los sistemas económico-financieros. En la actualidad, las
mayores inversiones m se observan, además de en el sector tecnológico,
en los de la energía, las finanzas y los medios de comunicación, con
especial referencia a las áreas de marketing y ventas, logística, innovación
tecnológica, compliance y gestión de riesgos. De la aplicación en estos
ámbitos emerge la naturaleza ambivalente de la IA, como fuente de
enormes oportunidades pero también de profundos riesgos. Una primera
crítica real se deriva de la posibilidad de que, debido a la concentración de
la oferta en unas pocas empresas, sean éstas las únicas que se beneficien
del valor creado por la IA y no las empresas en las que se utiliza.

Por otra parte, en el ámbito económico-financiero, hay aspectos más
generales sobre los que la IA puede producir efectos que deben evaluarse
cuidadosamente, vinculados sobre todo a la interacción entre la realidad
concreta y el mundo digital. Un primer punto a considerar se refiere a la
coexistencia de instituciones económicas y financieras que se presentan
en un contexto determinado bajo formas diferentes y alternativas. Se trata
de un factor a promover, ya que podría traer consigo beneficios en
términos de apoyo a la economía real, favoreciendo su desarrollo y
estabilidad, especialmente en tiempos de crisis. Sin embargo, hay que
subrayar que las realidades digitales, al estar libres de limitaciones
espaciales, tienden a ser más homogéneas e impersonales en
comparación con una comunidad ligada a un lugar concreto y a una
historia concreta, con una trayectoria común caracterizada por valores y
esperanzas compartidos, pero también por desacuerdos y divergencias
inevitables. Esta diversidad es un recurso innegable para la vida
económica de una comunidad. Entregar la economía y las finanzas por
completo en manos de la tecnología digital significaría reducir esta
variedad y riqueza, de modo que muchas soluciones a los problemas
económicos, accesibles a través de un diálogo natural entre las partes
implicadas, podrían dejar de ser viables en un mundo dominado por
procedimientos y proximidades sólo aparentes.

Otro ámbito en el que el impacto de la IA ya se deja sentir
profundamente es el mundo del trabajo. Como en muchos otros ámbitos,
está provocando transformaciones sustanciales en muchas profesiones
con efectos diversos. Por un lado, la IA tiene el potencial de aumentar las
competencias y la productividad, ofreciendo la posibilidad de crear
puestos de trabajo, permitiendo a los trabajadores concentrarse en tareas
más innovadoras y abriendo nuevos horizontes a la creatividad y la
inventiva.

Sin embargo, mientras la IA promete impulsar la productividad
haciéndose cargo de tareas ordinarias, a menudo los trabajadores se ven
obligados a adaptarse a la velocidad y las exigencias de las máquinas, en
lugar de que éstas últimas estén diseñadas para ayudar a quienes
trabajan. Así, contrariamente a los beneficios anunciados de la IA, los
enfoques actuales de la tecnología pueden, paradójicamente,
desespecializar a los trabajadores, someterlos a una vigilancia
automatizada y relegarlos a tareas rígidas y repetitivas. La necesidad de
seguir el ritmo de la tecnología puede erosionar el sentido de la propia
capacidad de obrar de los trabajadores y ahogar las capacidades
innovadoras que están llamados a aportar en su trabajo[125].

La IA está eliminando la necesidad de ciertas tareas que antes
realizaban los seres humanos. Si se utiliza para sustituir a los trabajadores
humanos en lugar de acompañarlos, existe «el riesgo sustancial de un
beneficio desproporcionado para unos pocos a costa del
empobrecimiento de muchos»[126]. Además, a medida que la IA se hace
más poderosa, también existe el peligro asociado de que el trabajo pierda
su valor en el sistema económico. Esta es la consecuencia lógica del
paradigma tecnocrático: el mundo de una humanidad supeditada a la
eficacia, en el que, en última instancia, hay que recortar el coste de esa
humanidad. En cambio, las vidas humanas son preciosas en sí mismas,
más allá de su rendimiento económico. El Papa Francisco constata que,
como consecuencia de este paradigma, hoy en día «no parece tener
sentido invertir para que los lentos, débiles o menos dotados puedan
abrirse camino en la vida»[127]. Y debemos concluir con él que «no
podemos permitir que una herramienta tan poderosa e indispensable
como la inteligencia artificial refuerce tal paradigma, sino que más bien
debemos hacer de la inteligencia artificial un baluarte precisamente
contra su expansión»[128].

Por esto, esta bien recordar siempre que «el orden real debe
someterse al orden personal, y no al contrario»[129]. Por lo tanto, el
trabajo humano debe estar no sólo al servicio del beneficio, sino «del
hombre, del hombre integral, teniendo en cuanta sus necesidades
materiales y sus exigencias intelectuales, morales, espirituales y
religiosas»[130]. En este contexto, la Iglesia reconoce cómo el trabajo es
«no sólo […] un modo de ganarse el pan», sino también «una dimensión
irrenunciable de la vida social» y «un cauce para el crecimiento personal,
para establecer relaciones sanas, para expresarse a sí mismo, para
compartir dones, para sentirse corresponsable en el perfeccionamiento
del mundo, y en definitiva para vivir como pueblo»[131].

Porque el trabajo es «parte del sentido de la vida en esta tierra,
camino de maduración, de desarrollo humano y de realización personal»,
«no debe buscarse que el progreso tecnológico reemplace cada vez más
el trabajo humano, con lo cual la humanidad se dañaría a sí misma»[132],
más bien, hay que esforzarse por promoverla. Desde este punto de vista,
la IA debe ayudar al juicio humano y no sustituirlo, del mismo modo que
nunca debe degradar la creatividad ni reducir a los trabajadores a meros
«engranajes de una máquina». Por tanto, «el respeto de la dignidad de los
trabajadores y la importancia de la ocupación para el bienestar económico
de las personas, las familias y las sociedades, la seguridad de los empleos
y la equidad de los salarios deberían constituir una gran prioridad para la
comunidad internacional, a medida que estas formas de tecnología se van
introduciendo cada vez más en los lugares de trabajo»[133].

La IA y la sanidad

En cuanto partícipes de la obra sanadora de Dios, los operadores
sanitarios tienen la vocación y la responsabilidad de ser «custodios y
servidores de la vida humana»[134]. Por eso, la profesión sanitaria tiene
una «intrínseca e imprescindible dimensión ética», tal y como reconoce el
Juramento Hipocrático, que exige a los médicos y profesionales sanitarios
que se comprometan a «respetar absolutamente la vida humana y su
carácter sagrado»[135]. Este compromiso, con el ejemplo del Buen
Samaritano, debe desarrollarse por hombres y mujeres «que no dejan que
se erija una sociedad de exclusión, sino que se hacen prójimos y levantan
y rehabilitan al caído, para que el bien sea común»[136].

Considerada en esta óptica, la IA parece tener un enorme potencial en
diversas aplicaciones del ámbito médico, por ejemplo, para ayudar en la
actividad diagnóstica de los profesionales sanitarios, facilitando la relación
entre pacientes y personal médico, ofreciendo nuevos tratamientos y
ampliando el acceso a una atención de calidad incluso para quienes
sufren situaciones de aislamiento o de marginalidad. De este modo, la
tecnología podría mejorar la «cercanía llena de compasión y de
ternura»[137] del personal sanitario hacia los enfermos y los que sufren.

Sin embargo, si la IA se utilizara no para mejorar, sino para sustituir por
completo la relación entre pacientes y profesionales sanitarios, dejando
que los primeros interactuasen con una máquina en lugar de con un ser
humano, se verificaría la reducción de una estructura relacional humana
muy importante en un sistema centralizado, impersonal y desigual. En
lugar de fomentar la solidaridad con los enfermos y los que sufren, estas
aplicaciones de IA correrían el riesgo de agravar la soledad que suele
acompañar a la enfermedad, sobre todo en el contexto de una cultura en
la que «no se considera ya a las personas como un valor primario que hay
que respetar y amparar»[138]. Un tal uso de estos sistemas no sería
conforme con el respeto de la dignidad de la persona y la solidaridad con
los que sufren.

La responsabilidad por el bienestar del paciente y las decisiones
relacionadas que afectan a su vida constituyen el núcleo de la profesión
sanitaria. Esta responsabilidad exige que el personal médico ejerza toda
su capacidad e inteligencia para poner en práctica decisiones ponderadas
y éticamente motivadas con respecto a las personas confiadas a su
cuidado, respetando siempre la dignidad inviolable del paciente y el
principio del consentimiento informado. En consecuencia, las decisiones
relativas al tratamiento de los pacientes y la carga de responsabilidad
asociada deben permanecer siempre en manos de las personas y nunca
delegarse en la IA[139].

Además de esto, el uso de la IA para determinar quién debe recibir
tratamiento, basándose principalmente en criterios económicos o de
eficacia, es un caso especialmente problemático de “paradigma
tecnocrático” que debe rechazarse[140]. De hecho, «optimizar los
recursos significa usarlos de manera ética y solidaria y no penalizar a los
más frágiles»[141]; por no mencionar que, en este ámbito, dichos
instrumentos están expuestos «a formas de prejuicio y discriminación.
Los errores sistémicos pueden multiplicarse fácilmente, produciendo no
sólo injusticias en casos concretos sino también, por efecto dominó,
auténticas formas de desigualdad social»[142].

Además, la integración de la IA en la atención sanitaria también
plantea el riesgo de amplificar otras desigualdades ya existentes en el
acceso a la atención. Dado que la atención sanitaria se centra cada vez
más en la prevención y en los enfoques basados en el estilo de vida,
puede darse el caso de que las soluciones impulsadas por la IA puedan
involuntariamente favorecer a las poblaciones más acomodadas, que ya
disfrutan de un mayor acceso a los recursos médicos y a una nutrición de
calidad. Esta tendencia corre el riesgo de reforzar el modelo de una
“medicina para ricos”, en la que las personas provistas de medios
económicos se benefician de instrumentos avanzados de prevención y de
información médica personalizada, mientras que a otros les cuesta
acceder incluso a los servicios básicos. Por lo tanto, se necesitan marcos
de gestión equitativos para garantizar que el uso de la IA en la atención
sanitaria no agrave las desigualdades existentes, sino que esté al servicio
del bien común.

IA y educación

Mantienen una plena actualidad las palabras del Concilio Vaticano II:
«a verdadera educación se propone la formación de la persona humana
en orden a su fin último y al bien de las varias sociedades, de las que el
hombre es miembro»[143]. De ello se deduce que la educación«no es
nunca un simple proceso de transmisión de conocimientos y de
habilidades intelectuales, sino que pretende contribuir a la formación
integral de la persona en sus diversas dimensiones (intelectual, cultural,
espiritual…) incluyendo, por ejemplo, la vida comunitaria y las relaciones
vividas en el seno de la comunidad académica»[144], en el respeto a la
naturaleza y la dignidad de la persona humana.

Este enfoque implica un compromiso a formar la mente, pero siempre
como parte del desarrollo integral de la persona: «Tenemos que romper
ese imaginario sobre la educación, según el cual educar es llenar la
cabeza de ideas. Así educamos autómatas, macrocéfalos, no personas.
Educar es arriesgarse en la tensión entre la cabeza, el corazón y las
manos»[145].

En el centro de este trabajo de formación de la persona humana
integral está la relación indispensable entre maestro y alumno. Los
profesores no se limitan a transmitir conocimientos, sino que son también
modelos de las principales cualidades humanas e inspiradores de la
alegría del descubrimiento[146]. Su presencia motiva a los alumnos tanto
por los contenidos que imparten como por la atención que muestran hacia
ellos. Este vínculo favorece la confianza, la comprensión recíproca y la
capacidad de abordar la dignidad única y el potencial de cada individuo.
En el alumno, esto puede generar un auténtico deseo de crecer. La
presencia física del maestro crea una dinámica relacional que la IA no
puede replicar, una dinámica que profundiza el compromiso y nutre el
desarrollo integral del alumno.

En este contexto, la IA presenta tanto oportunidades como desafíos.
Si se utiliza con prudencia, dentro de una auténtica relación entre maestro
y alumno y ordenada a los auténticos fines de la educación, puede
convertirse en un valioso recurso educativo, mejorando el acceso a la
educación y ofreciendo un apoyo personalizado y un feedback inmediato
por parte los alumnos. Estas ventajas podrían mejorar la experiencia de
aprendizaje, sobre todo en los casos en que sea necesaria una atención
especial individualizada o cuando los recursos educativos sean escasos.

Por otra parte, una tarea esencial de la educación es formar «el
intelecto para razonar bien en todos las materias, para proyectarse hacia
la verdad y aferrarla»[147], ayudando al «lenguaje de la cabeza» a crecer
en armonía con el «lenguaje del corazón» y el «lenguaje de las
manos»[148]. Esto es aún más vital en una época marcada por la
tecnología, en la que «no se trata solamente de “usar” instrumentos de
comunicación, sino de vivir en una cultura ampliamente digitalizada, que
afecta de modo muy profundo la noción de tiempo y de espacio, la
percepción de uno mismo, de los demás y del mundo, el modo de
comunicar, de aprender, de informarse, de entrar en relación con los
demás»[149]. Sin embargo, en lugar de promover «un intelecto culto»
que «lleva consigo poder y gracia en cada trabajo y ocupación que
emprende»[150], el uso extensivo de la IA en la educación podría
provocar una creciente dependencia de los estudiantes con respecto a la
tecnología, lo que bloquearía su capacidad para realizar determinadas
actividades de forma autónoma y agravaría su dependencia de las
pantallas[151].

Además, mientras que algunos sistemas de IA han sido pensados
específicamente para ayudar a las personas a desarrollar sus propias
capacidades de pensamiento crítico y de resolución de problemas,
muchos otros programas se limitan a proporcionar respuestas en lugar de
incitar a los estudiantes a encontrarlas por sí mismos o a escribir textos
por sí mismos[152]. En lugar de entrenar a los jóvenes para acumular
información y dar respuestas rápidas, la educación debería «promover
libertades responsables, que opten en las encrucijadas con sentido e
inteligencia»[153]. A partir de esto, «la educación en el uso de formas de
inteligencia artificial debería centrarse sobre todo en promover el
pensamiento crítico. Es necesario que los usuarios de todas las edades,
pero sobre todo los jóvenes, desarrollen una capacidad de discernimiento
en el uso de datos y de contenidos obtenidos en la web o producidos por
sistemas de inteligencia artificial. Las escuelas, las universidades y las
sociedades científicas están llamadas a ayudar a los estudiantes y a los
profesionales a hacer propios los aspectos sociales y éticos del desarrollo
y el uso de la tecnología»[154].

Como recordaba san Juan Pablo II, «en el mundo de hoy,
caracterizado por unos progresos tan rápidos en la ciencia y en la
tecnología, las tareas de la Universidad Católica asumen una importancia
y una urgencia cada vez mayores»[155]. En particular, se exhorta a las
Universidades Católicas a hacerse presentes como grandes laboratorios
de esperanza en esta encrucijada de la historia. En clave inter y
transdisciplinar, ejerciten «con sabiduría y creatividad»[156], una
investigación precisa sobre este fenómeno; contribuyendo a poner de
manifiesto las potencialidades saludables en los diversos campos de la
ciencia y de la realidad; guiándolos siempre hacia aplicaciones que sean
éticamente cualificadas, claramente al servicio de la cohesión de nuestra
sociedad y del bien común; alcanzando nuevas fronteras del diálogo entre
la Fe y la Razón.

Además, se sabe que los actuales programas de IA pueden
proporcionar información distorsionada o artefactual, lo que lleva a los
estudiantes a basarse en contenidos inexactos. «De este modo, no sólo
se corre el riesgo de legitimar la difusión de noticias falsas y robustecer la
ventaja de una cultura dominante, sino de minar también el proceso
educativo en ciernes (in nuce)»[157]. Con el tiempo, la distinción entre
usos apropiados e inapropiados de dicha tecnología, tanto en la
educación como en la investigación, podría ser más clara. Al mismo
tiempo, un principio rector decisivo es que el uso de la IA debe ser
siempre transparente y nunca ambiguo.

IA, desinformación, deepfake y abusos

La IA es también un apoyo para la dignidad de la persona humana
cuando se utiliza como ayuda para comprender hechos complejos o como
guía hacia recursos válidos en la búsqueda de la verdad[158].

Sin embargo, también existe el grave riesgo de que la IA genere
contenidos manipulados e informaciones falsas que, al ser muy difícil de
distinguir de los datos reales, pueden inducir fácilmente al engaño. Esto
puede ocurrir accidentalmente, como en el caso de la “alucinación” de la
IA, que se produce cuando un sistema generativo produce contenidos que
parecen reflejar la realidad pero que no son verídicos. Aunque es difícil
gestionar este fenómeno, ya que la generación de información que imita la
producida por los humanos es una de las principales características de la
IA, representa un desafío mantener bajo control estos riesgos. Las
consecuencias de tales aberraciones e informaciones falsas pueden ser
muy graves. Por ello, todos los que producen y utilizan la IA deben
comprometerse con la veracidad y exactitud de las informaciones
elaboradas por tales sistemas y difundidas al público.

Si, por un lado, la IA tiene el potencial latente de generar contenidos
ficticios, por otro lado, existe el problema aún más preocupante de su uso
intencionado para la manipulación. Esto puede ocurrir, por ejemplo,
cuando un operador humano o una organización genera
intencionadamente y difunde informaciones, como deepfakes de
imágenes, de vídeos y de audio, para engañar o perjudicar. Un deepfake
es una representación falsa de una persona que ha sido modificada o
generada por un algoritmo de IA. El peligro que entrañan las deepfake es
especialmente evidente cuando se utilizan para atacar o perjudicar a
alguien: aunque las imágenes o los vídeos puedan ser artificiales en sí
mismos, los daños que causan son reales, y dejan «profundas cicatrices
en el corazón de quienes lo sufren», que se sienten «heridos en su
dignidad humana»[159].

En general, al distorsionar «la relación con los demás y la
realidad»[160], los productos audiovisuales falsificados generados por IA
pueden socavar progresivamente los cimientos de la sociedad. Esto
requiere una regulación cuidadosa, ya que la desinformación,
especialmente a través de medios controlados o influenciados por la IA,
puede propagarse involuntariamente, alimentando la polarización política
y el descontento social. De hecho, cuando la sociedad se vuelve
indiferente a la verdad, diversos grupos construyen sus propias versiones
de los “hechos”, con lo que la «conexiones mutuas y las
interdependencias»[161], que están en la base del vivir social, se
debilitan. Porque las deepfake inducen a poner todo en duda y los
contenidos falsos generados por la IA erosionan la confianza en lo que se
ve y se oye, la polarización y el conflicto no harán sino crecer. Un engaño
tan generalizado no es un problema secundario: golpea el corazón de la
humanidad, demoliendo esa confianza fundamental sobre la que se
construyen las sociedades.[162].

Combatir las falsificaciones alimentadas por la IA no es sólo trabajo de
los expertos en la materia, sino que requiere los esfuerzos de todas las
personas de buena voluntad. «Si la tecnología ha de estar al servicio de la
dignidad humana y no perjudicarla, y si ha de promover la paz en lugar de
la violencia, la comunidad humana debe ser proactiva a la hora de abordar
estas tendencias respetando la dignidad humana y promover el
bien»[163]. Quienes produzcan y compartan material generado por IA
deben tener siempre cuidado de comprobar la veracidad de lo que
difunden y, en cualquier caso, deberían «evitar compartir palabras e
imágenes degradantes para el ser humano, y excluir por tanto lo que
alimenta el odio y la intolerancia, envilece la belleza y la intimidad de la
sexualidad humana, o lo que explota a los débiles e indefensos»[164].
Esto requiere una prudencia constante y un cuidadoso discernimiento por
parte de cada usuario respecto a su actividad en las redes[165].

IA, privacidad y control

Los seres humanos son intrínsecamente relacionales, por lo que los
datos que cada persona crea en el mundo digital pueden considerarse
una expresión objetivada de esa naturaleza relacional. En efecto, los datos
no se limitan a transmitir informaciones, sino que vehiculan también un
conocimiento personal y relacional que, en un contexto cada vez más
digitalizado, pueden convertirse en un poder sobre el individuo. Además,
mientras que algunos tipos de datos pueden referirse a aspectos públicos
de la vida de una persona, otros pueden llegar a tocar su intimidad, tal vez
incluso su conciencia. En definitiva, la privacidad desempeña un papel
fundamental a la hora de proteger los límites de la vida interior de las
personas y garantizar su libertad para relacionarse, expresarse y tomar
decisiones sin estar indebidamente controladas. Esta protección también
está vinculada a la defensa de la libertad religiosa, ya que la vigilancia
digital también puede utilizarse para ejercer un control sobre la vida de los
creyentes y la expresión de su fe.

Conviene abordar la cuestión de la privacidad a partir de la
preocupación por una legítima libertad y la inalienable dignidad de la
persona más allá de toda circunstancia[166]. En este sentido, el Concilio
Vaticano II incluyó el derecho «a la protección de la vida privada» entre
los derechos fundamentales «para vivir una vida verdaderamente
humana» que debería ser el mismo a todas las personas, en virtud de su
«excelsa dignidad»[167]. La Iglesia, además, afirmó el derecho al respeto
legítimo de la vida privada en el contexto del derecho de la persona a una
buena reputación, a la defensa de su integridad física y mental y a no
sufrir violaciones e intrusiones indebidas[168]: todos son elementos
relacionados con el debido respeto a la dignidad intrínseca a la persona
humana[169].

Los avances en la elaboración y el análisis de datos que posibilita la IA
permiten detectar patrones en el comportamiento y el pensamiento de
una persona incluso a partir de una cantidad mínima de informaciones, lo
que hace aún más necesaria la privacidad de los datos como salvaguardia
de la dignidad y la naturaleza relacional de la persona humana. Como
observó el Papa Francisco, «mientras se desarrollan actitudes cerradas e
intolerantes que nos clausuran ante los otros, se acortan o desaparecen
las distancias hasta el punto de que deja de existir el derecho a la
intimidad. Todo se convierte en una especie de espectáculo que puede
ser espiado, vigilado, y la vida se expone a un control constante»[170].

Aunque puedan existir formas legítimas y correctas de utilizar la IA en
conformidad con la dignidad humana y el bien común, no es justificable su
uso con fines de control para la explotación, para restringir la libertad de
las personas o para beneficiar a unos pocos a expensas de muchos. El
riesgo de un exceso de vigilancia debe ser supervisado por organismos
de control adecuados, con el fin de garantizar la transparencia y la
responsabilidad pública. Los responsables de dicha vigilancia nunca
deberían exceder su autoridad, que siempre debe estar a favor de la
dignidad y la libertad de cada persona como base esencial de una
sociedad justa y a medida del hombre.

De hecho, «el respeto fundamental por la dignidad humana postula
rechazar que la singularidad de la persona sea identificada con un
conjunto de datos»[171]. Esto se aplica especialmente a los usos de la IA
relacionados con la evaluación de individuos o grupos sobre la base de su
comportamiento, características o historial, una práctica conocida como
“crédito social” (social scoring): «En los procesos de toma de decisiones
sociales y económicas, debemos ser cautos a la hora de confiar juicios a
algoritmos que procesan datos recogidos, a menudo subrepticiamente,
sobre las personas y sus características y comportamientos pasados.
Esos datos pueden estar contaminados por prejuicios sociales e ideas
preconcebidas. Sobre todo, porque el comportamiento pasado de un
individuo no debe utilizarse para negarle la oportunidad de cambiar,
crecer y contribuir a la sociedad. No podemos permitir que los algoritmos
limiten o condicionen el respeto a la dignidad humana, ni que excluyan la
compasión, la misericordia, el perdón y, sobre todo, la apertura a la
esperanza de cambio en el individuo»[172].

La IA y la protección de la casa común

La IA tiene numerosas y prometedoras aplicaciones para mejorar
nuestra relación con la casa común que nos acoge, como la creación de
modelos para la previsión de eventos climáticos extremos, proponer
soluciones de ingeniería para reducir su impacto, la gestión de
operaciones de socorro y la predicción de los movimientos de
población[173]. Además, la IA puede apoyar la agricultura sostenible,
optimizar el consumo de energía y proporcionar sistemas de alerta
temprana para emergencias de salud pública. Todos estos avances
podrían aumentar la capacidad de recuperación ante los desafíos
relacionados con el clima y promover un desarrollo más sostenible.

Al mismo tiempo, los modelos actuales de IA y el sistema de hardware
que los sustenta requieren grandes cantidades de energía y agua y
contribuyen significativamente a las emisiones de CO2, además de
consumir recursos de manera intensiva. Esta realidad queda a menudo
oculta por la forma en que esta tecnología se presenta en el imaginario
popular, donde palabras como “nube” (cloud)[174] puede dar la impresión
de que los datos se almacenan y procesan en un dominio etéreo,
separado del mundo físico. En cambio, la nube no es un dominio etéreo
separado del mundo físico, sino que, como cualquier dispositivo
informático, necesita máquinas, cables y energía. Lo mismo ocurre con la
tecnología a la base de la IA. A medida que estos sistemas crecen en
complejidad, especialmente los grandes modelos lingüísticos (Large
Language Models, LLM), estos requieren conjuntos de datos cada vez
mayores, mayor potencia computacional e imponentes infraestructuras de
almacenamiento (storage) de datos. Teniendo en cuenta el elevado coste
que estas tecnologías suponen para el medio ambiente, el desarrollo de
soluciones sostenibles es vital para reducir su impacto en la “casa común”.

Por eso, como enseña el Papa Francisco, es importante «encontrar
soluciones no sólo en la técnica sino en un cambio del ser humano»[175].
Además, una concepción correcta de la creación sabe reconocer que el
valor de todas las cosas creadas no puede reducirse a la mera utilidad.
Por tanto, una gestión plenamente humana de la tierra rechaza el
antropocentrismo distorsionado del paradigma tecnocrático, que
pretende «extraer todo lo posible» de la naturaleza[176], y del «mito del
progreso», según el cual «los problemas ecológicos se resolverán
simplemente con nuevas aplicaciones técnicas, sin consideraciones éticas
ni cambios de fondo»[177]. Esta mentalidad debe dar paso a una visión
más holística que respete el orden de la creación y promueva el bien
integral de la persona humana, sin descuidar la salvaguardia de «nuestra
casa común»[178].

La IA y la guerra

El Concilio Vaticano II y el posterior magisterio pontificio han sostenido
con vigor que la paz no es la mera ausencia de guerra y no se limita al
mantenimiento de un equilibrio de poder entre adversarios. Por el
contrario, en palabras de San Agustín, la paz es «la tranquilidad del
orden»[179]. En efecto, la paz no puede alcanzarse sin la protección de
los bienes de las personas, la libre comunicación, el respeto de la dignidad
de las personas y de los pueblos y la práctica asidua de la fraternidad. La
paz es obra de la justicia y efecto de la caridad y no puede alcanzarse
sólo mediante la fuerza o la mera ausencia de guerra, sino que debe
construirse ante todo mediante una diplomacia paciente, la promoción
activa de la justicia, la solidaridad, el desarrollo humano integral y el
respeto de la dignidad de todas las personas[180]. De este modo, nunca
debe permitirse que los instrumentos destinados a mantener una cierta
paz se utilicen con fines de injusticia, violencia u opresión, sino que deben
estar siempre subordinados al «firme propósito de respetar a los demás
hombres y pueblos, así como su dignidad, y el apasionado ejercicio de la
fraternidad»[181].

Aunque las capacidades analíticas de la IA podrían utilizarse para
ayudar a las naciones a buscar la paz y garantizar la seguridad, el «uso
bélico de la inteligencia artificial» puede ser muy problemático. El Papa
Francisco ha observado que «la posibilidad de conducir operaciones
militares por medio de sistemas de control remoto ha llevado a una
percepción menor de la devastación que estos han causado y de la
responsabilidad en su uso, contribuyendo a un acercamiento aún más frío
y distante a la inmensa tragedia de la guerra»[182]. Además, la facilidad
con la que las armas, convertidas en autónomas, hacen más viable la
guerra va en contra del principio mismo de la guerra como último recurso
en casos de legítima defensa[183], aumentando los recursos bélicos
mucho más allá del alcance del control humano y acelerando una carrera
armamentística desestabilizadora con consecuencias devastadoras para
los derechos humanos[184].

En particular, los sistemas de armas autónomas letales, capaces de
identificar y atacar objetivos sin intervención humana directa, son «gran
motivo de preocupación ética», porque carecen de «la exclusiva
capacidad humana de juicio moral y de decisión ética»[185]. Por estos
motivos, el Papa Francisco ha invitado con urgencia a repensar el
desarrollo de tales armas para prohibir su uso, «empezando desde ya por
un compromiso efectivo y concreto para introducir un control humano
cada vez mayor y significativo. Ninguna máquina debería elegir jamás
poner fin a la vida de un ser humano»[186].

Dado que la distancia entre maquinas capaces de matar con
precisión de modo autónomo y otras capaces de destrucción masiva es
corta, algunos investigadores que trabajan en el campo de la IA han
expresado la preocupación que dicha tecnología represente un “riesgo
existencial”, siendo ella capaz de actuar en modos que podrían amenazar
la supervivencia de la humanidad o de regiones enteras. Esta posibilidad
debe ser tomada seriamente en consideración, en línea con la constante
preocupación por aquellas tecnologías que dan a la guerra «un poder
destructivo fuera de control que afecta a muchos civiles inocentes»[187],
incluidos los niños. En este contexto, resulta más que nunca urgente la
llamada de Gaudium et spes a «examinar la guerra con mentalidad
totalmente nueva»[188].

Al mismo tiempo, mientras los riesgos teóricos de la IA merecen
atención, también existen peligros más urgentes e inmediatos en relación
con la forma en que individuos con intenciones maliciosas podrían hacer
uso de ellos[189]. La IA, como cualquier otro instrumento, es una
extensión del poder de la humanidad, y aunque no podemos predecir todo
lo que será capaz de lograr, por desgracia es bien sabido lo que los seres
humanos son capaces de hacer. Las atrocidades ya cometidas a lo largo
de la historia humana bastan para suscitar una profunda preocupación por
los posibles abusos de la IA.

Como ha observado san Juan Pablo II, «la humanidad posee hoy
instrumentos de potencia inaudita. Puede hacer de este mundo un jardín,
o reducirlo a un cúmulo de escombros»[190]. En esta perspectiva, la
Iglesia recuerda, con el Papa Francisco, que «la libertad humana puede
hacer su aporte inteligente hacia una evolución positiva» u orientarse «en
un camino de decadencia y de mutua destrucción»[191]. Para evitar que
la humanidad se precipite en una espiral de autodestrucción[192], es
necesario asumir una posición clara contra todas las aplicaciones de la
tecnología que amenazan intrínsecamente la vida y la dignidad de la
persona humana. Este compromiso requiere un discernimiento atento
sobre el uso de la IA, en particular sobre las aplicaciones de defensa
militar, para garantizar que siempre respeten la dignidad humana y estén
al servicio del bien común. El desarrollo y el empleo de la IA en el
armamento debería estar sujeto a los más altos niveles de control ético,
velando que se respeten la dignidad humana y la sacralidad de la
vida[193].

La IA y la relación de la humanidad con Dios

La tecnología ofrece medios eficaces para gestionar y desarrollar los
recursos del planeta, aunque, en algunos casos, la humanidad cede cada
vez más el control de estos recursos a las máquinas. Dentro de algunos
círculos de científicos y futuristas, se respira un cierto optimismo sobre el
potencial de la inteligencia artificial general (AGI), una forma hipotética de
IA que podría alcanzar o superar a la inteligencia humana, capaz de lograr
avances más allá de lo imaginable. Algunos especulan incluso con que la
AGI sería capaz de alcanzar capacidades sobrehumanas. A medida que la
sociedad se aleja del vínculo con lo trascendente, algunos sienten la
tentación de recurrir a la IA en busca de sentido o de plenitud, deseos que
sólo pueden encontrar su verdadera satisfacción en la comunión con
Dios[194].

Sin embargo, la presunción de sustituir a Dios con una obra de las
propias manos es idolatría, contra la que advierte la Sagrada Escritura
(por ej. Ex 20,4; 32,1-5; 34,17). Además, la IA puede ser incluso más
seductora que los ídolos tradicionales: de hecho, a diferencia de estos
últimos, que «tienen boca, y no hablan, tienen ojos, y no ven, tienen
orejas, y no oyen» (Sal 115,5-6), la IA puede “hablar”, o, al menos, dar la
ilusión de hacerlo (cf. Ap 13,15). En cambio, hay que recordar que la IA no
es más que un pálido reflejo de la humanidad, ya que ha sido producida
por mentes humanas, entrenada a partir de material producido por seres
humanos, predispuesta a estímulos humanos y sostenida por el trabajo
humano. No puede tener muchas de las capacidades que son específicas
de la vida humana, y también es falible. De ahí que al buscar en ella un
“Otro” más grande con quien compartir la propia existencia y
responsabilidad, la humanidad corre el riesgo de crear un sustituto de
Dios. En definitiva, no es la IA quien es divinizada y adorada, sino el ser
humano, para convertirse, de este modo, en esclavo de su propia
obra[195].

Aunque puede ponerse al servicio de la humanidad y contribuir al
bien común, la IA sigue siendo un producto de manos humanas, lo que
conlleva «la destreza y la fantasía de un hombre» (Hch 17,29), al que
nunca debe atribuirse un valor desproporcionado. Como afirma el libro de
la Sabiduría: «los hizo un hombre, los modeló un ser de aliento prestado y
ningún ser humano puede modelar un dios a su semejanza. Al ser mortal,
sus manos impías producen un cadáver y vale más él que los objetos que
adora, pues él tiene vida, mientras los otros jamás la tendrán» (Sab 15,
16-17).

Al contrario, «por su interioridad [el ser humano] transciende el
universo entero; a esta profunda interioridad retorna cuando entra dentro
de su corazón, donde Dios le aguarda, escrutador de los corazones, y
donde él personalmente, bajo la mirada de Dios, decide su propio
destino»[196]. Es en el corazón – recuerda el Papa Francisco – que cada
persona descubre la «paradójica conexión entre la valoración del propio
ser y la apertura a los otros, entre el encuentro tan personal consigo
mismo y la donación de sí a los demás»[197]. Por eso, «únicamente el
corazón es capaz de poner a las demás potencias y pasiones y a toda
nuestra persona en actitud de reverencia y de obediencia amorosa al
Señor»[198], que «nos ofrece tratarnos como un tú siempre y para
siempre»[199].

VI. Reflexión final

Teniendo en cuenta todos los diversos desafíos que plantea el
progreso tecnológico, el Papa Francisco ha señalado la necesidad de un
desarrollo «en responsabilidad, valores, conciencia» proporcional al
aumento de posibilidades que ofrece esta tecnología[200], reconociendo
que «cuanto más se acrecienta el poder del hombre, más amplia es su
responsabilidad»[201].

Por otra parte,«la cuestión esencial y fundamental» permanece
siempre la de «si el hombre, en cuanto hombre, en el contexto de este
progreso, se hace de veras mejor, es decir, más maduro espiritualmente,
más consciente de la dignidad de su humanidad, más responsable, más
abierto a los demás, particularmente a los más necesitados y a los más
débiles, más disponible a dar y prestar ayuda a todos»[202].

Es decisivo, por consiguiente, saber valorar críticamente las distintas
aplicaciones en los contextos particulares, con el fin de determinar si
estas promueven, o no, la dignidad y la vocación humana, y el bien
común. Como ocurre con muchas tecnologías, los efectos de las distintas
aplicaciones de la IA no siempre son predecibles en su inicio. En la medida
en que estas aplicaciones y su impacto social se hagan más evidentes, se
deberá empezar a proporcionar una retroalimentación adecuada a todos
los niveles de la sociedad, de acuerdo con el principio de subsidiariedad.
Es importante que los usuarios individuales, las familias, la sociedad civil,
las empresas, las instituciones, los gobiernos y las organizaciones
internacionales, cada uno a su nivel de competencia, se comprometan en
garantizar que el uso de la IA sea adecuado para el bien de todos.

Hoy en día, un desafío importante y una oportunidad para el bien
común reside en considerar dicha tecnología dentro de un horizonte de
inteligencia relacional, que hace hincapié en la interconexión de los
individuos y de las comunidades y exalta la responsabilidad compartida
para favorecer el bienestar integral del otro. El filósofo del siglo XX, Nikolaj
Berdjaev, observó que las personas suelen culpar a las máquinas de los
problemas individuales y sociales; sin embargo, «esto no hace más que
humillar al hombre y no corresponde con su dignidad», porque «es algo
indigno transferir la responsabilidad del hombre a una maquina»[203].
Solo la persona humana puede decirse moralmente responsable, y los
desafíos de una sociedad tecnológica, en última instancia, se refieren a su
espíritu. Por eso, para afrontar tales desafíos «requiere una revitalización
de la sensibilidad espiritual»[204].

Otro punto a considerar es la llamada, provocada por la aparición de
la IA en la escena mundial, a renovar la valoración de todo lo que es
humano. Como observó el escritor católico francés Georges Bernanos
hace muchos años, «el peligro no reside en la multiplicación de las
máquinas, sino en el número cada vez mayor de hombres acostumbrados
desde la infancia a no desear más que lo que las máquinas pueden
proporcionarles»[205]. El reto es tan real hoy como entonces, ya que el
rápido avance de la digitalización conlleva el riesgo del «reduccionismo
digital», por el que las experiencias no cuantificables se dejan de lado y
luego se olvidan, o se consideran irrelevantes porque no pueden
calcularse en términos formales. La IA sólo debe utilizarse como una
herramienta complementaria de la inteligencia humana y no sustituir su
riqueza[206]. Cultivar aquellos aspectos de la vida humana que van más
allá del cálculo es de crucial importancia para preservar una «auténtica
humanidad», que «parece habitar en medio de la civilización tecnológica,
casi imperceptiblemente, como la niebla que se filtra bajo la puerta
cerrada»[207].

La verdadera sabiduría

Hoy, la vasta extensión del conocimiento es accesible en formas que
habrían maravillado a las generaciones pasadas; sin embargo, para
impedir que los avances de la ciencia siguen siendo humana y
espiritualmente estériles, hay que ir más allá de la mera acumulación de
datos y aspirar a la verdadera sabiduría[208].

Esta sabiduría es el don que más necesita la humanidad para abordar
los profundos interrogantes y desafíos éticos que plantea la IA: «Sólo
dotándonos de una mirada espiritual, sólo recuperando una sabiduría del
corazón, podremos leer e interpretar la novedad de nuestro
tiempo»[209]. Esta «sabiduría del corazón» es «esa virtud que nos
permite entrelazar el todo y las partes, las decisiones y sus
consecuencias». La humanidad no puede «esperar esta sabiduría de las
máquinas», en cuanto ella «se deja encontrar por quien la busca y se deja
ver por quien la ama; se anticipa a quien la desea y va en busca de quien
es digno de ella (cfr. Sab 6,12-16)»[210].

En un mundo marcado por la IA, necesitamos la gracia del Espíritu
Santo, que «permite ver las cosas con los ojos de Dios, comprender los
vínculos, las situaciones, los acontecimientos y descubrir su
sentido»[211].

Porque «lo que mide la perfección de las personas es su grado de
caridad, no la cantidad de datos y conocimientos que acumulen»[212], el
modo como se utilice la IA «para incluir a los últimos, es decir, a los
hermanos y las hermanas más débiles y necesitados, es la medida que
revela nuestra humanidad»[213]. Esta sabiduría puede iluminar y guiar un
uso de dicha tecnología centrado en el ser humano, que como tal puede
ayudar a promover el bien común, a cuidar de la «casa común», a avanzar
en la búsqueda de la verdad, apoyar el desarrollo humano integral,
favorecer la solidaridad y la fraternidad humana, para luego conducir a la
humanidad a su fin último: la comunión feliz y plena con Dios[214].

En la perspectiva de la sabiduría, los creyentes podrán actuar como agentes responsables capaces de utilizar esta tecnología para promover una visión auténtica de la persona humana y de la sociedad[215], a partir de una comprensión del progreso tecnológico como parte del plan de Dios para la creación: una actividad que la humanidad está llamada a ordenar hacia el Misterio Pascual de Jesucristo, en la constante búsqueda de la Verdad y del Bien.

El Sumo Pontífice Francisco, en la Audiencia concedida el día 14 de enero de 2025 a los suscritos Prefectos y Secretarios del Dicasterio para la Doctrina de la Fe y del Dicasterio para la Cultura y la Educación, ha aprobado la presente Nota y ha ordenado la publicación