Documentos sobre la inteligencia artificial (IA: "Artificial Intelligence": AI) emanados por el Romano Pontífice, por la Curia Romana y por otros Organismos pontificios
Contenido
1. Participación del Santo Padre Francisco en el G7 reunido en Borgo Egnazia, 14.06.2024
2. Mensaje del Santo Padre Francisco al Prof. Klaus Schwab, Presidente del Foro Económico Mundial en su encuentro anual del 20 al 24 de enero de 2025
1. Participación
del Santo Padre Francisco en el G7 reunido en Borgo Egnazia, 14.06.2024
Discurso
pronunciado por el Santo Padre ante el G7
https://press.vatican.va/content/salastampa/it/bollettino/pubblico/2024/06/14/0504/01030.html#es
Esta
mañana, tras salir de la Casa Santa Marta, el Santo Padre Francisco partió en
helicóptero a las 10:30 desde el helipuerto vaticano para participar en la
cumbre del G7 en Borgo Egnazia, Puglia.
A su
llegada al campo de deportes, a las 12.10, el Santo Padre fue recibido por el
Presidente del Consejo de Ministros de la República Italiana, Hon. Giorgia
Meloni.
Posteriormente,
el Papa Francisco se trasladó en un carro de golf a la residencia privada donde
estaban programadas las conversaciones bilaterales con la Sra. Kristalina
Georgieva, Directora General del Fondo Monetario Internacional, con el Presidente
de la República de Ucrania, S.E. Sr. Volodymyr Zelenskyy, con el Presidente de
la República Francesa, S.E. Sr. Emmanuel Macron, y con el Primer Ministro de Canadá,
Excmo. Sr. Justin Trudeau.
La
Honorable Señora Giorgia Meloni recibió oficialmente al Santo Padre en el patio
de Borgo Egnazia y, a las 14:55, en la Sala Arena, el Papa abrió la sesión
conjunta del G7 y pronunció su discurso, seguido de otros discursos.
Al final
de la sesión de la tarde, el Santo Padre continuó los encuentros bilaterales:
al margen de la sesión de la tarde que acaba de terminar, el Santo Padre se
reunió con el Primer Ministro de la India, S.E. Narendra Modi, y con el
Presidente de la República de Turquía, S.E. Sr. Recep Tayyp Erdoğan; y,
posteriormente, después de la foto oficial de todos los Participantes, con el
Presidente de Kenya, Excmo. Sr. William Samoei Ruto; con el Presidente del
Brasil, Excmo. Sr. Luiz Inácio Lula da Silva; y con el Presidente de los
Estados Unidos de América, Excmo. Sr. Joseph Biden.
Al final
de los encuentros bilaterales, a las 20.43 horas, el Santo Padre partió en
helicóptero del campo de deportes Borgo Egnazia para regresar al Vaticano.
A
continuación, la versión completa del discurso que el Santo Padre Francisco
preparó para la ocasión y del discurso pronunciado durante la Sesión Conjunta
del G7:
Un instrumento fascinante y tremendo
Estimadas
señoras, distinguidos señores:
Me dirijo
hoy a ustedes, líderes del Foro Intergubernamental del G7, con una reflexión
sobre los efectos de la inteligencia artificial en el futuro de la humanidad.
«La
Sagrada Escritura atestigua que Dios ha dado a los hombres su Espíritu para que
tengan “habilidad, talento y experiencia en la ejecución de toda clase de
trabajos” (Ex 35,31)» [1]. La ciencia y la tecnología
son, por lo tanto, producto extraordinario del potencial creativo que poseemos
los seres humanos [2].
Ahora
bien, la inteligencia artificial se origina precisamente a partir del uso de
este potencial creativo que Dios nos ha dado.
Dicha
inteligencia artificial, como sabemos, es un instrumento extremadamente
poderoso, que se emplea en numerosas áreas de la actividad humana: de la
medicina al mundo laboral, de la cultura al ámbito de la comunicación, de la
educación a la política. Y es lícito suponer, entonces, que su uso influirá
cada vez más en nuestro modo de vivir, en nuestras relaciones sociales y en el
futuro, incluso en la manera en que concebimos nuestra identidad como seres humanos
[3].
El tema de
la inteligencia artificial, sin embargo, a menudo es percibido de modo
ambivalente: por una parte, entusiasma por las posibilidades que ofrece; por
otra, provoca temor ante las consecuencias que podrían llegar a producirse. A
este respecto podríamos decir que todos nosotros, aunque en diferente medida,
estamos atravesados por dos emociones: somos entusiastas cuando imaginamos los
progresos que se pueden derivar de la inteligencia artificial, pero, al mismo
tiempo, nos da miedo cuando constatamos los peligros inherentes a su uso [4].
No podemos
dudar, ciertamente, de que la llegada de la inteligencia artificial representa
una auténtica revolución cognitiva-industrial, que contribuirá a la creación de
un nuevo sistema social caracterizado por complejas transformaciones de época.
Por ejemplo, la inteligencia artificial podría permitir una democratización del
acceso al saber, el progreso exponencial de la investigación científica, la
posibilidad de delegar a las máquinas los trabajos desgastantes; pero, al mismo
tiempo, podría traer consigo una mayor inequidad entre naciones avanzadas y
naciones en vías de desarrollo, entre clases sociales dominantes y clases
sociales oprimidas, poniendo así en peligro la posibilidad de una “cultura del
encuentro” y favoreciendo una “cultura del descarte”.
La
magnitud de estas complejas transformaciones está vinculada obviamente al
rápido desarrollo tecnológico de la misma inteligencia artificial.
Es
precisamente este poderoso avance tecnológico el que hace de la inteligencia
artificial un instrumento fascinante y tremendo al
mismo tiempo, y exige una reflexión a la altura de la situación.
En esa
dirección tal vez se podría partir de la constatación de que la inteligencia
artificial es sobre todo un instrumento. Y resulta espontáneo
afirmar que los beneficios o los daños que esta conlleve dependerán de su uso.
Esto es
cierto, porque ha sido así con cada herramienta construida por el ser humano
desde el principio de los tiempos.
Nuestra
capacidad de construir herramientas, en una cantidad y complejidad que no tiene
igual entre los seres vivos, nos habla de una condición tecno-humana.
El ser humano siempre ha mantenido una relación con el ambiente mediada por los
instrumentos que iba produciendo. No es posible separar la historia del hombre
y de la civilización de la historia de esos instrumentos. Algunos han querido
leer en todo eso una especie de privación, un déficit del ser humano, como si,
a causa de esa carencia, estuviera obligado a dar vida a la tecnología [5].
Una mirada atenta y objetiva en realidad nos muestra lo contrario. Vivimos una
condición de ulterioridad respecto a nuestro ser biológico; somos seres
inclinados hacia el fuera-de-nosotros, es más, radicalmente abiertos al más
allá. De aquí se origina nuestra apertura a los otros y a Dios; de aquí nace el
potencial creativo de nuestra inteligencia en términos de cultura y de belleza;
de aquí, por último, se origina nuestra capacidad técnica. La tecnología es así
una huella de nuestra ulterioridad.
Sin
embargo, el uso de nuestras herramientas no siempre está dirigido unívocamente
al bien. Aun cuando el ser humano siente dentro de sí una vocación al más allá
y al conocimiento vivido como instrumento de bien al servicio de los hermanos y
hermanas, y de la casa común (cf. Gaudium et spes,
16), esto no siempre sucede. Es más, no pocas veces, precisamente gracias a su
libertad radical, la humanidad ha pervertido los fines de su propio ser,
transformándose en enemiga de sí misma y del planeta [6]. La misma
suerte pueden correr los instrumentos tecnológicos. Solamente si se garantiza
su vocación al servicio de lo humano, los instrumentos tecnológicos revelarán
no sólo la grandeza y la dignidad única del ser humano, sino también el mandato
que este último ha recibido de “cultivar y cuidar” el planeta y todos sus
habitantes (cf. Gn 2,15). Hablar de tecnología es hablar de lo
que significa ser humanos y, por tanto, de nuestra condición única entre
libertad y responsabilidad, es decir, significa hablar de ética.
De hecho,
cuando nuestros antepasados afilaron piedras de sílex para hacer cuchillos, los
usaron tanto para cortar pieles para vestirse como para eliminarse entre sí. Lo
mismo podría decirse de otras tecnologías mucho más avanzadas, como la energía
producida por la fusión de los átomos, como ocurre en el Sol, que podría
utilizarse para producir energía limpia y renovable, pero también para reducir
nuestro planeta a cenizas.
Pero la
inteligencia artificial es una herramienta aún más compleja. Yo diría que es
una herramienta sui generis. Así, mientras que el uso de una
herramienta simple —como un cuchillo— está bajo el control del ser humano que
lo utiliza y su buen uso depende sólo de él, la inteligencia artificial, en
cambio, puede adaptarse de forma autónoma a la tarea que se le asigne y, si se
diseña de esa manera, podría tomar decisiones independientemente del ser humano
para alcanzar el objetivo fijado [7].
Conviene
recordar siempre que la máquina puede, en algunas formas y con estos nuevos
medios, elegir por medio de algoritmos. Lo que hace la máquina es una elección
técnica entre varias posibilidades y se basa en criterios bien definidos o en
inferencias estadísticas. El ser humano, en cambio, no sólo elige, sino que en
su corazón es capaz de decidir. La decisión es un elemento que podríamos
definir el más estratégico de una elección y requiere una evaluación práctica.
A veces, frecuentemente en la difícil tarea de gobernar, también estamos
llamados a decidir con consecuencias para muchas personas. Desde siempre la
reflexión humana habla a este propósito de sabiduría, la phronesis de
la filosofía griega y, al menos en parte, la sabiduría de la Sagrada Escritura.
Frente a los prodigios de las máquinas, que parecen saber elegir de manera
independiente, debemos tener bien claro que al ser humano le corresponde
siempre la decisión, incluso con los tonos dramáticos y urgentes con que a
veces ésta se presenta en nuestra vida. Condenaríamos a la humanidad a un
futuro sin esperanza si quitáramos a las personas la capacidad de decidir por
sí mismas y por sus vidas, condenándolas a depender de las elecciones de las
máquinas. Necesitamos garantizar y proteger un espacio de control significativo
del ser humano sobre el proceso de elección utilizado por los programas de
inteligencia artificial. Está en juego la misma dignidad humana.
Precisamente
sobre este tema, permítanme insistir en que, en un drama como el de los
conflictos armados, es urgente replantearse el desarrollo y la utilización de
dispositivos como las llamadas “armas autónomas letales” para prohibir su uso,
empezando desde ya por un compromiso efectivo y concreto para introducir un
control humano cada vez mayor y significativo. Ninguna máquina debería elegir
jamás poner fin a la vida de un ser humano.
Hay que
añadir, además, que el buen uso, al menos de las formas avanzadas de
inteligencia artificial, no estará plenamente bajo el control ni de los
usuarios ni de los programadores que definieron sus objetivos iniciales en el
momento de elaborarlos. Y esto es tanto más cierto cuanto que es muy probable
que, en un futuro no lejano, los programas de inteligencias artificiales puedan
comunicarse directamente entre sí, para mejorar su rendimiento. Y, si en el
pasado, los seres humanos que utilizaron herramientas simples vieron su
existencia modelada por estos últimos —el cuchillo les permitió sobrevivir al
frío pero también desarrollar el arte de la guerra—, ahora que los seres
humanos han modelado un instrumento complejo, verán que este modelará aún más
su existencia [8].
El
mecanismo básico de la inteligencia artificial
Permítanme
ahora detenerme brevemente sobre la complejidad de la inteligencia artificial.
Básicamente, la inteligencia artificial es una herramienta diseñada para
resolver un problema y funciona mediante un encadenamiento lógico de
operaciones algebraicas, realizado en base a categorías de datos, que se
comparan para descubrir correlaciones y mejorar su valor estadístico mediante
un proceso de autoaprendizaje basado en la búsqueda de datos adicionales y la auto
modificación de sus procedimientos de cálculo.
La
inteligencia artificial está diseñada de este modo para resolver problemas
específicos, pero para quienes la utilizan la tentación de obtener, a partir de
las soluciones puntuales que propone, deducciones generales, incluso de orden
antropológico, es a menudo irresistible.
Un buen
ejemplo es el uso de programas diseñados para ayudar a los magistrados en las
decisiones relativas a la concesión de prisión domiciliaria a presos que están
cumpliendo una condena en una institución penitenciaria. En este caso, se pide
a la inteligencia artificial que prevea la probabilidad de reincidencia del
delito cometido por un condenado a partir de categorías prefijadas (tipo de
delito, comportamiento en prisión, evaluación psicológica y otros) lo que
permite a la inteligencia artificial tener acceso a categorías de datos
relacionados con la vida privada de la persona detenida (origen étnico, nivel
educativo, línea de crédito, etc.). El uso de tal metodología —que a veces
corre el riesgo de delegar de facto en una máquina la última
palabra sobre el destino de una persona— puede llevar implícitamente la
referencia a los prejuicios inherentes a las categorías de datos utilizados por
la inteligencia artificial.
El ser
clasificado en un cierto grupo étnico o, más prosaicamente, el haber cometido
hace años una pequeña infracción —el no haber pagado, por ejemplo, una multa
por aparcar en zona prohibida—, influirá, de hecho, en la decisión acerca de la
concesión de la prisión domiciliaria. Por el contrario, el ser humano está
siempre en evolución y es capaz de sorprender con sus acciones, algo que la
máquina no puede tener en cuenta.
Hay que
evidenciar también que aplicaciones análogas a ésta de la que estamos hablando
se multiplicarán gracias al hecho de que los programas de inteligencia
artificial estarán cada vez más dotados de la capacidad de interactuar
directamente con los seres humanos (chatbots), sosteniendo
conversaciones y estableciendo relaciones de cercanía con ellos, con frecuencia
muy agradables y tranquilizadoras, en cuanto tales programas de inteligencia
artificial están diseñados para aprender a responder, de forma personalizada, a
las necesidades físicas y psicológicas de los seres humanos.
Olvidar
que la inteligencia artificial no es otro ser humano y que no puede proponer
principios generales, es a veces un gran error que parte de la profunda
necesidad de los seres humanos de encontrar una forma estable de compañía, o
bien de un presupuesto subconsciente, es decir, de la creencia de que las
observaciones obtenidas mediante un mecanismo de cálculo estén dotadas de las
cualidades de certeza indiscutible y de universalidad indudable.
Esta
suposición es, sin embargo, descabellada, como demuestra el examen de los
límites intrínsecos del cálculo mismo. La inteligencia artificial usa
operaciones algebraicas que se realizan según una secuencia lógica (por
ejemplo, si el valor de X es superior al de Y, multiplica X por Y; si no divide
X por Y). Este método de cálculo —denominado algoritmo— no está dotado ni de
objetividad ni de neutralidad [9]. Al estar basado en el álgebra
puede examinar sólo realidades formalizadas en términos numéricos [10].
No hay que
olvidar, además, que los algoritmos diseñados para resolver problemas muy
complejos son sofisticados de tal manera que hacen muy difícil a los propios
programadores la comprensión exacta de cómo estos sean capaces de alcanzar sus
resultados. Esta tendencia a la sofisticación corre el riesgo de acelerarse
notablemente con la introducción de los ordenadores cuánticos que no operan con
circuitos binarios (semiconductores o microchips), sino según las leyes,
bastante articuladas, de la física cuántica. Por otra parte, la continua
introducción de microchips cada vez más eficaces es la causa del predominio del
uso de la inteligencia artificial por parte de las pocas naciones que disponen
de ella.
La calidad
de las respuestas que los programas de inteligencia artificial pueden dar, sean
más o menos sofisticadas, depende en última instancia de los datos que manejan
y de cómo estos los estructuran.
Finalmente,
me gustaría señalar un último ámbito en el que emerge claramente la complejidad
del mecanismo de la llamada inteligencia artificial generativa (Generative
Artificial Inteligence). Nadie duda de que hoy en día están a disposición
magníficos instrumentos de acceso al conocimiento que permiten incluso el
autoaprendizaje (self-learning) y la auto tutoría (self-tutoring)
en una gran cantidad de campos. Muchos de nosotros nos hemos quedado
sorprendidos por las aplicaciones fácilmente accesibles en línea para componer
un texto o producir una imagen sobre cualquier tema o materia. Esto atrae de
forma especial a los estudiantes que, cuando deben preparar los trabajos, hacen
un uso desmedido.
Estos
alumnos, que a menudo están mucho más preparados y acostumbrados al uso de la
inteligencia artificial que sus profesores, olvidan, sin embargo, que la
denominada inteligencia artificial generativa, en sentido estricto, no es
propiamente “generativa”. En realidad, lo que esta hace es buscar información
en los macrodatos (big data) y confeccionarla en el estilo que se le ha
pedido. No desarrolla conceptos o análisis nuevos. Repite lo que encuentra,
dándole una forma atractiva. Y cuanto más repetida encuentra una noción o una
hipótesis, más la considera legítima y válida. Más que “generativa”, se la
podría llamar “reforzadora”, en el sentido de que reordena los contenidos
existentes, contribuyendo a consolidarlos, muchas veces sin controlar si tienen
errores o prejuicios.
De este
modo, no sólo se corre el riesgo de legitimar la difusión de noticias falsas y
robustecer la ventaja de una cultura dominante, sino de minar también el
proceso educativo en ciernes (in nuce). La educación, que debería dar a
los estudiantes la posibilidad de una reflexión auténtica, corre el riesgo de
reducirse a una repetición de nociones, que se considerarán cada vez más
incontestables, simplemente a causa de ser continuamente presentadas [11].
Poner
de nuevo al centro la dignidad de la persona en vista de una propuesta ética
compartida
A lo que
ya hemos dicho se añade una observación más general. La época de innovación
tecnológica que estamos atravesando, en efecto, se acompaña de una particular e
inédita coyuntura social, en la que cada vez es más difícil encontrar puntos de
encuentro sobre los grandes temas de la vida social. Incluso en comunidades
caracterizadas por una cierta continuidad cultural, se crean con frecuencia
encendidos debates y choques que hacen difícil llegar a acuerdos y soluciones
políticas compartidas, orientadas a la búsqueda de lo que es bueno y justo.
Además de la complejidad de las legítimas visiones que caracterizan a la
familia humana, emerge un factor que parece acomunar estas distintas
instancias. Se registra una pérdida o al menos un oscurecimiento del sentido de
lo humano y una aparente insignificancia del concepto de dignidad humana [12].
Pareciera que se está perdiendo el valor y el profundo significado de una de
las categorías fundamentales de Occidente: la categoría de persona humana. Y es
así que en esta época en la que los programas de inteligencia artificial
cuestionan al ser humano y su actuar, precisamente la debilidad del ethos vinculada
a la percepción del valor y de la dignidad de la persona humana corre el riesgo
de ser el mayor daño (vulnus) en la implementación y el desarrollo de
estos sistemas. No debemos olvidar que ninguna innovación es neutral. La
tecnología nace con un propósito y, en su impacto en la sociedad humana,
representa siempre una forma de orden en las relaciones sociales y una
disposición de poder, que habilita a alguien a realizar determinadas acciones
impidiéndoselo a otros. Esta dimensión de poder que es constitutiva de la
tecnología incluye siempre, de una manera más o menos explícita, la visión del
mundo de quien la ha realizado o desarrollado.
Esto vale
también para los programas de inteligencia artificial. Con el fin de que estos
instrumentos sean para la construcción del bien y de un futuro mejor, deben
estar siempre ordenados al bien de todo ser humano. Deben contener una
inspiración ética.
La
decisión ética, de hecho, es aquella que tiene en cuenta no sólo los resultados
de una acción, sino también los valores en juego y los deberes que se derivan
de esos valores. Por esto he acogido con satisfacción la firma en Roma, en
2020, de la Rome Call for AI Ethics [13] y su apoyo
a esa forma de moderación ética de los algoritmos y de los programas de
inteligencia artificial que he llamado “algorética” [14]. En un
contexto plural y global, en el que también se muestran las distintas
sensibilidades y plurales jerarquías en las escalas de valores, parecería
difícil encontrar una única jerarquía de valores. Pero en el análisis ético
podemos recurrir además a otros tipos de instrumentos. Si nos cuesta definir un
solo conjunto de valores globales, podemos encontrar principios compartidos con
los cuales afrontar y disminuir eventuales dilemas y conflictos de la vida.
Por esta
razón ha nacido la Rome Call. En el término “algorética” se
condensa una serie de principios que se revelan como una plataforma global y
plural capaz de encontrar el apoyo de las culturas, las religiones, las
organizaciones internacionales y las grandes empresas protagonistas de este
desarrollo.
La
política que se necesita
No
podemos, por tanto, ocultar el riesgo concreto, porque es inherente a su
mecanismo fundamental, de que la inteligencia artificial limite la visión del
mundo a realidades que pueden expresarse en números y encerradas en categorías
preestablecidas, eliminando la aportación de otras formas de verdad e
imponiendo modelos antropológicos, socioeconómicos y culturales uniformes. El
paradigma tecnológico encarnado por la inteligencia artificial corre el riesgo
de dar paso a un paradigma mucho más peligroso, que ya he identificado con el
nombre de “paradigma tecnocrático” [15]. No podemos permitir que una
herramienta tan poderosa e indispensable como la inteligencia artificial
refuerce tal paradigma, sino que más bien debemos hacer de la inteligencia
artificial un baluarte precisamente contra su expansión.
Y es
precisamente aquí donde urge la acción política, como recuerda la
encíclica Fratelli tutti. Ciertamente «para muchos la política hoy
es una mala palabra, y no se puede ignorar que detrás de este hecho están a
menudo los errores, la corrupción, la ineficiencia de algunos políticos. A esto
se añaden las estrategias que buscan debilitarla, reemplazarla por la economía
o dominarla con alguna ideología. Pero, ¿puede funcionar el mundo sin política?
¿Puede haber un camino eficaz hacia la fraternidad universal y la paz social
sin una buena política?» [16].
Nuestra
respuesta a estas últimas preguntas es: ¡no! ¡La política sirve! Quiero
reiterar en esta ocasión que «ante tantas formas mezquinas e inmediatistas de
política [...], la grandeza política se muestra cuando, en momentos difíciles,
se obra por grandes principios y pensando en el bien común a largo plazo. Al
poder político le cuesta mucho asumir este deber en un proyecto de nación y más
aún en un proyecto común para la humanidad presente y futura» [17].
Estimadas
señoras, distinguidos señores:
Mi
reflexión sobre los efectos de la inteligencia artificial en el futuro de la
humanidad nos lleva así a la consideración de la importancia de la “sana
política” para mirar con esperanza y confianza nuestro futuro. Como he dicho en
otra ocasión, «la sociedad mundial tiene serias fallas estructurales que no se
resuelven con parches o soluciones rápidas meramente ocasionales. Hay cosas que
deben ser cambiadas con replanteos de fondo y transformaciones importantes.
Sólo una sana política podría liderarlo, convocando a los más diversos sectores
y a los saberes más variados. De esa manera, una economía integrada en un
proyecto político, social, cultural y popular que busque el bien común puede
“abrir camino a oportunidades diferentes, que no implican detener la
creatividad humana y su sueño de progreso, sino orientar esa energía con cauces
nuevos” (Laudato si’, 191)» [18].
Este es
precisamente el caso de la inteligencia artificial. Corresponde a cada uno
hacer un buen uso de ella, y corresponde a la política crear las condiciones
para que ese buen uso sea posible y fructífero.
Gracias.
Notas
[1] Mensaje para la 57 Jornada
Mundial de la Paz (1 enero 2024), 1.
[2] Cf. ibíd.
[3] Cf. ibíd., 2.
[4] Esta ambivalencia ya había
sido advertida por el Papa san Pablo VI en su Discurso al personal del “Centro
de Automación de Análisis Lingüísticos” del Aloisiano de Gallarate (19
junio 1964).
[5] Cf. A. Gehlen, L’uomo. La sua natura e il
suo posto nel mondo, Milán 1983, 43.
[6] Carta enc. Laudato
si’ sobre el cuidado de la casa común (24 mayo 2015), 102-114.
[7] Cf. Mensaje para la
57 Jornada Mundial de la Paz (1 enero 2024), 3.
[8] Las ideas de Marshall McLuhan
y John M. Culkin son particularmente relevantes para comprender las
consecuencias del uso de la inteligencia artificial.
[9] Cf. Discurso a los
participantes en la Plenaria de la Pontificia Academia para la Vida (28
febrero 2020).
[10] Cf. Mensaje para la
57 Jornada Mundial de la Paz (1 enero 2024), 4.
[11] Cf. ibíd., 3 y 7.
[12] Cf. Dicasterio para la
Doctrina de la Fe, Declaración Dignitas infinita sobre la
dignidad humana (2 abril 2024).
[13] Cf. Discurso a los
participantes en la Plenaria de la Pontificia Academia para la Vida (28
febrero 2020).
[14] Cf. Discurso a los
participantes en el Congreso “Promoting Digital Child Dignity – From Concept to
Action” (14 noviembre 2019); Discurso a los participantes en
la Plenaria de la Pontificia Academia para la Vida (28 febrero 2020).
[15] Para una exposición más
amplia, remito a mi Carta encíclica Laudato si’ sobre el
cuidado de la casa común (24 mayo 2015).
[16] Carta enc. Fratelli
tutti sobre la fraternidad y la amistad social (3 octubre 2020), 176.
[17] Ibíd., 178.
[18] Ibíd., 179.
2. Mensaje del
Santo Padre Francisco al Prof. Klaus Schwab, Presidente del Foro Económico
Mundial en su encuentro anual del 20 al 24 de enero de 2025
Mensaje
que el Santo Padre Francisco ha enviado al Prof. Klaus Schwab, Presidente del
Foro Económico Mundial, con motivo del encuentro anual que se está celebrando
en Davos-Klosters, Suiza, del 20 al 24 de enero de 2025:
https://press.vatican.va/content/salastampa/it/bollettino/pubblico/2025/01/23/0067/00129.html
Mensaje del Santo Padre
El tema de
la reunión anual de este año del Foro Económico Mundial, "Colaboración
para la Era Inteligente", ofrece una buena oportunidad para reflexionar
sobre la Inteligencia Artificial como herramienta no sólo para la cooperación,
sino también para unir a los pueblos.
La
tradición cristiana considera el don de la inteligencia como un aspecto
esencial de la persona humana, creada "a imagen de Dios". Al mismo
tiempo, la Iglesia Católica siempre ha sido protagonista y defensora del
progreso de la ciencia, la tecnología, las artes y otras formas de actividad
humana, considerándolas áreas de "colaboración del hombre y la mujer con
Dios en el perfeccionamiento de la creación visible" (Catecismo de la
Iglesia Católica, 378).
La IA está
destinada a imitar la inteligencia humana que la diseñó, lo que plantea un
conjunto único de preguntas y desafíos. A diferencia de muchas otras
invenciones humanas, la IA se entrena con los resultados de la creatividad
humana, lo que le permite generar nuevos artefactos con un nivel de habilidad y
velocidad que a menudo rivaliza o supera las capacidades humanas, lo que genera
preocupaciones críticas sobre su impacto en el papel de la humanidad en el
mundo. Además, los resultados que puede producir la IA son casi indistinguibles
de los de los seres humanos, lo que plantea preguntas sobre su efecto en la
creciente crisis de la verdad en el foro público. Además, esta tecnología está
diseñada para aprender y tomar ciertas decisiones de forma autónoma,
adaptándose a nuevas situaciones y proporcionando respuestas no previstas por
sus programadores, lo que plantea preguntas fundamentales sobre la
responsabilidad ética, la seguridad humana y las implicaciones más amplias de
estos desarrollos para la sociedad.
Si bien la
IA es un logro tecnológico extraordinario capaz de imitar ciertos productos
asociados con la inteligencia humana, esta tecnología "hace una elección
técnica entre varias posibilidades basadas en criterios bien definidos o en inferencias
estadísticas. Los seres humanos, sin embargo, no solo eligen, sino que en su
corazón son capaces de decidir" (Discurso en la Sesión del G7 sobre
Inteligencia Artificial, Borgo Egnazia (Puglia), 14 de junio de 2024, en: https://press.vatican.va/content/salastampa/it/bollettino/pubblico/2024/06/14/0504/01030.html#es).
De hecho,
el uso mismo de la palabra "inteligencia" en relación con la IA es un
nombre inapropiado, ya que la IA no es una forma artificial de inteligencia
humana, sino un producto de ella. Cuando se utiliza correctamente, la IA ayuda
a la persona humana a cumplir su vocación, en libertad y responsabilidad.
Al igual
que todas las demás actividades humanas y desarrollos tecnológicos, la IA debe
estar ordenada a la persona humana y formar parte de los esfuerzos para lograr
"una mayor justicia, una fraternidad más amplia y un orden más humano de
las relaciones sociales", que son "más valiosos que los avances en el
campo técnico" (Gaudium et spes, 35; cf. Catecismo de la Iglesia
Católica, 2293).
Sin
embargo, existe el riesgo de que la IA se utilice para promover el
"paradigma tecnocrático", que percibe que todos los problemas del
mundo se pueden resolver únicamente por medios tecnológicos. Dentro de este
paradigma, la dignidad humana y la fraternidad se subordinan con frecuencia en
la búsqueda de la eficiencia, como si la realidad, la bondad y la verdad
emanaran inherentemente del poder tecnológico y económico. Sin embargo, la
dignidad humana nunca debe ser violada en aras de la eficiencia. Los
desarrollos tecnológicos que no mejoran la vida de todos, sino que crean o
empeoran desigualdades y conflictos, no pueden llamarse verdaderos progresos.
Por ello, la IA debe ponerse al servicio de un desarrollo más sano, más humano,
más social e integral.
El
progreso marcado por los albores de la IA exige un redescubrimiento de la
importancia de la comunidad y un compromiso renovado con el cuidado de la casa
común que Dios nos ha confiado. Para navegar por las complejidades de la IA,
los gobiernos y las empresas deben ejercer la debida diligencia y vigilancia.
Deben evaluar críticamente las aplicaciones individuales de la IA en contextos
particulares para determinar si su uso promueve la dignidad humana, la vocación
de la persona humana y el bien común. Al igual que con muchas tecnologías, los
efectos de los diversos usos de la IA no siempre pueden ser predecibles desde
su inicio. A medida que la aplicación de la IA y su impacto social se vuelven
más claros con el tiempo, se deben dar respuestas adecuadas en todos los
niveles de la sociedad, de acuerdo con el principio de subsidiariedad, con los
usuarios individuales, las familias, la sociedad civil, las empresas, las
instituciones, los gobiernos y las organizaciones internacionales trabajando en
sus niveles adecuados para garantizar que la IA se dirija al bien de todos. Hoy
en día, existen importantes desafíos y oportunidades cuando la IA se coloca
dentro de un marco de inteligencia relacional, donde todos comparten la
responsabilidad del bienestar integral de los demás.
Con estos
sentimientos, expreso mis mejores deseos de oración para las deliberaciones del
Foro, y a todos los participantes invoco de buen grado la abundancia de las
bendiciones divinas.
Ciudad
del Vaticano, 14 de enero de 2025
Texto original:
Messaggio che il
Santo Padre Francesco ha inviato al Prof. Klaus Schwab, Presidente delWorld
Economic Forum, in occasione del raduno annuale in corso a Davos-Klosters,
in Svizzera, dal 20 al 24 gennaio 2025:
Messaggio
del Santo Padre
The theme
of this year’s annual meeting of the World Economic Forum, “Collaboration for
the Intelligent Age”, provides a good opportunity to reflect on Artificial
Intelligence as a tool not only for cooperation but also to bring peoples
together.
The
Christian tradition regards the gift of intelligence as an essential aspect of
the human person created “in the image of God”. At the same time, the Catholic
Church has always been a protagonist and a supporter of the advancement of
science, technology, the arts, and other forms of human endeavours, considering
them to be areas of “collaboration of man and woman with God in perfecting the
visible creation” (Catechism of the Catholic Church, 378).
AI is
intended to imitate the human intelligence that designed it, thus posing a
unique set of questions and challenges. Unlike many other human inventions, AI
is trained on the results of human creativity, which enables it to generate new
artefacts with a skill level and speed that often rival or surpasses human
capabilities, raising critical concerns about its impact on humanity’s role in
the world. Furthermore, the results that AI can produce are almost
indistinguishable from those of human beings, raising questions about its
effect on the growing crisis of truth in the public forum. Moreover, this
technology is designed to learn and make certain choices autonomously, adapting
to new situations and providing answers not foreseen by its programmers, thus
raising fundamental questions about ethical responsibility, human safety, and
the broader implications of these developments for society.
While AI is
an extraordinary technological achievement capable of imitating certain outputs
associated with human intelligence, this technology “makes a technical choice
among several possibilities based either on well-defined criteria or on
statistical inferences. Human beings, however, not only choose, but in their
hearts are capable of deciding” (Address at the G7 Session on Artificial
Intelligence, Borgo Egnazia (Puglia) 14 June 2024).
Indeed, the
very use of the word “intelligence” in connection with AI is a misnomer, since
AI is not an artificial form of human intelligence but a product of it. When
used correctly, AI assists the human person in fulfilling his or her vocation,
in freedom and responsibility.
As with all
other human activity and technological development, AI must be ordered to the
human person and become part of efforts to achieve “greater justice, more
extensive fraternity and a more humane order of social relations”, which are
“more valuable than advances in the technical field” (Gaudium et Spes, 35; cf. Catechism
of the Catholic Church, 2293).
There is,
however, the risk that AI will be used to advance the “technocratic paradigm”,
which perceives all the world’s problems as solvable through technological
means alone. Within this paradigm, human dignity and fraternity are frequently
subordinated in the pursuit of efficiency, as though reality, goodness, and
truth inherently emanate from technological and economic power. Yet human
dignity must never be violated for the sake of efficiency. Technological
developments that do not improve life for everyone, but instead create or
worsen inequalities and conflicts, cannot be called true progress. For this
reason, AI should be placed at the service of a healthier, more human, more
social and more integral development.
Progress
marked by the dawn of AI calls for a rediscovery of the importance of community
and a renewed commitment to care for the common home entrusted to us by God. To
navigate the complexities of AI, governments and businesses must exercise due
diligence and vigilance. They must critically evaluate the individual
applications of AI in particular contexts in order to determine whether its use
promotes human dignity, the vocation of the human person, and the common good.
As with many technologies, the effects of the various uses of AI may not always
be predictable from their inception. As the application of AI and its social
impact become clearer over time, appropriate responses should be made at all
levels of society, according to the principle of subsidiarity, with individual
users, families, civil society, corporations, institutions, governments, and
international organizations working at their proper levels to ensure that AI is
directed to the good of all. Today, there are significant challenges and opportunities
when AI is placed within a framework of relational intelligence, where everyone
shares responsibility for the integral well-being of others.
With these
sentiments, I offer my prayerful good wishes for the deliberations of the
Forum, and upon all taking part I willingly invoke an abundance of divine
blessings.
From the Vatican, 14 January 2025
El texto se encuentra publicado en: https://www.vatican.va/roman_curia/congregations/cfaith/documents/rc_ddf_doc_20250128_antiqua-et-nova_sp.html
DICASTERIO PARA LA DOCTRINA DE LA FE
DICASTERIO PARA LA CULTURA Y LA EDUCACIÓN
ANTIQUA ET NOVA
Nota sobre la relación entre la inteligencia artificial y la inteligencia humana
I. Introducción
1. [Antiqua et nova] Con antigua y nueva sabiduría (cf. Mt 13,52) estamos llamados a considerar los cotidianos desafíos y oportunidades propuestos por el saber científico y tecnológico, en particular los del reciente desarrollo de la inteligencia artificial (IA). La tradición cristiana considera que el don de la inteligencia es un aspecto esencial de la creación de los seres humanos «a imagen de Dios» (Gen 1,27). A partir de una visión integral de la persona y de la valoración de la llamada a «cultivar» y «custodiar» la tierra (cf. Gen 2,15), la Iglesia subraya que ese don debería encontrar su expresión a través de un uso responsable de la racionalidad y de la capacidad técnica al servicio del mundo creado.
2. La Iglesia promueve los progresos en la ciencia, en la tecnología, en las artes y en toda empresa humana, viéndolos como parte de la «colaboración del hombre y de la mujer con Dios en el perfeccionamiento de la creación visible»[1]. Como afirma el Sirácida, Dios «quien da la ciencia a los humanos, para que lo glorifiquen por sus maravillas» (Sir 38,6). Las habilidades y la creatividad del ser humano provienen de Él y, si se usan rectamente, a Él rinden gloria, en cuanto reflejo de Su sabiduría y bondad. Por lo tanto, cuando nos preguntamos qué significa “ser humanos”, no podemos excluir también la consideración de nuestras capacidades científicas y tecnológicas.
3. Es al interno de esta perspectiva que la presente Nota afronta las cuestiones antropológicas y éticas planteadas por la IA, cuestiones que son particularmente relevantes en cuanto que uno de los objetivos de esta tecnología es el de imitar la inteligencia humana que la ha diseñado. Por ejemplo, a diferencia de otras muchas creaciones humanas, la IA puede ser entrenada en producciones del ingenio humano y por tanto generar nuevos “artefactos” con un nivel de velocidad y habilidad que, con frecuencia, igualan o superan las capacidades humanas, como generar textos o imágenes que resultan indistinguibles de las composiciones humanas, suscitando, por tanto, preocupación por su posible influjo en la creciente crisis de verdad en el debate público. Además, como tal tecnología está diseñada para aprender y adoptar determinadas decisiones de forma autónoma, adecuándose a nuevas situaciones y aportando soluciones no previstas por sus programadores, se derivan problemas sustanciales de responsabilidad ética y de seguridad, con repercusiones más amplias para toda la sociedad. Esta nueva situación lleva a la humanidad a cuestionarse su identidad y su papel en el mundo.
4. Con todo, existe un amplio consenso en que la IA marca una nueva y significativa fase en la relación de la humanidad con la tecnología, situándose en el centro de lo que el Papa Francisco ha descrito como un «cambio de época»[2]. Su influencia se hace sentir a nivel global en una amplia gama de sectores, incluidas las relaciones personales, la educación, el trabajo, el arte, la sanidad, el derecho, la guerra y las relaciones internacionales. Puesto que la IA sigue avanzando rápidamente hacia cotas aún mayores, es de importancia decisiva considerar sus implicaciones antropológicas y éticas. Esto implica no sólo mitigar los riesgos y prevenir los daños, sino también garantizar que sus aplicaciones se dirijan a promover el progreso humano y el bien común.
5. Para contribuir positivamente a un discernimiento sobre la IA, en respuesta a la invitación de Papa Francisco a una renovada «sabiduría del corazón»[3], la Iglesia ofrece su experiencia a través de las reflexiones de la presente Nota que se concentran sobre el ámbito antropológico y ético. Empeñada en un papel activo al interno del debate general sobre estos temas, exhorta a cuantos tienen el encargo de transmitir la fe (padres, enseñantes, pastores y obispos) a dedicarse con cuidado y atención a esta cuestión urgente. Si bien está dirigido especialmente a ellos, el presente documento está pensado para ser accesible a un público más amplio, es decir, a aquellos que comparten la exigencia de un desarrollo científico y tecnológico que esté al servicio de la persona y del bien común[4].
6. Con tal propósito, se intenta sobre todo distinguir el concepto de “inteligencia” en referencia a la IA y al ser humano. En un primer momento, se considera la perspectiva cristiana sobre la inteligencia humana, ofreciendo un marco general de reflexión fundado sobre la tradición filosófica y teológica de la Iglesia. A continuación, se proponen algunas líneas de acción, con el objetivo de asegurar que el desarrollo y el uso de la IA respeten la dignidad humana y promuevan el desarrollo integral de la persona y de la sociedad.
II. ¿Qué es la Inteligencia Artificial?
7. El concepto de inteligencia en la IA ha evolucionado en el tiempo, recogiendo en sí mismo una multiplicidad de ideas provenientes de varias disciplinas. Si bien tiene raíces que se remontan a algunos siglos atrás, un momento importante de este desarrollo se produjo en el año 1956, cuando el informático estadounidense John McCarthy organizó un congreso veraniego en la Universidad de Dartmouth para afrontar el problema de la «Inteligencia Artificial», definido como «hacer una máquina capaz de mostrar un comportamiento que se calificaría de inteligente si fuera un ser humano quien lo produjera»[5]. El congreso lanzó un programa de investigación destinado a utilizar máquinas para realizar tareas típicamente asociadas al intelecto humano y al comportamiento inteligente.
8. Desde entonces, la investigación en este sector ha progresado rápidamente, llevando al desarrollo de sistemas complejos capaces de llevar a cabo tareas muy sofisticadas[6]. Estos sistemas de la llamada “IA débil” (narrow AI) están, generalmente, diseñados para desarrollar tareas limitadas y específicas, como traducir de una lengua a otra, prever la evolución de una tormenta, clasificar imágenes, ofrecer respuestas a preguntas, o generar imágenes a petición del usuario. Si bien en el campo de estudios de la IA se encuentra todavía una variedad de definiciones de “inteligencia”, la mayor parte de los sistemas contemporáneos, en particular aquellos que usan el aprendizaje automático, se basa sobre inferencias estadísticas más que sobre deducciones lógicas. Analizando grandes conjuntos de datos con el objetivo de identificar patrones, la IA puede “predecir”[7] los efectos y proponer nuevas vías de investigación, imitando así ciertos procesos cognitivos típicos de la capacidad humana de resolución de problemas. Tal logro ha sido posible gracias a los progresos de la tecnología informática (como las redes neuronales, el aprendizaje automático no supervisado y los algoritmos evolutivos) junto con las innovaciones en equipamiento (como los procesadores especializados). Estas tecnologías permiten a los sistemas de IA de responder a diferentes tipos de estímulos procedentes de los seres humanos, de adaptarse a nuevas situaciones e incluso ofrecer soluciones novedosas no previstas por los programadores originales[8].
9. Debido a estos rápidos avances, muchos trabajos que antes se realizaban exclusivamente por personas se confían ahora a la IA. Estos sistemas pueden complementar o incluso sustituir las capacidades humanas en muchos ámbitos, sobre todo en tareas especializadas como el análisis de datos, el reconocimiento de imágenes y el diagnóstico médico. Si bien cada aplicación de la IA “débil” se adapta para una tarea específica, muchos investigadores esperan llegar a la llamada “Inteligencia Artificial General” (Artificial General Intelligence, AGI), es decir a un único sistema, el cual, operando en todos los ámbitos cognitivos, sería capaz de realizar cualquier tarea al alcance de la mente humana. Algunos sostienen que una tal IA podría un día alcanzar el estado de “superinteligencia”, sobrepasando la capacidad intelectual humana, o contribuir a la “superlongevidad” gracias a los progresos de las biotecnologías. Otros temen que estas posibilidades, por hipotéticas que sean, eclipsen un día a la propia persona humana, mientras que otros acogen con satisfacción esta posible transformación[9].
10. Subyacente a estas y otras muchas opiniones sobre el tema, existe una presunción implícita de que la palabra “inteligencia” debe utilizarse del mismo modo para referirse tanto a la inteligencia humana como a la IA. Sin embargo, esto no parece reflejar el alcance real del concepto. En lo que respecta al ser humano, la inteligencia es de hecho una facultad relativa a la persona en su conjunto, mientras que, en el contexto de la IA, se entiende en un sentido funcional, asumiendo a menudo que las actividades características de la mente humana pueden descomponerse en pasos digitalizados, de modo que incluso las máquinas puedan replicarlas[10].
11. Esta perspectiva funcional queda ejemplificada en el Test de Turing, por el cual una maquina debe ser considerada “inteligente” si una persona no es capaz de distinguir su comportamiento de otro ser humano[11]. En particular, en este contexto, la palabra “comportamiento” se refiere a tareas intelectuales específicas, mientras que no tiene en cuenta la experiencia humana en toda su amplitud, que comprende tanto las capacidades de abstracción y las emociones, la creatividad, el sentido estético, moral y religioso, abrazando toda la variedad de manifestaciones de las que es capaz la mente humana. De ahí que, en el caso de la IA, la “inteligencia” de un sistema se evalúe, metodológica pero también reduccionistamente, en función de su capacidad para producir respuestas adecuadas, es decir, las que se asocian a la razón humana, independientemente de la forma en que se generen dichas respuestas.
12. Sus características avanzadas confieren a la IA capacidades sofisticadas para llevar a cabo tareas, pero no la de pensar[12]. Esta distinción tiene una importancia decisiva, porque el modo como se define la “inteligencia” va, inevitablemente, a determinar la comprensión de la relación entre el pensamiento humano y dicha tecnología[13]. Para darse cuenta de ello, hay que recordar que la riqueza de la tradición filosófica y de la teología cristiana ofrece una visión más profunda y completa de la inteligencia, que a su vez es central en la enseñanza de la Iglesia sobre la naturaleza, la dignidad y la vocación de la persona humana[14].
III. La inteligencia en la tradición filosófica y teológica
Racionalidad
13. Desde los albores de la reflexión de la humanidad sobre sí misma, la mente ha jugado un papel central en la comprensión de lo que significa ser “humanos”. Aristóteles observaba que «todos los seres humanos por naturaleza tienden al saber»[15]. Este saber humano, con su capacidad de abstracción que capta la naturaleza y el sentido de las cosas, le distingue del mundo animal[16]. La naturaleza exacta de la inteligencia ha sido objeto de las investigaciones de filósofos, teólogos y psicólogos, los cuales han examinado también el modo como el ser humano comprende el mundo y forma parte de él, al tiempo que ocupa un lugar peculiar en él. A través de esta investigación, la tradición cristiana ha llegado a entender la persona como un ser hecho de cuerpo y alma, ambos profundamente conectados a este mundo y, sin embargo, llegando más allá de él[17].
14. En la tradición clásica, el concepto de inteligencia suele declinarse en los términos complementarios de “razón” (ratio) e “intelecto” (intellectus). No se trata de facultades separadas, sino, como explica Santo Tomás de Aquino, de dos modos de obrar de la misma inteligencia: «el término intelecto se deduce de la íntima penetración de la verdad; mientras razón deriva de la investigación y del proceso discursivo»[18]. Esta sintética descripción permite poner en evidencia las dos prerrogativas fundamentales y complementarias de la inteligencia humana: el intellectus se refiere a la intuición de la verdad, es decir, al captarla con los “ojos” de la mente, que precede y sustenta la misma argumentación, mientras la ratio se refiere al razonamiento real, es decir, al proceso discursivo y analítico que conduce al juicio. Juntos, intelecto y razón, constituyen las dos caras del único acto del intelligere, «operación del hombre en cuanto hombre»[19].
15. Presentar al ser humano como ser “racional” no significa reducirlo a un modo específico de pensamiento, sino reconocer que la capacidad de comprensión intelectual de la realidad conforma e impregna todas sus actividades[20], constituyendo también, ejercitada en el bien o en el mal, un aspecto intrínseco de la naturaleza humana. En este sentido, la «palabra “racional” engloba todas las capacidades del ser humano: tanto la cognitiva como la volitiva, amar, elegir, desear. El término “racional” incluye también todas las capacidades corporales íntimamente relacionadas con las anteriores»[21]. Una perspectiva tan amplia pone de relieve cómo en la persona humana, creada a “imagen de Dios”, la racionalidad se integra para elevar, modelar y transformar tanto su voluntad como sus actos[22].
Encarnación
16. El pensamiento cristiano considera las facultades intelectuales en el marco de una antropología integral que concibe el ser humano como un ser esencialmente encarnado. En la persona humana, espíritu y materia «no son dos naturalezas unidas, sino que su unión constituye una única naturaleza»[23]. En otras palabras, el alma no es la “parte” inmaterial de la persona encerrada en el cuerpo, así como este no es la envoltura exterior de un “núcleo” sutil e intangible, sino que es todo el ser humano el que es, al mismo tiempo, material y espiritual. Este modo de pensar refleja la enseñanza de la Sagrada Escritura, que considera la persona humana como un ser que vive sus relaciones con Dios y con los otros, de ahí su dimensión típicamente espiritual, dentro y a través de esta existencia corpórea[24]. El significado profundo de esta condición recibe más luz del misterio de la Encarnación, por el que Dios mismo asumió nuestra carne que «ha sido elevada también en nosotros a dignidad sin igual»[25].
17. Aunque profundamente arraigada en una existencia corpórea, la persona humana trasciende el mundo material a través de su alma, que «es como si estuviera en el horizonte de la eternidad y el tiempo»[26]. A ella pertenecen la capacidad de trascendencia del intelecto y la auto posesión del libre albedrío, por lo que el ser humano «participa de la luz de la inteligencia divina»[27]. A pesar de ello, el espíritu humano no pone en práctica su modo normal de conocimiento sin el cuerpo[28]. De este modo, las capacidades intelectuales del ser humano forman parte integrante de una antropología que reconoce que él es «unidad de alma y cuerpo»[29]. A continuación, se desarrollarán otros aspectos de esta visión.
Relacionalidad
18. Los seres humanos «por su propia naturaleza están ordenados a la comunión interpersonal»[30], teniendo la capacidad de conocerse recíprocamente, de donarse por amor y de entrar en comunión con los otros. Por tanto, la inteligencia humana no es una facultad aislada, al contrario, se ejercita en las relaciones, encontrando su plena expresión en el dialogo, en la colaboración y en la solidaridad. Aprendemos con los otros, aprendemos gracias a los otros.
19. La orientación relacional de la persona humana se fundamenta en última instancia, en la donación eterna de sí mismo del Dios Uno y Trino, cuyo amor se revela tanto en la creación como en la redención[31]. La persona está llamada «a participar, por el conocimiento y el amor, en la vida de Dios»[32].
20. Esta vocación a la comunión con Dios va necesariamente unida a una llamada a la comunión con los otros. El amor a Dios no puede separarse del amor al prójimo (cf. 1Jn 4,20; Mt 22,37-39). En virtud de la gracia de participar de la vida de Dios, los cristianos llegan a ser imitadores del don desbordante de Cristo (cf. 2Cor 9,8-11; Ef 5,1-2) siguiendo su mandamiento: «que os améis unos a otros; como yo os he amado, amaos también unos a otros» (Jn 13,34)[33]. El amor y el servicio, que se hacen eco de la íntima vida divina de auto-donación, trascienden el interés propio para responder más plenamente a la vocación humana (cf. 1Jn 2,9). Aún más sublime que saber tantas cosas es el compromiso de cuidarnos los unos a los otros: «conociera todos los secretos y todo el saber […] pero no tengo amor, no sería nada» (1Cor 13, 2).
Relación con la Verdad
21. La inteligencia humana es, en definitiva, un «don de Dios otorgado para captar la verdad»[34]. En la doble acepción de intellectus-ratio, permite a la persona acceder a aquellas realidades que van más allá de la mera experiencia sensorial o de la utilidad, ya que «el deseo de verdad pertenece a la naturaleza misma del hombre. El interrogarse sobre el porqué de las cosas es inherente a su razón»[35]. Yendo más allá de los datos empíricos, la inteligencia humana «tiene capacidad para alcanzar la realidad inteligible con verdadera certeza»[36]. Incluso cuando la realidad se conozca sólo parcialmente, «el deseo de la verdad mueve […] a la razón a ir siempre más allá; queda incluso como abrumada al constatar que su capacidad es siempre mayor que lo que alcanza»[37]. Aunque la Verdad en sí misma excede los límites del intelecto humano, éste se siente sin embargo irresistiblemente atraído hacia ella[38] e impulsado por esta atracción, el ser humano se ve llevado a buscar «una verdad más profunda»[39].
22. Esta tensión innata a la búsqueda de la verdad se manifiesta de una manera especial en las capacidades típicamente humanas de comprensión semántica y de producción creativa[40], a través de las cuales esta búsqueda se desarrolla «de modo apropiado a la dignidad de la persona humana y a su naturaleza social»[41]. Asimismo, una orientación estable hacia la verdad es esencial para que la caridad sea auténtica y universal[42].
23. La búsqueda de la verdad alcanza su máxima expresión en la apertura a aquellas realidades que trascienden el mundo físico y creado. En Dios todas las verdades obtienen su sentido más elevado y original[43]. Confiar en Dios es «un momento de elección fundamental, en la cual está implicada toda la persona»[44]. De este modo, la persona se convierte en plenitud en aquello que está llamada a ser: «inteligencia y voluntad desarrollan al máximo su naturaleza espiritual para permitir que el sujeto cumpla un acto en el cual la libertad personal se vive de modo pleno»[45].
Custodia del mundo
24. La fe cristiana considera la creación un acto libre del Dios Uno y Trino, el cual, como explica san Buenaventura, crea «no para hacer crecer la propia gloria, sino para manifestarla y para comunicarla»[46]. Puesto que Dios crea según su Sabiduría (cf. Sab 9,9; Jer 10,12), el mundo creado esta empapado de un orden intrínseco que refleja su diseño (cf. Gen 1; Dn 2,21-22; Is 45,18; Sal 74,12-17; 104)[47], dentro del cual Él ha llamado a los seres humanos a asumir un papel peculiar: cultivar y hacerse cargo del mundo[48].
25. Plasmado por el divino Artesano, el ser humano vive su identidad de ser una imagen de Dios «custodiando» y «cultivando» (cf. Gen 2,15) la creación, ejercitando su inteligencia y su pericia para ayudarla y desarrollarla según el plan del Padre[49]. En esto, la inteligencia humana refleja la Inteligencia divina que creó todas las cosas (cf. Gen 1-2; Jn 1)[50], continuamente la sostiene y la guía a su fin último en Él[51]. Además, el ser humano está llamado a desarrollar sus capacidades en ciencia y en técnica porque en ellas Dios es glorificado (cf. Sir 38,6). Por lo tanto, en una relación adecuada con la creación, por un lado, los seres humanos emplean su inteligencia y habilidad para cooperar con Dios en guiar la creación hacia el propósito al que Él la ha llamado[52], mientras que, por otra parte, el mismo mundo, como observa san Buenaventura, ayuda a la mente humana a «ascender gradualmente, como por los distintos escalones de una escalera, hasta el sumo principio que es Dios»[53].
Una comprensión integral de la inteligencia humana
26. En este contexto, la inteligencia humana se muestra más claramente como una facultad que es parte integrante del modo en el que toda la persona se involucra en la realidad. Un auténtico involucrarse implica abarcar la totalidad del ser: espiritual, cognitivo, corporal y relacional.
27. Este interés al afrontar la realidad se manifiesta de varios modos, en cuanto que cada persona, en su unicidad multiforme[54], busca comprender el mundo, se relaciona con los otros, resuelve problemas, expresa su creatividad y busca el bienestar integral a través de la sinergia de las diferentes dimensiones de la inteligencia[55]. Esto implica capacidades lógicas y lingüísticas, pero también puede incluir otras formas de interactuar con la realidad. Pensemos en el trabajo del artesano, que «debe ser capaz de discernir en la materia inerte una forma particular que los demás no pueden reconocer»[56] y sacarla a la luz a través de su intuición y experiencia. Los pueblos indígenas, que viven cerca de la tierra, suelen tener un profundo sentido de la naturaleza y sus ciclos[57]. Del mismo modo, el amigo que sabe encontrar la palabra adecuada o la persona que sabe gestionar bien las relaciones humanas ejemplifican una inteligencia que es «producto de la reflexión, del diálogo y del encuentro generoso entre las personas»[58]. Como observa el Papa Francisco, «en el tiempo de la inteligencia artificial no podemos olvidar que para salvar lo humano hacen falta la poesía y el amor»[59].
28. En el corazón de la visión cristiana de la inteligencia está la integración de la verdad en la vida moral y espiritual de la persona, orientando sus acciones a la luz de la bondad y la verdad de Dios. Según el plan de Dios, la inteligencia entendida en sentido pleno incluye también la posibilidad de gustar de aquello que es verdadero, bueno y bello, por lo que se puede afirmar, con la palabras del poeta francés del siglo XX Paul Claudel, que «la inteligencia es nada sin deleite»[60]. Incluso Dante Alighieri, cuando alcanza el cielo más alto en el Paraíso, puede atestiguar que el culmen de este placer intelectual se encuentra en la «luz intelectual, plena de amor; / amor de verdadero bien, lleno de dicha; / dicha que trasciende toda dulzura»[61].
29. Una correcta concepción de la inteligencia humana, por tanto, no puede reducirse a la mera adquisición de hechos o a la capacidad de realizar determinadas tareas específicas; sino que implica la apertura de la persona a las cuestiones ultimas de la vida y refleja una orientación hacia lo Verdadero y lo Bueno[62]. Expresión en la persona de la imagen divina, la inteligencia es capaz de acceder a la totalidad del ser, es decir, de considerar la existencia en su integridad que no se agota en lo mensurable, captando así el sentido de lo que ha llegado a comprender. Para los creyentes, esta capacidad implica, de manera especial, la posibilidad de crecer en el conocimiento de los misterios de Dios a través de la profundización racional de las verdades reveladas (intellectus fidei)[63]. La verdadera intelligentia está moldeada por el amor divino, que «ha sido derramado en nuestros corazones por el Espíritu Santo» (Rm 5,5). De esto se deduce que la inteligencia humana posee una dimensión contemplativa esencial, es decir, una apertura desinteresada a lo que es Verdadero, Bueno y Bello, más allá de cualquier utilidad particular.
30. A la luz de cuanto se ha dicho, las diferencias entre la inteligencia humana y los actuales sistemas de IA parecen evidentes. Si bien, se trata de una extraordinaria conquista tecnológica capaz de imitar algunas acciones asociadas a la racionalidad, la IA obra solamente realizando tareas, alcanzando objetivos o tomando decisiones basadas sobre datos cuantitativos y sobre la lógica computacional. Con su potencia analítica, por ejemplo, destaca en la integración de datos procedentes de diversos campos, en la construcción de sistemas complejos y el fomento de vínculos interdisciplinarios. De este modo, podría facilitar la colaboración entre expertos para resolver problemas cuya complejidad es tal que «no se pueden abordar desde una sola mirada o desde un solo tipo de intereses»[64].
31. Sin embargo, aunque la IA procesa y simula ciertas expresiones de la inteligencia, permanece fundamentalmente confinada en un ámbito lógico-matemático, que le impone ciertas limitaciones inherentes. Mientras que la inteligencia humana se desarrolla continuamente de forma orgánica en el transcurso del crecimiento físico y psicológico de una persona y es moldeada por una miríada de experiencias vividas en el cuerpo, la IA carece de la capacidad de evolucionar en este sentido. Aunque los sistemas avanzados pueden “aprender” mediante procesos como el aprendizaje automático, este tipo de formación es esencialmente diferente del desarrollo de crecimiento de la inteligencia humana, ya que está moldeada por sus experiencias corporales: estímulos sensoriales, respuestas emocionales, interacciones sociales y el contexto único que caracteriza cada momento. Estos elementos configuran y modelan el individuo en su propia historia personal. En cambio, la IA, al carecer de cuerpo físico, se basa en el razonamiento computacional y el aprendizaje a partir de vastos conjuntos de datos que comprenden experiencias y conocimientos recogidos, en cualquier caso, por los seres humanos.
32. Por consiguiente, aunque la IA puede simular algunos aspectos del razonamiento humano y realizar ciertas tareas con increíble rapidez y eficacia, sus capacidades computacionales representan sólo una fracción de las posibilidades más amplias de la mente humana. Por ejemplo, actualmente no puede reproducir el discernimiento moral ni la capacidad de establecer relaciones auténticas. Además, la inteligencia de una persona forma parte de una historia personal de formación intelectual y moral, que configura fundamentalmente la perspectiva de la persona individual, implicando las dimensiones físicas, emocionales, sociales, morales y espirituales de su vida. Dado que la IA no puede ofrecer esta amplitud de comprensión, los enfoques basados únicamente en esta tecnología, o que la asumen como la principal forma de interpretar el mundo, pueden conducir a «perder el sentido de la totalidad, de las relaciones que existen entre las cosas, del horizonte amplio»[65].
33. La inteligencia humana no consiste, principalmente, en realizar tareas funcionales, sino en comprender e implicarse activamente en la realidad en todos sus aspectos, y también es capaz de sorprendentes intuiciones. Dado que la IA no posee la riqueza de la corporeidad, la relacionalidad y la apertura del corazón humano a la verdad y al bien, sus capacidades, aunque parezcan infinitas, son incomparables con las capacidades humanas de captar la realidad. Se puede aprender tanto de una enfermedad, como de un abrazo de reconciliación e incluso de una simple puesta de sol. Tantas cosas que experimentamos como seres humanos nos abren nuevos horizontes y nos ofrecen la posibilidad de alcanzar una nueva sabiduría. Ningún dispositivo, que sólo funciona con datos, puede estar a la altura de estas y otras tantas experiencias presentes en nuestras vidas.
34. Establecer una equivalencia demasiado fuerte entre la inteligencia humana y la IA conlleva el riesgo de sucumbir a una visión funcionalista, según la cual las personas son evaluadas en función de las tareas que pueden realizar. Sin embargo, el valor de una persona no depende de la posesión de capacidades singulares, logros cognitivos y tecnológicos o éxito individual, sino de su dignidad intrínseca basada en haber sido creada a imagen de Dios[66]. Por lo tanto, dicha dignidad permanece intacta más allá de toda circunstancia, incluso en aquellos que son incapaces de ejercer sus capacidades, ya sea un feto, una persona en estado de inconsciencia o un anciano que sufre[67]. Ella está en la base de la tradición de los derechos humanos – y específicamente de aquellos que hoy son denominados los “neuroderechos” – que «constituyen un punto de convergencia importante para la búsqueda de un terreno común»[68] y que, por tanto, puede servir de guía ética fundamental en los debates sobre el desarrollo y el uso responsables de la IA.
35. A la luz de esto, como observa el Papa Francisco, «el uso mismo de la palabra “inteligencia”» en referencia a la IA «es engañoso»[69] y corre el riesgo de descuidar lo más valioso de la persona humana. Desde esta perspectiva, la IA no debe verse como una forma artificial de la inteligencia, sino como uno de sus productos[70].
IV. El papel de la ética para guiar el desarrollo y el uso de la IA
36. Partiendo de estas consideraciones, cabe preguntarse cómo puede entenderse la IA dentro del designio de Dios. La actividad técnico-científica no tiene un carácter neutro, siendo una empresa humana que pone en cuestión las dimensiones humanísticas y culturales del ingenio humano[71].
37. Vista como fruto de las potencialidades inscritas en la inteligencia humana[72], la investigación científica y el desarrollo de habilidades técnicas forman parte de la «colaboración del hombre y de la mujer con Dios en el perfeccionamiento de la creación visible»[73]. Al mismo tiempo, todos los logros científicos y tecnológicos son, en última instancia, dones de Dios[74]. Por lo tanto, los seres humanos deben emplear siempre sus talentos con vistas al fin superior para el que Él se los ha concedido[75].
38. Podemos reconocer con gratitud como la tecnología ha «remediado innumerables males que dañaban y limitaban al ser humano»[76], y no podemos sino alegrarnos de ello. Sin embargo, no todas las innovaciones tecnológicas representan en sí mismas un auténtico progreso[77]. Por ello, la Iglesia se opone especialmente a aquellas aplicaciones que atentan contra la santidad de la vida o la dignidad de la persona[78]. Como cualquier otra empresa humana, el desarrollo tecnológico debe estar al servicio del individuo y contribuir a los esfuerzos para lograr «más justicia, mayor fraternidad y un más humano planteamiento en los problemas sociales», que «vale más que los progresos técnicos»[79]. La preocupación por las implicaciones éticas del desarrollo tecnológico es compartida no sólo en el seno de la Iglesia, sino también por científicos, estudiosos de la tecnología y asociaciones profesionales, que reclaman cada vez más una reflexión ética para orientar ese progreso de manera responsable.
39. Para responder a estos desafíos, hay que llamar la atención sobre la importancia de la responsabilidad moral basada en la dignidad y la vocación de la persona. Este principio es válido también para las cuestiones relativas a la IA. En este ámbito, la dimensión ética es primordial, ya que son las personas las que diseñan los sistemas y determinan para qué se utilizan[80]. Entre una máquina y un ser humano, sólo este último es verdaderamente un agente moral, es decir, un sujeto moralmente responsable que ejerce su libertad en sus decisiones y acepta las consecuencias de las mismas[81]; sólo el ser humano está en relación con la verdad y el bien, guiado por la conciencia moral que le llama a «amar y practicar el bien y que debe evitar el mal»[82], certificando «la autoridad de la verdad con referencia al Bien supremo por el cual la persona humana se siente atraída»[83]; sólo el ser humano puede ser lo suficientemente consciente de sí mismo como para escuchar y seguir la voz de la conciencia, discerniendo con prudencia y buscando el bien posible en cada situación[84]. En realidad, esto también pertenece al ejercicio de la inteligencia por parte de la persona.
40. Como cualquier producto del ingenio humano, la IA también puede orientarse hacia fines positivos o negativos[85]. Cuando se utiliza de manera que respete la dignidad humana y promueva el bienestar de los individuos y las comunidades, puede contribuir favorablemente a la vocación humana. Sin embargo, como en todas las esferas en las que los seres humanos están llamados a tomar decisiones, la sombra del mal también se extiende aquí. Allí donde la libertad humana permite la posibilidad de elegir lo que es malo, la valoración moral de esta tecnología depende de cómo sea orientada y empleada.
41. Ahora bien, no son sólo los fines, sino también los medios empleados para alcanzarlos los que son éticamente significativos; también son importantes la visión global y la comprensión de la persona integrada en tales sistemas. Los productos tecnológicos reflejan la visión del mundo de sus creadores, propietarios, usuarios y reguladores[86], y con su poder «modelan el mundo y comprometen a las conciencias en el ámbito de los valores»[87]. A nivel social, algunos avances tecnológicos también podrían reforzar relaciones y dinámicas de poder que no se ajustan a una visión correcta de la persona y la sociedad.
42. Por eso, tanto los fines como los medios utilizados en una determinada aplicación de la IA, así como la visión global que encarna, deben evaluarse para garantizar que respetan la dignidad humana y promueven el bien común[88]. De hecho, como ha dicho el Papa Francisco, la «dignidad intrínseca de todo hombre y mujer» debe ser «el criterio clave para evaluar las tecnologías emergentes, que revelan su positividad ética en la medida en que contribuyen a manifestar esa dignidad y a incrementar su expresión, en todos los niveles de la vida humana»[89], incluida la esfera social y económica. En este sentido, la inteligencia humana desempeña un papel crucial no solo en el diseño y en la producción de la tecnología, sino también a la hora de orientar su uso en función del bien auténtico de la persona[90]. La responsabilidad de ejercer sabiamente esta gestión corresponde a cada nivel de la sociedad, bajo la guía del principio de subsidiariedad y de los demás principios de la Doctrina Social de la Iglesia.
Una ayuda a la libertad humana y a las decisiones
43. El compromiso de garantizar que la IA defienda y promueva siempre el valor supremo de la dignidad de todo ser humano y la plenitud de su vocación es un criterio de discernimiento que afecta a desarrolladores, propietarios, operadores y reguladores, así como a los usuarios finales, y sigue siendo válido para cualquier empleo de la tecnología en todos los niveles de su uso.
44. Un análisis de las implicaciones de este principio, por tanto, podría comenzar tomando en consideración la importancia de la responsabilidad moral. Dado que una causalidad moral en sentido pleno sólo pertenece a los agentes personales, no a los artificiales, es de suma importancia poder identificar y definir quién es responsable de los procesos de IA, en particular de aquellos que incluyen posibilidades de aprendizaje, corrección y reprogramación. Si bien, por un lado, los métodos empíricos (bottom-up) y las redes neuronales muy profundas permiten a la IA resolver problemas complejos, por otro lado, dificultan la comprensión de los procesos que condujeron a tales soluciones. Esto complica la determinación de responsabilidades ya que, si una aplicación de IA produjera resultados no deseados, sería difícil determinar a qué persona atribuirlos. Para resolver este problema, hay que prestar atención a la naturaleza de los procesos de atribución de responsabilidad (accountability) en contextos complejos y altamente automatizados, en los que los resultados a menudo sólo son observables a medio o largo plazo. Por lo tanto, es importante que quienes tomen decisiones basándose en la IA se hagan responsables de ellas y que sea posible dar cuenta del uso de la IA en cada fase del proceso de toma de decisiones[91].
45. Además de determinar las responsabilidades, se deben establecer los fines que se asignan a los sistemas de IA. Aunque estos puedan utilizar mecanismos de aprendizaje autónomo no supervisado y a veces seguir caminos que no pueden reconstruirse, en última instancia persiguen objetivos que les han sido asignados por los humanos y se rigen por procesos establecidos por quienes los diseñaron y programaron. Esto representa un desafío, ya que, a medida que los modelos de IA son cada vez más capaces de aprendizaje independiente, puede reducirse de hecho la posibilidad de ejercer un control sobre ellos para garantizar que dichas aplicaciones estén al servicio de los fines humanos. Esto plantea el problema crítico de cómo garantizar que los sistemas de IA se ordenen para el bien de las personas y no contra ellas.
46. Si un uso ético de los sistemas de IA cuestiona, en primer lugar, a quienes los desarrollan, producen, gestionan y supervisan, también es compartida esta responsabilidad por los usuarios. En efecto, como observa el Papa Francisco, «lo que hace la máquina es una elección técnica entre varias posibilidades y se basa en criterios bien definidos o en inferencias estadísticas. El ser humano, en cambio, no sólo elige, sino que en su corazón es capaz de decidir»[92]. Quien utiliza la IA para realizar un trabajo y sigue los resultados crea un contexto en el que él, en última instancia, es responsable del poder que ha delegado. Por lo tanto, en la medida en que la IA puede asistir a los seres humanos a tomar decisiones, los algoritmos que la guían deben ser fiables, seguros, lo suficientemente robustos como para manejar inconsistencias y transparentes en su funcionamiento para mitigar sesgos (bias) y efectos secundarios indeseados[93]. Los marcos normativos deben garantizar que todas las personas jurídicas puedan dar cuenta del uso de la IA y de todas sus consecuencias, con medidas adecuadas para salvaguardar la transparencia, la privacidad y la responsabilidad (accountability)[94]. Además, los usuarios deben tener cuidado de no depender excesivamente de la IA para sus decisiones, aumentando el ya alto grado de subordinación a la tecnología que caracteriza a la sociedad contemporánea.
47. La enseñanza moral y social de la Iglesia ayuda a proponer un uso de la IA que preserve la capacidad humana de acción. Las consideraciones relacionadas con la justicia, por ejemplo, deben abordar cuestiones como el fomento de dinámicas sociales justas, la defensa de la seguridad internacional y la promoción de la paz. Ejerciendo la prudencia, los individuos y las comunidades pueden discernir cómo utilizar la IA en beneficio de la humanidad, evitando al mismo tiempo aplicaciones que puedan menoscabar la dignidad humana o dañar el planeta. En este contexto, el concepto de “responsabilidad” debe entenderse no sólo en su sentido más estricto, sino «hacerse cargo del otro, y no solo […] dar cuenta de aquello que se ha hecho»[95].
48. Por lo tanto, la IA, como cualquier tecnología, puede formar parte de una respuesta consciente y responsable a la vocación de la humanidad al bien. Sin embargo, como ya se ha dicho, debe ser dirigida por la inteligencia humana para alinearse con esa vocación, garantizando el respeto a la dignidad de la persona. Reconociendo esta «eminente dignidad», el Concilio Vaticano II afirma que «el orden social […] y su progresivo desarrollo deben en todo momento subordinarse al bien de la persona»[96]. A la luz de esto, el uso de la IA, como ha dicho el Papa Francisco, debe venir acompañado «de una ética basada en una visión del bien común, una ética de libertad, responsabilidad y fraternidad, capaz de favorecer el pleno desarrollo de las personas en relación con los demás y con la creación»[97].
V. Cuestiones específicas
49. Dentro de esta perspectiva general, a continuación, algunas observaciones ilustrarán cómo los argumentos expuestos pueden contribuir a orientar en situaciones concretas, de acuerdo con la «sabiduría del corazón» propuesta por Papa Francisco[98]. Aun no siendo exhaustiva, esta propuesta se ofrece al servicio de un diálogo que busca identificar aquellas modalidades en las que la IA puede defender la dignidad humana y promover el bien común[99].
La IA y la sociedad
50. Como ha dicho el Papa Francisco «la dignidad intrínseca de cada persona y la fraternidad que nos vincula como miembros de una única familia humana, deben estar en la base del desarrollo de las nuevas tecnologías y servir como criterios indiscutibles para valorarlas antes de su uso»[100].
51. Considerada en esta óptica, la IA podría «introducir importantes innovaciones en la agricultura, la educación y la cultura, un mejoramiento del nivel de vida de enteras naciones y pueblos, el crecimiento de la fraternidad humana y de la amistad social», y por tanto ser «utilizada para promover el desarrollo humano integral»[101]. También podría ayudar a las organizaciones a identificar a las personas que se encuentran en estado de necesidad y a contrarrestar los casos de discriminación y marginación. De ésta y otras formas similares, la IA podría contribuir al desarrollo humano y al bien común[102].
52. Sin embargo, aunque la IA encierra muchas posibilidades para el bien, también puede obstaculizar o incluso oponerse al desarrollo humano y al bien común. El Papa Francisco ha observado que «los datos disponibles hasta ahora parezcan sugerir que las tecnologías digitales han servido para aumentar las desigualdades en el mundo. No sólo las diferencias de riqueza material, que son importantes, sino también las diferencias de acceso a la influencia política y social»[103]. En este sentido, la IA podría usarse para prolongar las situaciones de marginación y discriminación, para crear nuevas formas de pobreza, para agrandar la “brecha digital” y agravar las desigualdades sociales[104].
53. Además, el hecho de que, actualmente, la mayor parte del poder sobre las principales aplicaciones de la IA esté concentrado en manos de unas pocas y poderosas empresas plantea importantes problemas éticos. Para agravar este problema está también la naturaleza inherente de los sistemas de IA, en los que ningún individuo puede tener una supervisión completa de los vastos y complejos conjuntos de datos utilizados para el cálculo. Esta falta de una responsabilidad (accountability) bien definida produce el riesgo que la IA pueda ser manipulada para ganancias personales o empresariales, o para orientar la opinión pública hacia los intereses de un sector. Tales entidades, motivadas por sus propios intereses, poseen la capacidad de ejercer «formas de control tan sutiles como invasivas, creando mecanismos de manipulación de las conciencias y del proceso democrático»[105].
54. Además de esto, existe el riesgo de que la IA se utilice para promover lo que el Papa Francisco ha llamado «paradigma tecnocrático», que tiende a resolver todos los problemas del mundo sólo con medios tecnológicos[106]. Según este paradigma, la dignidad humana y la fraternidad, a menudo, se dejan de lado en nombre de la eficacia, «como si la realidad, el bien y la verdad brotaran espontáneamente del mismo poder tecnológico y económico»[107]. Por el contrario, la dignidad humana y el bien común nunca deben abandonarse en nombre de la eficacia[108], mediante «los desarrollos tecnológicos que no llevan a una mejora de la calidad de vida de toda la humanidad, sino que, por el contrario, agravan las desigualdades y los conflictos, no podrán ser considerados un verdadero progreso»[109]. Más bien, la IA debe ponerse «al servicio de otro tipo de progreso más sano, más humano, más social, más integral»[110].
55. Para alcanzar este objetivo es necesaria una reflexión más profunda sobre la relación entre autonomía y responsabilidad, ya que una mayor autonomía conlleva una mayor responsabilidad de cada persona en los diversos aspectos de la vida en común. Para los cristianos, el fundamento de esta responsabilidad es el reconocimiento de que toda capacidad humana, incluida la autonomía de la persona, procede de Dios y está destinada a ser puesta al servicio de los demás[111]. Por lo tanto, en lugar de perseguir únicamente objetivos económicos o tecnológicos, la IA debe utilizarse en favor del «bien común de toda la familia humana», es decir del conjunto «de condiciones de la vida social que hacen posible a las asociaciones y a cada uno de sus miembros el logro más pleno y más fácil de la propia perfección»[112].
La IA y las relaciones humanas
56. El Concilio Vaticano II afirma que el ser humano es por «su íntima naturaleza, un ser social, y no puede vivir ni desplegar sus cualidades sin relacionarse con los demás»[113]. Esta convicción subraya que la vida en sociedad pertenece a la naturaleza y a la vocación de la persona[114]. Como seres sociales, los seres humanos buscan relaciones que impliquen el intercambio recíproco y la búsqueda de la verdad, «unos exponen a otros la verdad que han encontrado o creen haber encontrado, para ayudarse mutuamente en la búsqueda de la verdad»[115].
57. Esta búsqueda, junto con otros aspectos de la comunicación humana, presupone el encuentro y intercambio mutuo entre personas que llevan dentro la impronta de las propias historias, de los propios pensamientos, convicciones y relaciones. Tampoco podemos olvidar que la inteligencia humana es una realidad múltiple, plural y compleja: individual y social; racional y afectiva; conceptual y simbólica. El Papa Francisco pone en evidencia esta dinámica, señalando como «podemos buscar juntos la verdad en el diálogo, en la conversación reposada o en la discusión apasionada. Es un camino perseverante, hecho también de silencios y de sufrimientos, capaz de recoger con paciencia la larga experiencia de las personas y de los pueblos. […] El problema es que un camino de fraternidad, local y universal, sólo puede ser recorrido por espíritus libres y dispuestos a encuentros reales»[116].
58. Es en este contexto, donde se pueden considerar los desafíos puestos por la IA a las relaciones. Al igual que otros medios tecnológicos, la IA tiene la capacidad de favorecer las conexiones dentro de la familia humana. Sin embargo, la IA también podría obstaculizar un verdadero encuentro con la realidad y, en definitiva, llevar a las personas a «una profunda y melancólica insatisfacción en las relaciones interpersonales, o un dañino aislamiento»[117]. Las auténticas relaciones humanas, por el contrario, requieren la riqueza humana de saber estar con los demás, compartiendo su dolor, sus exigencias y su alegría[118]. Dado que la inteligencia humana también se expresa y enriquece a través de formas interpersonales y encarnadas, los encuentros auténticos y espontáneos con los demás son indispensables para comprometerse con la realidad en su totalidad.
59. Porque «la verdadera sabiduría supone el encuentro con la realidad»[119], los progresos de la IA lanzan un desafío posterior: dado que es capaz de imitar con eficacia los trabajos de la inteligencia humana, ya no se puede dar por sentado si se está interactuando con un ser humano o con una máquina. Aunque la IA “generativa” es capaz de producir texto, voz, imágenes y otros output avanzados que suelen ser obra de seres humanos, hay que considerarla como lo que es: una herramienta, no una persona[120]. Esta distinción se ve a menudo oscurecida por el lenguaje utilizado por los profesionales, que tiende a antropomorfizar la IA y difumina así la línea que separa lo humano de lo artificial.
60. La antropomorfización de la IA plantea problemas particulares para el crecimiento de los niños, que pueden sentirse alentados a desarrollar patrones de interacción que entiendan las relaciones humanas de forma utilitaria, como es el caso de los chatbots. Tales enfoques corren el riesgo de inducir a los más jóvenes a percibir a los profesores como dispensadores de información y no como maestros que les guían y apoyan en su crecimiento intelectual y moral. Las relaciones auténticas, arraigadas en la empatía y en un compromiso leal con el bien del otro, son esenciales e insustituibles para fomentar el pleno desarrollo de la persona. Relaciones genuinas, enraizadas en la empatía y con un compromiso leal por el bien del otro, son esenciales e insustituibles para favorecer el pleno desarrollo de la persona.
61. En este contexto, es importante aclarar – aunque con frecuencia se recurre a una terminología antropomórfica – que ninguna aplicación de la IA es capaz de sentir de verdad empatía. Las emociones no se pueden reducir a expresiones faciales o frases generadas en respuesta a las peticiones del usuario; en cambio, las emociones se entienden en el modo como una persona, en su totalidad, se relaciona con el mundo y con su propia vida, con el cuerpo que juega un papel central. La empatía requiere la capacidad de escuchar, de reconocer la irreductible singularidad del otro, de acoger su alteridad y, también, de comprender el significado de sus silencios[121]. En contraste con la esfera de los juicios analíticos, donde predomina la IA, la verdadera empatía existe en la esfera relacional. Pone en tela de juicio la percepción y la apropiación de la experiencia del otro, al tiempo que mantiene la distinción de cada individuo[122]. Aunque la IA puede simular respuestas empáticas, los sistemas artificiales no pueden reproducir la naturaleza personal y relacional de la empatía genuina[123].
62. Por lo tanto, siempre se debería evitar representar, en modo equivocado, a la IA como una persona, y hacerlo con fines fraudulentos constituye una grave violación ética que podría erosionar la confianza social. Del mismo modo, utilizar la IA para engañar en otros contextos – como la educación o las relaciones humanas, incluida la esfera de la sexualidad –debe considerarse inmoral y requiere una cuidadosa vigilancia para prevenir posibles daños, mantener la transparencia y garantizar la dignidad de todos[124].
63. En un mundo siempre más individualista, algunos recurren a la IA en busca de relaciones humanas profundas, de simple compañía o incluso de relaciones afectivas. Sin embargo, aun reconociendo que los seres humanos están hechos para experimentar relaciones auténticas, hay que reiterar que la IA solo puede simularlas. Estas relaciones con otros seres humanos son parte integrante del modo como una persona humana crece hasta convertirse en lo que está destinada a ser. Por tanto, si la IA es usada para favorecer contactos genuinos entre las personas, puede contribuir positivamente a la plena realización de la persona; por el contrario, si en lugar de esas relaciones y de la vinculación con Dios se sustituyen las relaciones por los medios tecnológicos, corremos el riesgo de sustituir la auténtica relacionalidad por un simulacro sin vida (cf. Sal 160,20; Rm 1,22-23). En lugar de replegarnos en mundos artificiales, estamos llamados a implicarnos de manera seria y comprometida con la realidad, hasta el punto de identificarnos con los pobres y los que sufren, para consolar a quien está en el dolor y crear lazos de comunión con todos.
IA, economía y trabajo
64. Dada su naturaleza transversal, la IA también encuentra una creciente aplicación en los sistemas económico-financieros. En la actualidad, las mayores inversiones m se observan, además de en el sector tecnológico, en los de la energía, las finanzas y los medios de comunicación, con especial referencia a las áreas de marketing y ventas, logística, innovación tecnológica, compliance y gestión de riesgos. De la aplicación en estos ámbitos emerge la naturaleza ambivalente de la IA, como fuente de enormes oportunidades pero también de profundos riesgos. Una primera crítica real se deriva de la posibilidad de que, debido a la concentración de la oferta en unas pocas empresas, sean éstas las únicas que se beneficien del valor creado por la IA y no las empresas en las que se utiliza.
65. Por otra parte, en el ámbito económico-financiero, hay aspectos más generales sobre los que la IA puede producir efectos que deben evaluarse cuidadosamente, vinculados sobre todo a la interacción entre la realidad concreta y el mundo digital. Un primer punto a considerar se refiere a la coexistencia de instituciones económicas y financieras que se presentan en un contexto determinado bajo formas diferentes y alternativas. Se trata de un factor a promover, ya que podría traer consigo beneficios en términos de apoyo a la economía real, favoreciendo su desarrollo y estabilidad, especialmente en tiempos de crisis. Sin embargo, hay que subrayar que las realidades digitales, al estar libres de limitaciones espaciales, tienden a ser más homogéneas e impersonales en comparación con una comunidad ligada a un lugar concreto y a una historia concreta, con una trayectoria común caracterizada por valores y esperanzas compartidos, pero también por desacuerdos y divergencias inevitables. Esta diversidad es un recurso innegable para la vida económica de una comunidad. Entregar la economía y las finanzas por completo en manos de la tecnología digital significaría reducir esta variedad y riqueza, de modo que muchas soluciones a los problemas económicos, accesibles a través de un diálogo natural entre las partes implicadas, podrían dejar de ser viables en un mundo dominado por procedimientos y proximidades sólo aparentes.
66. Otro ámbito en el que el impacto de la IA ya se deja sentir profundamente es el mundo del trabajo. Como en muchos otros ámbitos, está provocando transformaciones sustanciales en muchas profesiones con efectos diversos. Por un lado, la IA tiene el potencial de aumentar las competencias y la productividad, ofreciendo la posibilidad de crear puestos de trabajo, permitiendo a los trabajadores concentrarse en tareas más innovadoras y abriendo nuevos horizontes a la creatividad y la inventiva.
67. Sin embargo, mientras la IA promete impulsar la productividad haciéndose cargo de tareas ordinarias, a menudo los trabajadores se ven obligados a adaptarse a la velocidad y las exigencias de las máquinas, en lugar de que éstas últimas estén diseñadas para ayudar a quienes trabajan. Así, contrariamente a los beneficios anunciados de la IA, los enfoques actuales de la tecnología pueden, paradójicamente, desespecializar a los trabajadores, someterlos a una vigilancia automatizada y relegarlos a tareas rígidas y repetitivas. La necesidad de seguir el ritmo de la tecnología puede erosionar el sentido de la propia capacidad de obrar de los trabajadores y ahogar las capacidades innovadoras que están llamados a aportar en su trabajo[125].
68. La IA está eliminando la necesidad de ciertas tareas que antes realizaban los seres humanos. Si se utiliza para sustituir a los trabajadores humanos en lugar de acompañarlos, existe «el riesgo sustancial de un beneficio desproporcionado para unos pocos a costa del empobrecimiento de muchos»[126]. Además, a medida que la IA se hace más poderosa, también existe el peligro asociado de que el trabajo pierda su valor en el sistema económico. Esta es la consecuencia lógica del paradigma tecnocrático: el mundo de una humanidad supeditada a la eficacia, en el que, en última instancia, hay que recortar el coste de esa humanidad. En cambio, las vidas humanas son preciosas en sí mismas, más allá de su rendimiento económico. El Papa Francisco constata que, como consecuencia de este paradigma, hoy en día «no parece tener sentido invertir para que los lentos, débiles o menos dotados puedan abrirse camino en la vida»[127]. Y debemos concluir con él que «no podemos permitir que una herramienta tan poderosa e indispensable como la inteligencia artificial refuerce tal paradigma, sino que más bien debemos hacer de la inteligencia artificial un baluarte precisamente contra su expansión»[128].
69. Por esto, esta bien recordar siempre que «el orden real debe someterse al orden personal, y no al contrario»[129]. Por lo tanto, el trabajo humano debe estar no sólo al servicio del beneficio, sino «del hombre, del hombre integral, teniendo en cuanta sus necesidades materiales y sus exigencias intelectuales, morales, espirituales y religiosas»[130]. En este contexto, la Iglesia reconoce cómo el trabajo es «no sólo […] un modo de ganarse el pan», sino también «una dimensión irrenunciable de la vida social» y «un cauce para el crecimiento personal, para establecer relaciones sanas, para expresarse a sí mismo, para compartir dones, para sentirse corresponsable en el perfeccionamiento del mundo, y en definitiva para vivir como pueblo»[131].
70. Porque el trabajo es «parte del sentido de la vida en esta tierra, camino de maduración, de desarrollo humano y de realización personal», «no debe buscarse que el progreso tecnológico reemplace cada vez más el trabajo humano, con lo cual la humanidad se dañaría a sí misma»[132], más bien, hay que esforzarse por promoverla. Desde este punto de vista, la IA debe ayudar al juicio humano y no sustituirlo, del mismo modo que nunca debe degradar la creatividad ni reducir a los trabajadores a meros «engranajes de una máquina». Por tanto, «el respeto de la dignidad de los trabajadores y la importancia de la ocupación para el bienestar económico de las personas, las familias y las sociedades, la seguridad de los empleos y la equidad de los salarios deberían constituir una gran prioridad para la comunidad internacional, a medida que estas formas de tecnología se van introduciendo cada vez más en los lugares de trabajo»[133].
La IA y la sanidad
71. En cuanto partícipes de la obra sanadora de Dios, los operadores sanitarios tienen la vocación y la responsabilidad de ser «custodios y servidores de la vida humana»[134]. Por eso, la profesión sanitaria tiene una «intrínseca e imprescindible dimensión ética», tal y como reconoce el Juramento Hipocrático, que exige a los médicos y profesionales sanitarios que se comprometan a «respetar absolutamente la vida humana y su carácter sagrado»[135]. Este compromiso, con el ejemplo del Buen Samaritano, debe desarrollarse por hombres y mujeres «que no dejan que se erija una sociedad de exclusión, sino que se hacen prójimos y levantan y rehabilitan al caído, para que el bien sea común»[136].
72. Considerada en esta óptica, la IA parece tener un enorme potencial en diversas aplicaciones del ámbito médico, por ejemplo, para ayudar en la actividad diagnóstica de los profesionales sanitarios, facilitando la relación entre pacientes y personal médico, ofreciendo nuevos tratamientos y ampliando el acceso a una atención de calidad incluso para quienes sufren situaciones de aislamiento o de marginalidad. De este modo, la tecnología podría mejorar la «cercanía llena de compasión y de ternura»[137] del personal sanitario hacia los enfermos y los que sufren.
73. Sin embargo, si la IA se utilizara no para mejorar, sino para sustituir por completo la relación entre pacientes y profesionales sanitarios, dejando que los primeros interactuasen con una máquina en lugar de con un ser humano, se verificaría la reducción de una estructura relacional humana muy importante en un sistema centralizado, impersonal y desigual. En lugar de fomentar la solidaridad con los enfermos y los que sufren, estas aplicaciones de IA correrían el riesgo de agravar la soledad que suele acompañar a la enfermedad, sobre todo en el contexto de una cultura en la que «no se considera ya a las personas como un valor primario que hay que respetar y amparar»[138]. Un tal uso de estos sistemas no sería conforme con el respeto de la dignidad de la persona y la solidaridad con los que sufren.
74. La responsabilidad por el bienestar del paciente y las decisiones relacionadas que afectan a su vida constituyen el núcleo de la profesión sanitaria. Esta responsabilidad exige que el personal médico ejerza toda su capacidad e inteligencia para poner en práctica decisiones ponderadas y éticamente motivadas con respecto a las personas confiadas a su cuidado, respetando siempre la dignidad inviolable del paciente y el principio del consentimiento informado. En consecuencia, las decisiones relativas al tratamiento de los pacientes y la carga de responsabilidad asociada deben permanecer siempre en manos de las personas y nunca delegarse en la IA[139].
75. Además de esto, el uso de la IA para determinar quién debe recibir tratamiento, basándose principalmente en criterios económicos o de eficacia, es un caso especialmente problemático de “paradigma tecnocrático” que debe rechazarse[140]. De hecho, «optimizar los recursos significa usarlos de manera ética y solidaria y no penalizar a los más frágiles»[141]; por no mencionar que, en este ámbito, dichos instrumentos están expuestos «a formas de prejuicio y discriminación. Los errores sistémicos pueden multiplicarse fácilmente, produciendo no sólo injusticias en casos concretos sino también, por efecto dominó, auténticas formas de desigualdad social»[142].
76. Además, la integración de la IA en la atención sanitaria también plantea el riesgo de amplificar otras desigualdades ya existentes en el acceso a la atención. Dado que la atención sanitaria se centra cada vez más en la prevención y en los enfoques basados en el estilo de vida, puede darse el caso de que las soluciones impulsadas por la IA puedan involuntariamente favorecer a las poblaciones más acomodadas, que ya disfrutan de un mayor acceso a los recursos médicos y a una nutrición de calidad. Esta tendencia corre el riesgo de reforzar el modelo de una “medicina para ricos”, en la que las personas provistas de medios económicos se benefician de instrumentos avanzados de prevención y de información médica personalizada, mientras que a otros les cuesta acceder incluso a los servicios básicos. Por lo tanto, se necesitan marcos de gestión equitativos para garantizar que el uso de la IA en la atención sanitaria no agrave las desigualdades existentes, sino que esté al servicio del bien común.
IA y educación
77. Mantienen una plena actualidad las palabras del Concilio Vaticano II: «a verdadera educación se propone la formación de la persona humana en orden a su fin último y al bien de las varias sociedades, de las que el hombre es miembro»[143]. De ello se deduce que la educación«no es nunca un simple proceso de transmisión de conocimientos y de habilidades intelectuales, sino que pretende contribuir a la formación integral de la persona en sus diversas dimensiones (intelectual, cultural, espiritual…) incluyendo, por ejemplo, la vida comunitaria y las relaciones vividas en el seno de la comunidad académica»[144], en el respeto a la naturaleza y la dignidad de la persona humana.
78. Este enfoque implica un compromiso a formar la mente, pero siempre como parte del desarrollo integral de la persona: «Tenemos que romper ese imaginario sobre la educación, según el cual educar es llenar la cabeza de ideas. Así educamos autómatas, macrocéfalos, no personas. Educar es arriesgarse en la tensión entre la cabeza, el corazón y las manos»[145].
79. En el centro de este trabajo de formación de la persona humana integral está la relación indispensable entre maestro y alumno. Los profesores no se limitan a transmitir conocimientos, sino que son también modelos de las principales cualidades humanas e inspiradores de la alegría del descubrimiento[146]. Su presencia motiva a los alumnos tanto por los contenidos que imparten como por la atención que muestran hacia ellos. Este vínculo favorece la confianza, la comprensión recíproca y la capacidad de abordar la dignidad única y el potencial de cada individuo. En el alumno, esto puede generar un auténtico deseo de crecer. La presencia física del maestro crea una dinámica relacional que la IA no puede replicar, una dinámica que profundiza el compromiso y nutre el desarrollo integral del alumno.
80. En este contexto, la IA presenta tanto oportunidades como desafíos. Si se utiliza con prudencia, dentro de una auténtica relación entre maestro y alumno y ordenada a los auténticos fines de la educación, puede convertirse en un valioso recurso educativo, mejorando el acceso a la educación y ofreciendo un apoyo personalizado y un feedback inmediato por parte los alumnos. Estas ventajas podrían mejorar la experiencia de aprendizaje, sobre todo en los casos en que sea necesaria una atención especial individualizada o cuando los recursos educativos sean escasos.
81. Por otra parte, una tarea esencial de la educación es formar «el intelecto para razonar bien en todos las materias, para proyectarse hacia la verdad y aferrarla»[147], ayudando al «lenguaje de la cabeza» a crecer en armonía con el «lenguaje del corazón» y el «lenguaje de las manos»[148]. Esto es aún más vital en una época marcada por la tecnología, en la que «no se trata solamente de “usar” instrumentos de comunicación, sino de vivir en una cultura ampliamente digitalizada, que afecta de modo muy profundo la noción de tiempo y de espacio, la percepción de uno mismo, de los demás y del mundo, el modo de comunicar, de aprender, de informarse, de entrar en relación con los demás»[149]. Sin embargo, en lugar de promover «un intelecto culto» que «lleva consigo poder y gracia en cada trabajo y ocupación que emprende»[150], el uso extensivo de la IA en la educación podría provocar una creciente dependencia de los estudiantes con respecto a la tecnología, lo que bloquearía su capacidad para realizar determinadas actividades de forma autónoma y agravaría su dependencia de las pantallas[151].
82. Además, mientras que algunos sistemas de IA han sido pensados específicamente para ayudar a las personas a desarrollar sus propias capacidades de pensamiento crítico y de resolución de problemas, muchos otros programas se limitan a proporcionar respuestas en lugar de incitar a los estudiantes a encontrarlas por sí mismos o a escribir textos por sí mismos[152]. En lugar de entrenar a los jóvenes para acumular información y dar respuestas rápidas, la educación debería «promover libertades responsables, que opten en las encrucijadas con sentido e inteligencia»[153]. A partir de esto, «la educación en el uso de formas de inteligencia artificial debería centrarse sobre todo en promover el pensamiento crítico. Es necesario que los usuarios de todas las edades, pero sobre todo los jóvenes, desarrollen una capacidad de discernimiento en el uso de datos y de contenidos obtenidos en la web o producidos por sistemas de inteligencia artificial. Las escuelas, las universidades y las sociedades científicas están llamadas a ayudar a los estudiantes y a los profesionales a hacer propios los aspectos sociales y éticos del desarrollo y el uso de la tecnología»[154].
83. Como recordaba san Juan Pablo II, «en el mundo de hoy, caracterizado por unos progresos tan rápidos en la ciencia y en la tecnología, las tareas de la Universidad Católica asumen una importancia y una urgencia cada vez mayores»[155]. En particular, se exhorta a las Universidades Católicas a hacerse presentes como grandes laboratorios de esperanza en esta encrucijada de la historia. En clave inter y transdisciplinar, ejerciten «con sabiduría y creatividad»[156], una investigación precisa sobre este fenómeno; contribuyendo a poner de manifiesto las potencialidades saludables en los diversos campos de la ciencia y de la realidad; guiándolos siempre hacia aplicaciones que sean éticamente cualificadas, claramente al servicio de la cohesión de nuestra sociedad y del bien común; alcanzando nuevas fronteras del diálogo entre la Fe y la Razón.
84. Además, se sabe que los actuales programas de IA pueden proporcionar información distorsionada o artefactual, lo que lleva a los estudiantes a basarse en contenidos inexactos. «De este modo, no sólo se corre el riesgo de legitimar la difusión de noticias falsas y robustecer la ventaja de una cultura dominante, sino de minar también el proceso educativo en ciernes (in nuce)»[157]. Con el tiempo, la distinción entre usos apropiados e inapropiados de dicha tecnología, tanto en la educación como en la investigación, podría ser más clara. Al mismo tiempo, un principio rector decisivo es que el uso de la IA debe ser siempre transparente y nunca ambiguo.
IA, desinformación, deepfake y abusos
85. La IA es también un apoyo para la dignidad de la persona humana cuando se utiliza como ayuda para comprender hechos complejos o como guía hacia recursos válidos en la búsqueda de la verdad[158].
86. Sin embargo, también existe el grave riesgo de que la IA genere contenidos manipulados e informaciones falsas que, al ser muy difícil de distinguir de los datos reales, pueden inducir fácilmente al engaño. Esto puede ocurrir accidentalmente, como en el caso de la “alucinación” de la IA, que se produce cuando un sistema generativo produce contenidos que parecen reflejar la realidad pero que no son verídicos. Aunque es difícil gestionar este fenómeno, ya que la generación de información que imita la producida por los humanos es una de las principales características de la IA, representa un desafío mantener bajo control estos riesgos. Las consecuencias de tales aberraciones e informaciones falsas pueden ser muy graves. Por ello, todos los que producen y utilizan la IA deben comprometerse con la veracidad y exactitud de las informaciones elaboradas por tales sistemas y difundidas al público.
87. Si, por un lado, la IA tiene el potencial latente de generar contenidos ficticios, por otro lado, existe el problema aún más preocupante de su uso intencionado para la manipulación. Esto puede ocurrir, por ejemplo, cuando un operador humano o una organización genera intencionadamente y difunde informaciones, como deepfakes de imágenes, de vídeos y de audio, para engañar o perjudicar. Un deepfake es una representación falsa de una persona que ha sido modificada o generada por un algoritmo de IA. El peligro que entrañan las deepfake es especialmente evidente cuando se utilizan para atacar o perjudicar a alguien: aunque las imágenes o los vídeos puedan ser artificiales en sí mismos, los daños que causan son reales, y dejan «profundas cicatrices en el corazón de quienes lo sufren», que se sienten «heridos en su dignidad humana»[159].
88. En general, al distorsionar «la relación con los demás y la realidad»[160], los productos audiovisuales falsificados generados por IA pueden socavar progresivamente los cimientos de la sociedad. Esto requiere una regulación cuidadosa, ya que la desinformación, especialmente a través de medios controlados o influenciados por la IA, puede propagarse involuntariamente, alimentando la polarización política y el descontento social. De hecho, cuando la sociedad se vuelve indiferente a la verdad, diversos grupos construyen sus propias versiones de los “hechos”, con lo que la «conexiones mutuas y las interdependencias»[161], que están en la base del vivir social, se debilitan. Porque las deepfake inducen a poner todo en duda y los contenidos falsos generados por la IA erosionan la confianza en lo que se ve y se oye, la polarización y el conflicto no harán sino crecer. Un engaño tan generalizado no es un problema secundario: golpea el corazón de la humanidad, demoliendo esa confianza fundamental sobre la que se construyen las sociedades.[162].
89. Combatir las falsificaciones alimentadas por la IA no es sólo trabajo de los expertos en la materia, sino que requiere los esfuerzos de todas las personas de buena voluntad. «Si la tecnología ha de estar al servicio de la dignidad humana y no perjudicarla, y si ha de promover la paz en lugar de la violencia, la comunidad humana debe ser proactiva a la hora de abordar estas tendencias respetando la dignidad humana y promover el bien»[163]. Quienes produzcan y compartan material generado por IA deben tener siempre cuidado de comprobar la veracidad de lo que difunden y, en cualquier caso, deberían «evitar compartir palabras e imágenes degradantes para el ser humano, y excluir por tanto lo que alimenta el odio y la intolerancia, envilece la belleza y la intimidad de la sexualidad humana, o lo que explota a los débiles e indefensos»[164]. Esto requiere una prudencia constante y un cuidadoso discernimiento por parte de cada usuario respecto a su actividad en las redes[165].
IA, privacidad y control
90. Los seres humanos son intrínsecamente relacionales, por lo que los datos que cada persona crea en el mundo digital pueden considerarse una expresión objetivada de esa naturaleza relacional. En efecto, los datos no se limitan a transmitir informaciones, sino que vehiculan también un conocimiento personal y relacional que, en un contexto cada vez más digitalizado, pueden convertirse en un poder sobre el individuo. Además, mientras que algunos tipos de datos pueden referirse a aspectos públicos de la vida de una persona, otros pueden llegar a tocar su intimidad, tal vez incluso su conciencia. En definitiva, la privacidad desempeña un papel fundamental a la hora de proteger los límites de la vida interior de las personas y garantizar su libertad para relacionarse, expresarse y tomar decisiones sin estar indebidamente controladas. Esta protección también está vinculada a la defensa de la libertad religiosa, ya que la vigilancia digital también puede utilizarse para ejercer un control sobre la vida de los creyentes y la expresión de su fe.
91. Conviene abordar la cuestión de la privacidad a partir de la preocupación por una legítima libertad y la inalienable dignidad de la persona más allá de toda circunstancia[166]. En este sentido, el Concilio Vaticano II incluyó el derecho «a la protección de la vida privada» entre los derechos fundamentales «para vivir una vida verdaderamente humana» que debería ser el mismo a todas las personas, en virtud de su «excelsa dignidad»[167]. La Iglesia, además, afirmó el derecho al respeto legítimo de la vida privada en el contexto del derecho de la persona a una buena reputación, a la defensa de su integridad física y mental y a no sufrir violaciones e intrusiones indebidas[168]: todos son elementos relacionados con el debido respeto a la dignidad intrínseca a la persona humana[169].
92. Los avances en la elaboración y el análisis de datos que posibilita la IA permiten detectar patrones en el comportamiento y el pensamiento de una persona incluso a partir de una cantidad mínima de informaciones, lo que hace aún más necesaria la privacidad de los datos como salvaguardia de la dignidad y la naturaleza relacional de la persona humana. Como observó el Papa Francisco, «mientras se desarrollan actitudes cerradas e intolerantes que nos clausuran ante los otros, se acortan o desaparecen las distancias hasta el punto de que deja de existir el derecho a la intimidad. Todo se convierte en una especie de espectáculo que puede ser espiado, vigilado, y la vida se expone a un control constante»[170].
93. Aunque puedan existir formas legítimas y correctas de utilizar la IA en conformidad con la dignidad humana y el bien común, no es justificable su uso con fines de control para la explotación, para restringir la libertad de las personas o para beneficiar a unos pocos a expensas de muchos. El riesgo de un exceso de vigilancia debe ser supervisado por organismos de control adecuados, con el fin de garantizar la transparencia y la responsabilidad pública. Los responsables de dicha vigilancia nunca deberían exceder su autoridad, que siempre debe estar a favor de la dignidad y la libertad de cada persona como base esencial de una sociedad justa y a medida del hombre.
94. De hecho, «el respeto fundamental por la dignidad humana postula rechazar que la singularidad de la persona sea identificada con un conjunto de datos»[171]. Esto se aplica especialmente a los usos de la IA relacionados con la evaluación de individuos o grupos sobre la base de su comportamiento, características o historial, una práctica conocida como “crédito social” (social scoring): «En los procesos de toma de decisiones sociales y económicas, debemos ser cautos a la hora de confiar juicios a algoritmos que procesan datos recogidos, a menudo subrepticiamente, sobre las personas y sus características y comportamientos pasados. Esos datos pueden estar contaminados por prejuicios sociales e ideas preconcebidas. Sobre todo, porque el comportamiento pasado de un individuo no debe utilizarse para negarle la oportunidad de cambiar, crecer y contribuir a la sociedad. No podemos permitir que los algoritmos limiten o condicionen el respeto a la dignidad humana, ni que excluyan la compasión, la misericordia, el perdón y, sobre todo, la apertura a la esperanza de cambio en el individuo»[172].
La IA y la protección de la casa común
95. La IA tiene numerosas y prometedoras aplicaciones para mejorar nuestra relación con la casa común que nos acoge, como la creación de modelos para la previsión de eventos climáticos extremos, proponer soluciones de ingeniería para reducir su impacto, la gestión de operaciones de socorro y la predicción de los movimientos de población[173]. Además, la IA puede apoyar la agricultura sostenible, optimizar el consumo de energía y proporcionar sistemas de alerta temprana para emergencias de salud pública. Todos estos avances podrían aumentar la capacidad de recuperación ante los desafíos relacionados con el clima y promover un desarrollo más sostenible.
96. Al mismo tiempo, los modelos actuales de IA y el sistema de hardware que los sustenta requieren grandes cantidades de energía y agua y contribuyen significativamente a las emisiones de CO2, además de consumir recursos de manera intensiva. Esta realidad queda a menudo oculta por la forma en que esta tecnología se presenta en el imaginario popular, donde palabras como “nube” (cloud)[174] puede dar la impresión de que los datos se almacenan y procesan en un dominio etéreo, separado del mundo físico. En cambio, la nube no es un dominio etéreo separado del mundo físico, sino que, como cualquier dispositivo informático, necesita máquinas, cables y energía. Lo mismo ocurre con la tecnología a la base de la IA. A medida que estos sistemas crecen en complejidad, especialmente los grandes modelos lingüísticos (Large Language Models, LLM), estos requieren conjuntos de datos cada vez mayores, mayor potencia computacional e imponentes infraestructuras de almacenamiento (storage) de datos. Teniendo en cuenta el elevado coste que estas tecnologías suponen para el medio ambiente, el desarrollo de soluciones sostenibles es vital para reducir su impacto en la “casa común”.
97. Por eso, como enseña el Papa Francisco, es importante «encontrar soluciones no sólo en la técnica sino en un cambio del ser humano»[175]. Además, una concepción correcta de la creación sabe reconocer que el valor de todas las cosas creadas no puede reducirse a la mera utilidad. Por tanto, una gestión plenamente humana de la tierra rechaza el antropocentrismo distorsionado del paradigma tecnocrático, que pretende «extraer todo lo posible» de la naturaleza[176], y del «mito del progreso», según el cual «los problemas ecológicos se resolverán simplemente con nuevas aplicaciones técnicas, sin consideraciones éticas ni cambios de fondo»[177]. Esta mentalidad debe dar paso a una visión más holística que respete el orden de la creación y promueva el bien integral de la persona humana, sin descuidar la salvaguardia de «nuestra casa común»[178].
La IA y la guerra
98. El Concilio Vaticano II y el posterior magisterio pontificio han sostenido con vigor que la paz no es la mera ausencia de guerra y no se limita al mantenimiento de un equilibrio de poder entre adversarios. Por el contrario, en palabras de San Agustín, la paz es «la tranquilidad del orden»[179]. En efecto, la paz no puede alcanzarse sin la protección de los bienes de las personas, la libre comunicación, el respeto de la dignidad de las personas y de los pueblos y la práctica asidua de la fraternidad. La paz es obra de la justicia y efecto de la caridad y no puede alcanzarse sólo mediante la fuerza o la mera ausencia de guerra, sino que debe construirse ante todo mediante una diplomacia paciente, la promoción activa de la justicia, la solidaridad, el desarrollo humano integral y el respeto de la dignidad de todas las personas[180]. De este modo, nunca debe permitirse que los instrumentos destinados a mantener una cierta paz se utilicen con fines de injusticia, violencia u opresión, sino que deben estar siempre subordinados al «firme propósito de respetar a los demás hombres y pueblos, así como su dignidad, y el apasionado ejercicio de la fraternidad»[181].
99. Aunque las capacidades analíticas de la IA podrían utilizarse para ayudar a las naciones a buscar la paz y garantizar la seguridad, el «uso bélico de la inteligencia artificial» puede ser muy problemático. El Papa Francisco ha observado que «la posibilidad de conducir operaciones militares por medio de sistemas de control remoto ha llevado a una percepción menor de la devastación que estos han causado y de la responsabilidad en su uso, contribuyendo a un acercamiento aún más frío y distante a la inmensa tragedia de la guerra»[182]. Además, la facilidad con la que las armas, convertidas en autónomas, hacen más viable la guerra va en contra del principio mismo de la guerra como último recurso en casos de legítima defensa[183], aumentando los recursos bélicos mucho más allá del alcance del control humano y acelerando una carrera armamentística desestabilizadora con consecuencias devastadoras para los derechos humanos[184].
100. En particular, los sistemas de armas autónomas letales, capaces de identificar y atacar objetivos sin intervención humana directa, son «gran motivo de preocupación ética», porque carecen de «la exclusiva capacidad humana de juicio moral y de decisión ética»[185]. Por estos motivos, el Papa Francisco ha invitado con urgencia a repensar el desarrollo de tales armas para prohibir su uso, «empezando desde ya por un compromiso efectivo y concreto para introducir un control humano cada vez mayor y significativo. Ninguna máquina debería elegir jamás poner fin a la vida de un ser humano»[186].
101. Dado que la distancia entre maquinas capaces de matar con precisión de modo autónomo y otras capaces de destrucción masiva es corta, algunos investigadores que trabajan en el campo de la IA han expresado la preocupación que dicha tecnología represente un “riesgo existencial”, siendo ella capaz de actuar en modos que podrían amenazar la supervivencia de la humanidad o de regiones enteras. Esta posibilidad debe ser tomada seriamente en consideración, en línea con la constante preocupación por aquellas tecnologías que dan a la guerra «un poder destructivo fuera de control que afecta a muchos civiles inocentes»[187], incluidos los niños. En este contexto, resulta más que nunca urgente la llamada de Gaudium et spes a «examinar la guerra con mentalidad totalmente nueva»[188].
102. Al mismo tiempo, mientras los riesgos teóricos de la IA merecen atención, también existen peligros más urgentes e inmediatos en relación con la forma en que individuos con intenciones maliciosas podrían hacer uso de ellos[189]. La IA, como cualquier otro instrumento, es una extensión del poder de la humanidad, y aunque no podemos predecir todo lo que será capaz de lograr, por desgracia es bien sabido lo que los seres humanos son capaces de hacer. Las atrocidades ya cometidas a lo largo de la historia humana bastan para suscitar una profunda preocupación por los posibles abusos de la IA.
103. Como ha observado san Juan Pablo II, «la humanidad posee hoy instrumentos de potencia inaudita. Puede hacer de este mundo un jardín, o reducirlo a un cúmulo de escombros»[190]. En esta perspectiva, la Iglesia recuerda, con el Papa Francisco, que «la libertad humana puede hacer su aporte inteligente hacia una evolución positiva» u orientarse «en un camino de decadencia y de mutua destrucción»[191]. Para evitar que la humanidad se precipite en una espiral de autodestrucción[192], es necesario asumir una posición clara contra todas las aplicaciones de la tecnología que amenazan intrínsecamente la vida y la dignidad de la persona humana. Este compromiso requiere un discernimiento atento sobre el uso de la IA, en particular sobre las aplicaciones de defensa militar, para garantizar que siempre respeten la dignidad humana y estén al servicio del bien común. El desarrollo y el empleo de la IA en el armamento debería estar sujeto a los más altos niveles de control ético, velando que se respeten la dignidad humana y la sacralidad de la vida[193].
La IA y la relación de la humanidad con Dios
104. La tecnología ofrece medios eficaces para gestionar y desarrollar los recursos del planeta, aunque, en algunos casos, la humanidad cede cada vez más el control de estos recursos a las máquinas. Dentro de algunos círculos de científicos y futuristas, se respira un cierto optimismo sobre el potencial de la inteligencia artificial general (AGI), una forma hipotética de IA que podría alcanzar o superar a la inteligencia humana, capaz de lograr avances más allá de lo imaginable. Algunos especulan incluso con que la AGI sería capaz de alcanzar capacidades sobrehumanas. A medida que la sociedad se aleja del vínculo con lo trascendente, algunos sienten la tentación de recurrir a la IA en busca de sentido o de plenitud, deseos que sólo pueden encontrar su verdadera satisfacción en la comunión con Dios[194].
105. Sin embargo, la presunción de sustituir a Dios con una obra de las propias manos es idolatría, contra la que advierte la Sagrada Escritura (por ej. Ex 20,4; 32,1-5; 34,17). Además, la IA puede ser incluso más seductora que los ídolos tradicionales: de hecho, a diferencia de estos últimos, que «tienen boca, y no hablan, tienen ojos, y no ven, tienen orejas, y no oyen» (Sal 115,5-6), la IA puede “hablar”, o, al menos, dar la ilusión de hacerlo (cf. Ap 13,15). En cambio, hay que recordar que la IA no es más que un pálido reflejo de la humanidad, ya que ha sido producida por mentes humanas, entrenada a partir de material producido por seres humanos, predispuesta a estímulos humanos y sostenida por el trabajo humano. No puede tener muchas de las capacidades que son específicas de la vida humana, y también es falible. De ahí que al buscar en ella un “Otro” más grande con quien compartir la propia existencia y responsabilidad, la humanidad corre el riesgo de crear un sustituto de Dios. En definitiva, no es la IA quien es divinizada y adorada, sino el ser humano, para convertirse, de este modo, en esclavo de su propia obra[195].
106. Aunque puede ponerse al servicio de la humanidad y contribuir al bien común, la IA sigue siendo un producto de manos humanas, lo que conlleva «la destreza y la fantasía de un hombre» (Hch 17,29), al que nunca debe atribuirse un valor desproporcionado. Como afirma el libro de la Sabiduría: «los hizo un hombre, los modeló un ser de aliento prestado y ningún ser humano puede modelar un dios a su semejanza. Al ser mortal, sus manos impías producen un cadáver y vale más él que los objetos que adora, pues él tiene vida, mientras los otros jamás la tendrán» (Sab 15, 16-17).
107. Al contrario, «por su interioridad [el ser humano] transciende el universo entero; a esta profunda interioridad retorna cuando entra dentro de su corazón, donde Dios le aguarda, escrutador de los corazones, y donde él personalmente, bajo la mirada de Dios, decide su propio destino»[196]. Es en el corazón – recuerda el Papa Francisco – que cada persona descubre la «paradójica conexión entre la valoración del propio ser y la apertura a los otros, entre el encuentro tan personal consigo mismo y la donación de sí a los demás»[197]. Por eso, «únicamente el corazón es capaz de poner a las demás potencias y pasiones y a toda nuestra persona en actitud de reverencia y de obediencia amorosa al Señor»[198], que «nos ofrece tratarnos como un tú siempre y para siempre»[199].
VI. Reflexión final
108. Teniendo en cuenta todos los diversos desafíos que plantea el progreso tecnológico, el Papa Francisco ha señalado la necesidad de un desarrollo «en responsabilidad, valores, conciencia» proporcional al aumento de posibilidades que ofrece esta tecnología[200], reconociendo que «cuanto más se acrecienta el poder del hombre, más amplia es su responsabilidad»[201].
109. Por otra parte,«la cuestión esencial y fundamental» permanece siempre la de «si el hombre, en cuanto hombre, en el contexto de este progreso, se hace de veras mejor, es decir, más maduro espiritualmente, más consciente de la dignidad de su humanidad, más responsable, más abierto a los demás, particularmente a los más necesitados y a los más débiles, más disponible a dar y prestar ayuda a todos»[202].
110. Es decisivo, por consiguiente, saber valorar críticamente las distintas aplicaciones en los contextos particulares, con el fin de determinar si estas promueven, o no, la dignidad y la vocación humana, y el bien común. Como ocurre con muchas tecnologías, los efectos de las distintas aplicaciones de la IA no siempre son predecibles en su inicio. En la medida en que estas aplicaciones y su impacto social se hagan más evidentes, se deberá empezar a proporcionar una retroalimentación adecuada a todos los niveles de la sociedad, de acuerdo con el principio de subsidiariedad. Es importante que los usuarios individuales, las familias, la sociedad civil, las empresas, las instituciones, los gobiernos y las organizaciones internacionales, cada uno a su nivel de competencia, se comprometan en garantizar que el uso de la IA sea adecuado para el bien de todos.
111. Hoy en día, un desafío importante y una oportunidad para el bien común reside en considerar dicha tecnología dentro de un horizonte de inteligencia relacional, que hace hincapié en la interconexión de los individuos y de las comunidades y exalta la responsabilidad compartida para favorecer el bienestar integral del otro. El filósofo del siglo XX, Nikolaj Berdjaev, observó que las personas suelen culpar a las máquinas de los problemas individuales y sociales; sin embargo, «esto no hace más que humillar al hombre y no corresponde con su dignidad», porque «es algo indigno transferir la responsabilidad del hombre a una maquina»[203]. Solo la persona humana puede decirse moralmente responsable, y los desafíos de una sociedad tecnológica, en última instancia, se refieren a su espíritu. Por eso, para afrontar tales desafíos «requiere una revitalización de la sensibilidad espiritual»[204].
112. Otro punto a considerar es la llamada, provocada por la aparición de la IA en la escena mundial, a renovar la valoración de todo lo que es humano. Como observó el escritor católico francés Georges Bernanos hace muchos años, «el peligro no reside en la multiplicación de las máquinas, sino en el número cada vez mayor de hombres acostumbrados desde la infancia a no desear más que lo que las máquinas pueden proporcionarles»[205]. El reto es tan real hoy como entonces, ya que el rápido avance de la digitalización conlleva el riesgo del «reduccionismo digital», por el que las experiencias no cuantificables se dejan de lado y luego se olvidan, o se consideran irrelevantes porque no pueden calcularse en términos formales. La IA sólo debe utilizarse como una herramienta complementaria de la inteligencia humana y no sustituir su riqueza[206]. Cultivar aquellos aspectos de la vida humana que van más allá del cálculo es de crucial importancia para preservar una «auténtica humanidad», que «parece habitar en medio de la civilización tecnológica, casi imperceptiblemente, como la niebla que se filtra bajo la puerta cerrada»[207].
La verdadera sabiduría
113. Hoy, la vasta extensión del conocimiento es accesible en formas que habrían maravillado a las generaciones pasadas; sin embargo, para impedir que los avances de la ciencia siguen siendo humana y espiritualmente estériles, hay que ir más allá de la mera acumulación de datos y aspirar a la verdadera sabiduría[208].
114. Esta sabiduría es el don que más necesita la humanidad para abordar los profundos interrogantes y desafíos éticos que plantea la IA: «Sólo dotándonos de una mirada espiritual, sólo recuperando una sabiduría del corazón, podremos leer e interpretar la novedad de nuestro tiempo»[209]. Esta «sabiduría del corazón» es «esa virtud que nos permite entrelazar el todo y las partes, las decisiones y sus consecuencias». La humanidad no puede «esperar esta sabiduría de las máquinas», en cuanto ella «se deja encontrar por quien la busca y se deja ver por quien la ama; se anticipa a quien la desea y va en busca de quien es digno de ella (cfr. Sab 6,12-16)»[210].
115. En un mundo marcado por la IA, necesitamos la gracia del Espíritu Santo, que «permite ver las cosas con los ojos de Dios, comprender los vínculos, las situaciones, los acontecimientos y descubrir su sentido»[211].
116. Porque «lo que mide la perfección de las personas es su grado de caridad, no la cantidad de datos y conocimientos que acumulen»[212], el modo como se utilice la IA «para incluir a los últimos, es decir, a los hermanos y las hermanas más débiles y necesitados, es la medida que revela nuestra humanidad»[213]. Esta sabiduría puede iluminar y guiar un uso de dicha tecnología centrado en el ser humano, que como tal puede ayudar a promover el bien común, a cuidar de la «casa común», a avanzar en la búsqueda de la verdad, apoyar el desarrollo humano integral, favorecer la solidaridad y la fraternidad humana, para luego conducir a la humanidad a su fin último: la comunión feliz y plena con Dios[214].
117. En la perspectiva de la sabiduría, los creyentes podrán actuar como agentes responsables capaces de utilizar esta tecnología para promover una visión auténtica de la persona humana y de la sociedad[215], a partir de una comprensión del progreso tecnológico como parte del plan de Dios para la creación: una actividad que la humanidad está llamada a ordenar hacia el Misterio Pascual de Jesucristo, en la constante búsqueda de la Verdad y del Bien.
El Sumo Pontífice Francisco, en la Audiencia concedida el día 14 de enero de 2025 a los suscritos Prefectos y Secretarios del Dicasterio para la Doctrina de la Fe y del Dicasterio para la Cultura y la Educación, ha aprobado la presente Nota y ha ordenado la publicación
Dado en Roma, ante las sedes del Dicasterio para la Doctrina de la Fe y del Dicasterio para la Cultura y la Educación, el 28 de enero de 2025, Memoria Litúrgica de santo Tomás de Aquino, Doctor de la Iglesia.
| Víctor Manuel Card. Fernández Prefecto | José Card. Tolentino de Mendonça Prefecto |
| Mons. Armando Matteo Secretario para la Sección Doctrinal | S.E. Mons. Paul Tighe Secretario para la Sección Cultura |
Ex Audientia Die 14.01.2025
Franciscus
Notas de pie de página
[1] Catecismo de la Iglesia Católica, n. 378. Ver también Conc. Ecum. Vat. II, Cons. past. Gaudium et spes (7 de diciembre de 1965), n. 34: AAS 58 (1966), 1052-1053. [2] Francisco, Discurso a los participantes a la Asamblea Plenaria de la Pontificia Academia para la Vida (28 de febrero de 2020): AAS 112 (2020), 307. Cf. Id., Discurso a la Curia Romana con motivo de las felicitaciones navideñas (21 de diciembre de 2019): AAS 112 (2020), 43. [3] Cf. Francisco, Mensaje para la LVIII Jornada Mundial de las Comunicaciones Sociales (24 de enero de 2024): L’Osservatore Romano, 24 de enero de 2024, 8. [4] Cf. Catecismo de la Iglesia Católica, n. 2293; Conc. Ecum. Vat. II, Cons. past. Gaudium et spes (7 de diciembre de 1965), n. 35: AAS 58 (1966), 1053. [5] J. McCarthy et al., A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence (31 agosto 1955), http://www-formal.stanford.edu/jmc/history/dartmouth/dartmouth.html (acceso: 21 de octubre de 2024). [6] Cf. Francisco, Mensaje para la LVII Jornada Mundial de la Paz (1 de enero de 2024), nn. 2-3: L’Osservatore Romano, 14 de diciembre de 2023, 2. [7] Los términos utilizados en este documento para describir los resultados o procesos de la IA se emplean en sentido figurado para ilustrar su funcionamiento y no pretenden atribuirle características humanas. [8] Cf. Francisco, Discurso a la Sesión del G7 sobre la Inteligencia Artificial en Borgo Egnazia (Puglia) (14 de junio de 2024): L’Osservatore Romano, 14 de junio de 2024, 3; Id., Mensaje para la LVII Jornada Mundial de la Paz (1 de enero de 2024), n. 2: L’Osservatore Romano, 14 de diciembre de 2023, 2. [9] En estas líneas, se pueden apreciar las principales posiciones de los “transhumanistas” y de los “posthumanistas”. Los transhumanistas afirman que los progresos tecnológicos permitirán a los seres humanos sobrepasar los propios límites biológicos, y mejorar las capacidades físicas y cognitivas. Los posthumanistas, por su parte, afirman que tales progresos acabarán por alterar la identidad humana de tal manera que los hombres no podrán ni siquiera ser considerados verdaderamente “humanos”. Ambas posiciones se basan en una percepción fundamentalmente negativa de la corporeidad, que es vista más como un obstáculo que como parte integrante de la identidad humana, llamada también ella a participar de la plena realización de la persona. Esta visión negativa contrasta con una comprensión correcta de la dignidad humana. Al tiempo que apoya el auténtico progreso científico, la Iglesia afirma que esta dignidad se basa en la «persona come unidad inseparable» de cuerpo y alma, por tanto «también inherente a su cuerpo, que a su manera participa del ser imagen de Dios de la persona humana» (Dicasterio para la Doctrina de la Fe, Decl. Dignitas infinita [8 de abril de 2024], n. 18). [10] Este planteamiento refleja una perspectiva funcionalista, que reduce la mente humana a sus funciones y supone que éstas pueden cuantificarse plenamente en términos físicos y matemáticos. Sin embargo, incluso en el caso de que una futura AGI pareciera verdaderamente inteligente, seguiría siendo de naturaleza funcional. [11] Cf. A.M. Turing, «Computing Machinery and Intelligence», Mind 59 (1950) 443-460. [12] Si uno atribuye el «pensamiento» a las máquinas, debe especificar que se refiere a procedimientos computacionales, no al pensamiento crítico. Del mismo modo, si uno cree que tales dispositivos pueden funcionar según el pensamiento lógico, debería especificar que éste se limita a la lógica computacional. En cambio, por su propia naturaleza, el pensamiento humano se caracteriza por ser un proceso creativo capaz de ir más alp> [13] Sobre el papel fundamental del lenguaje en la formación del entendimiento, cf. M. Heidegger, Über den Humanismus, Klostermann Frankfurt am Main, 1949 (tr. esp. Carta sobre el Humanismo, Alianza editorial, Madrid 2000). [14] Para más información sobre estos fundamentos antropológicos y teológicos, véase Grupo de Investigación sobre AI del Centro para la Cultura Digital del Dicasterio para la Cultura y la Educación, Encountering Artificial Intelligence: Ethical and Anthropological Investigations, (Theological Investigations of Artificial Intelligence, 1), editado por M.J. Gaudet, N. Herzfeld, P. Scherz, J.J. Wales, Pickwick, Eugene 2024, 43-144. [15] Aristóteles, Metafísica, I.1, 980a21. [16] Agustín de Hipona, De Genesi ad Litteram libri duodecim, III, 20, 30: PL 34, 292: «El hombre está hecho a imagen de Dios en relación con la facultad por la que es superior a los animales desprovistos de razón. Pues bien, esta facultad es la razón o la mente o la inteligencia o cualquier otro nombre que se le dé a esta facultad»; Id., Enarrationes in Psalmos,54, 3: PL 36, 629:«Considerando, pues, todas las cosas que posee, el hombre llega a la conclusión de que se distingue de los animales en la medida en que posee inteligencia», Esto lo confirma también Santo Tomás, que afirma que «el hombre es el más perfecto de todos los seres terrestres dotados de movimiento. Y su operación natural propia es la intelección», mediante la cual el hombre abstrae de las cosas y «recibe en la mente los inteligibles en acto» (Tomás de Aquino, Summa Contra Gentiles 2.76). [17] Cf. Conc. Ecum. Vat. II, Cons. past. Gaudium et spes (7 de diciembre de 1965), n. 15: AAS 58 (1966), 1036. [18] Tomás de Aquino, Summa Theologiae, II-II, q. 49, a. 5, ad 3. Cf. ibid., I, q. 79; II-II, q. 47, a. 3; II-II, q. 49, a. 2. Para una perspectiva contemporánea que se hace eco de algunos elementos de la distinción clásica y medieval entre estos dos modos de pensamiento, cf. D. Kahneman, Thinking, Fast and Slow, New York 2011 (tr. esp. Pensar rápido, pensar despacio, Debolsillo, Madrid 2014). [19] Tomás de Aquino, Summa Theologiae, I, q. 76, a. 1, resp. [20] Cf. Ireneo de Lyon, Adversus Haereses, V.6.1: PG 7[2], 1136-1138. [21] Dicasterio para la Doctrina de la Fe, Decl. Dignitas infinita (8 de abril de 2024), n. 9; Francisco, Cart. enc. Fratelli tutti (3 de octubre de 2020), n. 213: AAS 112 (2020), 1045: «La inteligencia puede entonces escrutar en la realidad de las cosas, a través de la reflexión, de la experiencia y del diálogo, para reconocer en esa realidad que la trasciende la base de ciertas exigencias morales universales». [22] Cf. Congregación para la Doctrina de la Fe, Nota doctrinal sobre algunos aspectos de la evangelización (3 de diciembre de 2007), n. 4: AAS 100 (2008), 491-492. [23] Catecismo de la Iglesia Católica, n. 365. Cf. Tomás de Aquino, Summa Theologiae, I, q. 75, a. 4, resp. [24] De hecho, la Biblia «considera generalmente al ser humano como un ser que existe en un cuerpo y es impensable fuera de él» (Pontificia Comisión Bíblica, «¿Qué es el hombre?» (Sal 8,5). Un itinerario di antropología bíblica [30 de septiembre 2019], n. 19). Cf. ibid. nn. 20-21, 43-44, 48. [25] Conc. Ecum. Vat. II, Cons. past. Gaudium et spes (7 de diciembre de 1965), n. 22: AAS 58 (1966), 1042. Congregación para la Doctrina de la Fe, Instr. Dignitas personae (8 de septiembre de 2008), n. 7: AAS 100 (2008), 863: «Cristo no desdeñó la corporeidad humana, sino que reveló plenamente su sentido y valor». [26] Tomás de Aquino, Summa Contra Gentiles 2.81. [27] Conc. Ecum. Vat. II, Cons. past. Gaudium et spes (7 de diciembre de 1965), n. 15: AAS 58 (1966), 1036. [28] Tomás de Aquino, Summa Theologiae I, q. 89, a. 1, resp.: «La existencia separada del cuerpo no es conforme a su naturaleza […]. Por eso se une al cuerpo: para existir y obrar conforme a su naturaleza». [29] Conc. Ecum. Vat. II, Cons. past. Gaudium et spes (7 de diciembre de 1965), n. 14: AAS 58 (1966), 1035. Cf. Dicasterio para la Doctrina de la Fe, Decl. Dignitas infinita (8 de abril de 2024), n. 18. [30] Comisión Teológica Internacional, Comunión y servicio. La persona humana creada a imagen de Dios (2004), n. 56. Cf. Catecismo de la Iglesia Católica, n. 357. [31] Cf. Congregación para la Doctrina de la Fe, Instr. Dignitas personae (8 de septiembre de 2008), nn. 5, 8: AAS 100 (2008), 862.863-864; Dicasterio para la Doctrina de la Fe, Decl. Dignitas infinita (8 de abril de 2024), nn. 15, 24, 53-54. [32] Catecismo de la Iglesia Católica, n. 356. Cf. ibid., n. 221. [33] Cf. Dicasterio para la Doctrina de la Fe, Decl. Dignitas infinita (8 de abril de 2024), nn. 13, 26-27. [34] Congregación para la Doctrina de la Fe, Instr. Donum veritatis (24 de mayo de 1990), n. 6: AAS 82 (1990), 1552. Cf. Juan Pablo II, Cart. enc Veritatis splendor (6 de agosto de 1993), n. 109: AAS 85 (1993), 1219; Pseudo Dionisio Areopagita, De divinis nominibus, 7.2: PG 3, 868B-C: «También las almas tienen discurso racional, en cuanto se mueven ampliamente y en círculos en torno a la verdad de las cosas. [...] Pero, como resultado de la reducción de los muchos en el Uno, pueden ser estimadas dignas de entendimientos semejantes a los de los ángeles, en la medida en que es posible y alcanzable por parte de las almas». [35] Juan Pablo II, Cart. enc Fides et ratio (14 de septiembre de 1998), n. 3: AAS 91 (1999), 7. [36] Conc. Ecum. Vat. II, Cons. past.Gaudium et spes (7 de diciembre de 1965), n. 15: AAS 58 (1966), 1036. [37] Juan Pablo II, Cart. enc Fides et ratio (14 de septiembre de 1998), n. 42: AAS 91 (1999), 38. Cf. Francisco, Cart. enc Fratelli tutti (3 de octubre de 2020), n. 208: AAS 112 (2020), 1043.«la inteligencia humana puede ir más allá de las conveniencias del momento y captar algunas verdades que no cambian, que eran verdad antes de nosotros y lo serán siempre. Indagando la naturaleza humana, la razón descubre valores que son universales, porque derivan de ella»; ibid., n. 184: AAS 112 (2020), 1034. [38] Cf. B. Pascal, Pensées, n. 267 (ed. Brunschvicg): «El último paso de la razón es reconocer que hay una infinidad de cosas que la superan» (tr. esp. Pensamientos, Espasa Calpe, Madrid 1940). [39] Conc. Ecum. Vat. II, Cons. past.Gaudium et spes (7 de diciembre de 1965), n. 15: AAS 58 (1966), 1036. Cf. Congregación para la Doctrina de la Fe, Nota doctrinal sobre algunos aspectos de la evangelización (3 de diciembre de 2007), n. 4: AAS 100 (2008), 491-492. [40] La capacidad semántica permite a los seres humanos captar el contenido de un mensaje expresado en cualquier forma de comunicación, de manera vinculada a su estructura material o empírica (como el código informático) y, al mismo tiempo, la transciende. En este caso, la inteligencia se convierte en una sabiduría que «permite ver las cosas con los ojos de Dios, comprender los vínculos, las situaciones, los acontecimientos y descubrir su sentido» (Francisco, Mensaje para LVIII Jornada Mundial de las Comunicaciones Sociales [24 de enero de 2024]: L’Osservatore Romano, 24 de enero de 2024, 8). La creatividad permite producir nuevos contenidos o ideas, ofreciendo sobre todo un punto de vista original sobre la realidad. Ambas capacidades presuponen una subjetividad personal para realizarse plenamente. [41] Conc. Ecum. Vat. II, Decl. Dignitatis humanae (7 de diciembre de 1965), n. 3: AAS 58 (1966), 931. [42] La caridad «es mucho más que sentimentalismo subjetivo, si es que está unida al compromiso con la verdad, […]. Precisamente su relación con la verdad facilita a la caridad su universalismo y así evita ser “relegada a un ámbito de relaciones reducido y privado” […] la apertura a la verdad protege a la caridad de una falsa fe que se queda sin “su horizonte humano y universal”» (Francisco, Cart. enc Fratelli tutti [3 de octubre de 2020], n. 184: AAS 112 (2020), 1034). Las citaciones internas han sido tomadas de Benedetto XVI, Cart. enc. Caritas in veritate (29 de junio de 2009), nn. 3-4: AAS 101 (2009), 642-643. [43] Cf. Comisión Teológica Internacional, Comunión y servicio. La persona humana creada a imagen de Dios (2004), n. 7. [44] Juan Pablo II, Cart. enc. Fides et ratio (14 de septiembre de 1998), n. 13: AAS 91 (1999), 15. Cf. Congregación para la Doctrina de la Fe, Nota doctrinal sobre algunos aspectos de la evangelización (3 de diciembre de 2007), n. 4: AAS 100 (2008), 491-492. [45] Juan Pablo II, Cart. enc. Fides et ratio (14 de septiembre de 1998), n. 13: AAS 91 (1999), 15. [46] Buenaventura, II Sent., d. I, p. 2, a. 2, q. 1, cit. en Catecismo de la Iglesia Católica, n. 293. Cf. ibid., n. 294. [47] Cf. Catecismo de la Iglesia Católica, nn. 295, 299, 302. Buenaventura compara el universo con «un libro, en el que la Trinidad creadora brilla, está representada y es leída» (Buenaventura, Breviloquium, 2.12.1), esa misma Trinidad que concede la existencia a todas las cosas. «Cada criatura del mundo es para nosotros como un libro, una imagen y un espejo» (Alano de Lila, De incarnatione Christi: PL 210, 579a). [48] Cf. Francisco, Cart. enc. Laudato si’ (24 de mayo de 2015), n. 67: AAS 107 (2015), 874; Juan Pablo II, Cart. enc. Laborem exercens (14 de septiembre 1981), n. 6: AAS 73 (1981), 589-592; Conc. Ecum. Vat. II, Cons. past. Gaudium et spes (7 de diciembre de 1965), nn. 33-34: AAS 58 (1966), 1052-1053 ; Comisión Teológica Internacional, Comunión y servicio. La persona humana creada a imagen de Dios (2004), n. 57: «Los seres humanos ocupan un lugar único en el universo, conforme al plan divino: tienen el privilegio de participar en el gobierno divino de la creación visible. […] Dado que la situación del hombre como dominador es de hecho una participación en el gobierno divino de la creación, hablaremos aquí de él como de una forma de servicio». [49] Cf. Juan Pablo II, Cart. enc. Veritatis splendor (6 de agosto de 1993), nn. 38-39: AAS 85 (1993), 1164-1165. [50] Cf. Conc. Ecum. Vat. II, Cons. past. Gaudium et spes (7 de diciembre de 1965), nn. 33-34: AAS 58 (1966), 1052-1053). Esta idea se encuentra también en la narración de la creación, donde Dios conduce las criaturas a Adán «para ver qué nombre les ponía. Y cada ser vivo llevaría el nombre que Adán le pusiera» (Gen 2,19), una acción que demuestra la participación activa de la inteligencia humana en la gestión de la creación de Dios. Cf. Juan Crisóstomo, Homiliae in Genesim, 14,17-21: PG 53, 116-117. [51] Cf. Catecismo de la Iglesia Católica, n. 301. [52] Cf. ibid., n. 302. [53] Buenaventura, Breviloquium, 2.12.1. Cf. ibid., 2.11.2. [54] Cf. Francisco, Exhort. ap. Evangelii gaudium (24 de noviembre de 2013), n. 236: AAS 105 (2013), 1115; Id., Discurso a los participantes en el encuentro de capellanes y responsables de la pastoral universitaria promovido por el Dicasterio para la Cultura y la Educación (24 de noviembre de 2023): L’Osservatore Romano, 24 de noviembre de 2023, 7. [55] Cf. J.H. Newman, The Idea of a University, Discurso 5.1, Basil Montagu Pickering, London 18733, 99-100 (tr. esp. La idea de la universidad, Ediciones Encuentro, Madrid 2014); Francisco, Discurso a las comunidades académicas de las universidades e instituciones pontificias romanas (25 de febrero de 2023): AAS 115 (2023), 316. [56] Francisco, Discurso a los representantes de la Confederación Nacional del Artesanado y de la Pequeña y Mediana Empresa (CNA) (15 de noviembre de 2024): L’Osservatore Romano, 15 de noviembre de 2024, 8. [57] Cf. Francisco, Exhort. ap. Querida Amazonia (2 de febrero de 2020), n. 41: AAS 112 (2020), 246; Id., Cart. enc. Laudato si’ (24 de mayo de 2015), n. 146: AAS 107 (2015), 906. [58] Francisco, Cart. enc. Laudato si’ (24 de mayo de 2015), n. 47: AAS 107 (2015), 864. Cf. Id., Cart. enc Dilexit nos (24 de octubre de 2024), nn. 17-24: L’Osservatore Romano, 24 de octubre de 2024, 5; Id., Cart. enc Fratelli tutti (3 octubre2020), nn. 47-50: AAS 112 (2020), 985-987. [59] Francisco, Cart. enc. Dilexit nos (24 de octubre de 2024), n. 20: L’Osservatore Romano, 24 de octubre de 2024, 5. [60] P. Claudel, Conversation sur Jean Racine, Gallimard, Paris 1956, 32. «La inteligencia y la voluntad se pongan a su servicio [del corazón] sintiendo y gustando las verdades más que quererlas dominar como suelen hacer algunas ciencias», Francisco, Cart. enc. Dilexit nos (24 de octubre de 2024), n. 13: L’Osservatore Romano, 24 de octubre de 2024, 5. [61] Dante Alighieri, Paraíso, Canto XXX. [62] Cf. Conc. Ecum. Vat. II, Decl. Dignitatis humanae (7 de diciembre de 1965), n. 3: AAS 58 (1966), 931«La norma suprema de la vida humana es la misma ley divina, eterna, objetiva y universal, por la que Dios ordena, dirige y gobierna el mundo y los caminos de la comunidad humana según el designio de su sabiduría y de su amor. Dios hace partícipe al hombre de esta su ley, de manera que el hombre, por suave disposición de la divina Providencia, puede conocer más y más la verdad inmutable»; Id., Const. past. Gaudium et spes (7 de diciembre de 1965), n. 16: AAS 58 (1966), 1037. [63] Cf. Conc. Ecum. Vat. I, Const. dogm. Dei Filius (24 de abril de 1870), cap. 4, DH 3016. [64] Francisco, Cart. enc. Laudato si’ (24 de mayo de 2015), n. 110: AAS 107 (2015), 892. [65] Francisco, Cart. enc. Laudato si’ (24 de mayo de 2015), n. 110: AAS 107 (2015), 891. Cf. Id., Cart. enc. Fratelli tutti (3 de octubre de 2020), n. 204: AAS 112 (2020), 1042. [66] En el ser humano, Dios «ha impreso su imagen y semejanza (cf. Gn 1, 26), confiriéndole una dignidad incomparable, […]. En efecto, aparte de los derechos que el hombre adquiere con su propio trabajo, hay otros derechos que no proceden de ninguna obra realizada por él, sino de su dignidad esencial de persona» (Juan Pablo II, Cart. enc. Centesimus annus [1 de mayo de 1991], n. 11: AAS 83 [1991], 807). Cf. Francisco, Discurso a la Sesión del G7 sobre la Inteligencia Artificial en Borgo Egnazia (Puglia) (14 de junio de 2024): L’Osservatore Romano,14 de junio de 2024, 3-4. [67] Cf. Dicasterio para la Doctrina de la Fe, Decl. Dignitas infinita (8 de abril de 2024), nn. 8-9; Congregación para la Doctrina de la Fe, Instr. Dignitas personae (8 de septiembre de 2008), n. 22. [68] Francisco, Discurso a los participantes a la Asamblea Plenaria de la Pontificia Academia para la Vida (28 de febrero de 2020): AAS 112 (2020), 310. [69] Francisco, Mensaje para la LVIII Jornada Mundial de las Comunicaciones Sociales (24 de enero de 2024): L’Osservatore Romano, 24 de enero de 2024, 8. [70] En este sentido, la expresión “inteligencia artificial”debe entenderse como un término técnico para la tecnología pertinente, recordando que la expresión también se utiliza para designar el campo de estudio y no sólo sus aplicaciones. [71] Cf. Conc. Ecum. Vat. II, Cons. past.Gaudium et spes (7 de diciembre de 1965), nn. 34-35: AAS 58 (1966), 1052-1053; Juan Pablo II, Cart. enc. Centesimus annus (1 de mayo de 1991), n. 51: AAS 83 (1991), 856-857. [72] Como ejemplo, véase el fomento de la exploración científica en Alberto Magno, De Mineralibus, II, 2, 1, y el aprecio por las artes mecánicas en Hugo de San Víctor, Didascalicon, I, 9. Estos autores, pertenecientes a una larga lista de eclesiásticos comprometidos con la investigación científica y la innovación técnica, han demostrado que «la fe y la ciencia se pueden unir en la caridad si la ciencia se pone al servicio de los hombres y de las mujeres de nuestro tiempo, y no se distorsiona para perjudicarlos o incluso para destruirlos» (Francisco, Discurso a los participantes del II Encuentro promovido por la Specola Vaticana en memoria de Georges Lemaître [20 de junio de 2024]: L’Osservatore Romano, 20 de junio de 2024, 8). Cf. Conc. Ecum. Vat. II, Cons. past. Gaudium et spes (7 de diciembre de 1965), n. 36: AAS 58 (1966), 1053-1054; Juan Pablo II, Cart. enc. Fides et ratio (14 de septiembre de 1998), nn. 2, 106: AAS 91 (1999), 6-7.86-87. [73] Catecismo de la Iglesia Católica, n. 378. [74] Cf. Conc. Ecum. Vat. II, Cons. past. Gaudium et spes (7 de diciembre de 1965), n. 34: AAS 58 (1966), 1053. [75] Cf. ibid., n. 35: AAS 58 (1966), 1053. [76] Francisco, Cart. enc. Laudato si’ (24 de mayo de 2015), n. 102: AAS 107 (2015), 888. [77] Cf. Francisco, Cart. enc Laudato si’ (24 de mayo de 2015), n. 105: AAS 107 (2015), 889; Id., Cart. enc. Fratelli tutti (3 de octubre de 2020), n. 27: AAS 112 (2020), 978; Benedicto XVI, Cart. enc. Caritas in veritate (29 de junio de 2009), n. 23: AAS 101 (2009), 657-658. [78] Cf. Dicasterio para la Doctrina de la Fe, Decl. Dignitas infinita (8 de abril de 2024), nn. 38-39, 47; Congregación para la Doctrina de la Fe, Instr. Dignitas personae (8 de septiembre de 2008), passim. [79] Conc. Ecum. Vat. II, Cons. past. Gaudium et spes (7 de diciembre de 1965), n. 35: AAS 58 (1966), 1053. Cf. Catecismo de la Iglesia Católica, n. 2293. [80] Cf. Francisco, Discurso a la Sesión del G7 sobre la Inteligencia Artificial en Borgo Egnazia (Puglia) (14 de junio de 2024): L’Osservatore Romano, 14 de junio de 2024, 2-4. [81] Cf. Catecismo de la Iglesia Católica, n. 1749:«La libertad hace del hombre un sujeto moral. Cuando actúa de manera deliberada, el hombre es, por así decirlo, el padre de sus actos». [82] Conc. Ecum. Vat. II, Cons. past. Gaudium et spes (7 de diciembre de 1965), n. 16: AAS 58 (1966), 1037. Cf. Catecismo de la Iglesia Católica, n. 1776. [83] Catecismo de la Iglesia Católica, n. 1777. [84] Cf. ibid., nn. 1779-1781. También el Papa Francisco anima los esfuerzos de todos a fin que se garantice «que la tecnología se centre en el ser humano, se funde en bases éticas durante el diseño del proyecto y tenga por finalidad el bien» (Francisco, Discurso a los participantes en los “Minerva Dialogues” [27 de marzo de 2023]: AAS 115 [2023], 463). [85] Cf. Francisco, Cart. enc. Fratelli tutti (3 de octubre de 2020), n. 166: AAS 112 (2020), 1026-1027; Id., Discurso a los participantes a la Asamblea Plenaria de la Pontificia Academia para la Vida (28 de febrero de 2020): AAS 112 (2020), 308. Sobre el papel de la capacidad humana de actuar a la hora de determinar el fin particular (Zweck) que toda aplicación tecnológica a cumple a la luz de un objetivo (Ziel) precedente, se vea F. Dessauer, Streit um die Technik, Freiburg i. Br., 1956, 144. [86] Francisco, Discurso a la Sesión del G7 sobre la Inteligencia Artificial en Borgo Egnazia (Puglia) (14 de junio de 2024): L’Osservatore Romano, 14 de junio de 2024, 4: «La tecnología nace con un propósito y, en su impacto en la sociedad humana, representa siempre una forma de orden en las relaciones sociales y una disposición de poder, que habilita a alguien a realizar determinadas acciones impidiéndoselo a otros. Esta dimensión de poder que es constitutiva de la tecnología incluye siempre, de una manera más o menos explícita, la visión del mundo de quien la ha realizado o desarrollado». [87] Francisco, Discurso a los participantes a la Asamblea Plenaria de la Pontificia Academia para la Vida (28 de febrero de 2020): AAS 112 (2020), 309. [88] Cf. Francisco, Discurso a la Sesión del G7 sobre la Inteligencia Artificial en Borgo Egnazia (Puglia) (14 de junio de 2024): L’Osservatore Romano, 14 de junio de 2024, 3-4. [89] Francisco, Discurso a los participantes en los “Minerva Dialogues” (27 de marzo de 2023): AAS 115 (2023), 464. Cf. Id., Cart. enc. Fratelli tutti (3 de octubre de 2020), nn. 212-213: AAS 112 (2020), 1044-1045. [90] Cf. Juan Pablo II, Cart. enc. Laborem exercens (14 de septiembre de 1981), n. 5: AAS 73 (1981), 589; Francisco, Discurso a la Sesión del G7 sobre la Inteligencia Artificial en Borgo Egnazia (Puglia) (14 de junio de 2024): L’Osservatore Romano, 14 de junio de 2024, 3-4. [91] Francisco, Discurso a la Sesión del G7 sobre la Inteligencia Artificial en Borgo Egnazia (Puglia) (14 de junio de 2024): L’Osservatore Romano, 14 de junio de 2024, 2: «Frente a los prodigios de las máquinas, que parecen saber elegir de manera independiente, debemos tener bien claro que al ser humano le corresponde siempre la decisión, incluso con los tonos dramáticos y urgentes con que a veces ésta se presenta en nuestra vida. Condenaríamos a la humanidad a un futuro sin esperanza si quitáramos a las personas la capacidad de decidir por sí mismas y por sus vidas, condenándolas a depender de las elecciones de las máquinas». [93] En el presente documento, el término «bias» (error sistemático, sesgo) se refiere al sesgo algorítmico (algorithmic bias, que se produce cuando un sistema informático produce errores sistemáticos y constantes que pueden discriminar involuntariamente a determinados grupos de personas), y no al «vector de sesgo» o «vector de bias» (bias vector) en las redes neuronales (que recoge los parámetros utilizados para ajustar las salidas de las «neuronas» de la red durante el proceso de entrenamiento con el fin de adaptarse mejor a los datos). [94] Cf. Francisco, Discurso a los participantes en los “Minerva Dialogues” (27 de marzo de 2023): AAS 115 (2023), 464, donde el Santo Padre ha constatado un crecimiento del consenso de modo que «los procesos de desarrollo respeten valores como la inclusión, la transparencia, la seguridad, la equidad, la privacidad y la responsabilidad», y ha acogido favorablemente « os esfuerzos de las organizaciones internacionales por regular estas tecnologías de modo que promuevan un auténtico progreso, es decir, que contribuyan a dejar un mundo mejor y una calidad de vida integralmente superior». [95] Francisco, Discurso a una delegación de la Sociedad Max Planck (23 de febrero de 2023): L’Osservatore Romano, 23 de febrero de 2023, 8. [96] Conc. Ecum. Vat. II, Cons. past. Gaudium et spes (7 de diciembre de 1965), n. 26: AAS 58 (1966), 1046-1047. [97] Francisco, Discurso a los participantes en un Seminario sobre “El bien común en la era digital” (27 de septiembre de 2019): AAS 111 (2019), 1571. [98] Cf. Francisco, Mensaje para la LVIII Jornada Mundial de las Comunicaciones Sociales (24 de enero de 2024): L’Osservatore Romano, 24 de enero de 2024, 8. Para profundizar en las cuestiones éticas que plantea la IA desde una perspectiva cristiana católica, véase Grupo de Investigación sobre la AI del Centro para la Cultura Digital del Dicasterio para la Cultura y la Educación, Encountering Artificial Intelligence: Ethical and Anthropological Investigations, (Theological Investigations of Artificial Intelligence, 1), editado por M.J. Gaudet, N. Herzfeld, P. Scherz, J.J. Wales, Pickwick, Eugene (OR – USA) 2024, 147-253. [99] Sobre la importancia del diálogo en una sociedad pluralista, orientada hacia una “sólida y estable ética social”, véase Francisco, Cart. enc. Fratelli tutti (3 de octubre de 2020), nn. 211-214: AAS 112 (2020), 1044-1045. [100] Francisco, Mensaje para la LVII Jornada Mundial de la Paz (1 de enero de 2024), n. 2: L’Osservatore Romano, 14 de diciembre de 2023, 2. [101] Francisco, Mensaje para la LVII Jornada Mundial de la Paz (1 de enero de 2024), n. 2: L’Osservatore Romano, 14 de diciembre de 2023, 3. Cf. Conc. Ecum. Vat. II, Cons. past. Gaudium et spes (7 de diciembre de 1965), n. 26: AAS 58 (1966), 1046-1047. [102] Cf. Francisco, Cart. enc. Laudato si’ (24 de mayo de 2015), n. 112: AAS 107 (2015), 892-893. [103] Francisco, Discurso a los participantes en los “Minerva Dialogues” (27 de marzo de 2023): AAS 115 (2023), 464. [104] Cf. Pontificio Consejo de las Comunicaciones Sociales, Ética en internet (22 de febrero de 2002), n. 10. [105] Francisco, Exhort. ap. post-sinodal Christus vivit (25 de marzo de 2019), n. 89: AAS 111 (2019), 414-414, que cita el Documento final de la XV Asamblea General Ordinaria del Sínodo de los Obispos (27 de octubre de 2018), n. 24: AAS 110 (2018), 1593. Cf. Benedicto XVI, Discurso a los participantes al congreso internacional sobre la ley moral natural promovido por la Pontificia Universidad Laterana (12 de febrero de 2017): AAS 99 (2007), 245. [106] Cf. Francisco, Cart. enc. Laudato si’ (24 de mayo de 2015), nn. 105-114: AAS 107 (2015), 889-893; Id., Exhort. ap. Laudate Deum (4 de octubre de 2023), nn. 20-33: AAS 115 (2023), 1047-1050. [107] Francisco, Cart. enc. Laudato si’ (24 de mayo de 2015), n. 105: AAS 107 (2015), 889. Cf. Id., Exhort. ap. Laudate Deum (4 de octubre de 2023), nn. 20-21: AAS 115 (2023), 1047. [108] Cf. Francisco, Discurso a los participantes a la Asamblea Plenaria de la Pontificia Academia para la Vida (28 de febrero de 2020): AAS 112 (2020), 308-309. [109] Francisco, Mensaje para la LVII Jornada Mundial de la Paz (1 de enero de 2024), n. 2: L’Osservatore Romano, 14 de diciembre de 2023, 2. [110] Francisco, Cart. enc. Laudato si’ (24 de mayo de 2015),), n. 112: AAS 107 (2015), 892. [111] Cf. Francisco, Cart. enc. Fratelli tutti (3 de octubre de 2020), nn. 101, 103, 111, 115, 167: AAS 112 (2020), 1004-1005.1007-1009.1027. [112] Conc. Ecum. Vat. II, Cons. past. Gaudium et spes (7 de diciembre de 1965), n. 26: AAS 58 (1966), 1046-1047. Cf. León XIII, Cart. enc. Rerum novarum (15 de mayo de 1891), n. 35: Acta Leonis XIII, 11 (1892), 123. [113] Conc. Ecum. Vat. II, Cons. past. Gaudium et spes (7 de diciembre de 1965), n. 12: AAS 58 (1966), 1034. [114] Cf. Pontificio Consejo de Justicia y Paz, Compendio de la Doctrina Social de la Iglesia (2004), n. 149. [115] Conc. Ecum. Vat. II, Decl. Dignitatis humanae (7 de diciembre de1965), n. 3: AAS 58 (1966), 931. Cf. Francisco, Cart. enc. Fratelli tutti (3 de octubre de 2020), n. 50: AAS 112 (2020), 986-987. [116] Francisco, Cart. enc. Fratelli tutti (3 de octubre de 2020), n. 50: AAS 112 (2020), 986-987. [117] Francisco, Cart. enc. Laudato si’ (24 de mayo de 2015), n. 47: AAS 107 (2015), 865. Cf. Id., Exhort. ap. post-sinodal Christus vivit (25 de marzo de 2019), nn. 88-89: AAS 111 (2019), 413-414. [118] Cf. Francisco, Cart. enc. Evangelii gaudium (24 de noviembre de 2013), n. 88: AAS 105 (2013), 1057. [119] Francisco, Cart. enc. Fratelli tutti (3 de octubre de 2020), n. 47: AAS 112 (2020), 985. [120] Cf. Francisco, Discurso a la Sesión del G7 sobre la Inteligencia Artificial en Borgo Egnazia (Puglia) (14 de junio de 2024): L’Osservatore Romano, 14 de junio de 2024, 2. [121] Cf. Francisco, Cart. enc. Fratelli tutti (3 de octubre de 2020), n. 50: AAS 112 (2020), 986-987. [122] Cf. E. Stein, Zum Problem der Einfühlung, Buchdruckerei des Waisenhauses, Halle 1917 (tr. esp. Sobre el problema de la empatía, Trotta Editorial, Madrid 1985). [123] Francisco, Exhort. ap. Evangelii gaudium (24 de noviembre de 2013), n. 88: AAS 105 (2013), 1057: «Así como algunos quisieran un Cristo puramente espiritual, sin carne y sin cruz, también se pretenden relaciones interpersonales sólo mediadas por aparatos sofisticados, por pantallas y sistemas que se puedan encender y apagar a voluntad. Mientras tanto, el Evangelio nos invita siempre a correr el riesgo del encuentro con el rostro del otro, con su presencia física que interpela, con su dolor y sus reclamos, con su alegría que contagia en un constante cuerpo a cuerpo. La verdadera fe en el Hijo de Dios hecho carne es inseparable del don de sí»; Cf.Conc. Ecum. Vat. II, Cons. past. Gaudium et spes (7 de diciembre de 1965), n. 24: AAS 58 (1966), 1044-1045. [124] Cf. Dicasterio para la Doctrina de la Fe, Decl. Dignitas infinita (8 de abril de 2024), n. 1. [125] Cf. Francisco, Discurso a los participantes en un Seminario sobre “El bien común en la era digital” (27 de septiembre de 2019): AAS 111 (2019), 1570; Id., Cart. enc. Laudato si’ (24 de mayo de 2015), nn. 18, 124-129: AAS 107 (2015), 854.897-899. [126] Francisco, Mensaje para la LVII Jornada Mundial de la Paz (1 de enero de 2024), n. 5: L’Osservatore Romano, 14 de diciembre de 2023, 3. [127] Francisco, Exhort. ap. Evangelii gaudium (24 de noviembre de 2013), n. 209: AAS 105 (2013), 1107. [128] Francisco, Discurso a la Sesión del G7 sobre la Inteligencia Artificial en Borgo Egnazia (Puglia) (14 de junio de 2024): L’Osservatore Romano, 14 de junio de 2024, 4. Para la enseñanza de Papa Francisco respecto a la IA en relación con el «paradigma tecnocrático», cf. Id., Cart. enc. Laudato si’ (24 de mayo de 2015), nn. 106-114: AAS 107 (2015), 889-893. [129] Conc. Ecum. Vat. II, Cons. past. Gaudium et spes (7 de diciembre de 1965), n. 26: AAS 58 (1966), 1046-1047, como citado en el Catecismo de la Iglesia Católica, n. 1912. Cf. Juan XXIII, Cart. enc. Mater et magistra (15 de mayo de 1961), n. 219: AAS 53 (1961), 453. [130] Conc. Ecum. Vat. II, Cons. past. Gaudium et spes (7 de diciembre de 1965), n. 64: AAS 58 (1966), 1086. [131] Francisco, Cart. enc. Fratelli tutti (3 de octubre de 2020), n. 162: AAS 112 (2020), 1025; Juan Pablo II, Cart. enc. Laborem exercens (14 de septiembre de 1981), n. 6: AAS 73 (1981), 591: «el trabajo está «en función del hombre» y no el hombre «en función del trabajo». Con esta conclusión se llega justamente a reconocer la preeminencia del significado subjetivo del trabajo sobre el significado objetivo». [132] Francisco, Cart. enc. Laudato si’ (24 de mayo de 2015), n. 128: AAS 107 (2015), 898. Cf. Id., Exhort. ap. Amoris laetitia, (19 de marzo de 2016), n. 24: AAS 108 (2016), 319-320. [133] Francisco, Mensaje para la LVII Jornada Mundial de la Paz (1 de enero de 2024), n. 5: L’Osservatore Romano, 14 de diciembre de 2023, 3. [134] Juan Pablo II, Cart. enc. Evangelium vitae (25 de marzo de 1995), n. 89: AAS 87 (1995), 502. [136] Francisco, Cart. enc. Fratelli tutti (3 de octubre de 2020), n. 67: AAS 112 (2020), 993; citato in Id., Mensaje para la XXXI Jornada Mundial del Enfermo (11 de febrero de 2023) L’Osservatore Romano, 10 de enero de 2023, 8. [137] Francisco, Mensaje para la XXXII Jornada Mundial del Enfermo (11 de febrero de 2024): L’Osservatore Romano, 13 de enero de 2024, 12. [138] Francisco, Discurso al Cuerpo Diplomático acreditado ante la Santa Sede (11 de enero de 2016): AAS 108 (2016), 120. Cf. Id., Cart. enc. Fratelli tutti (3 de octubre de 2020), n. 18: AAS 112 (2020), 975; Id., Mensaje para la XXXII Jornada Mundial del Enfermo (11 de febrero de 2024): L’Osservatore Romano, 13 de enero de 2024, 12. [139] Cf. Francisco, Discurso a los participantes en los “Minerva Dialogues” (27 de marzo de 2023): AAS 115 (2023), 465; Id., Discurso a la Sesión del G7 sobre la Inteligencia Artificial en Borgo Egnazia (Puglia) (14 de junio de 2024): L’Osservatore Romano, 14 de junio de 2024, 2. [140] Cf. Francisco, Cart. enc. Laudato si’ (24 de mayo de 2015), nn. 105, 107: AAS 107 (2015), 889-890; Id., Cart. enc. Fratelli tutti (3 de octubre de 2020), nn. 18-21: AAS 112 (2020), 975-976; Id., Discurso a los participantes en los “Minerva Dialogues” (27 de marzo de 2023): AAS 115 (2023), 465. [141] Francisco, Discurso a los participantes de un encuentro organizado por la Comisión Caridad y Salud de la Conferencia Episcopal Italiana (10 de febrero de 2017): AAS 109 (2017), 243. Cf. ibid., 242-243: «Si hay un sector donde la cultura del descarte muestra con evidencia sus consecuencias dolorosas es el sanitario. Cuando la persona enferma no ocupa el centro y no se considera su dignidad, se engendran actitudes que pueden conducir incluso a especular sobre las desgracias de los demás. ¡Y esto es muy grave! […] El modelo empresarial en ámbito sanitario, si se adopta de forma indiscriminada […] corre el riesgo de producir descartes humanos». [142] Francisco, Mensaje para la LVII Jornada Mundial de la Paz (1 de enero de 2024), n. 2: L’Osservatore Romano, 14 de diciembre de 2023, 3. [143] Conc. Ecum. Vat. II, Decl. Gravissimum educationis (28 de octubre 1965), n. 1: AAS 58 (1966), 729. [144] Congregación para la Educación Católica, Instrucción para la aplicación de la modalidad de la enseñanza a distancia en las Universidades/Facultades eclesiásticas (2021), 2. Cf. Conc. Ecum. Vat. II, Decl. Gravissimum educationis (28 de octubre 1965), n. 1: AAS 58 (1966), 729; Francisco, Mensaje para la XLIX Jornada Mundial de la Paz (1 de enero de 2016), n. 6: AAS 108 (2016), 57-58. [145] Francisco, Discurso a la delegación del “Global Researchers Advancing Catholic Education Project” (20 de abril de 2022): AAS 114 (2022), 580. [146] «Si [el hombre contemporáneo] escuchan a los que enseñan, es porque dan testimonio» Pablo VI, Exhort. ap. Evangelii nuntiandi (8 de diciembre de 1975), n. 41: AAS 68 (1976), 31, que cita Id., Discurso a los miembros del «Consejo de Laicos» (2 de octubre de 1974), en AAS 66 (1974), 568. [147] J.H. Newman, The Idea of a University Defined and Illustrated, Discurso 6.1, London 18733, 125-126. [148] Cf. Francisco, Encuentro con los alumnos del Colegio Barbarigo de Padova a los 100° años de su fundación (23 de marzo de 2019): L’Osservatore Romano, 24 de marzo de 2019, 8; Id., Discurso a las comunidades académicas de las universidades e instituciones pontificias romanas (25 de febrero de 2023): AAS 115 (2023), 316. [149] Francisco, Exhort. ap. Christus vivit (25 marzo 2019), n. 86: AAS 111 (2019), 413, que cita XV Asamblea General Ordinaria del Sínodo de los Obispos, Documento final (27 de octubre de 2018), n. 21: AAS 110 (2018), 1592. [150] J.H. Newman, The Idea of a University Defined and Illustrated, Discorso 7.6, London 18733, 167. [151] Cf. Francisco, Exhort. ap. Christus vivit (25 marzo 2019), n. 88: AAS 111 (2019), 413. [152] En un documento estratégico del 2023 sobre el uso de la IA generativa en campo educativo y de investigación, la UNESCO señala: «Una de las cuestiones clave [del uso de la IA generativa (GenAI) en la educación y en la investigación] es si los humanos pueden ceder los niveles básicos de pensamiento y los procesos de adquisición de habilidades a la IA y concentrarse en las habilidades de pensamiento de orden superior basadas en los resultados generados por la IA. La escritura, por ejemplo, está asociada normalmente con la estructuración del pensamiento. Con la GenAI […], los humanos pueden empezar ahora con un bosquejo bien estructurado facilitado por la GenAI. Algunos expertos han caracterizado el uso de la GenAI para generar texto de esta forma como “escribir sin pensar”» (UNESCO, Guía para el uso de la IA generativa en educación e investigación [2023], 37-38). La filósofa alemana-estadounidense Hannah Arendt había ya previsto esta posibilidad en su libro de 1959, La condición humana, y nos ha puesto en guardia: «Si sucediera que conocimiento (en el moderno sentido de know-how) y el pensamiento se separasen definitivamente, nos convertiríamos en impotentes esclavos, no tanto de las maquinas como de nuestros know-how» (H. Arendt, The Human Condition, Chicago 20182, 3 ; tr. esp., La condición humana, Ediciones Paidós, Barcelona 2009, 16). [153] Francisco, Exhort. ap. Amoris laetitia (19 de marzo de 2016), n. 262: AAS 108 (2016), 417. [154] Francisco, Mensaje para la LVII Jornada Mundial de la Paz (1 de enero de 2024), n. 2: L’Osservatore Romano, 14 de diciembre de 2023, 3. Cf. Id., Cart. enc. Laudato si’ (24 de mayo de 2015), n. 167: AAS 107 (2015), 914. [155] Juan Pablo II, Const. ap. Ex corde Ecclesiae (15 agosto 1990), 7: AAS 82 (1990), 1479. [156] Francisco, Const. ap. Veritatis gaudium (29 de enero de 2018), 4c: AAS 110 (2018), 9-10. [157] Francisco, Discurso a la Sesión del G7 sobre la Inteligencia Artificial en Borgo Egnazia (Puglia) (14 de junio de 2024): L’Osservatore Romano, 14 junio 2024, 3. [158] Por ejemplo, podría ayudar a las personas a acceder a los «muchos medios para progresar en el conocimiento de la verdad» recogidos en las obras filosóficas (Juan Pablo II, Cart. enc. Fides et ratio [14 de septiembre de 1998], n. 3: AAS 91 [1999], 7. 3); Cf. ibid., n. 4: AAS 91 (1999), 7-8). [159] Dicasterio para la Doctrina de la Fe, Decl. Dignitas infinita (8 de abril de 2024), n. 43. Cf. ibid., nn. 61-62. [160] Francisco, Mensaje para la LVIII Jornada Mundial de las Comunicaciones Sociales (24 de enero de 2024): L’Osservatore Romano, 24 de enero de 2024, 8. [161] Conc. Ecum. Vat. II, Cons. past.Gaudium et spes (7 de diciembre de 1965), n. 25: AAS 58 (1966), 1053. Cf. Francisco, Cart. enc. Fratelli tutti (3 de octubre de 2020), passim: AAS 112 (2020), 969-1074. [162] Cf. Francisco, Exhort. ap. post-sinodal Christus vivit (25 de marzo de 2019), n. 89: AAS 111 (2019), 414; Juan Pablo II, Cart. enc Fides et ratio (14 de septiembre de 1998), n. 25: AAS 91 (1999), 25-26: «Nadie puede permanecer sinceramente indiferente a la verdad de su saber. […] Es la lección de san Agustín cuando escribe: “He encontrado muchos que querían engañar, pero ninguno que quisiera dejarse engañar”», que cita Agustín de Hipona, Confessionum libri tredecim, 10, 23, 33: PL 27, 793. [163] Dicasterio para la Doctrina de la Fe, Decl. Dignitas infinita (8 de abril de 2024), n. 62. [164] Benedicto XVI, Mensaje para la XLIII Jornada Mundial de las Comunicaciones Sociales (24 de mayo de 2009): L’Osservatore Romano, 24 de enero de 2009, 8. [165] Cf. Dicasterio para la Comunicación, Hacia una plena presencia. Reflexión pastoral sobre la interacción en las Redes Sociales (28 de mayo de 2023), n. 41; Conc. Ecum. Vat. II, Decr. Inter mirifica (4 de diciembre de 1963), nn. 4, 8-12: AAS 56 (1964), 146.148-149. [166] Cf. Dicasterio para la Doctrina de la Fe, Decl. Dignitas infinita (8 de abril de 2024), nn. 1, 6, 16, 24. [167]Conc. Ecum. Vat. II, Cons. past. Gaudium et spes (7 de diciembre de 1965), n. 26: AAS 58 (1966), 1046. Cf. León XIII, Cart. enc. Rerum novarum (15 maggio 1891), n. 40: Acta Leonis XIII, 11 (1892), 127: «A nadie es lícito violar impunemente la dignidad del hombre, de quien Dios mismo dispone con gran respeto», citado en Juan Pablo II, Cart. enc. Centesimus annus (1 de mayo de 1991), n. 9: AAS 83 (1991), 804. [168] Cf. Catecismo de la Iglesia Católica, nn. 2477, 2489; can. 220 CIC; can. 23 CCEO; Juan Pablo II, Discurso con ocasión de la III Conferencia General del Episcopado Latinoamericano (28 d enero de 1979), III.1-2: Insegnamenti, II/1 (1979), 202-203. [169] Cf. Misión del Observador Permanente de la Santa Sede ante las Naciones, Declaración de la Santa Sede durante la discusión temática sobre otras medidas de desarme y seguridad internacional (24 de octubre de 2022): «El respeto de la dignidad humana en el espacio digital obliga a los Estados a respetar también el derecho a la privacidad, protegiendo a los ciudadanos de una vigilancia intrusiva y permitiéndoles defender sus datos personales de accesos no autorizados». [170] Francisco, Cart. enc. Fratelli tutti (3 de octubre de 2020), n. 42: AAS 112 (2020), 984. [171] Francisco, Mensaje para la LVII Jornada Mundial de la Paz (1 de enero de 2024), n. 2: L’Osservatore Romano, 14 de diciembre de 2023, 3. [172] Francisco, Discurso a los participantes en los “Minerva Dialogues” (27 de marzo de 2023): AAS 115 (2023), 465. [173] El Informe provisional del 2023 del Órgano Consultivo sobre la IA de las Naciones Unidas ha identificado una lista de «expectativas iniciales sobre la ayuda de la IA a la lucha contra el cambio climático» (Órgano Consultivo sobre IA de las Naciones Unidas, Interim Report: Governing AI for Humanity, Diciembre 2023, 3). El documento ha observado que «junto con los sistemas predictivos que pueden transformar los datos en ideas y las ideas en acciones, las herramientas basadas en la IA pueden ayudar a desarrollar nuevas estrategias e inversiones para reducir las emisiones, influir en las nuevas inversiones del sector privado en el net zero, proteger la biodiversidad y crear una amplia base de resiliencia social», (ibid.). [174] Se trata de una red de servidores físicos repartidos por todo el mundo que permite a los usuarios almacenar, procesar y gestionar sus datos a distancia, sin necesidad de espacio de almacenamiento ni potencia de cálculo en los dispositivos locales. [175] Francisco, Cart. enc. Laudato si’ (24 de mayo de 2015), n. 9: AAS 107 (2015), 850. [176] Ibid., n. 106: AAS 107 (2015), 890. [177] Ibid., n. 60: AAS 107 (2015), 870. [178] Ibid., nn. 3, 13: AAS 107 (2015), 848.852. [179] Agustín de Hipona, De Civitate Dei, 19.13.1: PL 41, 460. [180] Cf. Conc. Ecum. Vat. II, Cons. past. Gaudium et spes (7 de diciembre de 1965), nn. 77-82: AAS 58 (1966), 1100-1107; Francisco, Cart. enc. Fratelli tutti (3 de octubre de 2020), nn. 256-262: AAS 112 (2020), 1060-1063; Dicasterio para la Doctrina DE LA fe, Decl. Dignitas infinita (8 de abril de 2024), nn. 38-39; Catecismo de la Iglesia Católica, nn. 2302-2317. [181] Conc. Ecum. Vat. II, Cons. past. Gaudium et spes (7 de diciembre de 1965), n. 78: AAS 58 (1966), 1101. [182] Francisco, Mensaje para la LVII Jornada Mundial de la Paz (1 de enero de 2024), n. 6: L’Osservatore Romano, 14 de diciembre de 2023, 3. [183] Cf. Catecismo de la Iglesia Católica nn. 2308-2310. [184] Cf. Conc. Ecum. Vat. II, Cons. past. Gaudium et spes (7 de diciembre de 1965), nn. 80-81: AAS 58 (1966), 11013-1105. [185] Francisco, Mensaje para la LVII Jornada Mundial de la Paz (1 de enero de 2024), n. 6: L’Osservatore Romano, 14 de diciembre de 2023, 3; Cf. Id., Discurso a la Sesión del G7 sobre la Inteligencia Artificial en Borgo Egnazia (Puglia) (14 de junio de 2024): L’Osservatore Romano, 14 de junio de 2024, 2: «Necesitamos garantizar y proteger un espacio de control significativo del ser humano sobre el proceso de elección utilizado por los programas de inteligencia artificial. Está en juego la misma dignidad humana». [186] Francisco, Discurso a la Sesión del G7 sobre la Inteligencia Artificial en Borgo Egnazia (Puglia) (14 de junio de 2024): L’Osservatore Romano, 14 de junio de 2024, 2; Cf. Misión del Observador Permanente de la Santa Sede ante las Naciones Unidas, Declaración de la Santa Sede al Grupo de Trabajo II sobre tecnologías emergentes ante la Comisión de Desarme de la ONU (3 de abril de 2024): «El desarrollo y la utilización de sistemas de armas autónomas letales que carezcan de un control humano adecuado plantearía problemas éticos fundamentales, ya que tales sistemas nunca podrán ser sujetos moralmente responsables capaces de cumplir el derecho internacional humanitario», [187] Francisco, Cart. enc. Fratelli tutti (3 de octubre de 2020),), n. 258: AAS 112 (2020), 1061. Cf. Conc. Ecum. Vat. II, Cons. past. Gaudium et spes (7 de diciembre de 1965), n. 80: AAS 58 (1966), 1103-1104. [188] Conc. Ecum. Vat. II, Cons. past. Gaudium et spes (7 de diciembre de 1965), n. 80: AAS 58 (1966), 1103-1104. [189] Cf. Francisco, Mensaje para la LVII Jornada Mundial de la Paz (1 de enero de 2024), n.6: L’Osservatore Romano, 14 de diciembre de 2023, 3: «Tampoco podemos ignorar la posibilidad de que armas sofisticadas terminen en las manos equivocadas facilitando, por ejemplo, ataques terroristas o acciones dirigidas a desestabilizar instituciones de gobierno legítimas. En resumen, realmente lo último que el mundo necesita es que las nuevas tecnologías contribuyan al injusto desarrollo del mercado y del comercio de las armas, promoviendo la locura de la guerra». [190] Juan Pablo II, Acto de ofrecimiento a María Santísima con ocasión del Jubileo de los Obispos (8 de octubre de 2000), n. 3: Insegnamenti, XXIII/2 (200), 565. [191] Francisco, Cart. enc. Laudato si’ (24 de mayo de 2015), n. 79: AAS 107 (2015), 878. [192] Cf. Benedicto XVI, Cart. enc. Caritas in veritate (29 de junio de 2009), n. 51: AAS 101 (2009), 687. [193] Cf. Dicasterio para la Doctrina de la Fe, Decl. Dignitas infinita (8 de abril de 2024), nn. 38-39. [194] Cf. Agustín de Hipona, Confessionum libri tredecim, 1.1.1: PL 32, 661. [195] Cf. Juan Pablo II, Cart. enc. Sollicitudo rei socialis (30 de diciembre de1987), n. 28: AAS 80 (1988), 548: «Hoy se comprende mejor que la mera acumulación de bienes y servicios […] no basta para proporcionar la felicidad humana. Ni, por consiguiente, la disponibilidad de múltiples beneficios reales, aportados en los tiempos recientes por la ciencia y la técnica, incluida la informática, traen consigo la liberación de cualquier forma de esclavitud. Al contrario […] si toda esta considerable masa de recursos y potencialidades, puestas a disposición del hombre, no es regida por un objetivo moral y por una orientación que vaya dirigida al verdadero bien del género humano, se vuelve fácilmente contra él para oprimirlo». Cf. ibid., nn. 29, 37: AAS 80 (1988), 550-551.563-564. [196] Conc. Ecum. Vat. II, Cons. past. Gaudium et spes (7 de diciembre de 1965), n. 14: AAS 58 (1966), 1036. [197] Francisco, Cart. enc. Dilexit nos (24 de octubre de 2024), n. 18: L’Osservatore Romano, 24 de octubre de 2024, 6. [198] Ibid., n. 27: L’Osservatore Romano, 24 de octubre de 2024, 5. [199] Ibid., n. 25: L’Osservatore Romano, 24 de octubre de 2024, 5-6. [200] Francisco, Cart. enc. Laudato si’ (24 de mayo de 2015), n. 105: AAS 107 (2015), 889. Cf. R. Guardini, Das Ende der Neuzeit, Würzburg, 19659, 87ss. (tr. esp. El ocaso de la Edad Moderna, Editorial Cristiandad, Madrid 1981). [201] Conc. Ecum. Vat. II, Cons. past. Gaudium et spes (7 de diciembre de 1965), n. 34: AAS 58 (1966), 1053. [202] Juan Pablo II, Cart. enc. Redemptor hominis (4 de mayo de 1979), n. 15: AAS 71 (1979), 287-288. [203] N. Berdjaev, «Man and Machine», en C. Mitcham – R. Mackey (eds.), Philosophy and Technology: Readings in the Philosophical Problems of Technology, The Free Press, New York 19832, 212-213. [204] Ibid., 210. [205] G. Bernanos, «La révolution de la liberté» (1944), en Id., Le Chemin de la Croix-des-Âmes, Rocher, Mónaco 1987, 829. [206] Cf. Francisco, Encuentro con los alumnos del Colegio Barbarigo de Padova en el 100° año de fundación (23 de marzo de 2019): L’Osservatore Romano, 24 de marzo de 2019, 8; Id., Discurso a las comunidades académicas de las universidades e instituciones pontificias romanas (25 de febrero 2023): AAS 115 (2023), 316. [207] Francisco, Cart. enc. Laudato si’ (24 de mayo de 2015), n. 112: AAS 107 (2015), 892-893. [208] Cf. Buenaventura, Collationes in Hexaemeron, XIX, 3; Cf. Francisco, Cart. enc. Fratelli tutti (3 de octubre de 2020), n. 50: AAS 112 (2020), 986: «El cúmulo abrumador de información que nos inunda no significa más sabiduría. La sabiduría no se fabrica con búsquedas ansiosas por internet, ni es una sumatoria de información cuya veracidad no está asegurada. De ese modo no se madura en el encuentro con la verdad». [209] Francisco, Mensaje para la LVIII Jornada Mundial de las Comunicaciones Sociales (24 de enero de 2024): L’Osservatore Romano, 24 de enero de 2024, 8. [212] Francisco, Exhort. ap. Gaudete et exsultate (19 marzo 2018), n. 37: AAS 110 (2018), 1121. [213] Francisco, Mensaje para la LVII Jornada Mundial de la Paz (1 de enero de 2024), n. 2: L’Osservatore Romano, 14 de diciembre de 2023, 3. Cf. Id., Cart. enc. Laudato si’ (24 de mayo de 2015), n. 112: AAS 107 (2015), 892-893; Id., Exhort. ap. Gaudete et exsultate (19 de marzo de 2018), n. 46: AAS 110 (2018), 1123-1124. [214] Cf. Francisco, Cart. enc. Laudato si’ (24 de mayo de 2015), n. 112: AAS 107 (2015), 892-893. [215] Cf. Francisco, Discurso a los participantes en un Seminario sobre “El bien común en la era digital” (27 de septiembre de 2019): AAS 111 (2019), 1570-1571. 4. Mensaje de Su Santidad el Papa Francisco al Presidente de la República Francesa con motivo de la "Cumbre de Acción de IA" en París, 11.02.2025
Texto en: https://press.vatican.va/content/salastampa/it/bollettino/pubblico/2025/02/11/0124/00256.html Mensaje de Su
Santidad el Papa Francisco al Presidente de
la República Francesa Excmo. Sr.
Emmanuel Macron Con motivo de la "Cumbre para
la Acción sobre Inteligencia Artificial" París, 10-11 de
febrero de 2025 Señor Presidente,
Excelencias, distinguidos participantes: He tenido
conocimiento de su loable iniciativa de celebrar una Cumbre sobre Inteligencia
Artificial en París los días 10 y 11 de febrero de 2025. Sé que usted, señor
Presidente, ha querido dedicar esta cumbre a la acción sobre la inteligencia
artificial.
Durante nuestra
reunión en Puglia (en castellano: Apulia o Pulla), en el contexto del G7, tuve
la oportunidad de subrayar la urgencia de "garantizar y proteger un
espacio de control humano significativo sobre el proceso de elección de los
programas de inteligencia artificial". De hecho, pensaba que, sin estos
mecanismos, la inteligencia artificial, aunque era una nueva herramienta
"fascinante", podría mostrar su lado más "formidable",
convirtiéndose en una amenaza para la dignidad humana (cf. Discurso en la
sesión del G7 sobre inteligencia artificial).
Por tanto, acojo
con beneplácito los esfuerzos emprendidos, con valentía y determinación, para
iniciar un camino político hacia la protección de la humanidad contra el uso de
la inteligencia artificial "que limita la visión del mundo a realidades
que pueden expresarse en cifras y están encerradas en categorías preconcebidas,
desplazando la aportación de otras formas de verdad e imponiendo modelos
antropológicos, uniformes
socioeconómicos y culturales" (ibid.); y el hecho de que en la
Cumbre de París haya querido implicar al mayor número posible de actores y
expertos en una reflexión que pretende producir resultados concretos.
En la última carta
encíclica Dilexit nos traté de distinguir la categoría de los algoritmos
de la del "corazón", concepto clave defendido por el gran filósofo y
científico Blaise Pascal, a quien dediqué una carta apostólica con ocasión del
cuarto aniversario de su nacimiento (cf. Sublimitas et miseria hominis,
2023), para subrayar que, si bien los algoritmos pueden utilizarse para engañar
al hombre, al "corazón", entendido como sede de los sentimientos más
íntimos y verdaderos, nunca pueden engañarlo (cf. Carta Encíclica, Dilexit
nos, nn. 14.20).
A todos los que
participarán en la Cumbre de París, les pido que no olviden que sólo del
"corazón" del hombre proviene el sentido de su existencia (cf. Blaise
Pascal, Pensées). Les pido que acepten como axiomático el principio
expresado con tanta elegancia por otro gran filósofo francés, Jacques Maritain:
"El amor vale más que la inteligencia" (Jacques Maritain, Reflexiones
sobre la inteligencia, 1938).
Vuestros
esfuerzos, queridos participantes, son un ejemplo luminoso de una sana política
que quiere situar las innovaciones tecnológicas en un proyecto orientado al
bien común para "abrir el camino a diversas oportunidades que no impliquen
interrumpir la creatividad del hombre y su sueño de progreso, sino canalizar
esta energía de un modo nuevo" (Laudato si', 191).
Estoy convencido
de que la inteligencia artificial puede convertirse en una poderosa herramienta
para los científicos y expertos que trabajan juntos para encontrar soluciones
innovadoras y creativas para la ecosostenibilidad de nuestro planeta. Por no hablar
de que el consumo de energía asociado al funcionamiento de las infraestructuras
de inteligencia artificial es en sí mismo un alto consumo de energía.
Ya en mi Mensaje
para la Jornada Mundial de la Paz 2024 dedicada a la inteligencia artificial,
subrayé que "en los debates sobre la regulación de la inteligencia
artificial se debe tener en cuenta la voz de todas las partes interesadas,
incluidos los pobres, los marginados y otros que a menudo permanecen ignorados
en los procesos globales de toma de decisiones" (Mensaje para la 57ª
Jornada Mundial de la Paz, 1 de enero de 2024). Con esto en mente, espero
que la Cumbre de París avance para que se cree una plataforma de interés
público sobre la inteligencia artificial; y para que cada nación pueda
encontrar en la inteligencia artificial un instrumento, por un lado, para el
desarrollo y la lucha contra la pobreza, y por otro, para la protección de las
culturas y lenguas locales. Solo así todos los pueblos de la tierra podrán
contribuir a la creación de datos, que serán utilizados por la inteligencia
artificial, representando la verdadera diversidad y riqueza que caracteriza a
toda la humanidad.
Este año, el
Dicasterio para la Doctrina de la Fe y el Dicasterio para la Cultura y la
Educación han trabajado juntos en una nota sobre "Inteligencia artificial
e inteligencia humana". En este documento, publicado el 28 de enero, se
examinaron varias cuestiones específicas relacionadas con la inteligencia
artificial que se abordan en la actual cumbre, así como algunas otras que me
preocupan especialmente. En el futuro, espero que el trabajo de las futuras
Cumbres, que deberían dar seguimiento a la presente, examine con más detalle
los efectos sociales de la inteligencia artificial en las relaciones humanas,
la información y la educación. La cuestión fundamental, sin embargo, sigue
siendo y seguirá siendo siempre antropológica, a saber: "si el hombre, en
tanto hombre" en el contexto del progreso tecnológico, "llegará a ser
verdaderamente mejor, es decir, más maduro espiritualmente, más consciente de
la dignidad de su humanidad. Más responsables, más abiertos a los demás,
especialmente a los más necesitados y a los más débiles" (Redemptor
hominis, 15). Nuestro último desafío es el hombre y siempre seguirá siendo el
hombre; no lo olvidemos nunca.
Gracias, Sr.
Presidente, y gracias a todos los que han trabajado durante esta Cumbre.
Vaticano, 7 de
febrero de 2025 FRANCISCO
[00256-ES.01] [Texto original: francés]:
Messaggio del
Santo Padre Francesco al Presidente della Repubblica francese in occasione
dell’“AI Action Summit” di Parigi, 11.02.2025
Pubblichiamo
di seguito il Messaggio che il Santo Padre Francesco ha inviato al Presidente
della Repubblica francese, S.E. il Sig. Emmanuel Macron, in occasione dell’AI
Action Summit, Vertice per l’Azione sull’Intelligenza Artificiale, in corso
a Parigi (10-11 febbraio 2025): Message
de Sa Sainteté le Pape François au
Président de la République Française S.E.
Monsieur Emmanuel Macron à
l’occasion du «Sommet
pour l’Action sur l’Intelligence Artificielle» Paris,
10-11 février 2025 Monsieur le
Président, Excellences, distingués participants, j’ai appris
votre louable initiative de tenir un Sommet sur l’intelligence artificielle, à
Paris, les 10 et 11 février 2025. J’ai su que vous, Monsieur le Président, vous
avez voulu consacrer ce sommet à l’action sur l’intelligence
artificielle. Au cours de
notre rencontre, dans les Pouilles, dans le contexte du G7, j’avais eu
l’occasion de souligner l’urgence de «garantir et protéger un espace de
contrôle significatif de l’être humain sur le processus de choix des programmes
d’intelligence artificielle». Je pensais en effet que sans ces mécanismes,
l’intelligence artificielle, bien qu’étant un nouvel outil «fascinant»,
pourrait montrer son côté le plus «redoutable», en devenant une menace pour la
dignité humaine (cf. Discours à la session du G7 sur l’intelligence
artificielle). Je me félicite
donc des efforts entrepris, avec courage et détermination, pour entamer un
parcours politique dans le sens de la protection de l’humanité contre une
utilisation de l’intelligence artificielle «qui limite la vision du monde à des
réalités exprimables en chiffres et enfermées dans des catégories préconçues,
évinçant l’apport d’autres formes de vérité et en imposant des modèles
anthropologiques, socio-économiques et culturels uniformes» (ibid.); et
du fait qu’au Sommet de Paris, vous ayez voulu impliquer le plus grand nombre
d’acteurs et d’experts dans une réflexion qui vise à produire des résultats
concrets. Dans ma
dernière Lettre encyclique Dilexit nos, j’ai voulu distinguer la
catégorie des algorithmes de celle du “cœur”, le concept-clé défendu par le
grand philosophe et scientifique Blaise Pascal, auquel j’ai consacré une Lettre
apostolique à l’occasion du quatrième anniversaire de sa naissance (cf. Sublimitas
et miseria hominis, 2023), afin de souligner que, si les algorithmes
peuvent être utilisés pour tromper l’homme, le “cœur”, entendu comme le siège
des sentiments les plus intimes et les plus vrais, ne pourra jamais le tromper
(cf. Lettre encyclique, Dilexit nos, nn. 14.20). À tous ceux
qui participeront au Sommet de Paris, je demande de ne pas oublier que c’est
seulement du “cœur” de l’homme que provient le sens de son existence (cf.
Blaise Pascal, Pensées). Je demande d’accepter comme axiomatique,
le principe exprimé si élégamment par un autre grand philosophe français,
Jacques Maritain: «L’amour vaut plus que l’intelligence» (Jacques
Maritain, Réflexions sur l’intelligence, 1938). Vos efforts,
chers participants, sont un exemple brillant d’une saine politique qui veut
inscrire les nouveautés technologiques dans un projet visant au bien commun
pour «ouvrir le chemin à des opportunités différentes qui n’impliquent pas
d’interrompre la créativité de l’homme et son rêve de progrès, mais de
canaliser cette énergie de façon nouvelle» (Laudato si’, n. 191). L’intelligence
artificielle, j’en suis convaincu, peut devenir un puissant outil pour les
scientifiques et les experts qui cherchent ensemble des solutions innovantes et
créatives en faveur de l’éco-durabilité de notre planète. Sans ignorer que la
consommation d’énergie associée au fonctionnement des infrastructures de
l’intelligence artificielle est en soi hautement consommatrice d’énergie. Déjà dans mon
Message pour la Journée Mondiale de la Paix 2024 consacré à l’intelligence
artificielle, j’ai souligné que «dans les débats sur la réglementation de
l’intelligence artificielle, il faudrait tenir compte de la voix de toutes les
parties prenantes, y compris les pauvres, les marginalisés et d’autres qui
restent souvent ignorés dans les processus décisionnels mondiaux» (Message
pour la 57è Journée Mondiale de la Paix, 1er janvier
2024). Dans cette perspective, je souhaite que le sommet de Paris avance pour
qu’une plate-forme d’intérêt public sur l’intelligence artificielle soit créée;
et pour que chaque nation puisse trouver dans l’intelligence artificielle un
instrument, d’une part, de développement et de lutte contre la pauvreté, et
d’autre part, de protection des cultures et des langues locales. Ce n’est
qu’ainsi que tous les peuples de la terre pourront contribuer à la création de
données, qui seront utilisées par l’intelligence artificielle, représentant la
véritable diversité et richesse qui caractérise l’humanité tout entière. Cette année,
le Dicastère pour la Doctrine de la Foi et le Dicastère pour la Culture et
l’Éducation ont travaillé ensemble sur une Note sur «Intelligence Artificielle
et Intelligence Humaine». Dans ce document, publié le 28 janvier dernier, ont
été examinées plusieurs questions spécifiques relatives à l’intelligence
artificielle que le sommet actuel est en train d’aborder et quelques autres qui
me préoccupent plus particulièrement. À l’avenir, j’espère que les travaux des
prochains Sommets qui devraient donner suite au présent, examineront plus en
détail les effets sociaux de l’intelligence artificielle sur les relations
humaines, sur l’information et sur l’éducation. La question fondamentale,
cependant, reste et restera toujours anthropologique, à savoir: «si l’homme,
comme homme» dans le contexte du progrès technologique «deviendra vraiment
meilleur, c’est-à-dire plus mûr spirituellement, plus conscient de la dignité
de son humanité. Plus responsable, plus ouvert aux autres, en particulier aux
plus nécessiteux et aux plus faibles» (Lettre encyclique Redemptor
hominis, n. 15). Notre ultime défi est l’homme et restera toujours l’homme;
ne l’oublions jamais. Merci, Monsieur le Président, et merci à vous tous qui
avez travaillé durant ce Sommet. Du Vatican, le
7 février 2025 FRANÇOIS [00256-FR.01] [Texte original: Français] |
