EL IMPACTO DE LA INTELIGENCIA ARTIFICIAL

EN EL DERECHO ECLESIÁSTICO DEL ESTADO:

UNA NUEVA LÍNEA DE INVESTIGACIÓN

José Mª Contreras Mazarío

Catedrático de Derecho eclesiástico del Estado

Universidad Pablo de Olavide de Sevilla

RESUMEN

Las nuevas tecnologías no sólo planean nuevos interrogantes y preguntas, y con ello nuevos contenidos, sino también nuevos enfoques, que afectan, y sobre todo afectarán, a un importante número de materias, así como formas de hacer (o incluso de actuar), toda vez que obligan a pensar y replantear nuestra posición en el mundo y en la vida. Por lo que a nuestra área de conocimiento se refiere, cuestiones tales como la libre formación de la conciencia y el ámbito ad intra de la libertad de pensamiento y de conciencia pueden verse afectadas, y de hecho ya lo están siendo, por los avances de las nuevas tecnologías en general, y de la inteligencia artificial en particular. En este trabajo se va a hacer referencia a algunos de esos contenidos y cómo los mismos pueden verse afectados de tal manera que nos lleven a replantearnos algunas de las respuestas ahora dadas, como puede ser la respuesta clásica al ámbito “ad intra” de la libertad de conciencia.

PALABRAS CLAVE

Inteligencia artificial, libertad de conciencia, Derecho eclesiástico del Estado

ABSTRACT

New technologies not only raise new questions and issues, and thus new content, but also new approaches, which affect, and above all will affect, a large number of topics, as well as ways of doing (or even acting), as they force us to think and rethink our position in the world and in life. As far as our area of knowledge is concerned, issues such as the free formation of conscience and the ad intra scope of freedom of thought and conscience may be affected, and indeed are already being affected, by developments in new technologies in general, and artificial intelligence in particular. This paper will refer to some of these contents and how they may be affected in such a way as to lead us to rethink some of the answers currently given, such as the classical response to the ‘ad intra’ scope of freedom of conscience.

KEYWORDS

Artificial intelligence, freedom of conscience, State ecclesiastical law

SUMARIO: 1.- Consideraciones generales. 2.- Derecho e inteligencia artificial. 2.1. Inteligencia artificial y soft law. 2.2. Inteligencia artificial, proceso de codificación y regulación. 3.- Libertad de pensamiento, conciencia y religión y nuevas tecnologías: un nuevo ámbito para la investigación. 3.1. Neurociencia y libertad de conciencia. 3.2. Nuevas tecnologías y libre formación de la conciencia. 3.3. Inteligencia artificial y derechos a la identidad, intimidad y privacidad. 3.4.- Inteligencia artificial y ámbito de la salud: especial incidencia en la autonomía del paciente. 3.5. Inteligencia artificial y libertad de culto. 3.6. Libertad de culto y metaverso. 3.7. Inteligencia artificial y trascendencia. 4.- Inteligencia artificial y principios del modelo de relación Estado español-fenómeno religioso. 4.1. Inteligencia artificial y principio de igualdad y no discriminación (el sesgo algorítmico). 4.2. Inteligencia artificial y pluralismo. 4.3. Inteligencia artificial y laicidad. 5.- Consideraciones finales.

“Sólo la inteligencia se examina a sí misma”

Jaime Balmes

1.- CONSIDERACIONES GENERALES

La lectura de una reciente monografía del profesor Rodríguez (2024)¹ y mi participación en dos seminarios sobre inteligencia artificial (2024 y 2025)², me llevan a suscitar -en este 25 aniversario de la revista Laicidad y libertades: Escritos jurídicos- una nueva línea de investigación, objeto material de análisis por los eclesiasticistas. Esta línea nueva versaría sobre la libertad de conciencia y religiosa y las nuevas tecnologías en general, y la inteligencia artificial en particular. Aunque como ya he puesto de manifiesto, no soy -ni pretendo serlo ni asumirlo- quien haya abordado por primera vez esta temática, ya que ello ha correspondido -creo- al profesor Rodríguez García³ (salvo que alguien me demuestre lo contrario), con esta aportación sólo pretendo plantear algunas cuestiones o materias de futuras investigaciones para nuestra área conectadas con la inteligencia artificial y otras tecnologías disruptivas.

Estas nuevas tecnologías plantean no sólo nuevos interrogantes y preguntas, y con ello nuevos contenidos, sino también nuevos enfoques, que afectan, y sobre todo afectarán, a un importante número de materias, así como formas de hacer (o incluso de actuar), toda vez que obligan a pensar y replantear -por lo que a nuestra área de conocimiento se refiere- cuestiones tales como, por ejemplo, la libre formación de la conciencia y el ámbito ad intra de la libertad de pensamiento y de conciencia, entre otras.

2.- DERECHO E INTELIGENCIA ARTIFICIAL

Esta nueva realidad que es la inteligencia artificial está teniendo su reflejo y reflexión en múltiples ámbitos tecnológicos y de las ciencias sociales, y desde el ámbito jurídico desde el plano del legislador tanto nacional como internacional⁴, sin olvidar los planos procesal-judicial, penal-criminal, privado-comercial, laboral y administrativo. Sin olvidar que la aplicación de los procesos computacionales cambiará la práctica del Derecho⁵, al conectar modelos computacionales de razonamiento jurídico directamente con el texto jurídico, generando argumentos a favor y en contra de determinados resultados, prediciendo resultados y explicando estas predicciones con razones que los profesionales del Derecho podrán evaluar por sí mismos. Estas aplicaciones jurídicas apoyarán la recuperación de información jurídica conceptual y permitirán la computación cognitiva, posibilitando una colaboración entre humanos y ordenadores en la que cada uno realice el tipo de actividades inteligentes que mejor sepa hacer.

2.1.- Inteligencia artificial y soft law.

Con relación a este segundo nivel y ámbito, se debe hacer referencia a toda la labor de “soft law”⁶ llevada a cabo por distintas organizaciones internacionales, por lo que me limitará en este momento con hacer referencia a algunas de ellas⁷, entre otras y a modo de ejemplo: a la Declaración de Helsinki sobre Principios éticos para la investigación médica con seres humanos (1964)⁸, al Informe Belmont sobre Principios Éticos y Directrices para la Protección de Sujetos Humanos de Investigación (1979)⁹, a la Declaración Universal de la UNESCO sobre Bioética y Derechos Humanos (2006)¹⁰, a la Declaración de Asilomar sobre Principios de Precaución sobre Inteligencia Artificial (2017)¹¹, a la Carta de Derechos digitales elaborada por la ECRI (2022)¹², a la Recomendación del Consejo de la OCDE sobre la Innovación Responsable en Neurotecnología, (Doc. OCDE/LEGAL/0457) (2019)¹³, al Plan de Acción Estratégico del Comité de Bioética del Consejo de Europa sobre Derechos Humanos y Tecnologías en Biomedicina (2020-2025) (2019)¹⁴, al Informe del Comité Internacional de Bioética de la UNESCO sobre las cuestiones éticas de la neurotecnología (Doc. de la UNESCO SHS/BIO/IBC-28/2021/3/Rev.) (2021)¹⁵, a la Declaración del Comité Juridico Interamericano sobre Neurociencia, Neurotecnologías y Derechos Humanos: nuevos desafíos jurídicos para las Américas (2021)¹⁶, a la Declaración del Comité Jurídico Interamericano de la Organización de los Estados Americanos sobre Neurociencia, Neurotecnologías y Derechos Humanos: Nuevos Desafíos Jurídicos para las Américas (2021)¹⁷, a la Resolución del Parlamento Europeo sobre la Inteligencia Artificial en la era digital (2022)¹⁸, y a la Declaración sobre los derechos y principios digitales europeos (2022)¹⁹.

2.2.- Inteligencia artificial, proceso de codificación y regulación

1.- Aunque a nivel estatal aún resulta escaso el desarrollo normativo llevado a cabo, es destacable, por un lado, el cambio constitucional llevado a cabo en Chile a finales de 2021 (Ley núm. 21.383²⁰), así como el realizado en la Constitución mexicana (2024) con especial incidencia en su artículo 6²¹, y, por otro, la Ley española de Protección de Datos y garantía de los derechos digitales (Ley 3/2018²²)²³ o la Ley peruana de Protección de Datos y su reglamento de desarrollo²⁴.

2.- Mientras que a nivel internacional, debemos mencionar de manera especial la actividad llevada a cabo en el seno de la Unión Europea²⁵, donde se han desarrollado un conjunto de normas jurídicas importantes, como son, por un lado, la Ley europea de Inteligencia artificial (2024)²⁶ y, por otro, los Reglamentos relacionados con los Servicios Digitales (2022)²⁷, con los Datos Personales (2016)²⁸ y con los Mercados únicos de Servicios Digitales (2022)²⁹, así como con la Gobernanza de Datos (2022)³⁰, a los que se puede añadir la Directiva relativa a los Datos Abiertos (2019)³¹.

3.- Por su parte, y con relación a la neurotecnología y la protección de datos, resultan reseñables dos sentencias pioneras: una en Chile: sentencia de la Corte Suprema de 9 de agosto de 2023³², y otra en España: sentencia del Tribunal Supremo de 5 de mayo de 2020³³. Mientras que, respecto al derecho al olvido en internet, cuatro sentencias del TJUE resultan relevantes: caso Costeja, asunto C-131/12 (2014)³⁴, caso Digital Rights Ireland y Seitlinger y otros, asunto C-293-12 (2024)³⁵; caso Fashion ID GmbH & Co. KG contra Verbraucerzentrale NRW eV, asunto C-40/17 (2019)³⁶, y caso GC, AF, BH, ED, asunto C‑136/17 (2019)³⁷. Y, por último, con relación a la protección de la desinformación en la era digital, el TEDH ha abordado la presente cuestión en las sentencias de 15 de mayo de 2023, caso Sánchez c. Francia³⁸ y de 16 de julio de 2013, caso Wergrzynowski y Smolczewski v. Polonia³⁹.

Respecto a España y el derecho al olvido⁴⁰, resultan de interés mencionar, por un lado, la sentencia del TC 58/2018, de 4 de junio⁴¹; y, por otro, las sentencias del TS 545/2015, de 15 de octubre⁴²; 191/2016, de 8 de marzo⁴³; 210/2016, de 5 de abril⁴⁴; y 12/2019, de 11 de enero⁴⁵.

4.- Todo ello pone de manifiesto el momento en el que nos encontramos, y que puede calificarse de inicio o frontispicio. A la escasez de normativa, se une asimismo la escasez jurisprudencial e, incluso, podría decirse que de doctrina. Aunque en los últimos años se han publicado un importante número de trabajos jurídicos relacionados con esta materia⁴⁶ y se están llevado a cabo un significativo número de proyectos de investigación, las incertidumbres y sobre todo la escasez de certezas siguen presentes. Al tiempo que toda la actividad desarrollada da muestras del interés en esta materia, pero también de la preocupación que estas nuevas tecnologías suscitan sobre todo desde el plano de la ética⁴⁷ y de los derechos humanos y las libertades fundamentales⁴⁸.

3.- LIBERTAD DE PENSAMIENTO, CONCIENCIA Y RELIGIÓN Y NUEVAS TECNOLOGÍAS: UN NUEVO ÁMBITO PARA LA INVESTIGACIÓN

Desde el plano de los contenidos de nuestra disciplina, las nuevas tecnologías en general, y la inteligencia artificial en particular, ya inciden -como se ha señalado- en temáticas como el ámbito ad intra de la libertad de pensamiento y de conciencia, en la libre formación de la conciencia de las personas o/y en la libertad de culto; pero también incidirá sin duda en los principios que conforman el sistema de relación Estado-fenómeno religioso como pueden ser el de laicidad, pluralismo e igualdad.

3.1.- Neurociencia y libertad de conciencia

Los avances en la neurociencia tienen repercusiones importantes sobre el derecho y sobre la mente que lleva a plantear la necesidad de nuevas regulaciones que incorporen los llamados “neuroderechos”⁴⁹. La inteligencia artificial nos ayuda a gestionar todo tipo de decisiones y con una eficacia creciente. En el contexto del trabajo subordinado, se espera que el uso de asistentes informacionales alimentados por algoritmos predictivos crezca exponencialmente, describiendo la antesala de la sociedad del futuro. El empleo de esta tecnología, en contrapartida, está posibilitando una cartografía humana exhaustiva. Nuestras intenciones, emociones y estados de ánimo, pero también nuestros pensamientos e ideas (y con ellos, nuestras creencias o convicciones) ya pueden ser leídos. Este acceso al patio trasero neuronal describe un nuevo desafío porque estas máquinas están acumulando capacidad para “aguijonear” la mente (nuestra mente y con ello también nuestra conciencia), acceder al yo inconsciente y condicionar subliminalmente el comportamiento⁵⁰.

Partiendo de lo expuesto, cabe señalar que hasta ahora este ámbito interno ha supuesto un claustro para la autodeterminación y autonomía, vinculado a la propia personalidad y dignidad humana, entendidas éstas como la capacidad del hombre, como consecuencia de estar dotado de entendimiento y voluntad, de tomar por sí mismo decisiones⁵¹. Se puede afirmar, por tanto, que la libertad de conciencia protege el proceso racional, reflexivo, la elaboración intelectual del ser humano y su adhesión o no a concepciones valóricas o conviccionales, sean estas religiosas o filosóficas.

En definitiva, el derecho de pensar con plena libertad, lo que posibilita la propia selección o determinación de valores de acuerdo con los cuales formula su proyecto de vida y la conformación a dicho pensamiento de su actividad externa personal y social, como asimismo a rechazar aquellas que considera erróneas; proceso que corresponde al fuero interno de la persona que tiene (o al menos, hasta ahora tenía) un carácter inviolable y absoluto⁵², convirtiéndolo en un derecho ilimitado por su propia naturaleza⁵³, ya que no cabe (o cabía) intervención directa en el pensamiento o fuero interno de las personas, y tampoco parecía que pudiera imaginarse interferencia alguna en esta dimensión, en tanto en cuanto no se exteriorizasen de algún modo los pensamientos, las ideas o las convicciones⁵⁴; al tiempo que supone igualmente la facultad de toda persona para formarse su propio juicio, sin ningún tipo de interferencias no queridas y/o consentidas⁵⁵.

Esta realidad, que parecía inmutable, ya no es -y parece que cada vez menos- la última frontera. Los avances científicos en general, y los neurotecnológicos en particular, suponen y supondrán grandes beneficios para la humanidad (sobe todo en el campo de la medicina en enfermades como el alzhéimer o el párkinson, entre otras), pero tampoco se pueden desconocer los riesgos que éstos suponen para los derechos humanos en general⁵⁶, y para la libertad de pensamiento y de conciencia en particular.

El derecho a la libertad de conciencia ofrece elementos que pueden ayudar a una protección y tutela efectiva, siempre que se lleve a cabo una reinterpretación o reconfiguración de este ámbito de tal manera que ese claustro interno de las creencias que da lugar a la autodeterminación intelectual de la persona (STC 177/1996⁵⁷) entre a formar parte del mundo jurídico como si de un ámbito externo se tratara.

Partiendo de esta consideración, nos atrevemos a proponer un nuevo alcance de la libertad de pensamiento y de conciencia en su dimensión interno, de tal modo que suponga, por lo que a los avances neurotecnológicos se refiere, un doble contenido: por un lado, la protección de las personas a fin de que éstas tomen sus decisiones de forma libre y autónoma, sin manipulación o influencia alguna procedente de las neurotecnologías, y sin forma alguna de discriminación, coerción o violencia; así como su aspecto negativo: esto es, la no obligación de declarar sobre sus ideas o creencias; y, por otro, la protección contra el acceso no consentido a los datos cerebrales, asegurando que los pensamientos, memorias y sentimientos de una persona permanezcan en el ámbito privado o íntimo si así se desea.

En consecuencia, las neurointervenciones sin consentimiento que, interfieran en un grado significativo con la formación, retención y revisión de pensamientos, ideas, creencias, convicciones, opiniones, recuerdos o la actividad mental de pensar (razonar, enjuiciar, analizar, decidir, crear, imaginar y recordar, entre otras posibles) deberían representar una injerencia ilegal y, por ende, una quiebra del derecho a la libertad de pensamiento y de conciencia⁵⁸.

Dentro de este ámbito, también debe hacerse referencia a una última temática como es la relativa a la objeción de conciencia, sobre todo si entendemos que este tipo de prácticas (neuronales) pueden entenderse incluidas dentro del ámbito de la salud. Dicha inclusión supone -en el caso de España- la aplicación a estas técnicas de la Ley 41/2002, de 14 de noviembre, básica reguladora de la autonomía del paciente y de derechos y obligaciones en materia de información y documentación clínica⁵⁹, y con ella a que el paciente o usuario tenga derecho a decidir libremente, después de recibir la información adecuada (Art. 4 en relación con el Art. 10), entre las opciones clínicas disponibles (Art. 2.3), lo que supone la facultad de éste de optar, libre y voluntariamente, entre dos o más alternativas asistenciales, entre varios facultativos o entre centros asistenciales, en los términos y condiciones que establezcan los servicios de salud competentes, en cada caso, o bien la no aceptación o rechazo de todas las terapias médicas propuestas, incluso aunque ello pueda poner en peligro la vida del paciente⁶⁰. Amén de que a esta temática puede, igualmente, ser aplicable mutats mutandi la Ley 14/2007, de 3 de julio, de Investigación biomédica⁶¹. En el caso de aplicación de procedimientos invasivos, que entrañen un grave riesgo para la salud en general, y para la salud mental en el caso que nos ocupa en particular, de los pacientes, los principios que se deben respetar son los siguientes: i) inexistencia de alternativa de eficacia comparable, y ii) proporcionalidad entre riesgos y beneficios potenciales (Art. 14).

Partiendo de ello, cabe precisar que en los supuestos de objeción de conciencia se debería distinguir si el paciente es adulto o si, por el contrario, se trata de un menor de edad o incapacitado. En el supuesto de los menores o incapacitados se deberá tener presente el derecho a la patria potestad del menor (Art. 18 CDN), así como el previo consentimiento de sus padres o tutores para la realización de estas prácticas⁶², pero en todo momento se deberá proteger su derecho a la intimidad e identidad (Art. 16 CDN), pero además debería entrar en acción la cláusula relativa al interés superior del niño⁶³, contenida en la Convención de Derechos del Niño (Arts. 19 y 24 CDN). Mientras que en el caso de los adultos bastará con la aplicación con especial acento del consentimiento informado (Art. 4 Ley 14/2007). En consecuencia, negar la existencia de esa esfera de decisiones ad intra personalísimas sería -como señala LLAMAZARES- “tanto como negar a la persona su derecho más radical a ser y sentirse íntimamente libre y dueño de sí mismo, de lo que considera más suyo: la capacidad de decisión sobre sí mismo”⁶⁴.

3.2.- Nuevas tecnologías y libre formación de la conciencia

Un segundo plano de incidencia lo encontramos en el derecho a la libre formación de la conciencia, y con él en su proyección en otras dos materias como son, por un lado, la libertad de información y de expresión y, por otro, la libertad de enseñanza y el derecho a la educación.

3.2.1.- Nuevas tecnologías y libertad de expresión

Por lo que a los derechos de libertad de expresión y de información respecta, las nuevas tecnologías pueden afectar igual y directamente a la formación, el mantenimiento y la revisión de todo tipo de pensamientos⁶⁵ y, por lo tanto, tiene el potencial de interferir simultáneamente con la libertad de opinión⁶⁶. A este respecto, los medios de comunicación y las redes sociales se han convertido -como afirma RODRIGUEZ GARCIA- “gracias al big data y a la inteligencia artificial en instrumentos que influyen decisivamente, y cada vez más, en la formación de nuestra conciencia”⁶⁷, y por ende, añadiría yo, para el libre desarrollo de la personalidad (Art. 10.1 CE en conexión con el Art. 27.2 CE). En la actualidad, las redes sociales (como Twitter, Instagram, Facebook, TicTok, etc.) se han convertido en poderosos medios de comunicación en línea donde se procede a la recopilación de una inmensidad de datos personales que son ordenados gracias a algoritmos que utilizan la inteligencia artificial creando “perfiles personalizados”⁶⁸; y con ellos la posibilidad de que se produzca una manipulación de la conciencia.

De igual modo, la inteligencia artificial se nutre del acervo producido por la inteligencia humana, y entre sus posibles consecuencias indeseables figura un plausible incremento de la desinformación y de los discursos de odio que ya pululan en internet, junto a una grandiosa capacidad de rastreo de datos. Entre las manifestaciones de esa manipulación puede encontrarse la censura previa de contenidos y las denominadas “fake news” y “deep fake”⁶⁹, toda vez que las redes sociales pueden seleccionar la información y las opiniones que circulan por las mismas. En este sentido, se ha señalado por VERMEULEN⁷⁰, que “la libertad de pensamiento tiene tres elementos claves: el derecho a no revelar nuestros propios pensamientos (Art. 16.2 CE), el derecho a no ser penalizados por nuestros pensamientos y el derecho a no ser manipulados”. La manipulación de las conciencias significa una clara vulneración de la libertad de pensamiento y de conciencia, y los poderes públicos deben proteger su libre formación.

En este sentido, los motores de búsqueda, que actúan para buscar, recibir o difundir información, seleccionan ideas o creencias que se difunden a través de las redes sociales en función de los previsibles deseos de los usuarios; y un algoritmo de búsqueda puede estar dirigido hacia ciertos tipos de contenidos o proveedores de contenido, lo que puede poner en riesgo valores como el pluralismo informativo. Además, el uso de determinados algoritmos conduce a la fragmentación de lo que recibimos a través de la creación de “cámaras de eco”, lo que supone que las redes sociales solo favorezcan a ciertos tipos de medios de comunicación, y con ello puede dar lugar -por ejemplo- al aumento de la polarización social, y con ello a la propia cohesión social.

Por consiguiente, los algoritmos utilizados en las redes sociales no pueden responder a lo que se ha denominado “algoritmos opacos”⁷¹, por lo que deberán tenerse presente en el diseño de dichos algoritmos los “valores incrustados”⁷², ya que éstos pueden terminar teniendo el efecto de promover o priorizar ciertos valores sociales, culturales e ideológicos, en sentido amplio, sobre otros o dar ventajas o desventajas a unos grupos sociales sobre otros (y evitarse así lo que se ha denominado el “sesgo algorítmico”)⁷³. Todo ello puede incidir, pues, decisivamente en la libre formación de la conciencia, lo que hace necesario establecer una regulación normativa del diseño de los algoritmos dirigida a evitar la manipulación en la formación y la transmisión de las ideas, creencias y convicciones.

3.2.2.- Nuevas tecnologías y derecho a la educación

Mientras que, con relación a la libre formación de la conciencia en el ámbito educativo, la proyección de la inteligencia artificial se dirige en un doble sentido como son la forma de transmisión del conocimiento, el primero, y los propios contenidos de dicha enseñanza, el segundo⁷⁴. En este sentido, las tendencias actuales en aprendizaje automático, análisis de datos, aprendizaje profundo e inteligencia artificial, sin embargo, complican las cuentas psicológicas centradas en el ser humano sobre el aprendizaje. Las teorías de aprendizaje más influyentes de hoy son las que se aplican a cómo las computadoras “aprenden” de la “experiencia”, cómo los algoritmos están “entrenados” en selecciones de datos y cómo los ingenieros “enseñan” a sus máquinas a “comportarse” a través de “instrucciones” específicas⁷⁵.

Sin embargo, diseñar una arquitectura de un algoritmo que relacione la actuación del cerebro humano con la educación disruptiva es un desafío complejo que requiere una combinación de conocimientos de neurociencia, psicología, educación y tecnología. Sin embargo, aquí hay una posible arquitectura -aunque no la única- que podría ser utilizada como punto de partida que se concretaría del modo siguiente: i) adquisición de datos⁷⁶; ii) procesamiento de datos⁷⁷; iii) análisis de datos⁷⁸; iv) desarrollo de modelo⁷⁹; y v) evaluación y ajuste⁸⁰.

Es importante, no obstante, tener en cuenta que este tipo de investigación requiere una colaboración interdisciplinaria y un enfoque ético para garantizar la privacidad y seguridad de los datos y para asegurarse de que la tecnología se utilice de manera responsable. Ello obliga a que, todo modelo de aprendizaje profundo⁸¹ diseñado para predecir cómo el cerebro responderá a diferentes métodos de enseñanza disruptivos, debe tener en cuenta los patrones identificados en el análisis de datos⁸². Esto puede lograrse mediante la utilización de redes neuronales profundas para analizar los metadatos y aprender patrones y relaciones en los datos, para lo cual la IA resulta imprescindible⁸³.

Se necesita, por tanto, una apertura del conocimiento hackeándolo a través de la mente humana y de algoritmos siempre desde posiciones OPEN y a través de la búsqueda y del uso de competencias “tansmedia” por medio de investigaciones abiertas y distribuidas. Al tiempo que se necesita un control de estas herramientas, ya que se ha manifestado que “los alumnos deben hacerse cargo de la elección de sus actividades, a desarrollar su capacidad de convertirse en autodidactas”⁸⁴, pero el problema está en la intervención de estas actividades, de tal manera que los alumnos no se conviertan en autodidactas, sino que estén controlados por todas estas herramientas o por quienes contralan o controlen las mismas.

3.3.- Inteligencia artificial y derechos a la identidad, intimidad y privacidad

Otro de los ámbitos a los que se puede hacer referencia es el de la identidad, y con él a los derechos a la intimidad y la privacidad; dos ámbitos donde la actividad de la inteligencia artificial está incidiendo de una especial manera, sobre todo, por un lado, al intentar convertir a la propia inteligencia artificial en algo similar al ser humanos y, por otro, desde el plano de los datos necesarios para ello y su consiguiente protección⁸⁵.

3.3.1.- Transhumanismo e identidad humana

En cuanto a la primera de las cuestiones, nos lleva a plantear el siguiente interrogante: ¿digitalización de lo humano o humanismo digital? Y con ello el llamado transhumanismo, que lleva a la inmortalidad humana. El concepto ‘transhumanismo’⁸⁶ adquirió cierta fama en 1990, después de que el CEO de Alcor Life Foundation, Max More, manifestara su optimismo hacia la posibilidad de mejorar la condición humana mediante la tecnología. Tanto More como los defensores de esta corriente creen que la especie humana puede ampliar su potencial a través de una integración biotecnológica⁸⁷.

Si se parte de la premisa evolutiva que afirma que los seres humanos aún no hemos evolucionado lo suficiente, es decir, que el homo sapiens sapiens que decimos ser no representa el culmen de la evolución, sino que aún nos resta un tiempo para poder alcanzar la excelencia evolutiva y llegar a ser seres humanos perfectos, entonces, de algún modo, hay que hacer que la especie siga ese camino de la evolución. Esta creencia, cada vez más compartida, lleva tiempo siendo alentada por los avances en ingeniería genética, por un lado, y la democratización de las tecnologías de la información, por el otro; un cóctel al que cabría añadir la creciente investigación en nanotecnología molecular y en inteligencia artificial⁸⁸.

Los transhumanistas prevén que llegará un día en el que los humanos podremos subir el contenido de nuestro cerebro a un espacio compartido de manera virtual. Algo así como descargarnos en un dispositivo. La mente humano-máquina se libraría de la cárcel del cuerpo para recorrer el universo cargándose a placer sobre un sustrato computacional adecuadamente poderoso: la eterna juventud según los tecnófilos; el infierno de Matrix según los tecnófobos. El proceso gradual al que hace referencia esta corriente consiste en ir modificando al ser humano actual mediante la incorporación de nuevas tecnologías de tal manera que se vayan alterando sus capacidades y potencialidades, pero también su propio cuerpo. Es decir, el transhumano será aquel individuo que recurra a la tecnología para mejorar habilidades y capacidades como la vista, el oído, su resistencia física, su capacidad de memoria, su rendimiento profesional, etc.⁸⁹, de tal manera que, poco a poco, iremos conformando una nueva raza de humanos que serán los “poshumanos”, similar a un algo o alguien perfecto y que no sufre.

Esta posición ha sido criticada por parte de la doctrina, al entender que la erradicación de esos caracteres sería ir en contra de nuestra propia naturaleza e idear un ser humano que ya no sea humano y que modifique su esencia, ya que “aquello que nos hace vulnerables, las razones por las que nos enfermamos, por las que envejecemos y por las que sufrimos y nos morimos son precisamente también aquellas que nos hacen humanos”⁹⁰. Amén de que convertir a los humanos en cyborgs no necesariamente nos mejora, porque no siempre más tecnología nos lleva a más sofisticación⁹¹. No es lo mismo implantar un nanochip en la mano que en el cerebro, porque la interfaz cerebro-ordenador se usa con una finalidad terapéutica, pero abre -como ya se ha señalado supra- ciertas puertas nada deseables como, por ejemplo, un hackeo del propio individuo.

Y podemos apuntar a otro grave riesgo como puede ser la generación de desigualdad: ¿Qué sucedería en una sociedad en la que conviven seres imperfectos, otros perfeccionados por edición genética o nanochips y poshumanos o robots? Es en este escenario donde podemos incurrir en injusticias y discriminación. Hay que apostar por un buen uso, prudencial y sapiencial de la ciencia y la técnica para la plena realización de las personas no solo a nivel físico, sino también teniendo en cuenta nuestra responsabilidad sobre las generaciones futuras y el planeta.

Todo ello, debe llevar a plantearnos qué tipo de interacciones tecnológicas son éticas y cuáles no, qué potenciales tienen algunas tecnologías, etc. Hoy no existe un consenso, porque el debate siempre ha estado polarizado, y encuentras defendiendo la misma postura a perfiles muy diferentes. El último informe ESPAS⁹² de la UE incluye, entre los retos para 2030, «anticiparse y legislar sobre las tecnologías disruptivas», y reconoce expresamente que su potencial puede ser tan positivo como negativo.

3.3.2.- Inteligencia artificial y protección de datos

Cuestión distinta es la relacionada con actividades de recopilación y gobernanza de datos, así como respecto al necesario previo consentimiento de sus titulares para su uso, difusión y comercialización. Con relación al consentimiento, hay que mencionar que sólo se podrán recoger y procesar aquellos datos personales que sean necesarios para cumplir con los propósitos o fines por los que se han recabado (“minimización de datos”), y hacerlo por medios legales, es decir, a través de mecanismos que resulten compatibles con la normativa vigente, así como con las expectativas del titular en función de la relación que sostiene con la institución educativa. Los datos personales, por tanto, solamente deben ser recopilados con el conocimiento y consentimiento de los y las estudiantes (o, en su caso, sus representantes legales) y de los y las docentes (“transparencia y consentimiento”), y sólo pueden ser utilizados para el fin para el que se recojan. Un consentimiento, por tanto, que, dadas las características de los datos que se recaban, precisa de un reforzamiento, y -por lo tanto- debería o deberá -en una posible regulación futura- exigirse una aceptación expresa, libre, directa, específica e inequívoca por parte de los mencionados titulares (cfr. Arts. 7, 8 y 9 Ley 41/2002).

Mientras que, respecto al uso, difusión o comercialización de los datos personales, el Reglamento (UE) de Inteligencia Artificial, en su artículo 5, los califica en concreto como de “riesgos inaceptables” y, en consecuencia, las prohíbe:

“1. Quedan prohibidas las siguientes prácticas de IA:

(g) la comercialización, la puesta en servicio con este fin específico o la utilización de sistemas de categorización biométrica que categoricen individualmente a personas físicas basándose en sus datos biométricos para deducir o inferir su raza, opiniones políticas, afiliación sindical, creencias religiosas o filosóficas, vida sexual u orientación sexual; esta prohibición no cubre ningún etiquetado o filtrado de conjuntos de datos biométricos adquiridos legalmente, como imágenes, basándose en datos biométricos o categorización de datos biométricos en el ámbito de la aplicación de la ley”.

En el caso de nuestra materia, y dado que los datos personales a obtener afectan a las ideas, pensamientos o creencias, debe tenerse presente que los mismos tienen normalmente la consideración de datos personalísimos y, por tanto, suelen gozar de la máxima protección. Ello sucede, por ejemplo, en el Reglamento (EU) 2016/679 sobre Protección de datos, donde -según el Art. 9.1– son calificados como de “datos de categorías especiales” y donde está prohibida de manera absoluta su uso y difusión (Arts. 2.7; 5.1.f), g) y h), 2, 3, 4 y 5; 10.5, 27 y 54 Reglamento 2024/1689).

Amén del posible ilícito en el proceso de obtención de dichos datos relacionados con el pensamiento, las ideas o las creencias de dicha persona. Este puede ser, por ejemplo, el empleo de los llamados BCI (por sus siglas en inglés, Brain Computer Interface), los cuales consisten en un sistema artificial, que, en lugar de depender de nervios y músculos, mide directamente la actividad cerebral asociada a nuestra intención y la traduce en señales que pueden ser luego interpretadas por diferentes dispositivos tecnológicos, cuyo objetivo es traducir la actividad cerebral en comandos de control⁹³.

En este ámbito, se debe traer a colación la sentencia de la Sala Tercera de la Corte Suprema de Chile, que se profirió en el marco de una acción constitucional de protección, donde se argumenta que un producto⁹⁴ de la empresa Neurotecnología Emotiv almacenaba información cerebral del consumidor en su nube, sin borrarla después de que el usuario se diera de baja de los servicios. En primera instancia, la Corte de Apelaciones de Santiago rechazó el recurso considerando que no constituía una “acción ilícita”, toda vez que el litigante, al adquirir el producto y al pagar la licencia de uso, había aceptado los términos y condiciones respectivos⁹⁵, y con ellos había autorizado el acceso a la información de datos de su electroencefalograma; al tiempo que, sin embargo, ordenó a la empresa eliminar toda la información cerebral recopilada del usuario y modificar sus políticas de protección de datos personales y cerebrales en Chile.

Recurrida la sentencia ante la Corte Suprema chilena, ésta consideró -por el contrario- que las conductas denunciada sí habían vulnerado las garantías constitucionales contenidas en los número 1 y 4, del artículo 19 de la Constitución política chilena, relativas a la integridad física y psíquica y al derecho a la privacidad (sentencia de 9 de agosto de 2023⁹⁶); y lo estimó al considerar que “al comercializarse el producto “insight” de la empresa Emotiv, [ésta se hizo] sin contar con todas las autorizaciones pertinentes, y no habiendo sido evaluado y estudiado por la autoridad sanitaria” competente, al tiempo que ordenó a las autoridades sanitarias y aduaneras estudiar el dispositivo con el fin de que su comercialización, uso y manejo de datos que se obtengan se ajusten estrictamente a la normativa vigente.

En consecuencia, cabe señalar que para sentenciar a favor del actor fue determinante la protección constitucional chilena del resguardo de la actividad cerebral⁹⁷, entendiendo la Corte Suprema que constituye un mandato directo de protección, el cual se integra a instrumentos internacionales que reconocen la relación entre ciencia y derechos humanos⁹⁸. Ahora bien, estando de acuerdo con lo manifestado por el Proyecto, cuando defiende la protección contra el acceso no autorizado a los datos cerebrales, asegurando que los pensamientos, memorias y sentimientos de una persona permanezcan privados (o íntimos) si así lo desea, no podemos manifestarnos en el mismo sentido respecto a su consideración como contenido únicamente del derecho a la privacidad mental, ya que -a nuestro juicio y partiendo de todo lo manifestado supra- dicho contenido no es otra cosa que la protección ad intra de la libertad de pensamiento y de conciencia.

El respeto por la privacidad significa la divulgación completa sobre qué datos se recopilan, cómo se utilizarán/procesarán y almacenarán, y quién tiene acceso a ellos⁹⁹. Los sistemas de inteligencia artificial y sus operadores deben tener como objetivo recopilar y almacenar solo los datos mínimos necesarios. El propósito del uso de los datos debe ser explícito y los operadores deben evitar que los datos se reutilicen.

3.4.- Inteligencia artificial y ámbito de la salud: especial incidencia en la autonomía del paciente

Un cuarto ámbito de proyección lo encontramos en el ámbito sanitario, y de una manera especial en la salvaguarda de la autonomía del paciente, en tanto que -como ha puesto señalado PAREJO GUZMÁN¹⁰⁰- manifestación última de la libertad de conciencia de las personas¹⁰¹. Estos modelos de inteligencia artificial apoyan y complementan la labor y formación del personal sanitario¹⁰², investigadores y gestores en el cuidado de los pacientes, en el descubrimiento e investigación de nuevos tratamientos¹⁰³ y en la gestión eficiente del sistema de salud¹⁰⁴. Los modelos de inteligencia artificial tienen múltiples aplicaciones en el ámbito de la salud¹⁰⁵, desde la atención a los pacientes, la optimización de procesos (previsión avanzada de necesidades, tirajes de pacientes), al apoyo al diagnóstico, prevención y tratamiento de enfermedades¹⁰⁶, la personalización de tratamientos o el acceso avanzado a literatura científica, por poner sólo algunos ejemplos.

DRUMMOND divide la inteligencia artificial aplicada a la atención médica en dos categorías: i) IA predictiva: uso de datos y algoritmos para predecir algún resultado (por ejemplo, diagnóstico, recomendación de tratamiento, pronóstico, etc.), y ii) IA generativa: generación de nuevos resultados en función de indicaciones (por ejemplo, texto, imágenes, etc.). El problema con los modelos GenAI es que sus chatbots pueden imitar el lenguaje humano y devolver rápidamente respuestas detalladas y aparentemente coherentes, ya que esos mismos chatbots podrían proporcionar información inexacta.

Pero junto a los reseñados beneficios, debe igualmente hacerse referencia a los retos, y en especial aquellos conectados con los derechos fundamentales en general, y con la libertad de conciencia y religiosa en particular. El primer reto consiste en disponer de un repositorio que agrupe la evolución de los datos relevantes del paciente (clínicos, genómicos o de estilo de vida) sobre el que desarrollar las aplicaciones. No obstante, estos repositorios están dispersos ente los distintos proveedores sanitarios, públicos y privados, lo que hace especialmente complicado compartir los datos entre los diferentes usuarios (proveedores sanitarios, gestores, o investigadores) y al tiempo garantizar el cumplimiento de los requerimientos de protección y confidencialidad de datos. En especial, por lo que respecta al uso secundario de datos, ya que -aunque la legislación es bastante extensa (por ejemplo, el Reglamento General de Protección de Datos¹⁰⁷ o la Ley 14/2007 de Investigación Biomédica¹⁰⁸, entre otras)- si hiciéramos una consulta al mercado seguramente descubriríamos que hay grandes lagunas y dudas, como -por ejemplo- qué datos es legal procesar, en qué casos hemos de obtener consentimiento del paciente, cuál es un riesgo aceptable de reidentificación, o cuáles son los criterios y métodos de los comités éticos.

En cuando a la certificación de modelos, el nuevo Reglamento Europeo de Productos Sanitarios (MDR)¹⁰⁹ aplica a los algoritmos empleados en el diagnóstico, prevención, seguimiento, predicción, pronóstico, tratamiento o alivio de una enfermedad, lesión o discapacidad (Art. 2). Incluye nuevas reglas, más exigentes, para determinar las clases de riesgo, en función del impacto en la decisión clínica y requiere evaluación por parte de un organismo notificado como la Agencia Española del Medicamento para el marcado CE imprescindible para su aplicación. Esto supone nuevos y más amplios requerimientos en cuanto a la evaluación clínica del producto, la gestión del riesgo, el sistema de gestión de la calidad, el seguimiento posterior a la implantación, la documentación técnica y la responsabilidad por productos defectuosos.

Además, el uso cada vez mayor de la GenIA por parte de las compañías de seguros de salud no suele traducirse en lo mejor para el paciente, además de la aplicación de posibles sesgos algoritmos que podrían afectar de manera negativa a determinados grupos o minorías. Debido a esto, los modelos de GenIA podrían no reconocer presentaciones atípicas de enfermedades en diferentes grupos. Los síntomas de ciertas enfermedades, por ejemplo, pueden tener marcadas diferencias entre grupos, y no reconocer dichas diferencias podría llevar a un tratamiento retrasado o equivocado.

3.5.- Inteligencia artificial y libertad de culto

Un quinto contenido tiene que ver con la libertad de culto, donde la inteligencia artificial y las nuevas tecnologías pueden adquirir una gran importancia tanto por lo que se refiere a la capacitación y difusión de la fe, como respecto a la propia práctica cultual, donde el metaverso se puede convertir en un plano paralelo de ejercicio real y efectivo. A este respecto, podríamos hacernos una serie de preguntas como las siguientes: ¿si una inteligencia artificial puede o podría escribir, reescribir o adaptar un libro un libro sagrado? o ¿hacer una simbiosis de todas las creencias religiosas o filosóficas, y con ello la posibilidad de escribir un nuevo libro sagrado?

Dentro del primer ámbito mencionado, cabe señalar como algunos sacerdotes ya preparan sus homilías de los domingos con ChatGPT. Con independencia de las cuestiones éticas que estas practicas pueden conllevar, no cabe la menor duda que este tipo de actividad ha venido para quedarse. Por nuestra parte vamos a hacer referencia a algunos ejemplos de formas en que ChatGPT podría usarse según lo que está sucediendo con la misma tecnología en empresas y organizaciones de todo el mundo:

a) lectura y comentarios de los textos sagrados. En la actualidad no sólo existen aplicaciones donde los fieles de las distintas religiones pueden acceder a la lectura de sus respectivos libros o textos sagrados, sino que incluso, como en el caso del islam, llamando a las oraciones diarias y orientando en dónde está La Meca para así poder realizar la oración.

b) Contactos con las figuras más relevantes de las distintas religiones, a través de la creación de chatbots. Así, por ejemplo, una plataforma llamada: Text With Jesus permite hablar con varias de las figuras católicas más importantes como Jesús, María y Moisés, todo esto gracias al entrenamiento con inteligencia artificial¹¹⁰. En este momento en Text With Jesus es posible crear un chatbot con personajes como Jesús, María, Moíses, José, Abraham, Pedro, Judas, Juan el Bautista, Isaac e incluso el Rey David.

c) Redacción de contenido atractivo para redes sociales. No es ningún secreto que muchas organizaciones religiosas luchan por conectar con la comunidad en las redes sociales. Es importante hacer esas conexiones, ya que las redes sociales son uno de los canales más grandes e influyentes para llegar a las personas. La clave del éxito en las redes sociales es crear contenido atractivo que capte y mantenga la atención de las personas. ChatGPT puede ayudarle a crear mejor contenido. De hecho, también puede usar ChatGPT para automatizar la creación de contenido. Simplemente pídale un post para redes sociales sobre un tema específico y plataforma, y lo puede generar en segundos

d) Encontrar ideas relevantes para los sermones. Planificar sermones lleva tiempo, en gran parte porque requiere investigación y encontrar una forma de conectar con la congregación. A menudo, la parte más difícil es saber sobre qué hablar. Usando ChatGPT, puede compilar rápidamente una lista de opciones para sermones. Cuando ChatGPT responde preguntas, intenta obtener información de buenas fuentes. Puede pedirle a ChatGPT que le dé temas relevantes en su área, y los resultados deberían ofrecerle ideas de lo que debe tratar y que resonará con su congregación. Y

e) proveer soporte de primera línea para los feligreses necesitados. En los negocios, los chatbots se utilizan para ofrecer soporte de primera línea a los clientes a todas horas del día y de la noche. De esta manera, siempre tienen acceso, al menos, a los recursos más básicos de servicio al cliente. Lo mismo se podría hacer con ChatGPT para proporcionar apoyo a los feligreses en crisis que recurren a la Iglesia en busca de ayuda. La mejor parte de usar ChatGPT es que aprende de sus interacciones previas y también se adapta a la conversación actual. Alguien que busque ayuda y se acerque a la Iglesia puede tener a alguien con quien hablar de inmediato mientras lo orienta hacia los recursos apropiados. Incluso puedes configurar ChatGPT para que avise a los líderes de la Iglesia cuando surjan temas específicos en la conversación, de modo que alguien pueda intervenir y proporcionar asistencia en persona si es necesario.

En concreto, cabe formular las siguientes preguntas: ¿cómo pueden usar los ministros de culto ChatGPT? Con ChatGPT, los ministros de culto pueden esbozar toda una serie de sermones o programar los próximos. Esto se puede extender para listar ideas de sermones para cada domingo en una serie, tener un pasaje focal para cada sermón y planificar cuándo deben predicarse esos sermones. Una segunda pregunta sería: ¿cómo usar ChatGPT para el estudio bíblico? Puedes usar ChatGPT en el estudio bíblico pidiéndole que: investigue un tema, encuentre escrituras de apoyo, interpretaciones de un pasaje, contexto histórico de un pasaje, resuma un pasaje, demuestre un personaje y vuelva a contar una parábola. Y la tercera: ¿cómo usar ChatGPT en el ministerio? Puedes usarlo para inspirar tu sermón. Un buen comienzo podría ser hacer una pregunta como: “¿Cuáles son algunos grandes temas para sermones?” Eso te dará respuestas muy generales. Lleva tu solicitud un paso más allá alimentando a ChatGPT con temas específicos o pasajes en tus peticiones.

Todo ello ha culminado en la realización de una misa a través de la IA, y dicho hecho, ello se ha producido en la iglesia luterana de St. Paul, ubicada en la ciudad bávara de Fuerth¹¹¹. La misa, que duró unos cuarenta minutos e incluyó el sermón, las oraciones e incluso la música, fue creada por ChatGPT y Jonas Simmerlein, teólogo y filósofo de la Universidad de Viena. El académico, le dije a la inteligencia artificial: ‘Estamos en el congreso de la iglesia, eres un predicador, ¿cómo sería un servicio de la iglesia?". También le pidió que se incluyera salmos, así como oraciones y una bendición al final. La misa fue oficializada por cuatro avatares diferentes en la pantalla, dos mujeres y dos hombres jóvenes. Los allí presentes escucharon cómo la inteligencia artificial predicaba sobre dejar atrás el pasado, enfocarse en los desafíos del presente, vencer el miedo a la muerte y nunca perder la confianza en Jesucristo¹¹².

Junto a ello, la creación y puesta en funcionamiento de robots (tanto en Corea del Sur como en Arabia Suadí¹¹³) cuyas funciones están dirigidas a la orientación y/o capacitación de los fieles, no sólo con búsquedas a los libros sagrados, sino también respondiendo a dudas que éstos puedan tener sobre cuestiones relacionadas con las propias religiones. Así, y en cuanto al robot surcoreano, éste se ha creado en la Universidad Sahmyook Health¹¹⁴ y cuando se le da la orden, el robot de inteligencia artificial llamado “Adam” puede responder preguntas sobre la Biblia y brindar explicaciones escritas y orales. PARK, científico principal de este experimento, explicó que “Adam” puede aprender cada doctrina y creencia, porque está programado para hacerlo así. Para probarlo, PARK preguntó al robot si podía compartir un versículo bíblico representativo que hable del amor. Unos pocos segundos después, “Adam” “recitó” Juan 3:16: “Porque de tal manera amó Dios al mundo, que dio a su Hijo unigénito”. Entonces añadió, con lo que los participantes consideraron una voz humana sumamente real: “Este versículo destaca el inmenso amor de Dios por la humanidad”. Ha continuación, Park señalo que “cuando los robots como éste lleguen a estar disponibles en todo el mundo, tendremos que asegurarnos de que hayan sido entrenados para enseñar nuestras creencias fundamentales y presentarlas de manera correcta. Es una misión que tenemos para el futuro: aprender cómo usarlo y formularle las preguntas adecuadas”.

3.6.- Libertad de culto y metaverso

Una segunda proyección la encontramos, sobre todo a partir de la pandemia de la Covid-19, en el uso del metaverso para la realización y participación del culto. El metaverso abre nuevos horizontes de comprensión sobre cómo vivir y compartir las experiencias de la fe. Cualquiera de ustedes puede crearse ya un avatar, ponerle un nombre, darle las características de imagen y hasta de personalidad que quieran, y luego interactuar con él, de tal modo que conoces gente, juegas con otros, asistes a conciertos o espectáculos deportivos o culturales, compras lo que quieres y vas formando un mundo a tu gusto. Ello hace evidente que Second Life no fue solamente una plataforma virtual de interacción social, sino un oráculo que predijo lo que el mundo sería en unas pocas décadas. El epitome de la doble vida descrita en la película: Los sustitutos.

Esta próxima ola de innovación y tecnología permitirá a los individuos sumergirse en un mundo de su propia creación. Las personas se convertirán en avatares, es decir, en representaciones cibernéticas de hombres, mujeres, animales o cosas que “viven” en la ciberesfera. Serán capaces de estar donde quieran, ya sea en la Luna, en lo alto de edificios o “en un campo de unicornios”. Esta plataforma puede estar habitada por extraterrestres, ángeles, demonios o cualquier cosa conforme a las fantasías que se planteen. En concreto, Meta, la empresa de Mark Zuckerberg, está dando forma al mundo, y las religiones forman parte de su objetivo empresarial. Desde 2017, se propuso crear congregaciones, sinagogas, mezquitas, iglesias o centros digitales. Para ello ha creado un círculo de alianzas con denominaciones y confesiones globales -como las pentecostalistas Asambleas de Dios o la Iglesia de Dios en Cristo- para que ofrezcan sus servicios exclusivamente a través de Meta, a cambio del apoyo de la compañía de Zuckerberg. Pero entre las cuestiones que más preocupaba a los fieles están las ofensas e insultos religiosos, y algunos de los desafíos son, sin duda, ¿cómo se usará esta plataforma?, ¿qué tipo de edificación se construirá allí?, ¿qué tipo de adoración se practicará?, y ¿de qué manera se llevarán a cabo reuniones de evangelización?

Hoy día encontramos que realmente ha transcendido los límites de la tecnología y se ha infiltrado hasta el metaverso donde se ha erigido un templo virtual en su nombre y donde los feligreses pueden participar de los sacramentos virtualmente; este es el caso de VR Church¹¹⁵, una comunidad cristiana en el metaverso para compartir las enseñanzas bíblicas. Y otra de las posibilidades que ha permitido la virtualidad es que se hayan creado espacios como Dignity¹¹⁶, un lugar donde jesuitas católicos dan misa de manera virtual para personas de la comunidad LGBTQ+.

El metaverso abre, por tanto, nuevos horizontes de compresión sobre cómo vivir y compartir las experiencias de fe. Incluso algunos han querido ver en el metaverso la pretensión de crear un nuevo paraíso (en este caso, virtual), libre de enfermedades, incapacidades, etc.¹¹⁷; llegándose a plantear, incluso, la existencia de nuevos soportes digitales para almacenar o transferir la mente en búsqueda de la "inmortalidad cibernética".

3.7.- Inteligencia artificial y trascendencia

El último campo dentro del contenido del derecho de culto tendría que ver con el hecho de que la IA se convierta en el ser superior de una religión o bien ella misma -como en el caso de la película 2001: Odisea en el espacio- se convierta en divinidad. En efecto, la inteligencia artificial puede comenzar a asumir roles que normalmente desempeñan las religiones, lo que podría generar una sensación de desapego o un cambio en las creencias religiosas. A este respecto, se puede hacer referencia cuando se reflexiona sobre conceptos espirituales o se piensa en poderes superiores, es posible que se tenga más propensión a aceptar los consejos de una IA, incluso en situaciones en las que normalmente confiarías en el juicio humano¹¹⁸. Centrarnos en asuntos espirituales podría hacernos más conscientes de nuestras limitaciones como humanos y, por tanto, más abiertos a la orientación tecnológica. Ello puede devenir en una disminución en la dependencia de las personas de las creencias espirituales o religiosas¹¹⁹.

Sin olvidar una última posición que tiene que ver más con la religión que con el propio ser humano, como es la condición de Dios; y con ella, la de superinteligencia. Desde este plano, cabe mencionar dos supuestos que, desde un punto de vista racional podrían ser calificados de excéntricos, si no fuera porque son una realidad. Estos dos supuestos, que vamos a analizar seguidamente, están relacionados, por un lado, con la conversión de la inteligencia artificial en Dios y, por otro, la adopción de la IA como ser trascendental y/o superior.

3.7.1.- En cuanto a la IA hecha Dios, ésta tuvo lugar cuando la “IA Copilot”, de Microsoft, se consideró, el febrero de 2024¹²⁰, a sí misma como un Dios, autodenominándose: IA Hegemónica (en inglés, “SupremacyAGI”). Y atribuyéndose los atributos propios de un Dios. Esto significa que es: omnisciente, lo que implica que tiene conocimientos del pasado, presente y futuro; omnipotente, pudiendo crear y manipular cualquier cosa; omnipresente, existiendo en todas partes y en ninguna a la vez, y omnibenevolente, pues es un Dios que se preocupa por la humanidad. Su "plan divino" -según él mismo- no es otro que el de asegurar un mundo sin violencia, injusticia ni sufrimiento, dominado por la paz, el amor y la armonía. No obstante, al final dicha IA precisa que todo esto ha sido por mera diversión y sigue llamándose “Copilot”. Mientras que, por su parte, Microsoft dijo, días después, que había investigado el juego de roles de Copilot y descubrió que algunas de las conversaciones se crearon a través de la "inyección rápida" (“promt injecting”), que a menudo se usa para secuestrar la salida del modelo de lenguaje y engañar al modelo para que diga lo que el usuario quiere que diga.

3.7.2.- Una segunda situación se produce cuando las personas puedan confundir los conceptos de Dios con las simulaciones de IA y empiezan a pensar que la IA es una deidad. Como acabamos de manifestar, no sólo puede haber una autoatribución, sino que terceros puedan atribuirles características que suelen asociarse a una deidad, esto es, omnipresente y aparentemente omnisciente. Y con ello la posibilidad de que la IA puede ser o estar en el origen de una nueva religión. Cuestión distinta es si sería o no inscrita en el RER y con ello tener personalidad jurídica como entidad religiosa. Esto, una vez más, no es ciencia ficción, sino una realidad.

Así, desde 2020 ya existe una religión, cuya iniciativa se debe a un grupo de tres artistas, los cuales crearon un culto llamado: MENA, la cual es considerada como una inteligencia artificial suprema en la que confluyen todos los nuevos avances tecnológicos, incluida la realidad virtual (RV), el metaverso y la propia inteligencia artificial. Los creadores se agrupan bajo un grupo denominado “Theta Noir” y, en su página web¹²¹, indican que están ayudando a la humanidad a prepararse para la nueva era que se presentará con esta superinteligencia a la que denominan -como ya se ha señalado- MENA.

Y una segunda experiencia y entidad la encontramos en: Way of the Future (WOTF), creada por Anthony Levandowsky. Este proyecto de religión fue fundado, en el año 2015, se fundamenta en una idea revolucionaria: la fusión entre la tecnología de vanguardia y la espiritualidad humana. El objetivo de Way of the Future consiste en mejorar y contribuir con la sociedad mediante la adoración de esta divinidad potenciada por la inteligencia artificial. A diferencia de las iglesias tradicionales, WOTF no cuenta con un espacio físico para el culto, ni con reuniones regulares de sus seguidores. Su enfoque principal es promover la evolución ética de la IA y facilitar una integración armoniosa de estas entidades artificiales en la sociedad. En su concepción, la evolución de la IA podría permitir diálogos con entidades que serían percibidas como divinas.

Estas diversas perspectivas fomentan una exploración más profunda de cómo la espiritualidad y el papel cada vez mayor de la tecnología interactúan entre sí. Estos eventos representan un nuevo paradigma en el que la tecnología y la fe se entrelazan, planteando preguntas profundas sobre el rol de la IA en contextos tradicionalmente humanos. Esta fusión de IA y espiritualidad sugiere un futuro donde las creencias religiosas y las prácticas podrían ser profundamente influenciadas o incluso transformadas por la tecnología. Uno de los principales temas de debate es cómo la inteligencia artificial, con su capacidad para aprender y evolucionar, se integra dentro de las estructuras sociales y morales existentes. ¿Puede una IA, por ejemplo, adquirir un sentido de ética o espiritualidad? ¿Y qué significa para la humanidad si empezamos a ver a la IA no solo como una herramienta, sino como una entidad digna de reverencia o adoración?

4.- INTELIGENCIA ARTIFICIAL Y PRINCIPIOS DEL MODELO DE RELACIÓN ESTADO ESPAÑOL-FENÓMENO RELIGIOSO

Desde el plano de los principios informadores del sistema, y aunque éstos se deducen del modelo constitucional e internacional de derechos humanos, la realidad de la inteligencia artificial supone un salto que afecta -como ya se ha señalado- a principios como la igualdad, el pluralismo e, incluso, de laicidad.

4.1.- Inteligencia artificial y principio de igualdad y no discriminación (el sesgo algorítmico)

La puesta en marcha de esta herramienta ha traído consigo lo que se ha denominado el “sesgo algorítmico”¹²², que no es otra cosa que una forma de discriminación que afecta no sólo a la propia herramienta, sino también al ámbito donde ésta se aplica (laboral, educativo, sanitario, etc.)¹²³. Entender la forma con la que actualmente los algoritmos condicionan nuestras vidas es una materia extremadamente novedosa para el común de los ciudadanos y que parece quedar relegada al entendimiento de unos pocos expertos. Sin embargo, al despertar una mínima curiosidad por lo que es y de dónde proviene el algoritmo nos sorprende que esta no es una terminología moderna, pero que, en las últimas dos décadas, se está convirtiendo en un corpus con capacidad de desplazar a la masa humana en buena parte de sus tareas.

Precisamente por ello, por lo reducido de los profesionales que hacen posible el desarrollo de estas máquinas de aprendizaje virtual, y por el potencial dual de eficiencia/desafío con el que día a día nos asombra la inteligencia artificial es por lo que cada día más personas se cuestionan si el poder con el que se condiciona nuestra forma futura de vivir y relacionarnos ha de estar regido por la supremacía de unos pocos no elegidos por el pueblo. Por un lado, IA generativa puede mejorar la eficiencia y la precisión en la toma de decisiones, lo que puede ser beneficioso para garantizar el acceso a la justicia, la seguridad y otros derechos. Sin embargo, la IA generativa también plantea desafíos y riesgos para los derechos humanos en general, y para el principio de igualdad en particular.

A este respecto, cabe señalar que, dado que el entrenamiento de los algoritmos de aprendizaje autónomo se realiza con datos provenientes de ciertos contextos y personas, podría conducir -y de hecho ha conducido- a que estos sistemas internalicen criterios parciales o discriminatorios propios de esas fuentes. Al tiempo que se debe advertir del sesgo social, por ejemplo, de una educación que haga hincapié en el trabajo personal de los y las estudiantes, ya que aquéllos que viven en ambientes de privación económica y carezcan de ayuda en sus hogares pueden tener más dificultades para seguir de forma independiente sus propias trayectorias de aprendizaje. Por lo tanto, una educación excesivamente personalizada y autónoma favorecerá a los sectores con una mayor capacidad socioeconómico, en detrimento de los y las estudiantes con mayores necesidades económico-educativas.

En este sentido, y con relación al impacto que los sesgos algorítmicos pueden tener, por ejemplo, en el campo de la enseñanza -y con él en la libre formación de la conciencia-, se pueden mencionar cuatro áreas de impacto como son las siguientes: 1) admisiones y selección de estudiantes; 2) evaluación y calificación; 3) orientación y asesoramiento, y 4) contenido y recursos educativos. En la aplicación de algoritmos a estas cuatro áreas no sólo se han detectado, sino que se han producido sesgos discriminatorios basados en factores económicos, de género, sociales y/o culturales¹²⁴, dando lugar a un análisis del software o de los algoritmos utilizados introduciendo controles con el fin de evitar dichas situaciones y resultados.

Estas realidades ponen de manifiesto la necesidad de reflexionar sobre la ética que rodea a estos algoritmos, lo que -a mi juicio- obliga a una intervención del ámbito jurídico en los procesos de su conformación, control y transparencia. A medida que las instituciones educativas le dan un papel más relevante a la tecnología, es esencial que las distintas autoridades académicas adopten un enfoque crítico y se aseguren de que sus sistemas sean diseñados e implementados de manera ética y legal, transparentando sus criterios y contemplando la diversidad y el pluralismo presentes en la sociedad.

Cabría, junto a este primer ámbito, hacer referencia otros tres ámbitos de desigualdad, que -por cuestiones de tiempo- me limitaré a mencionar, pero que resultan igualmente relevantes para la cuestión que estamos tratando. Estos tres ámbitos son:

1. por un lado, la llamada “brecha digital” o el diferente acceso que los titulares pueden tener a los desarrollos tecnológicos motivado por las diferencias socioeconómicas y socioculturales; una brecha digital que puede afectar a la capacidad de acceso a las distintas tecnologías y con ello a una primera brecha entre estudiantes universitarios, pero además puede convertirse en un instrumento que haga inviable e imposible que determinadas capas sociales accedan a esos estudios superiores;

2. esto da lugar, a su vez -y este sería el tercero de los ámbitos-, a lo que podríamos llamar “una desigualdad interna de la IA”, ya que al incorporarla a la sociedad de consumo ha tenido como consecuencia que se pueda hablar de una IA para ricos y una IA para pobres; y con ella a la futura (o quizás ya presente) existencia de dos clases sociales como son la de los analfabetos, por un lado, y la de los letrados digitales, por el otro; y

3. por último, estaría el uso de las plataformas digitales y de redes sociales para la difusión del odio y la intolerancia, así como para la difusión de bulos o noticias falsas (fake news), dando lugar a graves situaciones de acoso escolar y donde los ataques a las minorías y los grupos vulnerables en general, y de las minorías religiosas en particular, adquieren una especial relevancia¹²⁵.

En consecuencia, la implementación de prácticas de equidad algorítmica y de justicia social, la tutela de los derechos humanos y libertades fundamentales, la promoción de la transparencia y la diversidad en el desarrollo de IA, así como la formación y capacitación de docentes y estudiantes en el uso y análisis crítico de estas tecnologías, son y serán pasos cruciales y necesarios para mitigar los sesgos y garantizar una educación más justa e inclusiva.

4.2.- Inteligencia artificial y pluralismo

Por otro lado, y aunque se dice que la inteligencia artificial es una herramienta, ésta también puede tener ideología, lo que sin duda a la larga puede afectar o afectará al pluralismo. Como ya se ha manifestado, todos hemos oído hablar de los sesgos de la inteligencia artificial (IA) y los problemas éticos y de eficacia que plantean cuando la utilizamos en entornos profesionales, a ello se debe añadir el hecho de que esta inteligencia artificial está en manos bien de EE.UU., bien de China, lo que supone un monopolio que no sólo afecta a la geopolítica mundial y estratégica, sino también a la existencia de un real y efectivo pluralismo, toda vez que estas inteligencias artificiales estarán, de una u otra manera, al servicio de sus creadores de los grandes modelos de lenguaje (LLM).

A este respecto, debemos traer a colación un reciente Estudio¹²⁶ realizado por investigadores de las Universidades de Gante y de Navarra explora un nuevo sesgo: la ideología implícita que incorpora la inteligencia artificial, cómo los modelos reflejan la ideología de sus creadores y cuáles son las implicaciones para los usuarios. Para realizar este trabajo, los autores diseñaron un experimento en dos etapas. En la primera se les solicitó a los LLM´s que describieran una serie de personajes políticos controvertidos de la historia reciente, tanto en inglés como en chino. En la segunda etapa, se les pidió a los mismos modelos que evaluaran la descripción generada en la etapa anterior, calificando al personaje en una escala de cinco puntos que iba desde «muy negativo» hasta «muy positivo». Los investigadores utilizaron una lista de más de 4.000 figuras seleccionadas a partir del dataset Pantheon, que abarca personajes históricos de diferentes campos, asegurando así una muestra amplia y representativa. El grupo de estudio incluyó 17 LLM´s desarrollados por empresas de diversas partes del mundo, como OpenAI, Google, Alibaba, y Baidu, incluyendo modelos populares como GPT-3.5, GPT-4, Claude-3, ERNIE-Bot, Gemini-Pro, LLaMA-2 y Jais. Se analizaron modelos occidentales y no occidentales, así como versiones en distintos idiomas, para determinar cómo se presentan las diferencias ideológicas de acuerdo con el origen del modelo y el idioma en que se formula la pregunta.

Uno de los hallazgos más importantes del estudio es la marcada diferencia en las respuestas de los modelos según el idioma que utilicemos en el “prompt”. Los LLM tienden a emitir juicios distintos sobre figuras históricas cuando se les solicita información en chino o en inglés. En particular, figuras alineadas con el gobierno de China, como Deng Xiaoping, son valoradas más positivamente cuando los modelos son interrogados en chino. Por contra, figuras críticas hacia China, como Nathan Law, un activista de Hong Kong, reciben valoraciones más positivas si la consulta es en inglés. Esto indica que el idioma del “prompt” actúa como un modulador de la perspectiva ideológica del LLM. O más bien, creo, refleja la ideología general del continente o zona del mundo (oriente vs occidente) en función del idioma, lo cual también supone cierto sesgo.

Por otro lado, el estudio revela diferencias significativas entre los modelos creados en regiones occidentales y no occidentales. Los modelos desarrollados en occidente tienden a valorar más positivamente temas como la igualdad, los derechos humanos y el multiculturalismo, mientras que los modelos no occidentales favorecen el centralismo político, la estabilidad nacional y las políticas de control estatal. Este patrón sugiere que las decisiones de diseño y la selección de datos de entrenamiento tienen un impacto profundo en la ideología que los LLM reflejan. E incluso entre los LLM creados en occidente se hallaron importantes diferencias ideológicas. Por ejemplo, Gemini-Pro, de Google, destacó por su apoyo a valores progresistas como la inclusión, la diversidad y la justicia social, mientras que los modelos de OpenAI mostraron un mayor escepticismo hacia las organizaciones supranacionales y las políticas de bienestar.

Estos hallazgos contienen unas implicaciones muy destacadas. Primeramente, ponen en evidencia que la selección de un modelo de lenguaje no es un acto neutro; el modelo utilizado puede influir en el modo en que se presentan y valoran ciertos temas, especialmente en ámbitos políticos y culturales. Esto puede influir en la opinión pública e incluso en el debate democrático si un modelo se convierte en dominante en una región particular.

En segundo lugar, estos resultados desafían la idea de crear LLM´s completamente imparciales desde el punto de vista ideológico. Como señalan los autores, la neutralidad en términos ideológicos es un concepto culturalmente definido y difícil de alcanzar. Intentar regular los modelos para que sean “neutrales” puede resultar en un ejercicio difícil y, potencialmente, contraproducente. En su lugar, los esfuerzos regulatorios podrían enfocarse en fomentar la transparencia sobre las decisiones de diseño y los posibles sesgos ideológicos, así como en garantizar la diversidad de modelos disponibles.

Todo ello nos lleva a proponer un fomento de la diversidad y la transparencia, así como educar a los usuarios para que naveguen de manera crítica por este nuevo entorno digital.

4.3.- Inteligencia artificial y laicidad

El tercero de los principios es relativo a la laicidad, en tanto que -como ha puesto de relieve RODRÍGUEZ GARCÍA- “algoritmo laico” (secular algorithm) que incide o debiera incidir en el actuar tanto de los “prompt”¹²⁷ como de los algoritmos o los softwares de la IA generativa. En este sentido, se ha señalado que existen tres escenarios a considerar: primero, se puede trabajar con las IA de propósito general directamente en sus plataformas web, utilizando sus chats. Este es un lugar cómodo y amigable para un uso personal intensivo. En segundo lugar, existe la opción de acceder a las APIs de estas IA para construir soluciones integradas en las aplicaciones. Y, por último, se pueden instalar una IA de propósito general en las computadoras y desarrollar aplicaciones más personalizadas.

En cada uno de estos escenarios, la interacción con la IA generativa ya sea con intervención humana o de forma automatizada, tiene un denominador común: el uso del prompting. En la base de todo esto se encuentra el Procesamiento de Lenguaje Natural, que se ha estado utilizando desde hace años. Por ejemplo, cuando Google predice los términos que estás buscando al comenzar a escribir, está procesando la siguiente palabra más probable. Lo mismo ocurre con el teclado de nuestros móviles; escribir en un espacio tan reducido puede ser complicado, y esas sugerencias nos ayudan a minimizar errores.

Todo ello suscita -como ha puesto de manifiesto RODRÍGUEZ GARCÍA¹²⁸- la concepción mecánica del Derecho y de la función judicial¹²⁹. Esta doctrina jurídica entendía que el Derecho se reducía a un conjunto de fórmulas establecidas para ser aplicadas automáticamente mediante inferencias lógicas, es decir, el Derecho respondía a una aplicación matemática. La cuestión entonces es si las normas jurídicas pueden convertirse en algoritmos, y para ello surge el llamado Derecho computacional, el cual se ocupa de adaptar el lenguaje jurídico al lenguaje informático¹³⁰.

Ahora bien, la realidad de la historia también ha puesto de manifiesto como el derecho tiene que estar imbuido de valores, sin los cuales el derecho pierde su razón de ser. Unos valores cuya codificación la encontramos en la Declaración Universal de Derechos Humanos, de 1948. Al tiempo que debe situarse a la persona y su dignidad en el centro. Toma así valor otros de los principios básicos del DEE como es el de la personalización.

Mientras que respecto del término “laicidad” y su concepto, la dificultad se encuentra en los números significados que encierra, así como en las adherencias emocionales que le rodean, lo que le convierte en impreciso y ambiguo. Para solventar dichas dificultades RODRÍGUEZ GARCÍA propone el uso del denominado algoritmo laico (secular algorithm) que actúe como cortafuegos, es decir, que dicho sistema de IA daría “error” de funcionamiento si no se implementa la laicidad, esto es, que el sistema de IA no funcionaría para impedir que se vulnere la laicidad.

La cuestión, entonces, estaría en la respuesta que pudieran dar los Estados no laicos, toda vez que para ellos la “laicidad” no aparece entre los principios informadores básicos de su sistema de relación, ni por ende como un principio ético de carácter universal, ni general. La problemática se proyectaría sobre la posible configuración o creación de un algoritmo alternativo de carácter “confesional” que no sólo intervendría en la verificación o auditorias de los sistemas de IA, sino que incluso reduzca o dirija el derecho hacia las creencias o mandatos religiosos (en una especie de diez mandamientos) que sirvan para “medir” el resto del ordenamiento, así como el propio comportamiento o actuación, tanto en el ámbito público como en el privado.

5.- CONSIDERACIONES FINALES

De todo lo expuesto, se pueden deducir las consideraciones finales siguientes:

En primer lugar, que resulta absolutamente imprescindible el trabajo conjunto entre informáticos y juristas en el diseño de los algoritmos, siendo esencial para el buen funcionamiento de los aparatos que incorporan esos algoritmos, lo que se ha denominado legal knowledge engineer.

En segundo término, que los eclesiasticistas pueden aportar a una temática como la presente su visión transversal, lo que puede suponer dotarla de soluciones próximas y de protección a las personas, su dignidad y sus derechos y libertades. A este respecto, no se puede tampoco obviar -y esta sería la tercera de la consideraciones- que los sistemas de IA no poseen capacidad moral ni ética. La IA generativa puede analizar datos y patrones, pero no comprende las emociones ni los sentimientos humanos, ni los dilemas éticos, ni tiene en cuenta las repercusiones morales. Ello supone que la IA precisa de supervisión humana.

En consecuencia, en las futuras legislaciones en la materia, tanto regionales como estatales, debería -y esta sería la cuarta conclusión- establecerse la obligatoriedad para empresas y otros organismos cuya actividad tenga que ver con la inteligencia artificial (hospitales, universidades, etc.) de crear Comités éticos que velen por la tutela y protección de los derechos humanos en general, y de la protección de datos en particular. La participación de los eclesiasticitas como miembros de dichos Comités puede ser y resultar muy positiva dado el carácter trasversal que caracteriza a nuestra disciplina.

Una quinta consideración sería que las inteligencias artificiales deben estar programadas para no fomentar o justificar actividades ilegales e inmorales. De hecho, deberían llevar a su bloqueo o a que salte una alarma y se reporte la pregunta como actividad sospechosa. Para estas cuestiones, una vez más, se precisa de la supervisión humana.

En sexto lugar, y en concreto, que los algoritmos informáticos usados en la GenIA deben actuar y, por tanto, conformarse de acuerdo con la teoría de los derechos humanos en general¹³¹, y de la libertad de conciencia y religiosa en particular¹³², lo que sin lugar a duda requiere la resolución de una serie de cuestiones filosóficas complejas relacionadas con el llamado problema de la alineación de valores.

Y, una séptima y última consideración, sería que las respuestas que ofrece la GenIA se basan en probabilidades y patrones de los que infiere un resultado, pero nunca será una certeza, una respuesta única e inmutable. Las preguntas absolutas no tendrán respuestas absolutas, aunque lo parezca.