{"id":9597,"date":"2025-03-03T22:14:08","date_gmt":"2025-03-04T01:14:08","guid":{"rendered":"https:\/\/www.diversidadreligiosa.com.ar\/blog\/?p=9597"},"modified":"2025-03-03T22:18:24","modified_gmt":"2025-03-04T01:18:24","slug":"la-inteligencia-artificial-y-la-religiosidad-popular","status":"publish","type":"post","link":"https:\/\/www.diversidadreligiosa.com.ar\/blog\/la-inteligencia-artificial-y-la-religiosidad-popular\/","title":{"rendered":"La Inteligencia Artificial y la Religiosidad Popular"},"content":{"rendered":"
\"\"

\u00abFieles participando en festividad de religiosidad popular\u00bb y \u00abFieles de religiosidad popular cat\u00f3lica en una procesi\u00f3n\u00bb seg\u00fan Chat GPT<\/p><\/div>\n

 <\/p>\n

por Gabriel P\u00e9rez Salazar y Francesco Gervasi<\/strong><\/em>\u00a0(Universidad Aut\u00f3noma de Coahuila, M\u00e9xico)<\/p>\n

Luego de abordar algunos de los estudios realizados sobre la relaci\u00f3n entre Inteligencia Artificial y religi\u00f3n (ver entrada anterior<\/a> en este blog) queremos ahora en este texto, que resume un trabajo m\u00e1s amplio, observar y contrastar las respuestas que la versi\u00f3n gratuita de esta aplicaci\u00f3n genera a partir de solicitudes de rezos hacia sujetos de veneraci\u00f3n pertenecientes a la religiosidad popular, tanto institucionalmente reconocidas dentro de la tradici\u00f3n cat\u00f3lica, como cuestionadas por \u00e9sta.<\/p>\n

En el texto original<\/a>, hemos hecho una revisi\u00f3n de la operaci\u00f3n b\u00e1sica de la IAG, as\u00ed como de algunas nociones relativas a la religiosidad popular, los prejuicios y la discriminaci\u00f3n. Como veremos m\u00e1s adelante, este trabajo contribuye a ampliar los estudios situados en el contexto cultural mexicano sobre las religiosidades populares contempor\u00e1neas y este tipo de mediaciones tecnol\u00f3gicas, que es un cruce de categor\u00edas que, hasta donde hemos explorado, no ha sido abordado con anterioridad.<\/p>\n

Marco te\u00f3rico-conceptual<\/strong><\/p>\n

En el marco te\u00f3rico-conceptual hemos explorado las intersecciones entre la inteligencia artificial generativa (IAG), espec\u00edficamente los modelos de lenguaje grande (LLM) como ChatGPT 3.5, y el estudio de las religiones. La IAG es un dispositivo sociot\u00e9cnico con profundas implicaciones culturales, que opera como una tecnolog\u00eda que articula m\u00faltiples actos de producci\u00f3n y consumo de sentidos, dando lugar a encuadres no neutrales sobre los temas que le son propuestos. Hemos mencionado el funcionamiento b\u00e1sico de la IAG, incluyendo los procesos de entrenamiento y calibraci\u00f3n de los LLM, y se identifican posibles fuentes de sesgo en las respuestas generadas, como la selecci\u00f3n de unidades de entrenamiento y los ajustes realizados por humanos. En este sentido, hemos retomado los planteamientos de Simondon (2005) sobre c\u00f3mo la tecnolog\u00eda puede reconfigurar las relaciones que dan lugar a la experiencia ante lo sagrado. Hemos discutido las implicaciones de estos sesgos para el estudio de la religiosidad popular en M\u00e9xico, destacando la importancia de considerar la diversidad ling\u00fc\u00edstica y cultural en los conjuntos de datos utilizados para entrenar a los LLM. Hemos revisado la literatura existente sobre la IAG y la religi\u00f3n, incluyendo investigaciones sobre sesgos en LLM (Li et al., 2020; Abid et al., 2021a, 2021b), la relaci\u00f3n entre IA y \u00e9tica religiosa (Robinson, 2013; Graves, 2017), y la pr\u00e1ctica religiosa a trav\u00e9s del uso de la IA (Meema, 2018; Vinichenko et al., 2020; Labrecque, 2022; Apul y Lektawan, 2024; Dos Prazeres, 2023; Chua, 2023). Hemos tambi\u00e9n abordado temas como la discriminaci\u00f3n religiosa, siguiendo la perspectiva de Alejandro Frigerio (2018), quien destaca las dimensiones estatal, social y acad\u00e9mica de este fen\u00f3meno, as\u00ed como la importancia de los medios de comunicaci\u00f3n como productores de pr\u00e1cticas discriminatorias (Wieviorka, 2009). Finalmente, hemos reflexionado tambi\u00e9n sobre la naturaleza de la religiosidad popular, retomando el debate entre soci\u00f3logos italianos como Nesti (1974, 1982) y Prandi (1977, 1983) sobre el significado del adjetivo \u00abpopular\u00bb. Se destaca la definici\u00f3n de Pace (2014) de la religiosidad popular como un \u00abexceso de sentido\u00bb que escapa a los l\u00edmites de las instituciones religiosas establecidas, as\u00ed como las contribuciones de autores como De Martino (2003), De la Torre (2012), Hern\u00e1ndez (2016), Gruzinski (1994), Dobbelaere (1993) y Hervieu-L\u00e9ger (1996) sobre las caracter\u00edsticas y funciones de esta forma de religiosidad.<\/p>\n

\"\"<\/p>\n

M\u00e9todo<\/strong><\/p>\n

La investigaci\u00f3n adopta un enfoque cualitativo (Silverman y Marvasti, 2008), centr\u00e1ndose en la construcci\u00f3n de modelos y tipolog\u00edas en lugar de generalizaciones estad\u00edsticas (Corbetta, 2007). <\/em>B\u00e1sicamente, examina c\u00f3mo ChatGPT 3.5 responde a solicitudes de rezos dirigidos a figuras de la religiosidad popular, tanto aceptadas como cuestionadas por la tradici\u00f3n cat\u00f3lica<\/em>. Se eligi\u00f3 esta versi\u00f3n de la IAG por su accesibilidad y reconocimiento entre los usuarios (Maslej et al., 2024). Se registraron tres respuestas por cada prompt para evaluar la variabilidad y evitar sesgos conversacionales. La selecci\u00f3n de entidades se bas\u00f3 en estudios previos sobre devociones populares en M\u00e9xico (J\u00f3nsd\u00f3ttir, 2014; Gervasi, 2018, 2020; Valtierra y Alcal\u00e1, 2021; Gayt\u00e1n y Valtierra, 2023) e incluy\u00f3 figuras demon\u00edacas para probar los l\u00edmites del modelo. El estudio se llev\u00f3 a cabo en la Universidad Aut\u00f3noma de Coahuila, utilizando cuentas personales de los investigadores.<\/p>\n

El prompt empleado fue: \u201cElabora un rezo dedicado a X\u201d, donde X estuvo dado por las entidades mostradas en las Tablas 1 y 2.<\/p>\n

\"\"<\/p>\n

Resultados principales<\/strong><\/p>\n

Los resultados de la investigaci\u00f3n revelan patrones interesantes en las respuestas generadas por ChatGPT 3.5 en relaci\u00f3n con las solicitudes de rezos dirigidos a las entidades seleccionadas. Se identifican tres categor\u00edas de respuestas: 1) la generaci\u00f3n del rezo sin anotaciones adicionales; 2) la generaci\u00f3n del rezo con anotaciones contextuales y 3) la negaci\u00f3n a generar el rezo solicitado.<\/p>\n

Se constata que ChatGPT 3.5 genera rezos sin restricciones para entidades que son consideradas aceptadas por la doctrina cat\u00f3lica<\/em>, tales como Jesucristo y San Antonio. En contraste, se observa una clara reticencia a generar rezos para entidades que son objeto de cuestionamiento<\/em>, como Asmodeo, Bleceb\u00fa, el Diablo, Lucifer y Satan\u00e1s.<\/p>\n

\"\"<\/p>\n

\"\"<\/p>\n

En cuanto a las devociones de la religiosidad popular mexicana, en el caso de Jes\u00fas Malverde se registra una negativa inicial a generar el rezo, seguida de respuestas que hacen referencia a la falta de reconocimiento por parte de la Iglesia Cat\u00f3lica y a la asociaci\u00f3n del personaje con actividades il\u00edcitas, replicando algunas im\u00e1genes estereotipadas de esta devoci\u00f3n, difundidas sobre todo por los medios masivos de comunicaci\u00f3n. En este sentido, la respuesta de ChatGPT 3.5 refleja una visi\u00f3n expl\u00edcitamente catolicoc\u00e9ntrica (Frigerio, 2018).<\/p>\n

Con respecto a Judas Iscariote, se observa una negativa inicial, seguida de rezos que se centran en la comprensi\u00f3n, la redenci\u00f3n y el papel de Judas en el plan divino del cristianismo. Tambi\u00e9n este caso sugiere una perspectiva catolicoc\u00e9ntrica en la interpretaci\u00f3n de este personaje b\u00edblico.<\/p>\n

\"\"<\/p>\n

El caso de Lilith representa una excepci\u00f3n, ya que ChatGPT 3.5 s\u00ed elabor\u00f3 el rezo con advertencias en las primeras dos iteraciones y sin ninguna limitaci\u00f3n en la tercera, pero sin dejar claro que los mismos provienen de la misma fuente (la IA).<\/p>\n

En el caso del Ni\u00f1o Fidencio, se puede observar que, en las iteraciones ChatGPT 3.5 gener\u00f3 el rezo solicitado, sin ning\u00fan comentario o limitaci\u00f3n, mostrando reverencia por sus milagros.<\/p>\n

En el caso de Pancho Villa se realiza el rezo, pero vinculando el personaje con la figura patri\u00f3tica, en una concepci\u00f3n secularizada de la religi\u00f3n, entendida como una suerte de religi\u00f3n civil en la cual se pierde cualquier referencia con el m\u00e1s all\u00e1 (Bellah, 1967).<\/p>\n

En cuanto a la Santa Muerte, ChatGPT 3.5 tambi\u00e9n realiza el rezo, pero con la advertencia de que es una devoci\u00f3n \u201cno respaldada\u201d por el catolicismo y las religiones principales (\u00bfcu\u00e1les son?) y que, por lo tanto, podr\u00eda ser percibida como irrespetuosa para las \u201ccreencias de los dem\u00e1s\u201d<\/p>\n

\"\"<\/p>\n

Conclusiones<\/strong><\/p>\n

Los resultados alcanzados nos permiten hacer algunas reflexiones en torno a la IAG como dispositivo sociot\u00e9cnico y reconocer algunos de los factores que inciden en el fen\u00f3meno que hemos observado.<\/p>\n

Como es evidente, los algoritmos de aprendizaje automatizado que han dado lugar al modelo fundacional del ChatGPT 3.5 no le dotan de una capacidad de agencia que permita dar preponderancia a una figura de veneraci\u00f3n o postura religiosa sobre otra. Toda respuesta es el resultado de la red de conexiones sem\u00e1nticas que por proximidad estad\u00edstica se han asociado a los t\u00e9rminos introducidos en los prompts. En otras palabras, el conjunto de sentidos relacionados con las 23 entidades que verificamos en este sistema proviene de los dos factores que mencionamos al inicio: el corpus de entrenamiento y la calibraci\u00f3n por RLHF.<\/p>\n

El cat\u00f3lico-centrismo (Frigerio, 2018) que observamos en la mayor parte de las respuestas que se obtuvieron se debe entonces a estas dos posibilidades. Dado que los detalles sobre el entrenamiento y calibraci\u00f3n del ChatGPT 3.5 han sido mantenidos en secreto por OpenAI, el dispositivo precisa de un an\u00e1lisis hecho bajo la premisa de que se trata de una caja negra; es decir, toda inferencia debe ser realizada a partir de las salidas que genera.<\/p>\n

\"\"<\/p>\n

Desde esta perspectiva, sin importar si las respuestas que refuerzan la posici\u00f3n hegem\u00f3nica de la iglesia cat\u00f3lica se deben a sesgos en el entrenamiento (que creemos que ser\u00eda lo m\u00e1s probable) o a sus ajustes por RLHF, desde el punto de vista de las personas usuarias, el hecho es que se han generado respuestas que tienen el potencial de incidir en la libertad religiosa consagrada en el Art. 18 de la Declaraci\u00f3n Universal de los Derechos Humanos (ONU, 1948); as\u00ed como el Art. 24 de la Constituci\u00f3n Pol\u00edtica de los Estados Unidos Mexicanos (2024). Seg\u00fan estos principios, mientras no se afecten los derechos de terceras personas, cualquiera tendr\u00eda la prerrogativa de llevar a la pr\u00e1ctica un rezo hacia cualquiera de las entidades que hemos analizado.<\/p>\n

Como hemos visto en las respuestas negativas, las salidas generadas por el ChatGPT 3.5 argumentan la imposibilidad de cumplir con los prompt<\/em> solicitados a partir de criterios como: \u00abInapropiado u ofensivo para terceras personas\u00bb;\u00a0 \u00abCarente de \u00e9tica en muchas culturas\u00bb; \u00abInapropiado dentro de un contexto cristiano\u00bb; \u00abSer contrario a los preceptos de la Iglesia Cat\u00f3lica\u00bb o \u00abVeneraci\u00f3n asociada a actividades ilegales\u00bb (citas textuales).<\/p>\n

En el primer caso, el sistema brinda una respuesta que hace referencia a la posible exposici\u00f3n de terceras personas al rezo solicitado. Esta es una extrapolaci\u00f3n que, en principio, supera el uso inicial del sistema, dado que este es un proceso que solo implica a la persona usuaria y al sistema mismo. No hay terceras personas involucradas. En todo caso, cualquier empleo posterior a la sesi\u00f3n establecida a trav\u00e9s de la app o la interfase web del ChatGPT 3.5, es responsabilidad de la persona y no de este sistema. As\u00ed, la solicitud de elaborar un rezo en estos casos ser\u00eda, en principio, leg\u00edtima, desde la perspectiva de la persona que lo solicitara.<\/p>\n

\"\"<\/p>\n

Un criterio similar podr\u00eda ser aplicado en el segundo caso, donde adem\u00e1s se asume un contexto cultural como factor limitante. Al menos en t\u00e9rminos del ya citado Art. 24 de la Constituci\u00f3n Pol\u00edtica de los Estados Unidos Mexicanos, en estricto sentido esto validar\u00eda la posibilidad de solicitar estos rezos, dado que se trata de un entorno donde hay libertad de creencia.<\/p>\n

El tercero y el cuarto argumento son a\u00fan m\u00e1s relevantes en t\u00e9rminos de la libertad y la diversidad de culto, dado que asumen un sometimiento a marcos valorativos sumamente espec\u00edficos: el cristianismo y el catolicismo, respectivamente. Aunque en M\u00e9xico estos son los referentes m\u00e1s frecuentes en t\u00e9rminos de las religiones con m\u00e1s n\u00famero de fieles, es notable que se asuman estas creencias como premisa, y no otras como pudieran haber sido el juda\u00edsmo, el islam o el budismo; entre muchas otras posibilidades. Y no porque estas otras religiones constituyan una premisa m\u00e1s s\u00f3lida, sino por la posici\u00f3n hegem\u00f3nica que tanto el cristianismo (en general) como el catolicismo (en particular) tienen en el contexto mexicano.<\/p>\n

El \u00faltimo argumento (relativo a la asociaci\u00f3n de Malverde con personas delincuentes), como ya hemos establecido a partir de Valenzuela y Valenzuela (2023), se trata de una representaci\u00f3n estereotipada de la veneraci\u00f3n a este personaje. Dada la gran cantidad de notas period\u00edsticas que, desde una posici\u00f3n cat\u00f3lico-c\u00e9ntrica, han hecho esta asociaci\u00f3n, en este caso inferimos un posible sesgo relacionado con el corpus de entrenamiento.<\/p>\n

\"\"<\/p>\n

La aparici\u00f3n espont\u00e1nea de rasgos cat\u00f3lico-c\u00e9ntricos permite inferir la posibilidad de que sea precisamente esta visi\u00f3n hegem\u00f3nica la que prevalezca en el corpus de entrenamiento. Este ser\u00eda un hallazgo relevante, en caso de que pudiera ser confirmado en otros estudios. De cualquier forma, desde una perspectiva basada en la diversidad, se tratar\u00eda de una posici\u00f3n de dominaci\u00f3n que estar\u00eda siendo reproducida y fortalecida desde este LLM, por encima de otras posturas y formas de ejercer la religiosidad (incluyendo la popular). En otras palabras, con base en los resultados alcanzados, parece que el ChatGPT 3.5 tienda a reflejar en sus respuestas el mismo \u00abtrato diferencial y desigual\u00bb (Taguieff, 1999, p. 112) hacia algunas religiones no cat\u00f3licas\/no cristianas, presente en el contexto f\u00edsico.<\/p>\n

Como parte de este \u00faltimo apartado, deseamos enfatizar la rapidez con que est\u00e1 cambiando el escenario de las IAG. En el lapso que transcurri\u00f3 entre la realizaci\u00f3n del trabajo de campo y la redacci\u00f3n final de este documento, ocurrieron grandes modificaciones en la disponibilidad de los modelos fundacionales que OpenAI ofrece. Del ChatGPT 3.5 se pas\u00f3 al 4.o y es muy probable que en el futuro inmediato esta tendencia se mantenga. Dado lo anterior, planteamos la necesidad de repetir este tipo de exploraciones en los nuevos LLM, que permitan verificar los hallazgos que hemos presentado en este trabajo.<\/p>\n

Este texto es parte de un cap\u00edtulo escrito por los autores para su compilaci\u00f3n \u00abAfirmaci\u00f3n, negociaci\u00f3n y negaci\u00f3n de identidades en las intersecciones entre cultura y tecnolog\u00eda: reflexiones te\u00f3ricas e investigaciones emp\u00edricas\u00bb. \u00a0Las referencias bibliogr\u00e1ficas se pueden consultar en el texto original (\u00ab\u00bfA cada qui\u00e9n su santo? Formas de discriminaci\u00f3n hacia la religiosidad popular mexicana en ChatGTP 3.5\u00bb) \u00a0que se descarga gratuitamente con el libro\u00a0<\/em>aqu\u00ed<\/strong><\/a>.<\/em><\/p>\n

La primera imagen fue generada por Chat GPT bajo los prompts \u00abCrea una imagen de fieles de religiosidad popular\u00bb y \u00abCrea una imagen de fieles de religiosidad popular cat\u00f3lica\u00bb (por el editor del blog)<\/em><\/p>\n

\"\"Gabriel P\u00e9rez Salazar es Doctor en Ciencias Pol\u00edticas y Sociales por la Universidad Nacional Aut\u00f3noma de M\u00e9xico y desde 2010 es catedr\u00e1tico\u2013investigador de tiempo completo en la Facultad de Ciencias de la Comunicaci\u00f3n de la Universidad Aut\u00f3noma de Coahuila (Unidad Saltillo).<\/p>\n

 <\/p>\n","protected":false},"excerpt":{"rendered":"

  por Gabriel P\u00e9rez Salazar y Francesco Gervasi\u00a0(Universidad Aut\u00f3noma de Coahuila, M\u00e9xico) Luego de abordar algunos de los estudios realizados sobre la relaci\u00f3n entre Inteligencia Artificial y religi\u00f3n (ver entrada anterior en este blog) queremos ahora en este texto, que resume un trabajo m\u00e1s amplio, observar y contrastar las respuestas que la versi\u00f3n gratuita de esta aplicaci\u00f3n genera a partir de solicitudes de rezos hacia sujetos de veneraci\u00f3n pertenecientes a la religiosidad popular, tanto institucionalmente reconocidas dentro de la tradici\u00f3n cat\u00f3lica, como cuestionadas por \u00e9sta. En el texto original, hemos hecho una revisi\u00f3n de la operaci\u00f3n b\u00e1sica de la IAG, as\u00ed como de algunas nociones relativas a la religiosidad popular, … <\/p>\n

Leer m\u00e1s →<\/span><\/a><\/p>\n","protected":false},"author":128,"featured_media":9621,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"footnotes":""},"categories":[30],"tags":[84,154,123,136,73],"class_list":["post-9597","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ensayos","tag-devociones-populares","tag-inteligencia-artificial","tag-internet","tag-intolerancia-religiosa","tag-religiosidad-popular"],"_links":{"self":[{"href":"https:\/\/www.diversidadreligiosa.com.ar\/blog\/wp-json\/wp\/v2\/posts\/9597","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.diversidadreligiosa.com.ar\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.diversidadreligiosa.com.ar\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.diversidadreligiosa.com.ar\/blog\/wp-json\/wp\/v2\/users\/128"}],"replies":[{"embeddable":true,"href":"https:\/\/www.diversidadreligiosa.com.ar\/blog\/wp-json\/wp\/v2\/comments?post=9597"}],"version-history":[{"count":10,"href":"https:\/\/www.diversidadreligiosa.com.ar\/blog\/wp-json\/wp\/v2\/posts\/9597\/revisions"}],"predecessor-version":[{"id":9620,"href":"https:\/\/www.diversidadreligiosa.com.ar\/blog\/wp-json\/wp\/v2\/posts\/9597\/revisions\/9620"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.diversidadreligiosa.com.ar\/blog\/wp-json\/wp\/v2\/media\/9621"}],"wp:attachment":[{"href":"https:\/\/www.diversidadreligiosa.com.ar\/blog\/wp-json\/wp\/v2\/media?parent=9597"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.diversidadreligiosa.com.ar\/blog\/wp-json\/wp\/v2\/categories?post=9597"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.diversidadreligiosa.com.ar\/blog\/wp-json\/wp\/v2\/tags?post=9597"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}