Source: The Conversation – (in Spanish) – By Anna Peirats, Catedrática de Humanidades, Universidad Católica de Valencia
“Nuestro Papa es fuerte, ya camina”. El 15 de octubre, dos días después de su operación, una publicación de Facebook mostraba a León XIV apoyado en un andador, con un portasueros a su lado, acompañado por personal sanitario y religiosas. El mensaje coincidía con la información del Vaticano, que había comunicado que el pontífice ya se había levantado tras su enfermedad e, incluso, caminaba por la habitación.
Sin embargo, la imagen era falsa. Se había generado con inteligencia artificial, como advertía en una esquina la pequeña etiqueta del generador de imágenes “Immagine AI”.
Guerra de imágenes, ¿reales o falsas?
Cuando el Vaticano difundió las primeras fotografías oficiales de León XIV tras la operación, tomadas durante una misa en el hospital Gemelli, ya circulaban imágenes generadas con IA. En una, aparecía sonriente en la cama del hospital; en otra, tenía una mano sobre el pecho que cubría un apósito.
La espera de imágenes oficiales había sido todavía más larga con el anterior papa, Francisco. La primera fotografía de su hospitalización de 2025 se publicó un mes después de su ingreso. El Vaticano difundía partes médicos, pero periodistas y fieles reclamaban verlo. Así que, enseguida, empezaron a aparecer en las redes sociales retratos artificiales que lo mostraban con un respirador. Algunas incluso lo presentaban como fallecido cuando aún vivía.
Dos años antes, ya se había difundido una imagen creada con la herramienta Midjourney, en la que aparecía vestido con un plumífero blanco. Numerosos usuarios la tomaron por auténtica.
Por qué creemos lo que vemos
Ver al papa en una cama de hospital nos acerca a una experiencia familiar. Hasta un líder religioso al que siempre vemos presidiendo grandes ceremonias, necesita ayuda para recuperarse.
Por otro lado, la imagen puede transmitir tranquilidad a los fieles y hacer más creíble el mensaje textual que acompaña, aunque no aporte pruebas sobre él.
Pero representar una experiencia no implica vivirla. En la reciente encíclica Magnifica humanitas, el propio León XIV recuerda que estos sistemas “no pasan por la alegría y el dolor”. La máquina reproduce los signos del sufrimiento sin padecerlo, mientras el receptor sí que puede experimentar alivio, temor o compasión.
Recordemos que los sistemas de IA generativa producen imágenes a partir de texto, tras aprender asociaciones entre descripciones y rasgos visuales. Con ese aprendizaje pueden crear una escena hospitalaria verosímil sin que una cámara haya registrado al paciente en esa situación.
Cómo comprobar de dónde procede la imagen
Existen diferentes herramientas para rastrear esa procedencia de una imagen, como InVID-WeVerify, que facilita búsquedas inversas. Por otro lado, SynthID detecta la señal invisible que Google incorpora a las imágenes generadas con sus modelos de IA. Hive analiza rasgos visuales y ofrece una puntuación de confianza sobre su posible creación con esos sistemas. Este resultado, sin embargo, no basta para determinar si la imagen es auténtica o se ha generado con IA. En todos los casos, hay que contrastar la información con fuentes fiables.
También conviene comprobar los mensajes que cuestionan la autenticidad de una fotografía. La nota vaticana Antiqua et nova, publicada en 2025 con la aprobación del papa Francisco, advierte de que las falsificaciones pueden debilitar la confianza en lo que vemos y oímos. Un ejemplo es la primera imagen del papa en la capilla del Gemelli, que muestra cómo esa duda puede afectar a un documento auténtico: fue tachada de falsa en redes, aunque el Vaticano la había publicado en sus canales oficiales.
Qué exige la normativa europea
Quienes crean y difunden estas imágenes deben aclarar su origen de forma clara e inequívoca. No obstante, esto no siempre es así. Por ejemplo, en la foto sobre la recuperación de León XIV, la pequeña etiqueta que indicaba su creación con IA podía pasar inadvertida.
Cuando pueden llevarnos a engaño, estas recreaciones de personas o acontecimientos reales se conocen como deepfakes, que están sujetas al artículo 50 del Reglamento europeo de IA. Quienes las producen deben advertir claramente de su origen artificial desde la primera publicación, aunque esta obligación no se aplica al uso estrictamente personal y no profesional.
Además del aviso al público, los proveedores de IA generativa están obligados a incorporar a los archivos marcas digitales que permitan identificar su origen artificial mediante programas informáticos, una exigencia que, según el Digital Omnibus, entrará en vigor el 2 de diciembre de 2026, para dar un plazo a adaptar los sistemas que ya se comercializaban cuando comenzó a aplicarse esta norma.
Mientras, está claro que una imagen generada con IA puede llenar los huecos de una noticia con detalles que sus fuentes no han confirmado. Cuando aún no hay fotografías oficiales, estas recreaciones ofrecen al público una versión imaginada de la realidad que fácilmente puede ser aceptada como verdadera. Quizá por eso cada vez será más necesario aprender a revisar las fuentes y a distinguir deepfakes.
Las personas firmantes no son asalariadas, ni consultoras, ni poseen acciones, ni reciben financiación de ninguna compañía u organización que pueda obtener beneficio de este artículo, y han declarado carecer de vínculos relevantes más allá del cargo académico citado anteriormente.
– ref. ¿Cómo detectar una imagen falsa hecha con IA, como las de León XIV en el hospital? – https://theconversation.com/como-detectar-una-imagen-falsa-hecha-con-ia-como-las-de-leon-xiv-en-el-hospital-294591