¿Por qué nos hemos creído la foto del Papa con el abrigo blanco?

La inteligencia artificial generativa ya está desarrollada para hacernos caer en unos bulos que hasta hace poco requerían de tecnologías sofisticadas 

Fuente:      El País

Por   Emanoelle Santos

01/04//2023

La imagen generada por inteligencia artificial generativa de papa Francisco. No es una foto verdadera.Pablo Xavier vía Midjourney

“Ya no puedes creer en NADA que provenga de un dispositivo digital. Contrástalo todo”, dice el periodista Robert Scoble en un tuit que acompaña a una presunta imagen de Elon Musk cogiendo la mano de la política estadounidense Alexandria Ocasio-Cortez, conocida como AOC. Es uno de los muchos mensajes de alerta que se han visto en unos días llenos de fakes en internet. Imágenes de Donald Trump arrestado y su eventual huida de la cárcel y del papa Francisco con un sofisticado abrigo de plumas de Balenciaga, las imágenes falsas e hiperrealistas que circulan en las redes desde la semana pasada han mostrado que la información entra en una nueva era.

La inteligencia artificial (IA) generativa ya está suficientemente desarrollada para hacernos caer, al menos a simple vista, en unos bulos que hasta casi nada requerían de tecnologías complejas y usuarios expertos en manipulación digital. Hoy, prevenir que seamos engañados por las pantallas será cada vez más difícil, según los expertos. El blockchain se presenta como una solución compleja y a largo plazo, pero por ahora no hay más que un remedio de toda la vida: comprobar las fuentes, estar atento a los detalles y dudar de todo.

No es la primera vez que las imágenes generadas por la herramienta de IA Midjourney se han vuelto virales, pero ninguna se ha difundido tanto como el Papa de Balenciaga. Primero, porque parece mucho más verosímil que los demás supuestos de personas que tenían un aspecto artificial, como si fuera de un videojuego o con muchos filtros. También porque el contexto que rodea al pontífice puede suponer que quizá se vestiría de tal manera.

Sin embargo, al hacer zoom, se puede notar el tamaño de la oreja, la mano cortada que no está del todo agarrando la taza de café, la deformidad de las gafas o el crucifijo donde no se ve a Jesucristo esculpido y sin parte de la cadena que lo sostiene. Estos detalles indican que no es una fotografía real, sino que matizan los fallos de la IA: una herramienta que conoce bien la superficie de la realidad, pero no cómo interactúan los objetos físicos ni todas las características del cuerpo humano. Al menos por ahora.

Aun así, son factores que pasan desapercibidos, sobre todo si se está escroleando rápido y en el formato del móvil. En algunas imágenes del falso arresto de Trump, que circularon en las redes unos días antes, las evidencias de que se trata de un fake fueron más notables. El primer aspecto también es contextual: la detención del expresidente estadounidense sería portada en los grandes medios de comunicación, y no lo fue. Segundo, como ya habían afirmado algunos artistas, las herramientas generativas carecen de la habilidad de representar detalles del cuerpo humano, especialmente las manos. En algunas imágenes de Trump, las proporciones de su cuerpo pueden verse distorsionadas o incluso derretidas y hay un aspecto borroso. En otras, se observan textos distorsionados.