Ya casi había terminado de redactar un breve texto -que comentaba sobre la macrofotografía y bromeaba con lo difícil que a no pocos se les hace enhebrar una aguja, aun siendo de ese tamaño-, cuando alguien muy cercano me comentó al ver la imagen en pantalla: ¡Pero eso está hecho con IA, te embarcaste!

Y no. Era una foto real.

Así se vería la misma imagen generada por inteligencia artificial:

Foto real Foto generada por Chat GPT

Como fue tan interesante el camino para llegar a la conclusión que la foto era real, igual comparto algunas claves para conocer las diferencias entre imágenes reales y falsas.

Son pistas sugeridas por la propia IA (Chat GPT) porque nada mejor que la propia herramienta que genera para desnudar sus trucos.

Más cuando reconoce que hoy la diferencia entre una foto real y una generada por esa vía puede ser imperceptible a simple vista.

Sin embargo, aunque no existe un único método infalible, asegura que sí hay un conjunto de indicadores y herramientas que, combinados, permiten llegar a una conclusión bastante confiable.

¿Es o no es?

Lo primero para intentar determinar si se trata de una imagen real o una “deepfake” es el análisis visual, lo que el ojo del internauta puede detectar y que incluye desde errores anatómicos hasta lógicos.

En cuanto a los primeros, en personas o animales, se pueden apreciar dedos deformes, manos imposibles en el caso de humanos, y también reflejos incoherentes en ojos, dientes o joyas.

Foto generada con IA tomada de infobae.com. Obsérvese la mano.

En el caso de objetos o lugares es probable determinar deformaciones sutiles, texturas repetidas o ilógicas como metales con superficies que semejan al plástico o la madera.

También, la IA explica que en una foto real, la luz proviene de fuentes coherentes, de ahí que todas las sombras tengan una dirección y una dureza consistente.

Sin embargo, en imágenes creadas por IA, suele haber sombras contradictorias o zonas mal integradas de luz y reflejo.

En cuanto a las texturas en particular, las fotografías reales presentan un granulado irregular (ruido de sensor), mientras que las de IA tienen suavizados o patrones uniformes.

La profundidad de campo (zonas enfocadas o desenfocadas) a menudo es más realista en las fotos de verdad que en las creadas artificialmente.

Ante la duda, es posible también realizar lo que se conoce como Búsqueda inversa de imágenes (empleando Google Lens, TinEye). Ello permite saber si la foto ya existe en Internet, si fue publicada antes o tiene versiones distintas.

Forense digital en acción

Las fotos reales suelen incluir metadatos (EXIF): información de la cámara como marca, modelo, apertura, ISO, fecha, lente, etc; en tanto las otras usualmente muestran etiquetas genéricas como “AI generated”, “unknown software” o “DALL•E”.

Asimismo, existe la posibilidad de un análisis forense digital, que es el proceso de identificar, preservar, examinar e interpretar información digital de manera sistemática y legalmente válida, generalmente con el objetivo de investigar delitos, incidentes de seguridad informática o disputas legales.

Es como la versión digital de la criminología tradicional, y en el caso de las fotos puede utilizar herramientas como FotoForensics, JPEGSnoop o Forensically, las cuales permiten detectar patrones de compresión JPEG, ruido de sensor o manipulación.

Las imágenes generadas por IA tienden a producir ruido uniforme y sin patrón de mosaico, típico del sensor Bayer de cámaras reales.

La imagen sobre esta línea muestra un análisis de píxeles (ruido, patrones de interpolación y compresión) y frecuencias realizado por ChatGPT para determinar si la foto provenía de un sensor fotográfico real.

Sus conclusiones fueron que “el espectro de Fourier muestra una distribución continua y densa de frecuencias, sin los patrones repetitivos o suavizados que suelen aparecer en imágenes generadas por IA, que tienden a producir texturas “limpias” o con artefactos circulares.

“El nivel de ruido es alto y natural, típico del sensor de una cámara real a alta sensibilidad o en condiciones de ampliación extrema (macro/microscopía). La densidad de bordes es equilibrada y no presenta interpolaciones suaves o contornos artificialmente uniformes, lo que también respalda un origen fotográfico”.

Algunos fabricantes ya están incorporando “firmas digitales” en las cámaras para certificar la autenticidad de las fotos aportadas.

Peligros de una foto falsa

Cuando una imagen falsa se viraliza, sobre todo si se relaciona con asuntos de primera importancia, puede causar serios daños: desde desinformación y pánico hasta manipulaciones políticas, daños a la reputación y también pérdidas económicas.

De ahí que todo eso mantiene abierto debates sobre ética, leyes y regulaciones; desde derechos de imagen, consentimientos, y hasta la responsabilidad de los medios, plataformas y creadores, que incluye el etiquetar lo generado por IA.

A la vez, esas falsas imágenes y sus consecuencias igual subrayan la urgencia de mejorar herramientas de detección, aumentar la alfabetización mediática (que la gente pueda distinguir), y definir normas de transparencia.

Ejemplos abundan de los problemas derivados de imágenes falsas, generadas por IA, difundidas por la prensa digital y también las redes.

Entre casos famosos de "deepfakes" se apunta la foto de una supuesta explosión cerca del Pentágono difundida en mayo de 2023, que generó alarma pública, coberturas mediáticas precipitadas y hasta la bajada de acciones en mercados financieros.

Foto: tomada de dawn.com

Más allá de las redes sociales y de alguna prensa digital –aunque hubo rápidos desmentidos- en las 24 horas siguientes a la difusión de la imagen falsa se generaron más de 34.000 tweets conteniendo las palabras "Explosión del Pentágono".

Han circulado también muchas imágenes falsas de celebridades, sobre todo de figuras femeninas, con contenido explícito sexual, como en el caso de Taylor Swift, que generó un gran escándalo.

Y como para muy diversos temas se usan fotos falsas, hasta se hizo viral la presencia de Katy Perry en una famosa gala de modas, cuando, en realidad, la artista nunca estuvo en ese evento.

Foto: tomada de Facebook

Retomando ahora el hilo… de la aguja fotografiada que dio pie a este texto, vale reflexionar sobre la urgencia de definitivamente zurcir tanto desgarrón en el tejido social que andan causando las fotos falsas generadas con IA.

No solo por sus inmediatas y muchas veces graves consecuencias, sino porque, más temprano que tarde, y a medida que la IA se desarrolla, llegará un momento en que será casi imposible discernir cuál imagen es real y habrá entonces quien hasta crea que podrá “pasar un camello por el ojo de una aguja”.