EN CORTO:
- En X (antes Twitter) se hizo viral un video viral que mostraba a una persona tomando el sol en Palacio Nacional
- La plataforma gubernamental, Infodemia lo clasificó como falso usando herramientas con la misma tecnología y sin transparentar su metodología.
- Sin embargo, la revisión de múltiples herramientas y la geolocalización de elementos arquitectónicos confirmaron la veracidad del material, evidenciando sesgos en el proceso de verificación de Infodemia.
Por Debanhi Soto
En redes sociales se difundió un video que muestra supuestamente a una persona tomando el sol desde los ventanales del Palacio Nacional. El video causó reacciones diferenciadas ya que mientras algunos usuarios mostraron indignación y defendían el valor cultural del edificio, otros aseguraban que la imagen se había hecho con inteligencia Artificial.
Tras la viralización, la plataforma del Gobierno Federal con la que se pretende combatir la información falsa, Infodemia desinformó al decir que el video estaba hecho sintéticamente. Infodemia aseguró que al pasar el video por plataformas de detección de IA se encontró manipulación digital.
Sin bien, la plataforma no detalló qué tecnologías de detección utilizó, las capturas de pantalla que se subieron a la publicación de “chequeo” corresponden a las interfaces de UndetectableAI y TruthScan. Ambas herramientas, usan la misma tecnología por lo que el resultado fue similar.
Cuando se revisa material que podría estar generado o manipulado con Inteligencia Artificial es importante contrastar usando distintas herramientas con tecnologías diferenciadas para evitar los falsos positivos o los falsos negativos.
En este caso, debido a que UndetectableAi comparte tecnología con TruthScan, cuentan como una sola herramienta de verificación de IA. Algunos otros softwares que tienen metodología distinta son Hive Moderation, Synth ID, Hiya Deepfake Voice Detector y el plugin de Invid- We Verify.
Al revisar el video por otros filtros y hacer un análisis humano usando diferentes tomas e imágenes del Palacio Nacional, Verificado detectó que la grabación es real.
En otras herramientas y usando otros videos no se detecta IA
Al pasar el video por Hive Moderation, una herramienta que de acuerdo a una investigación del New York Times es de las mejores para detectar Inteligencia Artificial, el resultado fue que hay un 9.5% de probabilidad (poco probable) que la grabación de una persona tomando el sol desde Palacio Nacional esté generada sintéticamente.
El detector de Google, Synth ID tampoco encontró muestras de Google AI en el video recalcando que no se hizo con esta tecnología.
Debido a que no se pudo detectar un rostro, el detector de Invid-We Verify no fue capaz de analizar si el video era un deepfake. Pero al revisar el audio del video en el que se escuchan a dos personas señalando la situación con Hiya Deepfake Voice Detector, el resultado fue que posiblemente era real con un 85% de probabilidad de que las voces no estuvieran hechas con IA.
Asimismo, al tomar una captura de pantalla a uno de los fotogramas claves en el que se ve la silueta por la ventana del Palacio Nacional y pasarla por la Lupa de Invid- We Verify no se detectaron señales de manipulación con IA como discontinuidad en las líneas o faltas de continuidad.
Después de que Infodemia diera por falso el video, se viralizó otro ángulo que mostraba la misma silueta en la ventana del Palacio Nacional. Aunque algunos usuarios aseguraron que este video también era falso, todos los detectores de IA lo identificaron como humano, incluyendo UndetectableAI y Truth Scan, herramientas que usó Infodemia para el primer video.
En UndetectableAI
el porcentaje de autenticidad del segundo video fue del 97%, Hive Moderation calculó en 3.7% la probabilidad de que fuera generado sintéticamente y SynthID tampoco detectó manipulación con Google AI en la grabación.
Video corresponde al Palacio Nacional
Cuando una IA crea videos suele tener ciertas inconsistencias en el metraje como faltas de continuidad en el fondo o en los detalles. Sin embargo, en los vídeos analizados se pudo detectar que eran reales y coinciden con la fachada norte del Palacio Nacional que da a la Plaza de la Constitución (del lado de la Catedral Metropolitana de Ciudad de México).
En ambos videos se ve que la fachada del Palacio Nacional está protegida con vallas, al respecto hay documentación en medios de comunicación de que debido a la mega marcha y el plantón de la CNTE se colocaron vallas para resguardar la infraestructura del edificio.
Una transmisión en vivo estática de la Plaza de la Constitución muestra que en el lado sur de la fachada se instalaron toldos del plantón y que del lado norte si bien hay vallas, no hay toldos y casas de campaña adjuntas, lo que coincide con los videos que se viralizaron en redes sociales y permite intuir que el video se grabó desde la fachada norte.
En uno de los videos que se viralizaron se muestra que la ventana abierta es la séptima contando del frontón norte hacia el sur y está ubicada entre el tercer y el cuarto balcón (en el mismo sentido). Si bien, en el otro video viral no se puede contar cuántas ventanas había antes o después, si coincide el posicionamiento de la ventana con estar entre dos balcones con cortinas verdes.
En el videos que se acusa de ser IA se pueden contar además 7 chimeneas en el techo antes de la ventana abierta. Una imagen de Google Maps del Palacio Nacional que se subió en 2020 coincide con que hay siete chimeneas antes de la séptima ventana (la que estaba abierta) y que esta está en línea con el tercer y cuarto balcón.
Por lo que al analizar las respuestas de los detectores de IA y la geolocalización humana del video, Verificado concluye que es verdadero.
Infodemia ya ha desinformado anteriormente y no es un medio de fact checking
Aunque Infodemia afirma que su misión es combatir la desinformación y “ofrecer un espacio de información verificada”, en la práctica ha operado como un medio alineado con el gobierno, difundiendo contenidos que favorecen al oficialismo y cuestionan a voces críticas.
A diferencia de los medios especializados en fact-checking, Infodemia no cuenta con una metodología pública ni transparente, ni explica los criterios que utiliza para seleccionar la información que somete a verificación.
Asimismo, Infodemia no cuenta con el reconocimiento de redes internacionales de verificación como Latam Chequea o la International Fact-Checking Network a las cuales Verificado sí pertenece.
Fuentes | Links:
- Infodemia desinforma sobre el costo de la Refinería Dos Bocas | Verificado
- Hive Moderation
- Synth ID
- Truth Scan
- UndetectableAI
- Plugin de Invid-WeVerify
- Colocan vallas en calles aledañas a Palacio Nacional por mega marcha de la CNTE | El Universal
- Zócalo | Webcams de México
- Ciudad de México, Cámara web en vivo | Skyline Webcams
- Imagen de Palacio Nacional | Google Maps
- These Tools Say They Can Spot A.I. Fakes. Do They Really Work? | NYT
