Un deepfake es una técnica avanzada de manipulación de videos que utiliza inteligencia artificial para superponer el rostro de una persona en un video original o para modificar sus palabras y expresiones faciales.
El pasado 5 de diciembre, circuló en la red social Facebook un video que muestra a la Presidenta de México, la Dra. Claudia Sheinbaum Pardo, invitando a los ciudadanos mexicanos a invertir desde 4,500 pesos para ganar hasta 70 mil pesos mensuales.
Tras haber sido reportado por el OMD, este video ya ha sido eliminado de la plataforma. Sin embargo, el contenido podría estar circulando en otras redes o aparecer nuevamente en Facebook dado que, aunque se dan de baja las publicaciones, páginas o usuarios reportados, estos crean usuarios nuevos y repiten la operación.
La publicación muestra un video manipulado de la presidenta de México afirmando haber invertido más de 200,000 pesos de su propio dinero, logrando ganancias de más de 2 millones de pesos mensuales. Posteriormente aparece la imagen manipulada del periodista Joaquín López Dóriga respaldando estas declaraciones. Se asegura que esto se logra a través de una plataforma tecnológica diseñada "para ayudar a todos los mexicanos a alcanzar la riqueza".
Tras el análisis con nuestra herramienta Verifactz GPT, hemos confirmado que este contenido no es auténtico, sino un deepfake: un video manipulado que utiliza inteligencia artificial para alterar el rostro y las palabras de la persona retratada.
Captura de video deepfake: “Deja tu trabajo poco querido y mantén a tu familia con la nueva ley, ganando desde 70,000 pesos mensuales”. Fuente: Facebook
A continuación, compartimos los hallazgos específicos de nuestra evaluación del video y cómo comprobamos la manipulación con inteligencia artificial.
¿Qué es un deepfake y cómo identificamos este caso?
Un deepfake es una técnica avanzada de manipulación de videos que utiliza inteligencia artificial para superponer el rostro de una persona en un video original o para modificar sus palabras y expresiones faciales. Aunque la tecnología es impresionante, deja pistas que pueden ser detectadas con herramientas de análisis y un ojo crítico.
En este caso, evaluamos el video con la metodología desarrollada por nosotros bajo cinco criterios clave:
1. Contenido visual manipulado
El análisis cuadro por cuadro reveló varias inconsistencias que delatan la manipulación:
Artefactos visuales: En algunos fotogramas, las expresiones faciales y los movimientos de los labios no se alinean perfectamente con el discurso. Esto es común en deepfakes, especialmente en videos de mayor duración.
Textura de la piel: Se observaron artefactos en áreas como el contorno del rostro y los ojos, donde la piel parecía borrosa o pixelada, un signo claro de procesamiento digital.
Inconsistencias en los parpadeos: Los parpadeos eran menos naturales de lo esperado, con movimientos que parecían mecánicos o forzados.
Conclusión: La evidencia visual confirma que el video fue manipulado digitalmente.
2. Contenido auditivo no confiable
Aunque el audio parecía coincidir con el movimiento de los labios, un análisis más detallado sugiere que el discurso fue editado para que coincidiera con el movimiento facial generado. Esto se conoce como sincronización labial artificial, una técnica utilizada en deepfakes para simular autenticidad.
3. Fuente no identificable
El video no fue compartido por canales oficiales o confiables. No existe ningún registro de estas declaraciones en medios acreditados o en las redes sociales verificadas de la presidenta. Esto es un indicio fuerte de que el contenido fue creado con intención de manipular la percepción pública.
4. Contexto y sesgo
El mensaje del video estaba diseñado para persuadir. Se utilizaba un lenguaje emocional, afirmaciones exageradas sobre ganar mucho dinero en poco tiempo y sin esfuerzo. Sin embargo, no se proporcionaron pruebas que respaldaran la autenticidad del contenido.
5. Intención maliciosa
El propósito del video parece ser claro: utilizar la imagen de la Dra. Claudia Sheinbaum Pardo y el periodista Joaquín López Dóriga para dar validez a una operación fraudulenta en la que invitan a la población a proporcionar su teléfono y depositar una cantidad considerable de dinero a cambio de rendimientos altísimos no sustentados por el mercado.
¿Qué podemos aprender?
Este análisis demuestra la importancia de evaluar de manera crítica el contenido que consumimos en redes sociales. Los deepfakes son herramientas poderosas que pueden engañarnos si no estamos atentos. Aquí tienes algunos consejos para detectar este tipo de manipulaciones:
- Busca inconsistencias visuales: Artefactos en el rostro, movimientos faciales extraños y texturas poco naturales son señales de manipulación.
- Verifica las fuentes: Si el contenido no proviene de un canal oficial o confiable, es mejor desconfiar.
- Corrobora con información adicional: Busca el contenido en medios reconocidos o cuentas verificadas.
- Sé crítico con el lenguaje emocional: Los deepfakes suelen diseñarse para provocar una reacción visceral inmediata.
Recuerda: no todo lo que ves en redes sociales es real. Analiza, verifica y comparte con responsabilidad.