MENÚ
Con la llegada de los teléfonos inteligentes y las computadoras, editar o retocar una fotografía se volvió una tarea común y fácil de llevar a cabo: quitar las imperfecciones, aplicar un filtro para hacer más viva la imagen o, incluso, modificar los rasgos faciales de una persona son cosas que pueden hacerse sin tener que usar un programa complejo como Photoshop. La cuestión es que no es lo mismo editar una foto para cambiar ciertos aspectos de esa imagen que hablar de un deepfake y, sin embargo, sigue habiendo mucha confusión sobre las diferencias entre este concepto y una imagen manipulada.
La clave, esencialmente, está en que hablemos de imágenes fijas o en movimiento y que se hayan usado determinadas técnicas para hacer la edición. Graciela Padilla, profesora de Periodismo y Nuevos Medios en la Universidad Complutense de Madrid, explica a Maldita.es, medio cofundador de Factchequeado, que una imagen manipulada “suele referirse a una imagen fija, cuyo resultado, tras manipularla creíblemente, siempre será un fotograma fijo”. “Tenemos manipulación fotográfica desde que existe la fotografía y el cine, pues nació con una sencilla tijera: recorto el fotograma, quito lo que no quiero, lo pego sobre otro fotograma y creo un fotograma nuevo”, ejemplifica Padilla.
Los deepfakes son imágenes en movimiento que alteran la cara y/o la voz de una persona
Los deepfakes, sin embargo, son videos reales manipulados digitalmente con el objetivo de crear imágenes falsas que sean igual de realistas. Básicamente, usan redes neuronales que han sido entrenadas para aprender los gestos, las expresiones faciales y las voces de determinadas personas, que luego utilizan para generar los videos en los que aparecen dichas personas hablando y actuando, como explica aquí a fondo Maldita.es.
Como destaca la Oficina de Responsabilidad del Gobierno de Estados Unidos (GAO, por sus siglas en inglés), los deepfakes pueden mostrar “a alguien que parece decir o hacer algo que, en realidad, nunca dijo o hizo”.
Siwei Lyu, experto en deepfakes y director del Laboratorio Forense de Medios de la Universidad de Buffalo, afirma que estos videos “pueden plantear preguntas legales interesantes, especialmente a medida que la tecnología para crearlos se vuelve menos costosa y más accesible”. “Cualquiera, no solo los políticos y las celebridades, puede ser objetivo de los deepfakes”, asegura.
Uno de los mejores ejemplos y más conocidos en Estados Unidos de esta técnica es el deepfake que se viralizó en 2021 del actor Tom Cruise jugando golf. Desde entonces la cuenta @deeptomcruise publica videos que simulan al actor en distintas actividades. Y no todos advierten que en el propio nombre del usuario de TikTok se lee “deep”, de deepfake; que también se lee que usan la tecnologia de la empresa Metaphysic.ai para crear avatares y que en la bio se define como “parody and younger!”(“parodia y más joven”).
Otro ejemplo fue la recreación mediante Inteligencia Artificial de Joaquín Oliver ‘Guac’, uno de los estudiantes asesinados en el tiroteo masivo en la escuela Marjory Stoneman Douglas, el 14 de febrero de 2018. Sus padres subieron este video a Youtube, previo a las elecciones de noviembre de 2020 para promover el voto y dar mensaje sobre el control de armas. Antes de que aparezca en pantalla se lee en inglés (minuto 0:52) un mensaje de sus padres: “Usamos Inteligencia Artificial para traerlo de vuelta para un último mensaje”.
“El problema del deepfake es que no hablamos de foto fija, sino de una imagen viva, en movimiento: esa profundidad nos conduce a una mentira tan honda y tan bien hecha que es difícil de detectar”, analiza Padilla. La especialista advierte que “los programas de deepfake permiten pegar una foto cualquiera sobre otro rostro en un video, y cambiarle la identidad, darle volumen, darle voz y darle vida, con un resultado tan exacto y tan verosímil que el receptor no tiene dudas de que ese video es real, con todos los peligros y perversiones que esto puede entrañar”.
Aunque este tipos de videos pueden utilizarse para difundir desinformación y “podrían influir en las elecciones y erosionar la confianza, hasta ahora se han utilizado principalmente para la pornografía no consentida”, según afirmó la GAO en 2020. Varias creadoras de contenido han denunciado el uso de deepfakes sexuales no consentidos. En Maldita.es explican cómo esta tecnología se usa sin el consentimiento de las víctimas (la mayoría, mujeres famosas) en el porno.
Un deepfake tampoco es lo mismo que una imagen generada por ordenador (Computer-Generated Imagery, como se le conoce en inglés), que es la tecnología que permite, por ejemplo, crear escenas o mundos que directamente no existen para series o películas. Podemos pensar en el universo de Harry Potter o de El Señor de los Anillos, pero no se limita solo a la fantasía o a la Ciencia Ficción: hoy en día, se puede emplear para generar cualquier elemento en escenas y así evitar riesgos durante el rodaje o ahorrar elementos costosos en la realidad.
Padilla hace hincapié en la diferencia “porque las imágenes generadas por ordenador (CGI) suelen utilizarse para crear desde cero algo que normalmente no existe, que es 100% artificial”. “Aunque nos ‘creamos’ esas imágenes, no cuadra del todo con nuestra realidad, mientras que el peligro del deepfake lo vemos como tangible, posible y probable”, explica.
Una imagen manipulada puede usar técnicas simples y burdas
Como decíamos al principio, hay una diferencia clave y es el movimiento: una foto manipulada para que una persona parezca otra no indica que sea un deepfake. En Maldita.es, medio cofundador de Factchequeado, señalan algunas claves para identificar imágenes manipuladas, ya que es una técnica muy utilizada por los desinformadores. Un ejemplo es la manipulación de imágenes para hacer creer que mujeres de varios presidentes y expresidentes son en realidad transexuales, algo que hemos desmentido en varias ocasiones.
Por tanto, no debemos pensar cuando leemos medios de comunicación y vemos publicaciones en redes sociales que cualquier imagen manipulada es un deepfake. La edición de imágenes es una técnica común y accesible para el público que genera mucha desinformación.
Los deepfakes, sin embargo, se refieren a imágenes en movimiento que han sido alteradas mediante tecnologías digitales, posiblemente basadas en inteligencia artificial, que consiguen modificar la apariencia física e incluso la voz de las personas a las que se imita. Por el momento, no son los deepfakes (aún) los que más problemas generan, pero sí los ‘cheapfakes’: videos manipulados, editados o descontextualizados con el objetivo de difundir desinformación.
Fijarse bien en el rostro y otros consejos para detectar un deepfake
En el ámbito de la desinformación, esta técnica es muy atractiva para los que la diseminan. Imagínate, por ejemplo, el desconcierto que causaría en la opinión pública ver a un político diciendo algo totalmente disparatado o contrario a sus ideales.
Formar a la ciudadanía para detectar la manipulación del discurso público es indispensable para prevenir caer en estas trampas, ya que suponen la misma amenaza que otros tipos de desinformación.
@factchequeado 5 consejos para detectar un deepfake.
♬ News serious information news program - gooooodee_jay
Para detectar un deepfake, el MIT Media Lab, un laboratorio dentro de la Escuela de Arquitectura y Planificación en el Instituto de Tecnología de Massachusetts, aconseja prestar atención a la cara de quien aparece en el video y hacerse algunas preguntas como estas: “¿La piel parece demasiado suave o demasiado arrugada? ¿El envejecimiento de la piel es similar al del cabello y los ojos?”.
También recomienda fijarse en los ojos, las cejas y las gafas. Por ejemplo, si aparecen sombras en los lugares esperados, si la persona parpadea demasiado o muy poco o si cambia el ángulo del resplandor en los cristales de las lentes cuando la persona se mueve.
Además de observar los movimientos de los labios y en si se sincronizan con la voz, el Mit Media Lab también sugiere prestar atención al vello facial o a la falta del mismo. “¿Parece real? Los deepfakes pueden agregar o quitar bigote, patillas o barba. Pero pueden no lograr que las transformaciones del vello facial sean completamente naturales”, destaca.
Si estos videosson de personas famosas a las que estamos acostumbrados a oír, Graciela Padilla aconseja fijarse en los ritmos, vicios o muletillas naturalesen la forma de hablar.
Leer más:
Factchequeado es un medio de verificación que construye una comunidad hispanohablante para contrarrestar la desinformación en Estados Unidos. ¿Quieres ser parte? Súmate y verifica los contenidos que recibes enviándolos a nuestro WhatsApp +16468736087 o a factchequeado.com/whatsapp.
