¿Qué es un Deepfake? Todo lo que necesitas saber

• Deepfakes utiliza inteligencia artificial de aprendizaje profundo para reemplazar la semejanza de una persona con otra en video y otros medios digitales. 
• Existe la preocupación de que la tecnología deepfake se pueda utilizar para crear noticias falsas y videos falsificados y engañosos.
• Aquí hay una introducción a los deepfakes: qué es, cómo funciona y cómo se puede detectar.

Las computadoras han ido mejorando cada vez más en la simulación de la realidad. El cine moderno, por ejemplo, se basa en gran medida en escenarios, escenarios y personajes generados por computadora en lugar de las locaciones y accesorios prácticos que alguna vez fueron comunes, y la mayoría de las veces estas escenas son en gran medida indistinguibles de la realidad. 

Recientemente, la tecnología deepfake ha estado en los titulares. La última iteración en imágenes de computadora, las falsificaciones profundas se crean cuando la inteligencia artificial (IA) se programa para reemplazar la imagen de una persona con otra en un video grabado.

¿Qué es un deepfake y cómo funciona?

El término "deepfake" proviene de la tecnología subyacente "aprendizaje profundo", que es una forma de IA. Los algoritmos de aprendizaje profundo, que aprenden por sí mismos cómo resolver problemas cuando se les dan grandes conjuntos de datos, se utilizan para intercambiar caras en video y contenido digital para crear medios falsos de apariencia realista. 

Existen varios métodos para crear deepfakes, pero el más común se basa en el uso de redes neuronales profundas que involucran codificadores automáticos que emplean una técnica de intercambio de caras. Primero necesita un video objetivo para usar como base del deepfake y luego una colección de clips de video de la persona que desea insertar en el objetivo. 

Los videos pueden no tener ninguna relación; el objetivo puede ser un clip de una película de Hollywood, por ejemplo, y los videos de la persona que desea insertar en la película pueden ser clips aleatorios descargados de YouTube. 

El codificador automático es un programa de inteligencia artificial de aprendizaje profundo encargado de estudiar los videoclips para comprender cómo se ve la persona desde una variedad de ángulos y condiciones ambientales, y luego mapear a esa persona en el individuo en el video de destino al encontrar características comunes. 

Se agrega otro tipo de aprendizaje automático a la mezcla, conocido como Generative Adversarial Networks (GAN), que detecta y mejora cualquier falla en el deepfake dentro de varias rondas, lo que dificulta que los detectores de deepfake los decodifiquen. 

Los GAN también se utilizan como un método popular para la creación de falsificaciones profundas, y se basan en el estudio de grandes cantidades de datos para "aprender" cómo desarrollar nuevos ejemplos que imiten lo real, con resultados dolorosamente precisos. 

Varias aplicaciones y software facilitan la generación de deepfakes incluso para los principiantes, como la aplicación china Zao, DeepFace Lab, FaceApp (que es una aplicación de edición de fotos con técnicas de inteligencia artificial integradas), Face Swap y DeepNude, que ya se eliminó, una aplicación particularmente peligrosa. aplicación que generó imágenes falsas de desnudos de mujeres. 

Se puede encontrar una gran cantidad de software deepfake en GitHub, una comunidad de código abierto de desarrollo de software. Algunas de estas aplicaciones se usan con fines de entretenimiento puro, razón por la cual la creación de deepfakes no está prohibida, mientras que otras tienen muchas más probabilidades de usarse de manera maliciosa. 

Muchos expertos creen que, en el futuro, los deepfakes se volverán mucho más sofisticados a medida que la tecnología se desarrolle y podrían presentar amenazas más graves para el público, relacionadas con la interferencia electoral, la tensión política y la actividad delictiva adicional.

¿Cómo se usan las falsificaciones profundas?

Si bien la capacidad de intercambiar caras automáticamente para crear videos sintéticos creíbles y realistas tiene algunas aplicaciones benignas interesantes (como en el cine y los juegos), esta es obviamente una tecnología peligrosa con algunas aplicaciones problemáticas. Una de las primeras aplicaciones del mundo real para los deepfakes fue, de hecho, crear pornografía sintética.

En 2017, un usuario de reddit llamado "deepfakes" creó un foro para pornografía que presentaba actores con caras intercambiadas. Desde entonces, la pornografía (particularmente la venganza pornográfica) ha aparecido repetidamente en las noticias, dañando severamente la reputación de celebridades y figuras prominentes. Según un informe de Deeptrace, la pornografía representó el 96% de los videos deepfake encontrados en línea en 2019.

El video deepfake también se ha utilizado en política. En 2018, por ejemplo, un partido político belga publicó un video de Donald Trump dando un discurso en el que pedía a Bélgica que se retirara del acuerdo climático de París. Sin embargo, Trump nunca pronunció ese discurso: fue un deepfake. Ese no fue el primer uso de un deepfake para crear videos engañosos, y los expertos políticos expertos en tecnología se preparan para una futura ola de noticias falsas que presenta deepfakes convincentemente realistas.

Por supuesto, no todos los videos falsos representan una amenaza existencial para la democracia. No faltan los deepfakes que se utilizan para el humor y la sátira, como chips que responden a preguntas como ¿cómo se vería Nicolas Cage si hubiera aparecido en “Raiders of the Lost Ark"?

¿Los deepfakes son solo videos?

Deepfakes no se limitan solo a videos. Deepfake audio es un campo de rápido crecimiento que tiene una enorme cantidad de aplicaciones. 

Ahora se pueden hacer deepfakes de audio realistas utilizando algoritmos de aprendizaje profundo con solo unas pocas horas (o en algunos casos, minutos) de audio de la persona cuya voz se está clonando, y una vez que se crea un modelo de voz, se puede hacer esa persona. para decir cualquier cosa, como cuando se usó el audio falso de un director ejecutivo para cometer fraude el año pasado.

Deepfake audio tiene aplicaciones médicas en forma de reemplazo de voz, así como en el diseño de juegos de computadora: ahora los programadores pueden permitir que los personajes del jugador digan cualquier cosa en tiempo real en lugar de depender de un conjunto limitado de guiones que se grabaron antes de que el juego fuera publicado. 

Cómo detectar un deepfake

A medida que las falsificaciones profundas se vuelven más comunes, lo más probable es que la sociedad colectivamente necesite adaptarse para detectar videos falsos profundos de la misma manera en que los usuarios en línea ahora están sintonizados para detectar otros tipos de noticias falsas. 

A menudo, como es el caso de la ciberseguridad, debe surgir una tecnología más profunda para detectar y evitar que se propague, lo que a su vez puede desencadenar un círculo vicioso y potencialmente crear más daño. 

Hay un puñado de indicadores que revelan deepfakes:

• Los deepfakes actuales tienen problemas para animar rostros de manera realista, y el resultado es un video en el que el sujeto nunca parpadea, o parpadea con demasiada frecuencia o de forma poco natural. Sin embargo, después de que investigadores de la Universidad de Albany publicaran un estudio que detectaba la anomalía del parpadeo, se lanzaron nuevos deepfakes que ya no tenían este problema.
• Busque problemas con la piel o el cabello, o rostros que parezcan más borrosos que el entorno en el que se encuentran. El enfoque puede parecer antinaturalmente suave. 
• ¿La iluminación se ve poco natural? A menudo, los algoritmos de deepfake conservarán la iluminación de los clips que se usaron como modelos para el video falso, lo que no coincide con la iluminación del video de destino. 
• Es posible que el audio no parezca coincidir con la persona, especialmente si el video fue falso pero el audio original no fue manipulado con tanto cuidado. 

Combatiendo los deepfakes con tecnología

Si bien los deepfakes solo se volverán más realistas con el tiempo a medida que mejoren las técnicas, no estamos completamente indefensos cuando se trata de combatirlos. Varias empresas están desarrollando métodos para detectar deepfakes, varias de ellas son nuevas empresas. 

Sensity, por ejemplo, ha desarrollado una plataforma de detección similar a un antivirus para deepfakes que alerta a los usuarios por correo electrónico cuando están viendo algo que tiene huellas dactilares reveladoras de medios sintéticos generados por IA. Sensity usa los mismos procesos de aprendizaje profundo que se usan para crear videos falsos.

Operation Minerva adopta un enfoque más directo para detectar falsificaciones profundas. El algoritmo de esta empresa compara posibles falsificaciones profundas con videos conocidos que ya han sido "tomados digitalmente". Por ejemplo, puede detectar ejemplos de pornografía vengativa al reconocer que el video falso es simplemente una versión modificada de un video existente que Operation Minerva ya ha catalogado.

Y el año pasado, Facebook organizó el Deepfake Detection Challenge, una iniciativa abierta y colaborativa para fomentar la creación de nuevas tecnologías para detectar deepfakes y otros tipos de medios manipulados. La competencia contó con premios de hasta $ 500,000.