El DeepFake y sus implicaciones

¿Qué es DeepFake?

DeepFake viene de un compuesto entre Deep Learning y Fake, siendo el primero asociado a la inteligencia artificial que evoluciona con rapidez y el segundo a temas falsos. 

Estas técnicas, se utilizan en la falsificación de videos y audios que también son conocidos como deepface y deepvoice.

Se podría definir de forma más sencilla que los deepfake, son videos manipulados para engañar a las personas que los ven y comparten, haciendo creer que son reales y que la persona que está siendo clonada realizó dicha acción o habló sobre ese tema.

Pero, ¿Qué es DeepFace y DeepVoice?

El deepface, es una técnica que se utiliza para superponer la cara de una persona en otro video a través de aplicaciones relacionadas con la inteligencia artificial, las cuales aprenden de las expresiones faciales de la persona a suplantar haciendo uso del Machine Learning.

El deepvoice, es algo muy parecido pero solo enfocado al audio y la forma de hablar de una persona, juntando palabras y creando frases, mismas que fueron aprendidas también con Machine Learning con el objetivo de sonar lo más idéntico posible al de la persona real, incluso se puede clonar el tono de voz.

¿Deberíamos preocuparnos del DeepFake?

Si se hace buen uso de esta técnica, no debería haber problemas, pero si alguien genera un DeepFake con fines maliciosos, se volverá un enorme inconveniente para el afectado, ya que podría ser utilizado para dañar su imagen, y con tantos avances en temas de Inteligencia Artificial y Machine Learning, será casi imposible detectar un video real de uno falso.

Imagina que un video DeepFake de COVID-19 se viraliza en la red luego de que el Presidente de una nación envía un mensaje a sus ciudadanos, argumentando que el virus fue creado por un país rival con el objetivo de ser mayoría en el mundo y generar una raza humana suprema, invitando a toda su nación a sumarse a la lucha. 

¿Te imaginas las implicaciones sociales y políticas que esto pudiera tener? Podría explotar una guerra influenciada tan solo por un video falso manipulado y generar conflictos a nivel mundial.

Esto es solo un ejemplo para que te des una idea de las implicaciones que puede llegar a tener este tipo de técnicas si se hace uso indebido y malicioso de ellas.

La amenaza principal del DeepFake es que puede ser intrusiva en temas sociales, políticos y morales, generando desinformación o propagación de noticias falsas (fakenews) y/o desacreditación de la persona utilizada en el video. 

En la actualidad, existe un proyecto llamado Assembler que intenta detectar este tipo de engaños, principalmente en las empresas que lo componen: Facebook, Twitter y Google.

Y al final de todo esto, tendremos también que aprender a vivir y luchar contra el DeepFake, que muy probablemente reemplazará al Phishing en poco tiempo y que seguirá evolucionando a gran velocidad.

Te comparto un fragmento de un Post que escribí en Febrero de 2020 sobre Inteligencia Artificial e infoSec, puedes leerlo completo aquí.

Incluso la ingeniería social esta realizando actividades que se catalogan como inteligencia artificial, ya se han visto ataques de audio falsos en los que se usan voces generadas por IA. Las simulaciones de audio y video de Deepfake se crean utilizando tecnologías avanzadas. donde dos redes neuronales se entrenan entre sí hasta que puedan crear simulaciones convincentes.

 

Hay que prevenirnos e informarnos sobre los avances de las técnicas de DeepFake, ya que probablemente en un futuro no muy lejano los actores de amenazas las explotarán con mayor intensidad para sus ataques.

En el episodio #14 de nuestro Podcast también estuvimos platicando sobre este tema, luego de un video que se viralizó en internet por "revivir" la imagen del personaje #Cantinflas, un ícono de la época de Cine de Oro mexicano.

Puedes escucharlo en Spotify.