Deepfakes: ¿qué son y por qué debería importarnos?

Si retrocedemos en el tiempo, podemos ver que el interés de búsqueda de este término en el mundo surgió a partir de finales del 2017 e inicios del 2018, el interés se ha mantenido más o menos bajo desde ese punto álgido, sin embargo en últimas fechas ha vuelto a cobrar importancia.

¿Que es un deepfake?

Deepfake es un acrónimo del inglés formado por las palabras fake, falsificación y deep learning, aprendizaje profundo.

Es una técnica de inteligencia artificial que permite editar videos falsos de personas que aparentemente son reales, utilizando para ello, algoritmos de aprendizaje no supervisados y videos o imagenes ya existentes. El resultado final de dicha técnica es un video muy realista, aunque ficticio.

Usos

El uso inicial de esta técnica surgió como una alternativa a los procesos de construcciones digitales que tienen a generar altos costos, en el mundo del cine, esto se traduce a recrear escenas en las que el actor por alguna razón no esté presente y se deba continuar con el rodaje de la película.

Sin embargo, se ha popularizado la creación de contenido falsificado en el que un actor o personaje del espectáculo aparece participando en un video pornográfico cometiendo actos sexuales. Esta modalidad de videos falsos es creado mediante la combinación de un video pornográfico (referente para el algoritmo) y otro video o imagen del actor o personaje para crear el efecto lo más realista posible.

Técnicas de uso

Los deepfakes utilizan los algoritmos RGAs (Red Generativa Antagónica) del cual dos modelos de Aa (Aprendizaje automático) son presentados como objetivos antagónicos.

El primer modelo es alimentado de una base de datos de referentes visuales, ya sean fotografías o videos y con esta base empieza a generar imagines falsificadas.

El otro modelo se encarga de detectar las imágenes falsas creadas por el primer modelo, este ciclo se repite hasta que eventualmente el primer modelo logra generar una imagen que el segundo modelo no logra identificar como falsa.

En este enlace, Chema Alonso explica con mayor detalle como llevar a cabo esta técnica, y en el siguiente video se muestra como el aprendizaje emplea las fotografías para recrear videos a través del aprendizaje

¿Por qué debería importarnos la proliferación de Deepfakes?

Los deepfakes están comenzando a crearse con mayor facilidad y rapidez y abriendo una nueva puerta a nuevas formas de delitos cibernéticos.

Muchos de los videos falsos se han considerado graciosos, sin embargo, este fenómeno podría dar un giro más siniestro en el futuro y convertirse en un parteaguas en escenarios que ahora mismo no imaginamos, o no queremos hacerlo.

La precisión que pueden lograr estas tecnologías es impresionante, tal como se puede apreciar en este video, en el que Bill Hader (entrevistado) se transforma en Tom Cruise y Seth Rogan por segundos y es casi imperceptible identificar el momento exacto.

En un primer vistazo nos parecería gracioso, pero ya hubo un caso en el que un importante CEO de una firma británica pensó que estaba hablando con el CEO de la empresa matriz alemana y fue convencido de transferir de forma inmediata 220,000 euros a la cuenta bancaria de un supuesto proveedor. Aquí la nota completa.

Otro ejemplo que desató polémica fue un deepfake realizado a Mark Zuckerberg, donde manifestaba sus «intenciones ocultas» acerca del control de los datos de los usuarios.

De forma paralela al desarrollo de estas tecnologías debería caminar la legislación, sin embargo, como suele ocurrir, la legislación va muy por detrás de la adopción de las nuevas tecnologías, lo que podría suponer una insuficiencia penal en caso de que se cometan delitos que no estén tipificados.

Usos no apropiados que podrían proliferar con los deepfakes

Pornografía

No debería ser tan extraño, tomando en consideración que la industria de la pornografía es una de las que tiene una mayor adopción temprana de las tecnologías; lo más grave es que con la facilidad de las aplicaciones actuales, cualquier persona será capaz de producir videos realistas que atenten contra la integridad de las personas, solo por el gusto de hacerlo.

Bullying

Creación de contenidos que se burlen de personas especificas en un centro educativo, de trabajo o en cualquier otro terreno.

Política

La política es uno de esos sectores en que se suelen dar muchos ataque contra los contrincantes y la línea de la ética es demasiado delgada, por lo que es un sector sumamente susceptible de ser inundado con deepfakes para denostar al adversario y hacerle creer al votante cosas que quizás no ocurrieron.

¿Como podemos enfrentarnos a esto?

En primer lugar saber que la tecnología está presente y ha empezado a desarrollarse más rápidamente.

Otro punto a tener en cuenta es reconocer que los deepfakes pueden constituir una amenaza real y daños a personas, organizaciones, comunidades, sectores, etc.

Reconocer deepfakes mediante tecnología quizás sea todo un reto, considerando que la tecnología mediante la inteligencia artificial es la que ha logrado la precisión en la producción de este tipo de materiales.

Por último quizás convendría reafirmar que debemos ser más escépticos a todo lo que vemos en internet, pues en una de esas nos tocará hacer frente a nosotros a determinada situación y debemos mantenernos atentos.

¿Te haz encontrado con deepfakes últimamente?

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *