Las noticias falsas (fake news) invaden las plataformas digitales para tratar de manipular y polarizar a los internautas, aprovechan la ansiedad que crea Internet y la velocidad de las publicaciones, que no permiten detenernos a profundizar en el análisis de la veracidad de la información que recibimos. Cada día crece la cantidad de personas que admiten que son propagadores de noticias falsas a partir de un estado de inconsciencia relativa.

Aunque cada día se habla más de las noticias falsas y los daños que pueden ocasionar, la industria que se desarrolla a su alrededor crece y se vuleve más sofisticada. Es el caso de falsificaciones profundas (deepfakes, en inglés), que han empezado adquirir notoriedad por la dificultad para identificarlas, debido a que su proceso de creación se basa en un uso sofisticado de la inteligencia artificial. 103_INFOGRAFIA_ Falsificaciones profundas deepfakes copy

Esta nueva tecnología para crear fasificaciones profundas o noticias falsas de alta complejidad, ¨es una técnica para la síntesis de la imagen humana basada en la inteligencia artificial. Se utiliza para combinar y superponer imágenes y videos existentes en imágenes o videos de origen, usa una técnica de aprendizaje automático llamada “red de confrontación generativa”. La combinación de los videos existentes y de origen produce un video que puede representar a una persona o personas diciendo cosas o realizando acciones que nunca ocurrieron en la realidad.

Debido a estas capacidades, se han utilizado deepfakes para crear videos pornográficos falsos de celebridades o videos porno de venganza. Deepfakes también se puede usar para crear noticias falsas y engaños maliciosos¨ (https://en.wikipedia.org/wiki/Deepfake).

Las falsificaciones profundas parten de un problema básico de la naturaleza humana: nos gusta creer en lo que coincide con nuestra manera de pensar e ignorar el resto de las evidencias. Somos propensos a un especie de ¨autoengaño¨. Creo que esto nos resulta bastante familiar a muchos de nosotros, principalmente cuando hablamos de temas candentes, como la política, los espectáculos, e incluso del deporte profesional. De ahí parten las falsificaciones profundas, de hackear la naturaleza humana.

Pero, ¿cómo funcionan las falsificaciones profundas o deepfakes? Este tipo de herramienta de manipulación funcionan ¨al utilizar redes adversas generativas (GANs), en las cuales dos modelos de aprendizaje automático (ML) lo dominan. Un modelo ML entrena en un conjunto de datos y luego crea falsificaciones de video, mientras que el otro intenta detectar las falsificaciones. El falsificador crea falsificaciones hasta que el otro modelo ML no puede detectar la falsificación. Cuanto mayor sea el conjunto de datos de entrenamiento, más fácil será para el falsificador crear un Deepfake creíble¨ (https://www.csoonline.com/article/3293002/what-are-deepfakes-how-and-why-they-work.html).

A mediados del año pasado, expertos del Instituto de Informática Max Planck de Alemania revelaron una técnica para producir lo que llamaron “retratos de video profundos”. Una especie de ventriloquismo facial, donde una persona puede tomar el control del rostro de otra persona y decir o hacer cosas contra su voluntad. Para demostrar la afectividad de su técnica, mostraron un video del ex presidente de Estados Unidos, Barak Obama, con dicha técnica.

Todavía no existe una tecnología totalmente confiable para detectar las falsificaciones profundas o deepfakes, pues el aprendizaje automático de las máquinas que usan inteligencia artificial lo hacen muy díficil por su evolución acelerada. Se tienen que hacer costosos estudios basados en análisis forenses. El único consejo válido es que si el video trata de un tema exagerado o difícil de creer, debemos investigar con otras fuentes.
Entramos a momentos muy peligrosos en la red, donde la inteligencia artificial puede crear noticias falsas que pueden empezar a poner en duda todo tipo de información, una vez que la tecnología para crear falsificaciones o deepfakes se masifique. Bienvenidos a la muerte de la verdad y/o al nacimiento de la era de la mentira verdadera.

Comments

comments