INNOVACIÓN

“Deepfake”: la tecnología que falsea la realidad

Tiempo de Lectura: 3 minutos

“Deepfake”: la tecnología que falsea la realidad
Avatar

Bankia

03 Diciembre, 2019


Hoy, nuestros sentidos siguen traicionando a nuestro conocimiento, pero en el siglo XXI las sombras que se proyectan en la caverna llegan de la mano de tecnologías como el deepfake.

¿Qué es un ‘deepfake’?

Un deepfake es un vídeo o un audio que manipula la realidad. Emplea la inteligencia artificial a través del aprendizaje profundo (deep learning) y va un paso más allá de las célebres noticias falsas. Los deepfakes sustituyen las caras y las voces de los protagonistas de vídeos y audios, ejecutando una maniobra engañosa que confunde los sentidos y que dificulta distinguir entre el contenido real y el falso. Esta tecnología ya está creando problemas a grandes compañías y su expansión puede llegar a afectar a sectores clave como las telecomunicaciones, la seguridad o la banca.

La técnica deepfake recopila fotografías, sonidos o vídeos de una persona para que el ordenador genere de forma autónoma contenido falso a partir de un algoritmo. En el caso de vídeos, al principio se requerían en torno a 300 imágenes de partida para conseguir una reproducción fiable, pero el último avance del Centro de Inteligencia Artificial de Samsung en Moscú ha simplificado mucho la tarea.

Su equipo ha desarrollado un nuevo modelo de redes neuronales que permite, en el caso de los vídeos deepfake, crear un retrato animado a partir de una única fotografía. Han dado vida así a la Mona Lisa, a la joven de la perla de Vermeer, a Albert Einstein y a Salvador Dalí, entre otros. Al final de este vídeo se pueden ver sus versiones animadas.

¿Qué impacto tiene ya el ‘deepfake’ en la sociedad?

Los primeros casos de deepfakes con repercusión mediática se remontan a 2016, con Barack Obama como protagonista. Entonces el objetivo no era malintencionado, sino un experimento académico de la universidad de Washington bautizado Synthesizing Obama. El resultado despertó el interés público y en 2017 un usuario de Reddit trasladó esta suplantación audiovisual de identidad a la industria pornográfica.

El polémico boom acabó salpicando a personajes famosos y el contenido se viralizó. También afectó al ámbito político. Ese mismo año un deepfake suplantó al emir catarí, Tamim bin Hamad al-Thani. El falso dirigente apareció profiriendo un discurso en el que alababa a sus enemigos políticos. Arabia Saudí aprovechó para acusarle de apoyar el terrorismo y convenció a otros Estados árabes para imponer un bloqueo al país. Oportunista o no, fue un factor más para justificar sus acciones.

¿Puede afectar el ‘deepfake’ al sector bancario?

El presidente de una gran compañía financiera anuncia a través de un vídeo la caída de su empresa en bolsa; la directora general de una multinacional se dirige a los empleados anunciando nuevas medidas restrictivas y el CEO de una corporación ordena al gestor financiero que realice una transferencia urgente para una adquisición inesperada. Son situaciones poco frecuentes, con graves consecuencias y, en este caso, mentiras con intereses.

Aunque estos escenarios aún parezcan lejanos, lo cierto es que esta tecnología ya permite recrearlos de forma muy realista. En concreto, este verano la empresa de ciberseguridad estadounidense Symantec anunció que habían registrado tres casos de grandes compañías víctimas del deepfake telefónico. Suplantar la voz de directivos para cometer estafas a corporaciones o para derrumbar la reputación de marca son dos de los posibles riesgos.

Aunque en el ámbito bancario, el uso de deepfakes a día de hoy no está extendido, conviene adoptar una actitud preventiva para evitar hipotéticas complicaciones futuras que ya están afectando a otras industrias.

De hecho, la Agencia de Proyectos de Investigación Avanzados de Defensa del Departamento de Defensa de Estados Unidos ya está mostrando la importancia de esa prevención. Ha invertido cerca de 68 millones de dólares en el programa MediFor para desarrollar tecnología de detección de deepfakes.

Claves para identificar vídeos ‘deepfake’

La creación de deepfakes es cada vez más sencilla, en el mercado actual ya hay aplicaciones gratuitas que permiten que cualquiera se inicie en este mundo. Por ello, y ante la proliferación de estos contenidos engañosos, es conveniente extremar las precauciones con aplicaciones que identifiquen las manipulaciones como FaceForensics, Serelay o Truepic.

Además, es recomendable conocer los factores clave para localizar un deepfake. Son pequeñas pistas, aún hoy detectables, que evitarán que engañen a nuestros sentidos:

  • Los movimientos del personaje son bruscos, rápidos e imprevistos
  • El color del rostro del personaje tiene un matiz diferente al del resto del cuerpo
  • Los labios y el parpadeo de los ojos no se mueven de manera sincronizada
  • El pelo del personaje se mueve de forma artificial

En una entrevista reciente en MIT Technology Review, el padre de los deepfakes, Hao Li, que ha dedicado su vida profesional a desarrollar técnicas para intercambiar rostros de la forma más convincente posible, reconoció que en la actualidad su enfoque ha cambiado. Impactado por la deriva que han tomado los deepfakes, Hao Li utiliza ahora sus conocimientos para desarrollar herramientas que combatan los vídeos falsos y que ayuden a despejar la realidad de sombras.