Deepfake

Un deepfake es un medio sintético, normalmente vídeo o audio, generado o manipulado con IA para que alguien parezca hablar, moverse o actuar de formas que no ocurrieron. Según el artículo 3(60) de la Ley de IA de la UE, un deepfake es contenido de imagen, audio o vídeo generado o manipulado con IA que se parece a personas, objetos, lugares, instituciones o hechos reales y podría parecer auténtico de forma engañosa.

Los responsables del despliegue de sistemas que generan o manipulan deepfakes deben revelar que el contenido se ha creado o manipulado artificialmente (artículo 50(4)). Véase el artículo sobre la Ley de IA de la UE. La IA generativa y las GAN ofrecen contexto técnico; véase el artículo sobre GAN sobre el origen investigador en 2014 y los primeros debates sobre falsificaciones.