Sistemas cognitivos artificiales para la detección de deepfakes usando datos audio-visuales - Hazeu-Gonzalez, Monica (My University, 2021)
Los deepfakes se refieren a videos, audios u otros tipos de datos manipulados utilizando técnicas de deep learning. Pueden ser una fuente de desinformación y manipulación, y es por esto que en este trabajo se ha elaborado un modelo para detectar deepfakes a partir de datos audio-visuales. Con este propósito, se han entrenado dos modelos, uno de audio y otro de video, con datos procedentes de diversos datasets, buscando ante todo mejorar la capacidad de generalización, que escasea en los modelos existentes de detección de deepfakes. Se ha conseguido una capacidad de generalización relativamente buena comparada con el estado del arte. Además, se han combinado los dos modelos en una sencilla interfaz para que usuarios no expertos puedan detectar videos falsos.
The term deepfakes refers to videos, audio or other types of data that have been manipulated using deep learning techniques. They can be a source of misinformation and manipulation, which is why in this project a model has been trained to detect deepfakes in audio-visual data. With this purpose, two separate models have been trained, one for audio and one for video, with data from a variety of datasets, looking above all to improve the generalization capacity, which is scarce in existing models. A relatively good generalization capability has been achieved compared with the state of the art. Additionally, the two models have been combined in a simple-to-use interface so non-expert users can detect deepfake videos.
Keywords: audio-visual; deepfakes; transfer learning; Máster Universitario en Inteligencia Artificial