Cet article présente les travaux d’Adobe sur les deepfakes autour de 2020. Depuis, la détection seule n’est plus l’unique approche : provenance, informations d’édition et vérification du contexte comptent aussi. Vérifie les fonctions et initiatives actuelles dans la documentation officielle.
Qu’est-ce que les DeepFakes?
Les Deepfakes sont des clips vidéo dont images et son ressemblent à une vidéo tout à fait normale, sauf qu’ils ne sont pas réels. Le progrès de l’IA ont permis de créer une vidéo photoréaliste ainsi que la voix d’une personne qu’un ordinateur peut ensuite utiliser pour générer une vidéo complètement fabriquée et quasiment impossible à différentier d’une vraie vidéo.
Le problème des contrefaçons est apparu pour la première fois lorsqu’elles ont été utilisées dans le domaine de la pornographie. Des célébrités et des actrices se faisaient transplanter le visage sur le corps de stars du X, ce qui a naturellement provoqué une grande détresse et conduit à l’interdiction des Deepfakes sur des sites comme Facebook. Depuis, la technologie du Deepfake n’a cessé de progresser et permet désormais de créer des vidéos convaincantes et pourtant entièrement fausses en utilisant des personnes réelles.
Comment les Deepfakes sont-ils fabriqués ?
Les Deepfakes fakes plus réalistes sont basées sur des personnes ayant un grand nombre de différent enregistrement vocaux, de photos et de vidéos disponibles sur le web. En mémorisant des milliers d’exemples audio et visuels, l’IA pour construire une maquette de l’apparence et du son d’une personne. Elle peut ensuite créer une nouvelle vidéo en utilisant cette maquette recréant ainsi ce à quoi cette personne ressemblerait et agirai selon les instructions données.
Comment Adobe contribue-t-il à la lutte contre les Deepfakes?
Adobe utilise l’IA pour aider à identifier les vidéos contrefaites lorsque les humains n’en sont pas capables. Les ordinateurs sont capables d’analyser une vidéo et de générer un hash, ou « nom » digital, pour ce fichier, en fonction de son contenu. Une fois qu’une vidéo a été hachée, toute tentative de modification de ce fichier modifie le hachage et avertit l’ordinateur que la vidéo est probablement un Deepfake.
Adobe mène la lutte en utilisant l’IA pour aider à analyser, identifier et supprimer les contrefaçons sur le web, aidant ainsi à stopper la diffusion de la désinformation en ligne.
Ne pas confondre provenance et vérité
Des informations de provenance peuvent indiquer l’origine ou les modifications d’un fichier, mais ne prouvent pas que son contenu est vrai. Contrôle la source, la date, le contexte et des témoignages indépendants. L’absence de métadonnées ne démontre pas non plus qu’un média est faux.
