L’évolution de l’IA ces dernières années a rendu possible des avancées technologiques remarquables. La plupart d’entre elles sont positives et pousse vers le progrès, mais beaucoup d’entre elles sont aussi utilisés à des fins beaucoup plus douteuses. Les Deepfakes font partie de cette seconde catégorie et ont de sérieuses implications pour l’avenir de la démocratie.
Qu’est-ce que les DeepFakes?
Les Deepfakes sont des clips vidéo dont images et son ressemblent à une vidéo tout à fait normale, sauf qu’ils ne sont pas réels. Le progrès de l’IA ont permis de créer une vidéo photoréaliste ainsi que la voix d’une personne qu’un ordinateur peut ensuite utiliser pour générer une vidéo complètement fabriquée et quasiment impossible à différentier d’une vraie vidéo.
Le problème des contrefaçons est apparu pour la première fois lorsqu’elles ont été utilisées dans le domaine de la pornographie. Des célébrités et des actrices se faisaient transplanter le visage sur le corps de stars du X, ce qui a naturellement provoqué une grande détresse et conduit à l’interdiction des Deepfakes sur des sites comme Facebook. Depuis, la technologie du Deepfake n’a cessé de progresser et permet désormais de créer des vidéos convaincantes et pourtant entièrement fausses en utilisant des personnes réelles.
Comment les Deepfakes sont-ils fabriqués ?
Les Deepfakes fakes plus réalistes sont basées sur des personnes ayant un grand nombre de différent enregistrement vocaux, de photos et de vidéos disponibles sur le web. En mémorisant des milliers d’exemples audio et visuels, l’IA pour construire une maquette de l’apparence et du son d’une personne. Elle peut ensuite créer une nouvelle vidéo en utilisant cette maquette recréant ainsi ce à quoi cette personne ressemblerait et agirai selon les instructions données.
Comment Adobe contribue-t-il à la lutte contre les Deepfakes?
Adobe utilise l’IA pour aider à identifier les vidéos contrefaites lorsque les humains n’en sont pas capables. Les ordinateurs sont capables d’analyser une vidéo et de générer un hash, ou « nom » digital, pour ce fichier, en fonction de son contenu. Une fois qu’une vidéo a été hachée, toute tentative de modification de ce fichier modifie le hachage et avertit l’ordinateur que la vidéo est probablement un Deepfake.
Adobe mène la lutte en utilisant l’IA pour aider à analyser, identifier et supprimer les contrefaçons sur le web, aidant ainsi à stopper la diffusion de la désinformation en ligne.