Facebook craint que les vidéos deepfake générés par des systèmes d’intelligence artificielle (IA) ne soient la prochaine grande source de désinformation virale parmi ses utilisateurs, avec des conséquences potentiellement catastrophiques pour la prochaine élection présidentielle américaine. Sa solution ? Concevoir du contenu deepfake pour aider les chercheurs à construire et à perfectionner leurs outils de détection.
Il existe des méthodes de détection mais elles font souvent appel à une analyse minutieuse par des experts. Les outils permettant d’identifier automatiquement le contenu deepfake ne fait qu’émerger.
Le réseau social va dédier 10 millions de dollars au financement de technologies de détection via des subventions et l’organisation de défis. En collaboration avec Microsoft, le Partenariat sur l’IA et des universitaires d’institutions telles que le MIT, UC Berkeley et l’Université d’Oxford, la société lance le Deepfake Detection Challenge, qui offrira des récompenses en espèces pour les meilleures méthodes de détection.
Actuellement, l’opinion publique s’inquiète que du contenu deepfake puisse être utilisé pour diffuser des informations erronées et virales pendant les élections américaines de l’année prochaine, ce qui pourrait même influencer le résultat. Plusieurs sénateurs américains ont tiré la sonnette d’alarme au sujet de la menace et Ben Sasse (R-Nebraska) a présenté un projet de loi visant à rendre illégales la création ou la distribution de dontenu deepfake à des fins malveillantes. Un récent rapport sur la désinformation électorale de NYU identifie les deepfakes comme l’un des principaux défis pour les élections de 2020.
Des vidéos manipulées se répandent déjà sur les plateformes sociales. Plus tôt cette année, un clip qui semblait montrer Nancy Pelosi en train de bredouiller son discours (simplement en ralentissant les images) s’est rapidement diffusé sur Facebook. Facebook a refusé de supprimer ce post ou le contenu deepfake mettant en scène Mark Zuckerberg, choisissant plutôt de signaler les clips comme faux auprès d’organismes de vérification des faits.
Il existe déjà quelques méthodes pour détecter les deepfakes. Les techniques simples consistent à analyser les données d’un fichier vidéo ou à rechercher des mouvements de bouche révélateurs et de clignement des yeux, ce qui est plus difficile pour un algorithme à capturer et à recréer. Une méthode mise au point récemment par un groupe d’éminents experts consiste à entraînéer un algorithme d’apprentissage en profondeur pour reconnaître les mouvements spécifiques de la tête d’une personne, car ce n’est pas quelque chose que les algorithmes apprennent habituellement.
