L. Bardon . – A l’approche des élections américaines, la responsabilité des plateformes de réseau social comme Facebook face à la propagation de deepfakes devient un sujet brûlant. Les géants d’Internet s’efforcent donc de mettre en place des solutions de détection automatique, en complément des dispositifs humains (30 000 personnes chez Facebook). Pour autant, sans même évoquer la question des biais, les utilisateurs feront-ils confiance aux explications sur les raisons pour lesquelles certains contenus seront retirés ?
Les deepfakes ont touché une corde sensible tant chez le public que chez les chercheurs. Ces images, générées par un système d’IA, de personnes semblant dire ou faire quelque chose qu’elles n’ont pas fait ont quelque chose de particulièrement troublant.
Les outils de fabrication de deepfakes étant désormais largement disponibles et relativement faciles à utiliser, beaucoup craignent également qu’ils ne soient utilisés pour diffuser de dangereuses informations erronées. Les politiciens peuvent par exemple faire en sorte que les paroles d’autres personnes soient mises en bouche ou qu’on les fasse participer à des situations auxquelles ils n’auraient pas pris part.
Les acteurs de médias sociaux s’inquiètent du fait que les deepfakes pourraient bientôt inonder leurs sites. Mais il est difficile de les détecter automatiquement. Pour remédier à ce problème, Facebook veut utiliser l’IA pour lutter contre les faux générés par… l’IA. Afin de former les IA à détecter les vidéos manipulées, Facebook publie le plus grand ensemble de données de deepfakes jamais réalisé – plus de 100 000 clips produits en utilisant 3 426 acteurs et une série de techniques d’échange de visages.
Le géant du web travaille sur l’amélioration de la détection. Une des pistes serait de se concentrer sur les transitions entre les images vidéo, en les suivant dans le temps. Facebook suggère que la détection des deepfakes peut également être améliorée en utilisant des techniques qui vont au-delà de l’analyse d’une image ou d’une vidéo elle-même, comme l’évaluation de son contexte ou de sa provenance.
La suite ici (Will Douglas Heaven)
