14’000 vidéos deepfake en ligne, la plupart sur des sites X
Le phénomène du deepfake prend rapidement de l'ampleur, impulsé par l’accessibilité croissante des outils de création de trucage audiovisuel dopés au deep learning. 96% des 14’678 vidéos deepfake en ligne sont à caractère pornographique.
Quel est l’ampleur du phénomène des vidéos deepfake et comment l’expliquer? Publiée par l'entreprise de cybersécurité Deeptrace, une étude rend compte de la prolifération de ces contenus audiovisuels truqués à l’aide du deep learning. Au 31 juillet dernier, 14’678 deepfakes étaient en ligne. Soit près de deux fois plus qu’en décembre 2018.
Pornographie, politique et fraude
La grande majorité des ces vidéos (96%) sont à caractère pornographique. Sur les quatre sites classés X les plus populaires, ces contenus ont généré au total plus de 130 millions de vues. L'utilisation du deepfake à des fins politiques suscite par ailleurs de nombreuses craintes. Ces technologies pourraient permettre de manipuler l’opinion ou de ruiner la carrière d’un politicien. Si aucun cas de ce genre n’est pour l’heure avéré, le rapport souligne le fait que la seule prise de conscience de l'existence de ces contrefaçons sape l'objectivité perçue des vidéos mettant en scène des politiciens et des personnalités publiques. En outre, les deepfakes fournissent aux cybercriminels de nouveaux outils au service de l'ingénierie sociale et de la fraude. Le rapport mentionne des cas où des photos réalistes de personnes inexistantes ont été utilisées sur de faux profils de médias sociaux, dans le but de tromper d'autres utilisateurs et d'extraire des informations les concernant.
Des outils toujours plus accessibles
L’ampleur prise par le phénomène deepfake s’explique par une démocratisation des outils et des services permettant à des non-experts de truquer du contenu audiovisuel. L'accessibilité croissante des logiciels de création de deepfake prend sa source au sein de communautés en ligne et de forums dédiés. Les logiciels y sont partagés et les novices s’y forment avec l'aide de créateurs plus expérimentés. L'étude de Deeptrace recense 20 communautés et forums spécialisés, dont 13 divulguent leur nombre d’inscrits. Au total, ces sites comptent près de 100’000 membres.
De nombreux forks sur Github et ailleurs
La plateforme open source de partage de code Github est le vecteur d’une multitude d'outils de création deepfake. Les logiciels y sont développés en mode collaboratif et donnent naissance à de nombreux forks. Un public moins enclin à passer par les libraires disponibles sur Github pourra trouver ailleurs des logiciels à télécharger. Ces outils demandent tout de même des connaissances techniques et des ressources importantes pour le calcul graphique. La création de deepfake est toutefois aujourd’hui accessible à tout un chacun, en passant par des services en ligne proposant de produire des deepfake personnalisé à partir d’un upload de photos ou de vidéos. Le rapport indique par ailleurs que sur des places de marché pour freelances, ces services coûtent une trentaine de dollars.
A noter que le phénomène est difficile à contrer, les programmes de trucage audiovisuel basé sur le deep learning étant impossibles à complètement éradiquer. Le rapport rappelle le cas de l'application DeepNude, permettant de déshabiller des femmes à partir d’une photo. Suite à polémique suscitée, ses créateurs l’ont supprimé mais de nombreuses copies et déclinaisons circulent encore sur la Toile.
A lire sur le même sujet:
>> Google se joint à la lutte contre le deepfake en créant ses propres vidéos trafiquées
>> Un logiciel pour démasquer les deepfake prend forme à l'EPFL
>> Facebook veut combattre le deepfake en produisant du… deepfake
