Touradj Ebrahimi, EPFL: «Nous luttons contre le deepfake en puisant dans l’IA»

Quel est l’objectif des recherches menées par l’EPFL en collaboration avec Quantum Integrity?

Touradj Ebrahimi: Le développement traditionnel d’outils de détection de manipulations a toujours eu un temps de retard sur les techniques de trucage. C’est le jeu du chat et de la souris. Chaque fois qu’un nouveau type de trucage est inventé, il faut créer un détecteur spécifique. Avec Quantum Integrity, cela fait plus de deux ans que nous travaillons à la mise au point d’un détecteur universel, c’est-à-dire faisant appel à la même architecture, à la même implémentation et au même software, quel que soit le type de trucage à détecter. Les modèles au cœur du détecteur, initialement entraînés pour identifier des photos et documents truqués, fonctionnent aussi avec le deepfake. Il suffit de nourrir les algorithmes avec de nombreux exemples de vidéos manipulées.

Le progrès rapide des technologies de deepfake et l’ampleur que prend le phénomène sont donc une aubaine pour Quantum Integrity...

Anthony Sahakian: Effectivement, pour nous, ce qui se passe aujourd’hui est incroyable. Il y a deux ans, quand nous nous sommes lancés dans le développement de solutions de détection de falsification d’images, personne ne prenait le problème au sérieux. Le phénomène du deepfake préoccupe désormais certaines grandes sociétés tech américaines, qui cherchent des outils de détection efficaces. Avec notre solution, nous avons une longueur d’avance et notre technologie va encore s’améliorer dans le cadre des recherches menées avec l’EPFL. Mais pour que Quantum Integrity puisse accélérer encore son développement, nous sommes en quête de partenaires pour mener des projets pilotes. Si une entreprise suisse nous contacte et soumet un cas d’usage, nous pouvons élaborer des algorithmes sur mesure en trois ou quatre mois.

Dans quel sens vont se développer vos recherches?

Touradj Ebrahimi: On combat le feu par le feu. Notre approche consiste à lutter contre le deepfake en puisant dans l’intelligence artificielle. Nous allons créer un système en partie basé sur le principe des réseaux antagonistes génératifs. Le système sera composé d’un détecteur et d’un générateur de vidéos truquées. Ce générateur, également doté de capacités de machine learning, va être entraîné à créer des deepfakes en se nourrissant de vidéos truquées. Il sera en mesure d’en créer des milliards qui seront soumises au détecteur. Les deux systèmes vont ainsi s’entraîner mutuellement. Le générateur préviendra le détecteur quand il n’identifie pas un deepfake et le détecteur affinera réciproquement le générateur en signalant ce qu’il parvient à détecter.

Google a publié 3000 vidéos pour entraîner les outils de détection. Facebook investit dans le domaine et va aussi créer un tel jeu de données. Que pensez-vous de ces initiatives?

Touradj Ebrahimi: Ces initiatives vont nous être très utiles. Car l’impossibilité d’utiliser de vrais exemples pour des questions de protection des données est l’un des obstacles de la recherche dans ce domaine, non seulement concernant la falsification de vidéos mais aussi d’images et de tout type de documents. Or, nous ne pouvons pas commencer de zéro et avons besoin d’un maximum de données pouvant être exploitées sans enfreindre les réglementations. A partir de 3000 vidéos mises à disposition, notre système pourra en créer des milliards de façon automatique, de quoi améliorer drastiquement l’entraînement de notre intelligence artificielle.