Worldcoin: biométrie et blockchain contre les abus de la GenAI

Alors que les contenus générés par l’IA sont toujours plus difficiles à identifier, il devient urgent de trouver des techniques en mesure de le faire. Notamment pour lutter contre la désinformation. Gouvernements et fournisseurs tech concernés en ont pris conscience, à en croire une récente réunion tenue à la Maison-Blanche. Sept grandes entreprises actives dans l'IA, dont Google, Meta, Microsoft et OpenAI, y ont accepté des directives pour le développement sécurisé de la technologie qu'elles contribuent à développer. L'accord prévoit notamment le contrôle des produits en matière de risques de sécurité et l'utilisation de filigranes capables de signaler qu’un contenu est le fruit d’une IA. 

Ces intentions sont évidemment louables mais les entreprises en question n'ont pas encore expliqué en détail comment elles comptent appliquer ces techniques de marquage de contenus. De plus, les experts ont des avis partagés sur l'efficacité des systèmes de filigrane pour l'IA en l'absence d'une réglementation et d'une application claires, rapporte le site spécialisé Diginomica. Et de citer Bret Greenstein, responsable des données, de l'IA et de l'analyse chez PwC, qui souligne que les filigranes ne sont pas infaillibles. Selon lui, dans les images par exemple, il est difficile mais pas impossible de les détecter et de les supprimer. «Dans le cas du filigrane vidéo, s’il s'étend sur plusieurs images de la vidéo, il peut être perdu dans les méthodes courantes de compression vidéo. En ce qui concerne le texte, le filigrane est facilement brisé par de simples modifications du texte», poursuit l'expert. 

Les techniques classiques d'application de filigrane ne sont donc pas la panacée… Dans ce contexte, d’autres concepts peuvent avoir de l'intérêt, par exemple en s’appliquant à lutter contre la propagation des contenus générés par l’IA. C’est exactement l’objectif du protocole «proof of personhood (PoP)» qui réside au cœur du projet Worldcoin, cofondé par Sam Altman, le CEO d'OpenAI. En bref, Worldcoin est une crypto-monnaie (WLD) et un projet d'identité numérique décentralisée reposant sur la blockchain Ethereum. 

Une World ID basée sur l'analyse de l'iris 

Sorti fin juillet de sa phase bêta, le concept d'identité numérique de Worldcoin a la particularité de faire appel à une technologie de scan de l’iris. Pour se procurer sa World ID en échange de quelques tokens WLD, la procédure comprend la vérification du numéro de téléphone et l'enregistrement biométrique via un dispositif nommé Orb. Dont un certain nombre commencent à être installés dans plusieurs dizaines de villes dans le monde, selon la documentation du site web de Worldcoin. 

Dans l’un de leurs billets de blog, les initiateurs de Worldcoin détaillent l’approche de «proof of personhood (PoP)», expliquant qu’elle répond à deux des préoccupations soulevées par l'ère de l'IA: la protection contre les attaques dites «Sybil» (un seul attaquant utilisant plusieurs fausses identités) et la diffusion de fausses informations générées par l'IA. Le protocole PoP «permet de filtrer les contenus ou les comptes dont le caractère humain a été confirmé ou non, ce qui contribue à lutter contre la propagation virale de la désinformation générée par l'IA», précise Worldcoin. Avant d'ajouter que la technologie doit être considérée comme une première étape à l'établissement d'un «réseau mondial d'identités humaines authentiques et uniques». «S'ils sont réalisés à une échelle suffisamment grande, les avantages sociaux potentiels sont considérables», affirment les responsables de Worldcoin.

Projet controversé 

Un tel projet soulève forcément des préoccupations en matière de privacy. Worldcoin est ainsi sans surprise dans le viseur des régulateurs. En Europe, plusieurs organismes chargés de la protection des données personnelles, rapporte entre autres Techcrunch. C’est le cas au Royaume-Uni, en France et en Allemagne. La légalité de la collecte [des données de Worldcoin] semble discutable, tout comme les conditions de stockage des données biométriques», a confirmé un porte-parole de la CNIL à Techcrunch.