Google et OpenAI renforcent le marquage des contenus générés par IA
Google ouvre son détecteur de contenus générés par IA au grand public, tandis qu'OpenAI prépare le marquage invisible des textes de ChatGPT dans l'UE. Deux initiatives qui illustrent les progrès, mais aussi les limites, des technologies de traçabilité.
Face à la multiplication des contenus générés par intelligence artificielle, leur identification devient un enjeu croissant pour les fournisseurs de modèles. Google et OpenAI viennent d'annoncer de nouvelles mesures destinées à faciliter cette traçabilité, avec des approches et des niveaux de fiabilité différents.
Google élargit l'accès à son outil de détection SynthID
Google ouvre son détecteur SynthID au grand public. Selon un communiqué du géant de la tech, les utilisateurs peuvent y télécharger des images, des vidéos ou des fichiers audio afin de rechercher des filigranes numériques invisibles. L'outil est capable de reconnaître les contenus ainsi marqués, générés par les modèles d'IA de Google ou de ses partenaires. Parmi ces derniers figurent OpenAI, Nvidia et Kakao. A l'avenir, le détecteur devrait également reconnaître les contenus d'IA d'Apple portant un marquage compatible. L'absence de filigrane détecté ne signifie toutefois pas qu'un contenu n'a pas été généré par IA.
Selon Google, cet outil complète les fonctions de vérification déjà intégrées à son moteur de recherche, à l'application Gemini et au navigateur Chrome. Celles-ci traitent quotidiennement plus d'un million de requêtes. Google entend ainsi fournir aux utilisateurs davantage d'indices sur l'origine des contenus en ligne.
Google a introduit la technologie SynthID en 2023. Celle-ci intègre des filigranes numériques invisibles aux images, vidéos et fichiers audio générés par IA. Selon ses propres chiffres, Google a jusqu'à présent marqué plus de 180 milliards d'images et de vidéos. A cela s'ajoutent des contenus audio représentant une durée cumulée de 240'000 ans. Google avait mis une première version du détecteur à la disposition d'un groupe restreint de professionnels des médias en 2025.
OpenAI se conforme à l’AI Act avec un filigrane facile à contourner
La traçabilité des contenus générés par IA concerne également le texte, pour lequel le marquage invisible pose des difficultés particulières. OpenAI vient à son tour de présenter son approche.
Pour se conformer aux exigences de l’AI Act européen, OpenAI annonce l’introduction prochaine d’un filigrane invisible dans les textes générés par ChatGPT et Codex dans l’Union européenne. Les clients de son API peuvent déjà activer cette fonction pour certains modèles, partout dans le monde. Le marquage reste toutefois désactivé par défaut dans l’API.
Baptisée textGrain, la technologie insère un signal statistique dans le choix des mots. Sa fiabilité reste néanmoins limitée. Selon les tests d’OpenAI, remplacer 25% des mots d’un texte de 400 tokens par des synonymes fait chuter le taux de détection de 92% à 17%.
Dans un article critique, The Register souligne la facilité avec laquelle ce dispositif peut être contourné. Le média relève également que, contrairement à Anthropic, OpenAI limite son déploiement automatique à l’UE. L’accès au détecteur restera initialement réservé aux chercheurs et organisations spécialisées agréés.
L’actualité IT en Suisse et à l’international, avec un focus sur la Suisse romande, directement dans votre boîte mail > Inscrivez-vous à la newsletter d’ICTjournal, envoyée du lundi au vendredi!
