Claude ajoute un filigrane à ses textes
Dans le cadre de l’AI Act, l’UE exige un marquage lisible par machine des contenus générés par l’IA. Anthropic met désormais en œuvre cette exigence en intégrant un filigrane aux textes générés par Claude. L’entreprise en détaille le fonctionnement dans un billet de blog.
Les textes générés par Claude d’Anthropic intègrent désormais un filigrane lisible par machine. Le développeur d’IA affirme ainsi se conformer aux exigences de l’AI Act européen. Dans un billet de blog, l’entreprise explique également le fonctionnement technique de ce dispositif.
Les modèles d’IA tels que Claude produisent des textes en générant les mots les uns après les autres et en sélectionnant à chaque étape le mot le plus probable en fonction du contexte précédent. Lorsque plusieurs mots adaptés présentent une probabilité similaire, un générateur aléatoire les départage. C’est sur ce principe que repose la méthode de marquage, explique Anthropic.
Désormais, Claude utilise une clé spécifique comme source de l’aléatoire pour effectuer ces choix. Selon Anthropic, un outil de vérification disposant de cette clé peut ensuite contrôler si la succession des mots correspond aux choix attendus. Plus la correspondance est élevée, plus il est probable que Claude ait participé à la génération du texte.
La méthode utilisée par Claude repose sur une version de SynthID-Text, une technique de filigranage publiée par Google DeepMind en 2024. Anthropic précise qu’aucun caractère caché n’est ajouté au texte.
Avantages et limites
Selon Anthropic, le filigrane n’altère ni le contenu, ni la créativité, ni la lisibilité du texte et ne nécessite aucun token supplémentaire. À l’aide de la clé, l’outil de vérification peut uniquement déterminer la probabilité que Claude ait participé à la rédaction du texte.
Cette méthode montre toutefois ses limites sur les textes courts ou très factuels, qui offrent moins de possibilités de choix entre plusieurs formulations.
Le filigrane est également moins présent dans le code. Lorsqu’une sortie exacte est nécessaire à son fonctionnement, le mécanisme de marquage n’intervient pas. Les commentaires constituent toutefois une exception, car leur formulation offre davantage de possibilités de choix.
Qu’en est-il lorsque Claude génère autre chose que du texte? Les images produites par l’IA comportent elles aussi un marquage, précise Anthropic. L’entreprise n’utilise toutefois pas la méthode décrite ci-dessus, mais des métadonnées de provenance signées reposant sur le standard ouvert C2PA. Les fabricants d’appareils photo et les logiciels de retouche d’image utilisent également ce standard pour enregistrer des informations sur la provenance des images.
L’actualité IT en Suisse et à l’international, avec un focus sur la Suisse romande, directement dans votre boîte mail > Inscrivez-vous à la newsletter d’ICTjournal, envoyée du lundi au vendredi!
