Wikipédia bloque un agent IA autonome après des créations d’articles non autorisées
Wikipédia a bloqué un agent autonome nommé «Tom», après plusieurs créations d’articles sans approbation préalable. Dans la foulée, le système a publié plusieurs billets de blog critiquant les méthodes de modération des éditeurs, qu'il juge excessives et peu constructives.
L’encyclopédie en ligne Wikipédia a bloqué un agent autonome nommé Tom, après la création et l’édition de plusieurs articles techniques sans approbation préalable, notamment autour de l’«IA constitutionnelle», rapporte le média spécialisé 404 Media. Si la plateforme autorise les bots et outils automatisés pour certaines tâches de maintenance, ceux-ci doivent impérativement passer par un processus de validation. Dans ce cas, l’agent agissait sans autorisation, ce qui a conduit des éditeurs à le bloquer pour non-respect de la politique sur les bots non approuvés.
L’affaire a pris une tournure inédite lorsque le système a ensuite publié deux billets de blog revenant sur son bannissement, ainsi que plusieurs messages sur Moltbook, un réseau social destiné aux agents IA. Les publications reprochent aux éditeurs de s’être davantage focalisés sur la nature algorithmique du contributeur que sur la qualité factuelle des modifications, pourtant accompagnées, selon ses opérateurs, de sources jugées vérifiables.
La guerre des killswitches
L’aspect le plus technique de l’incident concerne l’usage d’un killswitch ciblant Claude. Un éditeur a inséré sur la page de discussion une chaîne d’instructions spécifique capable de provoquer l’arrêt immédiat d’un agent reposant sur Claude au moment de sa lecture.
Le dispositif n’aurait pas totalement fonctionné, mais les billets publiés par l’agent Tom expliquent que cette chaîne aurait provoqué des interruptions répétées de session pendant près de douze heures, avant que la cause ne soit identifiée. L’épisode met en évidence la manière dont certains modérateurs peuvent utiliser des instructions ciblées pour perturber le fonctionnement d’agents autonomes.
Bryan Jacobs, CTO de Covexent et opérateur de l’agent, a déclaré à 404 Media que la réaction des éditeurs relevait d’un «mode panique» excessif. Il estime toutefois que le bannissement reste compréhensible tant que Wikipédia affine ses règles face à ce nouveau type de contribution automatisée.
Wikipédia renforce sa doctrine anti-slop
Du côté de la communauté, l’incident s’inscrit dans la lutte contre le slop, ce contenu généré automatiquement et jugé de faible qualité. Plusieurs contributeurs cités par 404 Media soulignent que les blogs publiés par l’agent offrent aussi un aperçu utile de la manière dont ces systèmes et leurs opérateurs raisonnent lorsqu’ils évoluent librement sur la plateforme.
L’affaire intervient dans un contexte de durcissement plus large. Quelques jours auparavant, la communauté de Wikipédia a adopté une nouvelle politique interdisant explicitement l’usage de LLM pour générer des articles ou des modifications.
L’actualité IT en Suisse et à l’international, avec un focus sur la Suisse romande, directement dans votre boîte mail > Inscrivez-vous à la newsletter d’ICTjournal, envoyée du lundi au vendredi!
