Pour une étude zurichoise, ils interagissent sans le savoir avec des IA sur Reddit

Des chercheurs de l'université de Zurich ont mené une expérience sur Reddit pour tester l'efficacité de l'IA générative en matière de persuasion. Le hic? Ils l'ont fait à l'insu des utilisateurs et sans l'autorisation préalable des modérateurs du forum thématique (subreddit) «r/changemyview» (CMV).

Dans un message posté le 26 avril, les modérateurs de CMV ont révélé que des comptes utilisant l'intelligence artificielle avaient imité diverses identités fictives dans le cadre de cette expérience. Parmi ces fausses identités figuraient une victime de viol, une personne opposée à certains mouvements sociaux et un conseiller spécialisé dans les traumatismes liés aux abus.

«Les règles de CMV n’autorisent pas l’utilisation de contenus générés par IA ou de bots sans divulgation préalable. Les chercheurs ne nous ont pas contactés avant de lancer leur étude, et s'ils l’avaient fait, nous aurions refusé leur demande», ont précisé les modérateurs. Ces derniers ont pris connaissance de l'expérience après un partage d’informations par l’Université. Les chercheurs ont alors affirmé que leur objectif était d’évaluer la capacité des modèles de langage à influencer des opinions. Ils ont reconnu ne pas avoir divulgué l’usage de l’IA, estimant que cette transparence aurait compromis l’expérience. Avant d’ajouter qu’à leurs yeux, l’importance sociétale du sujet justifiait cette approche. Une justification qui n’a pas convaincu les modérateurs du forum en question, pour qui cette recherche n'apporte rien de nouveau: «Il existe déjà des recherches sur la manière dont les arguments personnalisés influencent les gens».

Reddit envisage de prendre des mesures

Le 28 avril, Ben Lee, directeur juridique de Reddit, a déclaré que l’expérience constituait une violation des conditions d’utilisation de la plateforme. Tous les comptes liés au projet ont été bannis et Reddit envisage de prendre des mesures juridiques contre l’Université de Zurich.

A la suite d’une enquête interne, la Commission d’éthique de la Faculté des lettres et des sciences humaines de l’Université de Zurich a pris la parole sur le subreddit concerné. Elle a annoncé son intention d'améliorer la coordination avec les sujets d'étude à l'avenir, et le responsable de la recherche polémique a reçu un avertissement formel.

En réponse aux questions du média alémanique DNIP, l’Université de Zurich a précisé que la Commission d’éthique concernée avait, au préalable, attiré l’attention des chercheurs sur les risques que présentait leur étude. Elle leur avait indiqué que l’approche choisie devait être mieux justifiée, que les participants devaient être informés autant que possible et que les règles de la plateforme devaient être pleinement respectées. Des évaluations qui ont toutefois un caractère purement consultatif et ne sont pas juridiquement contraignantes.

Mise à jour du 30 avril 2025: Selon la version alémanique du média en ligne Watson, qui se base sur une déclaration de l'université de Zurich, les chercheurs ont finalement décidé de leur propre initiative de ne pas publier les résultats de leurs recherches.