La Chine règlemente les recommandations algorithmiques pour protéger les utilisateurs (et l’Etat)
La Chine va sévèrement règlementer les recommandations algorithmiques. Les firmes devront encadrer leurs pratiques, les expliquer et permettre aux utilisateurs de modifier la manière dont ils sont ciblés. La règlementation vise tant à protéger les utilisateurs de pratiques discriminatoires qu’à empêcher la propagation d’informations «négatives».
Souvent critiquée pour son usage débridé de l’intelligence artificielle, la Chine se dote d’une règlementation qui encadrera strictement les recommandations algorithmiques des services internet sur son territoire. Elle avait déjà promulgué un règlement sur la protection des données en partie semblable au RGPD en 2021.
Protection des utilisateurs…
En vigueur à partir du mois de mars, la nouvelle règlementation doit protéger davantage les utilisateurs de services internet face aux recommandations prodiguées par des algorithmes. Les fournisseurs devront expliquer le fonctionnement et l’objectif de ces mécanismes. Les utilisateurs devront avoir l’option de modifier les attributs qui les caractérisent et de renoncer à toute recommandation. Des dispositions particulières s’appliquent par ailleurs aux recommandations adressées aux mineurs (services addictifs) et aux personnes âgées (fraude), ainsi qu’à la protection des travailleurs de plateformes (salaires, vacances, attribution des commandes).
Les sites d’e-commerce devront quant à eux bannir des pratiques de différentiation «déraisonnables» en matière de traitement et de prix basées sur l’historique ou les préférences des utilisateurs. L’emploi d’algorithmes à des fins monopolistiques ou d’entrave à des services concurrents est lui aussi prohibé.
… et de l’Etat
La règlementation a pour objectif déclaré «de promouvoir les valeurs socialistes fondamentales, de préserver la sécurité nationale et l'intérêt public de la société», ou encore de «transmettre une énergie positive et promouvoir l’usage valorisant des algorithmes». Outre la protection des utilisateurs, le texte exige ainsi que les firmes opérant des services internet empêchent la diffusion d’informations fausses ou allant à l’encontre des valeurs dominantes et de la morale. Des exigence particulières s’appliquent ainsi aux sites d’information, ainsi qu’aux plateformes ayant des capacités de mobilisation sociale et d’influence de l’opinion publique.
Mécanismes de gouvernance
La règlementations stipule que les firmes endossent l’entière responsabilité des recommandations qu’elles prodiguent et qu’elles sont tenues de mettre en place des mesures de gestion et techniques (vérification du fonctionnement des algorithmes et des informations publiées, examen éthique des technologies, sécurité et protection des données, etc.). Ces mécanismes doivent être rendus publics, leur efficacité doit être vérifié dans la durée et les firmes doivent y affecter le personnel nécessaire.
Le département de l’information d’Etat est chargé de la gouvernance et du contrôle de l’application de la règlementation.
Cet article se base sur la traduction du règlement en anglais disponible sur China Law Translate.
