La foi dans les algorithmes

Le lecteur curieux qui consulte les recommandations d’Amazon, le dirigeant d’entreprise qui surveille les performances de ses vendeurs sur un tableau de bord de business intelligence et le professionnel qui parcourt les propositions de contact fournies par Linkedin, ont en commun de s’appuyer sur des algorithmes, qui trient et sélectionnent pour eux les informations les plus pertinentes. De plus en plus sophistiqués, ces algorithmes sont devenus indispensables pour se repérer dans le flux et les volumes croissants des informations digitales. Dans un essai éclairé et éclairant, Tarleton Gillespie, professeur associé à l’Université de Cornwell, ausculte les implications de cet essor des algorithmes, à la fois producteurs et certificateurs de connaissances. Bien que centrées sur l’usage public des algorithmes, les questions qu’il soulève concernent aussi l’entreprise à l’heure où il est partout question de big data et de management basé sur les données.

Une exhaustivité apparente

Tarleton Gillespie commence par rappeler que, pour alimenter les algorithmes, il faut des données traitables, dont la collecte et la catégorisation peuvent être problématiques. Dans le cas des moteurs de recherche, les sites à contenus pornographiques ou ne souhaitant pas être indexés sont par exemple exclus et, sur Amazon, un livre peut se trouver malencontreusement labellisé «adulte». Il en va de même lorsqu’une entreprise omet de saisir dans son CRM la réclamation d’un client arrivée par courrier papier. Ou quand une opportunité de vente sans résultat depuis trois mois est automatiquement considérée comme perdue. 

Boîtes noires

Plus que leur caractère exhaustif, la popularité actuelle des algorithmes réside dans leur capacité à livrer des réponses et informations pertinentes. Pour Gillepsie, cet adjectif est équivoque et ne repose sur aucune métrique indépendante – la pertinence est-elle liée la satisfaction des utilisateurs quant aux réponses fournies, à leur utilité, à leur véracité? Difficile de savoir comment et pourquoi Twitter juge qu’un sujet est «tendance». Les concepteurs d’algorithmes se gardent en effet de dévoiler dans le détail les critères qu’ils emploient, tant pour des raisons de concurrence que pour éviter que les utilisateurs ne puissent en profiter, notamment pour optimiser l’indexation de leur site par les robots des moteurs de recherche (SEO). Une opacité d’autant plus problématique dans le cas du fil d’actualité de Facebook qui mêle posts «sociaux» et commerciaux ou dans les outils se proposant d’anticiper les requêtes des usagers, à l’instar de Google Now.

D’autre part, le choix des critères repose sur des hypothèses et principes discutables. L’algorithme PageRank originel de Google propose par exemple que la valeur d’un site dépende du nombre de liens y conduisant, ceux-ci faisant en quelque sorte office de votes en faveur du site en question. Ainsi, pour Tarleton Gillespie, «chaque algorithme est à la fois le résultat d’un présupposé sur la façon de mesurer la pertinence et une instanciation de ce présupposé dans une technique d’évaluation informatique». Ici aussi, il est aisé de trouver des parallèles avec l’emploi d’algorithmes en entreprise. Ainsi, en dépit de l’importance qu’ils accordent à leurs résultats, les professionnels ne s’intéressent guère aux principes et critères sur lesquels leurs outils décisionnels reposent. Or, l’activité de l’entreprise telle qu’elle se présente dans un tableau de bord est bien une représentation – le terme de «tableau (de bord)» est riche de tous ses sens…

La fabrique de l’objectivité

Face aux possibles critiques des utilisateurs quant à la subjectivité de leurs algorithmes, les firmes s’efforcent de légitimer leurs résultats et réponses, explique Tarleton Gillespie. Cela passe notamment par des indications quant à la manière dont leurs résultats doivent être lus: «meilleurs», «à la une», «populaires», etc. Mais aussi, via des explications sur leur fonctionnement neutre ou objectif, au risque d’user d’arguments contradictoires. Google par exemple va à la fois mettre en avant les principes démocratiques à la base de son algorithme, clamer que ses résultats sont meilleurs que ceux de ses concurrents et arguer qu’il n’est pour rien dans les réponses fournies par un mécanisme impartial, libre de biais et de manipulations. Un discours que l’on retrouve chez les éditeurs de logiciels BI, qui avancent tant le caractère automatique de leurs inférences, que la promesse de découvrir des informations cachées permettant de prendre des décisions éclairées. 

Appropriations

Les utilisateurs ne sont pas inactifs, souligne cependant Tarleton Gillespie. Dans leurs pratiques et tactiques, ils négocient avec les algorithmes et les réponses que ceux-ci leur fournissent. Quiconque use fréquemment de Google a sans doute appris à adapter ses requêtes afin d’obtenir les résultats les plus pertinents. Les algorithmes s’adaptent à nos pratiques autant que nous nous adaptons à leur fonctionnement, suggère le chercheur. En prenant pour exemple Flickr, dont les algorithmes évoluent à l’aune des préférences des utilisateurs, en même temps qu’ils influent sur les sujets choisis par les photographes en quête de notoriété. Idem pour les hashtags dans les tweets, à la fois mode de classification pour Twitter et moyen pour les usagers d’augmenter la visibilité de leurs messages. Ou encore chez les adeptes du peer-to-peer qui, à dessein, orthographient mal le nom d’un titre pour ne pas être repérés par les algorithmes des majors.

Une telle domestication par les utilisateurs peut aller jusqu’à légitimer les algorithmes – une forme de prophétie auto-réalisatrice. Par exemple, lorsque l’on considère qu’une nouvelle n’est pas importante si elle n’apparaît pas en une de Google News ou que l’on se félicite de voir son sujet favori apparaître dans les «tendances» de Twitter. «La logique des algorithmes ne se borne pas à façonner les pratiques des utilisateurs: elle les conduit à internaliser leurs normes et priorités», ajoute Tarleton Gillespie.
Ce phénomène d’appropriation par les usagers est naturellement aussi à l’œuvre dans les entreprises, notamment dans les divers systèmes destinés à mesurer automatiquement la performance des employés. Difficile d’éviter que les collaborateurs ne les domestiquent, voire ne finissent par faire de l’indicateur calculé par l’algorithme une fin en soi.

Segments et publics

Un autre aspect analysé par Tarleton Gillepsie concerne la manière dont les algorithmes structurent leurs audiences et leur impact sur les publics. Afin d’améliorer leurs résultats, les algorithmes s’appuient à la fois sur le profilage statistique des utilisateurs et sur des données spécifiques à chaque individu (préférences, historique, géolocalisation). 

Avec le profilage, les algorithmes structurent leurs audiences en privilégiant les critères fonctionnels et en écartant ceux qui ne le sont pas. Les utilisateurs sont ainsi réduits aux seules caractéristiques permettant d’anticiper, ici leur comportement d’achat, là la probabilité de cliquer sur une bannière. Pour Tarleton Gillepsie, le procédé conduit à façonner des publics calculés par l’algorithme: «Lorsqu’Amazon nous recommande un livre que «d’autres clients comme vous» ont acheté, la firme invoque un public avec lequel nous sommes invités à sentir une affinité». Quand bien même les critères employés par l’outil de recommandation restent opaques pour l’usager.

Quant à l’exploitation des données et préférences spécifiques de l’utilisateur, le risque est que la pertinence se transforme en redondance et en uniformisation: «Les algorithmes et notre préférence pour ceux qui nous ressemblent, nous enferment dans des «bulles filtrées», où nous trouvons uniquement les actualités auxquelles nous nous attendons et les points de vue politiques auxquels nous adhérons». Une dérive qui peut aussi affecter les professionnels employant des tableaux de bord BI, qui tiennent exagérément compte de leurs indicateurs préférés - – et s’empêchent de véritables découvertes.