Comment s’assurer que le logiciel RH qu'on achète n’est pas biaisé?
La Data & Trust Alliance a développé plusieurs documents permettant d’évaluer les mesures prises par les fournisseurs de logiciels RH pour lutter contre les biais dans leurs outils. Le canevas comprend notamment une grille d’évaluation à intégrer aux RFP.
La Data & Trust Alliance, une association regroupant 22 grandes entreprises américaines, a dévoilé un canevas permettant d’intégrer la questions des biais algorithmiques dans les achats de logiciels RH. Ces solutions s’appuient en effet de plus en plus souvent sur l’IA pour prendre des décisions ou donner des recommandations aux managers dans les domaines du recrutement, des rémunérations, de la gestion de la performance ou du développement des collaborateurs. Vu la sensibilité des choix effectués par les algorithmes, les éventuels biais sont un enjeu crucial pour les départements RH.
Elaboré par 200 experts, le canevas «Algorithmic Safety: Mitigating Bias in Workforce Decisions» de la Data & Trust Alliance permet d’évaluer les fournisseurs de logiciels RH en fonction de leur capacité à détecter, atténuer et surveiller les biais algorithmiques. Le canevas se compose de quatre documents: une grille d’évaluation à intégrer aux RFP avec 55 questions portant sur les dimensions tant techniques qu’organisationnelles de la lutte contre les biais algorithmiques, un outil pour évaluer les réponses des fournisseurs et développer les compétences des départements RH en la matière, une scorecard pour comparer les réponses des fournisseurs, et un guide pour intégrer la démarche au sein de l’entreprise.
De nombreuses entreprises adoptent d’ores et déjà le canevas, parmi lesquelles American Express, CVS Health, Deloitte, General Motors, IBM, Mastercard, Meta, Nielsen, Nike, Under Armour et Walmart. Elles emploient plus de trois millions et demi de personnes. «Chaque entreprise s’efforce d’attirer, de motiver et de retenir les personnes les plus talentueuses et diversifiées de la population active, souligne Mary Barra, Directrice générale de General Motors. Cette initiative jouera un rôle important dans notre engagement global envers la diversité, l’équité et l’inclusion en rehaussant les normes de confiance et de transparence dans nos processus de ressources humaines».
> Un résumé des documents peut être téléchargé ici.
