Twilio dévoile un nutriscore pour l’IA

Fournisseur américain spécialisé dans les applications pour les centres de contact, Twilio a doté récemment sa plateforme CustomerAI de fonctionnalités s’appuyant sur l’IA générative. Combinée aux données clients qui circulent sur la plateforme en temps réel, la technologie sert notamment à générer des recommandations pour les agents du centre de contact, des résumés de la conversations à la fin d’un appel, ou encore des ébauches d’e-mail.

Le fournisseur s’est doté dune charte de confiance dans laquelle il s’engage à être transparent (sur son usage des données et de l’IA) et responsable (protection des données, monitoring de la façon dont l’IA opère), a aussi développé - et c’est plus inédit - un étiquetage permettant aux utilisateurs de savoir facilement «ce qu’il y a dans la boîte».

Etiquette informative

Cette sorte de nutriscore pour l’IA indique le niveau de privacy (par exemple: exploitation des données de l’enterprise exclusivement, ou de données ne permettant pas d’identifier des personnes), mais aussi le type de modèle employé, ainsi que les modèles IA sous-jacents et leurs fournisseurs.

L’étiquette affiche également des « ingrédients de confiance », tels que la présence d’un humain dans la boucle, l’anonymisation des données, leur éventuel partage avec le fournisseur du modèle ou encore les modalités de leur conservation et de leur effacement.

Créer ses propres nutriscores IA

Twilio compte ajouter cet étiquetage à l’interface utilisateur de l’ensemble de ses produits et fonctionnalités recourant à l’IA. Mais le fournisseur a aussi créé un outil en ligne permettant aux entreprises de générer leurs propres nutriscores à destinations de leurs clients et partenaires.

Disponible en ligne, l’outil permet de saisir les informations pour chacun des champs du nutriscore. L’étiquette peut ensuite être téléchargée sous forme d’image ou de configuration JSON, pour que d’autres puissent ensuite la charger et l’éditer.

Approche pragmatique de la transparence

L’intérêt d’un étiquetage simplifié est de proposer une solution pragmatique pour la transparence, entre l’opacité à laquelle sont souvent confrontés les utilisateurs, et des explications détaillées dont la consultation prendrait beaucoup de temps et la compréhension des compétences étendues.

> Sur le sujet: Confiance et numérique, des rapports compliqués

Quelles différences avec le Digital Trust Label?

L’idée de Twilio n’est cependant pas nouvelle. La Swiss Digital Initiative propose elle aussi un label - Digital Trust Label (DTL) - indiquant aux utilisateurs si un système est digne de confiance.

Le projet suisse se distingue toutefois du nutriscore de Twilio au moins sous trois aspects. Les critères du DTL sont plus étendus et s’appliquent également à des applications et services numériques ne recourant pas à l’IA, le label indique si un système est digne de confiance et les critères utilisés pour en juger, mais ne fournit pas d’informations sur son fonctionnement. Enfin et surtout, le DLT repose sur un audit externe, alors que le nutriscore de Twilio est simplement déclaratif.

A des fins de transparence, l'auteur de ces lignes précise être membre du Comité d'experts du Digital Trust Label.