La Maison blanche énonce des principes pour protéger les utilisateurs sans règlementer l’IA
Après l’Europe, c’est au tour du gouvernement américain de vouloir empêcher les usages problématiques de l’intelligence artificielle. La Maison blanche opte pour une approche bien moins contraignante avec une charte de cinq protections «de bon sens», assortie de mesures concrètes au niveau de l’administration elle-même et d’un framework facilitant la conception de systèmes dignes de confiance par les entreprises.
L’Office de la science et des technologies de la Maison blanche a dévoilé son projet de Charte des droits en matière d’intelligence artificielle (AI Bill of Rights). Destinée à «orienter la conception, le développement et le déploiement d'intelligence artificielle (IA) et d'autres systèmes automatisés de manière à ce qu'ils protègent les droits du public américain», la charte a été élaborée en consultation avec les intervenantes et les agences de l’Etat, dixit l’Office. Ce dernier qui souligne tant les apports que les problèmes de ces technologies en rapide expansion, estime que la population doit avoir droit à cinq protections «de bon sens»:
Systèmes sûrs et efficaces: on doit être protégé contre les systèmes peu sûrs ou inefficaces.
Protections contre la discrimination algorithmique: on ne doit pas être victime de discrimination par les algorithmes et les systèmes doivent être utilisés et conçus de manière équitable.
Confidentialité des données: chacun doit être protégé contre les pratiques abusives en matière de données grâce à des protections intégrées et chacun doit pouvoir contrôler l’utilisation des données nous concernant.
Notification et explication: on doit savoir quand un système automatisé est utilisé et comprendre comment et pourquoi il contribue aux résultats qui nous concernent.
Alternatives humaines, considération et substitution: le cas échéant, on doit pouvoir refuser le système et avoir accès à une personne qui peut rapidement examiner les problèmes rencontrés et y remédier.
Davantage qu’une règlementation, la charte se présente comme un livre blanc énonçant des principes de protection et un appel à les mettre en pratique, tant pour le public que pour les concepteurs de systèmes. Elle se distingue ainsi du projet européen présenté en 2021, qui catégorise les usages de l’intelligence artificielle, en bannit certains et contraint fortement ceux présentant des risques élevés, tels que l’emploi de l’IA dans les ressources humaines (recrutement, promotion, évaluation, etc.).
La charte américaine est toutefois assortie de recommandations pratiques. Ainsi l’institut américain des standard (NIST) travaille sur un framework à disposition des entreprises et spécialistes en technologies permettant d’intégrer les considérations éthiques dans et lors de la conception des systèmes intelligents.
Application restreinte dans l’administration américaine
Pour «montrer l’exemple», la Maison blanche annonce des mesures concrètes sur l’IA inspirées de la charte dans ses agences chargées du travail, de la protection des consommateurs, de l’éducation, de la santé et du logement.
Le site Protocole relève cependant que la Charte est précédée d’une clause de non-responsabilité limitant la portée de la charte. Il y est ainsi dit que le document «ne constitue pas une référence contraignante pour le public ou les agences fédérales et n'exige donc pas le respect des principes qui y sont décrits».
«Le projet de charte des droits de l’IA et les actions fédérales que nous annonçons aujourd’hui répondent à la promesse faite le premier jour par le président de soutenir les politiques qui font progresser l’équité et les opportunités économiques pour le peuple américain, commente Susan Rice, conseillère en politique intérieure de la Maison Blanche. Prises ensemble, ces actions permettront de lutter contre la discrimination algorithmique et de remédier aux méfaits des systèmes automatisés sur les communautés défavorisées».
