La future stratégie IA de Genève face au défi de la confiance
Mandatés par l’Etat de Genève pour étudier les liens entre IA et souveraineté numérique, des chercheurs de l’UNIGE ont formulé 22 recommandations qui alimenteront la future stratégie cantonale. Plusieurs portent sur le contrôle des systèmes utilisés par l’administration et la protection des personnes.
Le Canton de Genève dispose désormais de 22 recommandations académiques pour orienter sa politique en matière d’intelligence artificielle. Mandatée par le Département des institutions et du numérique (DIN), une équipe pluridisciplinaire de l’Université de Genève a étudié les liens entre IA et souveraineté numérique sous l’angle de l’économie politique, du droit et de la science des données. Le rapport alimentera notamment l’élaboration d’une stratégie cantonale dédiée à l’IA.
L’étude, signée par Cédric Durand, Yaniv Benhamou, Diego Kuonen et Gaia Valenti, couvre un champ étendu: infrastructures, données, logiciels, compétences, transformations du travail et impact environnemental. Ses recommandations suivent trois orientations: maîtriser le déploiement de l’IA dans l’administration, préserver des marges de décision face aux dépendances technologiques et protéger les personnes ainsi que l’environnement. Au fil de ces analyses, une question revient: quelles garanties permettront de faire confiance aux systèmes utilisés par les pouvoirs publics?
Les auteurs invitent d’abord l’administration à partir de ses missions et des besoins des métiers pour choisir ses usages de l’IA. Ils préconisent de maîtriser le rythme du déploiement, d’expérimenter avant de généraliser et de préserver les compétences permettant aux agents publics d’apprécier les résultats des outils. L’enjeu est particulièrement sensible lorsqu’un système intervient dans l’octroi d’une autorisation, l’attribution d’une subvention ou la priorisation de dossiers. Le rapport souligne alors la nécessité de définir les responsabilités, les limites d’usage et les mécanismes de supervision.
Évaluer les risques avant de déployer
Dans son examen des pistes de régulation en Suisse, l’étude envisage un cadre de gestion des risques comprenant un contrôle humain des décisions automatisées, une documentation technique des systèmes et des analyses d’impact pour les usages à risque élevé. Elle insiste aussi sur la qualité, l’intégrité et la protection des données. Ces pistes sont discutées comme des garanties possibles, et non comme des obligations déjà instaurées par le Canton.
Les contrôles doivent se poursuivre une fois les outils en service. Le rapport présente la validation, les tests, la surveillance continue et l’assurance qualité comme des éléments essentiels du pilotage des modèles. Il rappelle que les systèmes génératifs peuvent encore fournir des réponses erronées avec assurance. Les agents IA, capables d’enchaîner des tâches et d’agir avec moins d’intervention humaine, accentuent les questions de fiabilité et de supervision.
Les biais constituent un autre risque. L’étude souligne que les systèmes d’IA peuvent produire des discriminations directes ou indirectes, notamment dans le recrutement ou dans l’octroi de prestations publiques. Pour l’administration, prévenir de tels effets concerne aussi bien l’égalité de traitement que la qualité des décisions. Les auteurs examinent par ailleurs différentes formes de transparence, notamment l’information des personnes lorsqu’elles interagissent avec une IA ou lorsqu’un traitement automatisé influence fortement une décision.
Rendre les usages visibles et contestables
Trois recommandations adressées directement à l’Etat de Genève prolongent cette analyse. Les chercheurs proposent de vérifier si le droit cantonal protège suffisamment les droits fondamentaux face à l’IA, de créer un registre des systèmes de prise de décision fondés sur cette technologie et de publier tous les deux ans une auto-évaluation des risques par l’administration. Ils demandent enfin des procédures de recours effectives pour les personnes concernées, permettant d’indemniser les victimes et de sanctionner les responsables.
Le Canton a déjà adopté une stratégie de souveraineté numérique et travaille à l’actualisation de ses lignes directrices sur l’usage de l’IA dans l’administration. Selon le DIN, certaines propositions du rapport rejoignent ces chantiers; d’autres doivent encore être examinées sous l’angle juridique, financier et de la répartition des compétences entre collectivités publiques. Le registre et les recours restent donc des recommandations. Leur objectif est clair: rendre les systèmes identifiables, leurs effets contrôlables et les décisions qui touchent les personnes contestables.
L’actualité IT en Suisse et à l’international, avec un focus sur la Suisse romande, directement dans votre boîte mail > Inscrivez-vous à la newsletter d’ICTjournal, envoyée du lundi au vendredi!
