Le pape François et l’IA

Décédé le Lundi de Pâques, le pape François s’est maintes fois exprimé ces dernières années sur les technologies. Le 14 janvier, il approuvait et ordonnait la publication de «Antiqua et Nova», une note soulignant le potentiel et les défis de l’intelligence artificielle dans divers domaines, préparée par le Dicastère pour la Doctrine de la Foi et le Dicastère pour la Culture et l'Éducation. 

S’appuyant sur la doctrine de l’Eglise catholique et nourri des positions du Souverain Pontife, le document offre une analyse riche des enjeux anthropologiques et éthiques de l’IA allant bien au-delà des considérations habituelles sur les risques de la technologie. «Il s'agit non seulement d'atténuer les risques et de prévenir les dommages, mais aussi de veiller à ce que ses applications soient utilisées pour promouvoir le progrès humain et le bien commun » est-il écrit au début du document.

Imitation réductrice

La note «Antiqua et Nova» rappelle en préambule que l’un des objectifs de l’IA consiste à imiter l’intelligence humaine qui l’a conçue. Or cette intelligence humaine ne se borne pas à des capacités logiques et linguistiques, c’est une «faculté qui fait partie intégrante de la manière dont l'individu dans son ensemble interagit avec la réalité» et qui ne saurait donc «se réduire à la simple acquisition de faits ou à la capacité d'accomplir des tâches spécifiques». 

Contre une réduction fonctionnelle et comportementale de l’intelligence telle qu’elle apparaît dans le « test de Turing», la note relève diverses dimensions propres à l’intelligence humaine et absentes de l’IA: son caractère organique, incarné et engagé dans le monde; son inscription dans l’histoire et l’expérience personnelles de l’individu; sa capacité à produire des jugements moraux, des idées surprenantes ou encore une compréhension intuitive de la vérité. 

Si bien qu’à utiliser le même mot «intelligence» et à établir une équivalence trop étroite entre l'intelligence humaine et l'IA, on risque de n’évaluer une personne qu’en fonction du travail qu'elle peut accomplir, de ses compétences spécifiques, de ses acquis cognitifs et technologiques ou de sa réussite individuelle. «Or, la valeur d'une personne dépend de sa dignité inhérente, fondée sur le fait qu'elle a été créée à l'image de Dieu», écrivent les auteurs.

La note relève également le caractère relationnel de l’intelligence humaine, qui n’est pas isolée, mais trouve son expression la plus complète dans le dialogue, la collaboration et la solidarité : «Nous apprenons avec les autres et nous apprenons à travers les autres». 

Relations humaines

Plus généralement, la note souligne que cette dimension sociale est menacée par une IA qui brouille la frontière entre humain et machine, au risque de produire une empathie factice : «La véritable empathie nécessite la capacité d'écouter, de reconnaître l'unicité irréductible d'autrui, d'accueillir son altérité et de saisir le sens même de ses silences. Contrairement au domaine du jugement analytique dans lequel l'IA excelle, la véritable empathie appartient à la sphère relationnelle. Elle implique d'appréhender les expériences vécues par autrui tout en maintenant la distinction entre soi et l'autre. Si l'IA peut simuler des réponses empathiques, elle ne peut reproduire la nature éminemment personnelle et relationnelle de l'empathie authentique».

La note évoque également ce risque de perte relationnelle dans le domaine de la médecine: «si l'IA est utilisée non pas pour améliorer, mais pour remplacer la relation entre les patients et les professionnels de santé, laissant les patients interagir avec une machine plutôt qu'avec un être humain, elle réduirait une structure relationnelle humaine d'une importance cruciale à un cadre centralisé, impersonnel et inégalitaire».

Et dans l’éducation: «Les enseignants font plus que transmettre des connaissances; ils incarnent des qualités humaines essentielles et inspirent la joie de la découverte. Leur présence motive les élèves tant par le contenu de leur enseignement que par l'attention qu'ils leur portent. Ce lien favorise la confiance, la compréhension mutuelle et la capacité à reconnaître la dignité et le potentiel uniques de chaque personne. Du côté de l'élève, cela peut susciter un véritable désir de grandir. La présence physique d'un enseignant crée une dynamique relationnelle que l'IA ne peut reproduire, une dynamique qui approfondit l'engagement et favorise le développement intégral de l'élève ».

Le progrès à l’aune de la dignité et de la fraternité 

La note «Antiqua et Nova» soulève également la question des liens entre avancées technologiques et progrès. Pour les auteurs, s’il faut se réjouir que la technologie ait remédié à d'innombrables maux qui nuisaient et limitaient les êtres humains, certaines applications menacent le caractère sacré de la vie ou la dignité de la personne humaine. «Comme toute entreprise humaine, le développement technologique doit être orienté vers le service de la personne humaine et contribuer à la recherche d'une plus grande justice, d'une fraternité plus étendue et d'un ordre plus humain des relations sociales, qui sont plus précieux que les progrès dans le domaine technique».

Le texte cite également les critiques du pape François à l’égard du solutionnisme technologique et d’un «paradigme technocratique», qui considère que tous les problèmes du monde peuvent être résolus par des moyens technologiques seuls. Dans ce paradigme, la dignité humaine et la fraternité sont souvent mises de côté au nom de l'efficacité, «comme si la réalité, le bien et la vérité découlaient automatiquement du pouvoir technologique et économique en tant que tel». 

Ainsi, plutôt que de poursuivre uniquement des objectifs économiques ou technologiques, la note appelle à ce que l'IA serve «le bien commun de toute la famille humaine», qui est «l'ensemble des conditions sociales qui permettent aux personnes, en tant que groupes ou individus, d'atteindre plus pleinement et plus facilement leur épanouissement».