Olivier Crochat, Center for Digital Trust: «Les gens tendent à ne voir que le côté négatif de l’innovation»

L’édition 2024 du baromètre de la confiance d’Edelman révèle une défiance grandissante envers l’innovation. Olivier Crochat, directeur du Center for Digital Trust de l’EPFL, réagit à ce constat alarmant. 

Le baromètre Edelman 2024 relève que la confiance dans l’innovation est en déclin. Qu’est-ce que ce résultat vous inspire?

Ce n’est qu’une demi-surprise. Si l’on songe à l’état du monde, au réchauffement climatique ou au manque de ressources, on ne peut pas dire que l’innovation apporte aujourd’hui des solutions. Elle est même en cause dans certains développements et participe à une croissance effrénée. Cela étant dit, je pense que les gens tendent à ne voir que le côté négatif de l’innovation et négligent ses bienfaits. On est attentif à la cybercriminalité ou à la surveillance de masse, mais on oublie combien l’innovation a permis d’améliorer la qualité de vie des populations, en tout cas dans les économies occidentales.

Pensez-vous que pour restaurer la confiance, il suffirait de mettre davantage en lumière les aspects positifs de l’innovation?

Je pense que le problème est plus large. On assiste aussi à une érosion de la confiance dans les institutions, dans les médias, dans les experts et la numérisation en est en partie responsable. Dans le passé, les sources d’information étaient plus rares, mais davantage dignes de confiance. Aujourd’hui, il est facile d’accéder à des faits alternatifs qui confortent les croyances et les complotismes, et la société est de plus en plus divisée. Dans leur quête d’audience et d’attention, les réseaux sociaux participent et amplifient ce phénomène de «bulle de filtrages». On assiste aussi à des effets psychologiques négatifs, notamment chez les jeunes. Tout cela est inquiétant.

Il a fallu de nombreuses années pour prendre la mesure de l’impact des réseaux sociaux. Aujourd’hui, avec l’adoption rapide de l’IA générative, nous avons une nouvelle technologie dont on peut d’ores et déjà anticiper les effets sur la désinformation ou l’emploi. N’est-il pas légitime que la population s’en méfie?

Je pense qu’il faut avoir un esprit critique à l’égard de toute nouvelle technologie. Comme pour l’utilisation de l’atome, il faut en considérer à la fois les bienfaits et les risques, et la manière dont on les gère, au niveau de la technologie, de la société et du droit. Les changements passés ont pris davantage de temps, si bien que la société a pu s’y adapter plus facilement. L’arrivée du chemin de fer ou celle des métiers à tisser mécaniques ont fait disparaître des emplois, mais d’autres sont apparus et les gens ont trouvé du travail. Aujourd’hui les changements en matière d’emploi impulsés par le numérique sont plus rapides. Cela étant dit, au-dessous de la couche de services numérisés touchés par l’IA, certaines choses ne changent pas: nous avons toujours besoin de nous nourrir et de nous loger. S’agissant des deepfakes, pour ce qui est de la cybercriminalité et de la fraude, on se retrouve dans la situation connue de la course aux armements: les attaques deviennent de plus en plus sophistiquées et il faut y trouver des parades. L’emploi de deepfakes ou d’autres techniques de personnalisation recourant à l’IA pour manipuler les opinions, à des fins de politique interne ou de déstabilisation entre États me paraît particulièrement grave, d’autant plus que les démocraties y sont davantage exposées. J’espère qu’on trouvera des solutions pour y répondre.

Face à ces dangers, et en comparaison avec les progrès atteints dans les siècles précédents, les bénéfices de l’intelligence artificielle peuvent sembler quelque peu dérisoires…

Deux choses. Premièrement, nous ne vivons effectivement plus l’augmentation du niveau de vie que nous avons connue durant les 30 glorieuses. Dans de nombreuses sociétés, nous avons atteint un certain plateau et, face aux menaces de notre temps, l’innovation ne peut apporter que des réponses partielles. Ensuite, s’agissant de l’IA, il peut paraître dérisoire de disposer d’un outil capable de rédiger une lettre de recommandation à notre place, au vu de la puissance de calcul et de l'énergie nécessaires. Mais l’intelligence artificielle va permettre quantité de choses autrement plus intéressantes, notamment en médecine. Si l’on songe à l’analyse des radiographies ou à l'aide au diagnostic, les systèmes IA ouvrent la voie à une meilleure qualité de soin pour chacun, en particulier dans les régions où les spécialistes manquent.

En tant que Centre pour la confiance numérique, rattaché à une école polytechnique fédérale, que faites-vous pour que ces technologies apportent plus de bienfaits que de dommages?

Lorsque des technologies finissent par arriver sur le marché, il y a trois manières de réduire des impacts potentiellement négatifs. Soit ce sont les utilisateurs qui y renoncent et poussent ainsi les fournisseurs à adapter leurs services. Ce n’est pas vraiment ce à quoi l’on assiste si je prends les cas de Cambridge Analytica ou du Dieselgate, les clients étant restés malgré les scandales. Soit ce sont les fournisseurs qui renoncent à certaines technologies de leur propre chef sur la base de leurs critères éthiques. Là aussi c’est compliqué sachant qu’ils peuvent craindre que leurs concurrents ne s'embarrassent pas de tels scrupules, ou par la pression de leurs actionnaires. Soit enfin, les gouvernements encadrent les technologies et leur emploi, avec une approche plus libérale aux Etats-Unis, plus autoritaire en Chine et plus réglementaire en Europe. Pour revenir à votre question, je dirais que du côté de la recherche et dans une école comme l’EPFL, il y a une grande attention aux enjeux environnementaux et sociétaux et la volonté de développer des choses bénéfiques pour la population. Ceci par les chercheurs eux-mêmes bien sûr, mais aussi par la sensibilisation des futurs diplômés à ces enjeux.