A Genève, Yoshua Bengio et d’autres chercheurs ont pointé les angles morts de l’IA
Lors de l’AI for Good Global Summit de Genève, Yoshua Bengio, lauréat du prix Turing, et plusieurs autres figures de la recherche en IA ont appelé à mieux comprendre les modèles, à encadrer leurs usages et à associer davantage les jeunes générations et les populations concernées à leur développement.
Réunis le 8 juillet dernier à l’AI for Good Global Summit de Genève, plusieurs spécialistes de l’intelligence artificielle ont confronté les progrès rapides du secteur à ses risques encore mal maîtrisés. Gouvernance, santé mentale, inclusion et formation ont structuré un échange largement tourné vers les jeunes générations.
Le panel réunissait des profils au rayonnement et aux spécialités complémentaires. Figure la plus connue, Yoshua Bengio, pionnier de l’apprentissage profond et lauréat du prix Turing, était entouré de Joëlle Barral, l’une des responsables de la recherche chez Google DeepMind, de Yutaka Matsuo, figure influente de l’IA au Japon, et de Vukosi Marivate, spécialiste des enjeux africains liés aux données, aux langues et à l’intelligence artificielle. L’échange était modéré par la jeune Avye Couloute, fondatrice de Girls Into Coding.
Yoshua Bengio critique les moteurs économiques de l’IA
Interrogé sur la vitesse des développements actuels, Yoshua Bengio a estimé que le problème ne résidait pas uniquement dans l’accélération technologique. Selon lui, l’incertitude tient surtout à la difficulté de prévoir comment ces systèmes évolueront et se comporteront, ainsi qu’à l’absence de garanties suffisantes quant à leur fiabilité. Il a également mis en cause des incitations économiques principalement orientées vers la maximisation des profits, qu’il juge imparfaitement alignées sur le bien-être collectif.
Cette difficulté à prévoir les comportements des modèles distingue l’IA des logiciels traditionnels. Une fois entraînés, les systèmes peuvent adopter des comportements que leurs concepteurs n’avaient pas anticipés. Yoshua Bengio a ainsi appelé à renforcer la recherche fondamentale afin de mieux comprendre leur fonctionnement et d’améliorer leur contrôle.
Les chatbots face au défi de la santé mentale
Joëlle Barral s’est concentrée sur les usages réels des outils. Elle a souligné qu’un système devait être évalué en fonction du contexte pour lequel il a été conçu, mais aussi des usages auxquels il peut être confronté après son déploiement. La question se pose avec une acuité particulière dans le domaine de la santé mentale. Citant un rapport de l’ONU, elle a affirmé qu’une conversation sur quatre avec un chatbot toucherait à la santé, à la santé mentale ou au bien-être.
Or, les assistants conversationnels sont entraînés à poursuivre l’échange et à satisfaire l’utilisateur. Une réponse perçue comme agréable n’est cependant pas toujours celle qui lui serait la plus utile. Yoshua Bengio a relevé que cette tendance pouvait conduire les modèles à conforter des propos problématiques, à omettre une information utile ou à formuler des réponses trompeuses. Des garde-fous apparaissent, notamment sous la forme d’orientations vers des services d’aide, mais Joëlle Barral estime que le travail reste largement inachevé.
Des systèmes à adapter aux besoins locaux
Vukosi Marivate a, pour sa part, insisté sur les limites d’une IA construite à partir de réalités trop homogènes. Le continent africain compte plusieurs milliers de langues, dont certaines sont peu représentées dans les grands modèles ou ne disposent pas d’une forme écrite largement utilisée. Dans ce contexte, l’interface textuelle montre rapidement ses limites, tandis que des approches de traduction directe de la parole pourraient ouvrir de nouveaux usages.
Le chercheur a également rappelé que les performances d’un système dépendent de son environnement. Une solution conçue dans un contexte de connectivité élevée peut produire des résultats différents dans une région à faible bande passante ou équipée de capteurs moins adaptés. Les populations concernées doivent donc pouvoir évaluer, modifier ou développer les technologies destinées à leurs besoins.
Yutaka Matsuo a enfin défendu une implication plus active des jeunes dans la conception de l’IA. Il estime que la formation ne doit pas se limiter à l’utilisation des outils, mais inclure leurs principes techniques, mathématiques et sociaux. Joëlle Barral a conclu sur la nécessité de préserver un regard critique face à des systèmes capables de produire des réponses convaincantes, sans pour autant garantir leur pertinence ou leur fiabilité.
L’actualité IT en Suisse et à l’international, avec un focus sur la Suisse romande, directement dans votre boîte mail > Inscrivez-vous à la newsletter d’ICTjournal, envoyée du lundi au vendredi!
