Des chercheurs de l’EPFL enseignent le doute à l’IA
Des chercheurs de l’EPFL veulent rendre l’IA plus fiable pour planifier des expériences scientifiques. Leur nouvelle méthode évalue les conditions expérimentales susceptibles de réussir ainsi que le degré d’incertitude de chaque prédiction. Les équipes de recherche pourraient ainsi sélectionner plus rapidement les expériences pertinentes et éviter des essais infructueux coûteux.
L’IA générative souffre d’un problème fondamental: elle ne sait pas qu’elle ne sait pas. ChatGPT et d’autres outils peuvent ainsi formuler des réponses erronées avec autant d’assurance que des réponses correctes. Dans la recherche, ces hallucinations peuvent coûter du temps, du matériel et de l’argent lorsqu’elles conduisent à tester des molécules, des matériaux ou des conditions de réaction peu prometteurs.
Pour limiter ce risque, des chercheurs de l’EPFL ont développé GOLLuM (Gaussian Process Optimized LLMs), une méthode qui associe un modèle de langage à un processus gaussien, un modèle probabiliste qui apprend à partir des résultats d’expériences précédentes et évalue l’incertitude de ses prédictions.
Quand l’incertitude guide l’IA
GOLLuM utilise précisément cette incertitude comme signal d’entraînement. Au lieu de laisser le modèle de langage choisir directement l’expérience suivante, le processus gaussien évalue les différentes options, tandis que le modèle apprend à réorganiser progressivement l’espace des conditions expérimentales possibles.
«Les modèles de langage sont connus pour être incapables de savoir quand ils se trompent. Dans GOLLuM, cette incertitude devient le signal même qui les entraîne», explique Bojana Ranković, qui a développé la méthode dans le cadre de ses recherches doctorales à l’EPFL.
L’optimisation bayésienne permet déjà de cibler les expériences prometteuses à partir de résultats antérieurs. Elle repose toutefois souvent sur des «descripteurs», des propriétés mathématiques que des spécialistes doivent définir selon le problème étudié. GOLLuM vise à contourner cette contrainte en travaillant directement à partir de descriptions textuelles des procédures expérimentales.
De meilleurs résultats avec moins d’expériences
Dans une étude publiée dans Nature Machine Intelligence, les chercheurs ont évalué GOLLuM sur 23 tâches couvrant notamment la synthèse organique, la chimie analytique et des procédés, les matériaux, la catalyse et l’optimisation des propriétés moléculaires. Selon l’étude, la méthode a atteint le niveau de performance final de l’optimisation bayésienne traditionnelle avec une médiane de 41% d’expériences en moins.
Les chercheurs ont également comparé GOLLuM à des modèles de langage utilisés seuls. Lorsque les LLM choisissaient directement les expériences, les taux d’échec variaient de 10% à environ 80% selon le modèle. Ils pouvaient notamment inventer des structures chimiques, répéter des conditions déjà testées ou proposer des options situées en dehors de l’espace de recherche défini. Sur le benchmark Buchwald-Hartwig, GOLLuM a par ailleurs identifié davantage de réactions très performantes que les méthodes de référence, avec 43% contre 24 à 25%.
L’équipe voit également un potentiel pour les laboratoires autonomes et les expériences associant humains et IA. Plusieurs conditions proches de l’optimum pourraient alors être retenues selon des critères comme le coût, la durabilité, la sécurité ou la disponibilité des réactifs.
La méthode reste néanmoins à éprouver dans les conditions réelles d’un laboratoire. Lorsque le nombre d’expériences se chiffre en milliers, la charge de calcul liée au processus gaussien peut fortement augmenter. L’approche pourrait aussi atteindre ses limites avec des données complexes difficiles à décrire en langage naturel, comme les conformations tridimensionnelles des protéines ou les structures cristallines.
L’actualité IT en Suisse et à l’international, avec un focus sur la Suisse romande, directement dans votre boîte mail > Inscrivez-vous à la newsletter d’ICTjournal, envoyée du lundi au vendredi!
