Un outil pour explorer la boîte noire des réseaux neuronaux
OpenAI propose des visualisations interactives pour permettre aux data scientists d’explorer des modèles de réseaux neuronaux populaires. L’outil vise à faciliter l'étude comparative de ces modèles et à mieux comprendre comment les neurones interagissent.
Le laboratoire de recherche OpenAI lance Microscope, un outil promettant aux chercheurs en intelligence artificielle d’y voir plus clair dans les algorithmes de machine learning basés sur les réseaux neuronaux. Microscope propose dans cette optique des millions de visualisations de chaque couche et de chaque neurone de plusieurs modèles de réseaux neuronaux. Tous les neurones peuvent être associés afin de visualiser comment ils interagissent. Un outil qui s'inscrit dans le concept d’IA explicable dont l’objectif est d’ouvrir la boîte noire de l’IA afin de comprendre comment des algorithmes en sont venus à prendre telle ou telle décision.
Pour l’heure, huit modèles parmi les plus souvent étudiés en vue de leur interprétation sont explorables via le Microscope d’OpenAI. Dont le populaire AlexNet, modèle de reconnaissance d’images cité plus de 50’000 fois dans la recherche. L’outil ne peut pas être employé pour explorer n’importe quel modèle. «La génération des millions d'images et des données sous-jacentes pour la visualisation au microscope nécessite l'exécution de nombreuses tâches distribuées [...] notre outil est enchevêtré avec d'autres infrastructures», explique OpenAI. L'objectif du laboratoire est notamment de faciliter l'étude comparative des modèles sélectionnés et de contribuer aux travaux de collaboration en rétro-ingénierie des réseaux de neurones, grâce à la compréhension des connexions entre neurones.
Pour en savoir plus sur les questions de fiabilité et d’éthiques des algorithmes d’IA >> notre dossier IA & éthique
