1'750 milliards de paramètres

La Chine dévoile «Lumières 2.0», sa super intelligence artificielle qui détrône GPT-3

Les chercheurs de l’Académie d’intelligence artificielle de Pékin ont développé Wu Dao, un modèle dix fois plus puissant que GPT-3, capable de traiter du texte et des images.

Wu Dao compte 1,75 billions de paramètres (Image: Conférence BAAI)
Wu Dao compte 1,75 billions de paramètres (Image: Conférence BAAI)

La course à l'intelligence artificielle entre les USA et la Chine est définitivement lancée. Lors de sa conférence annuelle, l’Académie d’intelligence artificielle de Pékin (BAAI) a dévoilé le plus grand réseau neuronal jamais créé. Baptisé Wu Dao 2.0 - «Lumières 2.0» en français - le système chinois est analogue mais bien plus puissant que le modèle de langage GPT-3 développé par OpenAI, qui était déjà doté de capacités prodigieuses.

Lire à ce sujet: Le plan de la Chine pour devenir le leader mondial de l’intelligence artificielle

Plus ouvert et dix fois plus puissant

Avec 1’750 milliards de paramètres, Wu Dao a une échelle dix fois supérieure à son concurrent américain GPT-3. Il s’en distingue également par sa capacité à exploiter non seulement du texte, mais aussi des images. Wu Dao a ainsi été entraîné avec 4,9TB de données graphiques et textuelles en chinois et en anglais.

Le modèle chinois emploie la technique «Mixture of Experts» développée par Google qui combine plusieurs modèles pour la résolution d’un problème donné. Selon le blog du BAAI, la solution FastMoE des chercheurs chinois s’en distingue toutefois, car elle est open source, ne nécessite pas de hardware particulier et prend en charge le framework PyTorch.

> Plus de détail sur le blog du BAAI (traduction automatique)

Tags
Webcode
DPF8_219789