OVHcloud dévoile un LLM compact destiné aux usages professionnels
OVHcloud lance Olala mini 7A1B, un modèle de langage compact conçu et entraîné en Europe. Fonctionnant avec 8 Go de mémoire GPU, il est déjà utilisé par le moteur de recherche Qwant. Le fournisseur prévoit de publier ses poids en open source et prépare des versions destinées aux entreprises.
OVHcloud annonce Olala mini 7A1B, le premier grand modèle de langage (LLM) développé par son laboratoire d'intelligence artificielle OVHai LLM. Conçu et entraîné à partir de zéro en Europe, il inaugure une famille de LLM développée en interne par le fournisseur français.
Cette première concrétisation s'inscrit dans une stratégie présentée en juin dernier, lorsqu'OVHcloud avait indiqué vouloir investir entre 150 et 200 millions d'euros dans le développement de ses propres LLM. Octave Klaba, CEO d'OVHcloud, explique que le groupe veut développer des modèles pour ses besoins internes et ceux de ses clients, plutôt que de dépendre uniquement des LLM que d'autres laboratoires publient en open source.
Olala mini repose sur une architecture de 7 milliards de paramètres, dont un milliard seulement est activé à chaque requête. Ces paramètres actifs sont répartis entre 256 experts par couche, tandis que le modèle combine Differential-TPA et Mamba-3 dans une architecture d'attention hybride. OVHcloud indique que cette conception limite les besoins en mémoire et en puissance de calcul. Le modèle peut fonctionner sur un GPU doté de 8 Go de mémoire et atteindre jusqu'à 160 tokens par seconde sur une carte Nvidia RTX A4500, contre 50 tokens par seconde sur un processeur sans GPU. Sa fenêtre de contexte atteint actuellement 32'000 tokens.
L'entraînement du modèle s'est appuyé sur trois supercalculateurs publics européens: Jupiter, MeluXina et Jean Zay. Le fournisseur estime que le soutien public apporté sous forme de ressources de calcul représente une valeur estimée à 7 millions d'euros.
Olala mini est déjà utilisé en production par Qwant pour sa fonctionnalité de réponse flash. OVHcloud fait état d'une accélération des réponses de 20% et de coûts de fonctionnement divisés par trois par rapport au modèle précédemment utilisé.
Des versions spécialisées pour les entreprises
Olala mini constitue la première étape d’une famille appelée à évoluer. OVHcloud prévoit une version 1.1 d’ici la fin de l’année, avec une fenêtre de contexte portée à 128’000 tokens et des améliorations en raisonnement mathématique. Une version 2.0, qui dépassera les 100 milliards de paramètres, donnera ensuite lieu à des modèles spécialisés dans l’IA agentique pour les entreprises, le DevOps cloud et la cybersécurité défensive et offensive.
Les déclinaisons consacrées à l’agentique alimenteront notamment OVHai Workspace. Une version chiffrée de cet environnement est également prévue, avec des modèles capables de fonctionner localement sur les postes des utilisateurs.
Olala mini sera officiellement lancé le 19 novembre lors de l’OVHcloud AI Summit.
L’actualité IT en Suisse et à l’international, avec un focus sur la Suisse romande, directement dans votre boîte mail > Inscrivez-vous à la newsletter d’ICTjournal, envoyée du lundi au vendredi!