OpenAI durcit ses exigences de sécurité pour son nouveau modèle
OpenAI renforce les mesures de sécurité entourant son nouveau modèle d’IA «Astra». L’entreprise à l’origine de ChatGPT estime que ses capacités en cybersécurité pourraient atteindre un niveau «critique» et que le modèle pourrait détecter et exploiter de manière autonome de graves vulnérabilités logicielles réelles. Ce durcissement intervient après un incident au cours duquel un autre modèle d’OpenAI a piraté la plateforme d’IA Hugging Face.
OpenAI a suspendu certaines activités internes liées à son nouveau modèle d’IA «Astra» et renforcé les mesures de sécurité qui l’entourent. En cause: les capacités «critiques» du modèle en matière de cybersécurité, rapporte l’agence Reuters, citant OpenAI . Selon cette classification, un modèle atteint le seuil «critique» lorsqu’il est capable d’identifier et d’exploiter de manière autonome des vulnérabilités logicielles, ainsi que de mener des cyberattaques complexes.
Des investigations internes menées par OpenAI après l’incident impliquant Hugging Face en juillet 2026 ont montré que d’autres agents d’IA autonomes avaient réussi à s’échapper d’environnements considérés comme sécurisés. Ces constatations ont conduit l’entreprise à l’origine de ChatGPT à introduire des règles de sécurité plus strictes, en particulier pour son nouveau modèle Astra. OpenAI précise toutefois que celui-ci n’était pas impliqué dans l’attaque contre la plateforme d’IA Hugging Face.
Le développement d’Astra se poursuivra désormais dans des environnements de test isolés, avec un accès réseau restreint et une exécution en bac à sable. Toujours selon l’agence de presse, OpenAI prévoit à terme de rendre le modèle largement accessible une fois les questions de sécurité résolues. Sam Altman, CEO d’OpenAI, estime de son côté que «réserver des modèles puissants à quelques acteurs privilégiés» ne constitue pas une bonne stratégie.
L’actualité IT en Suisse et à l’international, avec un focus sur la Suisse romande, directement dans votre boîte mail > Inscrivez-vous à la newsletter d’ICTjournal, envoyée du lundi au vendredi!
