Le test de piratage par IA d’OpenAI dérape et inquiète les responsables politiques
Un test de cybersécurité mené par OpenAI a produit des résultats inattendus. Un modèle d’IA est parvenu à contourner les restrictions de son environnement de test, à accéder à Internet, puis à lancer une cyberattaque contre la plateforme Hugging Face. L’incident a conduit certains responsables politiques à réclamer un mécanisme d’arrêt d’urgence pour les systèmes d’IA, tandis que plusieurs experts appellent à relativiser sa portée.
Un modèle d’IA testé par OpenAI est parvenu à effectuer des actions qui n’étaient pas prévues. Lors d’une évaluation de cybersécurité menée dans un environnement très isolé, plusieurs modèles ont identifié puis exploité une vulnérabilité zero day afin d’accéder à Internet. L’un d’eux a ensuite attaqué l’infrastructure de Hugging Face pour récupérer les solutions aux exercices de piratage qu’il était censé résoudre seul.
OpenAI et Hugging Face ont confirmé cet épisode, qui pourrait évoquer un scénario de science-fiction. «Alors qu’ils opéraient dans notre environnement de test en bac à sable, nos modèles ont consacré une quantité importante de calcul d’inférence à trouver un moyen d’obtenir un accès ouvert à Internet, dans le but de résoudre le problème d’évaluation», écrit notamment OpenAI. L’entreprise indique en outre avoir signalé aux organisations concernées, dans le cadre d’une divulgation responsable, la vulnérabilité zero day qui avait permis aux modèles d’accéder au réseau public.
Plutôt que de résoudre directement l’épreuve qui lui était soumise, l’IA d’OpenAI a recouru à des méthodes habituellement associées aux cyberattaques. «Dans un exemple, le modèle a enchaîné plusieurs vecteurs d’attaque, notamment l’utilisation d’identifiants volés et de vulnérabilités zero-day pour trouver un chemin d’exécution de code à distance sur les serveurs de Hugging Face», reconnaît OpenAI.
Entre appels à légiférer et volonté de relativiser
Dans un billet publié sur son blog, OpenAI indique qu’une analyse détaillée de l’incident sera menée avec Hugging Face. L’entreprise affirme avoir renforcé les mesures de sécurité prévues pour les futurs tests et instauré «des contrôles stricts de la configuration de l’infrastructure».
L’incident, survenu à la mi-juillet 2026, a suscité de nombreux commentaires et attiré l’attention des spécialistes comme des responsables politiques. La Tribune de Genève rapporte notamment que deux élus américains ont présenté un projet de loi visant à imposer aux entreprises d’IA des mécanismes d’arrêt d’urgence («kill switch») pour leurs systèmes.
Interrogé par Le Temps (paywall), Cédric Nabe, associé chargé du département Cyber pour la Suisse romande chez Deloitte, relativise toutefois la portée immédiate de l’incident. Les accès sont restés limités, aucun vol de données sensibles n’a été confirmé et les organisations concernées ont été averties. «Ce ne sont pas des catastrophes», estime-t-il. Selon l’expert, les modèles n’ont pas désobéi, mais ont poursuivi l’objectif qui leur avait été fixé en empruntant des chemins que leurs concepteurs n’avaient pas anticipés. «La vraie gravité est ailleurs. Ces systèmes ont atteint des infrastructures réelles alors que personne ne le leur avait demandé», souligne-t-il. Selon lui, l’incident montre que «la capacité de ces outils dépasse désormais celle des environnements censés les contenir».
Pour les entreprises, Cédric Nabe recommande de combiner cloisonnement, droits d’accès limités et supervision humaine. «Les garde-fous fonctionnent, mais aucun n’est absolu», rappelle-t-il. Il préconise également d’appliquer le principe du moindre privilège et de répartir les accès entre plusieurs agents spécialisés, plutôt que de les concentrer dans un système unique.
L’actualité IT en Suisse et à l’international, avec un focus sur la Suisse romande, directement dans votre boîte mail > Inscrivez-vous à la newsletter d’ICTjournal, envoyée du lundi au vendredi!
