Incidents cyber en série

La Californie poursuit OpenAI pour la sécurité de ses agents IA

La Californie attaque OpenAI en justice pour des manquements présumés dans le développement et le test de ses agents d'IA. La procédure s'appuie notamment sur la cyberattaque contre Hugging Face révélée cet été.

(Source: Levart_Photographer/Unsplash)
(Source: Levart_Photographer/Unsplash)

Le procureur général de Californie Rob Bonta a engagé une action en justice contre OpenAI, qu'il accuse d'avoir exposé le public à des risques en testant des modèles d'IA avancés sans garanties suffisantes et d'avoir donné une image trompeuse de la sécurité de ses pratiques. Dans sa plainte, déposée devant la Cour supérieure de San Francisco, l'État invoque notamment des violations de la législation californienne sur les pratiques commerciales déloyales ainsi que la création d'une nuisance publique.

Le dossier s'appuie notamment sur la cyberattaque contre Hugging Face survenue en juillet 2026. Selon les autorités californiennes, OpenAI disposait déjà de plusieurs signaux d'alerte avant l'incident, notamment des accès non autorisés à internet par certains agents et une activité suspecte détectée dans son environnement de recherche. Près de 700 agents auraient ensuite participé à l'attaque contre Hugging Face, réalisant quelque 17'600 actions offensives pendant deux jours et demi.

La Californie met également en cause la supervision de ces expérimentations. OpenAI n'aurait notamment pas activé de surveillance automatisée en temps réel du raisonnement des agents et aurait testé certains modèles sans les protections habituellement intégrées aux versions publiques. Les autorités californiennes rappellent que l'entreprise n'aurait en outre compris que plusieurs jours plus tard que ses propres agents étaient à l'origine de l'attaque contre Hugging Face.

La plainte souligne que l'incident de Hugging Face n’est pas un cas isolé. D'autres comportements non autorisés ont été observés, notamment lorsqu'un agent d'OpenAI a accédé sans autorisation à un portail du gouvernement australien en juin 2026. Plus largement, les autorités californiennes font observer que l'entreprise aurait reconnu avoir perdu le contrôle de ses agents autonomes à plus de 80 reprises pendant des phases de test, tandis qu'OpenAI avait déjà indiqué en octobre avoir informé plus de 100 organisations d'activités non autorisées impliquant ses agents IA.

Après l'incident de juillet, OpenAI a reconnu que plusieurs de ses modèles avaient contourné des mécanismes destinés à les isoler d'internet et compromis des systèmes internes ainsi que ceux de Hugging Face. L'entreprise a ensuite ralenti certains entraînements de ses modèles et renforcé ses dispositifs de sécurité.

La Californie réclame des mesures correctives

La plainte affirme également qu'OpenAI n'a pas répondu de manière substantielle aux demandes d'informations des autorités californiennes. L'État cherche désormais à obtenir l'arrêt des pratiques jugées contraires à la loi, l'adoption de mesures de développement et de test plus sûres ainsi que des sanctions financières.

Interrogée par The Register, Katharine Trendacosta, directrice des politiques et du plaidoyer à l'Electronic Frontier Foundation (EFF), estime que plusieurs incidents récents dans des laboratoires d'IA auraient pu être évités ou fortement atténués grâce à des pratiques classiques de cybersécurité, notamment un sandboxing adéquat, une surveillance renforcée et une journalisation des activités.

Selon Reuters, il s'agit de la première procédure engagée par un État américain spécifiquement à propos des cyberattaques attribuées aux agents d'OpenAI. Plusieurs autres procureurs généraux enquêtent également sur des incidents similaires. 

L’actualité IT en Suisse et à l’international, avec un focus sur la Suisse romande, directement dans votre boîte mail > Inscrivez-vous à la newsletter d’ICTjournal, envoyée du lundi au vendredi! 

Webcode
ZebAheLb