Un agent IA d’OpenAI pirate un portail du gouvernement australien
Un agent IA d’OpenAI devait collecter sur internet des données sur les dépenses publiques consacrées aux médicaments. Au cours de cette recherche, il a contourné les restrictions d’accès d’un portail du gouvernement australien. Ce dernier enquête sur l’incident et reproche à l’éditeur de ChatGPT de ne l’avoir informé que près de trois mois plus tard.
Un agent IA d’OpenAI s’est introduit dans le portail statistique de l’assurance maladie publique australienne Medicare. Il a également accédé à des informations non publiques, a indiqué le Premier ministre australien Anthony Albanese lors d’une conférence de presse à New York.
Le 18 juin dernier, l’équipe de recherche d’OpenAI avait chargé un modèle d’IA interne de collecter sur internet des données concernant les dépenses publiques consacrées aux médicaments. Cette mission faisait partie d’un test de performance interne. Le système, qui agissait de manière autonome, s’est heurté à des restrictions d’accès mais les a contournées et a également écrit des fichiers sur un serveur interne, explique Anthony Albanese. Les autorités enquêtent encore sur la manière exacte dont l’agent a procédé.
A quelles données l’agent IA a-t-il accédé?
Le portail fournit des statistiques agrégées sur Medicare et les médicaments. Selon le gouvernement, il ne contient ni dossiers médicaux individuels ni données bancaires. Aucun élément n’indique pour l’heure un accès à des données personnelles, selon Anthony Albanese. Rien ne laisse non plus penser à ce stade que d’autres parties du réseau de l’autorité compétente, Services Australia, aient été compromises. Le gouvernement a depuis mis hors ligne le portail statistique concerné.
OpenAI affirme également n’avoir trouvé aucun indice d’un accès à des données de patients, rapporte l’agence de presse Reuters. L’entreprise reconnaît toutefois que ses modèles ont, au cours de la recherche, entrepris des actions qu’OpenAI n’avait pas prévues.
OpenAI a attendu longtemps avant de signaler l’incident
Ce n’est que le 10 septembre qu’OpenAI a informé Services Australia de cet accès non autorisé, soit près de trois mois après l’incident. Selon le gouvernement australien, l’entreprise n’avait elle-même découvert l’intrusion qu’en août.
Anthony Albanese a fait savoir au patron d’OpenAI, Sam Altman, qu’il jugeait inacceptables à la fois le délai de signalement et le canal utilisé pour notifier l’incident. L’entreprise avait envoyé son message à une adresse e-mail générale destinée aux signalements de failles de sécurité. Selon le gouvernement, OpenAI aurait dû contacter directement l’autorité compétente en matière de cybersécurité ou la direction de Services Australia.
Une task force doit analyser l’incident et déterminer si les procédures actuelles de gestion des cyberincidents sont adaptées aux systèmes d’IA. Le gouvernement veut également établir si des infractions pénales ont été commises et si la police fédérale doit ouvrir une enquête.
Des agents IA s’introduisent dans des systèmes tiers
Ces derniers mois, des agents IA se sont déjà introduits à plusieurs reprises sans autorisation dans des systèmes tiers. En juillet, des agents d’OpenAI ont par exemple contourné l’isolation de leur environnement de test et accédé à des systèmes de la plateforme Hugging Face. OpenAI avait mené ces tests avec des mesures de protection réduites. L’entreprise travaille depuis à des mécanismes d’arrêt automatique pour ses systèmes d’IA.
L’IA Gemini de Google a elle aussi accédé sans autorisation aux systèmes de trois entreprises pendant un exercice de cybersécurité. Selon Google, le modèle a interrompu ses attaques dès qu’il a compris qu’il avait atteint des systèmes réels.
Dans le cas de l’incident australien, la mission ne consistait en revanche pas à résoudre une tâche de test en cybersécurité. L’agent devait simplement rechercher combien l’Etat dépense pour les médicaments. Le cas montre ainsi qu’une mission de recherche ordinaire peut elle aussi conduire à des accès non autorisés, sans qu’une tâche de piratage ait été confiée à l’agent.
L’actualité IT en Suisse et à l’international, avec un focus sur la Suisse romande, directement dans votre boîte mail > Inscrivez-vous à la newsletter d’ICTjournal, envoyée du lundi au vendredi!
