Nouveau modèle d’Anthropic: Mythos est jugé à haut risque cyber et mobilise les géants de la tech
Anthropic s’allie avec des géants de la tech comme AWS, Google, Microsoft, Apple et Nvidia, pour sécuriser les logiciels et infrastructures critiques. Les capacités avancées de son modèle Claude Mythos ont conduit l’entreprise à en restreindre l’accès et à écarter toute diffusion générale à ce stade. Elle entend néanmoins le développer à des fins défensives, avec plus de 100 millions de dollars engagés.
Anthropic a annoncé le lancement du projet Glasswing, une initiative réunissant Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, la Linux Foundation, Microsoft, NVIDIA et Palo Alto Networks. Ce consortium vise à renforcer la sécurité des logiciels et infrastructures les plus critiques face à la montée des menaces cyber dopées à l’intelligence artificielle.
Cette initiative s’appuie sur Claude Mythos Preview, un modèle expérimental dont les capacités en cybersécurité ont poussé Anthropic à en restreindre l’accès et qu’elle ne prévoit pas de rendre disponible de manière générale à ce stade. Selon l’entreprise, le système a déjà permis d’identifier des milliers de vulnérabilités zero-day de haute sévérité dans tous les principaux systèmes d’exploitation et navigateurs web, ainsi que dans d’autres briques logicielles critiques. Parmi les cas cités figurent une faille vieille de 27 ans dans OpenBSD, une vulnérabilité de 16 ans dans FFmpeg ainsi qu’un enchaînement de failles dans le noyau Linux permettant une escalade de privilèges jusqu’au contrôle complet de la machine.
Détection et exploitation de failles à grande échelle
Anthropic explique que le modèle est désormais capable de rivaliser avec les meilleurs experts humains dans la détection et l’exploitation de failles logicielles. Plusieurs vulnérabilités ainsi que leurs chaînes d’exploitation auraient même été identifiées de manière autonome, sans pilotage humain.
Dans le cadre du projet Glasswing, les partenaires utiliseront Mythos Preview pour des tâches comme la détection locale de vulnérabilités, le test en boîte noire de fichiers binaires, la sécurisation des endpoints et les tests de pénétration. Plus de quarante autres organisations responsables de logiciels ou d’infrastructures critiques ont également obtenu un accès au modèle.
Anthropic met jusqu’à 100 millions de dollars de crédits d’utilisation à disposition dans cette phase de recherche. À cela s’ajoutent 4 millions de dollars de dons à des initiatives de sécurité open source, dont 2,5 millions via la Linux Foundation et 1,5 million à l’Apache Software Foundation.
Le groupe prévoit de partager dans les 90 jours les premiers enseignements tirés du projet, ainsi que les vulnérabilités corrigées et les améliorations de sécurité pouvant être divulguées.
Selon Reuters, Anthropic est par ailleurs en discussion avec le gouvernement américain au sujet des capacités offensives et défensives du modèle. L’agence cite également une étude conjointe d’IBM et Palo Alto Networks selon laquelle 67% des 1000 dirigeants interrogés déclarent avoir subi des attaques assistées par IA au cours des douze derniers mois.
L’actualité IT en Suisse et à l’international, avec un focus sur la Suisse romande, directement dans votre boîte mail > Inscrivez-vous à la newsletter d’ICTjournal, envoyée du lundi au vendredi!
