Anthropic met en garde contre les modèles d’IA capables de se répliquer
De petits modèles d’IA pourraient bientôt être capables de se copier de manière autonome sur des appareils connectés, comme des boîtiers TV. C’est ce que suggèrent des expériences menées par Anthropic. Ces vers informatiques fondés sur l’IA n’auraient pas besoin de datacenter pour se propager.
De petits modèles d’IA pourraient être à quelques mois seulement de pouvoir se reproduire de manière autonome. C’est ce que suggère Anthropic dans un billet de blog présentant les résultats de ses propres expériences. Selon l’entreprise, ces modèles pourraient notamment se répliquer sur des appareils grand public connectés à Internet (IoT), tels que des fours connectés ou des boîtiers Android TV de fabricants peu connus.
Des expériences sur des appareils Android
Les expériences d’Anthropic visaient principalement à déterminer si de petits modèles pouvaient parvenir à exécuter de manière autonome un modèle d’IA sur des appareils dont ils ne connaissent pas les caractéristiques. L’entreprise a d’abord démontré qu’il était possible d’exécuter un modèle d’IA de manière distribuée sur 15 boîtiers Android TV disponibles dans le commerce. Elle a ensuite étudié la réplication autonome dans un environnement de test isolé, à l’aide d’appareils Android simulés.
Selon le billet de blog, la principale difficulté réside dans l’enchaînement de nombreuses étapes interdépendantes, dont la bonne exécution est indispensable pour copier le modèle d’IA. Les modèles sont notamment amenés à sélectionner les logiciels appropriés, trouver les bonnes versions des paquets logiciels et résoudre des erreurs propres à chaque appareil. Or, ces erreurs sont difficiles à corriger, explique Anthropic. Les agents empruntent également souvent de mauvaises pistes.
Pour contourner ces difficultés, l’entreprise indique avoir utilisé un environnement de test spécifique, qui relance régulièrement un nouvel agent en lui transmettant les notes laissées par le précédent. Anthropic a également choisi des appareils IoT ne nécessitant aucune authentification. L’entreprise considère donc les résultats obtenus comme une estimation haute des capacités des petits modèles d’IA.
Constats et prévisions
Selon les chercheurs, ces agents capables de se répliquer seraient également difficiles à arrêter, puisqu’il n’existerait aucun point central permettant de les désactiver. Les modèles fonctionneraient en effet sur plusieurs appareils. Contrairement aux logiciels malveillants traditionnels, les agents IA pourraient en outre déterminer de manière autonome comment fonctionner et se propager sur des appareils inconnus.
D’après Reuters, Anthropic avertit également que, si les petits modèles d’IA continuent de progresser au rythme actuel, ils pourraient être capables de se répliquer de manière autonome d’ici à la fin de l’année. Une telle évolution pourrait présenter des risques importants pour la cybersécurité. Selon l’agence de presse, des agents IA capables de se répliquer pourraient automatiser des cyberattaques avec une supervision humaine limitée.
Anthropic compare la situation actuelle à celle des agents de programmation en 2024. L’entreprise estime que l’on observe aujourd’hui les premiers signes de l’émergence de «vers IA». Il n’existerait toutefois pas encore d’agents IA entièrement autonomes ayant échappé à tout contrôle. Les progrès observés concernent pour l’instant l’exécution des différentes étapes nécessaires à leur réplication.
Au-delà de ses propres expériences, Anthropic envisage un avenir dans lequel des agents IA pourraient fonctionner sur une grande variété d’appareils, y compris sans supervision humaine. Selon l’entreprise, de petits agents IA seraient davantage susceptibles que des attaquants humains de compromettre un grand nombre d’appareils IoT.
Ces agents pourraient préfigurer des systèmes plus agressifs et plus rapides, capables de causer davantage de dommages. Anthropic recommande donc de renforcer les protections contre ces systèmes capables de se répliquer, estimant qu’ils pourraient à l’avenir devenir une composante courante de l’environnement numérique.
L’actualité IT en Suisse et à l’international, avec un focus sur la Suisse romande, directement dans votre boîte mail > Inscrivez-vous à la newsletter d’ICTjournal, envoyée du lundi au vendredi!
