Gartner alerte sur les défis de sécurité liés aux applications IA sur mesure
Selon Gartner, les applications d’IA sur mesure s’imposent comme un défi croissant pour la cybersécurité. D’ici 2028, elles concentreront la moitié des efforts de réponse aux incidents en entreprise, en raison de leur complexité et de leur déploiement encore insuffisamment sécurisé.
D’ici 2028, les applications d’IA sur mesure pourraient représenter 50% des efforts de réponse aux incidents de cybersécurité en entreprise, contre moins de 5% en 2024.D’ici 2028, les applications d’IA sur mesure pourraient représenter 50% des efforts de réponse aux incidents de cybersécurité en entreprise, contre moins de 5% en 2024. Selon les prévisions de Gartner, ces systèmes, souvent déployés sans tests de sécurité suffisants, sont plus difficiles à sécuriser dans la durée.
«L’IA évolue rapidement, mais de nombreux outils – en particulier les applications développées sur mesure – sont déployés avant d’être totalement testés», explique Christopher Mixter, analyste chez Gartner.
Selon le cabinet, la plupart des équipes de sécurité ne disposent pas encore de processus adaptés pour gérer ces incidents, ce qui peut allonger les délais de résolution et augmenter les efforts nécessaires. Gartner anticipe par ailleurs une adoption croissante de plateformes de sécurité dédiées à l’IA dans les prochaines années, afin de faire face à de nouveaux risques comme le prompt injection ou l’utilisation abusive des données.
Face à ces évolutions, le cabinet recommande aux CISO de s’impliquer dès la phase de conception de ces projets afin d’anticiper les besoins en ressources et de mettre en place des contrôles adaptés.
Au-delà des enjeux opérationnels, cette transformation s’accompagne également de risques croissants en matière de conformité. D’ici 2027, 75% des organisations réglementées pourraient être exposées à des amendes dépassant 5% de leur chiffre d’affaires en raison de processus encore largement manuels.
À plus long terme, Gartner met en garde contre la «dette de données», liée à des données mal structurées ou mal sécurisées. D’ici 2030, un tiers du travail informatique devrait être consacré à corriger ces problèmes .
L’actualité IT en Suisse et à l’international, avec un focus sur la Suisse romande, directement dans votre boîte mail > Inscrivez-vous à la newsletter d’ICTjournal, envoyée du lundi au vendredi!
