Satya Nadella alerte sur le prix invisible de l’IA pour les entreprises
Satya Nadella met en garde contre le transfert progressif du savoir institutionnel vers les fournisseurs de modèles d’IA. Il plaide pour une maîtrise accrue des données et des apprentissages internes.
Dans un article publié sur X, Satya Nadella estime que l’adoption de l’intelligence artificielle expose les entreprises à un nouveau risque: céder progressivement leur savoir interne aux fournisseurs de modèles, simplement pour pouvoir utiliser leurs services.
Le CEO de Microsoft transpose à l’IA le «paradoxe de l’information» formulé par l’économiste Kenneth Arrow. Ce concept décrit une situation où le vendeur doit révéler une information pour en démontrer la valeur, au risque de la céder gratuitement. Avec l’IA, soutient Satya Nadella, le problème s’inverse: l’acheteur doit fournir ses données, ses instructions, ses corrections et ses critères d’évaluation afin d’obtenir des résultats pertinents.
Les «traces d’intelligence», nouvel enjeu de gouvernance
Ces interactions génèrent ce que Satya Nadella décrit comme des «traces d’intelligence». Les requêtes, retours, traces d’usage et ajustements peuvent révéler progressivement les méthodes de travail, les priorités et le savoir institutionnel d’une organisation. Selon lui, les entreprises doivent étendre leur gouvernance aux mécanismes d’apprentissage des modèles, au-delà de la seule gestion des données.
Satya Nadella préconise la création de périmètres de confiance propres à chaque organisation. Ceux-ci devraient regrouper les données, la mémoire, les évaluations, les traces et les modèles adaptés, sans transfert non consenti vers l’extérieur. Le CEO de Microsoft appelle également les entreprises à découpler leurs couches d’orchestration des modèles utilisés, afin de préserver leur capacité à changer de fournisseur. Son idée centrale: dans l’ère du cloud, les entreprises accumulaient des données, tandis que dans celle de l’IA, elles accumulent des apprentissages. Ce capital devrait, selon lui, rester sous leur contrôle.
L’avertissement n’est évidemment pas dénué d’ironie. L’assistant Microsoft Copilot est précisément conçu pour s’appuyer sur les e-mails, documents, conversations et autres connaissances internes des organisations. Sans nier le bien-fondé de l’alerte, le média spécialisé The Next Web fait observer que Satya Nadella dirige lui-même l’une des entreprises qui ont contribué à «construire le piège» contre lequel il met en garde.
L’actualité IT en Suisse et à l’international, avec un focus sur la Suisse romande, directement dans votre boîte mail > Inscrivez-vous à la newsletter d’ICTjournal, envoyée du lundi au vendredi!
