A Genève, le CEO de Salesforce a appelé à encadrer plus fermement l’IA
Marc Benioff refuse que l’industrie de l’IA bénéficie de la même impunité que les réseaux sociaux. A Genève, lors de l’AI for Good Global Summit, le CEO de Salesforce a plaidé pour une responsabilité claire des acteurs technologiques et une intervention de l'Etat lorsque les risques deviennent sérieux.
La gouvernance des agents IA ne saurait se limiter à l’énoncé de principes. C’est en substance le message qui s’est dégagé d’un échange organisé le 8 juillet à l’AI for Good Global Summit de Genève entre Marc Benioff, CEO de Salesforce, et Nicholas Thompson, CEO de The Atlantic et ancien rédacteur en chef de Wired. Tous deux ont plaidé pour une responsabilité accrue des entreprises technologiques, tout en s’opposant sur les modalités d’intervention des pouvoirs publics.
Marc Benioff a notamment estimé que l’industrie de l’IA ne devait pas reproduire le précédent des réseaux sociaux. Il a rappelé que les plateformes ont longtemps pu se soustraire aux conséquences de produits ayant causé des dommages, notamment aux enfants. Le dirigeant de Salesforce a résumé son argument par une question: comment parler d’éthique lorsqu’aucun acteur n’est tenu responsable? A mesure que les agents gagnent en autonomie et interviennent directement dans les processus des organisations, les entreprises qui les développent et les commercialisent devraient, selon lui, répondre des produits qu’elles mettent sur le marché. Cette exigence concerne également Salesforce, a-t-il précisé.
La pharma comme point de comparaison
Pour illustrer son propos, Marc Benioff s’est appuyé sur le contexte suisse et sur l’industrie pharmaceutique. Lorsqu’un médicament cause un préjudice, des mécanismes existent pour demander des comptes à son fabricant. Le patron de Salesforce estime qu’une exigence comparable devrait s’appliquer aux éditeurs de solutions d’IA. Il n’a toutefois pas détaillé la forme que devrait prendre ce régime juridique, ni la manière de répartir les responsabilités entre fournisseurs de modèles, éditeurs, intégrateurs et entreprises utilisatrices.
Nicholas Thompson a élargi la discussion à l’entraînement des modèles. A ses yeux, le problème éthique se situe déjà dans l’utilisation de contenus sans consentement suffisant de leurs auteurs ou détenteurs de droits. Il a reproché aux entreprises d’avoir bâti leurs systèmes sur des données qu’il qualifie de «volées», sans avoir été tenues responsables. Marc Benioff a acquiescé, reliant cette question à son plaidoyer en faveur d’une responsabilisation plus générale de l’industrie.
Désaccord sur l’action de l’Etat
Les deux intervenants ont également débattu de l’intervention des autorités américaines dans l’affaire Claude Fable 5. En juin, une mesure de contrôle des exportations avait contraint Anthropic à suspendre l’accès à ce modèle de cybersécurité, ainsi qu’à sa version moins restrictive Mythos 5, pour les ressortissants étrangers. Le gouvernement américain redoutait qu’un jailbreak permette de contourner les garde-fous du modèle et d’exploiter ses capacités pour repérer des vulnérabilités logicielles. Anthropic a depuis renforcé les protections de Fable 5 et rétabli son accès public.
Marc Benioff a salué cette intervention, y voyant le signe que les pouvoirs publics commencent à demander des comptes aux entreprises développant des modèles potentiellement dangereux. Selon lui, lorsqu’une technologie risque de devenir une arme, les gouvernements doivent être prêts à agir rapidement. Il a néanmoins reconnu que cette décision avait suscité de fortes inquiétudes en Europe: des entreprises ont pu se demander si Washington était susceptible d’interrompre du jour au lendemain l’accès à une technologie américaine dont dépend leur activité.
Nicholas Thompson a défendu une position plus critique. Tout en se disant favorable à la régulation des modèles avancés, il a jugé la réaction du gouvernement américain trop précipitée et disproportionnée au regard de la vulnérabilité identifiée, qu’il a présentée comme relativement mineure. Il a surtout dénoncé l’exclusion des ressortissants étrangers, y compris parmi les collaborateurs d’Anthropic. A ses yeux, cette mesure affaiblissait précisément l’un des principaux atouts des États-Unis dans l’IA: leur capacité à attirer les meilleurs spécialistes du monde entier.
Par son ton passionné et ses désaccords assumés, l’échange a compté parmi les moments forts d’un AI for Good Global Summit au programme inégal. Il a surtout montré ce que ce type d’événement peut apporter lorsque les appels convenus à une IA responsable laissent place à un débat concret sur les responsabilités et les moyens d’action.
L’actualité IT en Suisse et à l’international, avec un focus sur la Suisse romande, directement dans votre boîte mail > Inscrivez-vous à la newsletter d’ICTjournal, envoyée du lundi au vendredi!
