Modèles IA de pointe: Washington les évalue, mais selon quels critères?
Alors que Washington intervient désormais dans l'évaluation des modèles d'IA les plus avancés, les critères retenus par les autorités américaines restent largement inconnus. Une opacité qui soulève des interrogations sur la manière dont les modèles d'IA de pointe sont évalués avant leur diffusion.
Comment le gouvernement américain décide-t-il qu'un modèle de pointe peut être rendu accessible au public? La question reste largement sans réponse, selon un article de TechCrunch. Celle-ci intervient alors qu'OpenAI déploie Sol, son dernier grand modèle de langage (LLM), présenté comme au moins comparable à Fable d'Anthropic.
Plusieurs spécialistes interrogés par TechCrunch affirment ne pas comprendre comment fonctionne le processus d'évaluation des modèles de pointe («frontier model» en anglais). Mina Narayanan, analyste senior au Center for Security and Emerging Technology de Georgetown, explique ne pas avoir de visibilité sur les critères retenus par les autorités américaines. Elle relève toutefois qu'Anthropic a indiqué avoir échangé avec le gouvernement, développé un classificateur destiné à détecter les tentatives de jailbreak et mis en place plusieurs mécanismes de défense, sans que le contenu précis de ces échanges soit connu.
Cette absence de transparence est également soulignée par Dean W. Ball, ancien conseiller politique de Donald Trump aujourd'hui employé par OpenAI, qui estime que personne ne connaît réellement les critères permettant d'autoriser la diffusion d'un modèle avancé. Andy Konwinski, cofondateur de Databricks, Perplexity et du Laude Institute, dit lui aussi n'avoir jamais rencontré quelqu'un capable d'expliquer clairement la procédure, y compris au sein des laboratoires développant ces modèles. Selon lui, l'enjeu dépasse la seule sécurité: il porte aussi sur l'identité des acteurs qui décident des autorisations de diffusion.
Un cadre réglementaire toujours en construction
Selon TechCrunch, le gouvernement américain n'a pas encore arrêté le processus définitif d'évaluation de ces modèles. Un décret présidentiel publié après plusieurs semaines de tensions internes fixe une feuille de route, mais sans préciser les mécanismes concrets. Le texte demande à six agences fédérales de définir un processus final d'ici début août. Pour l'heure, le Center for AI Standards and Innovation du Département du commerce semble jouer un rôle central. Le média spécialisé relève toutefois que, dans l'intervalle, le processus fonctionne essentiellement au cas par cas.
Sriram Krishnan, ancien conseiller IA à la Maison-Blanche, a par ailleurs déclaré au Financial Times qu'il n'y aurait pas de «FDA de l'IA», c’est-à-dire un équivalent, pour l’IA, de l’autorité américaine chargée d’autoriser les médicaments. Selon TechCrunch, aucun consensus n'existe encore sur les modèles qui doivent être soumis à une évaluation gouvernementale ni sur les agences chargées de cette supervision.
OpenAI et Anthropic dans l'attente d'un cadre plus clair
Fin juin, OpenAI avait indiqué avoir retardé le lancement public de GPT-5.6 Sol à la demande du gouvernement américain, tout en annonçant vouloir définir avec Washington une procédure d'accès anticipé plus transparente. L'entreprise précise désormais avoir donné un accès anticipé à Sol au gouvernement américain ainsi qu'à certains utilisateurs avant son déploiement plus large, sans détailler les critères d'évaluation ni les experts mobilisés. OpenAI renvoie aux évaluations externes citées dans sa fiche de sécurité (Safety Card), notamment celles réalisées par U.K. AISI, SecureBio et Irregular. L'entreprise indique également ne pas considérer cet accès gouvernemental anticipé comme un modèle durable et vouloir travailler avec l'administration sur une autre approche.
Anthropic affirme de son côté avoir développé plusieurs garde-fous en collaboration avec les autorités américaines. Fable avait brièvement été retiré de l'accès public lorsque le gouvernement américain en avait interdit l'utilisation par des ressortissants étrangers. TechCrunch fait observer que cette décision était liée à des inquiétudes concernant des jailbreaks donnant accès à des capacités offensives en cybersécurité, mais aussi à des tensions entre Anthropic et l'administration Trump.
Plusieurs experts interrogés par TechCrunch plaident désormais pour un processus plus transparent, reposant notamment sur des audits indépendants ou sur une implication plus importante de chercheurs spécialisés dans la sécurité, l'alignement et l'interprétabilité des modèles. Pour l'heure, conclut le média américain, le débat ne porte donc plus uniquement sur les capacités des modèles de pointe, mais aussi sur la manière dont leur diffusion est autorisée, par qui et selon quels critères.
L’actualité IT en Suisse et à l’international, avec un focus sur la Suisse romande, directement dans votre boîte mail > Inscrivez-vous à la newsletter d’ICTjournal, envoyée du lundi au vendredi!
