Les géants de l’IA s’engagent sur des standards volontaires de sécurité
Plusieurs grands acteurs de l’IA se sont engagés aux Etats-Unis à élaborer des standards volontaires de sécurité. L’accord prévoit notamment le recours à des auditeurs indépendants et des mesures visant à empêcher les systèmes d’IA d’accéder de manière non prévue à des infrastructures techniques.
Quelques semaines après qu’OpenAI, Google et Anthropic ont engagé des discussions sur une coopération en matière de sécurité de l’IA, Donald Trump a annoncé un accord volontaire conclu avec plusieurs grands acteurs du secteur à l’issue d’une rencontre à la Maison-Blanche, rapporte Reuters. Parmi les participants figuraient Greg Brockman, cofondateur d’OpenAI, Dario Amodei, CEO d’Anthropic, Mark Zuckerberg, CEO de Meta, Sundar Pichai, CEO de Google, et Jensen Huang, CEO de Nvidia.
L’accord prévoit notamment le recours à des «auditeurs indépendants» chargés d’évaluer si les systèmes d’IA fonctionnent conformément aux intentions de leurs concepteurs. Les entreprises se sont également engagées à travailler pour empêcher leurs outils de pirater des systèmes techniques ou d’y accéder de manière non prévue. Mark Zuckerberg a indiqué qu’elles s’étaient entendues sur le développement de «contrôles internes robustes», tandis que Donald Trump a évoqué la possible création d’un conseil de dix personnes chargé de surveiller la sécurité de ces outils.
Cette initiative intervient dans un contexte marqué par plusieurs incidents impliquant des agents d’IA. Pour rappel, OpenAI et Anthropic ont récemment signalé des comportements imprévus ayant conduit leurs agents à accéder aux systèmes d’autres entreprises.
L’expansion des centres de données au cœur des débats
La rencontre a également porté sur les infrastructures nécessaires au développement de l’IA. Donald Trump a réaffirmé son soutien à une expansion rapide des centres de données, alors que certains projets suscitent des oppositions locales liées notamment à leur consommation d’électricité, à leur impact sur les coûts énergétiques et à d’autres conséquences pour les communautés qui les accueillent.
Interrogé sur ces critiques, le président américain a affirmé que les entreprises technologiques effectueraient d’importantes contributions dans les régions où elles construisent ces infrastructures. Reuters relève que l’opposition à certains projets constitue aussi un enjeu politique à l’approche des élections américaines de mi-mandat du 3 novembre.
L’actualité IT en Suisse et à l’international, avec un focus sur la Suisse romande, directement dans votre boîte mail > Inscrivez-vous à la newsletter d’ICTjournal, envoyée du lundi au vendredi!
