OpenAI, Google et Anthropic vers une coopération sur la sécurité de l’IA?
OpenAI échange avec Google et Anthropic sur une collaboration en matière de sécurité de l’IA. Les discussions portent notamment sur la création de standards communs, alors que les dirigeants des trois groupes évoquent aussi le rythme de développement des modèles avancés.
OpenAI échange avec Google et Anthropic sur une possible collaboration autour de la sécurité de l’intelligence artificielle, rapporte CNBC. Un porte-parole d’OpenAI a confirmé au média américain que l’entreprise discute avec d’autres acteurs du secteur, dont ses deux concurrents, sur la manière de répondre conjointement aux enjeux de sécurité.
Ces échanges se poursuivent depuis une proposition formulée en juillet par Demis Hassabis, président de Google DeepMind. Celui-ci suggérait la création aux Etats-Unis d’un organisme chargé d’établir des standards pour le secteur, qui pourrait prendre la forme d’un partenariat public-privé ou d’une organisation d’autorégulation placée sous supervision fédérale, sur le modèle de la Financial Industry Regulatory Authority américaine. Cette proposition intervient alors que Washington prépare déjà un cadre volontaire d’évaluation des modèles d’IA avancés, qui devrait notamment concerner OpenAI, Anthropic et Google. OpenAI défend parallèlement des standards portés par l’industrie.
Dans un billet de blog publié par OpenAI, son Chief Global Affairs Officer Chris Lehane a écrit que l’éditeur de ChatGPT entend travailler avec d’autres sociétés à une initiative volontaire, avec ou sans soutien gouvernemental. Selon lui, ces standards viendraient compléter, et non remplacer, les garanties fédérales obligatoires et la supervision démocratique.
Toujours selon CNBC, les préoccupations liées à la sécurité concernent aussi le rythme de développement des modèles les plus avancés. Un ralentissement de leur progression a récemment été défendu par les dirigeants d’Anthropic et d’OpenAI. Demis Hassabis a estimé que cette orientation allait dans la bonne direction, tout en précisant que ses modalités restaient à définir. Sur X, Sam Altman, le CEO d’OpenAI s’est lui aussi prononcé en faveur d’un ralentissement, indiquant que celui-ci constituait ces dernières semaines un «sujet central» des discussions au sein de l’entreprise.
L’actualité IT en Suisse et à l’international, avec un focus sur la Suisse romande, directement dans votre boîte mail > Inscrivez-vous à la newsletter d’ICTjournal, envoyée du lundi au vendredi!
