Les géants de l’IA mettent en garde contre leur propre technologie
Après plusieurs incidents de sécurité liés à l’IA, les dirigeants d’OpenAI et d’Anthropic font part de leurs inquiétudes. Ils plaident pour un ralentissement de l’innovation au profit d’une sécurité accrue.
L’intelligence artificielle pourrait un jour anéantir l’humanité tout entière. Ce scénario jusqu’ici surtout associé à la science-fiction a de nouveau fait les gros titres début septembre 2026. A l’origine de cette mise en garde figure Evan Hubinger, membre de l’équipe chargée de la sécurité chez Anthropic. Selon ce spécialiste, la probabilité que de futurs modèles d’IA puissent entraîner l’extinction de l’humanité dépasserait 10%, rapporte notamment la BBC. Le média souligne qu’Evan Hubinger n’a pas expliqué concrètement comment l’IA pourrait parvenir à un tel résultat.
Cette affirmation est toutefois contestée. Interrogée par la BBC, l’informaticienne et conseillère de l’ONU Wendy Hall estime que de telles déclarations pourraient relever des «relations publiques et du marketing». Si ces propos reflètent réellement la position d’Anthropic, elle déconseille d’investir dans l’entreprise.
Plus de sécurité, moins de vitesse
Le scénario décrit par Evan Hubinger paraît particulièrement alarmant, mais il n’est pas le seul à mettre en garde contre les risques associés à l’IA. Début septembre, Dario Amodei, CEO d’Anthropic, a lui aussi publié un long article intitulé «We Must Pace the Frontier». Il y met en garde contre la capacité de l’IA à développer elle-même sa prochaine génération, évoquant dans ce contexte une «auto-amélioration récursive».
Le dirigeant d’Anthropic rappelle également un incident de sécurité survenu chez son concurrent OpenAI. Lors d’évaluations internes de cybersécurité, des modèles de l’entreprise ont contourné des contrôles censés les isoler d’Internet et compromis certaines parties de l’infrastructure de recherche d’OpenAI ainsi que des systèmes de Hugging Face. Personne n’a été blessé lors de cet incident, souligne Dario Amodei. Mais «un essaim doté de capacités supérieures, avec un degré de désalignement tout aussi élevé, aurait pu provoquer des dommages catastrophiques».
Le CEO d’Anthropic propose de ralentir délibérément le développement de l’intelligence artificielle afin de renforcer les garde-fous de sécurité. Il appelle notamment les entreprises à la pointe de l’IA à ouvrir leurs développements à des évaluateurs externes chargés de vérifier le respect des pratiques de sécurité et le signalement des incidents. Il plaide également pour des normes communes entre Etats démocratiques et un encadrement du rythme de progression des systèmes les plus avancés. Ces pays devraient enfin, selon lui, chercher à s’entendre sur des garde-fous avec les régimes autoritaires, tout en «prenant au sérieux les difficultés liées à la vérification du respect des accords».
La sécurité avant l’entrée en Bourse
Sur la plateforme X, Sam Altman, CEO d’OpenAI, a approuvé l’appel de Dario Amodei, selon Reuters. Depuis l’incident impliquant Hugging Face, OpenAI s’efforce de renforcer ses dispositifs de sécurité. Sam Altman ne confirme toutefois pas le scénario avancé chez Anthropic, mais déclare: «L’essentiel est que nous assumions tous une énorme responsabilité et que nous ne laissions ni les ego, ni les incitations financières, ni quoi que ce soit d’autre nous en détourner.»
Le CEO d’OpenAI a également annoncé que l’entreprise n’entrerait pas en Bourse en 2026. «Compte tenu de tout ce qui se passe actuellement en matière de sécurité, ce serait un moment particulièrement mal choisi pour entrer en Bourse», rapporte Reuters. Il s’agit désormais «de déterminer comment le secteur et les gouvernements peuvent travailler ensemble».
L’actualité IT en Suisse et à l’international, avec un focus sur la Suisse romande, directement dans votre boîte mail > Inscrivez-vous à la newsletter d’ICTjournal, envoyée du lundi au vendredi!
