Banalisation du deepfake?

Sora: OpenAI lance un réseau social de vidéos générées avec son IA

par Yannick Chavanne et Dylan Windhaber et traduction/adaptation ICTjournal

OpenAI dévoile Sora 2, la seconde version de son modèle d’intelligence artificielle générative de vidéos. En parallèle, l’entreprise lance Sora, une application mobile pour iOS qui s’appuie sur cette technologie. La solution, pour l’instant accessible uniquement aux États-Unis et au Canada, suscite des interrogations sur la question de l’identité numérique et la banalisation des outils de deepfake.

L’app Sora sur l’App Store US. (Source: Apple/OpenAI)
L’app Sora sur l’App Store US. (Source: Apple/OpenAI)

OpenAI a publié Sora 2, la seconde version de son modèle d’intelligence artificielle générative de vidéos. Selon OpenAI, Sora 2 est capable de suivre des instructions complexes sur plusieurs scènes tout en maintenant une cohérence réaliste de l’environnement. L’outil, qui serait selon la firme plus précis et plus contrôlable que la version initiale lancée en février 2024, génère aussi des voix, bruitages et paysages sonores immersifs.

Application Sora pour les utilisateurs d'iPhone

OpenAI lance en parallèle une application éponyme pour iOS, basée sur Sora 2. L’app permet aux utilisateurs d’iPhone de créer et remixer des vidéos, ou encore de découvrir de nouveaux contenus via un fil personnalisable orienté vers les usages créatifs. Sa fonction «Cameo» propose d’insérer des images de personnes réelles dans des scènes générées par IA. L’accès reste toutefois limité, sur invitation, pour les seuls utilisateurs en Amérique du Nord.

OpenAI assure avoir intégré un dispositif «Safer by Design», incluant traçabilité des contenus, processus de consentement, contrôles parentaux, filtres multicouches contre les contenus nocifs et garde-fous spécifiques à l’audio.

Vives inquiétudes

Mais la critique n’est pas en reste: si OpenAI met en avant les usages créatifs, certains observateurs dénoncent une  banalisation de la technologie deepfake. Le média spécialisé Techcrunch, par exemple, s’inquiète vivement, estimant que «lorsque Sora sera ouvert au public, ces outils seront à la portée de tous, et nous courrons à la catastrophe».

Webcode
NcChekPB