L'Office fédéral de la cybersécurité précise comment identifier les deepfakes (update)
L'Office fédéral de la cybersécurité (OFCS) participe au «Mois européen de la cybersécurité», en se focalisant entre autres sur les dangers liés aux fausses voix générées par l’IA et aux vidéos deepfake.
Mise à jour du 7 octobre 2024: Dans le cadre du Mois européen de la cybersécurité, l'Office fédéral de la cybersécurité (OFCS) a publié des conseils destinés aux jeunes concernant les deepfakes et autres manipulations basées sur l'intelligence artificielle. L'IA est utilisée depuis un certain temps déjà sur les réseaux sociaux afin d'optimiser l'expérience utilisateur. Les jeunes interagissent naturellement avec ces fonctions, mais ne les remettent généralement pas en question, écrit l’OFCS.
Dans la mesure où nombre de leurs interactions sociales se déroulent sur Internet, les enfants et les adolescents sont vulnérables aux manipulations deepfake. On parle ici de l'utilisation ciblée de ces technologies par les cybercriminels afin de dissimuler leur identité et leurs véritables motivations. Actuellement, les deepfakes sont encore reconnaissables après un examen approfondi, selon l’OFCS, qui recommande de faire attention aux points suivants:
- son métallique et voix monotone
- contenu étrange de l’appel téléphonique
- utilisation d’un vocabulaire atypique
- ombres illogiques ou coiffure non adaptée au visage
- transitions floues de parties du visage
- qualité différente (personne vs arrière-plan)
Dans une vidéo, Brian Ceccato, analyste technique à l’Office fédéral de la cybersécurité (OFCS), explique comment les voix et même les dialectes suisses peuvent être imités ou les vidéos en direct altérées:
News du 1er octobre 2024: L’IA est également en vogue dans le milieu des cybercriminels. Une campagne de sensibilisation de l'Office fédéral suisse de la cybersécurité (OFSC), avec pour slogan «Think Before U Click!», a pour thème la manière dont les cybercriminels utilisent l'IA pour piéger leurs victimes. La campagne a lieu dans le cadre du «Mois européen de la cybersécurité». La campagne se focalise sur les tactiques de manipulation des escrocs en ligne.
Le message OFCS se concentre sur les attaques d'ingénierie sociale. Dans son aperçu, l'autorité cite quelques exemples de la manière dont les cyberescrocs peuvent se faire passer pour quelqu'un d'autre grâce à l'IA. «L'IA les aide à rédiger des courriels apparemment authentiques, à imiter des voix ou à falsifier des images», indique l’OFCS.
Dans les cas extrêmes, les cybercriminels combinent tous ces éléments pour créer une vidéo deepfake. Pour la campagne ECSM, l’OFCS et ses partenaires veulent présenter une courte vidéo montrant comment les cybercriminels peuvent facilement créer des deepfakes. Une vidéo explicative spécialement conçue pour les personnes âgées et des informations complémentaires seront également disponibles sur le site web de l’OFCS, précise le communiqué. Les contenus spécifiques aux groupes cibles ont été élaborés par l'autorité avec les organisations partenaires Jeunesse et Médias et Ralph Landolt de Seniorweb.ch. Le 22 octobre, l'office fédéral organisera en outre un déjeuner virtuel auquel on peut s'inscrire ici. La campagne durera jusqu'au 31 octobre.
