European Cyber Security Month (ESCM) : conseils à l’attention des jeunes

03.10.2024 - Les plateformes telles que TikTok, Instagram ou Snapchat proposent de nombreuses fonctions basées sur l’intelligence artificielle (IA) : générateurs d’images, chatbots et personnes créées par l’IA, entre autres. Toute image ou vidéo est analysée automatiquement dans le but de proposer des effets, des filtres ou des sous-titres. Bien que de tels mécanismes fonctionnent en arrière-plan et ne soient pas problématiques en soi, les risques liés à ces nouvelles possibilités contrôlées par l’IA se révèlent lorsque les criminels les exploitent pour manipuler leurs victimes.

Les réseaux sociaux utilisent l’IA depuis un certain temps déjà pour améliorer l’expérience utilisateur. Elle propose par exemple de nouvelles fonctions pour optimiser les images. Aujourd’hui, les jeunes interagissent naturellement avec ces fonctions d’IA, mais ne les remettent généralement pas en question.

Les générateurs d’images par IA permettent de recréer entièrement des photos, des vidéos ou des fichiers audio ou de les modifier à volonté. Les produits qui en résultent sont appelés « deepfakes ». Actuellement, les deepfakes sont généralement encore reconnaissables lorsqu’on les examine de plus près.

Les caractéristiques typiques du deepfake audio sont les suivantes :

son métallique et voix monotone ;
contenu étrange de l’appel téléphonique ;
utilisation d’un vocabulaire atypique.

Les caractéristiques typiques du deepfake vidéo sont les suivantes :

ombres illogiques ou coiffure non adaptée au visage ;
transitions floues de parties du visage ;
qualité différente (personne vs arrière-plan).

Les cybercriminels utilisent les technologies de deepfake pour masquer leur identité et établir une relation de confiance avec la victime. Les enfants et les adolescents sont vulnérables à de telles manipulations, car nombre de leurs interactions sociales se déroulent sur internet. Généralement, les jeunes font plus rapidement confiance en ligne que les adultes. Brian Ceccato, analyste technique à l’Office fédéral de la cybersécurité (OFCS) vous montre dans une vidéo comment des numéros sont falsifiés, des voix imitées (même en dialecte suisse alémanique) et des images vidéo en direct truquées.