08.10.2024 - Les tentatives d’escroquerie réalisées au moyen de l’intelligence artificielle (IA) sont de plus en plus relatées. L’IA a notamment été utilisée pour créer des imitations de voix, des vidéos de type deepfake ou des textes en suisse allemand. La semaine dernière, l’OFCS a appris que des données saisies dans un système d’évaluation avaient été modifiées à l’aide de l’IA.
Dans le monde numérique, les systèmes d’évaluation offrent aux clientes et aux clients la possibilité de se faire une idée globale d’une entreprise ou d’un produit avant de prendre une décision d’achat. Les avis, c’est-à-dire les évaluations des consommateurs, jouent un rôle essentiel pour aider à prendre une telle décision, en particulier dans le secteur de l’hôtellerie ou sur des sites de vente en ligne. Avant de faire une réservation ou un achat, de nombreux acheteurs potentiels lisent les avis d’autres clients pour s’assurer que leurs attentes seront satisfaites. Ces avis ont donc une importance considérable : s’ils sont positifs, ils permettent de gagner la confiance de nouveaux clients et d’augmenter les ventes ; s’ils sont négatifs, ils peuvent décourager les acheteurs potentiels. Et c’est précisément parce que ces évaluations sont à même d’influencer les décisions d’achat qu’il existe un risque d’abus. Il est possible que des entreprises ou des clients insatisfaits tentent de manipuler les systèmes d’évaluation. Les entreprises peuvent par exemple créer de fausses évaluations positives ou supprimer des évaluations négatives afin d’améliorer leur image. Il arrive également que des clients insatisfaits, voire des concurrents, laissent délibérément des avis négatifs dans le but de nuire à l’entreprise.
Un cas particulier a attiré l’attention de l’OFCS. Des photos créées à l’aide de l’IA ont été utilisées pour donner la plus mauvaise impression possible d’une entreprise. Elles représentaient des toilettes et des chambres très sales ainsi que de la nourriture avariée. On ne sait pas s’il s’agit de vraies photos qui ont été modifiées ou si de nouvelles photos ont été créées de toutes pièces. Le motif de cette fausse publication est également inconnu. Dans ce cas précis, la situation est représentée de manière si exagérée qu’elle permet d’identifier plus facilement son caractère truqué ; elle montre cependant quels sont les risques d’une utilisation abusive d’images créées par l’IA. Celle-ci permet par exemple de représenter une salade abritant des vers ou d’ajouter des traces de moisissure dans une chambre d’hôtel en quelques clics de souris.
Entre-temps, un grand nombre d’internautes a développé un scepticisme salutaire à l’égard des textes, et par conséquent également à l’égard des avis publiés. En ce qui concerne les cas d’escroqueries, la population est également de plus en plus sensibilisée à ces problématiques et n’est plus aussi crédule qu’auparavant. Cependant, les photos et les vidéos ne font pas l’objet d’une grande méfiance, bien qu’elles puissent désormais être facilement modifiées au moyen de l’IA. L’OFCS estime que la méfiance à l’égard des photos et des vidéos va considérablement augmenter à l’avenir, car les applications d’IA sont toujours plus accessibles et faciles à utiliser. Il faudra donc faire preuve de plus de vigilance face aux photos publiées et remettre en question leur contenu, comme c’est déjà le cas pour les textes. Les compétences liées à l’utilisation des médias jouent un rôle dont l’importance ne fait que croître.
Recommandations
- Du point de vue de l’entreprise :
Si votre entreprise est inscrite sur une plateforme d’évaluation, l’OFCS vous recommande de contrôler régulièrement son contenu et de réagir rapidement si vous découvrez des données saisies non autorisées.
- Du point de vue du client :
Les avis constituent un moyen important pour évaluer la qualité d’un service (en ligne). Il est néanmoins conseillé d’adopter un regard critique lors de la lecture des évaluations. Si plusieurs avis sont formulés de manière similaire, sont extrêmement positifs ou, à l’inverse, extrêmement négatifs, la prudence est de mise.
Statistiques et chiffres actuels
Les annonces de la dernière semaine selon les catégories sont publiées sous:
Dernière modification 08.10.2024
