Les deepfake sont-ils une menace réelle ?

La cybercriminalité adopte rapidement les nouvelles technologies. Une des tendances les plus inquiétantes est la hausse du nombre de deepfakes (ou hypertrucage) : des photos ou encore des fichiers audio et vidéo faux créés par une intelligence artificielle et qui semblent absolument réels, du moins à l’œil nu. Ce problème est d’autant plus troublant dernièrement puisque les outils de la génération de l’IA se généralisent et sont de plus en plus accessibles au public. D’autre part, avec la sortie de chaque nouvelle version, les technologies de l’IA sont de plus en plus sophistiquées (et époustouflantes) et permettent de créer des images impossiblement réalistes et des fichiers audio extrêmement convaincants.

Les deepfakes sont utilisés à diverses fins, dont la vengeance, la fraude fiscale, la manipulation politique et le harcèlement. Dans ce monde hyperconnecté, les escrocs peuvent facilement obtenir les images et les vidéos des éventuelles victimes, surtout lorsqu’il s’agit de personnalités. Pourtant, les cybercriminels modernes ont tendance à se spécialiser dans des domaines de compétence spécifiques. La création de deepfakes de haute qualité requiert des connaissances techniques et des programmes avancés, et c’est pourquoi plusieurs experts et services clandestins ont fait leur apparition. Les individus qui souhaitent créer des fausses vidéos et images n’ont qu’à contacter les spécialistes qui, comme vous l’avez compris, se trouvent sur le Dark Web.

Nous avons décidé d’étudier ce marché clandestin en utilisant une méthode d’ethnographie numérique : nous nous sommes plongés directement dans l’habitat en ligne des cybercriminels, c’est-à-dire les forums du Dark Web. Le principal outil que nous avons utilisé lors de cette analyse est notre service Kaspersky Digital Footprint Intelligence, qui utilise des techniques OSINT combinées à une analyse automatisée et manuelle du Web surfacique, du deep Web et du Dark Web, en plus de la base de connaissances de nos experts, pour fournir des informations et recommandations exploitables sur les cybercriminels. Pour comprendre l’état actuel de ce danger, nous nous sommes concentrés sur les offres de deepfakes qui sont apparues cette année et nous avons manuellement recueilli les exemples les plus brillants de services de création de deepfakes.

Le marché des deepfakes sur le Dark Web : l’offre et la demande

Notre étude a révélé qu’il y a une forte demande de deepfakes et qu’elle dépasse largement l’offre. Les utilisateurs recherchent désespérément des individus qui accepteraient de créer de fausses vidéos. C’est assez perturbant puisque, comme nous le savons tous, la demande crée l’offre. Ainsi, nous pouvons prédire que nous allons effectivement constater une hausse significative du nombre d’incidents liés à des deepfakes de haute qualité dans un futur proche.

À en juger par le contenu des publications faites sur les forums du Dark Web, les cybercriminels cherchent à obtenir des résultats de haute qualité. Même si certains outils de création de deepfakes sont en libre accès, les escrocs ne recherchent que des créateurs qui peuvent produire des vidéos de qualité supérieure, avec un son parfait et aucun décalage entre l’image et le son.

Publications sur le Dark Web d’individus qui recherchent quelqu’un pour créer un deepfake. Source : Digital footprint intelligence

Une part significative des annonces de recherche de deepfakes est associée à telle ou telle arnaque de cryptomonnaie. Généralement, ces annonces sont connectées avec les arnaques qui offrent de la cryptomonnaie, mais nous avons parfois trouvé des annonces beaucoup plus étranges. Par exemple, nous avons vu une publication qui recherchait un professionnel qui pourrait créer une fausse vidéo de haute qualité afin de déjouer le système de reconnaissance faciale de Binance. Les cybercriminels essaient d’utiliser les deepfakes pour contourner les systèmes de sécurité biométrique et pour accéder aux comptes des victimes et voler directement les fonds.

Quant à l’offre, le coût relatif à la création ou à l’achat d’un deepfake tout prêt varie selon la difficulté du projet et la qualité du produit final. La notoriété de l’objet imité peut aussi influencer le prix (notamment s’il s’agit d’une célébrité ou d’un personnage politique). Le prix d’une fausse vidéo oscille entre 300 et 20 000 dollars par minute. Si l’acheteur est prêt à payer, les créateurs de deepfakes peuvent proposer des vidéos incroyablement réalistes et capables de retransmettre des émotions authentiques, ce qui rend impossible de les distinguer des images authentiques. Voici les exemples brillants que nous vous avons promis un peu plus tôt.

L’usurpation d’identité de Vitalik Buterin

Nous avons découvert un fournisseur qui proposait un service premium pour créer un deepfake de qualité supérieure du cofondateur d’Ethereum, Vitaly Buterin, avec une voix synthétisée et une vidéo. Il était clairement indiqué que la production n’allait pas seulement consister à doubler des vidéos existantes puisqu’il proposait en réalité un service complet de production. Le fournisseur expliquait que  » Vitalik est prêt à réaliser tous vos fantasmes « . Le temps de production de la vidéo était estimé à moins de deux semaines et la vidéo serait en anglais pour un prix de 20 000 dollars par minute.

Offre sur le Dark Web : un deepfake de Vitaly Buterin. Source : Digital footprint intelligence

Diffuser des arnaques de cryptomonnaie

Un autre fournisseur se vantait de pouvoir fabriquer des deepfakes de qualité supérieure afin de frauder avec de la cryptomonnaie. Ce service inclut la création de « flux de cryptomonnaie » ou de « faux dons de cryptomonnaie », une arnaque que les escrocs utilisent régulièrement pour obtenir de la cryptomonnaie en diffusant des fausses annonces de dons de cryptomonnaie qui promet aux utilisateurs de doubler le montant qu’ils récupèreraient. Pour créer ces deepfakes, les escrocs utilisent généralement des personnes connues et lancent de faux directs sur les réseaux sociaux. Le fournisseur montre même une page pré-générée qui demande aux victimes de faire un virement de 2500 à un million de XRP et qui leur promet de doubler le montant. Par conséquent, la victime peut perdre entre 1000 et 460 000 dollars.

Offre sur le Dark Web : un deepfake vidéo pour les flux de cryptomonnaie. Source : Digital footprint intelligence

De fausses vidéos pornographiques

La création de faux contenus pornographiques est un autre secteur de la production de deepfakes. Les faux contenus pornographiques consistent généralement à modifier les visages des personnes de vidéos réelles à des fins diverses et variées : tout simplement pour s’amuser, mais aussi à des fins beaucoup plus sinistres comme le harcèlement en ligne, la cyberintimidation ou le chantage.

Certains créateurs de deepfakes font des tutoriels qui expliquent comment produire de fausses vidéos pornographiques et donnent des conseils quant à la sélection du matériel source ou à la modification des visages afin d’avoir un résultat convaincant.

Publication sur le Dark Web avec un tutoriel qui explique la création d’un deepfake pornographique. Source : Digital footprint intelligence

Les conséquences possibles

L’utilisation de deepfakes à des fins criminelles peut avoir un impact sur nos vies de diverses façons. Cette menace est grave pour les individus, les entreprises et la société en général. De plus, le simple fait que n’importe quelle histoire publiée sur Internet ou article d’actualités puisse être un deepfake nous amène à nous méfier de toutes les informations publiquement accessibles et crée un sentiment d’insécurité et de paranoïa. Parmi les conséquences possibles des deepfakes nous trouvons :

La désinformation

Les deepfakes peuvent être utilisés pour diffuser en masse de fausses informations et pour manipuler l’opinion publique. Ils peuvent être utilisés pour créer de fausses actualités, de fausses propagandes politiques et des publicités mensongères. Ces actions pourraient avoir de graves conséquences sur la confiance du public.

Exemples : Une des situations les plus innocentes d’utilisation d’un deepfake était un reportage photo très réaliste à propos du tremblement de terre de la faille de Cascadia qui circulait sur le Web, un événement qui n’avait jamais eu lieu. Il y a eu un autre exemple beaucoup plus dangereux. Curieusement, il ne s’agit pas de l’utilisation d’un deepfake en tant que tel, mais du simple soupçon qu’un deepfake ait été utilisé au Gabon en 2018. À cette époque, une rumeur disait que le président du Gabon Ali Bongo était tombé gravement malade. En réponse, le gouvernement avait publié une vidéo que l’on pensait être un deepfake, ce qui avait causé encore plus de tensions et avait laissé croire que le gouvernement cachait quelque chose. C’est cette même raison qui a été donnée pour expliquer le coup d’état qui a eu lieu une semaine plus tard.

La fraude informatique

Les deepfakes sont utilisés pour différentes arnaques informatiques, qu’il s’agisse des arnaques de cryptomonnaie avec de faux dons ou d’actions qui se terminent par l’attaque ciblée d’une entreprise.

Exemples : Une vidéo artificiellement créée d’Elon Musk promettait des rendements élevés grâce à un plan d’investissement suspect de cryptomonnaie. Cette vidéo est devenue virale l’an dernier et de nombreux utilisateurs ont perdu tout leur argent. En 2019, les escrocs ont créé un deepfake audio convaincant avec la voix du PDG d’une grande entreprise énergétique britannique. Ils ont convaincu un cadre supérieur de l’entreprise d’effectuer un virement de 220 000 € à un fournisseur hongrois. Le responsable croyait suivre les instructions du PDG alors qu’il s’agissait en réalité d’un enregistrement faux.

L’atteinte à la réputation et le non-respect de la vie privée

Les deepfakes peuvent être utilisés pour nuire à la réputation d’une personne ou d’une entreprise. Par exemple, un deepfake vidéo peut être créé pour montrer quelqu’un en train de réaliser des activités illégales ou immorales. Cela peut porter atteinte à la réputation de la personne ou avoir un préjudice personnel.

Exemple : Des deepfakes vidéos de l’actrice Scarlett Johansson sont apparus en ligne et montraient son visage sur le corps d’actrices pornographiques dans des scènes explicites. Il s’agissait en réalité d’un deepfake créé à partir de photos personnelles divulguées plus tôt en 2011. Son représentant a expliqué qu’il s’agissait d’une  » violation flagrante  » de ses droits et a déclaré qu’elle étudiait les solutions légales à sa disposition pour obtenir le retrait du contenu. L’incident mentionné auparavant avec le PDG de l’entreprise énergétique a aussi provoqué une baisse importante de réputation puisque l’employé a été leurré et a transféré les fonds. Au fur et à mesure que l’arnaque se faisait connaître, les clients de l’entreprise s’inquiétaient de la capacité de l’entreprise à garantir la sécurité de leurs données et de leurs données financières.

L’usurpation d’identité

Nous avons déjà mentionné une annonce sur le Dark Web pour déjouer l’authentification biométrique. Certains services n’ont pas un système de vérification par reconnaissance faciale, mais les deepfakes peuvent servir même pour les systèmes habituels d’assistance à la clientèle. Voilà comment cette technique pourrait fonctionner. Tout d’abord, le cybercriminel obtiendrait les informations personnelles du propriétaire du compte ciblé : nom, adresse, numéro de téléphone, etc. Ensuite, il contacterait le fournisseur du service de paiement et expliquerait que le propriétaire du compte a perdu l’accès ou qu’il rencontre des difficultés techniques. Pour vérifier l’identité, le fournisseur du système de paiement va demander une vidéo ou un fichier aussi du propriétaire du compte en train de faire quelque chose de concret. Grâce aux données obtenues, l’escroc peut créer un deepfake vidéo ou audio et se faire passer pour le propriétaire du compte en train de réaliser l’action en question. De cette façon, le fournisseur du service de paiement pourrait être leurré et autoriser l’accès au compte et aux fonds associés.

Comment vous protéger

Le conseil le plus évident mais aussi le plus déprimant est tout simplement de « ne pas croire tout ce que vous voyez ou entendez ». Il y a tout de même un peu d’espoir. Ces mêmes technologies d’intelligence artificielle qui permettent la création de deepfakes, peuvent être utilisées pour faire la différence entre d’authentiques vidéos, photos et sons et des faux. Ces outils émergent peu à peu sur le marché. Espérons que les médias, les messageries et pourquoi pas les navigateurs soient équipés de ces technologies dans un futur proche.

Quant aux entreprises, nous pouvons leur donner un conseil pratique. À l’aide de notre solution Kaspersky Digital Footprint Intelligence vous pouvez, dans une certaine mesure, prédire certaines attaques de deepfakes contre votre personnel et/ou vos clients en sachant comment les activités des cybercriminels sur le Dark Web peuvent vous affecter. Cet outil peut, entre autres choses, vous fournir des informations presque en temps réel sur les événements de sécurité internationaux qui menacent particulièrement vos actifs, mais aussi suivre les données sensibles exposées sur les forums et au sein de communautés illégales dont l’accès est restreint. Cliquez ici pour en savoir plus sur ce service.