Le service Digital Footprint Intelligence de Kaspersky a relevé près de 3 000 messages sur le dark web traitant de l'utilisation de ChatGPT (entre autres LLM) à des fins illégales. Les acteurs de la menace explorent des scénarios allant de la création de copies malveillantes du chatbot au jailbreaking de sa version originale. Les comptes ChatGPT volés et les services proposant d’en générer en masse automatiquement inondent également les canaux du dark web, avec 3 000 publications supplémentaires.
En 2023, le service Kaspersky Digital Footprint Intelligence a déniché près de 3 000 messages sur le dark web, lesquels portent sur l'utilisation de ChatGPT à des fins illégales ou d'outils reposant sur des technologies d'IA. Même si les discussions ont atteint un pic en mars, elles continuent d’affluer.
« Les acteurs de la menace explorent activement divers scénarios pour exploiter ChatGPT et l'IA. Les sujets abordés incluent souvent le développement de logiciels malveillants et d'autres types d'utilisation illicite de modèles de langage, tels que le traitement de données utilisateur volées, l'analyse de fichiers provenant d'appareils infectés, etc. La popularité des outils d'IA a conduit à l'intégration de réponses automatisées de ChatGPT ou de ses équivalents dans certains forums cybercriminels. De plus, les acteurs de la menace ont tendance à partager des jailbreaks via divers canaux du dark web (des séries de prompts qui peuvent débloquer des fonctionnalités supplémentaires), et à concevoir des moyens d'exploiter des outils légitimes, tels que ceux pour le pentesting, basés sur des modèles à des fins malveillantes », a expliqué Alisa Kulishenko, analyste de l'empreinte numérique chez Kaspersky. Outre les chatbots et les intelligences artificielles mentionnés plus tôt, une attention considérable est accordée à des projets tels que XXXGPT, FraudGPT et d'autres. Ces modèles de langage sont commercialisés sur le dark web comme des alternatives à ChatGPT, se targuant de fonctionnalités supplémentaires et de l'absence des limitations initiales.
Des comptes ChatGPT volés à vendre
Une autre menace pour les utilisateurs et les entreprises est le marché parallèle des comptes payants de ChatGPT. En 2023, 3 000 messages (en plus de ceux cités précédemment) proposant de vendre des comptes ChatGPT ont été identifiés sur le dark web et les canaux Telegram associés. Les auteurs fournissent des comptes volés ou promeuvent des services d’inscription automatique, générant massivement des comptes sur demande. Il est à noter que certains messages ont été publiés à plusieurs reprises sur de multiples canaux du dark web.
« Si les outils d'IA ne sont pas dangereux en soi, les cybercriminels tentent de trouver des moyens efficaces d'utiliser les modèles de langage, alimentant ainsi une tendance à l'abaissement de la barrière d'entrée dans la cybercriminalité et, dans certains cas, à l'augmentation potentielle du nombre de cyberattaques. Cependant, il est peu probable que l'IA générative et les chatbots révolutionnent le paysage des attaques, du moins en 2024. La nature automatisée des cyberattaques implique souvent des défenses automatisées. Néanmoins, il est essentiel de rester informé des activités des attaquants pour devancer les adversaires au niveau de la cybersécurité des entreprises », déclare Alisa Kulishenko, analyste de l'empreinte numérique chez Kaspersky.
Une étude détaillée est présentée sur le site officiel de Kaspersky Digital Footprint Intelligence. Pour se protéger des menaces liées aux activités cybercriminelles dans le dark web, il convient de mettre en œuvre les mesures de sécurité suivantes :
● Utiliser Kaspersky Digital Footprint Intelligence pour aider les analystes de sécurité à explorer le point de vue d'un adversaire sur les ressources de son entreprise, et découvrir rapidement les vecteurs d'attaque potentiels dont il dispose. Cela permet également de prendre conscience des menaces existantes des cybercriminels afin d'ajuster vos défenses en conséquence ou de prendre des mesures de contre-attaque et d'élimination en temps opportun.
● Choisissez une solution de sécurité fiable pour les terminaux, telle que Kaspersky Endpoint Security for Business, qui est équipée de fonctions de détection basées sur le comportement et de contrôle des anomalies pour une protection efficace contre les menaces connues et inconnues.
● Des services dédiés peuvent aider à lutter contre les attaques de grande envergure. Le service Kaspersky Managed Detection and Response permet d'identifier et d'arrêter les intrusions à un stade précoce, avant que les auteurs n'atteignent leurs objectifs. En cas d'incident, le service Kaspersky Incident Response vous aidera à réagir et à minimiser les conséquences, notamment en identifiant les nœuds compromis et en protégeant l'infrastructure contre des attaques similaires à l'avenir.
