Le darkweb s’empare de l’IA : ces expérimentations que

C’est une étude inquiétante que révèle le géant de la cybersécurité Kaspersky. Il fait état de menaces sérieuses provenant de hackers sévissant sur le darkweb qui se servent des chatbots d’OpenAI ou d’autres outils reposant sur des technologies d’IA à des fins illégales.

Près de 3000 messages ont ainsi été repérés par le service Kaspersky Digital Footprint Intelligence, avec un pic significatif au mois de mars lorsque ChatGPT a été popularisé. Ces publications portent essentiellement sur la création de copies malveillantes du célèbre chatbot, mais ils expliquent aussi comment jailbreaker purement et simplement la version originale du fameux agent conversationnel.

Dans un message, il était par exemple expliqué comment utiliser GPT pour générer des logiciels malveillants polymorphes qui peuvent modifier leur code tout en conservant leur fonctionnalité de base intacte. L’auteur du message proposait d’utiliser l’API OpenAI pour générer un code doté d’une fonctionnalité spécifique. Il pourrait ainsi accéder à un domaine légitime (openai.com) à partir d’un appareil infecté, puis générer et exécuter un code malveillant, en contournant plusieurs contrôles de sécurité standard.

Kaspersky alerte sur le jailbreaking

Par ailleurs,  » les acteurs de la menace ont tendance à partager des jailbreaks via divers canaux du dark web (des séries de prompts qui peuvent débloquer des fonctionnalités supplémentaires), et à concevoir des moyens d’exploiter des outils légitimes, tels que ceux utilisés pour le pentesting (test d’intrusion ndlr), basés sur des modèles à des fins malveillantes« , détaille Alisa Kulishenko, analyste de l’empreinte numérique chez Kaspersky.

L’étude effectuée par l’éditeur antivirus Kaspersky pointe également les problèmes liés aux comptes payants de ChatGPT et indique que 3000 messages de plus ont été identifiés sur le darkweb et certains canaux Telegram sur lesquels étaient mis en vente des comptes volés ou des services d’inscription automatique.

Parallèlement, Kaspersky met en garde contre les modèles alternatifs à OpenAI qui fleurissent sur le web et proposent des services sans les limitations de l’original et avec des fonctionnalités supplémentaires. Ils s’appellent XXXGPT, FraudGPT ou encore WormGPT, fermé au mois d’août en raison de nombreux rapports décrivant le projet comme clairement malveillant et dangereux.