Repérer les escroqueries en ligne est beaucoup plus difficile qu’auparavant. L’époque des princes nigérians, des courriels mal écrits et des fausses adresses web est révolue.
Les cybercriminels sont plus sophistiqués que jamais. Ils créent des courriels et des textes qui ressemblent à des avis d’expédition de grands détaillants, à des demandes d’aide financière de vos amis ou à une note de votre patron vous demandant de payer une facture en souffrance.
En effet, une escroquerie réussie peut rapporter gros. Selon la Commission fédérale du commerce, les consommateurs américains ont perdu 8,8 milliards de dollars dans des escroqueries en 2022.
L’escroquerie aidée par l’intelligence artificielle
Selon les experts, l’essor d’outils d’intelligence artificielle tels que ChatGPT ne fait que faciliter la tâche des escrocs, qui peuvent les utiliser pour créer des quantités massives de messages personnalisés et souvent bien rédigés. En outre, la technologie pourrait être utilisée pour créer des deepfake, qui tentent d’imiter une personne sous forme audio ou vidéo, en faisant croire qu’elle a dit ou fait quelque chose qu’elle n’a pas dit ou fait.
Les responsables d’une société de cybersécurité affirment que la solution à ce problème en pleine expansion pourrait également résider dans l’IA. Norton, fabricant de longue date de logiciels antivirus grand public, lance Norton Genie, un nouvel outil gratuit qui aide les gens à repérer les escroqueries et à éviter de se faire avoir.
Genie, qui a été lancé en accès anticipé mardi dans l’app store d’Apple et sur le site web de Norton, utilise l’intelligence artificielle pour analyser rapidement le texte, les adresses, les liens inclus et d’autres éléments d’un courriel, d’un message texte, d’un site web ou d’un message sur les médias sociaux afin de repérer les signaux d’alerte qui pourraient indiquer qu’il s’agit d’une escroquerie.
Combattre l’IA par l’IA
Michal Pechoucek, directeur de la technologie chez Gen, la société mère de Norton, a déclaré qu’au cours des dernières années, les attaquants ont délaissé les réseaux et les appareils pour s’en prendre aux personnes qui les utilisent par le biais d’escroqueries, d’hameçonnage et d’attaques d’ingénierie sociale.
« Ce que nous avons constaté avec l’IA dans son ensemble, c’est qu’elle rend ces attaques plus difficiles à détecter et plus dangereuses pour les utilisateurs », a-t-il déclaré lors d’une interview.
Par conséquent, il est devenu nécessaire de combattre l’IA par l’IA afin de protéger les consommateurs des menaces actuelles et de celles qui émergeront à l’avenir.
L’IA offre aux utilisateurs un moyen relativement rapide de comparer le contenu d’un courriel ou d’un texte aux millions d’échantillons collectés par le logiciel antivirus grand public de Norton et par d’autres opérations de cybersécurité. En fonction de ce qu’elle trouve, l’IA peut considérer l’e-mail ou le SMS comme une escroquerie probable ou comme suspect. Elle donnera également à l’utilisateur des conseils sur la marche à suivre et expliquera pourquoi elle pense que l’e-mail ou le message est malveillant.
Bien qu’il existe d’autres services destinés aux consommateurs qui font la même chose, ils ne travaillent pas en temps réel. Ils effectuent les recherches manuellement et donnent une réponse aux consommateurs dans les 24 heures, a déclaré Sahil Pruthi, directeur principal des produits de Gen. Mais d’ici là, dit-il, les consommateurs ont généralement déjà pris la décision de cliquer sur un lien potentiellement dangereux ou de répondre à un courriel douteux.
« Si vous pensez être victime d’une escroquerie, vous ne devriez pas avoir à appeler votre ami, votre frère, vous devriez pouvoir obtenir la réponse du bout des doigts et en quelques secondes », a déclaré Sahil Pruthi.
Efficace, mais pas encore parfait
Si Genie n’est pas encore rapide comme l’éclair, il est en grande partie efficace lorsqu’il s’agit de repérer les escroqueries. Nous avons eu l’occasion de tester la version application de Genie pendant quelques jours avant son lancement. Comme beaucoup d’applications et de logiciels en préversion, il est un peu lent et bogué, mais il a largement fait son boulot.
Pour vérifier si un message ou un courriel particulier est une escroquerie, les utilisateurs peuvent soit couper et coller le texte, soit déposer une capture d’écran dans l’application Genie. Voici des exemples d’un texte qui s’est avéré être une escroquerie, ainsi qu’un courriel que Genie a correctement signalé comme étant sûr – CNET
Un message envoyé sur un téléphone personnel informant que la « carte de débit avait été verrouillée » a été signalé comme une escroquerie à l’avance de frais, c’est-à-dire que les cybercriminels essaient d’inciter les gens à envoyer de l’argent à l’avance pour de faux produits ou services. Le texte copié-collé d’un courriel d’un escroc se faisant passer pour l’administration de la sécurité sociale a aussi été signalé comme ce type d’escroquerie, de même qu’une capture d’écran d’un courriel d’une personne se faisant passer pour un fournisseur d’antivirus de premier plan.
En revanche, des captures d’écran de publicités envoyées par Amazon et Starbucks ont été correctement identifiées comme légitimes, tout comme celle d’un message texte reçu de Google informant que notre mot de passe venait d’être modifié.
Le principal problème concernait un courriel qui ressemblait à un relevé de facturation d’un ancien fournisseur de câble. Lorsque le texte du corps de l’e-mail a été copié et collé, Genie a dit qu’il n’y avait « rien de suspect ». Mais lorsqu’on lui a fourni une capture d’écran de la partie supérieure de l’e-mail qui comprenait l’adresse e-mail de l’expéditeur (qui n’est manifestement pas une adresse officielle du câblo-opérateur), il a dit qu’il ne pouvait pas donner de conseils sur la base du texte, mais que « cela semblait suspect ».
Les captures d’écran d’autres fausses factures et notifications d’expédition ont également généré des réponses non concluantes du type « ça a l’air suspect » ou « pas sûr ».
Sahil Pruthi reconnaît que Genie n’est pas parfait (du moins pas encore), mais la perfection est un objectif que ses créateurs continuent de viser. En outre, l’IA continuera à devenir plus compétente et plus précise au fur et à mesure qu’elle « apprend » des échantillons d’escroqueries soumis par ses utilisateurs.
« Nous y arrivons lentement », a-t-il déclaré, ajoutant qu’actuellement, Genie obtient des résultats corrects dans 80 à 90 % des cas. « Et nous nous entraînons en permanence pour atteindre 100 %. »
