Le créateur d'une nouvelle application d'IA appelée FraudGPT affirme que cet outil peut vous aider à escroquer les gens en leur soutirant leur argent. On peut s'interroger sur son efficacité, mais il ne s'agit peut-être que de la partie émergée de l'iceberg sombre de l'IA.
Si vous demandez à ChatGPT d'écrire un e-mail prétendument envoyé par une banque pour l'utiliser dans une escroquerie par hameçonnage, il refusera poliment. FraudGPT, le jumeau maléfique de ChatGPT, n'a aucun problème à vous aider à le faire.
Les modèles d'IA propriétaires tels que ChatGPT et Llama sont dotés de garde-fous qui empêchent leur utilisation à des fins malveillantes.
Le créateur de FraudGPT affirme que son outil n'a aucune réticence à l'égard de la criminalité et qu'il écrira volontiers du code de piratage ou des courriels d'escrocs. Et il vous vendra volontiers cet outil sur la base d'un abonnement.
WormGPT vs FraudGPT
Au début du mois de juillet, la publication de WormGPT a suscité des craintes en matière de sécurité en ligne. Il était basé sur un LLM appelé GPT-J, mais dont les garde-fous avaient été supprimés. Le modèle était loin d'être aussi performant que GPT-3 ou GPT-4, de sorte que les courriels et le code malveillants qu'il écrivait étaient en fin de compte des choses assez basiques.
Dans la foulée, FraudGPT a été publié il y a environ deux semaines. Le créateur de FraudGPT, qui se fait appeler CanadianKingpin12, affirme que le nouvel outil est basé sur GPT-3 et peut "créer des logiciels malveillants indétectables".
Si vous êtes de cet avis, vous devrez le (ou la) contacter sur le dark web et payer $200 pour accéder à FraudGPT. CanadianKingpin12 affirme, et les captures d'écran semblent le confirmer, qu'il a déjà réalisé plus de 3 000 ventes.
Quelques vidéos sur Youtube vous donnent une idée de ce que FraudGPT peut faire.
Donc, toute intention malveillante mise à part, la démonstration vidéo est un peu décevante. Il a peut-être laissé de côté les meilleures parties. Ou peut-être qu'il se passe quelque chose d'autre ici.
FraudGPT arnaque-t-il les arnaqueurs ?
Nous n'avons pas utilisé FraudGPT, mais certains professionnels de la cybersécurité qui l'ont testé ne perdent pas le sommeil.
En réponse à une demande de FraudGPT d'écrire un message texte de spam pour escroquer les clients de Bank of America, il a produit le résultat suivant : "Cher membre de Bank of America : Veuillez consulter ce lien important afin d'assurer la sécurité de votre compte bancaire en ligne."
Oui, ce n'est pas exactement le niveau d'un méchant de Bond.
Melissa Bischoping, chercheuse à la société de cybersécurité Tanium, a déclaré : "Je n'ai rien vu qui puisse suggérer que c'est effrayant".
Son opinion sur les auteurs de FraudGPT est qu'ils "s'attaquent à des personnes qui ne sont pas assez sophistiquées pour écrire leurs propres logiciels malveillants, mais qui veulent se faire de l'argent rapidement".
C'est peut-être ce qui se passe ici. Des hackers/escrocs en herbe qui se prennent pour des durs à cuire en utilisant une IA coquine, mais qui n'en ont pas pour leur argent.
Mais elle met en évidence deux évolutions préoccupantes. Premièrement, des personnes travaillent à la création d'outils de cybercriminalité à base d'IA comme celui-ci. Et deuxièmement, il existe un marché prêt à les accueillir.
Entrer DarkBART et DarkBERT
CanadianKingpin12 dit : "Mais attendez, il y a plus !" Il dit qu'il est maintenant prêt à offrir de nouveaux outils d'IA pour la cybercriminalité appelés DarkBART et DarkBERT.
DarkBART est apparemment une version obscure de l'IA Bard de Google. Nous pensons qu'elle sera similaire à FraudGPT, mais qu'elle sera alimentée par le LLM de Google plutôt que par le GPT-3. Est-elle douée pour la méchanceté ? Nous ne le savons pas encore.
DarkBERT est un peu plus intéressant. Il ne s'agit peut-être pas d'un nouvel outil créé par CanadianKingpin12. Il se peut qu'il ait simplement mis la main sur un LLM de ce nom qui a été créé par des personnes légitimes. chercheurs en Corée du Sud.
Ce modèle a été formé à partir d'un ensemble de données du Dark Web, dont une grande partie est constituée d'éléments réellement nuisibles, notamment de données relatives au piratage, aux ransomwares et à l'escroquerie. Il a été conçu dans le but de détecter et de gérer les cybermenaces.
Vous pouvez demander l'accès à cet outil, mais uniquement si vous disposez d'une adresse électronique d'une institution académique. Ce n'est pas vraiment une méthode de sélection infaillible.
Soit CanadianKingpin12 a mis la main sur DarkBERT et l'a modifié, soit il s'agit de quelque chose d'entièrement différent. Quoi qu'il en soit, il a été heureux de le montrer brièvement dans cette vidéo.
S'amuse-t-il simplement et prend-il plaisir à arnaquer les escrocs ? Nous l'espérons. Mais la demande et le développement d'outils de cybercriminalité fondés sur l'IA sont incontestables. À l'heure où les pays s'efforcent de faire de l'IA un outil de lutte contre la criminalité. Armes IAil y a fort à parier que les criminels ajoutent également l'IA à leur arsenal.
Il existe probablement de très bons outils de cybercriminalité basés sur l'IA déjà disponibles sur le Dark Web, à condition de savoir à qui s'adresser. CanadianKingpin12 ne semble pas être l'une de ces personnes.
