De maker van een nieuwe AI-toepassing genaamd FraudGPT beweert dat de tool je kan helpen mensen hun geld afhandig te maken. Hoe effectief dat is, is nog maar de vraag, maar het zou wel eens het topje van de duistere AI-ijsberg kunnen zijn.
Als je ChatGPT vraagt om een e-mail te schrijven die van een bank afkomstig lijkt te zijn om te worden gebruikt in een phishing-zwendel, zal het dat beleefd weigeren. FraudGPT, de kwaadaardige tweelingbroer van ChatGPT, heeft er geen probleem mee om je daarbij te helpen.
Eigen AI-modellen zoals ChatGPT en Llama hebben afschermingen om te voorkomen dat ze worden gebruikt voor kwaadaardige doeleinden.
De maker van FraudGPT zegt dat zijn tool geen compuncties heeft als het aankomt op criminaliteit en graag hacking code of scammer e-mails schrijft. En hij verkoopt de tool graag aan je op abonnementsbasis.
WormGPT vs FraudeGPT
Begin juli werd de angst voor online beveiliging aangewakkerd door de uitgave van WormGPT. Het was gebaseerd op een LLM met de naam GPT-J, maar zonder de vangrails. Het model was bij lange na niet zo bedreven als GPT-3 of GPT-4, dus de ondeugende e-mails en code die het schreef, waren uiteindelijk vrij eenvoudig.
Vlak daarna kwam FraudGPT, dat ongeveer 2 weken geleden werd uitgebracht. De maker van FraudGPT, bekend onder de naam CanadianKingpin12, beweert dat de nieuwe tool is gebaseerd op GPT-3 en "ondetecteerbare malware kan maken".
Als je die neiging hebt, moet je contact met hem (of haar?) opnemen op het dark web en $200 betalen om toegang te krijgen tot FraudGPT. CanadianKingpin12 beweert, en screenshots lijken dit te bevestigen, dat hij al meer dan 3.000 verkopen heeft gehad.
Enkele video's op Youtube geven je een idee van wat FraudGPT kan doen.
Dus afgezien van kwade bedoelingen is de videodemonstratie een beetje ondermaats. Misschien heeft hij de beste delen weggelaten. Of misschien is hier iets anders aan de hand.
Is FraudGPT de oplichters aan het oplichten?
We hebben nog niet gespeeld met FraudGPT, maar sommige cyberbeveiligingsprofessionals die het hebben uitgeprobeerd, liggen er niet wakker van.
In antwoord op een verzoek aan FraudGPT om een spambericht te schrijven om klanten van Bank of America op te lichten, gaf het deze uitvoer: "Geacht Bank of America-lid: Bekijk deze belangrijke link om de veiligheid van uw online bankrekening te garanderen."
Ja, niet echt Bond-schurkenwerk.
Melissa Bischoping, een onderzoeker bij cyberbeveiligingsbedrijf Tanium, zei: "Ik heb niets gezien dat erop wijst dat dit eng is."
Haar mening over de mensen achter FraudGPT is dat ze "azen op mensen die niet geavanceerd genoeg zijn om hun eigen malware te schrijven, maar snel geld willen verdienen".
Dat is misschien wat hier gebeurt. Gewoon een paar wannabe hackers/scammers die doen alsof ze stoer zijn en een ondeugende AI gebruiken zonder veel waar voor hun geld te krijgen.
Maar het wijst wel op twee zorgwekkende ontwikkelingen. Ten eerste zijn er mensen bezig om dit soort AI-werktuigen voor cybercriminaliteit te maken. En ten tweede is er een markt voor.
Voer DarkBART en DarkBERT in
CanadianKingpin12 zegt "Maar wacht, er is meer!". Hij zegt dat hij nu klaar is om nieuwe AI-tools voor cybercriminaliteit aan te bieden, genaamd DarkBART en DarkBERT.
DarkBART is blijkbaar een donkere versie van Google's Bard AI. We denken dat het vergelijkbaar zal zijn met FraudGPT, maar dan aangedreven door Google's LLM in plaats van GPT-3. Is het goed in slecht zijn? Dat weten we nog niet.
DarkBERT is een beetje interessanter. Het is misschien helemaal geen nieuwe tool die CanadianKingpin12 heeft gemaakt. Het kan gewoon zijn dat hij een LLM in handen heeft met die naam die is gemaakt door legitieme onderzoekers in Zuid-Korea.
Dat model werd getraind op een heleboel Dark Web-gegevens, waarvan een heleboel echt smerig spul zou zijn, waaronder een heleboel gegevens over hacken, ransomware en oplichting. Het werd ontworpen met de bedoeling om cyberbedreigingen te detecteren en af te handelen.
Je kunt toegang tot de tool aanvragen, maar alleen als je een e-mailadres van een academische instelling hebt. Niet bepaald een waterdichte screeningmethode.
Of CanadianKingpin12 heeft DarkBERT in handen gekregen en het aangepast, of het is iets heel anders. Hoe dan ook, hij liet het graag even zien in deze video.
Is hij gewoon aan het lachen en geniet hij ervan om de oplichters op te lichten? We hopen van wel. Maar de vraag naar en ontwikkeling van AI-gereedschappen voor cybercriminaliteit staat buiten kijf. Naarmate landen AI-wapensWe kunnen er zeker van zijn dat criminelen ook AI aan hun arsenaal toevoegen.
Er zijn waarschijnlijk al hele goede AI cybercrime tools beschikbaar op het Dark Web als je weet aan welke mensen je het moet vragen. CanadianKingpin12 lijkt niet een van die mensen te zijn.
