Skaberen af en ny AI-applikation kaldet FraudGPT hævder, at værktøjet kan hjælpe dig med at snyde folk for deres penge. Hvor effektivt det er til at gøre det, er tvivlsomt, men det er måske bare toppen af det mørke AI-isbjerg.
Hvis du beder ChatGPT om at skrive en e-mail, der udgiver sig for at være fra en bank, og som skal bruges i et phishing-svindel, vil den høfligt afvise det. FraudGPT, ChatGPT's onde tvilling, har ingen problemer med at hjælpe dig med at gøre det.
Proprietære AI-modeller som ChatGPT og Llama har sikkerhedsforanstaltninger på plads for at forhindre, at de bruges til ondsindede formål.
Skaberen af FraudGPT siger, at hans værktøj ikke har nogen skrupler, når det kommer til kriminalitet, og at det med glæde vil skrive hackingkode eller svindlermails. Og han vil med glæde sælge værktøjet til dig på abonnementsbasis.
WormGPT vs FraudGPT
I begyndelsen af juli blev der skabt frygt for onlinesikkerhed med udgivelsen af WormGPT. Den var baseret på en LLM kaldet GPT-J, men uden sikkerhedsforanstaltninger. Modellen var ikke nær så dygtig som GPT-3 eller GPT-4, så de frække e-mails og den kode, den skrev, endte med at være nogle ret grundlæggende ting.
Lige i hælene på den kom FraudGPT, som blev udgivet for ca. 2 uger siden. Skaberen af FraudGPT, som går under navnet CanadianKingpin12, hævder, at det nye værktøj er baseret på GPT-3 og kan "skabe malware, der ikke kan opdages".
Hvis du har lyst til det, skal du kontakte ham (eller hende?) på det mørke net og betale $200 for at få adgang til FraudGPT. CanadianKingpin12 hævder, og skærmbilleder ser ud til at bekræfte, at han allerede har haft over 3.000 salg.
Nogle videoer på Youtube giver dig en idé om, hvad FraudGPT kan gøre.
Så bortset fra ondsindede hensigter er videodemonstrationen lidt overvældende. Måske har han udeladt de bedste dele. Eller måske foregår der noget andet her.
Svindler FraudGPT svindlerne?
Vi har ikke leget med FraudGPT, men nogle cybersikkerhedsfolk, der har tjekket det ud, ligger ikke søvnløse over det.
Som svar på en anmodning til FraudGPT om at skrive en spam-sms for at snyde Bank of America-kunder gav den dette output: "Kære medlem af Bank of America: Tjek venligst dette vigtige link for at sikre sikkerheden på din online bankkonto."
Ja, ikke ligefrem Bond-skurke-niveau.
Melissa Bischoping, forsker hos cybersikkerhedsfirmaet Tanium, siger: "Jeg har ikke set noget, der tyder på, at det er skræmmende."
Hendes mening om folkene bag FraudGPT er, at de "udnytter folk, der ikke er sofistikerede nok til rent faktisk at skrive deres egen malware, men som gerne vil tjene hurtige penge."
Det er måske det, der sker her. Bare nogle wannabe-hackere/scammere, der lader som om, de er seje og bruger en fræk AI uden at få meget for pengene.
Men det peger på to bekymrende udviklinger. For det første arbejder folk på at lave AI-cyberkriminalitetsværktøjer som dette. Og for det andet er der et marked for dem.
Gå ind i DarkBART og DarkBERT
CanadianKingpin12 siger: "Men vent, der er mere!" Han siger, at han nu er klar til at tilbyde nye AI-værktøjer til cyberkriminalitet kaldet DarkBART og DarkBERT.
DarkBART er tilsyneladende en mørk version af Googles Bard AI. Vi gætter på, at den vil ligne FraudGPT, men være drevet af Googles LLM i stedet for GPT-3. Er den god til at være ond? Det ved vi ikke endnu.
DarkBERT er lidt mere interessant. Det er måske slet ikke et nyt værktøj, som CanadianKingpin12 har lavet. Det kan være, at han bare har fået fat i en LLM med det navn, som blev skabt af legitime Forskere i Sydkorea.
Den model blev trænet på en masse Dark Web-data, hvoraf mange ville være virkelig grimme ting, herunder en masse data om hacking, ransomware og svindel. Den blev designet med henblik på at opdage og håndtere cybertrusler.
Du kan anmode om adgang til værktøjet, men kun hvis du har en e-mailadresse fra en akademisk institution. Ikke ligefrem en idiotsikker screeningsmetode.
Enten har CanadianKingpin12 fået fat i DarkBERT og justeret det, eller også er det noget helt andet. Uanset hvad var han glad for at kunne vise det frem i denne video.
Morer han sig bare og nyder at snyde svindlerne? Det håber vi da. Men efterspørgslen efter og udviklingen af AI-cyberkriminalitetsværktøjer er ubestridelig. Efterhånden som lande bevæger sig for at gøre AI-våbenkan vi være sikre på, at kriminelle også tilføjer AI til deres arsenal.
Der findes sandsynligvis allerede nogle rigtig gode AI-cyberkriminalitetsværktøjer på Dark Web, hvis man ved, hvem man skal spørge. CanadianKingpin12 ser bare ikke ud til at være en af de personer.
