Skaperen av en ny AI-applikasjon kalt FraudGPT hevder at verktøyet kan hjelpe deg med å svindle folk for pengene deres. Hvor effektivt det er til å gjøre det er tvilsomt, men det kan bare være toppen av det mørke AI-isfjellet.
Hvis du ber ChatGPT om å skrive en e-post som utgir seg for å være fra en bank og som skal brukes i en phishing-svindel, vil den høflig avslå. FraudGPT, ChatGPTs onde tvilling, har ingen problemer med å hjelpe deg med å gjøre det.
Proprietære AI-modeller som ChatGPT og Llama har beskyttelsesmekanismer på plass for å hindre at de brukes til ondsinnede formål.
Skaperen av FraudGPT sier at verktøyet hans ikke har noen skrupler når det gjelder kriminalitet, og at det gjerne skriver hackingkode eller svindler-e-post. Og han selger gjerne verktøyet til deg på abonnementsbasis.
WormGPT vs FraudGPT
I begynnelsen av juli ble det skapt frykt for sikkerheten på nettet da WormGPT ble lansert. Den var basert på en LLM kalt GPT-J, men uten sikkerhetsmekanismer. Modellen var ikke i nærheten av å være like dyktig som GPT-3 eller GPT-4, så de slemme e-postene og koden den skrev, endte opp med å være ganske enkle ting.
I hælene kom FraudGPT som ble utgitt for omtrent to uker siden. Skaperen av FraudGPT, som går under navnet CanadianKingpin12, hevder at det nye verktøyet er basert på GPT-3 og kan "skape skadelig programvare som ikke kan oppdages".
Hvis du er slik tilbøyelig, må du kontakte ham (eller henne?) På det mørke nettet og betale $200 for å få tilgang til FraudGPT. CanadianKingpin12 hevder, og skjermbilder ser ut til å bekrefte, at han allerede har hatt over 3 000 salg.
Noen videoer på Youtube gir deg et inntrykk av hva FraudGPT kan gjøre.
Så bortsett fra ondsinnede hensikter, er videodemonstrasjonen litt underveldende. Kanskje han utelot de beste delene. Eller kanskje det er noe annet som foregår her.
Svindler FraudGPT svindlerne?
Vi har ikke prøvd FraudGPT, men noen cybersikkerhetseksperter som har sjekket det ut, ligger ikke søvnløse over det.
Som svar på en forespørsel til FraudGPT om å skrive en spam-tekstmelding for å svindle Bank of America-kunder ga den denne utgangen: "Kjære Bank of America-medlem: Vennligst sjekk ut denne viktige lenken for å sikre sikkerheten til nettbankkontoen din."
Ja, ikke akkurat Bond-skurkenivå.
Melissa Bischoping, forsker ved cybersikkerhetsfirmaet Tanium, sier: "Jeg har ikke sett noe som tyder på at dette er skummelt."
Hennes oppfatning av folkene bak FraudGPT er at de "jakter på folk som ikke er sofistikerte nok til å skrive sin egen skadevare, men som ønsker å tjene raske penger".
Det er kanskje det som skjer her. Bare noen wannabe-hackere / svindlere som later som om de er tøffe ved hjelp av en slem AI uten å få mye for pengene.
Men det peker på to bekymringsfulle utviklingstrekk. For det første jobber folk med å lage slike AI-verktøy for cyberkriminalitet. Og for det andre finnes det et marked for dem.
Gå inn i DarkBART og DarkBERT
CanadianKingpin12 sier "Men vent, det er mer!" Han sier at han nå er klar til å tilby nye AI-verktøy for nettkriminalitet kalt DarkBART og DarkBERT.
DarkBART er tilsynelatende en mørk versjon av Googles Bard AI. Vi antar at den vil være lik FraudGPT, men drevet av Googles LLM i stedet for GPT-3. Er den god til å være slem? Det vet vi ikke ennå.
DarkBERT er litt mer interessant. Det er kanskje ikke noe nytt verktøy som CanadianKingpin12 laget i det hele tatt. Det kan bare være at han har fått tak i en LLM med det navnet som ble opprettet av legitime forskere i Sør-Korea.
Modellen ble trent på en mengde Dark Web-data, hvorav mye var virkelig ekle ting, inkludert mye data om hacking, løsepengevirus og svindel. Den ble utviklet med den hensikt å oppdage og håndtere cybertrusler.
Du kan be om tilgang til verktøyet, men bare hvis du har en e-postadresse fra en akademisk institusjon. Ikke akkurat en idiotsikker screeningmetode.
Enten har CanadianKingpin12 fått tak i DarkBERT og justert det, eller så er det noe helt annet. Uansett var han glad for å vise det frem kort i denne videoen.
Latter han bare og koser seg med å svindle svindlerne? Vi håper det. Men etterspørselen etter og utviklingen av AI-verktøy for cyberkriminalitet er ubestridelig. I takt med at land går over til å gjøre AI-våpenkan vi være sikre på at kriminelle også tar i bruk kunstig intelligens.
Det finnes sannsynligvis noen virkelig gode AI-verktøy for nettkriminalitet som allerede er tilgjengelige på det mørke nettet, hvis du vet hvem du skal spørre. CanadianKingpin12 ser bare ikke ut til å være en av disse menneskene.
