Skaparen av en ny AI-applikation som heter FraudGPT hävdar att verktyget kan hjälpa dig att lura människor på deras pengar. Hur effektivt det är på att göra det är tveksamt men det kan bara vara toppen av det mörka AI-isberget.
Om du ber ChatGPT att skriva ett e-postmeddelande som utger sig för att vara från en bank för att användas i ett nätfiskebedrägeri kommer det artigt att avböja. FraudGPT, ChatGPT:s onda tvilling, har inga problem med att hjälpa dig att göra det.
Egenutvecklade AI-modeller som ChatGPT och Llama har skyddsräcken på plats för att förhindra att de används för skadliga syften.
Skaparen av FraudGPT säger att hans verktyg inte har några betänkligheter när det gäller brott och gärna skriver hackningskod eller e-postmeddelanden från bedragare. Och han säljer gärna verktyget till dig på prenumerationsbasis.
WormGPT vs FraudGPT
I början av juli väcktes farhågor om säkerheten på nätet i och med lanseringen av WormGPT. Den var baserad på en LLM som heter GPT-J men med skyddsräckena borttagna. Modellen var inte alls lika skicklig som GPT-3 eller GPT-4 så de stygga e-postmeddelandena och koden som den skrev slutade vara några ganska grundläggande saker.
Varmt på hälarna kom FraudGPT som släpptes för cirka 2 veckor sedan. Skaparen av FraudGPT, som går under handtaget CanadianKingpin12, hävdar att det nya verktyget är baserat på GPT-3 och kan "skapa oupptäckbar skadlig kod."
Om du är på det sättet benägen måste du kontakta honom (eller henne?) På den mörka webben och betala $200 för att få tillgång till FraudGPT. CanadianKingpin12 hävdar, och skärmdumpar verkar bekräfta, att han redan har haft över 3,000 XNUMX försäljningar.
Några videor på Youtube ger dig en uppfattning om vad FraudGPT kan göra.
Så bortsett från illvilligt uppsåt är videodemonstrationen lite underväldigande. Han kanske utelämnade de bästa delarna. Eller så är det något annat som pågår här.
Bedrar FraudGPT bedragarna?
Vi har inte spelat med FraudGPT men vissa cybersäkerhetsproffs som har kollat in det förlorar inte sömnen över det.
Som svar på en begäran om att FraudGPT skulle skriva ett skräppostmeddelande för att lura Bank of America-kunder gav det denna utgång: "Kära Bank of America-medlem: Vänligen kolla in den här viktiga länken för att säkerställa säkerheten för ditt bankkonto online."
Ja, inte precis Bondskurksnivå.
Melissa Bischoping, forskare vid cybersäkerhetsföretaget Tanium, sa: "Jag har inte sett något som tyder på att detta är skrämmande."
Hennes åsikt om personerna bakom FraudGPT är att de "utnyttjar människor som inte är tillräckligt sofistikerade för att faktiskt skriva sin egen skadliga kod, men som vill tjäna snabba pengar".
Det kan vara vad som händer här. Bara några wannabe-hackare / bedragare som låtsas att de är tuffa med en stygg AI utan att få mycket pengar för sina pengar.
Men det pekar på två oroande utvecklingar. För det första arbetar människor med att skapa AI-cyberbrottsverktyg som detta. Och för det andra finns det en färdig marknad för dem.
Ange DarkBART och DarkBERT
CanadianKingpin12 säger "Men vänta, det finns mer!" Han säger att han nu är redo att erbjuda nya AI-verktyg för cyberbrottslighet som heter DarkBART och DarkBERT.
DarkBART är tydligen en mörk version av Googles Bard AI. Vi gissar att det kommer att likna FraudGPT men drivs av Googles LLM snarare än GPT-3. Är det något bra på att vara dåligt? Vi vet inte ännu.
DarkBERT är lite mer intressant. Det kanske inte är något nytt verktyg som CanadianKingpin12 gjorde alls. Det kan bara vara så att han har fått tag på en LLM med det namnet som skapades av legitima forskare i Sydkorea.
Den modellen tränades på en massa Dark Web-data, varav en hel del skulle vara riktigt otäcka saker, inklusive mycket hacking, ransomware och svindeldata. Den utformades med avsikt att upptäcka och hantera cyberhot.
Du kan begära att få tillgång till verktyget, men bara om du har en e-postadress från en akademisk institution. Inte precis en idiotsäker screeningmetod.
Antingen fick CanadianKingpin12 tag på DarkBERT och justerade det, eller så är det något helt annat. Hursomhelst var han glad att visa upp det kort i den här videon.
Skrattar han bara och njuter av att lura bedragarna? Vi hoppas att det är så. Men efterfrågan på och utvecklingen av AI-verktyg för cyberbrottslighet är obestridlig. I takt med att länder går mot att göra AI-vapenkan vi vara säkra på att brottslingarna också lägger till AI i sin arsenal.
Det finns förmodligen några riktigt bra AI-cyberbrottsverktyg som redan finns tillgängliga på Dark Web om du vet vilka människor du ska fråga. CanadianKingpin12 verkar bara inte vara en av dessa människor.
