I en intervju med Fox NewsHaywood Talcove, VD för LexisNexis Risk Solutions regeringsdivision, säger att AI-relaterade bedrägerier kan kosta skattebetalarna hundratals miljarder till $1 biljoner under nästa år.
Talcove sa att LexisNexis Risk Solutions stött på situationer där AI-djupförfalskningar användes för att bedra statliga och statliga myndigheter. Till exempel använder bedragare påstås använda djupa falska tekniker för att extrahera pengar från Social Security, Medicare och Medicaid-användare.
"Att vara ett av de rikaste länderna i världen gör oss till ett enormt mål", sa Talcove till Fox News. "Den summa pengar som vi kommer att förlora under de kommande 12 månaderna, om vi inte gör någonting, kommer att få COVID-pandemin att se ut som en barnlek."
I stort sett alla personer som är närvarande på nätet kan utsättas för AI-assisterade bedrägerier. Det finns fall där bedragare använder falska röster, bilder och till och med videor för att posera som andra. Analytiker har fastställt att detta är en av teknikens mest omedelbara riskerna.
Den FBI varnade nyligen om AI-sextortion och hämndporr, där bedragare skapar falska explicita bilder för att utkräva lösensummor av människor.
Dessa vilseledande tekniker kan utvidgas till att omfatta nästan vad som helst, till exempel att associera människor med extremistiskt material eller kriminell verksamhet.
"AI-tekniken är redan så avancerad att om någon av dina uppgifter finns tillgänglig på webben eller i sociala medier kan den användas för att skapa en generativ AI-modell och kringgå de flesta av myndigheternas föråldrade autentiseringssystem", varnade Talcove.
Talcove framhöll behovet av åtgärder: "Jag misstänker att vi under de kommande 12 månaderna, om regeringen inte reagerar snabbt på detta, kommer att förlora över $1 biljoner till dessa kriminella grupper, varav några är belägna utanför landet."
På frågan om vad som behöver göras för att förhindra AI-bedrägerier svarade Talcove olycksbådande: "Det är redan för sent", och påpekade att AI-assisterade bedrägerier redan är vanligt förekommande och går obemärkta förbi.
Talcove avslutade med en alarmerande varning: "Det är inte längre en fråga om, utan snarare när och hur allvarligt dessa AI-drivna hot kommer att påverka deras byråer. Vi måste inse den krassa verkligheten att AI-bedrägerier inte är ett avlägset hot, utan ett hot som knackar på vår dörr."
Är dessa påståenden underbyggda?
AI-stödda bedrägerier kretsar främst kring djupa förfalskningar. Deep fakes sträcker sig från det godartade - som Elon Musk som bebis - till det skadliga - som den här falska bilden av en explosion i Pentagonvilket fick de amerikanska marknaderna att sjunka en kort stund när det spreds på sociala medier.
Det finns många berättelser om bedragare som riktar in sig på sårbara individer med djupa falska bedrägerier, inklusive en våg av så kallade "farföräldrabedrägerier." En amerikansk mamma var inblandad i en Falsk kidnappningsplandär bedragare krävde en lösensumma på $1 miljoner.
Kina lider också av AI-stödda bedrägerierbland annat en incident där en man samtalade med en AI-genererad videoavatar av sin vän.
AI blir allt bättre på att imitera människor - vilket är en av teknikens grundläggande egenskaper. Den Turing-test, som utvecklades av kryptanalytikern och matematikern Alan Turing på 1950-talet, bedömer en maskins förmåga att imitera människor. Realism är vad AI-tekniken strävar efter.
AI:s otroliga förmåga att kopiera, fejka och imitera mänskligt beteende är lätt att använda som vapen för bedragare och kommer oundvikligen att leda till nya tekniker för cyberbrottslighet.
AI kommer också att användas för att tackla dem i vad som sannolikt kommer att bli en kapprustning mellan cyberbrottslingar, brottsbekämpande myndigheter och säkerhetsföretag.
