I en Interview med Fox NewsHaywood Talcove, CEO for LexisNexis Risk Solutions' regeringsafdeling, siger, at AI-relateret svindel kan koste skatteyderne hundredvis af milliarder til $1 billioner i løbet af det næste år.
Talcove sagde, at LexisNexis Risk Solutions stødte på situationer, hvor AI deep fakes blev brugt til at bedrage offentlige og statslige organer. For eksempel bruger svindlere angiveligt deep fake-teknikker til at trække penge ud af brugere af Social Security, Medicare og Medicaid.
"At være et af de rigeste lande i verden gør os til et enormt mål", sagde Talcove til Fox News. "Det beløb, vi kommer til at miste i løbet af de næste 12 måneder, hvis vi ikke gør noget, vil få COVID-pandemien til at ligne en barneleg."
Stort set alle personer med en online-tilstedeværelse er modtagelige for AI-assisteret svindel. Der er tilfælde, hvor svindlere bruger falske stemmer, billeder og endda videoer til at udgive sig for at være andre. Analytikere har fastslået, at dette er en af teknologiens mest umiddelbare risici.
Den FBI advarede for nylig om AI-sextortion og hævnporno, hvor svindlere genererer falske eksplicitte billeder for at kræve løsepenge af folk.
Disse vildledende teknikker kan udvides til næsten hvad som helst, f.eks. at forbinde folk med ekstremistisk materiale eller kriminelle aktiviteter.
"AI-teknologien er allerede så avanceret, at hvis nogen af dine oplysninger er tilgængelige på nettet eller de sociale medier, kan de bruges til at skabe en generativ AI-model og omgå de fleste af regeringens forældede autentificeringssystemer", advarede Talcove.
Talcove understregede behovet for handling: "Jeg formoder, at vi i løbet af de næste 12 måneder vil miste over $1 billion til disse kriminelle grupper, hvoraf nogle befinder sig uden for landet, hvis regeringen ikke reagerer hurtigt på dette."
Som svar på, hvad der skal gøres for at forhindre AI-svindel, sagde Talcove ildevarslende: "Det er allerede for sent", og påpegede, at AI-assisteret svindel allerede er udbredt og går ubemærket hen.
Talcove sluttede af med en alarmerende advarsel: "Det er ikke længere et spørgsmål om, hvorvidt, men snarere hvornår og hvor alvorligt disse AI-drevne trusler vil påvirke deres agenturer. Vi må erkende den barske virkelighed, at AI-svindel ikke er en fjern trussel, men en, der banker på vores dør."
Er der belæg for disse påstande?
AI-understøttet svindel drejer sig primært om deep fakes. Deep fakes spænder fra det godartede - som Elon Musk som baby - til det skadelige - som dette falske billede af en eksplosion i Pentagonhvilket fik de amerikanske markeder til at falde kortvarigt, da det cirkulerede på de sociale medier.
Der er mange historier om svindlere, der går målrettet efter sårbare personer med dybt falske svindelnumre, herunder en bølge af såkaldte "Bedsteforældre-svindel." En amerikansk mor var indblandet i en falsk kidnapningsplanhvor svindlere krævede en løsesum på $1 mio.
Kina lider også af AI-understøttet svindelherunder en hændelse, hvor en mand talte med en AI-genereret videoavatar af sin ven.
AI bliver bedre og bedre til at efterligne mennesker - hvilket er en af teknologiens grundlæggende kvaliteter. Den Turing-testsom blev udviklet af kryptoanalytikeren og matematikeren Alan Turing i 1950'erne, vurderer en maskines evne til at efterligne mennesker. Realisme er det, AI-teknologien stræber efter.
AI's utrolige evne til at kopiere, forfalske og efterligne menneskelig adfærd bliver let et våben for svindlere og vil uundgåeligt føre til nye teknikker inden for cyberkriminalitet.
AI vil også blive brugt til at tackle dem i det, der sandsynligvis vil blive et våbenkapløb mellem cyberkriminelle, retshåndhævende myndigheder og sikkerhedsfirmaer.
