I en intervju med Fox NewsHaywood Talcove, administrerende direktør i LexisNexis Risk Solutions' offentlige avdeling, sier at AI-relatert svindel kan koste skattebetalerne hundrevis av milliarder til $1 billion i løpet av det neste året.
Talcove sier at LexisNexis Risk Solutions har opplevd situasjoner der AI deep fake har blitt brukt til å svindle offentlige etater. For eksempel bruker svindlere angivelig deep fake-teknikker for å få ut penger fra brukere av trygdeordninger, Medicare og Medicaid.
"At vi er et av de rikeste landene i verden, gjør oss til et enormt mål", sa Talcove til Fox News. "Pengebeløpet vi kommer til å tape i løpet av de neste 12 månedene, hvis vi ikke gjør noe, kommer til å få COVID-pandemien til å se ut som en barnelek."
Så godt som alle som er til stede på nettet, er utsatt for AI-assistert svindel. Det finnes tilfeller der svindlere bruker falske stemmer, bilder og til og med videoer for å utgi seg for å være andre. Analytikere har fastslått at dette er en av teknologiens mest umiddelbare risikoer.
Den FBI advarte nylig om AI-sextortion og hevnporno, der svindlere genererer falske eksplisitte bilder for å kreve løsepenger av folk.
Disse villedende teknikkene kan utvides til å omfatte nesten hva som helst, for eksempel å knytte personer til ekstremistisk materiale eller kriminell aktivitet.
"AI-teknologien er allerede så avansert at hvis noe av informasjonen din er tilgjengelig på nettet eller i sosiale medier, kan den brukes til å lage en generativ AI-modell og omgå de fleste av myndighetenes utdaterte autentiseringssystemer", advarte Talcove.
Talcove understreket behovet for handling: "Jeg mistenker at vi i løpet av de neste 12 månedene kommer til å tape over 1000 milliarder kroner til disse kriminelle gruppene, hvorav noen befinner seg utenfor landets grenser, hvis ikke myndighetene reagerer raskt."
På spørsmålet om hva som må gjøres for å forhindre AI-svindel, svarte Talcove illevarslende: "Det er allerede for sent", og påpekte at AI-assistert svindel allerede er utbredt og går ubemerket hen.
Talcove konkluderte med en alarmerende advarsel: "Det er ikke lenger et spørsmål om, men snarere når og hvor alvorlig disse AI-drevne truslene vil påvirke byråene deres. Vi må erkjenne at AI-svindel ikke er en fjern trussel, men en trussel som banker på døren vår."
Er disse påstandene underbygget?
AI-støttet svindel dreier seg først og fremst om dype forfalskninger. Deep fakes spenner fra det harmløse - som Elon Musk som baby - til det skadelige - som dette falske bildet av en eksplosjonen i Pentagonsom fikk de amerikanske markedene til å synke en kort stund da den ble spredt på sosiale medier.
Det er mange historier om svindlere som retter seg mot sårbare personer med falske svindelforsøk, inkludert en bølge av såkalte "besteforeldresvindel." En amerikansk mor ble innblandet i en falsk kidnappingsplanhvor svindlere krevde $1 millioner i løsepenger.
Kina lider også av AI-støttet svindelblant annet en hendelse der en mann snakket med en AI-generert videoavatar av vennen sin.
AI blir stadig bedre og bedre til å imitere mennesker - noe som er en av teknologiens grunnleggende egenskaper. Den Turing-test, utviklet av kryptoanalytikeren og matematikeren Alan Turing på 1950-tallet, vurderer en maskins evne til å imitere mennesker. Realisme er det AI-teknologien streber etter.
AIs utrolige evne til å kopiere, forfalske og imitere menneskelig atferd er et våpen som svindlere lett kan ta i bruk, og som uunngåelig vil føre til nye teknikker for datakriminalitet.
AI vil også bli brukt til å takle dem i det som sannsynligvis vil bli et våpenkappløp mellom nettkriminelle, politi og sikkerhetsselskaper.
