Federal Trade Commission (FTC) har til opgave at beskytte forbrugerne mod bedrageri og svindel, men stadig bedre AI-stemmekloning gør denne udfordring vanskeligere.
Selvom AI-stemmekloning har givet anledning til mange debatter, er der legitime brugsscenarier, som gør teknologien værd at forfølge.
Gendannelse af et personligt kommunikationsmiddel til en person, der har mistet sin stemme, eller giver stemme til en velkendt filmkarakter længe efter at den oprindelige stemmekunstner er død, er blot to eksempler. Sidste år brugte New Yorks borgmester Eric Adams en AI-klon af hans stemme at kommunikere på flere sprog med byens beboere.
Men teknologien har også gjort det meget lettere for svindlere og bedragere at vildlede intetanende mennesker, når de besvarer et telefonopkald. Sidste år blev en McAfee-rapport bemærkede en stigning i AI-stemmesvindel, og FTC advarede forbrugerne om "familie-nødsvindel", hvor en opkalder udgiver sig for at være et familiemedlem i nød.
Bortset fra at afslutte opkaldet og derefter ringe til personen på det nummer, du har til dem, er det virkelig svært at identificere en AI-stemme klon fra en rigtig person.
FTC har udsendt en udfordring til enkeltpersoner eller organisationer om at indsende "banebrydende ideer, der sigter mod at forhindre, overvåge og evaluere ondsindet brug af stemmekloningsteknologi".
Udfordringen løber fra 2. januar til 12. januar, og den vindende idé vil modtage en belønning på $25.000. Hvis du har nogle gode ideer, kan du Indsend dem her.
Indlæggene skal omhandle mindst et af følgende tre interventionspunkter, som FTC ønsker at opnå:
- Forebyggelse eller autentificering: Det skal være muligt at begrænse uautoriserede brugeres brug eller anvendelse af stemmekloningssoftware.
- Detektering eller overvågning i realtid: Det skal være muligt at opdage klonede stemmer eller brug af stemmekloningsteknologi.
- Evaluering efter brug: Det skal være muligt at kontrollere, om et lydklip indeholder klonede stemmer.
Samuel Levine, direktør for FTC's Bureau of Consumer Protection, sagde: "Vi vil bruge alle værktøjer til at forhindre skade på offentligheden som følge af misbrug af stemmekloningsteknologi."
Som en indikation af, hvor FTC kan flytte ansvaret for disse svindelnumre, sagde Stephanie T. Nguyen, FTC's Chief Technology Officer: "Udfordringen er udformet på en måde, der sikrer, at virksomheder er ansvarlige for første- og andenordenseffekterne af de produkter, de frigiver."
Det kan være svært eller endda umuligt at gøre. Selv hvis velrenommerede virksomheder tilføjer et "vandmærke" til den lyd, deres værktøjer genererer, er der allerede open source-løsninger, der er frit tilgængelige, og som svindlere kan bruge.
Hvis du har sendt en besked til nogen, lagt en besked på en telefonsvarer eller lagt en video af dig selv på YouTube, så kan alle bruge det til at klone din stemme.
Efterhånden som generativ AI forbedres, kan det bedste forsvar, vi har, være at blive meget mere skeptiske og ikke være for hurtige til at stole på vores øjne og ører.
