Federal Trade Commission (FTC) har som oppgave å beskytte forbrukerne mot svindel og bedrageri, men stadig bedre AI-stemmekloning gjør denne utfordringen vanskeligere.
Selv om AI-stemmekloning har skapt mange debatter, finnes det legitime bruksområder som gjør teknologien verdt å forfølge.
Gjenopprette et personlig kommunikasjonsmiddel for noen som har mistet stemmen, eller gir stemme til en kjent filmkarakter lenge etter at den opprinnelige stemmeartisten har gått bort, er bare to eksempler. I fjor brukte New Yorks borgermester Eric Adams en AI-klone av stemmen hans for å kommunisere på flere språk med byens innbyggere.
Men teknologien har også gjort det mye enklere for svindlere og bedragere å villede intetanende mennesker når de svarer på en telefonsamtale. I fjor ble en McAfee-rapport FTC har registrert en økning i svindel med AI-stemmer, og FTC har advart forbrukere mot "familiesvindel", der en innringer utgir seg for å være et familiemedlem i nød.
Bortsett fra å avslutte samtalen og deretter ringe personen på nummeret du har for dem, er det veldig vanskelig å identifisere en AI-stemme klone fra en ekte person.
FTC har sendt ut en oppfordring til enkeltpersoner eller organisasjoner om å sende inn "banebrytende ideer som tar sikte på å forebygge, overvåke og evaluere ondsinnet bruk av stemmekloningsteknologi"
Utfordringen varer fra 2. januar til 12. januar, og vinnerideen vil bli belønnet med $25 000. Hvis du har noen gode ideer, kan du send dem inn her.
Innspillene må ta for seg minst ett av følgende tre punkter som FTC ønsker å oppnå:
- Forebygging eller autentisering: Det må finnes en måte å begrense uautoriserte brukeres bruk eller anvendelse av programvaren for stemmekloning på.
- Deteksjon eller overvåking i sanntid: Det må være mulig å oppdage klonede stemmer eller bruk av stemmekloningsteknologi.
- Evaluering etter bruk: Det må finnes en måte å kontrollere om et lydklipp inneholder klonede stemmer.
Samuel Levine, direktør for FTCs Bureau of Consumer Protection, sa: "Vi vil bruke alle verktøy for å forhindre at misbruk av stemmekloningsteknologi skader publikum."
Som en indikasjon på hvor FTC kan flytte ansvaret for disse svindelforsøkene, sa Stephanie T. Nguyen, FTCs Chief Technology Officer: "Utfordringen er utformet på en måte som sikrer at selskapene er ansvarlige for første- og andreordenseffektene av produktene de lanserer."
Det kan være vanskelig, eller til og med umulig, å gjøre. Selv om anerkjente selskaper legger til et "vannmerke" i lyden som verktøyene deres genererer, finnes det allerede åpen kildekode-løsninger som svindlere kan bruke.
Hvis du har sendt noen et talebeskjed, lagt igjen en beskjed på en telefonsvarer eller lagt ut en video av deg selv på YouTube, kan hvem som helst bruke det til å klone stemmen din.
Etter hvert som generativ AI blir bedre, kan det beste forsvaret vi har, være å bli mye mer skeptiske og ikke være for raske til å stole på øynene og ørene våre.
