Federal Trade Commission (FTC) har till uppgift att skydda konsumenterna från bedrägerier och svindlerier, men allt bättre AI-röstkloning gör denna utmaning svårare.
Även om kloning av AI-röster har gett upphov till många debatter finns det legitima användningsområden som gör tekniken värd att följa upp.
Återställa ett personligt kommunikationsmedel för någon som har förlorat sin röst, eller ger röst åt en välkänd filmkaraktär långt efter att den ursprungliga röstartisten har gått bort, är bara två exempel. Förra året använde New Yorks borgmästare Eric Adams en AI-klon av hans röst att kommunicera på flera språk med stadens invånare.
Men tekniken har också gjort det mycket lättare för bedragare att vilseleda intet ont anande människor när de svarar i telefon. Förra året blev en McAfee-rapport noterade en ökning av bedrägerier med AI-röster och FTC varnade konsumenterna för "family emergency scams" där den som ringer utger sig för att vara en familjemedlem i nöd.
Förutom att avsluta samtalet och sedan ringa personen på det nummer du har för dem, är det riktigt svårt att identifiera en AI-röst klon från en riktig person.
FTC har utfärdat en utmaning till individer eller organisationer att lämna in "banbrytande idéer som syftar till att förhindra, övervaka och utvärdera skadlig användning av röstkloningsteknik"
Utmaningen pågår från den 2 januari till den 12 januari och den vinnande idén belönas med $25.000. Om du har några smarta idéer kan du skicka in dem här.
Inläggen måste behandla minst en av följande tre punkter som FTC vill uppnå:
- Förebyggande eller autentisering: Det måste finnas ett sätt att begränsa obehöriga användares användning eller tillämpning av programvara för röstkloning.
- Detektering eller övervakning i realtid: Det måste finnas ett sätt att upptäcka klonade röster eller användning av röstkloningsteknik.
- Utvärdering efter användning: Det måste finnas ett sätt att kontrollera om ett ljudklipp innehåller klonade röster.
Samuel Levine, chef för FTC:s Bureau of Consumer Protection, sade: "Vi kommer att använda alla verktyg för att förhindra att allmänheten skadas av missbruk av röstkloningsteknik."
Som en indikation på var FTC kan komma att flytta ansvaret för dessa bedrägerier sa Stephanie T. Nguyen, FTC:s Chief Technology Officer: "Utmaningen är utformad på ett sätt som säkerställer att företag är ansvariga för första- och andra ordningens effekter av de produkter de släpper."
Det kan vara svårt, eller till och med omöjligt att göra. Även om välrenommerade företag lägger till en "vattenstämpel" i det ljud som deras verktyg genererar finns det redan lösningar med öppen källkod som är fritt tillgängliga och som bedragare kan använda.
Om du har skickat ett röstmeddelande till någon, lämnat ett meddelande på en telefonsvarare eller lagt upp en video av dig själv på YouTube, så kan vem som helst använda det för att klona din röst.
I takt med att generativ AI förbättras kan det bästa försvaret vi har vara att bli mycket mer skeptiska och inte vara för snabba att lita på våra ögon och öron.
