Federal Communications Commission (FCC) har meddelat att det är olagligt att använda AI-genererade röster i robotsamtal till konsumenter.
Avsaknaden av lagstiftning som reglerar AI i robotsamtal uppmärksammades förra månaden när en Robocall med en klon av president Bidens röst avskräckte folk från att rösta i primärvalet i New Hampshire.
En brottsutredning mot företaget bakom robotsamtalet pågår, men användningen av en AI-genererad röst var inte olaglig vid den tidpunkt då samtalen gjordes.
FCC:s beslut gör nu röstkloningsteknik som används i robocalls riktade till konsumenter olaglig med omedelbar verkan.
"Dåliga aktörer använder AI-genererade röster i oönskade robotsamtal för att utpressa sårbara familjemedlemmar, imitera kändisar och felinformera väljare. Vi varnar bedragarna bakom dessa robotsamtal", säger FCC:s ordförande Jessica Rosenworcel.
Tidigare kunde delstatsåklagare rikta in sig på resultatet av ett robotsamtal, till exempel det bedrägeri eller den bluff som de avsåg att begå. Nu är det olagligt att använda AI för att generera rösten i samtalet, oavsett avsikten med samtalet.
I november 2023 inledde FCC en undersökning av hur AI skulle kunna användas för att bekämpa olagliga robotsamtal. Syftet är att använda AI för att upptäcka olagliga robotsamtal innan de når konsumenterna. Federal Trade Commission (FTC) har också erbjudit en $25.000 i belöning för potentiella AI-lösningar för att skydda konsumenter från robotsamtal.
FCC:s beslut innebar också begränsningar för användningen av AI-genererade röster för att interagera med konsumenter i stället för mänskliga agenter. I beslutet anges att "uppringare som använder sådan teknik måste få ett uttryckligt förhandsmedgivande från den uppringda parten för att inleda sådana samtal, om det inte finns ett nödläge eller undantag".
FCC:s undantag ger offentliga myndigheter och politiker större utrymme att använda robocalls för icke-kommersiella ändamål.
Borgmästare Eric Adams använde kontroversiellt en AI-klon av sin röst förra året för att tala till New York Citys invånare på flera språk som han inte talade. FCC-beslutet utesluter inte användningen av AI-genererade röster i dessa fall, vilket fortfarande väcker etiska frågor, om inte juridiska.
