Federal Communications Commission (FCC) har meddelt, at brugen af AI-genererede stemmer i robocalls til forbrugere er ulovlig.
Fraværet af lovgivning, der regulerer AI i robotopkald, blev bragt i skarpt fokus i sidste måned, da en Robocall med en klon af præsident Bidens stemme afskrækkede folk fra at stemme ved primærvalgene i New Hampshire.
En kriminel undersøgelse af virksomheden bag dette robotopkald er i gang, men brugen af en AI-genereret stemme var ikke ulovlig på det tidspunkt, hvor opkaldene blev foretaget.
FCC's afgørelse gør nu stemmekloningsteknologi, der bruges i robocalls rettet mod forbrugere, ulovlig med øjeblikkelig virkning.
"Dårlige aktører bruger AI-genererede stemmer i uopfordrede robotopkald til at afpresse sårbare familiemedlemmer, efterligne berømtheder og misinformere vælgere. Vi sætter svindlerne bag disse robotopkald på plads," sagde FCC's formand Jessica Rosenworcel.
Tidligere kunne statsadvokater gå efter resultatet af et robotopkald, f.eks. det bedrageri eller den svindel, de havde til hensigt at begå. Nu er det ulovligt at bruge AI til at generere stemmen i opkaldet, uanset hensigten med opkaldet.
I november 2023 begyndte FCC at undersøge, hvordan AI kunne bruges til at bekæmpe ulovlige robotopkald. Målet er at bruge AI til at opdage ulovlige robotopkald, før de når ud til forbrugerne. Federal Trade Commission (FTC) har også tilbudt en $25.000 i belønning for potentielle AI-løsninger for at beskytte forbrugerne mod robocalls.
FCC's afgørelse satte også grænser for brugen af AI-genererede stemmer til at interagere telefonisk med forbrugerne i stedet for menneskelige agenter. Den fastslog, at "opkaldere, der bruger sådanne teknologier, skal indhente forudgående udtrykkeligt samtykke fra den kaldte part til at indlede sådanne opkald, medmindre der er tale om en nødsituation eller en undtagelse."
FCC's undtagelser giver offentlige myndigheder og politikere mere spillerum til at bruge robocalls til ikke-kommercielle formål.
Borgmester Eric Adams brugte sidste år kontroversielt en AI-klon af sin stemme til at tale til indbyggerne i New York City på flere sprog, som han ikke selv talte. FCC-dommen udelukker ikke brugen af AI-genererede stemmer i disse tilfælde, hvilket stadig rejser etiske spørgsmål, hvis ikke juridiske.
