Federal Communications Commission (FCC) har kunngjort at bruk av AI-genererte stemmer i robocalls til forbrukere er ulovlig.
Fraværet av lovgivning som regulerer kunstig intelligens i robotsamtaler ble satt i fokus i forrige måned da en robocall med en kloning av president Bidens stemme frarådet folk å stemme i primærvalgene i New Hampshire.
Det pågår en kriminalsak mot selskapet som står bak robocall-samtalen, men bruken av en AI-generert stemme var ikke ulovlig på det tidspunktet samtalene ble foretatt.
FCCs avgjørelse gjør nå stemmekloningsteknologien som brukes i robocalls rettet mot forbrukere, ulovlig med umiddelbar virkning.
"Slemme aktører bruker AI-genererte stemmer i uønskede robotsamtaler for å utpresse sårbare familiemedlemmer, imitere kjendiser og feilinformere velgere. Vi advarer svindlerne bak disse robotsamtalene", sier FCCs styreleder Jessica Rosenworcel.
Tidligere kunne statsadvokater gå etter resultatet av en robocall, for eksempel svindelen eller svindelen de hadde til hensikt å begå. Nå er det ulovlig å bruke kunstig intelligens til å generere stemmen i samtalen, uavhengig av hensikten med samtalen.
I november 2023 startet FCC undersøkelser av hvordan kunstig intelligens kan brukes til å bekjempe ulovlige robocalls. Målet er å bruke kunstig intelligens til å oppdage ulovlige robotsamtaler før de når forbrukerne. Federal Trade Commission (FTC) har også tilbudt en $25 000 i belønning for potensielle AI-løsninger for å beskytte forbrukerne mot robotsamtaler.
FCC-dommen satte også grenser for bruken av AI-genererte stemmer i stedet for menneskelige agenter i telefonsamtaler med forbrukere. I avgjørelsen heter det at "innringere som bruker slik teknologi, må innhente uttrykkelig samtykke fra den oppringte parten på forhånd for å kunne starte slike samtaler, med mindre det foreligger en nødsituasjon eller et unntak".
FCCs unntak gir offentlige etater og politikere større spillerom til å bruke robocalls til ikke-kommersielle formål.
Ordfører Eric Adams brukte i fjor en AI-klone av stemmen sin til å tale til innbyggerne i New York City på flere språk som han ikke selv snakket. FCC-dommen utelukker ikke bruk av AI-genererte stemmer i disse tilfellene, noe som fortsatt reiser etiske spørsmål, om ikke juridiske.
