De Federal Communications Commission (FCC) heeft aangekondigd dat het gebruik van AI-stemmen in oproepen aan consumenten illegaal is.
Het ontbreken van wetgeving op het gebied van AI in robotoproepen kwam vorige maand scherp in beeld toen een robotoproep met een kloon van de stem van president Biden ontmoedigde mensen om te stemmen in de voorverkiezingen in New Hampshire.
Er loopt een strafrechtelijk onderzoek naar het bedrijf achter die oproep, maar het gebruik van een AI-stem was niet illegaal op het moment dat de oproepen werden gedaan.
De uitspraak van de FCC maakt de technologie voor het klonen van stemmen, die gebruikt wordt in op consumenten gerichte robocalls, met onmiddellijke ingang illegaal.
"Slechte actoren gebruiken AI-stemmen in ongevraagde oproepen om kwetsbare familieleden af te persen, beroemdheden na te doen en kiezers verkeerd te informeren. We waarschuwen de fraudeurs achter deze oproepen", aldus FCC-voorzitter Jessica Rosenworcel.
Voorheen konden de procureurs-generaal van de staat zich richten op het resultaat van een oproep, zoals de fraude of oplichting die ze van plan waren te plegen. Nu is het gebruik van AI om de stem in de oproep te genereren illegaal, ongeacht de intentie van de oproep.
In november 2023 is de FCC begonnen met onderzoeken hoe AI kan worden gebruikt om illegale telefoontjes tegen te gaan. Het doel is om AI te gebruiken om illegale oproepen te detecteren voordat ze consumenten bereiken. De Federal Trade Commission (FTC) heeft ook een $25.000 beloning voor potentiële AI-oplossingen om consumenten te beschermen tegen overvallen.
De uitspraak van de FCC legde ook beperkingen op aan het gebruik van AI-stemmen voor telefonische interactie met consumenten in plaats van menselijke agenten. De FCC stelde dat "bellers die dergelijke technologieën gebruiken vooraf de uitdrukkelijke toestemming van de gebelde partij moeten krijgen om dergelijke gesprekken te initiëren, tenzij er sprake is van een noodgeval of een uitzondering.
De uitzonderingen van de FCC geven overheidsdiensten en politici meer speelruimte om robocalls te gebruiken voor niet-commerciële doeleinden.
Burgemeester Eric Adams vorig jaar controversieel een AI-kloon van zijn stem gebruikte om inwoners van New York City toe te spreken in meerdere talen die hij niet sprak. De uitspraak van de FCC sluit het gebruik van AI-stemmen in deze gevallen niet uit, wat nog steeds ethische vragen oproept, zo niet juridische.
