De Federal Communications Commission (FCC) heeft de taak om consumenten te beschermen tegen ongewenste communicatie. AI heeft het potentieel om haar inspanningen zowel te helpen als te belemmeren, aangezien robocalls een probleem blijven.
In 2022 ontving de FCC meer dan 120.000 klachten van mensen die geautomatiseerde oproepen ontvingen. De makers van de app YouMail, die bescherming biedt tegen oproepen, zeggen dat Amerikanen in 2022 het doelwit waren van meer dan 50 miljard oproepen.
FCC-voorzitter Jessica Rosenworcel aangekondigd op maandag dat ze een voorstel gaat opstellen om te onderzoeken hoe AI invloed zal hebben op illegale en ongewenste robocalls en sms'jes.
Robocalls kunnen al worden gericht op basis van demografische gegevens, maar stel je de verfijnde aanpassing voor die AI nu aan deze oproepen kan geven. In plaats van een standaardboodschap op te nemen, kan audio worden gemaakt die specifiek op een individu is gericht.
Als je wel eens te maken hebt gehad met vervelende robocalls, dan is het vooruitzicht dat deze door AI worden versterkt niet geweldig. Een bijkomend probleem is dat AI-audio zo goed wordt dat je misschien niet eens doorhebt dat je een oproep ontvangt.
Het is echter niet alleen maar slecht nieuws. In haar verklaring zei Rosenworcel: "Hoewel we ons bewust zijn van de uitdagingen die AI met zich mee kan brengen, is er ook een aanzienlijk potentieel om deze technologie te gebruiken ten gunste van communicatienetwerken en hun klanten - inclusief in de strijd tegen ongewenste robocalls en robotexts."
Doelstellingen van het voorgestelde onderzoek
Over het voorstel van Rosenworcel zal worden gestemd tijdens de openbare vergadering van de FCC in november. Als het wordt aangenomen, zal het worden onderzocht:
- Hoe AI-technologieën passen in de wettelijke verantwoordelijkheden van de Commissie onder de
Wet bescherming telefoongebruiker (TCPA) - Of en wanneer toekomstige AI-technologieën onder de TCPA vallen;
- Hoe AI bestaande regelgevingskaders en toekomstige beleidsformulering beïnvloedt;
- Als de Commissie zou moeten nadenken over manieren om de authenticiteit van legitieme
gegenereerde AI-spraak of tekstinhoud van betrouwbare bronnen; en, - Welke volgende stappen zijn eventueel nodig om dit onderzoek vooruit te helpen.
Het zal lastig worden om uit te vinden welke aspecten van AI onder de FCC moeten vallen. Onlangs heeft de burgemeester van New York Eric Adams kreeg kritiek te verduren over robotoproepen waarbij hij een vervalsing van zijn stem gebruikte om met de inwoners van de stad te communiceren.
Robocalls voor politieke of sociale communicatie zijn momenteel niet illegaal. Dus technisch gezien zaten de telefoontjes van Adams aan de goede kant van de wet.
Zouden zulke AI-robocalls een disclaimer moeten bevatten die de ontvanger informeert dat de audio door AI is gegenereerd? Als communicatiebedrijven AI zouden kunnen gebruiken om gesprekken te monitoren en zo robocalls te markeren, zou je dat goed vinden? Het zou waarschijnlijk betekenen dat jouw gesprek ook geanalyseerd zou worden.
In de verklaring van de FCC staat: "AI kan ook nieuwe uitdagingen op het gebied van privacy en veiligheid met zich meebrengen, onder andere door echte menselijke stemmen na te bootsen. Dit onderzoek is erop gericht deze voordelen en risico's te begrijpen, zodat de Commissie schade beter kan bestrijden, de voordelen van AI kan benutten en consumenten kan beschermen."
Op dit moment stelt de FCC een onderzoek voor om de rol van AI in communicatie te beginnen begrijpen, zodat ze uiteindelijk wetgeving kunnen invoeren.
Het is een begin, maar je moet je afvragen hoe traag bewegende bureaucratieën zoals de FCC het zullen bijbenen nu AI-technologie vooruitloopt op het beleid.
