De Federal Trade Commission (FTC) is belast met het beschermen van consumenten tegen fraude en oplichting, maar het steeds beter klonen van AI-stemmen maakt deze uitdaging moeilijker.
Hoewel het klonen van AI-stemmen tot veel discussies heeft geleid, zijn er legitieme gebruikssituaties die de technologie de moeite waard maken.
Iemand die zijn stem kwijt is een persoonlijk communicatiemiddel teruggeven, of een stem geven aan een bekend filmpersonage lang nadat de oorspronkelijke stemartiest is overleden, zijn slechts twee voorbeelden. Vorig jaar gebruikte de burgemeester van New York, Eric Adams, een AI-kloon van zijn stem om in meerdere talen te communiceren met de inwoners van de stad.
Maar de technologie heeft het ook een stuk makkelijker gemaakt voor oplichters en fraudeurs om nietsvermoedende mensen te misleiden wanneer ze een telefoongesprek aannemen. Vorig jaar werd een McAfee-rapport constateerde een toename in AI-spraakfraude en de FTC waarschuwde consumenten voor "familienoodoplichting" waarbij een beller zich voordoet als een familielid in nood.
Anders dan het gesprek beëindigen en de persoon bellen op het nummer dat je voor hem of haar hebt, is het echt moeilijk om een AI-stem te identificeren kloon van een echt persoon.
De FTC heeft een oproep gedaan aan individuen of organisaties om "baanbrekende ideeën in te dienen gericht op het voorkomen, monitoren en evalueren van kwaadwillig gebruik van stemkloontechnologie".
De uitdaging loopt van 2 januari tot 12 januari en het winnende idee ontvangt een beloning van $25.000. Als je goede ideeën hebt, kun je stuur ze hier in.
De inzendingen moeten betrekking hebben op ten minste een van de volgende drie interventiepunten die de FTC wil bereiken:
- Preventie of authenticatie: Het moet een manier bieden om het gebruik of de toepassing van software voor het klonen van stemmen door onbevoegde gebruikers te beperken.
- Real-time detectie of bewaking: Het moet een manier bieden om gekloonde stemmen of het gebruik van stemkloontechnologie te detecteren.
- Evaluatie na gebruik: Het moet een manier bieden om te controleren of een audioclip gekloonde stemmen bevat.
Samuel Levine, directeur van het Bureau of Consumer Protection van de FTC: "We zullen elk middel inzetten om te voorkomen dat het publiek schade ondervindt van misbruik van technologie voor het klonen van stemmen."
Stephanie T. Nguyen, Chief Technology Officer van de FTC, zei: "De uitdaging is zo geformuleerd dat bedrijven verantwoordelijk zijn voor de eerste- en tweede-orde-effecten van de producten die ze uitbrengen."
Dat kan moeilijk of zelfs onmogelijk zijn. Zelfs als gerenommeerde bedrijven een "watermerk" toevoegen aan de audio die hun tools genereren, zijn er al open-source oplossingen vrij beschikbaar die oplichters kunnen gebruiken.
Als je iemand een spraakbericht hebt gestuurd, een bericht hebt achtergelaten op een antwoordapparaat of een video van jezelf op YouTube hebt gezet, dan kan iedereen dat gebruiken om je stem te klonen.
Naarmate generatieve AI verbetert, is de beste verdediging die we hebben misschien wel om veel sceptischer te worden en niet te snel op onze ogen en oren te vertrouwen.
