La Federal Trade Commission (FTC) ha il compito di proteggere i consumatori da frodi e truffe, ma la clonazione vocale dell'intelligenza artificiale, in costante miglioramento, sta rendendo questa sfida più difficile.
Sebbene la clonazione vocale dell'intelligenza artificiale abbia alimentato numerosi dibattiti, esistono casi d'uso legittimi che rendono la tecnologia degna di essere perseguita.
Restituire un mezzo di comunicazione personale a chi ha perso la voce, oppure dare voce a un personaggio cinematografico familiare anche dopo la scomparsa del doppiatore originale, sono solo due esempi. L'anno scorso il sindaco di New York Eric Adams ha utilizzato un Clone AI della sua voce per comunicare in più lingue con i residenti della città.
Ma la tecnologia ha anche reso molto più facile per truffatori e frodatori ingannare persone ignare quando rispondono a una telefonata. L'anno scorso, un Rapporto McAfee ha rilevato un'impennata delle frodi vocali AI e la FTC ha messo in guardia i consumatori dalle "truffe per emergenze familiari", in cui chi chiama finge di essere un familiare in difficoltà.
Oltre a terminare la telefonata e a richiamare la persona al numero che avete indicato, è è davvero difficile identificare una voce AI clone di una persona reale.
L'FTC ha lanciato una sfida a individui o organizzazioni per presentare "idee innovative volte a prevenire, monitorare e valutare l'uso dannoso della tecnologia di clonazione vocale".
La sfida va dal 2 al 12 gennaio e l'idea vincente riceverà una ricompensa di $25.000 dollari. Se avete qualche idea brillante potete presentateli qui.
Le proposte devono riguardare almeno uno dei tre punti di intervento che la FTC intende raggiungere:
- Prevenzione o autenticazione: Deve fornire un modo per limitare l'uso o l'applicazione del software di clonazione vocale da parte di utenti non autorizzati.
- Rilevamento o monitoraggio in tempo reale: Deve fornire un modo per rilevare le voci clonate o l'uso della tecnologia di clonazione vocale.
- Valutazione post-utilizzo: Deve fornire un modo per verificare se un clip audio contiene voci clonate.
Samuel Levine, direttore del Bureau of Consumer Protection della FTC, ha dichiarato: "Useremo ogni strumento per prevenire i danni al pubblico derivanti dagli abusi della tecnologia di clonazione vocale".
A dimostrazione di come la FTC possa spostare la responsabilità di queste truffe, Stephanie T. Nguyen, Chief Technology Officer della FTC, ha dichiarato: "La sfida è strutturata in modo da garantire che le aziende siano responsabili degli effetti di primo e secondo ordine dei prodotti che rilasciano".
Potrebbe essere difficile, o addirittura impossibile, farlo. Anche se le aziende affidabili aggiungono un "watermark" all'audio generato dai loro strumenti, esistono già soluzioni open-source liberamente disponibili che i truffatori possono utilizzare.
Se avete inviato una nota vocale a qualcuno, lasciato un messaggio a un servizio di segreteria telefonica o pubblicato un vostro video su YouTube, chiunque potrebbe usarlo per clonare la vostra voce.
Con il miglioramento dell'IA generativa, la migliore difesa che abbiamo potrebbe essere quella di diventare molto più scettici e di non fidarci troppo velocemente dei nostri occhi e delle nostre orecchie.
