Un video falso con Kari Lake, creato dall'agenzia di stampa digitale Arizona Agenda, è apparso online.
Nel video, un lago generato dall'intelligenza artificiale sostiene l'Agenda dell'Arizona, affermando: "Abbonatevi all'Agenda dell'Arizona per avere notizie reali e incisive".
Poi consegna un messaggio sul ruolo dell'intelligenza artificiale nelle elezioni: "E un'anteprima della terrificante intelligenza artificiale in arrivo alle prossime elezioni, come questo video, che è un deepfake dell'AI che l'Agenda dell'Arizona ha realizzato per mostrarvi quanto sia brava questa tecnologia".
Il video ha ingannato persino Hank Stephenson, cofondatore e giornalista di Arizona Agenda, che ha ammesso: "Quando abbiamo iniziato a farlo, pensavo che sarebbe stato così brutto da non ingannare nessuno, ma sono rimasto a bocca aperta".
Il video, per quanto forse benevolo nelle sue intenzioni, si è ritorto contro di noi in modo spettacolare. Il team di Lakes ha risposto con una lettera di diffida, chiedendo la rimozione immediata dei video da tutte le piattaforme. Hanno avvertito che la mancata ottemperanza avrebbe comportato un'azione legale.
Nonostante le pressioni legali, Stephenson ha rivelato di essersi consultato con gli avvocati su come rispondere. Ritiene che queste falsificazioni profonde siano strumenti vitali per l'apprendimento, affermando: "Combattere questa nuova ondata di disinformazione tecnologica in questo ciclo elettorale è compito di tutti noi".
È possibile vedere il video qui sotto. La descrizione dice: "Questo è un video falso di Kari Lake. NON è reale ed è stato creato senza il permesso della signora Lake. La signora Lake non approva in alcun modo la nostra pubblicazione".
Un commento corretto? Forse, ma creare falsi profondi autopromozionali di persone senza il loro permesso non è il modo migliore per farlo.
Come ha detto un commentatore su Reddit, "Non importa chi sia - i deepfake fatti per ingannare le persone in termini di politica sono pericolosi e sbagliati".
Il problema si estende oltre i singoli casi, come si vede nell'arena politica più ampia. Lo stesso Donald Trump ha accusato in passato gli oppositori di usare Contenuti generati dall'intelligenza artificiale contro di lui, dimostrando come le finte profonde siano sia un'arma che una vulnerabilità.
Uso improprio dell'intelligenza artificiale nelle elezioni è una tendenza internazionale, che colpisce Paesi dalla Slovacchia all'Indonesia. Le tattiche digitali per influenzare i risultati politici attraverso l'inganno sono diventate più varie e realistiche.
Regolamenti, compreso il Commissione federale delle comunicazioni (FTC) vietando alcune robocall generate dall'IA e formando una task force bipartisan per esplorare la regolamentazione dell'IA, indicano passi avanti per affrontare il problema dei falsi profondi.
Tuttavia, con la tecnologia dell'intelligenza artificiale che avanza rapidamente, la FEC deve ancora stabilire le regole che disciplinano l'intelligenza artificiale negli annunci politici.
L'intelligenza artificiale si muove più velocemente dei legislatori e la prossima controversia è probabilmente imminente.
