La Cina si è mossa più rapidamente di qualsiasi governo occidentale per quanto riguarda la regolamentazione dell'IA, ma le recenti impennate delle frodi guidate dall'IA suggeriscono che la sola regolamentazione è insufficiente senza solide strategie di applicazione.
Regolamenti cinesi sulla Amministrazione della sintesi profonda dei servizi di informazione su Internet è entrato in vigore il 10 gennaio 2023, vietando di fatto l'uso dell'IA generativa per impersonare o ingannare.
Questo include informazioni false generate con modelli linguistici come ChatGPT e falsi profondi generati con AI text-to-image come Viaggio intermedio e DALL-E.
ChatGPT di OpenAI e altre popolari IA non sono ufficialmente disponibili in Cina, ma molti accedono a questi strumenti tramite reti private virtuali (VPN).
Il governo cinese si è mosso rapidamente per regolamentare l'IA al fine di prevenire "minacce esistenziali" al proprio regime socialista e ridurre l'impatto di frodi e crimini informatici.
Tuttavia, fonti interne alla Cina hanno affermato che Le frodi AI sono diffuse nel Paesecon conseguente giro di vite sulle persone che generano contenuti falsi.
Ad esempio, un caso ha riguardato un uomo che ha ricevuto una chiamata da un truffatore sull'applicazione di messaggistica cinese WeChat. I truffatori hanno replicato la voce e il volto dell'amico dell'uomo e lo hanno convinto a trasferire la somma equivalente di $600.000 su un altro conto bancario.
L'uomo era convinto fino a quando non ha chiamato il suo amico per confermare il trasferimento. "Abbiamo avuto una videochat e ho riconosciuto il volto e la voce nel video; per questo ho abbassato la guardia", ha detto alle autorità.
In effetti, gli episodi di frode all'intelligenza artificiale sono stati così numerosi che l'hashtag #AIFraudIsEruptingAcrossChina ha iniziato a comparire sulla piattaforma cinese di social media Weibo. Da allora, però, l'hashtag è scomparso, facendo pensare che le autorità stiano cercando di censurare la discussione.
La normativa cinese sull'IA è una guida utile per gli altri Paesi
La rapidità dell'azione cinese in materia di regolamentazione è in parte attribuita all'approccio del governo alla censura. Al contrario, lI legislatori dell'UE e degli Stati Uniti stanno lottando per delineare i rischi dei falsi profondi dall'"uso corretto" per la libertà di parola e la satira.
I falsi profondi vanno dalla rappresentazione di Elon Musk in abito indiano per generare foto delle esplosioni al Pentagono - e separare ogni caso in diritto è eccezionalmente difficile.
Una foto di Elon Musk in abiti indiani sta diventando virale in India. 🇮🇳 pic.twitter.com/LD1KuIAHET
- DogeDesigner (@cb_doge) 3 giugno 2023
Nonostante le differenze sociopolitiche, gli analisti sostengono che dovremmo monitorare da vicino l'impatto delle normative cinesi sull'IA.
Ad esempio, Graham Webster, un ricercatore dell'Università di Stanford che segue gli sviluppi della politica digitale cinese, ha dichiarato al Wall Street Journal"La Cina sta imparando con il mondo a conoscere i potenziali impatti di queste cose, ma sta procedendo più rapidamente con le regole obbligatorie e l'applicazione" e "Le persone di tutto il mondo dovrebbero osservare ciò che accade".
L'umorismo dei deep fake satirici potrebbe esaurirsi se le frodi legate ai deep fake aumenteranno di frequenza e gravità, come sembra inevitabile. La regolamentazione dell'IA negli Stati Uniti, nell'UE e in altre giurisdizioni è ancora in fase di elaborazione, ma ci sono opzioni a breve termine sul tavolo, come un "patto sull'IA" volontario o "stop gaps" per contenere il rischio ora.
L'attuale problema della Cina con le frodi legate all'IA indica che la semplice presenza di una legislazione potrebbe non essere sufficiente per arginare il rischio di frodi legate all'IA.
