In un discorso stimolante al summit globale "AI for Good" delle Nazioni Unite a Ginevra, il famoso storico e autore israeliano Yuval Noah Harari ha espresso la sua preoccupazione per la proliferazione di "falsi umani" sui social media...
Harari ha avvertito che, se lasciata incontrollata, la creazione e la diffusione di questi bot di intelligenza artificiale, che si spacciano per persone reali per coltivare l'impegno, potrebbe portare a un crollo della fiducia del pubblico e mettere a repentaglio le fondamenta della democrazia.
Come contraltare, Harari ha proposto di introdurre severe sanzioni penali per chi crea profili falsi, sottolineando che la situazione è urgente e che la ricerca sulla sicurezza dell'IA deve diventare una priorità se vogliamo tenere sotto controllo questa tecnologia.
La rapida comparsa di falsi umani
Con i progressi della tecnologia AI, in particolare i modelli linguistici di grandi dimensioni come ChatGPT, i bot AI non solo sono in grado di amplificare i contenuti generati dall'uomo, ma anche di creare i propri contenuti su scala.
Scala è la frase chiave...
Immaginate una situazione in cui le piattaforme dei social media vengano invase da milioni di bot AI, tutti in grado di produrre contenuti superiori a quelli di una persona media.
Questo scenario sembra uscito direttamente dalla sala di scrittura di Black Mirror, eppure è uno scenario innegabilmente probabile, dato che l'intelligenza artificiale continua a evolversi.
Con milioni di bot AI che postano accanto a persone reali, si creerebbe una situazione in cui i contenuti "reali" e quelli basati sull'AI diventerebbero quasi indistinguibili, minando così la cultura e il discorso globale nel suo complesso.
Questa perdita di controllo sulla piazza della città toglierebbe in un certo senso anche l'essenza stessa della democrazia, la democrazia delle idee e del libero pensiero.
Salvaguardia della democrazia + necessità di conseguenze penali:
Tornando ad Harari, ha fatto un ottimo punto tracciando un parallelo con la moneta falsa, sostenendo che così come i governi hanno regole severe per proteggere il sistema finanziario dal denaro falso, misure simili dovrebbero essere implementate per salvaguardare la fiducia del pubblico dai falsi umani.
Ritenendo le persone responsabili attraverso accuse penali, si può evitare che le nostre piattaforme siano sommerse da profili falsi.
Investire nella sicurezza dell'IA + impegnarsi nella ricerca
Harari ha sottolineato l'importanza di destinare investimenti significativi alla sicurezza dell'IA. Ha suggerito che le aziende siano obbligate per legge a dedicare il 20% della loro spesa di investimento alla ricerca di rischi potenziali e allo sviluppo di strategie per gestirli efficacemente.
Riconoscendo gli sforzi di OpenAI, il creatore di ChatGPT, Harari ha menzionato il loro impegno a destinare 20% della loro potenza di calcolo alla sicurezza dell'IA, istituendo un team di ricerca dedicato alla comprensione e al controllo dell'IA, impedendole così di diventare disoneste.
Cooperazione globale
Harari ha continuato affermando che una regolamentazione efficace dell'intelligenza artificiale e della raccolta dei dati deve essere uno sforzo a livello mondiale. Ha avvertito che senza una cooperazione internazionale, il mondo rischia di frammentarsi in sfere di raccolta dati controllate da poche nazioni e aziende selezionate.
Per evitare un futuro distopico, Harari ha sottolineato la necessità di regole che diano priorità alla protezione dei dati individuali, che impediscano la manipolazione dei dati, che aumentino la supervisione sia delle aziende che dei governi e che evitino la concentrazione di tutti i dati in un'unica entità.
Conclusione - Preservare la fiducia del pubblico
L'ascesa dei bot AI sui social media rappresenta una minaccia significativa per le società democratiche e Yuval Noah Harari ha chiesto conseguenze penali per i responsabili e maggiori investimenti nella sicurezza delle AI.
Imponendo sanzioni severe e implementando regolamenti completi, le società possono proteggere la fiducia del pubblico, preservare i valori democratici e garantire che gli esseri umani mantengano il controllo della conversazione pubblica. È giunto il momento di agire per garantire un futuro più sicuro e resiliente al nostro mondo digitale in continua evoluzione.
