Un nuovo documento di ricerca raccomanda che agli utenti di Internet vengano rilasciate credenziali per dimostrare che sono umani, dato che l'IA diventa sempre più indistinguibile dalle persone reali.
La carta, scritto da ricercatori di OpenAI, Microsoft, MIT e altri, giunge in un momento in cui la "teoria dell'internet morto" sta diventando sempre più credibile. Questa teoria suggerisce che la maggior parte delle interazioni e dei contenuti online sono generati da bot.
Viene descritta come una teoria della cospirazione, ma gli autori di questo nuovo documento sembrano convinti che potrebbe accadere, se non è già successo. Il documento osserva che "i sistemi di IA altamente capaci possono cambiare il panorama: C'è il rischio sostanziale che, senza ulteriori mitigazioni, le attività ingannevoli basate sull'IA possano travolgere Internet".
Distinguere gli utenti dotati di IA su Internet sta diventando sempre più difficile. L'intelligenza artificiale è in grado di generare contenuti simili a quelli umani che sembrano perfettamente conversazionali e avatar di tipo umano in forma di immagine o di video.
Gli agenti di intelligenza artificiale sono sempre più bravi a navigare nei siti web come un normale utente, a elaborare piani sofisticati per raggiungere gli obiettivi e persino a risolvere i CAPTCHA quando vengono sfidati.
Il secondo problema individuato dal documento è la scalabilità. I modelli di IA stanno diventando sempre più potenti, più economici e sempre più disponibili. L'IA ha reso l'inganno online da parte di attori malintenzionati facile da realizzare su scala, soprattutto se si dispone di un'azienda di modello a peso aperto.
Il documento riporta la preoccupazione dei ricercatori: "Temiamo che Internet non sia adeguatamente preparata alle sfide che un'IA altamente capace potrebbe porre".
Credenziali di personalizzazione
I ricercatori propongono di rilasciare agli utenti di Internet quelle che chiamano "credenziali di personalità", o PHC. Queste credenziali possono essere memorizzate digitalmente sui dispositivi del titolare e verrebbero utilizzate per dimostrare la propria identità al momento dell'iscrizione a un servizio online, come un indirizzo e-mail o un account su X.
Diverse organizzazioni, governative e non, potrebbero fungere da emittenti delle credenziali. Il documento non entra nel dettaglio di come potrebbe funzionare, ma suggerisce una possibile implementazione in cui un PHC potrebbe essere rilasciato a qualsiasi titolare di un codice fiscale.
La verifica delle credenziali potrebbe essere effettuata utilizzando prove a conoscenza zero, in modo che nessun aspetto dell'identità della persona sia legato al PHC. L'idea è che si possa dimostrare a un fornitore di servizi online di essere umani, pur mantenendo l'anonimato.
Se i PHC venissero implementati, si porrebbe fine ai "sockpuppeting", come le migliaia di bot che fingono di essere persone su X e altre piattaforme. La soluzione proposta impedirebbe anche a un singolo utente di creare più account su una piattaforma che potrebbero poi essere utilizzati per attacchi bot su larga scala.
Rischi e sfide
Se siamo arrivati a un punto in cui abbiamo bisogno di un'organizzazione che ci rilasci delle credenziali che dimostrino che siamo umani, allora siamo nel territorio di Blade Runner. L'idea del PHC potrebbe ridurre il problema dei bot AI, ma comporta altre sfide.
Come verrebbe garantito un accesso equo? Se non siete in grado di recarvi fisicamente presso un emittente PHC, potreste trovarvi nell'impossibilità di utilizzare internet, o almeno di sottoscrivere un conto online.
Anche se il PHC non rivelerebbe la vostra identità online, il vostro emittente sarebbe in possesso di tali informazioni. Quanto vi sentireste a vostro agio nel dire la vostra opinione online se non foste sicuri che il vostro anonimato possa essere preservato?
Supponiamo che l'emittente del PHC non sia un governo democraticamente eletto con controlli sui suoi poteri e sulla sua responsabilità. Potrebbe decidere di rifiutare un PHC a qualcuno che lo critica?
I ricercatori riconoscono che "un sistema PHC, come qualsiasi sistema digitale, è vulnerabile ad attacchi e sfruttamenti da parte di molteplici attori, in particolare la sovversione da parte dell'emittente stesso, dei fornitori di servizi e degli utenti con intenzioni malevole".
Non molto tempo fa pensavamo che i CAPTCHA, i selfie o una videochiamata fossero sufficienti a dimostrare che all'altro capo di un'interazione online ci fosse un essere umano in carne e ossa. L'intelligenza artificiale ha messo fine a tutto questo.
Abbiamo bisogno di una soluzione migliore, ma rivolgersi a un'organizzazione per ottenere una "prova di personalità" sembra molto orwelliano.
