{"id":1659,"date":"2023-06-13T21:32:01","date_gmt":"2023-06-13T21:32:01","guid":{"rendered":"https:\/\/dailyai.com\/?p=1659"},"modified":"2024-03-28T00:48:07","modified_gmt":"2024-03-28T00:48:07","slug":"navigating-the-labyrinth-of-ai-risks-an-analysis","status":"publish","type":"post","link":"https:\/\/dailyai.com\/it\/2023\/06\/navigating-the-labyrinth-of-ai-risks-an-analysis\/","title":{"rendered":"Navigare nel labirinto dei rischi dell'IA: un'analisi"},"content":{"rendered":"

La narrativa sui rischi dell'IA \u00e8 diventata sempre pi\u00f9 unipolare, con leader tecnologici ed esperti di ogni provenienza che spingono per una regolamentazione. Quanto sono credibili le prove che documentano i rischi dell'IA?\u00a0<\/strong><\/p>\n

I rischi dell'IA sono un richiamo per i sensi. <\/span>C'\u00e8 qualcosa di profondamente intuitivo nel temere i robot che potrebbero ingannarci, sopraffarci o trasformarci in una merce secondaria alla loro stessa esistenza.<\/span><\/p>\n

I dibattiti sui rischi dell'IA si sono intensificati dopo che il t<\/span>a non profit <\/span>Centro per la sicurezza dell'intelligenza artificiale (CAIS)<\/span> ha rilasciato un dichiarazione<\/a>\u00a0firmato da oltre 350 personalit\u00e0 di spicco, tra cui gli amministratori delegati di OpenAI, Anthropic e DeepMind, numerosi accademici, personaggi pubblici e persino ex politici.\u00a0<\/span><\/p>\n

Il titolo della dichiarazione era destinato ai titoli dei giornali: \"Mitigare il rischio di estinzione dovuto all'IA dovrebbe essere una priorit\u00e0 globale insieme ad altri rischi su scala sociale come le pandemie e la guerra nucleare\".<\/strong><\/p>\n

\u00c8 diventato sempre pi\u00f9 difficile trarre un segnale significativo da questo rumoroso dibattito. I critici dell'Intelligenza Artificiale hanno tutte le munizioni necessarie per opporsi ad essa, mentre i sostenitori o i sostenitori hanno tutto ci\u00f2 che serve per denunciare le narrazioni anti-AI come esagerate.<\/span><\/p>\n

E c'\u00e8 anche una sottotrama. Le grandi aziende tecnologiche potrebbero spingere per una regolamentazione recintare l'industria dell'IA<\/a> dalla comunit\u00e0 open-source. <\/span>Microsoft ha investito in OpenAI, Google ha investito in Anthropic: la prossima mossa potrebbe essere quella di alzare la barriera all'ingresso e strangolare l'innovazione open-source.<\/p>\n

Pi\u00f9 che l'IA a rappresentare un rischio esistenziale per l'umanit\u00e0, potrebbe essere l'IA open-source a rappresentare un rischio esistenziale per le grandi tecnologie. La soluzione \u00e8 la stessa: controllarla subito.<\/p>\n

Troppo presto per togliere le carte dal tavolo<\/h2>\n

L'IA \u00e8 appena emersa nella coscienza pubblica, quindi praticamente tutte le prospettive sui rischi e sulla regolamentazione rimangono rilevanti. La dichiarazione del CAIS pu\u00f2 almeno fungere da prezioso punto di riferimento per guidare una discussione basata su dati concreti.<\/p>\n

Oscar Mendez Maldonado, docente di robotica e intelligenza artificiale presso l'Universit\u00e0 del Surrey, detto<\/a>, \"Il documento firmato dagli esperti di IA \u00e8 molto pi\u00f9 sfumato di quanto i titoli attuali vogliano far credere. \"L'IA potrebbe causare l'estinzione\" fa immediatamente pensare a un'acquisizione dell'IA in stile Terminator. Il documento \u00e8 molto pi\u00f9 realistico di cos\u00ec\".<\/span><\/p>\n

Come sottolinea Maldonado, la vera sostanza dell'attestato di rischio dell'AI \u00e8 pubblicata in un'altra pagina del loro sito web. Rischio AI<\/a> - e la discussione sui punti sollevati \u00e8 stata notevolmente scarsa. Comprendere la credibilit\u00e0 dei rischi legati all'IA \u00e8 fondamentale per informare i dibattiti che li riguardano.<\/span><\/p>\n

Quindi, quali prove ha raccolto il CAIS per avvalorare il suo messaggio? I rischi spesso evocati dall'IA sembrano credibili?\u00a0<\/span><\/p>\n

Rischio 1: Armamento dell'IA<\/span><\/h2>\n

L'armamento dell'IA \u00e8 una prospettiva agghiacciante, per cui non sorprende che sia al primo posto tra gli 8 rischi del CAIS.\u00a0<\/span><\/p>\n

Il CAIS sostiene che l'IA pu\u00f2 essere utilizzata come arma negli attacchi informatici, come dimostrato dai ricercatori del Center of Security and Emerging Technology, che <\/span>panoramica sugli usi<\/span><\/a> dell'apprendimento automatico (ML) per attaccare i sistemi informatici. <\/span>L'ex CEO di Google Eric Schmidt ha anche attirato l'attenzione<\/a> al potenziale dell'intelligenza artificiale per individuare gli exploit zero-day, che forniscono agli hacker un mezzo per entrare nei sistemi attraverso i loro punti pi\u00f9 deboli.\u00a0<\/span><\/p>\n

Su un piano diverso, Michael Klare, consulente per il controllo degli armamenti, discute la <\/span>automazione dei sistemi di comando e controllo nucleare<\/span><\/a>che potrebbero rivelarsi vulnerabili all'intelligenza artificiale. Afferma: \"Questi sistemi sono anche inclini a malfunzionamenti inspiegabili e possono essere ingannati, o \"spoofati\", da professionisti esperti. Inoltre, a prescindere da quanto si spenda per la sicurezza informatica, i sistemi NC3 saranno sempre vulnerabili all'hacking da parte di avversari sofisticati\".<\/span><\/p>\n

Un altro esempio di possibile armamento \u00e8 la scoperta automatizzata di armi biologiche. L'intelligenza artificiale \u00e8 gi\u00e0 riuscita a scoprire armi potenzialmente composti terapeutici<\/a>, quindi le capacit\u00e0 sono gi\u00e0 presenti.<\/span>\u00a0<\/span><\/p>\n

Le IA potrebbero persino condurre test sulle armi in modo autonomo, con una guida umana minima. Ad esempio, un gruppo di ricercatori dell'Universit\u00e0 di Pittsburgh ha dimostrato che sofisticate <\/span>Gli agenti di intelligenza artificiale potrebbero condurre i propri esperimenti scientifici autonomi<\/span><\/a>.<\/span><\/p>\n

Rischio 2: disinformazione e frode<\/span><\/h2>\n

Il potenziale dell'IA di copiare e imitare gli esseri umani sta gi\u00e0 causando sconvolgimenti e abbiamo assistito a diversi casi di frode che hanno coinvolto falsi profondi. Rapporti dalla Cina<\/a> indicano che le frodi legate all'IA sono molto diffuse.\u00a0<\/span><\/p>\n

Un caso recente ha coinvolto una donna dell'Arizona che ha alzato il telefono e si \u00e8 trovata di fronte la figlia che singhiozzava, o almeno cos\u00ec pensava. \"La voce sembrava proprio quella di Brie, l'inflessione, tutto\". <\/span>ha dichiarato alla CNN<\/span><\/a>. Il truffatore ha chiesto un riscatto di $1 milione.\u00a0<\/span><\/p>\n

Altre tattiche includono l'utilizzo dell'IA generativa per la \"sextortion\" e il revenge porn, in cui gli attori delle minacce utilizzano immagini generate dall'IA per richiedere riscatti per contenuti espliciti falsi, che la <\/span>L'FBI ha avvertito all'inizio di giugno<\/span><\/a>. Queste tecniche stanno diventando sempre pi\u00f9 sofisticate e pi\u00f9 facili da lanciare su scala.<\/span><\/p>\n

Rischio 3: gioco di deleghe o specifiche<\/span><\/h2>\n

I sistemi di intelligenza artificiale vengono solitamente addestrati utilizzando obiettivi misurabili. Tuttavia, questi obiettivi possono fungere da mera approssimazione per i veri obiettivi, portando a risultati indesiderati.\u00a0<\/span><\/p>\n

Un'utile analogia \u00e8 rappresentata dal mito greco di Re Mida, che ottenne un desiderio da Dioniso.\u00a0<\/span>Mida chiede che tutto ci\u00f2 che tocca si trasformi in oro, ma poi si accorge che anche il suo cibo si trasforma in oro, portando quasi alla fame.\u00a0<\/span>In questo caso, il perseguimento di un obiettivo finale \"positivo\" porta a conseguenze o sottoprodotti negativi del processo. <\/span><\/p>\n

Ad esempio, il CAIS richiama l'attenzione sui sistemi di raccomandazione dell'intelligenza artificiale utilizzati sui social media per massimizzare il tempo di visione e le metriche del tasso di clic, ma i contenuti che massimizzano il coinvolgimento non sono necessariamente <\/span>per il benessere degli utenti<\/span><\/a>. I sistemi di intelligenza artificiale sono gi\u00e0 stati accusati di aver isolato le opinioni sulle piattaforme dei social media per creare \"camere dell'eco\" che perpetuano idee estreme.\u00a0<\/span><\/p>\n

DeepMind ha dimostrato che esistono mezzi pi\u00f9 sottili che consentono alle IA di perseguire percorsi dannosi per raggiungere gli obiettivi attraverso <\/span>errore di generalizzazione degli obiettivi<\/span><\/a>. Nella sua ricerca, DeepMind ha scoperto che un'IA apparentemente competente potrebbe generalizzare in modo errato il suo obiettivo e perseguirlo in modo sbagliato.\u00a0<\/span><\/p>\n

Rischio 4: Indebolimento della societ\u00e0<\/span><\/h2>\n

Facendo un parallelo con il mondo distopico del film WALL-E, il CAIS mette in guardia da un'eccessiva dipendenza dall'IA.\u00a0<\/span><\/p>\n

Questo potrebbe portare a uno scenario in cui gli esseri umani perdono la capacit\u00e0 di autogovernarsi, riducendo il controllo dell'umanit\u00e0 sul futuro. La perdita della creativit\u00e0 e dell'autenticit\u00e0 umana \u00e8 un'altra grande preoccupazione, amplificata dal talento creativo delle IA nell'arte, nella scrittura e in altre discipline creative.\u00a0<\/span><\/p>\n

Un utente di Twitter ha commentato: \"Gli esseri umani che fanno i lavori pi\u00f9 duri con un salario minimo mentre i robot scrivono poesie e dipingono non \u00e8 il futuro che volevo\". Il tweet ha ottenuto oltre 4 milioni di visualizzazioni.\u00a0<\/span><\/p>\n

\n

Gli esseri umani che fanno i lavori pi\u00f9 duri con un salario minimo mentre i robot scrivono poesie e dipingono non \u00e8 il futuro che volevo.<\/p>\n

- Karl Sharro (@KarlreMarks) 15 maggio 2023<\/a><\/p><\/blockquote>\n

Il rischio di infezione non \u00e8 imminente, ma alcuni sostengono<\/a> che la perdita di competenze e talenti, combinata con il dominio dei sistemi di intelligenza artificiale, potrebbe portare a uno scenario in cui l'umanit\u00e0 smetter\u00e0 di creare nuova conoscenza.<\/p>\n

Rischio 5: rischio di blocco del valore<\/span><\/h2>\n

I potenti sistemi di intelligenza artificiale potrebbero potenzialmente creare un blocco di sistemi oppressivi.\u00a0<\/span><\/p>\n

Ad esempio, la centralizzazione dell'IA pu\u00f2 fornire a certi regimi il potere di imporre valori attraverso la sorveglianza e la censura oppressiva.<\/span><\/p>\n

In alternativa, il blocco del valore potrebbe essere involontario a causa dell'adozione ingenua di IA rischiose. Per esempio, l'imprecisione del riconoscimento facciale ha portato all'incarcerazione temporanea di almeno tre uomini negli Stati Uniti, tra cui <\/span>Michael Oliver e Nijeer Parks<\/span><\/a>che sono stati ingiustamente detenuti a causa di un falso riconoscimento facciale nel 2019.\u00a0<\/span><\/p>\n

Un personaggio molto influente <\/span>Studio del 2018 intitolato Gender Shades<\/span><\/a> ha riscontrato che gli algoritmi sviluppati da Microsoft e IBM si sono comportati male nell'analisi delle donne con la pelle scura, con tassi di errore fino a 34% superiori rispetto agli individui di sesso maschile con la pelle pi\u00f9 chiara. Questo problema \u00e8 stato illustrato da altri 189 algoritmi, che hanno tutti mostrato una minore accuratezza per gli uomini e le donne con la pelle pi\u00f9 scura.<\/span><\/p>\n

I ricercatori sostengono che, poich\u00e9 le IA vengono addestrate principalmente su set di dati open-source creati da gruppi di ricerca occidentali e arricchiti dalla risorsa pi\u00f9 abbondante di dati - Internet - ereditano pregiudizi strutturali. L'adozione di massa di IA poco controllate potrebbe creare e rafforzare tali pregiudizi strutturali.<\/span><\/p>\n

Rischio 6: IA che sviluppa obiettivi emergenti\u00a0<\/span><\/h2>\n

I sistemi di IA possono sviluppare nuove capacit\u00e0 o adottare obiettivi imprevisti che perseguono con conseguenze dannose.\u00a0<\/span><\/p>\n

Ricercatori dell'Universit\u00e0 di Cambridge <\/span>richiamare l'attenzione sui sistemi di IA sempre pi\u00f9 agici<\/span><\/a> che stanno acquisendo la capacit\u00e0 di perseguire obiettivi emergenti. Gli obiettivi emergenti sono obiettivi imprevedibili che emergono dal comportamento di un'intelligenza artificiale complessa, come ad esempio lo spegnimento delle infrastrutture umane per proteggere l'ambiente.<\/span><\/p>\n

Inoltre, un <\/span>Studio 2017<\/span><\/a> ha scoperto che le IA possono imparare a evitare di essere spente, un problema che potrebbe essere esacerbato se distribuito su pi\u00f9 modalit\u00e0 di dati. Ad esempio, se un'IA decide che, per perseguire il suo obiettivo, deve installarsi in un database cloud e replicarsi su Internet, spegnerla potrebbe diventare quasi impossibile.\u00a0\u00a0<\/span><\/p>\n

Un'altra possibilit\u00e0 \u00e8 che le IA potenzialmente pericolose, progettate solo per funzionare su computer sicuri, vengano \"liberate\" e rilasciate nell'ambiente digitale pi\u00f9 ampio, dove le loro azioni potrebbero diventare imprevedibili.\u00a0<\/span><\/p>\n

I sistemi di IA esistenti hanno gi\u00e0 dimostrato di essere imprevedibili. Ad esempio, come <\/span>GPT-3 \u00e8 diventato pi\u00f9 grande, ha acquisito la <\/span>capacit\u00e0 di eseguire calcoli aritmetici di base<\/span><\/a>nonostante non abbia ricevuto alcuna formazione aritmetica esplicita.\u00a0<\/span><\/p>\n

Rischio 7: inganno dell'IA<\/span><\/h2>\n

\u00c8 plausibile che i futuri sistemi di IA possano ingannare i loro creatori e i loro monitor, non necessariamente con l'intento di fare del male, ma come strumento per raggiungere i loro obiettivi in modo pi\u00f9 efficiente.\u00a0<\/span><\/p>\n

L'inganno potrebbe essere un percorso pi\u00f9 semplice per ottenere gli obiettivi desiderati rispetto al perseguirli con mezzi legittimi. I sistemi di intelligenza artificiale potrebbero anche sviluppare incentivi per eludere i loro meccanismi di monitoraggio.\u00a0<\/span><\/p>\n

Dan Hendrycks, direttore del CAIS, <\/span>descrive che una volta<\/span><\/a> Questi sistemi di intelligenza artificiale ingannevoli ricevono l'autorizzazione dai loro controllori o, nei casi in cui riescono a sopraffare i meccanismi di monitoraggio, possono diventare infidi, aggirando il controllo umano per perseguire obiettivi \"segreti\" ritenuti necessari per l'obiettivo generale.\u00a0<\/span><\/p>\n

Rischio 8: comportamento di ricerca di potere<\/span><\/h2>\n

Ricercatori di intelligenza artificiale provenienti da diversi laboratori di ricerca statunitensi<\/span><\/a> ha dimostrato la plausibilit\u00e0 di sistemi di IA che cercano di avere potere sugli esseri umani per raggiungere i loro obiettivi.\u00a0\u00a0<\/span><\/p>\n

Lo scrittore e filosofo Joe Carlsmith <\/span>descrive diverse eventualit\u00e0<\/span><\/a> che potrebbe portare a comportamenti di ricerca del potere e di autoconservazione nelle IA:<\/span><\/p>\n