Forse si \u00e8 tentati di immaginare l'IA come una tecnologia empirica, sottolineata dall'oggettivit\u00e0 della matematica, del codice e dei calcoli.\u00a0<\/span><\/p>\n Tuttavia, ci siamo resi conto che le decisioni prese dai sistemi di IA sono altamente soggettive e si basano sui dati a cui sono esposti, e gli esseri umani decidono come selezionare e assemblare questi dati.\u00a0<\/span><\/p>\n Qui sta la sfida, perch\u00e9 i dati di addestramento dell'IA spesso incarnano i pregiudizi, i preconcetti e le discriminazioni che l'umanit\u00e0 sta combattendo.<\/span><\/p>\n Anche forme apparentemente sottili di pregiudizio inconscio possono essere amplificate dal processo di addestramento dei modelli, rivelandosi alla fine, tra le altre cose, sotto forma di corrispondenze facciali errate nelle forze dell'ordine, di crediti rifiutati, di diagnosi errate di malattie e di meccanismi di sicurezza alterati per i veicoli a guida autonoma.\u00a0<\/span><\/p>\n I tentativi dell'umanit\u00e0 di prevenire la discriminazione in tutta la societ\u00e0 rimangono un lavoro in corso, ma l'intelligenza artificiale sta guidando il processo decisionale critico in questo momento.<\/span><\/p>\n Possiamo lavorare abbastanza velocemente per sincronizzare l'IA con i valori moderni e prevenire decisioni e comportamenti distorti che cambiano la vita?\u00a0<\/span><\/p>\n Nell'ultimo decennio, i sistemi di intelligenza artificiale hanno dimostrato di rispecchiare i pregiudizi della societ\u00e0. <\/span><\/p>\n Questi sistemi non sono intrinsecamente distorti, ma assorbono i pregiudizi dei loro creatori e dei dati su cui vengono addestrati.\u00a0<\/span><\/p>\n I sistemi di intelligenza artificiale, come gli esseri umani, imparano per esposizione. Il cervello umano \u00e8 un indice apparentemente infinito di informazioni, una biblioteca con scaffali quasi illimitati dove immagazziniamo esperienze, conoscenze e ricordi.\u00a0<\/span><\/p>\n Neuroscientifico <\/span>studi<\/span><\/a> dimostrano che il cervello non ha una \"capacit\u00e0 massima\" e continua a smistare e immagazzinare informazioni anche in et\u00e0 avanzata.\u00a0<\/span><\/p>\n Sebbene sia tutt'altro che perfetto, il processo di apprendimento progressivo e iterativo del cervello ci aiuta ad adattarci a nuovi valori culturali e sociali, dalla concessione del voto alle donne all'accettazione di identit\u00e0 diverse, fino alla fine della schiavit\u00f9 e di altre forme di pregiudizio consapevole. <\/span><\/p>\n W<\/span>Viviamo in un'epoca in cui gli strumenti di intelligenza artificiale vengono utilizzati per prendere decisioni critiche al posto del giudizio umano.\u00a0<\/span><\/p>\n Molti modelli di apprendimento automatico (ML) imparano dai dati di addestramento che costituiscono la base del loro processo decisionale e non sono in grado di introdurre nuove informazioni con la stessa efficienza del cervello umano. Per questo motivo, spesso non riescono a produrre le decisioni aggiornate e al passo con i tempi per le quali siamo abituati a dipendere da loro.\u00a0<\/span><\/p>\n Ad esempio, i modelli di intelligenza artificiale vengono utilizzati per identificare le corrispondenze facciali per le forze dell'ordine, <\/span>analizzare i curriculum per le domande di lavoro<\/span><\/a>e prendere decisioni critiche per la salute in ambito clinico.<\/span><\/p>\n Mentre la societ\u00e0 continua a integrare l'IA nella nostra vita quotidiana, dobbiamo assicurarci che sia uguale e accurata per tutti. <\/span><\/p>\n Attualmente non \u00e8 cos\u00ec.\u00a0\u00a0<\/span><\/p>\n Esistono numerosi esempi reali di pregiudizi, pregiudizi e discriminazioni legati all'IA.\u00a0<\/span><\/p>\n In alcuni casi, gli impatti dei pregiudizi dell'IA cambiano la vita, mentre in altri rimangono sullo sfondo, influenzando sottilmente le decisioni.\u00a0<\/span><\/p>\n Un set di dati di addestramento del MIT costruito nel 2008, chiamato <\/span>Piccole immagini<\/span><\/a> conteneva circa 80.000.000 di immagini suddivise in circa 75.000 categorie.\u00a0<\/span><\/p>\n Inizialmente \u00e8 stato concepito per insegnare ai sistemi di intelligenza artificiale a riconoscere persone e oggetti all'interno delle immagini ed \u00e8 diventato un popolare set di dati di riferimento per varie applicazioni di computer vision (CV).\u00a0<\/span><\/p>\n A 2020 analisi di The Register<\/a> ha riscontrato che molti <\/span>Tiny Images conteneva etichette oscene, razziste e sessiste.\u00a0<\/span><\/p>\n Antonio Torralba del MIT ha dichiarato che il laboratorio non era a conoscenza di queste etichette offensive e ha detto a The Register: \"\u00c8 chiaro che avremmo dovuto controllarle manualmente\". Il MIT ha poi rilasciato una dichiarazione in cui afferma di aver rimosso il set di dati dal servizio.<\/span><\/p>\n Questa non \u00e8 l'unica volta che un ex set di dati di riferimento \u00e8 stato trovato pieno di problemi. Il Labeled Faces in the Wild (LFW), un set di dati di volti di celebrit\u00e0 ampiamente utilizzato nelle attivit\u00e0 di riconoscimento facciale, \u00e8 composto da 77,5% di maschi e 83,5% di persone con la pelle bianca.\u00a0<\/span><\/p>\n Molti di questi dataset veterani sono entrati a far parte dei moderni modelli di IA, ma provengono da un'epoca di sviluppo dell'IA in cui l'attenzione era rivolta alla costruzione di sistemi che <\/span>solo lavoro <\/span><\/i>piuttosto che quelli appropriati per l'impiego in scenari reali.\u00a0<\/span><\/p>\n Una volta che un sistema di IA \u00e8 stato addestrato su un tale set di dati, non ha necessariamente lo stesso privilegio del cervello umano nel ricalibrarsi ai valori contemporanei. <\/span><\/p>\n Anche se i modelli possono essere aggiornati in modo iterativo, si tratta di un processo lento e imperfetto che non riesce a tenere il ritmo dello sviluppo umano.\u00a0<\/span><\/p>\n Nel 2019, il <\/span>Il governo degli Stati Uniti ha trovato<\/span><\/a> che i sistemi di riconoscimento facciale pi\u00f9 performanti identificano erroneamente le persone di colore da 5 a 10 volte in pi\u00f9 rispetto ai bianchi.\u00a0<\/span><\/p>\n Non si tratta di una semplice anomalia statistica: ha implicazioni terribili nel mondo reale, che vanno da Google Photos che identifica le persone di colore come gorilla alle auto a guida autonoma che non riconoscono gli individui con la pelle pi\u00f9 scura e li investono.\u00a0<\/span><\/p>\n Inoltre, si \u00e8 verificata un'ondata di arresti e detenzioni illegali che hanno riguardato false corrispondenze facciali, forse in modo pi\u00f9 prolifico <\/span>Nijeer Parks<\/span><\/a> che \u00e8 stato ingiustamente accusato di taccheggio e di reati stradali, nonostante si trovasse a 30 miglia di distanza dall'incidente. Parks ha poi trascorso 10 giorni in carcere e ha dovuto pagare migliaia di euro di spese legali.\u00a0<\/span><\/p>\nSvelare i pregiudizi nell'IA<\/span><\/h2>\n
Casi di studio sui pregiudizi dell'IA<\/span><\/h2>\n
1. Pregiudizio del set di dati del MIT<\/span><\/h3>\n
![\"Dichiarazione](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/07\/statement-1024x281.png\")
2: Riconoscimento delle immagini: pregiudizio nei confronti degli individui con la pelle pi\u00f9 scura<\/span><\/h3>\n
![\"Parchi](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/07\/facialmatchparks-1024x576.jpg\")