Il 29 gennaio 2024, il Chief Digital and Artificial Intelligence Office (CDAO) del Dipartimento della Difesa ha lanciato le esercitazioni AI Bias Bounty.
Questi programmi mirano all'individuazione in crowdsourcing delle distorsioni nei sistemi di intelligenza artificiale, con particolare attenzione ai modelli linguistici di grandi dimensioni (LLM).
L'iniziativa fa parte del più ampio sforzo del CDAO per integrare e ottimizzare l'IA sicura in tutto il Dipartimento della Difesa.
Le ripercussioni dei pregiudizi dell'IA non controllati sono di vasta portata e si manifestano in vari settori, dalle forze dell'ordine ai servizi finanziari, fino alla sanità e oltre.
Istanze di L'IA sbaglia l'identificazione degli individui coinvolti in crimini, negando crediti ingiusti e sbagliando la diagnosi dei pazienti in ambito medico, sottolineano la natura critica dei pregiudizi nei sistemi di apprendimento automatico.
In molti casi, i dataset distorti incorporano pregiudizi nei sistemi di apprendimento automatico. Ad esempio, il dataset Tiny Images del MIT, apparentemente innocuo, conteneva contenuti offensivi. Più recentemente, il Set di dati LAION-5Butilizzato per modelli di immagini come DALL-E, è stato scoperto che contiene materiale pedopornografico.
Matthew Johnson, capo ad interim della divisione Responsible AI (RAI) del Dipartimento della Difesa, ha parlato dell'iniziativa del CDAOIl team RAI è entusiasta di guidare questi AI Bias Bounties, in quanto siamo fortemente impegnati a garantire che i sistemi abilitati all'IA del Dipartimento - e i contesti in cui funzionano - siano sicuri, protetti, affidabili e privi di pregiudizi".
La prima fase di questo programma innovativo si concentra sull'individuazione e la risoluzione dei rischi sconosciuti associati agli LLM, a partire dai chatbot open-source.
I partecipanti possono guadagnare premi in denaro in base ai loro contributi, valutati da ConductorAI-Bugcrowd e finanziati dal Dipartimento della Difesa.
I risultati potrebbero orientare nuove politiche e raccomandazioni. Craig Martell, Chief Digital and Artificial Intelligence Officer, ha osservato: "Data l'attuale attenzione del Dipartimento ai rischi associati agli LLM, il CDAO sta monitorando attivamente questo settore; l'esito delle AI Bias Bounties potrebbe avere un forte impatto sulle future politiche e sull'adozione dell'AI da parte del DoD".
Il governo degli Stati Uniti ha reclutato ricercatori di intelligenza artificiale e hacker per indagare e fare squadra rossa con i modelli, anche quando questi ultimi ha approvato una sessione al Def Con convegno di hacking a Las Vegas.
