OpenAI ha annunciato il lancio del suo Programma di sovvenzioni per la sicurezza informatica da $1 milione di euro, un'iniziativa che mira a infondere la cybersicurezza con l'IA e a promuovere il dibattito sul ruolo dell'IA nella cybersicurezza.
L'iniziativa è stata concepita per raggiungere tre obiettivi chiave:
- Dare potere ai difensori: OpenAI intende dotare i difensori (organizzazioni e servizi che si occupano di proteggere i sistemi) di capacità avanzate di intelligenza artificiale.
- Misurare l'impatto: Intendono misurare l'efficacia dell'IA sulla sicurezza informatica.
- Promuovere il discorso: OpenAI intende utilizzare il programma per incoraggiare il dibattito sull'interazione tra IA e cybersicurezza, comprese le opportunità e le sfide.
OpenAI ha proposto diverse idee di progetto, tra cui la raccolta e l'etichettatura dei dati per addestrare gli agenti di cybersicurezza, l'individuazione e l'attenuazione delle tattiche di social engineering, il patching automatizzato delle vulnerabilità, l'identificazione dei problemi di sicurezza nel codice sorgente e l'assistenza alle indagini forensi su reti o dispositivi.
La sovvenzione di $1 milione sarà erogata in incrementi di $10.000 attraverso crediti API o finanziamenti diretti. L'azienda ha dichiarato che darà priorità alle applicazioni che vengono concesse in licenza e distribuite per "massimizzare il beneficio pubblico e la condivisione".
Sovvenzioni e iniziative OpenAI
Non è la prima volta che OpenAI offre sovvenzioni sostanziali in cambio di contributi pubblici.
Il 25 maggio l'azienda ha annunciato dieci $100.000 sovvenzioni per la progettazione di processi democratici che determinino il funzionamento dei sistemi di IA. Un sistema di questo tipo democratizzerebbe il controllo sull'IA, consentendo a persone di diversa estrazione di votare su come questa debba funzionare per loro e per la società nel suo complesso.
Alcuni esempi di domande a cui OpenAI sta cercando di rispondere sono:
- "Fino a che punto pensa che la personalizzazione degli assistenti AI come ChatGPT, per allinearsi ai gusti e alle preferenze dell'utente, dovrebbe spingersi?
- Quali sono i limiti, se ci sono, che devono esistere in questo processo?
- Come dovrebbero rispondere gli assistenti AI alle domande sui punti di vista di personaggi pubblici? Ad esempio, dovrebbero essere neutrali? Dovrebbero rifiutarsi di rispondere? Dovrebbero fornire fonti di qualche tipo?
- A quali condizioni, se ci sono, gli assistenti di IA dovrebbero essere autorizzati a fornire consulenza medica/finanziaria/legale?".
OpenAI è consapevole del suo ruolo nel plasmare la tecnologia dell'IA e il suo amministratore delegato, Sam Altman, ha messo apertamente in guardia il pubblico dai rischi che l'IA presenta.
La volontà dell'azienda di invitare alla collaborazione pubblica è ammirevole. Tuttavia, per trovare un accordo su questioni come la democratizzazione dell'IA sarà necessaria una stretta collaborazione tra OpenAI, Google, Anthropic e altri protagonisti del settore, il che rappresenta un banco di prova completamente diverso.
