OpenAI kunngjorde lanseringen av sin $1 million kroner i tilskuddsprogram for cybersikkerhet, et initiativ som tar sikte på å tilføre cybersikkerhet AI og fremme diskusjonen om AIs rolle i cybersikkerhet.
Initiativet er utformet for å oppnå tre hovedmål:
- Gi forsvarere mer makt: OpenAI har til hensikt å utstyre forsvarere (organisasjoner og tjenester som fokuserer på å beskytte systemer) med avanserte AI-kapasiteter.
- Mål effekten: De har til hensikt å måle effektiviteten av AI på cybersikkerhet.
- Fremme diskurs: OpenAI har til hensikt å bruke ordningen til å oppmuntre til debatt om samspillet mellom AI og cybersikkerhet, inkludert muligheter og utfordringer.
OpenAI har foreslått flere prosjektideer, blant annet innsamling og merking av data for å trene opp cybersikkerhetsagenter, oppdage og redusere sosial manipulering, automatisert sårbarhetsoppdatering, identifisering av sikkerhetsproblemer i kildekode og hjelp til etterforskning av nettverk eller enheter.
Tilskuddet på $1 million vil bli utstedt i trinn på $10 000 gjennom API-kreditter eller direkte finansiering. Selskapet uttalte at de vil prioritere applikasjoner som er lisensiert og distribuert for "maksimal offentlig nytte og deling".
OpenAI-stipend og -initiativer
Dette er ikke første gang OpenAI tilbyr betydelige tilskudd i bytte mot innspill fra publikum.
Den 25. mai kunngjorde selskapet ti $100 000 tilskudd for å utforme demokratiske prosesser som bestemmer hvordan AI-systemer skal fungere. Et slikt system vil demokratisere kontrollen over kunstig intelligens, slik at mennesker med ulik bakgrunn kan stemme over hvordan den skal fungere for dem - og for samfunnet som helhet.
Noen eksempler på spørsmål OpenAI søker svar på, er
- "Hvor langt mener du at personalisering av AI-assistenter som ChatGPT bør gå for å tilpasse seg brukerens smak og preferanser?
- Hvilke grenser, om noen, bør finnes i denne prosessen?
- Hvordan bør AI-assistenter svare på spørsmål om offentlige personers synspunkter? Bør de f.eks. være nøytrale? Bør de nekte å svare? Bør de oppgi kilder av noe slag?
- På hvilke vilkår, om noen, bør AI-assistenter få lov til å gi medisinsk/økonomisk/juridisk rådgivning?"
OpenAI er bevisst sin rolle i utviklingen av AI-teknologi, og administrerende direktør Sam Altman har åpent advart offentligheten mot risikoen AI utgjør.
Selskapets vilje til å invitere til offentlig samarbeid er beundringsverdig. Men å bli enige om saker som demokratisering av AI vil kreve et tett samarbeid mellom OpenAI, Google, Anthropic og andre aktører i bransjen, noe som er en helt annen test.
