OpenAI tillkännagav lanseringen av sin $1 miljoner i bidragsprogram för cybersäkerhet, ett initiativ som syftar till att införa AI i cybersäkerhet och främja diskussionen om AI:s roll inom cybersäkerhet.
Initiativet är utformat för att uppnå tre viktiga mål:
- Stärk försvararna: OpenAI avser att utrusta försvarare (organisationer och tjänster som fokuserar på att skydda system) med avancerad AI-kapacitet.
- Mäta påverkan: De avser att mäta AI:s effektivitet när det gäller cybersäkerhet.
- Främja diskussionen: OpenAI avser att använda programmet för att uppmuntra till debatt kring samspelet mellan AI och cybersäkerhet, inklusive möjligheter och utmaningar.
OpenAI har föreslagit flera projektidéer, inklusive insamling och märkning av data för att utbilda cybersäkerhetsagenter, upptäcka och mildra social ingenjörstaktik, automatiserad sårbarhetsuppdatering, identifiera säkerhetsproblem i källkod och hjälpa till med kriminalteknik för nätverk eller enheter.
Bidraget på $1 miljon kommer att utfärdas i steg om $10.000 genom API-krediter eller direkt finansiering. Företaget uppgav att de kommer att prioritera applikationer som är licensierade och distribuerade för "maximal allmän nytta och delning".
OpenAI-anslag och -initiativ
Det här är inte första gången OpenAI erbjuder betydande bidrag i utbyte mot allmänhetens synpunkter.
Den 25 maj meddelade bolaget att tio $100.000 bidrag för att utforma demokratiska processer som avgör hur AI-system ska fungera. Ett sådant system skulle demokratisera kontrollen över AI och göra det möjligt för människor med olika bakgrund att rösta om hur det ska fungera för dem - och för samhället som helhet.
Några exempel på frågor som OpenAI söker svar på är
- "Hur långt tycker du att man ska gå när det gäller att anpassa AI-assistenter som ChatGPT till användarens smak och preferenser?
- Vilka gränser, om några, bör finnas i denna process?
- Hur ska AI-assistenter svara på frågor om offentliga personers åsikter? Bör de t.ex. vara neutrala? Bör de vägra att svara? Bör de tillhandahålla källor av något slag?
- Under vilka villkor, om några, bör AI-assistenter tillåtas ge medicinsk/ekonomisk/juridisk rådgivning?"
OpenAI är medvetet om sin roll i utformningen av AI-tekniken, och VD Sam Altman har öppet varnat allmänheten för de risker som AI medför.
Företagets vilja att bjuda in till offentligt samarbete är beundransvärd. Att komma överens om frågor som AI-demokratisering kommer dock att kräva ett nära samarbete mellan OpenAI, Google, Anthropic och andra branschprotagonister, vilket är ett helt annat test.
