OpenAI hat den Start seiner $1 Millionen Zuschussprogramm für Cybersicherheiteine Initiative, die darauf abzielt, Cybersicherheit mit KI zu verbinden und den Diskurs über die Rolle der KI in der Cybersicherheit zu fördern.
Mit der Initiative sollen drei Hauptziele erreicht werden:
- Befähigung der Verteidiger: OpenAI beabsichtigt, Verteidiger (Organisationen und Dienste, die sich auf den Schutz von Systemen konzentrieren) mit fortschrittlichen KI-Fähigkeiten auszustatten.
- Auswirkungen messen: Sie beabsichtigen, die Wirksamkeit von KI im Bereich der Cybersicherheit zu messen.
- Den Diskurs fördern: OpenAI beabsichtigt, mit dem Programm eine Debatte über die Wechselwirkung zwischen KI und Cybersicherheit, einschließlich der Chancen und Herausforderungen, anzuregen.
OpenAI hat mehrere Projektideen vorgeschlagen, darunter das Sammeln und Kennzeichnen von Daten zur Schulung von Cybersicherheitsagenten, das Erkennen und Entschärfen von Social-Engineering-Taktiken, das automatische Patchen von Schwachstellen, das Erkennen von Sicherheitsproblemen im Quellcode und die Unterstützung der Netzwerk- oder Geräteforensik.
Der Zuschuss in Höhe von $1 Mio. wird in Schritten von $10.000 durch API-Gutschriften oder direkte Finanzierung vergeben. Das Unternehmen erklärte, es werde Anwendungen bevorzugen, die lizenziert und vertrieben werden, um "den größtmöglichen Nutzen für die Allgemeinheit und die gemeinsame Nutzung" zu erzielen.
OpenAI Zuschüsse und Initiativen
Es ist nicht das erste Mal, dass OpenAI umfangreiche Zuschüsse als Gegenleistung für öffentliche Beiträge anbietet.
Am 25. Mai kündigte das Unternehmen zehn $100.000 Zuschüsse für die Gestaltung demokratischer Prozesse, die bestimmen, wie KI-Systeme funktionieren sollen. Ein solches System würde die Kontrolle über die KI demokratisieren und es Menschen mit unterschiedlichem Hintergrund ermöglichen, darüber abzustimmen, wie sie für sie - und für die Gesellschaft als Ganzes - funktionieren soll.
Einige Beispielfragen, auf die OpenAI Antworten sucht, sind:
- "Wie weit sollte Ihrer Meinung nach die Personalisierung von KI-Assistenten wie ChatGPT gehen, um sich an den Geschmack und die Vorlieben der Nutzer anzupassen?
- Welche Grenzen, wenn überhaupt, sollten in diesem Prozess bestehen?
- Wie sollten KI-Assistenten auf Fragen zu Standpunkten von Personen des öffentlichen Lebens reagieren? Sollten sie z. B. neutral sein? Sollten sie die Antwort verweigern? Sollten sie eine Art von Quellen angeben?
- Unter welchen Bedingungen, wenn überhaupt, sollten KI-Assistenten medizinische/finanzielle/juristische Beratung leisten dürfen?"
OpenAI ist sich seiner Rolle bei der Gestaltung der KI-Technologie bewusst, und der CEO, Sam Altman, hat die Öffentlichkeit offen vor den Risiken der KI gewarnt.
Die Bereitschaft des Unternehmens, die Öffentlichkeit zur Mitarbeit einzuladen, ist bewundernswert. Eine Einigung in Fragen wie der KI-Demokratisierung erfordert jedoch eine enge Zusammenarbeit zwischen OpenAI, Google, Anthropic und anderen Protagonisten der Branche, was eine ganz andere Prüfung darstellt.
