Einige der bekanntesten Namen aus der Big-Tech-Branche haben sich zusammengeschlossen, um die Coalition for Secure AI (CoSAI) zu gründen.
Einen globalen Standard für sichere KI-Entwicklungspraktiken gibt es noch nicht. Die derzeitigen KI-Sicherheitsmaßnahmen sind fragmentiert und werden oft von den Unternehmen, die KI-Modelle erstellen, intern gehalten.
CoSAI ist eine Open-Source-Initiative des globalen Normungsgremiums OASIS, die darauf abzielt, bewährte Verfahren für die sichere Entwicklung und den Einsatz von KI zu standardisieren und auszutauschen.
Zu den großen Tech-Unternehmen, die die Initiative unterstützen, gehören Google, IBM, Intel, Microsoft, NVIDIA und PayPal. Weitere Gründungssponsoren sind Amazon, Anthropic, Cisco, Chainguard, Cohere, GenLab, OpenAI und Wiz.
Auffallend ist die Abwesenheit von Apple und Meta.
Ziel der CoSAI ist es, umfassende Sicherheitsmaßnahmen zu entwickeln und zu verbreiten, die unter anderem auf Risiken eingehen:
- Diebstahl des Modells
- Datenvergiftung der Trainingsdaten
- Einschleusen von bösartigen Eingaben durch Prompt Injection
- skalierte Missbrauchsprävention
- Angriffe durch Mitgliedschaftsinferenz
- Modellinversionsangriffe oder Gradienteninversionsangriffe zur Ableitung privater Informationen
- Extraktion vertraulicher Informationen aus den Trainingsdaten
Die Charta der CoSAI Das Projekt sieht folgende Themen nicht vor: Fehlinformationen, Halluzinationen, hasserfüllte oder beleidigende Inhalte, Voreingenommenheit, Generierung von Malware, Phishing-Inhalte oder andere Themen im Bereich der Inhaltssicherheit".
Google hat bereits sein Google Secure AI Framework (SAIF) und OpenAI hat sein angeschlagenes Ausrichtungsprojekt. Bis zum CoSAI gab es jedoch kein Forum, in dem die von den Akteuren der Branche unabhängig voneinander entwickelten bewährten Verfahren für die KI-Sicherheit zusammengeführt wurden.
Wir haben gesehen, wie kleine Startups wie Mistral erleben mit den von ihnen entwickelten KI-Modellen einen kometenhaften Aufstieg, aber viele dieser kleineren Unternehmen haben nicht die Mittel, um KI-Sicherheitsteams zu finanzieren.
CoSAI wird eine wertvolle kostenlose Quelle für bewährte Praktiken im Bereich der KI-Sicherheit für kleine und große Akteure in der Branche sein.
Heather Adkins, Vice President und Cybersecurity Resilience Officer bei Google, sagte: "Wir setzen KI seit vielen Jahren ein und sehen das anhaltende Potenzial für Verteidiger, erkennen aber auch die Chancen für Angreifer.
"CoSAI wird Unternehmen, ob groß oder klein, dabei helfen, KI sicher und verantwortungsbewusst zu integrieren - und ihnen dabei helfen, ihre Vorteile zu nutzen und gleichzeitig die Risiken zu minimieren."
Nick Hamilton, Head of Governance, Risk, and Compliance bei OpenAI, sagte: "Die Entwicklung und der Einsatz von KI-Technologien, die sicher und vertrauenswürdig sind, ist ein zentraler Bestandteil der Mission von OpenAI.
"Wir glauben, dass die Entwicklung robuster Standards und Praktiken für die sichere und verantwortungsvolle Nutzung von KI unerlässlich ist, und wir sind entschlossen, in der gesamten Branche zusammenzuarbeiten, um dies zu erreichen.
"Durch unsere Teilnahme an CoSAI wollen wir unser Fachwissen und unsere Ressourcen einbringen, um ein sicheres KI-Ökosystem zu schaffen, von dem alle profitieren."
Hoffen wir, dass die Leute die Ilya Sutskever und andere, die gegangen sind OpenAI aufgrund von Sicherheitsbedenken freiwillig ihren Beitrag zum CoSAI leisten.
