Mit der zunehmenden Verbreitung von KI-Technologien werden diese auch zur Zielscheibe für Cyberkriminelle. Cybersicherheitsbehörden aus dem Vereinigten Königreich und den USA haben neue Leitlinien entwickelt, wie KI sicherer gemacht werden kann.
Das erklärte Ziel von die Leitlinien ist es, KI-Unternehmen in die Lage zu versetzen, "KI-Systeme zu entwickeln, die wie beabsichtigt funktionieren, bei Bedarf verfügbar sind und arbeiten, ohne sensible Daten an Unbefugte weiterzugeben".
Grundsätzlich geht es darum, wie man sicherstellt, dass die KI nicht gekapert werden kann und keine privaten Nutzerdaten weitergibt.
In den Leitlinien werden Gestaltungsprinzipien aufgeführt, die die Entwicklung von KI-Produkten während des gesamten Entwicklungszyklus leiten sollten. Die vier angesprochenen Schlüsselbereiche sind im Überblick:
- Sicheres Design
Risikobewertung und Bedrohungsmodellierung in der Entwurfsphase. - Sichere Entwicklung
Verwalten Sie Ihre Lieferkette, Dokumentation und digitalen Ressourcen auf sichere Weise, während Sie Ihr Produkt entwickeln. Wenn Sie unsichere Abkürzungen nehmen, sollten Sie diese korrigieren. - Sicherer Einsatz
Wenn Sie Benutzern Zugang zu Ihrem Produkt gewähren, stellen Sie sicher, dass sie nicht über die API oder auf anderem Wege auf sensible Teile zugreifen können. Stellen Sie das Produkt erst nach einem strengen Red-Teaming und Tests bereit. - Sichere Bedienung und Wartung
Überwachen Sie Ihr Produkt, bringen Sie Updates sorgfältig heraus und machen Sie kein Geheimnis daraus, wenn etwas schief läuft.
Die Leitlinien enthalten zwar nur wenige technische Details für die Umsetzung, sind aber ein guter Anfang. Neben dem Vereinigten Königreich und den USA haben 16 weitere Länder die Leitlinien gebilligt.
Die vollständige Liste der Unterzeichner ist wie folgt:
Australien, Chile, Deutschland, Estland, Frankreich, Israel, Italien, Japan, Kanada, Neuseeland, Nigeria, Norwegen, Polen, Republik Korea, Singapur, Tschechische Republik, Vereinigtes Königreich, Vereinigte Staaten von Amerika.
Auffallend ist, dass China und Russland, die wahrscheinlich bedeutendsten Quellen für die Energieerzeugung, auf der Liste fehlen. Cyber-Angriffe auf westliche Länder.
Die Leitlinien sind nicht verbindlich, so dass die Länder, die das Dokument gebilligt haben, eigentlich nur sagen: "Wir denken, dass dies einige gute KI-Design-Prinzipien sind, an die man sich halten sollte. Und obwohl das Vereinigte Königreich bei diesen Bemühungen eine Vorreiterrolle spielt, hat es erklärt, dass es in naher Zukunft keine neuen Gesetze zur KI-Entwicklung erlassen wird.
Es liegt im Interesse der Länder, ihre KI-Produkte so sicher wie möglich zu machen, aber ob das möglich ist, bleibt abzuwarten. Zero-Day-Schwachstellen in kommerzieller Software und Systemen scheinen alltäglich zu sein.
Mit regelmäßigen Berichten über Jailbreaking Ist es vernünftig zu erwarten, dass diese neuen Modelle angemessen vor Cyberangriffen geschützt werden können, wenn man die Möglichkeiten von KI-Systemen nutzt?
Die eingebildeten oder vorhergesagten Gefahren der KI sind eine potenzielle zukünftige Bedrohung. Die Cyberkriminellen, die derzeit zweifellos KI-Schwachstellen ausloten, sind eine eindeutigere und gegenwärtige Gefahr.
