Der Direktor der NSA und des US Cyber Command, General Paul Nakasone, kündigte in einer Rede vor dem National Press Club ein neues KI-Sicherheitszentrum an.
Mit der zunehmenden Integration von KI in die Verteidigung, die nationale Sicherheit und die zivile Infrastruktur sieht die NSA zunehmend die Notwendigkeit, sich mit den damit verbundenen Risiken zu befassen.
In einer kürzlich von der NSA durchgeführten Studie wurde der Schutz von KI-Modellen vor Diebstahl und Sabotage als eine der größten Herausforderungen für die nationale Sicherheit bezeichnet.
Nakasone sagte: "KI wird für die nationale Sicherheit in diplomatischer, technologischer und wirtschaftlicher Hinsicht für unser Land und unsere Verbündeten und Partner eine immer größere Rolle spielen. Die "diplomatischen" und "technologischen" Aspekte der nationalen Sicherheit rücken stärker in den Fokus, da die Weltmächte auf der KI-Bühne konkurrieren.
"Unsere Gegner, die jahrzehntelang den Diebstahl und die Ausbeutung unseres geistigen Eigentums genutzt haben, um ihre Interessen durchzusetzen, werden versuchen, unsere Fortschritte in der KI zu übernehmen und unsere Anwendung zu korrumpieren", sagte Nakasone, ohne China ausdrücklich zu erwähnen.
Das neue KI-Sicherheitszentrum wird unter die operative Aufsicht des Cybersecurity Collaboration Center der NSA fallen. Nakasone erklärte, das neue Zentrum werde sich darauf konzentrieren, "die sichere Einführung neuer KI-Fähigkeiten im gesamten nationalen Sicherheitsunternehmen und in der Verteidigungsindustrie zu fördern".
AI: Sowohl die Ursache als auch die Lösung des Problems
Die offenkundigen Risiken der KI als Waffe sind einige der klaren und offensichtlichen Bereiche, auf die sich die NSA konzentriert.
Der NSA-Direktor erklärte, seine Behörde habe noch keine Bemühungen Chinas oder Russlands zur Beeinflussung der bevorstehenden US-Wahlen festgestellt, doch aufgrund der Erfahrungen der Vergangenheit bestehe das Risiko weiter.
A aktueller Bericht auf einen Anstieg der Cybersecurity-Angriffe durch chinesische Cyber-Akteure, bekannt als BlackTech, hingewiesen. Mit der Verbesserung der KI werden auch die Raffinesse und das Ausmaß dieser Angriffe zunehmen.
Der Einsatz von KI zur Verarbeitung großer Datenmengen und zur Entscheidungsfindung, um diese Risiken zu erkennen und zu mindern, ist eine attraktive Perspektive. Doch mit der Integration von KI in die Abläufe nationaler Sicherheitsorganisationen wie der NSA sind diese auch neuen Risiken ausgesetzt.
Wenn wir nicht genau verstehen, wie ein KI-Modell zu einer Empfehlung kommt, können wir ihm dann vertrauen? Wenn das Modell zu Verzerrungen oder Halluzinationen neigt, könnte der zugrundeliegende Datensatz von schlechten Akteuren verfälscht werden?
Die CIA kündigte an, dass es seine eigene KI-Version von ChatGPT entwickelt, und die DARPA forscht an wie man KI für Entscheidungen auf dem Schlachtfeld einsetzt. Stellen Sie sich vor, was passieren könnte, wenn diese KI-Tools so beeinflusst werden könnten, dass sie schlechte Ratschläge geben.
Das Sicherheitszentrum der NSA soll diese Einrichtungen davor schützen, dass ihre Technologie von den Gegnern der USA gestohlen oder sabotiert wird. Der Direktor betonte auch, dass KI keine nationalen Sicherheitsentscheidungen automatisieren werde.
"KI hilft uns, aber unsere Entscheidungen werden von Menschen getroffen", sagte Nakasone. Aber je besser die KI wird, desto mehr werden sich die Menschen bei ihren Entscheidungen auf sie verlassen.
Und je mehr sich die nationale Sicherheit auf KI stützt, desto anfälliger wird die Gesellschaft für KI-Pannen oder Sabotage.
