DHS startet KI-Sicherheitsausschuss, aber große Namen der Open-Source-Branche sind nicht dabei

29. April 2024
  • Das US-Ministerium für Heimatschutz (DHS) hat ein Gremium für Sicherheit und Schutz durch künstliche Intelligenz eingerichtet
  • Ziel des Gremiums ist es, den sicheren Einsatz von KI in kritischen US-Infrastrukturen zu fördern
  • Zu den Vorstandsmitgliedern gehören die CEOs der großen Tech-Unternehmen, aber die Befürworter der Open-Source-KI sind nicht vertreten.

Der Minister für Heimatschutz der Vereinigten Staaten, Alejandro Mayorkas, gab bekannt, dass das DHS einen Ausschuss für die Sicherheit künstlicher Intelligenz (Artificial Intelligence Safety and Security Board) eingerichtet hat, um den sicheren Einsatz von KI in kritischen Bereichen zu fördern. US Infrastruktur.

Mayorkas gründete das Gremium auf Anweisung von Präsident Bidens Executive Order (EO) "Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence", die im Oktober letzten Jahres unterzeichnet wurde.

Das Gremium hat die Aufgabe, Empfehlungen zu erarbeiten, wie kritische Infrastrukturakteure wie Pipeline- und Stromnetzbetreiber sowie Transport- und Internetdienstleister KI-Technologien verantwortungsvoll nutzen können.

"Künstliche Intelligenz ist eine transformative Technologie, die unsere nationalen Interessen in nie dagewesener Weise fördern kann. Gleichzeitig birgt sie reale Risiken - Risiken, die wir durch die Übernahme bewährter Praktiken und andere untersuchte, konkrete Maßnahmen abmildern können", sagte Minister Mayorkas.

Das DHS sagt, das Gremium werde ihm dabei helfen, "den sich entwickelnden Bedrohungen durch feindliche nationalstaatliche Akteure einen Schritt voraus zu sein".

In seiner Bedrohungsanalyse für das Jahr 2024 warnte das DHS, dass Nationalstaaten wie China, Russland und der Iran KI-gestützte Werkzeuge einsetzen könnten, um Ziele zu erreichen US wirtschaftliche Sicherheit und kritische Infrastrukturen.

Der Bericht stellt fest, dass diese Technologien "das Potenzial haben, Cyberangriffe in größerem Umfang, schneller, effizienter und ausweichender zu ermöglichen - gegen Ziele wie Pipelines, Eisenbahnen und andere US kritische Infrastruktur".

Das neue KI-Sicherheitsgremium soll dem DHS helfen, diesen sich entwickelnden Bedrohungen einen Schritt voraus zu sein.

Wer ist mit an Bord?

Die Liste der Mitglieder des 22-köpfigen Gremiums liest sich wie das "Who is Who" von Big Tech, aber die fehlenden Namen bieten einen potenziellen Einblick in die Art und Weise, wie die US Regierung über Open-Source-KI denkt.

Zu den Vorstandsmitgliedern gehören CEOs wie Sam Altman (OpenAI), Satya Nadella (Microsoft), Sundar Pichai (Alphabet), und Dario Amodei (Anthropic). Die Modelle, die diese Unternehmen herausgebracht haben, sind alle proprietär oder geschlossene Modelle.

Mark Zuckerberg und Elon Musk wurden überraschend ausgelassen. Beide Männer vertreten Unternehmen, die sich für "quelloffene" KI-Modelle einsetzen.

Mayorkas sagte gegenüber Reportern, er habe sich bewusst gegen "Social-Media-Unternehmen" entschieden, die in dem Gremium sitzen sollten. Wurde seine Entscheidung durch ihre Plattformen oder ihre Open-Source-KI-Strategie beeinflusst?

Die Debatte über die mit Open-Source-Modellen verbundenen Risiken geht weiter. Unternehmen wie das ironisch benannte OpenAI wurden beschuldigt, mit Hilfe von KI-Angstmache ihre Hegemonie zu erhalten, indem sie ihre Modelle geschlossen halten.

Meta, xAI und sogar das französische KI-Startup Mistral haben ihre LLMs als offen gewichtete Modelle veröffentlicht.

Die Abwesenheit von Open-Source-Vertretern und die Anwesenheit mehrerer effektiver Altruisten deutet darauf hin, dass das Gremium in dieser Woche zum ersten Mal zusammentritt und weiterhin über KI spricht.

Hier finden Sie die vollständige Liste der Vorstandsmitglieder:

  • Sam Altman, CEO, OpenAI;
  • Dario Amodei, CEO und Mitbegründer, Anthropic;
  • Ed Bastian, CEO, Delta Air Lines;
  • Rumman Chowdhury, Ph.D., CEO, Humane Intelligence;
  • Alexandra Reeve Givens, Präsidentin und CEO, Zentrum für Demokratie und Technologie
  • Bruce Harrell, Bürgermeister von Seattle, Washington; Vorsitzender des Ausschusses für Technologie und Innovation, Konferenz der Bürgermeister der Vereinigten Staaten;
  • Damon Hewitt, Präsident und Exekutivdirektor des Lawyers' Committee for Civil Rights Under Law;
  • Vicki Hollub, Präsidentin und CEO, Occidental Petroleum;
  • Jensen Huang, Präsident und CEO, NVIDIA;
  • Arvind Krishna, Vorsitzender und CEO, IBM;
  • Fei-Fei Li, Ph.D., Co-Direktor, Stanford Human-centered Artificial Intelligence Institute;
  • Wes Moore, Gouverneur von Maryland;
  • Satya Nadella, Vorsitzender und CEO, Microsoft;
  • Shantanu Narayen, Vorsitzender und CEO, Adobe;
  • Sundar Pichai, CEO, Alphabet;
  • Arati Prabhakar, Ph.D., Assistentin des Präsidenten für Wissenschaft und Technologie; Direktorin des Büros für Wissenschafts- und Technologiepolitik des Weißen Hauses;
  • Chuck Robbins, Vorsitzender und CEO, Cisco; Vorsitzender, Business Roundtable;
  • Adam Selipsky, Geschäftsführer, Amazon Webdienste;
  • Dr. Lisa Su, Vorsitzende und CEO, Advanced Micro Devices (AMD);
  • Nicol Turner Lee, Ph.D., Senior Fellow und Direktor des Center for Technology Innovation, Brookings Institution;
  • Kathy Warden, Vorsitzende, CEO und Präsidentin, Northrop Grumman; und
  • Maya Wiley, Präsidentin und CEO, The Leadership Conference on Civil and Human Rights.

Join The Future


HEUTE ABONNIEREN

Klar, prägnant, umfassend. Behalten Sie den Überblick über KI-Entwicklungen mit DailyAI

Eugene van der Watt

Eugene kommt aus der Elektronikbranche und liebt alles, was mit Technik zu tun hat. Wenn er eine Pause vom Konsum von KI-Nachrichten einlegt, findet man ihn am Snookertisch.

×
 
 

KOSTENLOSES PDF EXKLUSIV
Mit DailyAI immer einen Schritt voraus


 

Melden Sie sich für unseren wöchentlichen Newsletter an und erhalten Sie exklusiven Zugang zum neuesten eBook von DailyAI: 'Mastering AI Tools: Ihr Leitfaden für mehr Produktivität im Jahr 2024".



 
 

*Mit der Anmeldung zu unserem Newsletter akzeptieren Sie unsere Datenschutzbestimmungen und unsere Bedingungen und Konditionen