Alejandro Mayorkas, minister van Binnenlandse Veiligheid van de Verenigde Staten, kondigde aan dat het DHS een raad voor de veiligheid en beveiliging van kunstmatige intelligentie heeft opgericht om het veilige gebruik van AI in kritieke sectoren te bevorderen. US infrastructuur.
Mayorkas richtte de raad op in opdracht van President Biden's Executive Order (EO), "Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence", ondertekend in oktober vorig jaar.
De raad is belast met het ontwikkelen van aanbevelingen over hoe belanghebbenden bij kritieke infrastructuur, zoals beheerders van pijpleidingen en elektriciteitsnetwerken, en transport- en internetproviders op verantwoorde wijze gebruik kunnen maken van AI-technologieën.
"Kunstmatige intelligentie is een transformerende technologie die onze nationale belangen op ongekende manieren kan bevorderen. Tegelijkertijd brengt het echte risico's met zich mee - risico's die we kunnen beperken door best practices aan te nemen en andere bestudeerde, concrete acties te ondernemen," zei minister Mayorkas.
Het DHS zegt dat de raad zal helpen om "de veranderende dreigingen van vijandige actoren uit natiestaten voor te blijven".
In zijn dreigingsevaluatie van 2024 waarschuwde het DHS dat staten als China, Rusland en Iran AI-ondersteunde instrumenten kunnen gebruiken om zich te richten op US economische veiligheid en kritieke infrastructuur.
In het rapport wordt opgemerkt dat deze technologieën "het potentieel hebben om grootschaligere, snellere, efficiëntere en meer ontwijkende cyberaanvallen mogelijk te maken tegen doelwitten, waaronder pijpleidingen, spoorwegen en andere infrastructuren". US kritieke infrastructuur."
Verwacht wordt dat de nieuwe AI-veiligheidsraad het DHS zal helpen om deze veranderende bedreigingen voor te blijven.
Wie is aan boord?
De lijst met mensen die zitting hebben in het 22 leden tellende bestuur leest als een who's who van Big Tech, maar de ontbrekende namen bieden een potentieel inzicht in hoe de US hoe de overheid denkt over open-source AI.
Onder de bestuursleden bevinden zich CEO's als Sam Altman (OpenAI), Satya Nadella (Microsoft), Sundar Pichai (Alphabet), en Dario Amodei (Anthropic). De modellen die deze bedrijven hebben uitgebracht zijn allemaal gesloten modellen.
Mark Zuckerberg en Elon Musk zijn verrassende afwezigen. Beide mannen vertegenwoordigen bedrijven die ervoor pleiten om AI-modellen "open-source" te maken.
Mayorkas vertelde verslaggevers dat hij er bewust voor had gekozen om geen "sociale mediabedrijven" in het bestuur op te nemen. Werd zijn beslissing beïnvloed door hun platforms of hun open-source AI-strategie?
Het debat over de risico's van open source modellen gaat door. Bedrijven zoals het ironisch genaamde OpenAI zijn beschuldigd van het gebruiken van AI-angstzaaierij om hun hegemonie te behouden door hun modellen gesloten te houden.
Meta, xAI en zelfs de Franse AI-startup Mistral hebben hun LLM's vrijgegeven als modellen met open gewichten.
De afwezigheid van open-source vertegenwoordigers en de aanwezigheid van een aantal effectieve altruïsten duidt op een voortdurende AI-doemdenken wanneer het bestuur deze week voor het eerst bijeenkomt.
Hier is de volledige lijst met bestuursleden:
- Sam AltmanCEO, OpenAI;
- Dario Amodei, CEO en medeoprichter, Anthropic;
- Ed Bastian, CEO van Delta Air Lines;
- Rumman Chowdhury, Ph.D., CEO, Humane Intelligence;
- Alexandra Reeve Givens, voorzitter en CEO, Centrum voor Democratie en Technologie
- Bruce Harrell, burgemeester van Seattle, Washington; voorzitter van het Technology and Innovation Committee, United States Conference of Mayors;
- Damon Hewitt, voorzitter en uitvoerend directeur, Lawyers' Committee for Civil Rights Under Law;
- Vicki Hollub, President en CEO van Occidental Petroleum;
- Jensen Huang, voorzitter en CEO van NVIDIA;
- Arvind Krishna, voorzitter en CEO, IBM;
- Fei-Fei Li, Ph.D., Co-Director, Stanford Human-centered Artificial Intelligence Institute;
- Wes Moore, gouverneur van Maryland;
- Satya Nadella, voorzitter en CEO van Microsoft;
- Shantanu Narayen, voorzitter en CEO, Adobe;
- Sundar Pichai, CEO, Alphabet;
- Arati Prabhakar, Ph.D., assistent van de president voor wetenschap en technologie; directeur van het White House Office of Science and Technology Policy;
- Chuck Robbins, voorzitter en CEO, Cisco; voorzitter, Business Roundtable;
- Adam Selipsky, CEO, Amazon Webdiensten;
- Dr. Lisa Su, voorzitter en CEO van Advanced Micro Devices (AMD);
- Nicol Turner Lee, Ph.D., Senior Fellow en directeur van het Centrum voor Technologische Innovatie, Brookings Institution;
- Kathy Warden, voorzitter, CEO en President, Northrop Grumman; en
- Maya Wiley, voorzitter en CEO van de Leadership Conference on Civil and Human Rights.
