El Secretario de Seguridad Nacional de los Estados Unidos, Alejandro Mayorkas, anunció que el DHS había creado una Junta de Seguridad y Protección de la Inteligencia Artificial para promover el uso seguro de la IA en aplicaciones críticas. US infraestructura.
Mayorkas creó la Junta siguiendo las directrices de la Orden Ejecutiva del Presidente Biden "Desarrollo y uso seguros y fiables de la inteligencia artificial", firmada en octubre del año pasado.
El consejo tiene la misión de elaborar recomendaciones sobre la forma en que las partes interesadas en infraestructuras críticas, como los operadores de oleoductos y redes eléctricas y los proveedores de servicios de transporte e Internet, pueden aprovechar las tecnologías de IA de forma responsable.
"La Inteligencia Artificial es una tecnología transformadora que puede hacer avanzar nuestros intereses nacionales de formas sin precedentes. Al mismo tiempo, presenta riesgos reales, riesgos que podemos mitigar adoptando las mejores prácticas y tomando otras medidas concretas y estudiadas", declaró el secretario Mayorkas.
El DHS afirma que la junta le ayudará a "adelantarse a las amenazas cambiantes que plantean los agentes hostiles de los Estados-nación".
En su Evaluación de Amenazas de 2024, el DHS advertía de que naciones-estado como China, Rusia e Irán podrían utilizar herramientas asistidas por IA para atacar US seguridad económica e infraestructuras críticas.
El informe señalaba que estas tecnologías "tienen el potencial de permitir ciberataques a mayor escala, más rápidos, eficientes y evasivos, contra objetivos como oleoductos, ferrocarriles y otros". US infraestructuras críticas".
Se espera que el nuevo consejo de seguridad de IA ayude al DHS a adelantarse a estas amenazas en evolución.
¿Quién está a bordo?
La lista de los 22 miembros del consejo de administración parece un quién es quién en el mundo de la tecnología, pero los nombres que faltan ofrecen una perspectiva potencial de cómo se ha desarrollado el proyecto. US que siente el Gobierno por la IA de código abierto.
Entre los miembros del Consejo de Administración figuran directores generales como Sam Altman (OpenAI), Satya Nadella (Microsoft), Sundar Pichai (Alphabet), y Dario Amodei (Anthropic). Los modelos que han sacado estas empresas son todos propietarios, o modelos cerrados.
Mark Zuckerberg y Elon Musk son omisiones sorprendentes. Ambos representan a empresas que abogan por que los modelos de IA sean de "código abierto".
Mayorkas dijo a los periodistas que decidió deliberadamente no incluir a "empresas de medios sociales" en el consejo. Le influyeron sus plataformas o su estrategia de IA de código abierto?
El debate sobre los riesgos asociados a los modelos de código abierto continúa. Empresas como la irónicamente llamada OpenAI han sido acusados de utilizar el alarmismo de la IA para conservar su hegemonía manteniendo sus modelos cerrados.
Meta, xAI, e incluso la startup francesa de IA Mistral han publicado sus LLM como modelos de ponderación abierta.
La ausencia de representantes del código abierto y la presencia de varios altruistas eficaces hace presagiar que el consejo se reunirá por primera vez esta semana.
Aquí está la lista completa de los miembros del consejo:
- Sam AltmanCEO, OpenAI;
- Dario Amodei, Director General y Cofundador, Anthropic;
- Ed Bastian, Director General de Delta Air Lines;
- Rumman Chowdhury, doctor y director general de Humane Intelligence;
- Alexandra Reeve Givens, Presidenta y Directora General del Centro para la Democracia y la Tecnología
- Bruce Harrell, Alcalde de Seattle, Washington; Presidente del Comité de Tecnología e Innovación de la Conferencia de Alcaldes de Estados Unidos;
- Damon Hewitt, Presidente y Director Ejecutivo, Lawyers' Committee for Civil Rights Under Law;
- Vicki Hollub, Presidenta y Directora General de Occidental Petroleum;
- Jensen Huang, Presidente y Consejero delegado de NVIDIA;
- Arvind Krishna, Presidente y Director General de IBM;
- Doctora Fei-Fei Li, codirectora del Instituto de Inteligencia Artificial Centrada en el Ser Humano de Stanford;
- Wes Moore, Gobernador de Maryland;
- Satya Nadella, Presidente y Consejero Delegado de Microsoft;
- Shantanu Narayen, Presidente y Consejero Delegado de Adobe;
- Sundar Pichai, consejero delegado, Alphabet;
- Arati Prabhakar, Doctora, Asistente del Presidente para Ciencia y Tecnología; Directora de la Oficina de Política Científica y Tecnológica de la Casa Blanca;
- Chuck Robbins, Presidente y Consejero Delegado de Cisco; Presidente de Business Roundtable;
- Adam Selipsky, Director General, Amazon Servicios web;
- Dra. Lisa Su, Presidenta y Directora General de Advanced Micro Devices (AMD);
- Nicol Turner Lee, Doctora, Senior Fellow y Directora del Centro de Innovación Tecnológica, Brookings Institution;
- Kathy Warden, Presidenta, Consejera Delegada y Presidenta de Northrop Grumman; y
- Maya Wiley, Presidenta y Directora General de The Leadership Conference on Civil and Human Rights.
