O Secretário da Segurança Interna dos Estados Unidos, Alejandro Mayorkas, anunciou que o DHS criou um Conselho de Segurança e Proteção da Inteligência Artificial para promover a utilização segura da IA em sectores críticos. US infra-estruturas.
Mayorkas criou o conselho de acordo com as directrizes da Ordem Executiva (EO) do Presidente Biden, "Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence", assinada em outubro do ano passado.
O conselho está encarregado de elaborar recomendações sobre a forma como as partes interessadas em infra-estruturas críticas, como os operadores de condutas e de redes eléctricas e os fornecedores de serviços de transporte e de Internet, utilizam as tecnologias de IA de forma responsável.
"A Inteligência Artificial é uma tecnologia transformadora que pode fazer avançar os nossos interesses nacionais de formas sem precedentes. Ao mesmo tempo, apresenta riscos reais - riscos que podemos mitigar adoptando as melhores práticas e tomando outras medidas estudadas e concretas", afirmou o Secretário Mayorkas.
O DHS afirma que o conselho o ajudará a "manter-se à frente das ameaças em evolução colocadas por actores hostis do Estado-nação".
Na sua Avaliação de Ameaças de 2024, o DHS alertou para o facto de Estados-nação como a China, a Rússia e o Irão poderem utilizar ferramentas assistidas por IA para visar US segurança económica e infra-estruturas críticas.
O relatório refere que estas tecnologias "têm potencial para permitir ataques cibernéticos em maior escala, mais rápidos, eficientes e mais evasivos - contra alvos, incluindo oleodutos, caminhos-de-ferro e outros US infra-estruturas críticas".
Espera-se que o novo conselho de segurança da IA ajude o DHS a manter-se à frente destas ameaças em evolução.
Quem é que está a bordo?
A lista de pessoas com assento no conselho de administração de 22 membros parece um quem é quem da Big Tech, mas os nomes em falta oferecem uma potencial visão sobre como a US o que o governo pensa da IA de fonte aberta.
Os membros do conselho de administração incluem directores executivos como Sam Altman (OpenAI), Satya Nadella (Microsoft), Sundar Pichai (Alphabet), e Dario Amodei (Anthropic). Os modelos que estas empresas lançaram são todos proprietários, ou modelos fechados.
Mark Zuckerberg e Elon Musk são omissões surpreendentes. Ambos representam empresas que defendem que os modelos de IA devem ser de "código aberto".
Mayorkas disse aos jornalistas que optou deliberadamente por não incluir "empresas de redes sociais" no conselho de administração. Terá a sua decisão sido influenciada pelas suas plataformas ou pela sua estratégia de IA de código aberto?
O debate sobre os riscos associados aos modelos de código aberto continua. Empresas como a ironicamente chamada OpenAI foram acusados de utilizar o medo da IA para manter a sua hegemonia, mantendo os seus modelos fechados.
Meta, xAI e até a empresa francesa de IA Mistral lançaram os seus LLM como modelos de pesos abertos.
A ausência de representantes do sector open-source e a presença de vários altruístas efectivos indicia a continuação do discurso sobre a IA quando o conselho reunir pela primeira vez esta semana.
Eis a lista completa dos membros do conselho de administração:
- Sam Altman, DIRECTOR EXECUTIVO, OpenAI;
- Dario Amodei, Diretor Executivo e cofundador, Anthropic;
- Ed Bastian, Diretor Executivo da Delta Air Lines;
- Rumman Chowdhury, Ph.D., Diretor Executivo da Humane Intelligence;
- Alexandra Reeve Givens, Presidente e Directora Executiva do Centro para a Democracia e a Tecnologia
- Bruce Harrell, Presidente da Câmara de Seattle, Washington; Presidente do Comité de Tecnologia e Inovação da Conferência de Autarcas dos Estados Unidos;
- Damon Hewitt, Presidente e Diretor Executivo, Lawyers' Committee for Civil Rights Under Law;
- Vicki Hollub, Presidente e Directora Executiva da Occidental Petroleum;
- Jensen Huang, Presidente e Diretor Executivo da NVIDIA;
- Arvind Krishna, Presidente e Diretor Executivo da IBM;
- Fei-Fei Li, Ph.D., Co-Diretor, Instituto de Inteligência Artificial Centrada no Homem de Stanford;
- Wes Moore, Governador de Maryland;
- Satya Nadella, Presidente e Diretor Executivo da Microsoft;
- Shantanu Narayen, Presidente e Diretor Executivo da Adobe;
- Sundar Pichai, Diretor Executivo, Alphabet;
- Arati Prabhakar, Ph.D., Assistente do Presidente para a Ciência e Tecnologia; Directora do Gabinete de Política Científica e Tecnológica da Casa Branca;
- Chuck Robbins, Presidente e Diretor Executivo da Cisco; Presidente da Business Roundtable;
- Adam Selipsky, Diretor Executivo, Amazon Serviços Web;
- Dra. Lisa Su, Presidente e Directora Executiva da Advanced Micro Devices (AMD);
- Nicol Turner Lee, Ph.D., membro sénior e diretor do Centro para a Inovação Tecnológica, Brookings Institution;
- Kathy Warden, Presidente, Directora Executiva e Presidente, Northrop Grumman; e
- Maya Wiley, Presidente e Directora Executiva, The Leadership Conference on Civil and Human Rights.
