Em 29 de janeiro de 2024, o Escritório Chefe de Inteligência Digital e Artificial (CDAO) do Departamento de Defesa lançou os exercícios AI Bias Bounty.
Estes programas têm como objetivo a deteção de enviesamentos nos sistemas de IA, com especial ênfase nos modelos de linguagem de grande dimensão (LLM).
A iniciativa faz parte do esforço mais alargado da CDAO para integrar e otimizar a IA segura em todo o DoD.
As repercussões de preconceitos de IA não controlados são de grande alcance, manifestando-se em vários sectores, desde a aplicação da lei e os serviços financeiros até aos cuidados de saúde e muito mais.
Instâncias de Identificação incorrecta de indivíduos pela IA envolvidos em crimes, negando créditos injustos e diagnosticando erradamente pacientes em contextos médicos, sublinham a natureza crítica do enviesamento nos sistemas de aprendizagem automática.
Em muitos casos, os conjuntos de dados enviesados incorporam enviesamento nos sistemas de aprendizagem automática. Por exemplo, o conjunto de dados do MIT Tiny Images, aparentemente inócuo, continha conteúdo ofensivo. Mais recentemente, o Conjunto de dados LAION-5Butilizada para modelos de imagem como DALL-E, continha material de abuso sexual de crianças.
Matthew Johnson, chefe interino da Divisão de IA Responsável (RAI) do DoD, falou da iniciativa da CDAOA equipa da RAI está entusiasmada por liderar estes Prémios de Preconceito de IA, uma vez que estamos fortemente empenhados em garantir que os sistemas de IA do Departamento - e os contextos em que funcionam - são seguros, protegidos, fiáveis e livres de preconceitos".
A primeira fase deste programa inovador centra-se na descoberta e abordagem dos riscos desconhecidos associados aos LLM, começando pelos chatbots de código aberto.
Os participantes podem ganhar recompensas monetárias com base nas suas contribuições, avaliadas pela ConductorAI-Bugcrowd e financiadas pelo DoD.
Os resultados poderão orientar novas políticas e recomendações. Craig Martell, o Diretor de Inteligência Artificial e Digital, observou: "Dado o foco atual do Departamento nos riscos associados aos LLMs, o CDAO está monitorando ativamente esta área; o resultado do AI Bias Bounties pode impactar fortemente as futuras políticas e adoção de AI do DoD.
O governo dos Estados Unidos recrutou investigadores e hackers de IA para investigarem e colocarem modelos na equipa vermelha, incluindo quando estes apoiou uma sessão na Def Con convenção de hackers em Las Vegas.
