Den 29. januar 2024 lanserte Forsvarsdepartementets Chief Digital and Artificial Intelligence Office (CDAO) AI Bias Bounty-øvelser.
Disse programmene har som mål å avdekke skjevheter i AI-systemer ved hjelp av crowdsourcing, med særlig vekt på store språkmodeller (LLM).
Initiativet er en del av CDAOs bredere innsats for å integrere og optimalisere sikker AI i hele forsvarsdepartementet.
Konsekvensene av ukontrollerte skjevheter i kunstig intelligens er vidtrekkende, og manifesterer seg i ulike sektorer, fra rettshåndhevelse og finansielle tjenester til helsetjenester og mer.
Forekomster av AI feilidentifiserer enkeltpersoner som er involvert i forbrytelser, nekter urettmessig kreditt og feildiagnostiserer pasienter i medisinske sammenhenger, understreker hvor kritisk bias er i maskinlæringssystemer.
I mange tilfeller fører skjeve datasett til at maskinlæringssystemer blir partiske. For eksempel inneholdt det tilsynelatende harmløse MIT Tiny Images-datasettet støtende innhold. Mer nylig ble LAION-5B-datasettsom ble brukt til bildemodeller som DALL-E, viste seg å inneholde materiale med seksuelle overgrep mot barn.
Matthew Johnson, fungerende sjef for DoDs Responsible AI (RAI)-avdeling, snakket om CDAOs initiativ"RAI-teamet er begeistret over å lede disse AI Bias Bounties, ettersom vi er sterkt forpliktet til å sikre at departementets AI-aktiverte systemer - og kontekstene de kjører i - er trygge, sikre, pålitelige og partiskhetsfrie."
Den første fasen av dette banebrytende programmet fokuserer på å avdekke og håndtere de ukjente risikoene knyttet til LLM-er, med utgangspunkt i chatboter med åpen kildekode.
Deltakerne kan tjene penger basert på bidragene sine, som evalueres av ConductorAI-Bugcrowd og finansieres av Forsvarsdepartementet.
Resultatene kan bli retningsgivende for nye retningslinjer og anbefalinger. Craig Martell, Chief Digital and Artificial Intelligence Officer, bemerket: "Gitt departementets nåværende fokus på risiko forbundet med LLM-er, overvåker CDAO dette området aktivt. Resultatet av AI Bias Bounties kan få stor innvirkning på fremtidige retningslinjer og bruk av AI i forsvarsdepartementet."
Den amerikanske regjeringen har rekruttert AI-forskere og hackere til å undersøke og etterforske modeller, blant annet når de støttet en sesjon på Def Con hackingkonferanse i Las Vegas.
