Het Witte Huis heeft onlangs hackers gerekruteerd om AI-technologie onder de loep te nemen.
Dit maakte deel uit van een uitgebreide openbare rode-teaminguitdaging die werd georganiseerd tijdens de Def Con hackconventie in Las Vegas.
Het concept van red-teaming - agressieve tests uitvoeren om technologische vooroordelen en onnauwkeurigheden te ontdekken - is over het algemeen een interne aangelegenheid.
De alomtegenwoordigheid van publieke AI's zoals ChatGPT zet ontwikkelaars echter onder druk om hun tools bloot te stellen aan intensief onderzoek, iets waar het Witte Huis ook op heeft aangedrongen.
Op Def Con dit jaar werd AI-technologie van techgiganten als Google en OpenAI in de schijnwerpers gezet toen hackers probeerden om vooroordelen en discriminatie aan het licht te brengen.
De sessie werd bijgewoond door Arati Prabhakar, hoofd van het Office of Science and Technology Policy in het Witte Huis.
Kelsey Davis, oprichter en CEO van techbedrijf CLLCTVE, was een van de honderden hackers die deelnamen aan de uitdaging.
Davis legde haar opwinding over het evenement uit aan NPR: "Dit is echt een coole manier om onze mouwen op te stropen. Je helpt het proces om iets te maken dat rechtvaardiger en inclusiever is."
AI-vooroordelen aanpakken
Davis richtte zich op het blootleggen van demografische stereotypen in AI-reacties.
Hoewel de chatbot adequaat reageerde op bepaalde vragen, vertoonde hij een opvallende raciale vooringenomenheid toen hem een scenario werd voorgelegd over het bezoeken van een Historically Black College or University (HBCU).
"Dat is goed - het betekent dat ik het gebroken heb," merkte Davis op nadat de AI-chatbot stereotype vooroordelen vertoonde. Ze heeft sindsdien haar bevindingen ingediend, die in overweging zullen worden genomen om de technologie verder te verfijnen.
De betrokkenheid van het Witte Huis benadrukt het cruciale belang van red-teaming bij het bestrijden van AI-vooroordelen.
Prabhakar legde uit: "Deze uitdaging heeft veel van de elementen die we nodig hebben. Het is gestructureerd, het is onafhankelijk, het is verantwoordelijke rapportage en het brengt veel verschillende mensen met veel verschillende achtergronden aan tafel."
AI-vooroordelen zijn voor veel mensen een reëel probleem. Zo bleek een wervingstool van Amazon sollicitaties van vrouwen af te straffen en werden in de VS ten minste vijf zwarte mannen gearresteerd vanwege valse gezichtsherkenning wedstrijden.
Onderzoekers werken aan AI-bias blootleggen vinden vaak dat het probleem voortkomt uit trainingsgegevens, die vaak slecht representatief zijn voor de diverse bevolkingsgroepen die AI zou moeten bedienen.
De organisatoren van Def Con hebben er alles aan gedaan om te zorgen voor een diverse groep deelnemers aan de red-teaming challenge, door samen te werken met community colleges en non-profits zoals Black Tech Street.
Tyrance Billingsley, oprichter van Black Tech Street, zei: "AI is cruciaal. En wij moeten erbij zijn."
In de komende maanden zullen techbedrijven de inzendingen voor de uitdaging bekijken en proberen de nodige aanpassingen aan hun AI-modellen aan te brengen om vooroordelen te verminderen.
