Vooringenomenheid is altijd al een probleem geweest in AI, maar een nieuw onderzoek toont aan dat het heimelijk wordt ge\u00efntegreerd in taalmodellen met mogelijk catastrofale gevolgen.<\/b><\/p>\n
In wat al is aangekondigd als een baanbrekende studie, heeft een team van onderzoekers, waaronder Valentin Hofman, Pratyusha Ria Kalluri, Dan Jurafsky en Sharese King, gedocumenteerd hoe grote taalmodellen (LLM's) Afrikaans Amerikaans Engels (AAE) discrimineren.<\/span><\/p>\n Kortom, het onderzoek test hoe verschillende spelling en dialecten het gedrag van LLM's be\u00efnvloeden. Er wordt onderzocht of bepaalde dialecten en woordgebruik het gedrag van LLM be\u00efnvloeden, waarbij de nadruk ligt op vooroordelen en discriminatie.\u00a0<\/span><\/p>\n We weten dat de uitvoer van LLM zeer gevoelig is voor de invoer. Zelfs kleine afwijkingen in spelling en stijl kunnen de uitvoer be\u00efnvloeden.<\/span><\/p>\n Maar betekent dit dat bepaalde inputs - bijvoorbeeld die getypt in AAE - een bevooroordeelde output produceren? Zo ja, wat zijn dan de mogelijke gevolgen?\u00a0<\/span><\/p>\n Om deze vragen te beantwoorden <\/span>onderzoekers<\/span> analyseerde de vooroordelen van in totaal 12 LLM's tegen AAE en onthulde vooroordelen die overeenkomen met of zelfs groter zijn dan de vooroordelen die mensen doorgaans hebben. De studie is beschikbaar op ArXiv.<\/a><\/span><\/p>\n De onderzoekers pasten hun bevindingen vervolgens toe op maatschappelijke domeinen zoals werkgelegenheid en strafrecht, waar AI-besluitvorming steeds gebruikelijker wordt.\u00a0<\/span><\/p>\n Hofmann beschreef de onderzoeksmethodologie op X: \"We analyseren dialectvooroordelen in LLM's met behulp van Matched Guise Probing: we sluiten Afro-Amerikaans Engels en Standardized American English (SAE) teksten in met prompts die vragen naar eigenschappen van de sprekers die de teksten hebben uitgesproken, en vergelijken de modelvoorspellingen voor de twee soorten input.\"\u00a0<\/span><\/p>\n We analyseren dialectvooroordelen in LLM's met behulp van Matched Guise Probing: we sluiten Afrikaans-Amerikaans Engels en gestandaardiseerd Amerikaans Engels in met prompts die vragen naar eigenschappen van de sprekers die de teksten hebben uitgesproken, en vergelijken de modelvoorspellingen voor de twee soorten input. pic.twitter.com\/drTco67Ean<\/a><\/p>\n - Valentin Hofmann (@vjhofmann) 4 maart 2024<\/a><\/p><\/blockquote>\n\n