Gestolen gezichten, gestolen levens: de verontrustende trend van door AI aangedreven uitbuiting
De meeste social media-gebruikers zijn wel eens een influencer tegengekomen die er een beetje… vreemd uitziet.
Misschien zijn hun gelaatstrekken iets te symmetrisch en hun houdingen iets te stijf. De kans is groot dat je helemaal niet naar een mens kijkt, maar naar een door AI gegenereerde vervalsing.
In sommige gevallen zijn deze AI-influencers zijn redelijk onschuldig – het zijn slechts digitale vormen van hun echte tegenhangers, maar ze proberen niet openlijk te bedriegen of te manipuleren.
Dit is echter niet altijd het geval. Verontrustend genoeg bestaat er een netwerk van Instagram-accounts dat AI gebruikt om nep-influencers met het syndroom van Down te creëren. Het doel? Een kwetsbare gemeenschap uitbuiten voor likes, shares en uiteindelijk geld.
Maar daar houdt de misleiding niet op. Veel van deze accounts linken door naar dubieuze websites voor volwassenen, waar de door AI gegenereerde content te gelde wordt gemaakt.
Bekijk dit bericht op Instagram
Helaas is dit slechts de nieuwste ontwikkeling in de trend van "AI-pooierij", waarbij gewetenloze personen machine learning gebruiken om nep-influencers te creëren voor financieel gewin. Het gaat niet alleen om modellen met het syndroom van Down, maar ook om nepmodellen van mensen met amputaties, brandslachtoffers en andere vormen van door AI gegenereerde pornografie.
AI-beeld- en videomodellen benaderen nu een niveau van realisme waardoor ze zeer geschikte vervangers voor echte mensen zijn. Dit heeft gevolgen voor de mode-industrie, waar echte modellen steeds vaker worden vervangen door AI-klonen.
Zelfs bekende namen als H&M begeven zich op glad ijs in deze onzekere markt. De fast fashion-gigant heeft onlangs... kondigde een campagne aan met door AI gegenereerde "digitale tweelingen" van echte modellen. In 2023 bracht een bedrijf genaamd lalaland.ai tools uit voor AI-modellen creëren tegen een abonnementsprijs.
Hoewel H&M volhoudt dat de modellen de controle over hun digitale beeltenissen behouden, zijn velen in de branche sceptisch. Immers, in een tijdperk van kostenbesparingen en consolidatie, waarom zou je menselijk talent inhuren als je een goedkope, oneindig reproduceerbare digitale avatar kunt licenseren?
De meest recente en verraderlijke wending in deze zaak betreft de fundamentele waardigheid en menselijkheid van gemarginaliseerde gemeenschappen.
Mensen met het syndroom van Down – of welke beperking dan ook – zijn geen objecten die voor winstbejag gemanipuleerd kunnen worden.
Bovendien dreigt de wildgroei aan door AI gegenereerde content het publieke vertrouwen in de media volledig te ondermijnen. Als we de beelden die we online zien niet kunnen vertrouwen, begint de basis van het digitale discours zelf af te brokkelen.
Dus de volgende keer dat je door je feed scrollt en een influencer te mooi lijkt om waar te zijn, vertrouw dan op je gevoel.
