2023 is getuige geweest van een stortvloed van diepe nepbeelden die zijn gemaakt met AI-beeldgeneratoren, van een nepbeeld van een explosie bij het Pentagon tot beelden van kindermisbruik.
Deep fake-technologie genereert ook robuuste kopieën van vrijwel ieders stem, van Johnny Cash zingt Barbie Girl naar valse toespraken van ex-Sudanese president Omar al-Bashir.
Het is dan ook niet verwonderlijk dat er in het toch al beladen digitale landschap rond het huidige conflict tussen Israël en Hamas grote vervalsingen zijn geslopen.
Over het algemeen denken analisten dat AI-misinformatie beperkt is gebleven - er circuleert genoeg echte viscerale inhoud op sociale media. Alleen al het vooruitzicht van door AI gegenereerde vervalsingen heeft er echter toe geleid dat mensen de legitimiteit van authentieke afbeeldingen, video's en audioclips in twijfel trekken.
Dit wordt "leugenaarsdividend" genoemd. Echte inhoud kan nu mogelijk worden afgedaan als AI-gegenereerd, waardoor het in de ogen van toeschouwers vals wordt.
Sociale media creëren de perfecte arena voor achterdocht en paranoia rond digitale inhoud om zich als een lopend vuurtje te verspreiden - de mogelijkheid om iets dat echt lijkt als nep te bestempelen, en vice versa, is iets dat velen zullen gebruiken om hun mening kracht bij te zetten.
Zoals Bill Marcellino van de RAND Corporation dit dilemma onderstreept: "Wat gebeurt er als letterlijk alles wat je ziet dat digitaal is, synthetisch zou kunnen zijn?"
Ook Hany Farid, een specialist op het gebied van digitaal forensisch onderzoek en AI-misinformatie, zei over het conflict tussen Israël en Hamas: "Zelfs volgens de normen voor oorlogsmist waaraan we gewend zijn, is dit conflict bijzonder rommelig... Het spookbeeld van deepfakes is nu veel, veel significanter - je hebt er geen tienduizenden voor nodig, maar slechts een paar, en dan vergiftig je de bron en wordt alles verdacht."
Opvallend is hoe snel deep fake technologie zich heeft ontwikkeld. In 2022 was het identificeren van inconsistenties in door AI gegenereerde afbeeldingen eenvoudig en intuïtief, terwijl het nu vaak gespecialiseerde analyse vereist.
Naarmate de emotioneel geladen discussies over Gaza voortduren, vooral op sociale mediaplatforms, wordt de erosie van vertrouwen duidelijker.
Nepcontent zorgt voor controverse en dus voor publiciteit
Het probleem met twijfelachtige nepcontent is dat het debat aantrekt en, op zijn beurt, indrukken, likes en opmerkingen
Zo werd in een bericht op X, dat 1,8 miljoen keer werd bekeken, een verkeerd beeld geschetst van de fans van Atletico Madrid met een enorme Palestijnse vlag. Gebruikers wezen op de vervormde figuren in de afbeelding, wat duidt op AI-generatie.
Een andere post van een Hamas-gelinkt account op platform X, zoals gemeld door de New York Times, portretteerde op onjuiste wijze een tentenkamp voor ontheemde Israëli's, met een onjuist vlagontwerp. Deze post werd vervolgens verwijderd.
Meer aandacht en nauwkeurigheid ging uit naar beelden zonder duidelijke tekenen van AI-manipulatie. Voorbeelden hiervan zijn een video van een ziekenhuisdirecteur in Gaza die een persconferentie geeft, die door sommigen werd bestempeld als "door AI gegenereerd", ondanks het feit dat meerdere bronnen de gebeurtenis vanuit verschillende hoeken vastlegden.
In een poging om de waarheid te scheiden van door AI gegenereerde inhoud, hebben sommige gebruikers van sociale media zich gewend tot detectietools. Deze tools beweren digitale manipulatie te identificeren, maar zijn inconsistent en onbetrouwbaar gebleken.
In de eerste dagen van het conflict deelde premier Netanyahu een reeks afbeeldingen op platform X, waarin hij beweerde dat ze "gruwelijke foto's van vermoorde en verbrande baby's" door Hamas weergaven.
Toen de conservatieve commentator Ben Shapiro de aandacht vestigde op een van de afbeeldingen op platform X, kreeg hij te maken met wijdverspreide beschuldigingen van het verspreiden van AI-gegenereerde inhoud. We zullen de Tweet niet direct invoegen vanwege de gruwelijke aard van de afbeelding, maar je kunt de debat over Shapiro's post hier.
In een bericht, dat meer dan 21 miljoen keer werd bekeken voordat het werd verwijderd, werd beweerd dat er bewijs was dat de afbeelding van de baby nep was. Er werd een screenshot getoond van AI or Not, een detectieprogramma, waarin de afbeelding werd bestempeld als "gegenereerd door AI".
Het bedrijf herzag later deze beoordeling op platform X en legde uit dat het resultaat "niet overtuigend" was vanwege beeldcompressie en wijzigingen die identificerende details verdoezelden. Het bedrijf kondigde ook aan dat het als reactie hierop zijn detectietool had verfijnd.
We volgen het debat op Twitter, zoals we altijd doen bij zeer zichtbare controversiële zaken. We hebben met ons systeem bevestigd dat het resultaat niet overtuigend is omdat de foto is gecomprimeerd en gewijzigd om het naamplaatje te vervagen. https://t.co/uZihVMD7Cq
- AI of niet (@Ai_or_Not) 13 oktober 2023
Anatoly Kvitnitsky, CEO van AI of nietDe heer Van Gansewinkel heeft nagedacht over de ethische implicaties van hun technologie: "We realiseerden ons dat elke technologie die is gebouwd, op een gegeven moment is gebruikt voor het kwaad... We kwamen tot de conclusie dat we proberen goed te doen, we gaan de service actief houden en ons best doen om ervoor te zorgen dat we leveranciers van de waarheid zijn. Maar we hebben er wel over nagedacht - veroorzaken we meer verwarring, meer chaos?"
Dit alles leidt tot een ongelooflijk verwarrende situatie die emoties versterkt die al tot het uiterste waren gedreven.
AI geeft en neemt iets weg van het publieke debat en de waarheid. Hoe passen mensen zich aan aan de aanwezigheid van AI op sociale media en kunnen techbedrijven ooit de controle terugnemen?
