Terwijl we dit jaar afstevenen op cruciale verkiezingen - niet minder de Amerikaanse - zijn we getuige van de kwaadaardige tweelingbroer van diepe valse desinformatie - "leugenaarsdividend".
Deep fakes zijn ongelooflijk levensechte AI-gegenereerde kopieën van audio, video of afbeeldingen.
Er zijn talloze voorbeelden geweest van diepe vervalsingen die mensen en de samenleving beïnvloedden, van een door AI gegenereerde afbeelding van het Pentagon die tastbaar was in het midden van de wereld. die de aandelenmarkt vorig jaar beïnvloedde naar een robotstem zoals president Biden deze week.
Diepe vervalsingen zijn echter niet alleen handig om de waarheid te verdraaien - ze zijn ook uitstekend om de waarheid te weerleggen. Dit wordt ook wel het "dividend van de leugenaar" genoemd. Dit beschrijft de voordelen die iemand heeft als hij authentieke inhoud als nep bestempelt.
Zo beweerde voormalig president Donald Trump vorig jaar in een reactie op een Fox News-reclame waarin hij zijn publieke blunders onder de aandacht bracht, dat de beelden waren AI-gecreëerd.
Hij hekelde de advertentie in een bericht op Truth Social en zei: "De viezeriken en losers van het mislukte en ooit opgeheven Lincoln Project, en anderen, gebruiken AI in hun nep tv-spotjes om mij er net zo slecht en zielig uit te laten zien als Crooked Joe Biden, geen gemakkelijke opgave."
Het Lincoln Project weerlegde vervolgens de bewering van Trump door erop te wijzen dat de advertentie goed gedocumenteerde incidenten uit zijn presidentschap bevatte.
Libby Lange, analist bij analytics-provider Graphikazegt: "AI destabiliseert het concept van de waarheid zelf. Als alles nep kan zijn, en als iedereen beweert dat alles nep is of op de een of andere manier gemanipuleerd, dan is er eigenlijk geen gevoel van fundamentele waarheid."
Wereldwijd gebruiken politici AI nu regelmatig als zondebok. Zo werd een controversiële video van een Taiwanese politicus die een buitenechtelijke affaire suggereerde al snel afgedaan als mogelijk door AI gegenereerd.
Ook in de Indiase deelstaat Tamil Nadu weerlegde een politicus een uitgelekte geluidsopname als "machinaal gegenereerd", hoewel de echtheid ervan onzeker blijft.
We hebben ook AI-beelden gezien van oorlogsmisdaden in Israël, Palestina en Oekraïne, zoals een verbrande baby, die Ben Shapiro deelde met miljoenen volgers voordat het was in diskrediet gebracht als nep.
Er zijn ook niet-politieke voorbeelden geweest, zoals een stemfragment dat afkomstig zou zijn van een schooldirecteur uit Baltimore County die racistische opmerkingen maakte. Er werd beweerd dat deze door AI waren gegenereerd, maar het is lastig om dat zonder verdere context te bevestigen.
Diepe vervalsingen waren een veelbesproken onderwerp op de recente Wereld Economisch Forum in Davosmaar de inspanningen om ze in te dammen zijn tot nu toe oppervlakkig en ineffectief geweest. Technologiebedrijven onderzoeken manieren om AI-gegenereerde inhoud automatisch te verifiëren, maar alleen experts kunnen echte van nepmedia onderscheiden.
En zelfs de experts hebben het mis, want er zijn gevallen waarin gespecialiseerde AI-detectors tot betwiste conclusies komen over de echtheid van een afbeelding.
Stel vervolgens dat afbeeldingen 'officieel' worden geclassificeerd als echt of nep, maar het oordeel is verkeerd - je kunt je de hel die zou kunnen losbarsten alleen maar voorstellen.
