När Bangladesh förbereder sig för det nationella valet i början av januari sticker ett alltmer välbekant hot upp sitt fula tryne: AI-genererad djupt falsk felaktig information.
Valet i Bangladesh är en uppslitande kamp mellan den nuvarande premiärministern Sheikh Hasina och oppositionspartiet Bangladesh Nationalist Party.
Många rapporter uppmärksammar regeringsvänliga grupper som använder dessa verktyg för att producera AI-genererade nyhetsklipp som är utformade för att påverka den allmänna opinionen.
I ett sådant klipp kritiserar till exempel ett AI-skapat nyhetsankare från Bangladesh USA, vilket är ett eko av den nuvarande regeringens ståndpunkt.
Ett annat exempel är djupt fejkade videor som syftar till att misskreditera oppositionella, till exempel genom att visa dem ta impopulära ställningstaganden i känsliga frågor som stöd till Gaza, en oerhört viktig debattfråga i detta land med 175 miljoner invånare och muslimsk majoritet.
Djupt förfalskad felaktig information och desinformation har utan tvekan blivit AI:s mest omedelbara och akuta risker. Det var bara den här veckan som Rysslands president Vladimir Putin konfronterades med en AI-kopia av sig själv i en presskonferens - en student använde den för att göra en poäng om djupa förfalskningar i en direktsänd frågestund.
Det slovakiska valet drabbades av desinformation i sociala medier under de senaste 48 timmarna före publiceringstidpunkten då media är förbjudna att diskutera politiska nyheter.
Stora teknikföretag som Google och Meta börjar implementera policyer för politisk reklam, inklusive kravet på att avslöja digitala ändringar. Hittills verkar dock dessa åtgärder vara svaga, särskilt i regioner som inte drar till sig lika mycket uppmärksamhet från dessa företag.
AI-reglering är i allmänhet främst en västerländsk angelägenhet, medan utvecklingsländerna oftast saknar digital reglering och digitala rättigheter, vilket gör att människor och deras data kan utnyttjas.
Hur fungerar deep fake-tekniken?
I grund och botten är "deep fake" en icke-teknisk term som beskriver en extremt effektiv förfalskning, vanligtvis skapad med generativa AI-verktyg.
Ett illustrativt exempel är HeyGen, en AI-videogenerator baserad i Los Angeles. För en blygsam abonnemangsavgift kan användarna skapa klipp med AI-avatarer.
En sådan video, där USA påstods ha blandat sig i valet i Bangladesh, spreds på sociala medier.
Eftersom dessa AI-avatarer är så verklighetstrogna slinker de ofta igenom filtren i sociala medier, och allmänheten kanske inte reagerar omedelbart. Vissa falska bilder som förknippas med Israel-Palestina-konflikten nådde miljontals människor innan den avslöjades som en bluff, till exempel.
Problemet förvärras av att det inte finns några robusta AI-verktyg för att upptäcka icke-engelskt innehåll.
I takt med att AI-tekniken utvecklas och blir mer lättillgänglig är det nödvändigt för tillsynsmyndigheter och digitala plattformar att utveckla och genomdriva effektiva åtgärder för att motverka desinformation.
Hittills har det visat sig vara en svårlöst uppgift.
