Meta har meddelat en betydande policyförändring i sin hantering av politisk reklam, vilket kräver att politiska annonsörer öppet avslöjar användningen av AI-programvara från tredje part i sina annonser.
Detta gäller särskilt annonser som innehåller syntetiskt framställda avbildningar av personer och händelser som kan påverka politiska eller sociala frågor.
Dessutom kommer Meta att förbjuda att använda sin egen AI-assisterade programvara för att skapa annonser relaterade till politiska och sociala frågor och de som rör bostäder, sysselsättning, kredit, hälsa, läkemedel eller finansiella tjänster.
Anmärkningsvärt, Meta släppte en generativ AI-plattform uttryckligen utformad för att generera annonser med AI i oktober, men detta är fortfarande användbart utanför de listade nischerna och ämnena.
Det finns allt fler bevis för att AI-genererade djupa förfalskningar snedvrider uppfattningar och åsikter.
På tal om en allmänt spridd bild av Donald Trump som kramar infektionsexperten Dr Anthony Fauci sa Vince Lynch, en AI-utvecklare, "Det har blivit ett mycket svårt jobb för den tillfälliga observatören att räkna ut: Vad är det jag tror på här?" Han fortsatte: "Företagen måste ta sitt ansvar."
Förbudet mot AI-annonser är en del av Metas bredare initiativ för att minska potentiella risker i samband med generativ AI i reklam, särskilt inom känsliga och reglerade områden.
Det återspeglar också en fortsättning på företagets ansträngda historia med politisk reklam, som har varit en grogrund för kontroverser, särskilt efter valcykeln 2016.
Metas grundare och VD, Mark Zuckerberg, har tidigare fått kritik för plattformens hantering av politisk felaktig information. Trots kritiken har Zuckerberg hävdat att det är viktigt att ge utrymme för politiska yttranden för att kunna föra en fri diskussion.
Metas ledning, inklusive Nick Clegg, dess ordförande för globala frågor, har sedan dess sökt vägledning i dessa frågor snarare än att själv införa strikta regler.
Det nuvarande systemet kräver att politiska annonsörer genomgår en auktoriseringsprocess och att annonserna är märkta med "paid for by".
Den kommande AI-policyn kommer att utvidga dessa transparensinsatser. Den kommer att kräva att kampanjer och marknadsförare anger om AI-verktyg har använts för att modifiera annonserna. Annonser där AI-användning anges i förväg kommer att tillåtas med en notering om denna användning.
Meta har sagt att det inte kommer att kräva upplysningar för förändringar som det anser vara "obetydliga eller oväsentliga", till exempel enkel fotoretuschering. Annonser som verkar använda AI utan lämplig information kommer att avvisas direkt.
Företaget varnade också för att organisationer som försöker kringgå detta informationskrav upprepade gånger kommer att drabbas av påföljder, även om detaljerna fortfarande är okända.
Metas beslut att förbjuda AI-verktyg för vissa annonskategorier kan också vara ett strategiskt drag för att undvika potentiella juridiska utmaningar. Företaget har tidigare mött rättsliga åtgärder, särskilt 2019 när justitiedepartementet stämde det för att tillåta diskriminerande annonsinriktningspraxis.
Stämningen avgjordes så småningom, med Meta som gick med på att ändra sin annonsteknik och betala böter.
Google uppdaterade sin policy redan i september, och andra företag förväntas följa efter med liknande regler, med oro över AI-reklam ökar inför det amerikanska presidentvalet 2024.
