På sikkerhetskonferansen i München erklærte en koalisjon bestående av 20 teknologigiganter, deriblant OpenAI, Meta, Microsoft og andre, at de vil gjøre en felles innsats for å bekjempe villedende AI-innhold som påvirker valg verden over.
Dette skjer på bakgrunn av en økende bekymring for at AI-genererte forfalskninger kan manipulere valgprosesser, særlig med tanke på de store valgene som står for tur i flere land i år.
Vi har allerede sett dype forfalskninger spiller en rolle i hvert fall i valgene i Pakistan, Indonesia, Slovakia og Bangladesh.
Den nye avtalen omfatter forpliktelser om å utvikle verktøy for å oppdage og håndtere villedende AI-genererte medier, øke bevisstheten om villedende innhold og iverksette raske tiltak for å fjerne slikt innhold fra plattformene deres.
Men sannheten er at vi har hørt dette mange ganger. Så hva er annerledes nå?
Selv om det fortsatt er uklart når implementeringen skal skje, understreket selskapene behovet for en kollektiv tilnærming for å håndtere denne nye trusselen.
Teknologiselskapene forpliktet seg til å ta i bruk samarbeidsverktøy for å oppdage og redusere spredningen av skadelig AI-generert valginnhold, inkludert teknikker som vannmerking for å bekrefte innholdets opprinnelse og endringer. De forpliktet seg også til å være åpne om innsatsen sin og vurdere risikoen som de generative AI-modellene utgjør.
"Jeg tror nytten av denne (avtalen) ligger i bredden av selskaper som har sluttet seg til den," sier Nick Clegg, president for globale anliggender i Meta Platforms.
"Det er vel og bra hvis individuelle plattformer utvikler nye retningslinjer for deteksjon, proveniens, merking, vannmerking og så videre, men med mindre det finnes en bredere forpliktelse til å gjøre dette på en felles, interoperabel måte, vil vi bli sittende fast med et sammensurium av ulike forpliktelser."
Igjen, ikke noe vi ikke har hørt før. Det har vært flere bransjeavtaler, men ingen vesentlig effektiv plan for å stoppe dype forfalskninger.
For eksempel, MLCommons samarbeidet med Big Tech for å definere sikkerhetsstandarder, selskaper som satser på vannmerking, og ble medlem av Frontier Model Forumigjen, for å etablere en "enhetlig tilnærming". Disse tre bransjeavtalene var det første jeg kom til å tenke på, men det finnes sikkert mange andre.
Deep fakes er ikke enkle å oppdage, spesielt ikke i stor skala. De har blitt så like den ekte varen at det er vanskelig å identifisere dem ved hjelp av kunstig intelligens eller algoritmiske teknikker. usedvanlig vanskelig.
Teknologiselskaper har reagert ved å merke innhold med metadata som identifiserer det som AI-generert, men hvordan identifiserer det formålet med bildet?
Metadata kan også enkelt fjernes fra en fil. Det vil også alltid finnes AI-selskaper som ikke følger avtalene, og det vil alltid finnes måter å omgå kontrollene på.
Dana Rao, Adobes Chief Trust Officer, forklarte hvordan og hvorfor dette innholdet var effektivt: "Det er en følelsesmessig forbindelse til lyd, video og bilder", sa han. "Hjernen din er innstilt på å tro på den typen medier."
Deep fakes ser faktisk ut til å spre seg lenge etter at de har blitt erklært falske. Selv om det er vanskelig å kvantifisere hvor mye de endrer atferden vår, er det ikke mulig å ta noen risiko med tanke på hvor stor innvirkning de har - siden innholdet blir sett av millioner av mennesker om gangen.
Faktum er at vi kan forvente flere AI-relaterte deep fake-hendelser og kontroverser.
Individuell bevissthet og kritisk tenkning vil være menneskehetens viktigste våpen for å bekjempe negative konsekvenser.
