{"id":6885,"date":"2023-10-28T19:00:38","date_gmt":"2023-10-28T19:00:38","guid":{"rendered":"https:\/\/dailyai.com\/?p=6885"},"modified":"2023-10-28T19:17:55","modified_gmt":"2023-10-28T19:17:55","slug":"deep-fakes-wreak-havoc-amid-the-israel-palestine-conflict","status":"publish","type":"post","link":"https:\/\/dailyai.com\/sv\/2023\/10\/deep-fakes-wreak-havoc-amid-the-israel-palestine-conflict\/","title":{"rendered":"Djupa f\u00f6rfalskningar skapar f\u00f6r\u00f6delse i Israel-Palestina-konflikten"},"content":{"rendered":"

2023 har bevittnat en flodv\u00e5g av djupt falska bilder skapade med AI-bildgeneratorer, fr\u00e5n en falsk bild av en explosion i Pentagon till bilder av barnmisshandel.\u00a0<\/strong><\/p>\n

Deep fake-tekniken genererar ocks\u00e5 robusta kopior av i stort sett alla r\u00f6ster, fr\u00e5n Johnny Cash sjunger Barbie Girl<\/a> till falska tal fr\u00e5n Sudans f\u00f6re detta president<\/a> Omar al-Bashir.\u00a0<\/span><\/p>\n

Det \u00e4r d\u00e4rf\u00f6r kanske inte f\u00f6rv\u00e5nande att djupa f\u00f6rfalskningar har tr\u00e4ngt in i det redan anstr\u00e4ngda digitala landskapet kring den nuvarande Israel-Hamas-konflikten.\u00a0<\/span><\/p>\n

\u00d6verlag anser analytikerna att AI-felinformationen har varit begr\u00e4nsad - det finns tillr\u00e4ckligt med verkligt visceralt inneh\u00e5ll som cirkulerar p\u00e5 sociala medier. Men blotta tanken p\u00e5 AI-genererade f\u00f6rfalskningar har f\u00e5tt m\u00e4nniskor att ifr\u00e5gas\u00e4tta legitimiteten hos autentiska bilder, videor och ljudklipp.<\/span><\/p>\n

Detta kallas \"l\u00f6gnens utdelning\". Verkligt inneh\u00e5ll kan nu potentiellt avf\u00e4rdas som AI-genererat, vilket g\u00f6r det falskt i \u00e5sk\u00e5darnas \u00f6gon.<\/span><\/p>\n

Sociala medier skapar en perfekt arena f\u00f6r att misst\u00e4nksamhet och paranoia kring digitalt inneh\u00e5ll ska spridas som en l\u00f6peld - m\u00f6jligheten att st\u00e4mpla n\u00e5got som verkar \u00e4kta som falskt, och vice versa, \u00e4r n\u00e5got som m\u00e5nga kommer att anv\u00e4nda f\u00f6r att f\u00f6rst\u00e4rka sina \u00e5sikter.\u00a0<\/span><\/p>\n

Bill Marcellino fr\u00e5n RAND Corporation understryker detta dilemma: \"Vad h\u00e4nder n\u00e4r bokstavligen allt du ser som \u00e4r digitalt kan vara syntetiskt?\"\u00a0<\/span><\/p>\n

P\u00e5 samma s\u00e4tt kommenterade Hany Farid, en specialist p\u00e5 digital kriminalteknik och AI-felinformation, Israel-Hamas-konflikten: \"\u00c4ven enligt de krigsdimmor som vi \u00e4r vana vid \u00e4r denna konflikt s\u00e4rskilt r\u00f6rig ... Sp\u00f6ket med deepfakes \u00e4r mycket, mycket mer betydelsefullt nu - det tar inte tiotusentals, det tar bara n\u00e5gra f\u00e5, och sedan f\u00f6rgiftar du brunnen och allt blir misst\u00e4nkt.\"<\/span><\/p>\n

Det som \u00e4r anm\u00e4rkningsv\u00e4rt \u00e4r hur snabbt deep fake-tekniken har utvecklats. \u00c5r 2022 var det enkelt och intuitivt att identifiera inkonsekvenser i AI-genererade bilder, medan det nu ofta kr\u00e4ver specialistanalys.\u00a0<\/span><\/p>\n

I takt med att de k\u00e4nslom\u00e4ssigt laddade diskussionerna om Gaza forts\u00e4tter, s\u00e4rskilt p\u00e5 sociala medier, blir f\u00f6rtroendets erosion allt tydligare.<\/span><\/p>\n

Falskt inneh\u00e5ll skapar kontroverser och d\u00e4rmed exponering<\/span><\/h2>\n

Problemet med tvivelaktigt falskt inneh\u00e5ll \u00e4r att det v\u00e4cker debatt och i sin tur intryck, likes och kommentarer\u00a0<\/span><\/p>\n

Ett inl\u00e4gg p\u00e5 X, som visades 1,8 miljoner g\u00e5nger, gav till exempel en felaktig bild av Atletico Madrid-fans som visar upp en enorm palestinsk flagga<\/a>. Anv\u00e4ndare p\u00e5pekade de f\u00f6rvr\u00e4ngda figurerna i bilden, vilket indikerar AI-generering.\u00a0<\/span><\/p>\n

Ett annat inl\u00e4gg fr\u00e5n ett Hamas-anknutet konto p\u00e5 plattform X, som rapporterades av New York Times, visade en felaktig bild av ett t\u00e4ltl\u00e4ger f\u00f6r f\u00f6rdrivna israeler, med en felaktig flaggdesign. Detta inl\u00e4gg togs d\u00e4refter bort.\u00a0<\/span><\/p>\n

St\u00f6rre uppm\u00e4rksamhet och granskning riktades mot filmmaterial utan uppenbara tecken p\u00e5 AI-manipulation. Som exempel kan n\u00e4mnas en video av en sjukhusdirekt\u00f6r i Gaza som h\u00e5ller en presskonferens, som vissa betecknade som \"AI-genererad\" trots att flera k\u00e4llor f\u00e5ngade h\u00e4ndelsen fr\u00e5n olika vinklar.<\/span><\/p>\n

I ett f\u00f6rs\u00f6k att skilja sanningen fr\u00e5n AI-genererat inneh\u00e5ll har vissa anv\u00e4ndare av sociala medier v\u00e4nt sig till detekteringsverktyg. Dessa verktyg p\u00e5st\u00e5r sig kunna identifiera digital manipulation, men har visat sig vara inkonsekventa och op\u00e5litliga.<\/span><\/p>\n

I b\u00f6rjan av konflikten delade premi\u00e4rminister Netanyahu en serie bilder p\u00e5 plattformen X och h\u00e4vdade att de f\u00f6rest\u00e4llde \"fasansfulla bilder av barn som m\u00f6rdats och br\u00e4nts\" av Hamas.\u00a0<\/span><\/p>\n

N\u00e4r den konservativa kommentatorn Ben Shapiro uppm\u00e4rksammade en av bilderna p\u00e5 plattform X m\u00f6ttes han av omfattande anklagelser om att sprida AI-genererat inneh\u00e5ll. Vi kommer inte att b\u00e4dda in tweeten direkt p\u00e5 grund av bildens fruktansv\u00e4rda natur, men du kan se debatt om Shapiros inl\u00e4gg h\u00e4r<\/a>.\u00a0<\/span><\/p>\n

I ett inl\u00e4gg, som visades \u00f6ver 21 miljoner g\u00e5nger innan det togs bort, h\u00e4vdades det att man hade bevis f\u00f6r att bilden p\u00e5 barnet var falsk, och man visade en sk\u00e4rmdump fr\u00e5n AI or Not, ett verktyg f\u00f6r att uppt\u00e4cka AI, d\u00e4r bilden m\u00e4rktes som \"genererad av AI\".\u00a0<\/span><\/p>\n

F\u00f6retaget reviderade senare denna bed\u00f6mning p\u00e5 plattform X och f\u00f6rklarade att resultatet var \"ofullst\u00e4ndigt\" p\u00e5 grund av bildkomprimering och \u00e4ndringar som dolde identifierande detaljer. F\u00f6retaget meddelade ocks\u00e5 att det hade f\u00f6rfinat sitt detekteringsverktyg som svar.<\/span><\/p>\n

\n

Vi f\u00f6ljer debatten p\u00e5 Twitter, som vi alltid g\u00f6r n\u00e4r det g\u00e4ller kontroversiella fall med h\u00f6g synlighet. Vi har bekr\u00e4ftat med v\u00e5rt system att resultatet inte \u00e4r entydigt p\u00e5 grund av att fotografiet komprimerats och \u00e4ndrats f\u00f6r att sudda ut namnbrickan. https:\/\/t.co\/uZihVMD7Cq<\/a><\/p>\n

- AI eller inte (@Ai_or_Not) 13 oktober 2023<\/a><\/p><\/blockquote>\n