I en tankevækkende tale på FN's globale topmøde "AI for Good" i Genève udtrykte den anerkendte israelske historiker og forfatter Yuval Noah Harari sin bekymring over udbredelsen af "falske mennesker" på de sociale medier...
Harari advarede om, at hvis der ikke gøres noget, kan skabelsen og udbredelsen af disse AI-bots, der udgiver sig for at være rigtige mennesker for at skabe engagement, føre til et sammenbrud i den offentlige tillid og bringe grundlaget for demokratiet i fare.
Som modvægt foreslog Harari, at vi indfører strenge strafferetlige sanktioner over for dem, der opretter falske profiler, og understregede, at situationen er presserende, og at forskning i AI-sikkerhed skal prioriteres, hvis vi skal gøre os håb om at holde denne teknologi under kontrol.
Den hurtige fremkomst af falske mennesker
Med fremskridt inden for AI-teknologi, især store sprogmodeller som ChatGPT, er AI-bots ikke kun i stand til at forstærke menneskeskabt indhold, men også til at skabe deres eget indhold i stor skala.
I stor skala er nøgleordet her...
Forestil dig en situation, hvor sociale medieplatforme bliver oversvømmet af millioner af AI-bots - som alle er i stand til at producere indhold, der er bedre end den gennemsnitlige persons.
Dette scenarie ser ud til at være klippet direkte ud af Black Mirror-skrivestuen, men det er unægtelig et sandsynligt scenarie, når AI fortsætter med at udvikle sig.
Med millioner af AI-bots, der poster sammen med rigtige mennesker, vil vi få en situation, hvor "rigtigt" og AI-baseret indhold næsten ikke kan skelnes fra hinanden - og dermed undermineres kulturen og den globale diskurs som helhed.
Dette tab af kontrol over byens torv ville på en måde også fjerne selve essensen af demokratiet, idéernes og den frie tankes demokrati.
Sikring af demokratiet + behovet for strafferetlige konsekvenser:
Tilbage til Harari: Han kom med en fremragende pointe ved at drage en parallel til falskmøntneri og argumenterede for, at ligesom regeringer har strenge regler for at beskytte det finansielle system mod falske penge, bør der indføres lignende foranstaltninger for at beskytte offentlighedens tillid mod falske mennesker.
Ved at stille ansvarlige personer til ansvar gennem sigtelser kan vi forhindre, at vores platforme bliver oversvømmet af falske profiler.
Investering i AI-sikkerhed + forpligtelse til forskning
Harari understregede vigtigheden af at afsætte betydelige investeringer til AI-sikkerhed. Han foreslog, at det skulle være lovpligtigt for virksomheder at afsætte 20% af deres investeringsudgifter til at undersøge potentielle risici og udvikle strategier til at håndtere dem effektivt.
Harari anerkendte indsatsen fra OpenAI, skaberen af ChatGPT, og nævnte deres forpligtelse til at afsætte 20% af deres computerkraft til AI-sikkerhed og etablere et dedikeret forskningsteam, der har til formål at forstå og kontrollere AI og dermed forhindre den i at blive uærlig.
Globalt samarbejde
Harari fortsatte med at sige, at effektiv regulering af kunstig intelligens og dataindsamling skal være en verdensomspændende indsats. Han advarede om, at uden internationalt samarbejde risikerer verden at blive fragmenteret i sfærer af dataindsamling, der kontrolleres af nogle få udvalgte nationer og virksomheder.
For at forhindre en dystopisk fremtid understregede Harari behovet for regler, der prioriterer individuel databeskyttelse, forhindrer datamanipulation, øger tilsynet med både virksomheder og regeringer og undgår, at alle data samles i en enkelt enhed.
Konklusion - bevarelse af offentlighedens tillid
Fremkomsten af AI-bots på de sociale medier udgør en betydelig trussel mod demokratiske samfund, og Yuval Noah Harari har opfordret til, at de ansvarlige får strafferetlige konsekvenser, og at der investeres mere i AI-sikkerhed.
Ved at pålægge strenge straffe og implementere omfattende regler kan samfund beskytte offentlighedens tillid, bevare demokratiske værdier og sikre, at mennesker fortsat har kontrol over den offentlige samtale. Det er tid til at handle nu for at sikre en sikrere og mere modstandsdygtig fremtid for vores stadigt skiftende digitale verden.
