En ny forskningsrapport anbefaler, at internetbrugere får legitimationsoplysninger, der beviser, at de er mennesker, efterhånden som AI bliver mere og mere umulig at skelne fra rigtige mennesker.
Avisensom er skrevet af forskere fra OpenAI, Microsoft, MIT og andre, kommer på et tidspunkt, hvor "Teori om dødt internet" bliver mere og mere troværdig. Den teori går ud på, at størstedelen af online-interaktioner og -indhold genereres af bots.
Det beskrives som en konspirationsteori, men forfatterne til denne nye artikel virker overbeviste om, at det kan ske, hvis det ikke allerede er sket. Artiklen konstaterer, at "meget dygtige AI-systemer kan ændre landskabet: Der er en betydelig risiko for, at vildledende AI-drevne aktiviteter kan overvælde internettet uden yderligere afbødning."
Det bliver stadig sværere at skelne mellem AI-drevne brugere på internettet. AI kan generere menneskelignende indhold, der lyder som en perfekt samtale, og Menneskelignende avatarer i billed- eller videoform.
AI-agenter bliver bedre til at surfe på hjemmesider som en almindelig bruger, lave sofistikerede planer for at nå mål og endda løse CAPTCHA'er, når de bliver udfordret.
Det andet problem, som artiklen identificerer, er skalerbarhed. AI-modeller bliver kraftigere, billigere og mere og mere tilgængelige. AI har gjort det nemt for ondsindede aktører at bedrage online i stor skala, især hvis man har en Model med åben vægt.
I artiklen skriver forskerne: "Vi er bekymrede for, at internettet er utilstrækkeligt forberedt på de udfordringer, som meget dygtig kunstig intelligens kan medføre."
Legitimation til at være person
Forskerne foreslår at udstyre internetbrugere med det, de kalder "personhood credentials" eller PHC'er. Disse legitimationsoplysninger kan gemmes digitalt på indehaverens enheder og bruges til at bevise, at man er en person, når man tilmelder sig en onlinetjeneste som en e-mailadresse eller en konto på X.
Forskellige organisationer, statslige eller andre, kunne fungere som udstedere af legitimationerne. Papiret går ikke i detaljer med, hvordan det kunne fungere, men det foreslår en mulig implementering, hvor et PHC kunne udstedes til enhver indehaver af et skatteidentifikationsnummer.
Verificering af legitimationsoplysningerne kan ske ved hjælp af zero-knowledge proofs, så ingen aspekter af personens identitet er bundet til PHC. Tanken er, at man kan bevise over for en onlinetjenesteudbyder, at man er et menneske, men stadig bevare sin anonymitet.
Hvis PHC'er blev rullet ud, ville man se en ende på "sockpuppeting" som de tusindvis af bots, der udgiver sig for at være mennesker på X og andre platforme. Den foreslåede løsning ville også forhindre en enkelt bruger i at oprette flere konti på en platform, som så kunne bruges i store bot-angreb.
Risici og udfordringer
Hvis vi er kommet til et punkt, hvor vi har brug for en organisation til at udstede legitimationsoplysninger, der beviser, at vi er mennesker, så er vi langt inde i Blade Runner-territoriet. PHC-idéen kan reducere problemet med AI-bots, men den har andre udfordringer.
Hvordan sikres lige adgang? Hvis du ikke er i stand til fysisk at besøge en PHC-udsteder, kan du være ude af stand til at bruge internettet eller i det mindste tilmelde dig onlinekonti.
Selv om PHC ikke ville afsløre din identitet online, ville din udsteder have den information. Hvor tryg ville du føle dig ved at sige din mening online, hvis du ikke var sikker på, at din anonymitet kunne bevares?
Antag, at en udsteder af PHC ikke er en demokratisk valgt regering med kontrol af dens beføjelser og ansvarlighed. Kunne den beslutte at tilbageholde et PHC fra en person, der var kritisk over for den?
Forskerne anerkender, at et "PHC-system, som ethvert andet digitalt system, er sårbart over for angreb og udnyttelse af flere aktører - især undergravning af udstederen selv, af tjenesteudbydere og af brugere med ondsindede hensigter."
For ikke så længe siden troede vi, at CAPTCHA'er, selfies eller et videoopkald var tilstrækkeligt til at bevise, at der var et rigtigt levende menneske i den anden ende af en online-interaktion. Det har AI sat en stopper for.
Vi har brug for en bedre løsning, men at ansøge en organisation om "bevis på personlighed" virker meget orwellsk.
