I en ny forskningsrapport rekommenderas att internetanvändare ska kunna legitimera sig för att bevisa att de är människor, eftersom AI blir alltmer omöjlig att skilja från riktiga människor.
Tidningensom författats av forskare från OpenAI, Microsoft, MIT och andra, kommer vid en tidpunkt då "död internetteori" blir allt mer trovärdig. Enligt den teorin genereras majoriteten av alla interaktioner och allt innehåll på nätet av robotar.
Det beskrivs som en konspirationsteori, men författarna till detta nya papper verkar övertygade om att det kan hända om det inte redan har gjort det. I rapporten konstateras att "mycket kapabla AI-system kan förändra landskapet: Det finns en betydande risk för att vilseledande AI-driven aktivitet kan överväldiga Internet utan ytterligare begränsningar."
Det blir allt svårare att urskilja AI-drivna användare på internet. AI kan generera människoliknande innehåll som låter perfekt konversationellt och människoliknande avatarer i bild- eller videoform.
AI-agenter blir allt bättre på att surfa på webbplatser som en vanlig användare, göra sofistikerade planer för att uppnå mål och till och med lösa CAPTCHA:er när de utmanas.
Det andra problemet som identifieras i rapporten är skalbarheten. AI-modeller blir allt kraftfullare, billigare och alltmer tillgängliga. AI har gjort det enkelt för skadliga aktörer att bedra online i stor skala, särskilt om du har en öppen viktmodell.
I rapporten skriver forskarna: "Vi är oroliga för att Internet inte är tillräckligt förberett för de utmaningar som högkapabel AI kan innebära."
Legitimation för personstatus
Forskarna föreslår att internetanvändare ska få vad de kallar "personhood credentials", eller PHC. Dessa referenser kan lagras digitalt på innehavarens enheter och skulle användas för att bevisa att man är en person när man registrerar sig för en onlinetjänst, t.ex. en e-postadress eller ett konto på X.
Olika organisationer, statliga eller andra, kan fungera som utfärdare av referenser. Även om dokumentet inte går in i detalj på hur detta skulle kunna fungera, föreslår det en möjlig implementering där en PHC skulle kunna utfärdas till alla innehavare av ett skatteidentifikationsnummer.
Verifiering av referenser kan göras med hjälp av nollkunskapsbevis så att inga aspekter av personens identitet är knutna till PHC. Tanken är att du ska kunna bevisa för en leverantör av onlinetjänster att du är mänsklig men ändå behålla din anonymitet.
Om PHC:er infördes skulle man få se ett slut på "sockpuppeting", som de tusentals botar som utger sig för att vara människor på X och andra plattformar. Den föreslagna lösningen skulle också förhindra att en enskild användare skapar flera konton på en plattform som sedan kan användas i storskaliga botattacker.
Risker och utmaningar
Om vi har kommit till en punkt där vi behöver en organisation för att utfärda oss med referenser som bevisar att vi är mänskliga, då är vi långt in i Blade Runner-territoriet. PHC-idén skulle kunna minska AI-botproblemet men kommer med andra utmaningar.
Hur skulle rättvis tillgång säkerställas? Om du inte kan besöka en PHC-utgivare fysiskt kan du kanske inte använda internet eller åtminstone registrera dig för onlinekonton.
Även om PHC inte skulle avslöja din identitet online, skulle din utfärdare ha den informationen. Hur bekväm skulle du känna dig med att säga vad du tycker online om du inte var säker på att din anonymitet kunde bevaras?
Anta att en utfärdare av PHC inte är en demokratiskt vald regering med kontroller av dess befogenheter och ansvarsskyldighet. Kan den besluta att hålla inne en PHC från någon som var kritisk mot den?
Forskarna erkänner att ett "PHC-system, liksom alla digitala system, är sårbart för attacker och utnyttjanden av flera aktörer - framför allt subversion av utfärdaren själv, av tjänsteleverantörer och av användare med skadligt uppsåt".
För inte så länge sedan trodde vi att CAPTCHA, selfies eller ett videosamtal var tillräckligt för att bevisa att en riktig människa befann sig i andra änden av en onlineinteraktion. AI har satt stopp för det.
Vi behöver en bättre lösning, men att ansöka till en organisation om "bevis på personlighet" verkar väldigt Orwellian.
