Een nieuw onderzoeksartikel beveelt aan dat internetgebruikers referenties krijgen om te bewijzen dat ze menselijk zijn, omdat AI steeds minder te onderscheiden is van echte mensen.
Het papier, geschreven door onderzoekers van OpenAI, Microsoft, MIT en anderen, komt op een moment dat de "dode internet theorie" wordt steeds geloofwaardiger. Die theorie suggereert dat de meerderheid van de online interacties en inhoud wordt gegenereerd door bots.
Het wordt beschreven als een samenzweringstheorie, maar de auteurs van dit nieuwe artikel lijken ervan overtuigd dat het zou kunnen gebeuren als het nog niet gebeurd is. Het artikel merkt op dat "zeer capabele AI-systemen het landschap kunnen veranderen: Er is een substantieel risico dat, zonder verdere inperkingen, bedrieglijke AI-gestuurde activiteiten het internet kunnen overweldigen."
Het wordt steeds moeilijker om gebruikers met AI op het internet uit elkaar te houden. AI kan op mensen lijkende inhoud genereren die perfect conversatiegericht klinkt en mensachtige avatars in beeld- of videovorm.
AI-agenten worden steeds beter in het surfen op websites als een gewone gebruiker, in het maken van geavanceerde plannen om doelen te bereiken en zelfs in het oplossen van CAPTCHA's wanneer ze worden uitgedaagd.
Het tweede probleem dat in het artikel wordt genoemd is schaalbaarheid. AI-modellen worden steeds krachtiger, goedkoper en steeds meer beschikbaar. Dankzij AI is online misleiding door kwaadwillende actoren eenvoudig te realiseren op schaal, vooral als je een open-gewicht model.
In de paper staat de zorg van de onderzoekers: "We maken ons zorgen dat het internet onvoldoende is voorbereid op de uitdagingen die zeer capabele AI met zich mee kan brengen."
Geloofsbrieven over persoonlijkheid
De onderzoekers stellen voor om internetgebruikers uit te rusten met wat zij "personhood credentials" of PHC's noemen. Deze referenties kunnen digitaal worden opgeslagen op de apparaten van de houder en zouden worden gebruikt om de persoonlijkheid aan te tonen bij het aanmelden voor een online dienst zoals een e-mailadres of account op X.
Verschillende organisaties, al dan niet van de overheid, zouden kunnen dienen als verstrekkers van de referenties. Hoewel het document niet in detail ingaat op hoe dit zou kunnen werken, suggereert het een mogelijke implementatie waarbij een PHC kan worden uitgegeven aan elke houder van een fiscaal identificatienummer.
Het verifiëren van de referenties kan worden gedaan met behulp van zero-knowledge proofs, zodat geen enkel aspect van de identiteit van de persoon wordt gekoppeld aan de PHC. Het idee is dat je aan een online dienstverlener kunt bewijzen dat je menselijk bent, maar toch anoniem blijft.
Als PHC's zouden worden uitgerold, zou er een einde komen aan "sockpuppeting", zoals de duizenden bots die zich voordoen als mensen op X en andere platformen. De voorgestelde oplossing zou ook voorkomen dat een enkele gebruiker meerdere accounts aanmaakt op een platform die vervolgens gebruikt kunnen worden voor grootschalige botaanvallen.
Risico's en uitdagingen
Als we op een punt zijn gekomen waar we een organisatie nodig hebben die ons referenties geeft die bewijzen dat we menselijk zijn, dan zijn we al een heel eind op Blade Runner-gebied. Het PHC idee zou het AI bot probleem kunnen verminderen, maar komt met andere uitdagingen.
Hoe wordt gelijke toegang gegarandeerd? Als je niet in staat bent om fysiek naar een PHC-uitgever te gaan, kan het zijn dat je geen gebruik kunt maken van internet, of in ieder geval geen online rekeningen kunt openen.
Ook al zou de PHC je identiteit niet online vrijgeven, je uitgever zou die informatie wel hebben. Hoe comfortabel zou jij je voelen om online je mening te geven als je niet zeker bent dat je anonimiteit bewaard blijft?
Stel dat de verstrekker van de PHC geen democratisch verkozen regering is met controle op haar bevoegdheden en verantwoordingsplicht. Zou die kunnen beslissen om een PHC te weigeren aan iemand die er kritiek op heeft?
De onderzoekers erkennen dat een "PHC-systeem, net als elk ander digitaal systeem, kwetsbaar is voor aanvallen en exploits door meerdere actoren, met name ondermijning door de uitgever zelf, door serviceproviders en door gebruikers met kwade bedoelingen".
Nog niet zo lang geleden dachten we dat CAPTCHA's, selfies of een videogesprek voldoende waren om te bewijzen dat er een echt levend mens aan de andere kant van een online interactie zat. AI heeft daar een einde aan gemaakt.
We hebben een betere oplossing nodig, maar het aanvragen van een "bewijs van persoonschap" bij een organisatie lijkt erg Orwelliaans.
