En ny forskningsrapport anbefaler at internettbrukere må utstyres med legitimasjon for å bevise at de er mennesker, ettersom kunstig intelligens blir stadig vanskeligere å skille fra ekte mennesker.
Avisensom er forfattet av forskere fra OpenAI, Microsoft, MIT og andre, kommer på et tidspunkt da "død internett-teori" blir stadig mer troverdig. Denne teorien antyder at majoriteten av interaksjoner og innhold på nettet er generert av roboter.
Det beskrives som en konspirasjonsteori, men forfatterne av denne nye artikkelen virker overbevist om at det kan skje, hvis det ikke allerede har skjedd. I artikkelen skriver de at "svært dyktige AI-systemer kan endre landskapet: Det er en betydelig risiko for at villedende AI-drevet aktivitet kan overvelde Internett uten ytterligere avbøtende tiltak."
Det blir stadig vanskeligere å skille mellom AI-drevne brukere på Internett. AI kan generere menneskelignende innhold som høres ut som en perfekt samtale og menneskelignende avatarer i bilde- eller videoform.
AI-agenter blir stadig flinkere til å surfe på nettsteder som en vanlig bruker, lage sofistikerte planer for å nå mål og til og med løse CAPTCHA-er når de blir utfordret.
Det andre problemet som identifiseres i artikkelen, er skalerbarhet. AI-modeller blir stadig kraftigere, billigere og stadig mer tilgjengelige. Kunstig intelligens har gjort det enkelt for ondsinnede aktører å bedrage på nettet i stor skala, spesielt hvis du har en åpen vektmodell.
I artikkelen skriver forskerne: "Vi er bekymret for at Internett ikke er godt nok forberedt på de utfordringene som høykompetent kunstig intelligens kan medføre."
Legitimasjon som person
Forskerne foreslår å utstede det de kaller "personhood credentials", eller PHC-er, til internettbrukere. Disse legitimasjonene kan lagres digitalt på brukerens enheter og brukes til å bevise at man er en person når man registrerer seg for en nettbasert tjeneste, for eksempel en e-postadresse eller en konto på X.
Ulike organisasjoner, statlige eller andre, kan fungere som utstedere av legitimasjonen. Selv om artikkelen ikke går i detalj om hvordan dette kan fungere, foreslår den en mulig implementering der en PHC kan utstedes til enhver innehaver av et skatteidentifikasjonsnummer.
Verifiseringen av legitimasjonen kan gjøres ved hjelp av nullkunnskapsbevis, slik at ingen aspekter av personens identitet knyttes til PHC. Tanken er at du kan bevise for en nettbasert tjenesteleverandør at du er et menneske, men likevel beholde anonymiteten.
Hvis PHC-er ble rullet ut, ville det bli slutt på "sockpuppeting", som de tusenvis av robotene som utgir seg for å være mennesker på X og andre plattformer. Den foreslåtte løsningen vil også forhindre at en enkelt bruker oppretter flere kontoer på en plattform som deretter kan brukes i storskala bot-angrep.
Risikoer og utfordringer
Hvis vi har kommet til et punkt der vi trenger en organisasjon som utsteder legitimasjon som beviser at vi er mennesker, er vi på god vei inn i Blade Runner-territoriet. PHC-ideen kan redusere problemet med AI-bots, men kommer med andre utfordringer.
Hvordan sikres rettferdig tilgang? Hvis du ikke er i stand til å besøke en PHC-utsteder fysisk, kan det hende at du ikke kan bruke Internett, eller i det minste registrere deg for nettbaserte kontoer.
Selv om PHC ikke ville avsløre identiteten din på nettet, ville utstederen din ha denne informasjonen. Hvor komfortabel ville du følt deg med å si hva du mener på nettet hvis du ikke var sikker på at anonymiteten din kunne bevares?
Sett at utstederen av PHC ikke er en demokratisk valgt regjering med kontroll over sine fullmakter og sitt ansvar. Kan den bestemme seg for å holde tilbake en PHC fra noen som er kritisk til den?
Forskerne erkjenner at et "PHC-system, som alle andre digitale systemer, er sårbart for angrep og utnyttelser fra flere aktører - særlig undergraving fra utstederen selv, fra tjenesteleverandører og fra brukere med ondsinnede hensikter".
For ikke så lenge siden trodde vi at CAPTCHA, selfies eller en videosamtale var tilstrekkelig for å bevise at det var et ekte menneske i den andre enden av en interaksjon på nettet. Det har kunstig intelligens satt en stopper for.
Vi trenger en bedre løsning, men å søke til en organisasjon for å få "bevis på personstatus" virker veldig orwellsk.
