Ein neues Forschungspapier empfiehlt, dass Internetnutzer einen Ausweis erhalten sollten, um zu beweisen, dass sie Menschen sind, da KI zunehmend von echten Menschen nicht mehr zu unterscheiden ist.
Das Papierdie von Forschern von OpenAI, Microsoft, MIT und anderen verfasst wurde, kommt zu einem Zeitpunkt, an dem die "Theorie des toten Internets" wird immer glaubwürdiger. Diese Theorie besagt, dass die Mehrheit der Online-Interaktionen und -Inhalte von Bots generiert wird.
Es wird als Verschwörungstheorie bezeichnet, aber die Autoren dieses neuen Papiers scheinen davon überzeugt zu sein, dass es passieren könnte, wenn es nicht schon passiert ist. In dem Papier heißt es, dass "hochleistungsfähige KI-Systeme die Landschaft verändern könnten: Es besteht ein erhebliches Risiko, dass das Internet ohne weitere Abhilfemaßnahmen von betrügerischen KI-gestützten Aktivitäten überwältigt werden könnte."
Die Unterscheidung von KI-gesteuerten Nutzern im Internet wird immer schwieriger. KI kann menschenähnliche Inhalte generieren, die perfekt konversationell klingen und menschenähnliche Avatare in Bild- oder Videoform.
KI-Agenten werden immer besser darin, Websites wie ein normaler Benutzer zu durchsuchen, ausgeklügelte Pläne zu erstellen, um Ziele zu erreichen, und sogar CAPTCHAs zu lösen, wenn sie herausgefordert werden.
Das zweite Problem, das in dem Papier genannt wird, ist die Skalierbarkeit. KI-Modelle werden immer leistungsfähiger, billiger und sind zunehmend verfügbar. KI hat die Online-Täuschung durch böswillige Akteure in großem Umfang leicht gemacht, vor allem, wenn man eine Modell mit offenem Gewicht.
In dem Papier heißt es: "Wir sind besorgt, dass das Internet nur unzureichend auf die Herausforderungen vorbereitet ist, die eine hochleistungsfähige KI mit sich bringen könnte."
Berechtigungsnachweise für die Persönlichkeitsrechte
Die Forscher schlagen vor, Internetnutzer mit so genannten "Personhood Credentials" (PHCs) auszustatten. Diese Berechtigungsnachweise können digital auf den Geräten des Inhabers gespeichert werden und würden bei der Anmeldung für einen Online-Dienst wie eine E-Mail-Adresse oder ein Konto bei X als Nachweis der Persönlichkeit dienen.
Verschiedene Organisationen, ob staatlich oder nicht, könnten als Aussteller der Berechtigungsnachweise fungieren. Das Papier geht zwar nicht im Detail darauf ein, wie dies funktionieren könnte, schlägt aber eine mögliche Umsetzung vor, bei der ein PHC an jeden Inhaber einer Steueridentifikationsnummer ausgestellt werden könnte.
Die Überprüfung der Berechtigungsnachweise könnte mit Zero-Knowledge-Proofs erfolgen, so dass keine Aspekte der Identität der Person mit dem PHC verbunden sind. Die Idee ist, dass man einem Online-Dienstanbieter beweisen kann, dass man ein Mensch ist, aber trotzdem anonym bleibt.
Wenn PHCs eingeführt würden, wäre Schluss mit dem "Sockpuppeting" wie den Tausenden von Bots, die sich auf X und anderen Plattformen als Menschen ausgeben. Die vorgeschlagene Lösung würde auch verhindern, dass ein einzelner Nutzer mehrere Konten auf einer Plattform erstellt, die dann für groß angelegte Bot-Angriffe genutzt werden könnten.
Risiken und Herausforderungen
Wenn wir an einem Punkt angelangt sind, an dem wir eine Organisation brauchen, die uns einen Ausweis ausstellt, der beweist, dass wir Menschen sind, dann befinden wir uns auf dem Gebiet von Blade Runner. Die PHC-Idee könnte das KI-Bot-Problem eindämmen, birgt aber weitere Herausforderungen.
Wie wird der gleichberechtigte Zugang sichergestellt? Wenn Sie nicht in der Lage sind, einen PHC-Aussteller zu besuchen, könnten Sie nicht in der Lage sein, das Internet zu nutzen oder sich zumindest für Online-Konten anzumelden.
Auch wenn die PHC Ihre Identität online nicht preisgeben würde, hätte Ihr Ausgeber diese Information. Wie wohl würden Sie sich dabei fühlen, Ihre Meinung online zu äußern, wenn Sie nicht sicher wären, dass Ihre Anonymität gewahrt werden kann?
Angenommen, der Aussteller der PHC ist keine demokratisch gewählte Regierung, deren Befugnisse und Rechenschaftspflicht kontrolliert werden. Könnte sie beschließen, jemandem, der ihr gegenüber kritisch eingestellt ist, eine PHC zu verweigern?
Die Forscher räumen ein, dass ein PHC-System wie jedes andere digitale System anfällig für Angriffe und Ausnutzung durch verschiedene Akteure ist, insbesondere durch die Unterwanderung durch den Aussteller selbst, durch Dienstanbieter und durch Benutzer mit böswilligen Absichten".
Vor nicht allzu langer Zeit dachten wir, dass CAPTCHAs, Selfies oder ein Videoanruf ausreichen würden, um zu beweisen, dass am anderen Ende einer Online-Interaktion ein echter Mensch sitzt. Die KI hat dem ein Ende gesetzt.
Wir brauchen eine bessere Lösung, aber die Beantragung eines "Personenstandsnachweises" bei einer Organisation erscheint sehr orwellsch.
