Die Forscher fanden heraus, dass Menschen im Allgemeinen schlecht erkennen können, welche Gesichter echt sind und welche von KI generiert wurden. Hyperrealistische KI-Gesichter werden häufiger als echt eingestuft als echte menschliche Gesichter.
Die StudieDie von der Australian National University geleitete Studie umfasste Experimente, in denen untersucht wurde, ob Menschen zwischen menschlichen und von einer künstlichen Intelligenz erzeugten Gesichtern unterscheiden können und welche Merkmale zu den Entscheidungen der Menschen führen.
Frühere Studien haben gezeigt, dass die Teilnehmer in etwa 50% der Fälle ein nicht-weißes KI-Gesicht erkennen konnten. In dieser neueren Studie wurde einer Gruppe von 124 Erwachsenen eine Mischung aus 100 KI-Gesichtern und 100 echten weißen Gesichtern gezeigt und sie sollten erkennen, ob sie echt waren oder nicht.
Die AI-generierte Gesichter wurden in 65,9% der Fälle fälschlicherweise als menschlich identifiziert, während menschliche Gesichter nur in 51,1% der Fälle als menschlich eingestuft wurden.
Mitautorin Dr. Eva Krumhuber sagte: "Künstliche Intelligenz hat einen erstaunlichen Grad an Realismus erreicht, und hier stellen wir fest, dass sie manchmal sogar realer als die Realität erscheinen kann - Hyperrealismus - so dass wir sehr leicht dazu verleitet werden können, ein von der KI generiertes Gesicht für echt zu halten."
Die Teilnehmer wurden auch gefragt, wie sicher sie sich bei ihrer Einschätzung waren. In einem klassischen Beispiel für den Dunning-Kruger-Effekt waren die Teilnehmer, die die meisten Fehler machten, auch am sichersten, dass sie die richtigen Urteile fällten.
Elizabeth Miller, Mitautorin der Studie und Doktorandin an der Australian National University, sagte: "Besorgniserregend ist, dass Personen, die die KI-Gesichter am häufigsten für echt hielten, paradoxerweise auch am sichersten waren, dass ihre Einschätzungen richtig waren."
Wie hätten Sie bei dem Test abgeschnitten? Welche davon sind echt und welche sind von der KI generiert? Wir lassen Sie wissen, wie Sie abgeschnitten haben, weiter unten.
Die Forscher kamen zu dem Schluss, dass KI-generierte Gesichter nicht nur nicht von menschlichen Gesichtern zu unterscheiden sind, sondern auch Merkmale aufweisen, die sie für uns noch realer erscheinen lassen. Sie nannten diese Eigenschaft von KI-Gesichtern Hyperrealismus.
Die Forscher verwendeten StyleGAN2, ein generatives adversariales Netzwerk (GAN), um die KI-Gesichter zu erzeugen. StyleGAN2 wurde mit einem großen Datensatz menschlicher Gesichter trainiert, wobei etwa 69% auf Weiße und 31% auf alle anderen Rassen zusammen entfielen.
Die Forscher kamen zu dem Schluss, dass die Überrepräsentation weißer Gesichter das Modell in die Lage versetzte, Gesichter zu erzeugen, die den Durchschnitt all dieser Merkmale auf eine Weise repräsentierten, die sie menschlicher als menschlich aussehen ließ.
Die Studie kommt zu dem Schluss, dass diese Verzerrung in den Trainingsdatensätzen wichtige Fragen aufwirft. Wenn KI-Gesichter für weiße Gesichter realistischer erscheinen als für andere Gruppen, wird ihre Verwendung die Wahrnehmung der Rasse mit der Wahrnehmung des "Menschseins" verwechseln", heißt es darin.
Wenn die Vorstellung eines KI-Modells von einem menschlichen Gesicht ein unnatürlicher Durchschnitt weißer Gesichtszüge ist, wie würde es dann zwischen einem echten Menschen unterschiedlicher ethnischer Zugehörigkeit und einer KI-Fälschung unterscheiden, wenn es dazu aufgefordert würde?
Dr. Amy Dawel, Hauptautorin der Studie, sagte: "Wenn weiße KI-Gesichter durchweg als realistischer wahrgenommen werden, könnte diese Technologie schwerwiegende Folgen für farbige Menschen haben, da sie letztlich rassistische Vorurteile im Internet verstärkt."
Welche Merkmale haben zu den Fehlern geführt?
Es muss bestimmte Merkmale eines KI-Gesichts geben, die uns glauben lassen, dass es menschlicher ist als ein echtes menschliches Gesicht. Im zweiten Experiment wurden 610 Teilnehmer gebeten, die KI- und die menschlichen Gesichter anhand von 14 Merkmalen zu bewerten, darunter Merkmale wie Attraktivität, Augenkontakt und Ausdruckskraft.
Durch die Kombination dieser Daten mit denen des ersten Experiments konnten die Forscher herausfinden, was die Wahrscheinlichkeit erhöht, dass Menschen ein Gesicht als KI-generiert oder echt identifizieren.
Sie fanden heraus, dass der Hyperrealismus von KI-Gesichtern darauf zurückzuführen ist, dass sie "deutlich durchschnittlicher (weniger ausgeprägt), vertrauter und attraktiver sind und weniger einprägsam als menschliche Gesichter".
Die Tatsache, dass wir so schnell akzeptieren, dass ein KI-Gesicht echt ist, zeigt, wie wichtig es ist, KI-Werkzeuge zur Erkennung von Fälschungen zu haben.
Die Forscher nahmen die Daten der vom Menschen wahrgenommenen Attribute und deren richtige und falsche Verwendung bei der falschen Identifizierung von KI-Gesichtern und entwickelten ein maschinelles Lernmodell zur Erkennung von KI-Gesichtern. Das Modell war in der Lage, den Gesichtstyp mit 94% Genauigkeit zu klassifizieren.
Es ist unwahrscheinlich, dass wir ein Gesicht jedes Mal durch einen KI-Gesichtsprüfer laufen lassen, wenn wir eines online sehen. Und die Gesichtsgeneratoren werden immer besser darin, die Fälschungserkennung zu überlisten.
Dr. Dawel fasste zusammen, was unsere beste Option angesichts dieser Situation ist: "Die Aufklärung der Menschen über den wahrgenommenen Realismus von KI-Gesichtern könnte dazu beitragen, dass die Öffentlichkeit die Bilder, die sie online sieht, mit der nötigen Skepsis betrachtet."
Wenn wir uns daran erinnern, dass wir wirklich schlecht darin sind, Fälschungen zu erkennen, lassen wir uns vielleicht weniger leicht von ihnen täuschen.
