Gestohlene Gesichter, gestohlene Leben: Der beunruhigende Trend der KI-gestützten Ausbeutung
Die meisten Social-Media-Nutzer sind schon einmal auf einen Influencer gestoßen, der etwas… seltsam aussieht.
Vielleicht sind ihre Gesichtszüge etwas zu symmetrisch und ihre Posen etwas zu steif. Wahrscheinlich sehen Sie gar keinen Menschen – sondern eine KI-generierte Fälschung.
In einigen Fällen diese KI-Influencer sind im Wesentlichen harmlos – lediglich digitale Abbilder ihrer realen Gegenstücke, die jedoch nicht offenkundig versuchen, zu täuschen oder zu manipulieren.
Dies ist jedoch nicht immer der Fall. Beunruhigenderweise existiert ein Netzwerk von Instagram-Konten, die mithilfe von KI gefälschte Influencer mit Down-Syndrom erstellen. Das Ziel? Eine verletzliche Community auszunutzen, um Likes, Shares und letztendlich Geld zu generieren.
Doch damit nicht genug. Viele dieser Accounts verlinken auf dubiose Erwachsenenwebseiten, auf denen die KI-generierten Inhalte monetarisiert werden.
Diesen Beitrag auf Instagram anzeigen
Leider handelt es sich hierbei nur um die jüngste Ausprägung des Trends zum “KI-Pimping”, bei dem skrupellose Betreiber maschinelles Lernen nutzen, um gefälschte Influencer-Profile zu erstellen und damit Geld zu verdienen. Es geht nicht nur um das Down-Syndrom, sondern auch um gefälschte Modelle von Amputierten, Brandopfern und andere Formen KI-generierter Pornografie.
KI-gestützte Bild- und Videomodelle erreichen mittlerweile einen Realismusgrad, der sie zu einer sehr brauchbaren Alternative zu echten Menschen macht. Dies hat Auswirkungen auf die Modebranche – wo echte Models zunehmend von KI-Klonen verdrängt werden.
Sogar bekannte Marken wie H&M begeben sich in diese trüben Gewässer. Der Fast-Fashion-Riese hat kürzlich kündigte eine Kampagne an mit KI-generierten “digitalen Zwillingen” realer Modelle. Bereits 2023 veröffentlichte ein Unternehmen namens lalaland.ai entsprechende Tools. Erstellung von KI-Modellen gegen eine Abonnementgebühr.
Während H&M beteuert, die Models behielten die Kontrolle über ihre digitalen Abbilder, sind viele in der Branche skeptisch. Denn warum sollte man in Zeiten von Kostensenkung und Konsolidierung menschliche Talente einstellen, wenn man einen billigen, unendlich oft reproduzierbaren digitalen Avatar lizenzieren kann?
Die neueste und heimtückischste Wendung betrifft die grundlegende Würde und Menschlichkeit marginalisierter Gemeinschaften.
Menschen mit Down-Syndrom – oder irgendeiner anderen Behinderung – sind keine Objekte, die man zum Zwecke des Profits ausnutzen kann.
Darüber hinaus droht die zunehmende Verbreitung KI-generierter Inhalte das Vertrauen der Öffentlichkeit in die Medien gänzlich zu untergraben. Wenn wir den Bildern, die wir online sehen, nicht mehr trauen können, gerät das Fundament des digitalen Diskurses ins Wanken.
Wenn Sie also das nächste Mal durch Ihren Feed scrollen und ein Influencer zu gut erscheint, um wahr zu sein, vertrauen Sie Ihrem Bauchgefühl.
