Prominente Social-Media-Plattformen - Facebook, Instagram und TikTok - sind in die Kritik geraten, weil sie Anzeigen schalten, die KI-Avatare offenkundig sexualisieren.
Unternehmen werben für Apps, die sich an Erwachsene richten, mit sexuell eindeutigen Bildern und Dialogen in den sozialen Medien, von denen einige die Sexualisierung von kindlichen Figuren beinhalten.
Nach Angaben von NBC-Nachrichten35 App-Entwickler schalten sexuell eindeutige Werbung in sozialen Medien.
Ein bemerkenswertes Merkmal dieser Anzeigen ist ihre Tendenz, Kinderfiguren wie SpongeBob Schwammkopf und das Krümelmonster zu missbrauchen, um für nicht jugendfreie Inhalte zu werben.
Besonders beunruhigend ist, dass einige Anzeigen KI-generierte Figuren enthalten, die Minderjährigen ähneln und meist im Anime-Stil dargestellt sind.
Dies ist nicht das erste Mal, dass KI-generierte Inhalte verwendet werden, um Community-Richtlinien und Inhaltsfilter zu verzerren und zu manipulieren. Ein TikTok-Konto geriet kürzlich unter Beschuss, weil es Animationen von ermordeten Kindern erstellen und sie ihre Schicksale vortragen zu lassen.
Meta und TikTok erklärten, dass sie diese Werbung von ihren Plattformen entfernen, wollten sich aber nicht dazu äußern, wie die Werbung ihre Inhaltsfilter umgeht.
Höchstwahrscheinlich sind die Inhaltsfilter auf explizite, nicht von KI generierte Inhalte trainiert, so dass KI-generierte Inhalte leicht durch das Netz schlüpfen.
Meta erklärte jedoch, dass ihre Richtlinien Anzeigen mit nicht jugendfreien, übermäßig anzüglichen oder sexuell aufreizenden Inhalten verbieten - unabhängig davon, ob diese von der KI generiert wurden oder nicht".
Wer veröffentlicht die Anwendungen?
Dutzende unbekannter App-Entwickler nutzen dieses Schlupfloch und schalten Werbung, die "NSFW-Bilder", "individuelle Pinup-Girls", "digitale Freundinnen" und "Chats ohne Zensur" verspricht.
Viele Unternehmen sind in Ländern wie Weißrussland und China ansässig, und die Apps können in der Regel kostenlos aus den App-Stores von Google und Apple heruntergeladen werden.
Die Einnahmen werden hauptsächlich durch In-App-Käufe und Abonnements erzielt.
Auffallend ist die uneinheitliche Alterseinstufung dieser Apps: Einige sind nur für ein älteres Publikum geeignet, während andere für Teenager gedacht sind.
NBC News hat drei dieser Chatbots getestet. Einer ermöglichte es den Nutzern, ihre eigenen NSFW-Bilder zu erstellen, und ein anderer war komplett klickbasiert und stützte sich auf vorgegebene explizite Storylines.
Darunter war auch die berüchtigte Replika, die kürzlich mit einer Attentatsplan um Königin Elisabeth II. zu töten.
Die öffentliche Meinung über die Online-Werbung für diese Chatbots ist polarisiert. Die Kommentare auf Instagram beispielsweise reichten von "sehr dystopisch" bis "einfach nur traurig", wobei einige anmerkten, dass die KI-generierten Figuren unangenehm kindlich aussahen.
Die bevorstehende Regulierung in der EU und den USA wird den Druck auf die Unternehmen der sozialen Medien erhöhen, gegen KI-generierte Inhalte vorzugehen, aber ob ihre Filtertechnologie die erwarteten Ergebnisse liefern kann, steht auf einem anderen Blatt.
