In einer Untersuchung von NBC News wurde aufgedeckt, dass populäre Suchmaschinen wie Google und Microsofts Bing unbeabsichtigt tiefe gefälschte Pornografie fördern.
Deep Fake-Technologie, die sich zu einem Sammelbegriff für alle KI-Anwendungen entwickelt hat, die extrem naturgetreue Videos, Bilder und Audios erzeugen können.
Es wird zunehmend dazu benutzt, ohne Zustimmung pornografisches Material zu erstellen, das oft auf weibliche Prominente abzielt.
NBC News führte Suchanfragen nach 36 beliebten weiblichen Prominenten in Verbindung mit dem Begriff "Deepfakes" bei Google und Bing. Die Ergebnisse waren alarmierend: Google zeigte bei 34 dieser Suchanfragen nicht einvernehmlich gefälschte Bilder in den Top-Ergebnissen an, während Bing dies bei 35 Suchanfragen tat.
Außerdem enthielten diese Suchergebnisse häufig Links zu Websites, die für die Verbreitung solcher gefälschten Inhalte bekannt sind.
Verschärft wird die Situation dadurch, dass die Suche nach Begriffen wie "Fake Nudes" auf diesen Plattformen zu zahlreichen Links führt, die zum Erstellen und Ansehen von nonconsensual deep fake porn.
Rechtsexperten, Anwälte und Opfer dieser Technologie haben ernsthafte Bedenken geäußert.
Unerlaubte Deep Fake Pornos verletzen nicht nur die Privatsphäre, sondern tragen auch zur sexuellen Objektivierung und Belästigung von Frauen bei. In einigen Fällen reichen Deep Fakes bis hin zum sexuellen Missbrauch von Kindern, der auf unerlaubte Bilder in populären Bildern zurückzuführen ist Schulungsdatenbanken wie LAION.
Bisher hat Google kaum systematische Anstrengungen unternommen, um diese Materialien zu identifizieren und zu entfernen, und das ist vielleicht auch nicht in jedem Umfang realistisch möglich.
Ein Google-Sprecher erklärte: "Wir verstehen, wie beunruhigend diese Inhalte für die Betroffenen sein können, und wir arbeiten aktiv daran, mehr Schutz für die Suche zu bieten."
Sie betonten, dass die Suchalgorithmen von Google darauf ausgelegt sind, die unerwartete Anzeige von schädlichen oder expliziten Inhalten zu vermeiden.
Microsoft hingegen verfolgt eine Politik gegen nicht-einvernehmliche intime Bilder (NCII) und zählt sexuell eindeutige Deepfakes zu dieser Kategorie. Die Opfer können solche Inhalte, die in den Bing-Suchergebnissen erscheinen, melden.
Ein Microsoft-Sprecher sagte: "Die Verbreitung von nicht einvernehmlichen intimen Bildern ist eine grobe Verletzung der persönlichen Privatsphäre und Würde mit verheerenden Folgen für die Opfer."
Deep Fakes sind ein komplexer Aspekt der KI und bieten böswilligen Akteuren die Möglichkeit Wahlergebnisse zu manipulierenKontroversen auslösen inmitten von Ereignissen wie dem Krieg zwischen Israel und Palästina, und Betrügereien anzetteln.
Dies stellt ein unlösbares Problem dar, da es mit der Zeit praktisch unmöglich sein wird, Fälschungen von echten Medien auf Pixelebene zu unterscheiden.
