In Almendralejo, einer Kleinstadt in Südspanien, entdeckten kürzlich mehr als 20 Mädchen im Teenageralter, dass sie künstlich erzeugte Nacktbilder von sich auf ihren Mobiltelefonen erhalten hatten.
Diese beunruhigend realistischen, tief gefälschten Nacktbilder wurden aus Fotos manipuliert, die ursprünglich auf den Instagram-Konten der Mädchen veröffentlicht wurden.
Jetzt stellen sich Eltern und Rechtsexperten die Frage: Stellt die Erstellung und Verbreitung dieser Bilder nach geltendem Recht eine Straftat dar?
Die expliziten Bilder wurden mit ClothOff, einer KI-Anwendung, erstellt und anschließend in verschiedenen WhatsApp-Gruppen verbreitet.
Die Personen auf den Fotos waren vollständig bekleidet, aber die KI-Software veränderte die Bilder auf überzeugende Weise, um die Nacktheit real erscheinen zu lassen.
Dies hat bei Eltern und Justizbehörden zu wachsender Besorgnis darüber geführt, ob diese manipulierten Fotos als Kinderpornografie eingestuft werden könnten.
Miriam Al Adib, die Mutter eines der betroffenen Mädchen, zeigte sich auf ihrem Instagram-Account bestürzt: "Die Montagen sind super realistisch, es ist sehr verstörend und ein echter Skandal."
Sie fuhr fort: "Meine Tochter sagte mir voller Abscheu: 'Mama, sieh nur, was sie mit mir gemacht haben.'"
Al Adib äußerte auch die Befürchtung, dass die veränderten Bilder sogar auf Webseiten für Erwachsene gelangen könnten.
Fátima Gómez, ein weiteres besorgtes Elternteil, sagte dem spanischen Nachrichtensender Extremadura TV dass ihre Tochter über soziale Medien erpresst worden war. Ein Junge verlangte Geld von ihrer Tochter, und als sie sich weigerte, schickte er ihr ein tiefes, gefälschtes Nacktbild.
Die FBI gewarnt von KI-generierter "Sextortion" im Juni dieses Jahres, und mehrere Frauen sind bereits Opfer geworden.
Die spanische Nationalpolizei hat den Fall untersucht und mehrere Jugendliche ausfindig gemacht, die an der Erstellung und Verbreitung dieser Bilder beteiligt gewesen sein sollen.
Die Situation wurde auch an die Jugendstaatsanwaltschaft weitergeleitet. Der Bürgermeister von Almendralejo warnte, dass das, was vielleicht als "Scherz" begann, ernsthafte rechtliche Konsequenzen haben könnte.
ClothOff, die fragliche KI-Anwendung, hat einen beunruhigenden Slogan: "Zieh jeden aus, zieh Mädchen kostenlos aus". Angeblich verlangt sie 10 € für die Erstellung von 25 Nacktbildern.
Das jüngste der beteiligten Mädchen war gerade einmal 11 Jahre alt.
Bestehende Gesetze bieten nur unzureichenden Schutz
Manuel Cancio, Professor für Strafrecht an der Autonomen Universität von Madrid, gegenüber Euronews dass die bestehenden Gesetze möglicherweise nicht ausreichen, um das Problem zu lösen.
"Da es durch Deepfake erzeugt wird, wird die tatsächliche Privatsphäre der betreffenden Person nicht beeinträchtigt. Die Wirkung, die es (auf das Opfer) hat, kann einem echten Nacktfoto sehr ähnlich sein, aber das Gesetz ist einen Schritt weiter", erklärte er.
Die Tatsache, dass das Bild gefälscht oder "fiktionalisiert" ist, erschwert die Rechtslage.
Rechtsexperten sind sich uneins, wie das Verbrechen einzuordnen ist. Einige argumentieren, dass es unter die Gesetze zur Kinderpornografie fallen könnte, was zu härteren Strafen führen würde, während andere meinen, dass das Verbrechen als Verstoß gegen die moralische Integrität betrachtet werden könnte.
Der Fall würde weltweit unterschiedlich ausgelegt, und es würde wahrscheinlich eine ähnliche Debatte geben, wenn dies in anderen Ländern geschehen wäre.
Das Weltwirtschaftsforum (WEF) hat kürzlich die Aufmerksamkeit auf ein Problem gelenkt, das mit der KI zusammenhängt: Kinder sind von ihr betroffen. eklatanter Mangel an Maßnahmen zum Schutz von Kindern vor AI-Risiken.
Auch US-Gesetzgeber aufgeworfene Fragen über den Umgang von KI mit Kindern, und Journalisten im Vereinigten Königreich fanden heraus, dass Pädophilenringe Erzeugung störender illegaler Inhalte mithilfe von AI-Modellen.
Der Gesetzgeber wird durch solche Fälle auf die Probe gestellt - Dies zeigt einmal mehr, dass die herkömmliche Rechtsetzung einfach zu schwerfällig ist, um sich an KI-bedingte Risiken anzupassen, die man sich vor einigen Jahren kaum vorstellen konnte.
