Ein Jugendgericht in Badajoz, Spanien, hat 15 Schüler zu einem Jahr auf Bewährung verurteilt, weil sie KI-generierte Nacktbilder von ihren Mitschülerinnen erstellt und verbreitet hatten.
Die Minderjährigen im Alter zwischen 13 und 15 Jahren wurden in 20 Fällen des Kindesmissbrauchs und in 20 Fällen der Verletzung der moralischen Integrität für schuldig befunden.
Als Teil ihrer Strafe müssen die Angeklagten an Kursen über Gleichberechtigung und technologische Verantwortung teilnehmen.
Das Gericht stellte fest, dass die Minderjährigen KI-Anwendungen nutzten, um Originalfotos von Mädchen aus sozialen Medien zu manipulieren, indem sie ihre Gesichter auf nackte Frauenkörper aufsetzten.
Der Fall tauchte erstmals im September letzten Jahres in Almendralejo, einer Kleinstadt im Südwesten Spaniens, auf, als Eltern meldeten, dass die Bilder ihrer Töchter über WhatsApp in Umlauf gebracht wurden. Die manipulierten Fotos zeigten die Mädchen realistisch nackt und lösten bei den Opfern, von denen einige erst 11 Jahre alt waren, große Ängste und Sorgen aus.
"Es ist ein Schock, wenn man es sieht", sagte die Mutter eines Opfers. "Das Bild ist völlig realistisch ... Wenn ich den Körper meiner Tochter nicht kennen würde, hätte ich gedacht, das Bild sei echt.
Die Mutter eines anderen Opfers, Miriam Al Adib, brachte ihre Empörung auf Instagram zum Ausdruck: "Die Montagen sind super realistisch, es ist sehr verstörend und ein echter Skandal."
Sie erzählte, wie ihre Tochter angewidert zu ihr kam und sagte: "Mama, schau mal, was die mit mir gemacht haben." Al Adib äußerte auch Bedenken, dass die gefälschten Nacktbilder auf Websites für Erwachsene landen könnten.
Eine andere Mutter, Fátima Gómez, berichtete den lokalen Medien, dass ihre Tochter von einem Mitschüler wegen der gefälschten Nacktbilder erpresst wurde. Ein Junge verlangte Geld von ihrer Tochter, und als sie sich weigerte, schickte er ihr ein manipuliertes Nacktbild von sich.
Die polizeilichen Ermittlungen ergaben, dass eine Anwendung namens "ClothOff AI" verwendet wurde, um die Bilder aus Fotos in sozialen Medien zu generieren.
Die App hat den beunruhigenden Slogan "Zieh jeden aus, zieh Mädchen kostenlos aus" und verlangt Berichten zufolge 10 € für die Erstellung von 25 Nacktbildern.
Schutz für Minderjährige im Zeitalter von AI
Der bahnbrechende Fall unterstreicht die dringende Notwendigkeit aktualisierter Gesetze und Strategien, um die wachsende Bedrohung durch KI-generierte Fälschungen zu bekämpfen, insbesondere solche, die auf Minderjährige abzielen.
Nach Ansicht von Experten ist die bestehende Gesetzgebung unzureichend, um diese neuartigen Straftaten zu verfolgen, so dass die Opfer schutzlos bleiben.
"Über diesen speziellen Prozess hinaus sollten uns diese Tatsachen zum Nachdenken über die Notwendigkeit anregen, die Menschen über die Gleichstellung von Männern und Frauen aufzuklären", so die Malvaluna Association, die die betroffenen Familien vertritt.
Sie betonten die Notwendigkeit einer umfassenden Sexualerziehung in den Schulen, um die schädlichen Auswirkungen von Pornografie und tiefen Fälschungen zu bekämpfen.
Mit dem rasanten Fortschritt der KI-Technologie wächst die Besorgnis über ihr Potenzial für Missbrauch und Ausbeutung, wobei Frauen und Kinder unverhältnismäßig häufig betroffen sind.
Das Weltwirtschaftsforum (WEF) und US-Gesetzgeber haben kürzlich auf den Mangel an Maßnahmen zum Schutz von Minderjährigen vor KI-Risiken aufmerksam gemacht.
Auch US-Gesetzgeber aufgeworfene Fragen rund um die Interaktion von KI mit Kindern, die sich eindeutig zu einem blinden Fleck in Vorschriften und Leitlinien entwickelt hat. KI-Entwickler setzen Altersbeschränkungen für ihre Tools ein, die zweifelhaft wirksam sind.
Die Zusammenarbeit zwischen politischen Entscheidungsträgern, Technologieunternehmen, Pädagogen und Eltern ist unerlässlich, um diese Herausforderungen zu bewältigen und eine sicherere digitale Zukunft für alle zu schaffen, insbesondere für Kinder.
