Die australische Polizei hat eine Untersuchung über die Verbreitung von KI-generierten pornografischen Bildern von etwa 50 Schulmädchen eingeleitet, wobei es sich bei dem Täter vermutlich um einen Teenager handelt.
In einem Interview mit ABC am Mittwoch erklärte Emily, die Mutter eines 16-jährigen Mädchens, das das Bacchus Marsh Grammar besucht, dass ihre Tochter körperlich erkrankt sei, nachdem sie die "verstümmelten" Bilder im Internet gesehen habe.
"Ich habe meine Tochter von einer Übernachtung abgeholt, und sie war extrem verstört und musste sich übergeben, weil die Bilder so unglaublich grafisch waren", erklärte sie gegenüber ABC Radio Melbourne.
Die Schule gab eine Erklärung ab, in der sie ihr Engagement für das Wohlergehen der Schülerinnen und Schüler erklärte, Beratung anbot und mit der Polizei zusammenarbeitete.
"Das Wohlergehen unserer Schüler und ihrer Familien am Bacchus Marsh Grammar hat höchste Priorität und wird aktiv in Angriff genommen", so der Schule erklärt.
Dies geschieht zu einem Zeitpunkt, zu dem die australische Regierung auf strengere Gesetze für nicht einvernehmliche explizite Deep Fakes drängt und die Haftstrafen für die Erstellung und Weitergabe von KI-generierten oder sonstigen CSAM auf bis zu sieben Jahre erhöht.
Explizite Deep Fakes auf dem Vormarsch
Experten sagen, dass Online-Raubtiere, die im Dark Web unterwegs sind, zunehmend auf KI-Tools zurückgreifen - insbesondere auf Text-Bild-Generatoren wie Stability AI - um neue CSAM zu erstellen.
Beunruhigenderweise fixieren sich diese CSAM-Schöpfer manchmal auf ehemalige Überlebende von Kindesmissbrauch, deren Bilder online kursieren. Kinderschutzgruppen berichten von zahlreichen Chatroom-Diskussionen über den Einsatz von KI, um mehr Inhalte zu erstellen, die bestimmte minderjährige "Stars" zeigen, die in diesen missbrauchenden Gemeinschaften beliebt sind.
KI ermöglicht es Menschen, neue explizite Bilder zu erstellen, um die Überlebenden zu reviktimisieren und zu retraumatisieren.
"Mein Körper wird nie wieder der meine sein, und das ist etwas, womit viele Überlebende zu kämpfen haben", sagte Leah Juliett, eine Aktivistin und CSAM-Überlebende, kürzlich sagte dem Guardian.
Ein Oktober 2023 Bericht der im Vereinigten Königreich ansässigen Internet Watch Foundation hat das Ausmaß von KI-generiertem CSAM aufgedeckt. Der Bericht fand über 20.000 solcher Bilder, die innerhalb eines Monats in einem einzigen Dark-Web-Forum veröffentlicht wurden.
Die Bilder sind oft nicht von echten Fotos zu unterscheiden und zeigen zutiefst verstörende Inhalte wie die simulierte Vergewaltigung von Säuglingen und Kleinkindern.
Letztes Jahr wurde ein Bericht der Stanford-Universität enthüllte, dass Hunderte von echten CSAM-Bildern in der LAION-5B-Datenbank enthalten waren, die zum Training gängiger KI-Tools verwendet wird. Als die Datenbank als Open Source veröffentlicht wurde, explodierte laut Experten die Zahl der von KI erzeugten CSAM-Bilder.
Jüngste Verhaftungen zeigen, dass das Problem nicht theoretisch ist, und Polizeikräfte in aller Welt ergreifen Maßnahmen. Zum Beispiel wurde im April eine Mann aus Florida wurde angeklagt weil sie angeblich mit Hilfe von künstlicher Intelligenz explizite Bilder von einem Nachbarskind erstellt haben.
Letztes Jahr hat ein Mann aus North Carolina - ausgerechnet ein Kinderpsychiater - wurde zu 40 Jahren Gefängnis verurteilt für die Erstellung von KI-generierter Kinderpornografie aus seinen Patienten.
Und erst vor wenigen Wochen gab das US-Justizministerium bekannt, dass die Verhaftung des 42-jährigen Steven Anderegg in Wisconsin wegen der angeblichen Erstellung von mehr als 13.000 KI-generierten Missbrauchsbildern von Kindern.
Die derzeitigen Gesetze reichen nicht aus, sagen Gesetzgeber und Befürworter
In den meisten Ländern gibt es zwar bereits Gesetze, die computergenerierte CSAM unter Strafe stellen, aber die Gesetzgeber wollen die Vorschriften verschärfen.
Zum Beispiel in den USA, ein überparteilicher Gesetzentwurf wurde eingeführt, um den Opfern die Möglichkeit zu geben, die Urheber expliziter, nicht einvernehmlicher Deep Fakes zu verklagen.
Es gibt jedoch noch einige Grauzonen, in denen es schwierig ist, genau zu bestimmen, gegen welche Gesetze solche Aktivitäten verstoßen.
So wurde beispielsweise in Spanien ein junger Student dabei ertappt, wie er eindeutige Bilder von mit AI erzeugte Klassenmitglieder. Einige argumentierten, dass dies unter die Pädophiliegesetze fallen würde, was zu härteren Anklagen führen würde, während andere sagten, dass dies nach geltendem Recht nicht die Kriterien erfüllen könnte.
Ein ähnlicher Vorfall ereignete sich in einem Schule in New Jerseyund zeigt, wie naiv Kinder diese KI-Tools nutzen und sich dabei extremen Risiken aussetzen können.
Die Technologieunternehmen, die hinter den KI-Bildgeneratoren stehen, verbieten die Verwendung ihrer Tools zur Erstellung illegaler Inhalte. Zahlreiche leistungsstarke KI-Modelle sind jedoch quelloffen und können privat offline betrieben werden, so dass die Box nicht vollständig geschlossen werden kann.
Außerdem hat sich ein Großteil der kriminellen Aktivitäten auf verschlüsselte Nachrichtenplattformen verlagert, was die Aufdeckung noch schwieriger macht.
Wenn die KI die Büchse der Pandora geöffnet hat, dann ist dies sicherlich eine der Gefahren, die darin liegen.
