KI-generierte gefälschte Nacktbilder von Schülern der Westfield High School in New Jersey, USA, wurden unter Gleichaltrigen verteilt, und es gibt keine klaren rechtlichen Schritte gegen die Täter.
Schulleiterin Mary Asfendis beschrieb die Situation in einer E-Mail an die Eltern als einen "sehr ernsten Vorfall".
Tie Schule schweigt zu den Einzelheiten des Vorfalls, einschließlich der Anzahl der betroffenen Personen oder etwaiger disziplinarischer Maßnahmen gegen die Täter, und beruft sich dabei auf Vertraulichkeitsbedenken.
Die E-Mail des Schulleiters war der Presse zugespielt worden und enthielt den Inhalt:
"Ich schreibe Ihnen, um Sie auf eine Situation aufmerksam zu machen, die zu weit verbreiteten Fehlinformationen und zu großer Sorge und Besorgnis in der Schülerschaft der Westfield High School geführt hat. Heute haben uns Schüler darauf aufmerksam gemacht, dass einige unserer Schüler künstliche Intelligenz benutzt haben, um aus Originalfotos pornografische Bilder zu erstellen. Es herrschte große Besorgnis darüber, wer Bilder von sich erstellen ließ und ob sie weitergegeben wurden.
Zum jetzigen Zeitpunkt gehen wir davon aus, dass alle erstellten Bilder gelöscht wurden und nicht in Umlauf gebracht werden. Dies ist ein sehr ernster Vorfall. Wir setzen die Ermittlungen fort und werden die betroffenen Personen und Familien der Schüler informieren, sobald die Ermittlungen abgeschlossen sind. Dies wird noch vor dem Wochenende geschehen. Wir haben allen betroffenen Schülern Beratung angeboten und sie ermutigt, in den Unterricht zurückzukehren, sobald sie sich dazu in der Lage fühlen. Außerdem wurden unser School Resource Officer und die Polizei von Westfield über unsere Ermittlungen informiert. Wenn ein Elternteil/Erziehungsberechtigter glaubt, dass sein Kind im Zusammenhang mit diesem Vorfall Opfer einer Straftat geworden ist, melden Sie die Angelegenheit bitte der Polizei von Westfield.
Ich wollte Sie auf die Situation aufmerksam machen, da es nicht nur den betroffenen Schülern schadet und den Schulalltag stört, sondern es auch sehr wichtig ist, mit Ihren Kindern über ihre Nutzung der Technologie und darüber zu sprechen, was sie in den sozialen Medien posten, speichern und teilen. Die neuen Technologien haben es möglich gemacht, Bilder zu fälschen, und die Schüler müssen wissen, welche Auswirkungen und welchen Schaden diese Handlungen bei anderen verursachen können.
Wir werden Ihre Kinder weiterhin über die Bedeutung eines verantwortungsvollen Umgangs mit der Technologie aufklären und hoffen, dass Sie diese Botschaften zu Hause noch verstärken."
Diese Situation ist kein Einzelfall an der Westfield High School. In Spanien gab es einen ähnlichen Vorfall im September, und auch Persönlichkeiten des öffentlichen Lebens und verschiedene Online-Influencer waren in Kontroversen über gefälschte Pornografie verwickelt.
In New Jersey gibt es keine Gesetzgebung, die die Erstellung und Verbreitung von KI-erstellten Fake-Nacktbildern unter Strafe stellt.
Gouverneur Phil Murphy stellte am 10. Oktober eine KI-Taskforce vor, die die Vorteile, das Wachstum und die Risiken der Technologie untersuchen soll, aber ein endgültiges Gesetz zu diesem Thema gibt es noch nicht.
Präsident Bidens Durchführungsverordnung zur KI-Regulierung schlägt Maßnahmen zur Überwachung, zur Einrichtung von Schutzmaßnahmen und zu technologischen Investitionen vor. Sie reicht jedoch nicht aus, um ein allgemeines Bundesgesetz gegen gefälschte Nacktbilder einzuführen, und es gibt keinen Zeitplan für eine solche Gesetzgebung.
Bradley Waldstreicher, Mitherausgeber bei Cardozo Law Reviewunterstrich im Mai 2021 die Komplexität der föderalen Deepfake-Gesetzgebung, indem er feststellte: "Wenn ein Bundesgesetz über Deepfakes verabschiedet wird, das speziell auf pornografische Deepfakes abzielt, dann müssen pornografische Deepfakes, um verfassungskonform zu sein, möglicherweise unter die kategorische Ausnahme des Ersten Verfassungszusatzes fallen und eine separate Kategorie wie Kinderpornografie darstellen. ....[D]ies ist keine klare Lösung. Zumindest müssen Forscher vor der Verabschiedung von substanziellen Bundesgesetzen mehr Studien durchführen, um mehr über die Auswirkungen von pornografischen Deepfakes auf Opfer und Internetnutzer zu erfahren.
Ein genauerer Blick auf die Zunahme von KI-generierten gefälschten Nacktbildern offenbart erschütternde Zahlen. Nach Angaben der Washington PostNach Angaben von Genevieve Oh, einer Branchenanalystin, gab es seit 2018 einen 290% Anstieg solcher Inhalte auf bekannten Websites, die KI-generierte Pornofotos hosten.
A UK Untersuchung der BBC deckte den erstaunlichen Anstieg von gefälschter Pornografie, einschließlich Kinderpornografie, auf Seiten wie Patreon auf.
Allein im Jahr 2023 wurden 143.000 Deepfake-Pornovideos auf beliebten Plattformen gepostet und über 4,2 Milliarden Mal angesehen - ein deutlicher Sprung gegenüber den Vorjahren. Sensity AI berichtet, dass 90 bis 95% dieser Videos nicht-einvernehmliche weibliche Darstellungen enthalten.
Das FBI wies auch auf einen Anstieg der "Sextortion"-Fälle hin: Bis September dieses Jahres wurden in den USA 26.800 Opfer gemeldet, was einen Anstieg von 149% gegenüber 2019 bedeutet.
Deep Fakes sind eine der größten und dringlichsten Gefahren der KI, und es ist äußerst schwierig, sie einzudämmen.
Fälschungen tauchen überall in der Israelisch-palästinensischer Konflikt wies auch auf die Möglichkeit hin, dass authentische Bilder fälschlicherweise als KI-generiert eingestuft werden, ein Beispiel für eine "Lügendividende", bei der echte Informationen als Fälschungen missachtet werden können.
Dies gilt auch für KI-generierte Stimmen und Videos, oft gegen politische Führer gerichtetEs wird befürchtet, dass dies das Wahlverhalten beeinflussen könnte.
