Das UK Safer Internet Centre (UKSIC) hat berichtet, dass Kinder KI-Bildgeneratoren benutzen, um unanständige Bilder von anderen Kindern zu erstellen.
Die Wohltätigkeitsorganisation teilte mit, sie habe eine "kleine Anzahl von Berichten" überprüft, betonte aber, dass jetzt gehandelt werden müsse, bevor sich das Problem ausbreite.
David Wright, der Direktor von UKSIC, betont, dass sofortige Maßnahmen erforderlich sind: "[Wir] müssen jetzt Maßnahmen ergreifen, bevor die Schulen überfordert sind und das Problem wächst."
Vor allem Kinder sind sich wahrscheinlich nicht bewusst, welche Auswirkungen der Einsatz von KI auf diese Weise hat.
Im Vereinigten Königreich ist es illegal, solche Bilder zu erstellen, zu besitzen oder zu verbreiten, unabhängig davon, ob sie echt sind oder von einer künstlichen Intelligenz generiert wurden.
Die Wohltätigkeitsorganisation warnte davor, dass diese Bilder missbraucht oder im Internet verbreitet werden könnten, was zu unbeabsichtigten Folgen, einschließlich Erpressung, führen könnte.
Dies ist kein Einzelfall. Spanisch und US-Schulen beide hatten in letzter Zeit ihre eigenen Kontroversen über KI-generierte Bilder, wobei unerlaubte Bilder von Minderjährigen ausgetauscht wurden.
Darüber hinaus wird heftig darüber diskutiert, wer für die Aufklärung der Kinder über die Schäden solcher Materialien verantwortlich ist. Ist es Aufgabe der Eltern, der Schulen oder der Regierungen?
Gesonderte Untersuchung durch ein Unternehmen für Bildungstechnologie RM-Technik mit 1.000 Schülern ergab, dass fast ein Drittel KI für unangemessene Online-Aktivitäten nutzt.
Tasha Gibson, Online-Sicherheitsmanagerin bei RM Technology, sagte: "Die regelmäßige Nutzung von KI durch Schüler ist heute alltäglich."Tatsächlich ist ihr Verständnis von KI weiter fortgeschritten als das der meisten Lehrkräfte, wodurch eine Wissenslücke entsteht".
Apps machen es leicht, illegale Bilder zu erstellen
Diese sogenannten "Entschärfungs-Apps" tauchten 2019 erstmals auf Social-Media-Plattformen auf und werden häufig bei Messaging-Diensten wie Telegram als automatisierte Software mit KI-Funktionen eingesetzt.
Ursprünglich waren diese Apps relativ simpel, aber Fortschritte in der generativen KI haben ihre Fähigkeit verbessert, fotorealistische gefälschte Bilder zu erstellen.
Das Modell, um das es in dem spanischen Fall ging, hatte fast 50.000 Abonnenten. Normalerweise können die Nutzer eine Reihe von Bildern kostenlos erstellen, bevor sie eine Gebühr zahlen müssen.
In vielen Fällen ist die Nutzung dieser Apps von Neugier getrieben, sagt UKSIC, aber das ist sicherlich kein rechtlicher Schutz.
Ein Mann aus North Carolina wurde kürzlich wahrscheinlich die erste Person wegen Sexualverbrechen im Zusammenhang mit künstlicher Intelligenz zu einer 40-jährigen Haftstrafe verurteilt. Es ist unwahrscheinlich, dass er der letzte sein wird.
