Ein Sportdirektor einer High School in Baltimore wurde am Donnerstag verhaftet, nachdem die Polizei behauptet hatte, er habe mit Hilfe von AI einen gefälschten Audioclip des Schulleiters erstellt.
Im Januar, wir berichteten zu dem Audioclip, bei dem es sich angeblich um eine Aufnahme des Schulleiters der Pikesville High School, Eric Eiswert, handelt, der sich rassistisch und antisemitisch über Mitarbeiter und Schüler äußert.
Damals bestritt Eiswert die Echtheit des Tons, und es wurde behauptet, der Clip sei eine KI-Fälschung.
Der weit verbreitete Audioclip führte dazu, dass Eiswert vorübergehend seinen Job verlor, während die Echtheit des Clips untersucht wurde. Die Reaktionen von Lehrern, Schülern und anderen in der Gemeinde, die glaubten, der Clip sei echt, brachten Eiswerts Leben durcheinander.
Wenn man sich den Audioclip anhört, ist es leicht zu verstehen, warum die Leute glaubten, er sei echt.
Diesen Beitrag auf Instagram anzeigen
Experten sind nun zu dem Schluss gekommen, dass es sich bei dem Ton um eine KI-Fälschung handelt, da er einen flachen Ton hat, keine einheitlichen Atemgeräusche oder Pausen enthält und ungewöhnlich saubere Hintergrundgeräusche aufweist.
Es wird behauptet, dass Dazhon Darien, der frühere Sportdirektor der Pikesville High School, die AI-Fälschung als Vergeltung für die von Eiswert eingeleitete Untersuchung seines Missbrauchs von Schulgeldern vorgenommen hat.
Dazhon Darien wurde verhaftet und wegen Störung des Schulbetriebs, Diebstahls, Vergeltungsmaßnahmen gegen einen Zeugen und Stalking angeklagt. In der Anklageschrift heißt es, Darien habe die Computer der Schule benutzt, um "auf OpenAI Tools und Microsoft Bing Chat-Dienste".
Nicht auf der Liste der Anklagen stand etwas, das vielleicht schon bald ein Verbrechen sein wird: der Einsatz von KI, um die Stimme einer Person zu fälschen.
Rechnungen wie die Kein Fälschungsgesetz und der No AI Fraud Act wurden in der Kommission eingereicht. US Kongress, die aber noch nicht verabschiedet sind. Als Darien also KI einsetzte, um einen nicht einvernehmlichen gefälschten Audioclip von Eiswerts Stimme zu erstellen, war das technisch gesehen keine Straftat.
Die Tatsache, dass es Wochen dauerte, bis ein Experte schließlich bestätigte, dass es sich bei dem Audioclip um eine Fälschung handelte, zeigt, wie unvorbereitet die Gesellschaft und die Behörden auf die neuen Probleme sind, die die generative KI mit sich bringt.
Die Leichtigkeit, mit der diese Fälschungen hergestellt werden können, verschärft das Problem. Wenn ein Sportlehrer eine passable Fälschung zusammenstellen kann, dann kann man sich vorstellen, was technisch versiertere schlechte Schauspieler erreichen könnten.
Da es keine einfache Möglichkeit gibt, gefälschte Audio- und Videodateien zu erkennen, ist es vielleicht am besten, davon auszugehen, dass die Dinge gefälscht sind, bis sie als echt bestätigt werden.
