Das US-Justizministerium (DOJ) hat das Risiko von KI-Desinformation und Deepfakes als Grund dafür angeführt, dass es die Tonaufnahmen der Befragung von Joe Biden durch den Sonderstaatsanwalt wegen seines Umgangs mit geheimen Dokumenten nicht veröffentlichen wird.
Das Justizministerium kam zu dem Schluss, dass es keine Grundlage für eine strafrechtliche Verfolgung Bidens gab, aber die Abschrift des Interviews wurde zu einem willkommenen Ansporn für Kritiker, die Bidens geistige Fähigkeiten und seine Fähigkeit, für eine weitere Amtszeit zu kandidieren, in Frage stellen.
Eine Abschrift zu lesen ist eine Sache, den Ton des US-Präsidenten zu hören, der sich nicht an das Datum des Todes seines Sohnes erinnern kann oder vergessen hat, wer der Präsident von Mexiko ist, ist etwas ganz anderes.
Das Justizministerium gibt an, dass es nicht in der Lage sei, die KI-Desinformation zu bekämpfen, weshalb es den Ton nicht freigeben werde.
Der Lauf der Zeit und die Fortschritte in den Bereichen Audio, künstliche Intelligenz und "Deep Fake"-Technologien verstärken die Bedenken hinsichtlich der böswilligen Manipulation von Audiodateien nur noch. Wenn die Audioaufnahme hier veröffentlicht wird, ist es leicht vorhersehbar, dass sie missbräuchlich verändert werden könnte, und dass die veränderte Datei als authentische Aufnahme ausgegeben und weit verbreitet werden könnte", so die Abteilung schrieb in seinem Gerichtsantrag.
Bradley Weinsheimer, stellvertretender Generalstaatsanwalt des Justizministeriums, sagte, dass bei einer Freigabe des Audios ein "erhebliches Risiko bestünde, dass böswillige Akteure die Aufnahme verändern könnten, um (zum Beispiel) Worte einzufügen, die Präsident Biden nicht gesagt hat, oder Worte zu löschen, die er gesagt hat".
KI-generierte Stimmenklone benötigen nur wenige Sekunden der Stimme einer Person, um einen überzeugenden Ton zu erzeugen. Ein Klon der Stimme von Joe Biden wurde in einem Fake-Robo-Call-Kampagne im Januar, die die Wähler davon abhielt, an den Vorwahlen teilzunehmen.
In den Unterlagen wird eingeräumt, dass die Erstellung eines Klons von Bidens Stimme bereits möglich war.
Sie sagte. "Sicherlich gibt es bereits anderes Rohmaterial, um ein Deepfake von Präsident Bidens Stimme zu erstellen, aber die Veröffentlichung der Audioaufnahme birgt einzigartige Risiken: Wenn es öffentlich bekannt wäre, dass die Audioaufnahme veröffentlicht wurde, wäre es für böswillige Akteure einfacher, eine veränderte Datei als die echte Aufnahme auszugeben".
Mike Howell, geschäftsführender Direktor des Oversight Project bei der Heritage Foundation, glaubt, dass das Justizministerium KI-Deepfakes als bequeme Ausrede benutzt.
"Sie wollen diese Aufnahmen überhaupt nicht freigeben... Sie gehen nach dem Prinzip der Küchenspüle vor und sind völlig verängstigt, weil sie keine guten rechtlichen Argumente haben", sagte Howell.
Senator Mark Warner, der demokratische Vorsitzende des Geheimdienstausschusses des Senats, räumte das Risiko von KI-Manipulationen ein, sagte aber, dass die Audiodaten mit "Wasserzeichen-Komponenten" freigegeben werden sollten, damit Manipulationen erkannt werden könnten.
Ironischerweise haben einige Republikaner öffentlich spekuliert, dass die Abschrift das Interview nicht korrekt wiedergibt.
KI-Desinformation und Deepfakes haben eine unbestreitbare disruptive Wirkung Auswirkungen auf die Weltpolitik.
Aber die Leichtigkeit, mit der gefälschte Bilder, Audio- und Videodateien erstellt werden können, hat auch eine bequeme Ausrede für Politiker geschaffen, die sich in einer heiklen Situation befinden.
