Normalerweise sind Politiker die unautorisierten Subjekte von Deepfakes, aber der Bürgermeister von New York City, Eric Adams, nutzt diese KI-gestützte Technologie, um die Einwohner seiner Stadt zu erreichen.
Um ein breiteres Publikum zu erreichen, hat Adams mithilfe von künstlicher Intelligenz Audioaufnahmen von sich selbst in Sprachen von Jiddisch bis Mandarin erstellt. Diese Audiodaten werden dann verwendet, um automatische Anrufe an die Einwohner der Stadt zu senden, um sie über Veranstaltungen wie Jobmessen und Konzerte zu informieren.
Die Praktikabilität dieses Schrittes liegt auf der Hand, aber er wirft auch einige ethische Fragen auf.
"Die Leute halten mich auf der Straße ständig an und sagen: 'Ich wusste gar nicht, dass Sie Mandarin sprechen. Die Robocalls, die wir verwenden, nutzen verschiedene Sprachen, um die Vielfalt der New Yorker direkt anzusprechen", so Adams.
Das Problem ist, dass Adams diese Sprachen nicht spricht und die Anrufe den Empfänger nicht darüber informieren, dass die Stimme, die er hört, von einer künstlichen Intelligenz erzeugt wurde. Führt Adams seine Wähler in die Irre oder ist er einfallsreich und effizient?
Der Exekutivdirektor des Surveillance Technology Oversight Project, Albert Fox Cahn, ist kein Fan des Einsatzes von KI durch den Bürgermeister.
"Das ist zutiefst unethisch, vor allem auf Kosten der Steuerzahler. Der Einsatz von KI, um die New Yorker davon zu überzeugen, dass er Sprachen spricht, die er nicht spricht, ist zutiefst orwellsch. Ja, wir brauchen Ansagen in allen Muttersprachen der New Yorker, aber die tiefen Fälschungen sind nur ein gruseliges Eitelkeitsprojekt", sagte Cahn.
Ist das nicht ein bisschen gruselig? Die Stadt hat einen der spanischen Anrufe auf YouTube hochgeladen, also urteilen Sie selbst.
Adams ist der Meinung, dass der Zweck die Mittel heiligt, räumte aber ein: "Wir müssen über den Missbrauch besorgt sein, aber wir wollen den richtigen Einsatz."
Dieser Schritt wirft auch politisch-ethische Fragen auf. Könnte Adams' Anruf eine spanischsprachige Person eher dazu bringen, für ihn zu stimmen, wenn diese Person glaubt, dass der Bürgermeister ihre Sprache spricht?
Adams erwähnte die gefälschten Anrufe während einer Pressekonferenz über das neue städtische Aktionsplan Künstliche Intelligenz.
Der Aktionsplan umreißt die Projektfristen und die Bestrebungen für den sicheren Einsatz von KI, um die 8 Millionen Einwohner der Stadt effektiver zu bedienen.
"Ich bin stolz darauf, einen Plan vorzustellen, der in der globalen KI-Diskussion ein kritisches Gleichgewicht herstellt - einen Plan, der die städtischen Behörden in die Lage versetzt, Technologien einzusetzen, die das Leben verbessern und gleichzeitig vor denen schützen, die Schaden anrichten können", sagte Adams.
Eines der jüngsten Beispiele für den Einsatz von KI in der Stadt ist der MyCity-Chatbot, der Fragen zu Gewerbeanmeldungen und Vorschriften beantwortet.
Der vorausschauende KI-Ansatz von Adams mag lobenswert sein, wenn auch mit einigen fragwürdigen Initiativen wie gefälschten Robocalls.
Adams verdoppelte seine Deepfakes und sagte: "Ist das ethisch richtig oder falsch? Ich muss eine Stadt leiten, und ich muss in der Lage sein, mit den Menschen in Sprachen zu sprechen, die sie verstehen ... zu allen kann ich nur sagen: Ni hao."
