Die Federal Trade Commission (FTC) hat die Aufgabe, die Verbraucher vor Betrug und Abzocke zu schützen, doch das immer bessere Klonen von KI-Stimmen erschwert diese Aufgabe.
Das Klonen von KI-Stimmen hat zwar zahlreiche Debatten ausgelöst, aber es gibt legitime Anwendungsfälle, die es lohnenswert machen, diese Technologie weiterzuverfolgen.
Wiederherstellung eines persönlichen Kommunikationsmittels für jemanden, der seine Stimme verloren hat, oder einer bekannten Filmfigur eine Stimme zu geben lange nachdem der ursprüngliche Sprecher verstorben ist, sind nur zwei Beispiele. Letztes Jahr verwendete der New Yorker Bürgermeister Eric Adams eine AI-Klon seiner Stimme mit den Einwohnern der Stadt in mehreren Sprachen zu kommunizieren.
Aber die Technologie hat es Betrügern auch sehr viel leichter gemacht, ahnungslose Menschen zu täuschen, wenn sie einen Telefonanruf entgegennehmen. Letztes Jahr hat ein McAfee-Bericht stellte eine Zunahme des AI-Sprachbetrugs fest, und die FTC warnte die Verbraucher vor "Familien-Notfall-Betrügereien", bei denen ein Anrufer vorgibt, ein Familienmitglied in Not zu sein.
Abgesehen von der Beendigung des Anrufs und dem anschließenden Anrufen der Person unter der von Ihnen angegebenen Nummer, ist es Es ist wirklich schwierig, eine KI-Stimme zu identifizieren Klon von einer echten Person.
Die FTC hat Einzelpersonen oder Organisationen aufgefordert, "bahnbrechende Ideen zur Verhinderung, Überwachung und Bewertung des böswilligen Einsatzes von Technologien zum Klonen von Stimmen" einzureichen.
Der Wettbewerb läuft vom 2. bis 12. Januar, und die beste Idee wird mit $25.000 belohnt. Wenn Sie eine gute Idee haben, können Sie sie hier einreichen.
Die Eingaben müssen mindestens einen der drei folgenden Punkte ansprechen, die die FTC erreichen möchte:
- Prävention oder Authentifizierung: Es muss eine Möglichkeit geben, die Verwendung oder Anwendung von Software zum Klonen von Stimmen durch unbefugte Benutzer einzuschränken.
- Erkennung oder Überwachung in Echtzeit: Es muss eine Möglichkeit geben, geklonte Stimmen oder die Verwendung von Stimmenklontechnik zu erkennen.
- Bewertung nach der Verwendung: Es muss eine Möglichkeit geben, zu überprüfen, ob ein Audioclip geklonte Stimmen enthält.
Samuel Levine, Direktor des Bureau of Consumer Protection der FTC, sagte: "Wir werden jedes Mittel nutzen, um Schaden von der Öffentlichkeit abzuwenden, der durch den Missbrauch der Voice-Cloning-Technologie entsteht."
Stephanie T. Nguyen, Chief Technology Officer der FTC, gab einen Hinweis darauf, wohin die FTC die Verantwortung für diese Betrügereien verlagern könnte: "Die Herausforderung ist so gestaltet, dass die Unternehmen für die Auswirkungen der von ihnen herausgegebenen Produkte erster und zweiter Ordnung verantwortlich sind.
Das kann schwierig oder sogar unmöglich sein. Selbst wenn seriöse Unternehmen die von ihren Tools erzeugten Audiodaten mit einem "Wasserzeichen" versehen, gibt es bereits frei verfügbare Open-Source-Lösungen, die von Betrügern genutzt werden können.
Wenn Sie jemandem eine Sprachnachricht geschickt, eine Nachricht auf dem Anrufbeantworter hinterlassen oder ein Video von sich selbst auf YouTube gepostet haben, könnte jeder diese Informationen nutzen, um Ihre Stimme zu klonen.
Da die generative KI immer besser wird, ist die beste Verteidigung, die wir haben, viel skeptischer zu werden und unseren Augen und Ohren nicht zu schnell zu vertrauen.
