Die Federal Communications Commission (FCC) hat bekannt gegeben, dass die Verwendung von KI-generierten Stimmen in Werbeanrufen an Verbraucher illegal ist.
Das Fehlen von Rechtsvorschriften zur Regelung der künstlichen Intelligenz bei Robocalls wurde letzten Monat deutlich, als ein Robocall mit einem Klon der Stimme von Präsident Biden die Menschen davon abgehalten, bei den Vorwahlen in New Hampshire zu wählen.
Gegen das Unternehmen, das hinter dem Anruf steht, läuft eine strafrechtliche Untersuchung. Die Verwendung einer KI-generierten Stimme war zum Zeitpunkt der Anrufe jedoch nicht illegal.
Mit der FCC-Entscheidung wird die Technologie des Stimmenklonens, die bei an Verbraucher gerichteten Robo-Calls eingesetzt wird, mit sofortiger Wirkung verboten.
"Böswillige Akteure verwenden KI-generierte Stimmen in unaufgeforderten Werbeanrufen, um gefährdete Familienmitglieder zu erpressen, Prominente zu imitieren und Wähler falsch zu informieren. Wir machen die Betrüger, die hinter diesen Anrufen stecken, darauf aufmerksam", sagte die FCC-Vorsitzende Jessica Rosenworcel.
Bisher konnten die Generalstaatsanwälte der einzelnen Bundesstaaten auf das Ergebnis eines Robocalls abzielen, z. B. auf den Betrug, den sie begehen wollten. Jetzt ist der Einsatz von KI zur Erzeugung der Stimme in einem Anruf illegal, unabhängig von der Absicht des Anrufs.
Im November 2023 begann die FCC zu untersuchen, wie KI zur Bekämpfung illegaler RoboCalls eingesetzt werden könnte. Ziel ist es, mithilfe von KI illegale Robo-Anrufe zu erkennen, bevor sie die Verbraucher erreichen. Auch die Federal Trade Commission (FTC) hat eine $25.000 Belohnung für potenzielle KI-Lösungen zum Schutz der Verbraucher vor Werbeanrufen.
Die FCC-Entscheidung schränkt auch die Verwendung von KI-generierten Stimmen für die telefonische Interaktion mit Verbrauchern anstelle von menschlichen Agenten ein. Sie besagt, dass "Anrufer, die solche Technologien verwenden, die vorherige ausdrückliche Zustimmung der angerufenen Partei einholen müssen, um solche Anrufe zu tätigen, es sei denn, es handelt sich um einen Notfall oder eine Ausnahme".
Die Ausnahmeregelungen der FCC geben den öffentlichen Diensten und Politikern mehr Spielraum für die Verwendung von Robocalls zu nichtkommerziellen Zwecken.
Bürgermeister Eric Adams im vergangenen Jahr einen KI-Klon seiner Stimme verwendet, um sich in mehreren Sprachen, die er nicht spricht, an die Einwohner von New York City zu wenden. Die FCC-Entscheidung schließt die Verwendung von KI-generierten Stimmen in diesen Fällen nicht aus, was immer noch ethische, wenn auch nicht rechtliche Fragen aufwirft.
